特許 7448629 画像生成装置、画像生成方法、画像生成プログラム及び記録媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-03-04

(45)【発行日】2024-03-12

(54)【発明の名称】画像生成装置、画像生成方法、画像生成プログラム及び記録媒体

(51)【国際特許分類】

   H04N 5/91 20060101AFI20240305BHJP

   H04N 5/92 20060101ALI20240305BHJP

   H04N 23/60 20230101ALI20240305BHJP

   H04N 23/695 20230101ALI20240305BHJP

   H04N 23/698 20230101ALI20240305BHJP

【ＦＩ】

H04N5/91

H04N5/92 010

H04N23/60 300

H04N23/698

【請求項の数】 10

(21)【出願番号】P 2022500272

(86)(22)【出願日】2021-01-13

(86)【国際出願番号】 JP2021000914

(87)【国際公開番号】W WO2021161709

(87)【国際公開日】2021-08-19

【審査請求日】2022-08-12

(31)【優先権主張番号】P 2020021779

(32)【優先日】2020-02-12

(33)【優先権主張国・地域又は機関】JP

(73)【特許権者】

【識別番号】000005016

【氏名又は名称】パイオニア株式会社

(74)【代理人】

【識別番号】110001025

【氏名又は名称】弁理士法人レクスト国際特許事務所

(72)【発明者】

【氏名】黄 慶浩

(72)【発明者】

【氏名】中根 昌夫

【審査官】鈴木 順三

(56)【参考文献】

【文献】特開２０１３－０３０８７５（ＪＰ，Ａ）

【文献】特開２０１９－２１２９６７（ＪＰ，Ａ）

【文献】国際公開第２００８／０８７７２１（ＷＯ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ ５／７６ － ５／９５６

Ｈ０４Ｎ ２３／４０ － ２３／７６

(57)【特許請求の範囲】

【請求項1】

複数の元画像が合成された合成画像を生成する画像生成装置であって、
撮像装置が移動しながら連続して撮影した連続風景画像の少なくとも一部を、前記複数の元画像として取得する元画像取得部と、
前記複数の元画像の各々の重要度を示す重要度指標を取得する指標取得部と、
前記複数の元画像の各々を、前記撮像装置の移動方向に対応する第１方向の寸法が小さくなるように前記複数の元画像の各々に対応付けられた前記重要度指標に応じて縮小しつつ、撮影された順に並べて合成して１の前記合成画像を生成する合成画像生成部と、
を有することを特徴とする画像生成装置。

【請求項2】

前記合成画像生成部は、前記重要度指標が示す重要度が低いほど大きい縮小率で前記複数の元画像の各々を縮小して前記合成画像を生成することを特徴とする請求項１に記載の画像生成装置。

【請求項3】

前記指標取得部は、前記元画像取得部によって取得された前記複数の元画像の各々を画像解析することで判定した当該複数の元画像の各々が示す特性に基づいて、前記複数の元画像の各々の重要度を示す重要度指標を取得することを特徴とする請求項１又は２に記載の画像生成装置。

【請求項4】

前記指標取得部は、前記元画像取得部によって取得された前記複数の元画像の各々が撮影された位置と、地図上の位置に対応する風景の見ごたえに関する情報が予め記憶された地図データとに基づいて、前記複数の元画像の各々の重要度を示す重要度指標を取得することを特徴とする請求項１又は２に記載の画像生成装置。

【請求項5】

前記指標取得部は、前記元画像取得部によって取得された前記複数の元画像の各々の、前記複数の元画像が撮影された順において隣接する元画像からの画像の変化の度合いを示す変化度指標を前記重要度指標として取得することを特徴とする請求項１又は２に記載の画像生成装置。

【請求項6】

前記連続風景画像の撮影が開始された時点から前記連続風景画像を構成するフレーム画像の各々が撮影された時点までの前記撮像装置の累積移動距離を取得する移動距離取得部と、
前記フレーム画像の各々に撮影時点での前記累積移動距離が対応付けられた前記連続風景画像である情報保有動画を生成する情報保有動画生成部と、を有し、
前記元画像取得部は、前記情報保有動画の前記フレーム画像から、前記連続風景画像が撮影された際の前記撮像装置の前記累積移動距離における所定距離間隔毎に前記複数の元画像を取得し、
前記所定距離間隔は、前記複数の元画像を撮影された順に並べた際に前記複数の元画像の各々と隣の元画像との間に撮影範囲の重複部分を生じさせる距離間隔であることを特徴とする請求項１乃至５のいずれか１つに記載の画像生成装置。

【請求項7】

前記連続風景画像を再生した映像を出力する再生制御部と、
前記合成画像中の前記第１方向における１の位置を選択する選択操作を受け付ける操作受付部と、を有し、
前記再生制御部は、前記操作受付部を介して選択された前記位置に対応する元画像から頭出しをして前記連続風景画像を再生した映像を出力することを特徴とする請求項１乃至６のいずれか１つに記載の画像生成装置。

【請求項8】

画像生成装置が複数の元画像が合成された合成画像を生成する画像生成方法であって、
撮像装置が移動しながら連続して撮影した連続風景画像の少なくとも一部を、前記複数の元画像として取得する元画像取得ステップと、
前記複数の元画像の各々の重要度を示す重要度指標を取得する指標取得ステップと、
前記複数の元画像の各々を、前記撮像装置の移動方向に対応する第１方向の寸法が小さくなるように前記複数の元画像の各々に対応付けられた前記重要度指標に応じて縮小しつつ、撮影された順に並べて合成して１の前記合成画像を生成する合成画像生成ステップと、を含むことを特徴とする画像生成方法。

【請求項9】

コンピュータを備える画像生成装置に、複数の元画像が合成された合成画像を生成させる画像生成プログラムであって、前記コンピュータに、
撮像装置が移動しながら連続して撮影した連続風景画像の少なくとも一部を、前記複数の元画像として取得する元画像取得ステップと、
前記複数の元画像の各々の重要度を示す重要度指標を取得する指標取得ステップと、
前記複数の元画像の各々を、前記撮像装置の移動方向に対応する第１方向の寸法が小さくなるように前記複数の元画像の各々に対応付けられた前記重要度指標に応じて縮小しつつ、撮影された順に並べて合成して１の前記合成画像を生成する合成画像生成ステップと、を実行させることを特徴とする画像生成プログラム。

【請求項10】

請求項９に記載の画像生成プログラムを格納したことを特徴とするコンピュータが読取可能な記録媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、複数の画像を基に１の画像を生成する画像生成装置、画像生成方法、画像生成プログラム及び記録媒体に関する。

【背景技術】

【0002】

動画像の再生を開始したい箇所をユーザに指定させるために手掛かりとなる画像を提示する技術が知られている。

【0003】

例えば、特許文献１には、動画像コンテンツの時間方向の検索を行う時間方向検索手段を備え、タイムコード列を用いて動画像コンテンツからサムネイルを抽出し、検索結果の表示を行う動画像検索装置が開示されている。

【0004】

また、撮影した画像を繋ぎ合わせて、当該撮影したカメラの視野角よりも広範囲の画像を合成する技術が知られている。

【0005】

例えば、特許文献２には、２つのラインカメラを移動体に搭載し、移動しながら各ラインカメラで撮影した映像を繋ぎ合わせることによって、当該２つのカメラの各々の視野角以上に広がるパノラマ映像を作成する方法が開示されている。

【先行技術文献】

【特許文献】

【0006】

【文献】特開２００２－２８１４３２号公報

【文献】特許第４５５１９９０号公報

【発明の概要】

【発明が解決しようとする課題】

【0007】

例えば、移動体に搭載されたカメラによって当該移動体からの風景が撮影された動画を再生する際に、ユーザの手掛かりとなる画像としてパノラマ画像を提示する場合、必要としない画像の部分が多く表示されて、所望の動画の箇所を見つけ難いことが課題の一つとして挙げられる。

【0008】

本発明は上記した点に鑑みてなされたものであり、ユーザが画像中から所望の箇所を検索する際に、効率の良い検索が可能な画像を生成する画像生成装置を提供することを目的の１つとしている。

【課題を解決するための手段】

【0009】

請求項１に記載の発明は、移動体からの風景が撮影された風景動画を取得する動画取得部と、前記風景動画から複数のフレーム画像を選択するフレーム選択部と、当該選択された前記複数のフレーム画像の各々の重要度を示す重要度指標を取得する指標取得部と、当該選択された前記複数のフレーム画像の各々を、前記移動体の移動方向に対応する第１方向の寸法が小さくなるように前記複数の画像の各々に対応付けられた前記重要度指標が示す重要度に応じて縮小し、撮影された順に合成して１の合成画像を生成する合成画像生成部と、を有することを特徴とする。

【0010】

請求項８に記載の発明は、画像生成装置が画像を生成する画像生成方法であって、動画取得部が、移動体からの風景が撮影された風景動画を取得する動画取得ステップと、フレーム選択部が、前記風景動画から複数のフレーム画像を選択するフレーム選択ステップと、指標取得部が、当該選択された前記複数のフレーム画像の各々の重要度を示す重要度指標を取得する指標取得ステップと、合成画像生成部が、前記フレーム選択ステップにおいて選択された前記複数のフレーム画像の各々を、前記移動体の移動方向に対応する第１方向の寸法が小さくなるように前記複数の画像の各々に対応付けられた前記重要度指標が示す重要度に応じて縮小し、撮影された順に合成して１の合成画像を生成する合成画像生成ステップと、を含むことを特徴とする。

【0011】

請求項９に記載の発明は、コンピュータを備える画像生成装置によって実行される画像生成プログラムであって、前記コンピュータに、動画取得部が、移動体からの風景が撮影された風景動画を取得する動画取得ステップと、フレーム選択部が、前記風景動画から複数のフレーム画像を選択するフレーム選択ステップと、指標取得部が、当該選択された前記複数のフレーム画像の各々の重要度を示す重要度指標を取得する指標取得ステップと、合成画像生成部が、前記フレーム選択ステップにおいて選択された前記複数のフレーム画像の各々を、前記移動体の移動方向に対応する第１方向の寸法が小さくなるように、前記複数の画像の各々に対応付けられた前記重要度指標が示す重要度に応じた縮小率で縮小した画像の各々を撮影された順に合成して１の合成画像を生成する合成画像生成ステップと、を実行させることを特徴とする。

【図面の簡単な説明】

【0012】

【図1】実施例に係る画像生成装置を搭載した自動車の斜視図である。

【図2】実施例に係る画像生成装置を搭載した自動車の内側から見た表示部を模式的に示す図である。

【図3】実施例に係る画像生成装置の機能ブロック図である。

【図4】実施例に係る画像生成装置において用いられるデータの一例を示す図である。

【図5】実施例に係る画像生成装置におけるフレーム画像の重要度に応じた縮小率の一例を示す図である。

【図6】実施例に係る画像生成装置において選択されたフレーム画像の一例を示す図である。

【図7】実施例に係る画像生成装置の操作画面の一例を示す図である。

【図8】実施例において実行されるルーチンの一例を示すフローチャートである。

【図9】実施例において実行されるルーチンの一例を示すフローチャートである。

【図10】変形例に係る変化度の一例を示す図である。

【図11】変形例において実行されるルーチンの一例を示すフローチャートである。

【発明を実施するための形態】

【0013】

以下に本発明の実施例について詳細に説明する。なお、以下の説明及び添付図面においては、実質的に同一又は等価な部分には同一の参照符号を付している。

【実施例】

【0014】

図１は、本発明の実施例に係る画像生成装置１０の構成を模式的に示す図である。画像生成装置１０は、移動可能な撮像装置によって撮影された動画を処理する装置である。画像生成装置１０は、例えば移動体に搭載されて、当該移動体に搭載されたカメラによって移動体が走行している間に撮影された風景動画を取り込み、当該風景動画を再生して映像出力可能に構成されている。また、画像生成装置１０は、当該風景動画を構成するフレーム画像から合成画像を生成可能に構成されている。

【0015】

例えば、画像生成装置１０は、当該移動体に搭載された表示装置に向けて合成画像を出力する。また、例えば画像生成装置１０は、当該移動体に搭載された表示装置に向けて風景動画を再生した映像を出力する。

【0016】

また、例えば画像生成装置１０は、表示装置に合成画像を表示して、当該合成画像中の水平方向における１の位置を選択する選択操作を受け付け、選択された位置に対応するフレーム画像から頭出しを行って風景動画を再生した映像を出力する。

【0017】

本実施例においては、画像生成装置１０が移動体としての自動車Ｍに搭載されている例について説明する。図１に示すように、画像生成装置１０は、例えば自動車Ｍのダッシュボード内に搭載されている。

【0018】

カメラ１３は、例えば、自動車Ｍのルーフ部分又はドアパネル部分等に、自動車Ｍの側方を撮影可能に取り付けられたビデオカメラである。カメラ１３は、画像生成装置１０と通信可能に接続されており、撮影した静止画又は動画を画像生成装置１０に送信可能に構成されている。

【0019】

カメラ１３が撮影した動画は、画像生成装置１０に取り込まれる。例えば、カメラ１３は、自動車Ｍがエンジンを始動させて走行を開始すると、撮影を開始するように設定されている。なお、自動車Ｍには、例えば、自動車Ｍの前方及び後方を撮影可能なビデオカメラがさらに取り付けられていても良い。

【0020】

第１ディスプレイ１５は、自動車Ｍの窓部分に備えられた表示装置である。本実施例において、第１ディスプレイ１５は、自動車Ｍの窓ガラスに取り付けられた透明のディスプレイである場合について説明する。

【0021】

例えば、第１ディスプレイ１５は、リアドアＤＲに取り付けられている。なお、第１ディスプレイ１５は、自動車Ｍの窓ガラスの代わりに取り付けられていてもよいし、自動車Ｍの窓ガラスの内側に貼り付けられていてもよい。また、第１ディスプレイ１５は、例えば、フロントドアＤＦに取り付けられていてもよく、例えば、フロントガラスの内側に貼り付けられていてもよい。

【0022】

第１ディスプレイ１５は、例えば、透明な液晶、有機ＥＬ又は無機ＥＬで構成されたディスプレイである。例えば、第１ディスプレイ１５は、少なくとも動画を表示していない場合には可視光の透過率が所定以上であり、肉眼で外部の風景が見えるように構成されている。

【0023】

第１ディスプレイ１５は、画像生成装置１０に有線又は無線で接続されている。第１ディスプレイ１５は、自動車Ｍの室内（キャビン内）側に向いた表示面を有し、画像生成装置１０から出力された動画を自動車Ｍの客室側に向けて表示する。例えば、自動車Ｍの室内に居るユーザは、自動車Ｍからの風景が撮影された動画を、窓から外を見るような態様で見ることができる。

【0024】

図２は、自動車Ｍの室内側から見た第１ディスプレイ１５（すなわち自動車Ｍの窓）及びリアドアＤＲの一部を模式的に示す図である。図２は、リアドアＤＲを後部座席から見た状態を示している。

【0025】

第１ディスプレイ１５は、自動車Ｍの内側に面した動画表示面１５Ａを有している。図２において、動画表示面１５Ａには、過去に自動車Ｍから撮影された動画が、画像生成装置１０によって再生されて表示されている。

【0026】

タッチパネル１７は、リアドアＤＲのドアパネルの内側に取り付けられているタッチパネルディスプレイである。例えば、タッチパネル１７は、図２に示すように、リアドアＤＲの内側パネルＩＰの表面に、内側パネルＩＰの上端部に沿って伸張している。タッチパネル１７は、内側パネルの上端部に沿った方向を長手方向とする矩形の形状を有している。

【0027】

タッチパネル１７は、第２ディスプレイ１７Ａ及びタッチパッド１７Ｂから構成されたタッチパネルである。第２ディスプレイ１７Ａは、例えば液晶表示装置又は有機ＥＬ表示装置等の表示装置である。タッチパッド１７Ｂは、例えば、第２ディスプレイ１７Ａの表示面に貼り付けられた人の指等での操作を受け付ける感圧式または静電式の透明タッチパッドである。

【0028】

タッチパネル１７は、画像生成装置１０に通信可能に接続されており、画像生成装置１０から出力された画像を表示することが可能である。また、タッチパネル１７は、第１ディスプレイ１５に表示される動画の再生、早送り又は早戻しの操作を受け付けて、当該操作の受付に基づく指示を画像生成装置１０に送信することが可能である。

【0029】

図３は、画像生成装置１０の機能ブロック図である。画像生成装置１０は、例えば、システムバス１８を介して各部が協働する装置である。

【0030】

入力部１９は、画像生成装置１０の外部の機器からデータを取得するインターフェースである。入力部１９は、自動車Ｍに備えられている機器であるカメラ１３に接続されている。例えば、画像生成装置１０は、入力部１９を介してカメラ１３から風景動画を取り込むことが可能である。

【0031】

また、入力部１９は、自動車Ｍの速度を取得可能な速度センサ２１及び自動車Ｍの位置情報を取得する全地球航法衛星システム（ＧＮＳＳ：Global Navigation Satellite System）の１つである全地球測位システム（ＧＰＳ：Global Positioning System）の情報を受信可能なＧＰＳ受信機２２に接続されている。すなわち、画像生成装置１０は、速度センサ２１から自動車Ｍの速度を取得可能であり、かつＧＰＳ受信機２２からＧＰＳ情報を取得可能に構成されている。

【0032】

出力部２３は、画像生成装置１０の外部の機器にデータを出力するインターフェースである。出力部２３は、第１ディスプレイ１５及びタッチパネル１７の第２ディスプレイ１７Ａに接続されている。

【0033】

例えば、出力部２３は、画像生成装置１０によって一連の動画が再生された映像を第１ディスプレイ１５に出力する。例えば、出力部２３は、再生操作のための操作画像を第２ディスプレイ１７Ａに出力する。また、例えば、出力部２３は、画像生成装置１０において生成された合成画像を第２ディスプレイ１７Ａに出力する。

【0034】

操作入力部２５は、タッチパネル１７のタッチパッド１７Ｂを介した操作入力の信号を取得するインターフェースである。操作入力部２５は、タッチパッド１７Ｂに接続されており、第２ディスプレイ１７Ａに表示された操作用の画像に対する操作入力の信号を取得する。

【0035】

記憶部２７は、例えば、ハードディスク装置、ＳＳＤ（solid state drive）、フラッシュメモリ等により構成されており、画像生成装置１０における画像処理や動画の再生等に関する各種プログラムを記憶する。また、記憶部２７は、地図情報が格納された地図データベースを記憶する。

【0036】

なお、各種プログラム又は地図情報は、例えば、他のサーバ装置等からネットワーク（図示せず）を介して取得されるようにしてもよいし、記録媒体に記録されて各種ドライブ装置を介して読み込まれるようにしてもよい。

【0037】

記憶部２７に記憶される各種プログラムは、ネットワークを介して伝送可能であり、また、コンピュータ読み取り可能な記録媒体に記録して譲渡することが可能である。

【0038】

制御部２９は、ＣＰＵ（Central Processing Unit）２９Ａ、ＲＯＭ（Read Only Memory）２９Ｂ、ＲＡＭ（Random Access Memory）２９Ｃ等により構成され、コンピュータとして機能する。そして、ＣＰＵ２９Ａが、ＲＯＭ２９Ｂや記憶部２７に記憶された各種プログラムを読み出し実行することにより各種機能を実現する。

【0039】

例えば、制御部２９は、入力部１９を介してカメラ１３が撮影した動画を取得し、動画取得部として機能する。

【0040】

例えば、制御部２９は、入力部１９を介して自動車Ｍの速度を取得し、当該速度と走行時間から累積走行距離を取得する。

【0041】

例えば、制御部２９は、入力部１９を介してＧＰＳ受信機２２のデータから自動車Ｍの現在位置情報を取得し、自動車Ｍの位置と時刻から自動車Ｍの累積走行距離を算出する。

【0042】

制御部２９は、入力部１９を介して速度センサ２１又はＧＰＳ受信機２２から取得した情報に基づいて自動車Ｍが走行を開始してから現在までの累積走行距離（すなわち積算走行距離）を取得する際に、移動距離取得部として機能する。

【0043】

例えば、制御部２９は、入力部１９を介してカメラ１３から取得した一連の動画を構成するフレーム画像の各々に、当該フレーム画像の各々が撮影された時点における自動車Ｍの累積走行距離を対応付けて情報保有動画を生成する情報保有動画生成部として機能する。また、制御部２９は、当該生成した情報保有動画を記憶部２７に記憶する録画制御部として機能する。

【0044】

例えば、制御部２９は、情報保有動画を構成する全てのフレーム画像から複数のフレーム画像を選択するフレーム選択部として機能する。

【0045】

例えば、制御部２９は、情報保有動画から複数のフレーム画像（以下、選択フレーム画像とも称する）を選択する際に、各々のフレーム画像の撮像位置における累積走行距離に応じて抽出する。

【0046】

例えば、制御部２９は、情報保有動画から複数のフレーム画像を選択する際に、各々のフレーム画像の撮像位置における累積移動距離が等間隔となるように複数のフレーム画像を抽出する。言い換えれば、制御部２９は、フレーム画像の各々が撮像された地点が等距離間隔となるように複数のフレーム画像を選択する。

【0047】

例えば、制御部２９は、等距離間隔で複数のフレーム画像を選択する際に、複数のフレーム画像の各々が撮像された地点の距離間隔を常に一定の距離間隔とする。

【0048】

また、例えば、制御部２９は、等距離間隔で複数のフレーム画像を選択する際に、複数のフレーム画像の各々が撮像された地点の距離間隔を、当該複数のフレーム画像を撮影された順に並べた際に隣のフレーム画像との間に撮影範囲（撮影領域）の重複部分を生じさせる距離間隔で選択する。

【0049】

例えば、制御部２９は、選択された前記複数のフレーム画像の各々の重要度を示す重要度指標を取得する指標取得部として機能する。

【0050】

例えば、重要度は、地図上の位置毎の風景の見ごたえの程度に基づいて判定される。例えば、見ごたえの程度は、地図上の位置又は領域毎に、建造物や商業施設の多さ、観光名所の有無等の判断材料に基づいて、地図データベースの地図情報に予め対応付けられる。例えば見ごたえの程度は、予め定められた数値で、例えば「見どころランク」として、地図データベースの地図上の位置に対応付けられている。

【0051】

例えば、自動車Ｍが地図データベース上で見ごたえ（例えば、見どころランク）の高い位置にある場合に撮影されたフレーム画像は重要度が高いと判定される。反対に、自動車Ｍが地図データベース上で見どころランクの低い位置にある場合に撮影されたフレーム画像は、重要度が低いと判定される。

【0052】

換言すれば、指標取得部としての制御部２９は、風景動画を構成するフレーム画像の各々又は選択フレーム画像の各々が撮影された時点の自動車Ｍの位置と、地図上の位置毎の風景の見ごたえに関する情報が予め記憶された地図データとに基づいて、フレーム画像の各々の重要度を示す重要度指標を特定する。例えば、制御部２９は、ＧＰＳによる自動車Ｍの位置情報と予め記憶部２７に記録された地図データベースとを参照して重要度を取得する。

【0053】

また、重要度は、風景動画を構成する複数のフレーム画像の各々又は選択フレーム画像の各々を比較して、変化の度合いの大小によって判定されてもよい。例えば、指標取得部としての制御部２９は、撮影された順において隣接するフレーム画像と比較して画像の変化の大きいフレーム画像を変化度が高いと判定し、重要度が高いと判定してもよい。

【0054】

また、重要度は、風景動画を構成する複数のフレーム画像の各々又は選択フレーム画像の各々についての画像の複雑度によって判定されてもよい。例えば、指標取得部としての制御部２９は、複数のフレーム画像又は選択フレーム画像の各々を解析して各画像の複雑度を算出し、当該複雑度が大きいフレーム画像ほど、重要度が高いと判定してもよい。

【0055】

また、例えば、標高の高い山間部においては、景色等の見ごたえが高い場合がある。従って、指標取得部としての制御部２９は、ＧＰＳ等の測位情報から所定の位置の範囲の測位を検出した時点で重要度を高いと判定してもよい。

【0056】

また、例えば、ＧＰＳ受信機２２がＧＰＳ情報を所定時間以上に亘って取得できない場合は、自動車Ｍが例えばトンネル等の構造物の中を走行している可能性が高く、このような場合、風景動画は単調な内容が継続することになる。従って、指標取得部としての制御部２９は、ＧＰＳ情報が所定時間以上に亘って取得できない状況において撮影された風景動画の重要度を低いと判定してもよい。

【0057】

また、自動車Ｍが走行中の風景動画においては、自動車Ｍの進行方向の前方又は後方を撮影した風景動画に対して進行方向の側方の風景動画は短時間で大きく変化する。従って、指標取得部としての制御部２９は、進行方向の前方又は後方の風景動画に対して進行方向の側方の風景動画の重要度を高いと判定してもよい。すなわち、重要度は、例えば、自動車Ｍの走行方向を基準としたカメラ１３が撮影する撮影方向に基づいて判定されてもよい。

【0058】

上記の重要度の判定条件は、任意に設定可能である。また、重要度の判定条件は、自動車Ｍの撮影位置、撮影位置に対応する地図情報上の位置に関連付けられた風景の見ごたえ度、隣接するフレーム画像間の画像の変化の度合い、フレーム画像の複雑度、衛星システムからの測位情報の取得状況、又は自動車Ｍの走行方向に対する撮影部の撮影方向のいずれか１つに限らず、複数の判定条件による重要度判定がなされてもよい。

【0059】

換言すれば、指標取得部は、重要度を自動車Ｍの撮影位置、撮影位置に対応する地図情報上の位置に関連付けられた風景の見ごたえ度、隣接するフレーム画像間の画像の変化の度合い、フレーム画像の複雑度、衛星システムからの測位情報の取得状況、及び自動車Ｍの走行方向に対する撮影部の撮影方向のうちの少なくとも１つに基づいて重要度指標を取得する。

【0060】

なお、重要度は、風景動画を構成するフレーム画像の各々に対応付けられて、情報保有動画が生成されてもよい。換言すれば、情報保有動画を構成するフレーム画像の各々には、累積走行距離及び重要度のうち少なくとも一方が対応付けられていればよい。

【0061】

また、例えば、制御部２９は、情報保有動画から合成画像を生成する合成画像生成部として機能する。合成画像生成部としての制御部２９は、フレーム選択部によって選択された複数のフレーム画像（選択フレーム画像）の各々を撮影された順、すなわち自動車Ｍの移動方向に対応する順に繋ぎ合わせて合成し、合成画像を生成する。例えば、合成画像は、複数の選択フレーム画像中の風景が途切れないようにつなぎ合わされて生成され、パノラマ画像となる。

【0062】

例えば、合成画像の生成の際に、選択フレーム画像の各々は、重要度指標が示す重要度に応じて自動車Ｍの移動方向に対応する方向（第１方向）の寸法が小さくなるように縮小される。例えば、選択フレーム画像の各々は、重要度が低いほど大きい縮小率で縮小される。

【0063】

例えば、制御部２９は、生成された合成画像を第２ディスプレイ１７Ａに表示させる制御を行う表示制御部として機能する。

【0064】

表示制御部としての制御部２９は、例えば、合成画像の全体を表示する制御を行ってもよく、合成画像の一部を表示する制御を行ってもよい。例えば、合成画像の一部を表示する場合、合成画像の一部がスクロール表示されるように制御してもよい。

【0065】

また、制御部２９は、操作入力部２５を介して、風景動画の再生に関する指示操作を受け付ける操作受付部として機能する。例えば、操作受付部としての制御部２９は、再生操作用の画像を用いたタッチパッド１７Ｂへの入力操作を介して、再生制御部に対して再生、早送り又は早戻しを指示する指示操作を受け付ける。

【0066】

制御部２９は、当該指示操作に応じて、出力部２３を介して第１ディスプレイ１５に表示させるための動画の再生に関する制御を行う。例えば、制御部２９は、風景動画を再生するか、早送り又は早戻しをする制御を行う再生制御部として機能する。

【0067】

例えば、制御部２９は、合成画像中の自動車Ｍの移動方向に対応する方向（水平方向）における１の位置を選択する選択操作が受け付けられると、当該選択操作によって選択された位置に対応するフレーム画像から頭出しを行って、風景動画又は情報保有動画を再生した映像を、出力部２３を介して第１ディスプレイ１５に供給する。

【0068】

尚、本実施例においては、再生とは、撮影された風景動画を、動画に付されたタイムコードに基づいて決まる基本速度で順方向に再生することを指す。また、早送りとは、撮影された風景動画を、上記基本速度よりも速い速度で順方向に再生することを指す。また、早戻しとは、撮影された風景動画を、基本速度よりも早い速度で逆方向に再生することを指す。

【0069】

図４は、情報保有動画が生成される際に、風景動画を構成するフレーム画像の各々に、当該フレーム画像の各々が撮影された時点における自動車Ｍの走行距離及び当該撮影された地点の重要度指標が対応付けられたデータの一例であるテーブルＴＢ１を示す図である。

【0070】

図４に示すように、テーブルＴＢ１において、風景動画を構成するフレーム画像の各々に付された番号であるフレーム番号と、各々のフレーム画像が撮影された時点における撮影開始からの経過時間と、当該時点における撮影開始時点からの累積走行距離と、が対応付けられている。テーブルＴＢ１において、カメラ１３によって撮影フレームレートを３０ｆｐｓとして風景動画が撮影された場合について例示している。

【0071】

例えば、テーブルＴＢ１において、撮影開始時に撮影されたフレーム番号０のフレーム画像には、撮影開始からの走行距離０（ｍ）が対応付けられている。すなわち、撮影開始の時点と、走行距離の積算の開始時点が一致している。なお、経過時間の代わりに時刻が対応付けられていてもよい。

【0072】

また、図４に示すように、テーブルＴＢ１において、フレーム番号の各々に、対応するフレーム画像が撮影された地点における当該フレーム画像の重要度を示す重要度指標が対応付けられている。

【0073】

例えば、重要度指標は、上述したように、地図データベースの地図情報に予め対応付けられた見どころランクである。例えば、見どころランクは、ＧＰＳによる自動車Ｍの位置情報と当該地図情報とを照らし合わせることによって特定される。

【0074】

図４に示す例においては、見どころランクを０、１、２、３の４段階で表した重要度指標が付与されている場合について示している。

【0075】

本実施例において、合成画像が生成される際に、図４においてフレーム番号によって示されるフレーム画像の中から、所定の間隔でフレーム画像が選択される。当該所定の間隔は、例えば、自動車Ｍの累積走行距離に基づく間隔であってもよい。例えば、対応するフレーム画像が撮影された地点が等間隔となるように、等距離間隔でフレーム画像が選択されてもよい。

【0076】

例えば、当該所定距離間隔は、選択されたフレーム画像を撮影された順に並べた際に、隣り合うフレーム画像との間で、撮影範囲又は撮影領域に重複部分が生じる距離間隔である。

【0077】

なお、例えば、フレーム画像が選択される際の所定の間隔は、時間を基準とした間隔であってもよい。例えば、等時間間隔でフレーム画像が選択されてもよい。その場合、自動車Ｍの速度に応じて、フレーム画像が選択される時間間隔が調整されてもよい。

【0078】

例えば、自動車Ｍが高速で走行していた時間帯に撮影されたフレーム画像は、低速で走行していた時間帯よりも短い時間間隔で選択されてもよい。例えば、所望の撮影範囲が撮影されたフレーム画像が選択されるように、時間間隔が調整されてもよい。

【0079】

図５は、合成画像が生成される際に、フレーム画像の各々に対応付けられた重要度及び重要度に応じた縮小率が記載されたデータの一例であるテーブルＴＢ２を示す図である。合成画像が生成される際に、選択されたフレーム画像の各々は、重要度に応じて、自動車Ｍの移動方向に対応する方向（第１方向）の寸法が小さくなるように縮小される。

【0080】

図５に示すように、テーブルＴＢ２には、０、１、２、３の４段階の重要度が記載されている。テーブルＴＢ２は、重要度が低いフレーム画像ほど高い縮小率で縮小されることを示している。また、テーブルＴＢ２は、重要度が最も高い「３」が対応付けられているフレーム画像については縮小しないことを示している。

【0081】

図６は、情報保有動画を構成するフレーム画像の中から選択された複数のフレーム画像である選択フレーム画像が繋ぎ合わされたパノラマ画像ＦＭ及び当該パノラマ画像ＦＭから生成された合成画像ＳＹを示す図である。図６中、上方にパノラマ画像ＦＭが示されている。パノラマ画像ＦＭは、選択フレーム画像Ｆ１～Ｆ８が自動車Ｍの移動方向に対応する方向（図中、Ｘ方向）に並べられて繋ぎ合わされたものである。

【0082】

図６において、選択フレーム画像Ｆ１～Ｆ８の各々に付されている重要度指標を括弧内に示している。例えば、「Ｆ１（３）」は、選択フレーム画像Ｆ１に付されている重要度が「３」であることを示す。

【0083】

図６は、例えば建造物等が多く映っている選択フレーム画像ほど高い重要度指標が付されている様子を模式的に示している。なお、選択フレーム画像Ｆ６及び選択フレーム画像Ｆ７では、自動車Ｍがトンネル内を走行していたため、画像中にトンネルの壁が現れている。

【0084】

選択フレーム画像Ｆ１～Ｆ８は、例えば、等距離間隔で選択されており、撮影された順において隣のフレーム画像との間に、撮影範囲が重複する部分を有している。図６中、当該重複する部分である重複部分ＯＬにハッチングを施している。

【0085】

例えば、図６中、選択フレーム画像Ｆ１は、隣接する選択フレーム画像Ｆ２との間に重複部分ＯＬを有している。同様に、選択フレーム画像Ｆ２からＦ７についても、隣接する選択フレーム画像との間に重複部分ＯＬを有している。

【0086】

例えば、重複部分を有する２つのフレーム画像について、一方の画像の当該重複部分を削除し、当該２つのフレーム画像を繋ぎ合わせることで、連続した風景の画像を生成することができる。例えば、当該重複部分を削除する場合に、重要度指標の小さいフレーム画像について削除し、重要度指標の大きいフレーム画像の当該重複部分を残すこととして説明する。

【0087】

図６中、パノラマ画像ＦＭから重複部分ＯＬを削除後、選択フレーム画像Ｆ１～Ｆ８に由来する部分を破線で囲まれた部分ＦＡ１～ＦＡ８として示している。例えば、選択フレーム画像Ｆ１は、選択フレーム画像Ｆ２よりも重要度指標が大きいので、選択フレーム画像Ｆ２から重複部分ＯＬが削除され、残った部分が部分ＦＡ２である。

【0088】

部分ＦＡ１～ＦＡ８は、合成画像が生成される際に、例えば、重要度に応じた縮小率で自動車Ｍの移動方向に対応する方向（Ｘ方向）に縮小される。例えば、画像の部分ＦＡ１～ＦＡ８のうち、重要度指標が示す重要度が低い部分ほどＸ方向において高い縮小率で縮小される。

【0089】

図６中の下方には、合成画像ＳＹが示されている。合成画像ＳＹは、パノラマ画像ＦＭから重複部分ＯＬが削除された画像の部分ＦＡ１～ＦＡ８が重要度指標の大小に応じて縮小されて繋ぎ合わされた画像である。図６において、当該縮小された画像の部分をＦＢ１～ＦＢ８として示している。例えば、合成画像ＳＹ中の画像ＦＢ２は、削除処理後の画像の部分ＦＡ２が縮小された画像の部分である。

【0090】

例えば、図６に示す例においては、重要度指標「２」が付されている部分ＦＡ４は、Ｘ方向の寸法が２分の１に縮小され、重要度指標「１」が付されている部分ＦＡ２は、部分ＦＡ４より大きい縮小率で、Ｘ方向の寸法が３分の１に縮小されている。

【0091】

また、最も低い重要度指標「０」が付されているＦＡ３、ＦＡ６及びＦＡ７は５分の１に縮小されている。最も高い重要度指標「３」が付されているＦＡ１、ＦＡ５、及びＦＡ８は縮小されず、縮小率は０％である。

【0092】

このように、画像の部分ＦＡ１～ＦＡ８が重要度の低い部分ほどＸ方向において高い縮小率で縮小されたことで、合成画像ＳＹにおいては、建造物等が多く映っている画像の部分が大部分を占めており、建造物等があまり映っていない部分が占める割合は小さくなっている。従って、合成画像ＳＹを手掛かりとして、所望の動画の箇所を検索する際に、ユーザが必要としない部分が占める割合が小さいので、所望の動画の箇所を見つけ易くなっている。

【0093】

図７は、タッチパネル１７に表示される、動画を再生するための操作用の画像である再生操作画像ＰＣの一例を示す図である。図７において、再生操作画像ＰＣとともに再生操作画像ＰＣを用いて操作を行っているユーザの指ＦＮを示している。

【0094】

図７に示すように、再生操作画像ＰＣは、操作用のボタンが表示されている領域であるボタン領域ＡＲ１及び動画の部分を検索するための画像が表示されている領域である検索領域ＡＲ２を含む。

【0095】

ボタン領域ＡＲ１には、再生ボタンＰＬ、停止ボタンＳＴ、早送りボタンＦＦ及び早戻しボタンＲＷが表示されている。例えば、ユーザは、これらのボタンが表示されている領域に指ＦＮを接触させることで、動画の再生、停止、早送り又は早戻しの操作入力を行うことができる。例えば、ユーザは、再生ボタンＰＬが表示されている領域に指ＦＮを接触させることで、画像生成装置１０に風景動画を再生させて第１ディスプレイ１５の動画表示面１５Ａ（図２参照）に表示させることができる。

【0096】

検索領域ＡＲ２には、パノラマ画像としての合成画像ＳＹが表示されている。合成画像ＳＹは、再生操作画像ＰＣの長辺に平行な方向に沿って伸長している。また、検索領域ＡＲ２には、画像生成装置１０によって再生され、第１ディスプレイ１５に現在表示されている映像が動画のどの部分であるかを示すマーカＭＫが、合成画像ＳＹにおいて対応する部分を指示するように表示されている。

【0097】

例えば、マーカＭＫによって示される動画の部分が撮影された地点に対応する自動車Ｍの走行距離が表示されていてもよい。この場合、第１ディスプレイ１５（図２）に表示されている映像は、風景動画から生成された情報保有動画のうち、自動車Ｍの累積走行距離がマーカＭＫによって示される走行距離であった時点に、自動車Ｍが走行していた地点で撮影された映像となる。なお、検索領域ＡＲ２には、マーカＭＫによって示される動画の部分が撮影された時点における時刻又は撮影開始からの経過時間が表示されてもよい。

【0098】

例えば、合成画像ＳＹは、スクロール表示される。例えば、ユーザは、指ＦＮを合成画像ＳＹの長辺に沿った方向、すなわち図７中の矢印の方向に動かしてドラッグ等の操作を行うことで、合成画像ＳＹをスクロールすることができる。従って、合成画像ＳＹは、ユーザが風景動画をどの部分から再生するかを検索したり、頭出しを行ったりする手がかりとなる。

【0099】

例えば、指ＦＮが合成画像ＳＹ上のＸ方向における１の位置を選択すると、当該１の位置に対応するフレーム画像から頭出しをされた動画の部分が第１ディスプレイ１５に表示される。

【0100】

例えば、当該１の位置を選択するための入力操作は、タッチパネル１７の第２ディスプレイ１７Ａの合成画像ＳＹが表示されている領域に指ＦＮが接触することで、タッチパッド１７Ｂを介して受け付けられる。なお、選択操作は、再生したい画像をマーカＭＫの位置に合わせることにより行われてもよい。

【0101】

図８は、制御部２９によって実行されるルーチンの一例である情報保有動画生成ルーチンＲＴ１を示すフローチャートである。制御部２９は、例えば自動車ＭのエンジンがＯＮになると、情報保有動画生成ルーチンＲＴ１を開始する。

【0102】

制御部２９は、情報保有動画生成ルーチンＲＴ１を開始すると、風景動画が記憶部２７に記憶されているか否かを判定する（ステップＳ１１）。制御部２９は、風景動画か記憶されていないと判定する（ステップＳ１１：ＮＯ）と、ステップＳ１１を繰り返し、風景動画が記憶されているか否かを再び判定する。

【0103】

制御部２９は、ステップＳ１１において、風景動画が記憶されていると判定する（ステップＳ１１：ＹＥＳ）と、風景動画を読み出して、風景動画を構成するフレーム画像の各々に、各々の撮影時点における累積移動距離を付与する（ステップＳ１２）。

【0104】

例えば、制御部２９は、ステップＳ１２において、入力部１９を介して速度センサ２１又はＧＰＳ受信機２２から取得した情報に基づいて、風景動画の撮影が開始された時点から、フレーム画像の各々が撮影された時点までの累積走行距離を算出する。ステップＳ１２において、例えば、図４に示したテーブルＴＢ１のように、フレーム画像の各々のフレーム番号に、撮影開始からの経過時間及び自動車Ｍの累積走行距離が対応付けられる。

【0105】

制御部２９は、ステップＳ１２の実行後、風景動画を構成するフレーム画像の各々に、フレーム画像の各々の重要度を示す重要度指標を付与する（ステップＳ１３）。指標取得ステップとしてのステップＳ１３において、例えば、制御部２９は、地図データを参照し、フレーム画像の各々が撮影された地点における見どころランクから、重要度を特定して付与する。ステップＳ１３において、例えば、テーブルＴＢ１に示したように、フレーム番号の各々に、対応するフレーム画像の重要度が対応付けられる。ステップＳ１３において、制御部２９は、指標取得部として機能する。

【0106】

制御部２９は、ステップＳ１３の実行後、フレーム画像の各々に、累積走行距離及び重要度指標が対応付けられた情報保有動画を記憶部２７に記憶する（ステップＳ１４）。制御部２９は、情報保有動画生成ルーチンＲＴ１を終了して最初に戻り、情報保有動画生成ルーチンＲＴ１を繰り返し実行する。

【0107】

図９は、本実施例において、合成画像が生成される際に、制御部２９によって実行されるルーチンの一例である合成画像生成ルーチンＲＴ２を示すフローチャートである。例えば、制御部２９は、風景動画の再生を指示する操作が受け付けられると、合成画像生成ルーチンＲＴ２を開始する。

【0108】

制御部２９は、合成画像生成ルーチンＲＴ２を開始すると、風景動画から生成された情報保有動画を取得する（ステップＳ２１）。動画取得ステップとしてのステップＳ２１において、例えば、制御部２９は、風景動画を構成するフレーム画像の各々に、累積走行距離及び重要度指標が対応付けられて記憶部２７に記憶されている情報保有動画を読み出す。ステップＳ２１において、制御部２９は、動画取得部として機能する。

【0109】

制御部２９は、ステップＳ２１の実行後、情報保有動画を構成するフレーム画像の中から複数のフレーム画像を選択する（ステップＳ２２）。フレーム選択ステップとしてのステップＳ２２において、例えば、制御部２９は、所定の間隔で複数のフレーム画像を選択する。例えば、ステップＳ２２において、フレーム画像の各々が撮影された地点が等距離間隔となるように選択される。ステップＳ２２において、制御部２９は、フレーム選択部として機能する。

【0110】

例えば、ステップＳ２２において、制御部２９は、選択したフレーム画像の各々を撮影された順に繋ぎ合わせてパノラマ画像ＦＭ（図６参照）を生成してもよい。

【0111】

制御部２９は、ステップＳ２２の実行後、選択したフレーム画像の各々を、重要度指標に応じた縮小率で、自動車Ｍの移動方向に平行な方向に縮小する（ステップＳ２３）。ステップＳ２３において、制御部２９は、例えば図６に示したように、重要度指標が小さいほど大きい縮小率で、選択されたフレーム画像の各々を縮小する。

【0112】

例えば、ステップＳ２３において、制御部２９は、撮影された順に並んだフレーム画像間で撮影範囲が重複している部分を削除して残りの部分を縮小する（図６参照）。

【0113】

制御部２９は、ステップＳ２３の実行後、縮小後のフレーム画像の各々を繋ぎ合わせて合成画像を生成する（ステップＳ２４）。ステップＳ２４において、制御部２９は、選択されて重要度指標に応じて縮小されたフレーム画像の各々を、撮影された順に並べて繋ぎ合わせる。

【0114】

例えば図６に示したように、隣り合うフレーム画像の重複部分が削除されていることで、フレーム画像中の風景が途切れることなく連続的に繋ぎ合わされる。合成画像生成ステップとしてのステップＳ２３及びステップＳ２４において、制御部２９は、合成画像生成部として機能する。

【0115】

制御部２９は、ステップＳ２４の終了後、合成画像生成ルーチンＲＴ２を終了し、合成画像生成ルーチンＲＴ２を繰り返し実行する。

【0116】

尚、ユーザが撮影された風景動画から所望の場面を検索しようとする場合、例えば、ユーザが所望の場面が風景動画中のどのあたりに記録されているかの見当がついている場合と、見当がついていない場合とでは、再生操作画像ＰＣの検索領域ＡＲ２に表示する合成画像ＳＹの好適な距離的スケールが異なる。前者の場合は、既に見当がついている累積移動距離に対応する位置周辺の限られた範囲の合成画像ＳＹが有効となり、後者の場合は、まずは所望の場面がどのあたりに記録されているかの見当をつける必要があるため、比較的広い範囲の合成画像ＳＹの有効となる。これに対応するため、画像生成装置１０は、再生操作画像ＰＣの一部として合成画像ＳＹに表示する移動距離範囲を、ユーザにより変更可能に構成されていることが好ましい。

【0117】

具体的には、画像生成装置１０は、合成画像ＳＹの距離的スケールをユーザに指定されるための操作アイコンをタッチパネル１７の再生操作画像ＰＣに含めて表示させ、制御部２９は、上述した情報保有動画生成ルーチンＲＴ１のステップＳ２１において、ユーザの操作により指定された距離的スケールに対応する累積移動距離の範囲を情報保有動画から取得する。これにより、合成画像ＳＹの距離的スケールを任意に変更可能とすることで、限定的な距離範囲の中から所望の場面を探す場合、及び比較的長い距離範囲の中から所望の場面を探す場合において有効な合成画像ＳＹを生成することができる。

【0118】

以上、説明したように、本実施例によれば、移動体に搭載されたカメラによって当該移動体からの風景が撮影された動画を再生する際に、ユーザの手掛かりとなる画像として合成画像を提示することができる。合成画像は、風景動画を構成するフレーム画像の中から複数のフレーム画像が所定の間隔で選択され、各々に対応付けられた重要度に応じて横方向に縮小されて繋ぎ合わされて生成された画像である。従って、重要度が低く、移動体の移動方向に対応する方向（ユーザから見て横方向）において、必要とされない画像が占める範囲が小さくなっており、所望の画像を見つけ易くなっている。従って、ユーザが画像中から所望の箇所を検索する際に、効率の良い検索を可能とし、当該所望の箇所を容易に見つけることを可能にする画像を生成する画像生成装置を提供することができる。

【0119】

［変形例１］
図１０および図１１を参照しつつ、本実施例の変形例１に係る画像生成装置１０について説明する。本変形例１の画像生成装置１０は、上記の実施例における画像生成装置１０と同様に構成されている。

【0120】

本変形例１において、風景動画を構成するフレーム画像から選択された複数のフレーム画像に、重要度指標として、撮影された順において隣接するフレーム画像からの画像の変化の度合いを示す変化度指標が付与される。具体的には、選択された複数のフレーム画像の中で、１のフレーム画像と撮影された順において隣接する他のフレーム画像の間で画像の変化が大きい場合、すなわち風景の変化が大きい場合は、風景の切り替わりに伴い見ごたえの程度が高いことから、このようなフレーム画像については重要度が高いことを示す重要度指標が付与される。また、選択された複数のフレーム画像の中で、１のフレーム画像と撮影された順において隣接する他のフレーム画像の間で画像の変化が小さい場合、すなわち風景の変化が小さい場合は、同じような風景が継続しているため見ごたえの程度が低いことから、このようなフレーム画像については重要度が低いことを示す重要度指標が付与される。そして、本変形例１において、合成画像が生成される際に、重要度指標に応じた縮小率で選択フレーム画像の各々が縮小される。

【0121】

例えば、変化の度合いは、選択されたフレーム画像の各々に記録された風景を予め定められた項目に分類し、隣接する選択フレーム画像との間で風景の分類結果の比較をすることで特定される。例えば、選択フレーム画像の各々に記録された風景を、各々の画像の特徴から「森林」「街並み」「開けた道」「その他」の４つの分類項目のいずれかに分類してもよい。

【0122】

図１０は、本変形例１における変化度指標の一例が記載されているテーブルＴＢ３を示す図である。図１０において、変化度の指標を「０」、「１」の２段階で判断する例について示している。例えば、図１０に示すように、変化度指標は、フレーム画像に記録された風景の分類項目が変化したか否かに基づいて特定されてもよい。

【0123】

図１０に示す例においては、選択フレーム画像撮影された順に並べた場合に、１のフレーム画像と次のフレーム画像との分類が同じ項目であった場合には、当該次のフレーム画像について、変化度「０」と判定される。例えば、「森林」に分類されたフレーム画像の次のフレーム画像も「森林」に分類される場合、変化度「０」と判定される。

【0124】

また、１のフレーム画像と次のフレーム画像との分類が異なる項目であった場合には、当該次のフレーム画像について変化度「１」と判定される。例えば、「森林」に分類されたフレーム画像の次のフレーム画像は「街並み」に分類される場合、変化度「１」と判定される。

【0125】

すなわち、１のフレーム画像と次のフレーム画像との間で、所定基準を満たす変化がない場合は当該次のフレーム画像の変化度指標は「０」と特定され、特定された変化度指標の「０」は重要度が低いことを示す重要度指標として当該次のフレーム画像に付与される。また、１のフレーム画像と次のフレーム画像との間で、所定基準を満たす変化がある場合は当該次のフレーム画像の変化度指標は「１」と特定され、特定された変化度指標の「１」は重要度が高いことを示す重要度指標として当該次のフレーム画像に付与される。なお、変化度は、選択フレーム画像を撮影された順に並べた場合に、１のフレーム画像と１つ前のフレーム画像とを比較して特定されてもよい。

【0126】

また、変化度指標は、図１０に例示したように２段階で判断される場合に限られず、３段階以上で判断されてもよい。

【0127】

この場合、選択フレーム画像の各々に記録された風景を分類するための手法の一例として、選択フレーム画像の各々を、複数の画像片に分割し、画像片毎の特徴を分析した結果を用いてもよい。例えば、画像片の分析結果から画像片の特徴ごとに複数のカテゴリーに分類し、各カテゴリーの画像片の寄与率から、選択フレーム画像の各々の特徴を数値化することで分類を行ってもよい。このような手法により、より詳細な分類が可能となり、より多段階で変化度指標の付与が可能となる。

【0128】

具体的には、例えば、当該画像片の分析は、色分析、フラクタル次元解析、人工物量分析によって行われてもよい。例えば、色分析によってフレーム画像の各画像片中の画素毎の色の性質が分析される。例えば、フラクタル次元解析により各画素片についてフラクタル次元値が得られ、例えば画像の複雑さの指標となる。例えば、人工物量分析では、１の画像片中において連続的に垂直方向に延びる所定長さ以上のエッジ成分の数をカウントすることで、１個の画素片に含まれる人工物の量を定量化してもよい。例えば、これらの分析結果から、画像片の各々は、「草木」「空」「人工物」等の分類項目に分類されてもよい。さらに、画像片の分類結果から、フレーム画像毎の特徴を算出することでフレーム画像の分類を行ってもよい。

【0129】

図１１は、本変形例１において制御部２９によって実行される合成画像生成ルーチンＲＴ３を示すフローチャートである。なお、図９において説明した合成画像生成ルーチンＲＴ２と実質的に同等のステップについて、説明の一部を省略する。

【0130】

制御部２９は、合成画像生成ルーチンＲＴ３を開始すると、合成画像生成ルーチンＲＴ２（図９）のステップＳ２１と同様に、風景動画から生成された情報保有動画を取得する（ステップＳ３１）。ステップＳ３１において、情報保有動画には、重要度指標が必ずしも対応付けられていなくともよい。

【0131】

制御部２９は、ステップＳ３１の実行後、合成画像生成ルーチンＲＴ２のステップＳ２２と同様に、情報保有動画を構成するフレーム画像の中から複数のフレーム画像を選択する（ステップＳ３２）。

【0132】

制御部２９は、ステップＳ３２の実行後、変化度指標を取得し、重要度指標として１のフレーム画像に付与する（ステップＳ３３）。例えば、ステップＳ３３において、制御部２９は、ステップＳ３２において選択されたフレーム画像の各々に記録された風景を所定の分類項目に分類し、撮影された順において隣接する選択フレーム画像と比較して変化度の判定を行う。例えば、上述したように、１のフレーム画像と次のフレーム画像との分類項目が同じ項目であった場合には、変化度「０」と判定し、分類項目が異なる場合には、変化度「１」と判定する。ステップＳ３３において、制御部２９は、指標取得部として機能する。

【0133】

制御部２９は、ステップＳ３３の実行後、選択したフレーム画像の各々を、ステップＳ３３において付与された重要度指標に応じた縮小率で、自動車Ｍの移動方向に平行な方向に縮小する（ステップＳ３４）。ステップＳ３４において、制御部２９は、重要度指標が小さいほど大きい縮小率で、選択されたフレーム画像の各々を縮小する。なお、重要度指標が何段階で判断される場合であっても、最も重要度が高いことを示す重要度指標においては、当該縮小率は０％とする（すなわち縮小は行わない）ようにしてもよい。

【0134】

制御部２９は、ステップＳ３４の実行後、縮小後のフレーム画像の各々を繋ぎ合わせて合成画像を生成する（ステップＳ３５）。ステップＳ３５において、制御部２９は、選択されて重要度指標に応じて縮小されたフレーム画像の各々を、撮影された順に繋ぎ合わせる。

【0135】

このように、本変形例１によれば、重要度指標として変化度指標を採用することで、合成画像中に、変化の少ない画像が連続して表示されることを軽減することができる。従って、隣接するフレーム画像からの変化が少なく、移動体の移動方向に対応する方向において、必要とされない画像が占める範囲が小さくなり、所望の画像を見つけ易くなる。従って、ユーザが画像中から所望の箇所を検索する際に、効率の良い検索を可能とし、当該所望の箇所を容易に見つけることを可能にする画像を生成する画像生成装置を提供することができる。

【0136】

［変形例２］
本実施例の変形例２に係る画像生成装置１０について説明する。本変形例２の画像生成装置１０は、上記の実施例における画像生成装置１０と同様に構成されている。本変形例２において制御部２９によって実行される合成画像生成ルーチンを示すフローチャートは、変形例１と同様に図１１に示される。

【0137】

本変形例２は、変形例１において、重要度指標として画像の変化の度合いを示す変化度指標を採用しているところを、これに代えて、重要度指標として画像の複雑度指標を採用している点についてのみ変形例１と相違する。すなわち、本変形例２の合成画像生成ルーチンは、図１１に示す合成画像生成ルーチンＲＴ３のステップＳ３３の処理内容のみが変形例１と相違する。このため、図１１において説明した合成画像生成ルーチンＲＴ３と実質的に同等のステップについては説明を省略する。

【0138】

ステップＳ３３において、本変形例２の制御部２９は、情報保有動画を構成するフレーム画像の中から選択した複数のフレーム画像の各々を解析し、各々の画像の複雑度を判定して複雑度指標を特定し、重要度指標としてフレーム画像の各々に付与する。

【0139】

具体的には、制御部２９は、フレーム画像を例えばフラクタル次元解析などを利用した公知の解析方法により複雑度を算出し、これを所定の閾値と比較することで、フレーム画像の各々の複雑度指標を特定する。複雑度が高いフレーム画像では、画像中に視覚的情報量を多く含んでいるため、見ごたえの程度が高いことから、このようなフレーム画像については重要度が高いと考えられる。制御部２９は、特定された複雑度指標が示す複雑度が高いほど、重要度指標が示す重要度が高くなるように、特定された複雑度指標を重要度指標としてフレーム画像の各々に付与する。なお、複雑度指標は、２段階以上の任意の段階で特定されるようにしてよい。

【0140】

換言すれば、指標取得部としての制御部２９は、本変形例２において、複数のフレーム画像の各々を画像解析することで、当該複数のフレーム画像の各々が示す特性を判定し、当該特性に基づいて、複数のフレーム画像の各々の重要度を示す重要度指標を取得することができる。本変形例２において、指標取得部としての制御部２９は、複数のフレーム画像の各々が示す特性の１つとして、画像の複雑度を採用することができる。

【0141】

このように、本変形例２によれば、重要度指標として複雑度指標を採用することで、合成画像中に、視覚的情報量の少ない画像が連続して表示されることを軽減することができる。従って、移動体の移動方向に対応する方向において、必要とされない画像が占める範囲が小さくなり、所望の画像を見つけ易くなる。従って、ユーザが画像中から所望の箇所を検索する際に、効率の良い検索を可能とし、当該所望の箇所を容易に見つけることを可能にする画像を生成する画像生成装置を提供することができる。

【0142】

［変形例３］
本実施例の変形例３に係る画像生成装置１０について説明する。本変形例３の画像生成装置１０は、上記の実施例における画像生成装置１０と同様に構成されている。本変形例３において制御部２９によって実行される合成画像生成ルーチンを示すフローチャートは、変形例１および変形例２と同様に図１１に示される。

【0143】

本変形例３は、変形例２において、重要度指標として画像の複雑度指標を採用しているところを、これに代えて、重要度指標として画像に記録された風景の分類項目ごとに設定された重要度を採用している点についてのみ変形例２と相違する。すなわち、本変形例３の合成画像生成ルーチンは、図１１に示す合成画像生成ルーチンＲＴ３のステップＳ３３の処理内容のみが変形例１および変化例２と相違する。このため、図１１において説明した合成画像生成ルーチンＲＴ３と実質的に同等のステップについては説明を省略する。

【0144】

ステップＳ３３において、本変形例３の制御部２９は、情報保有動画を構成するフレーム画像の中から選択した複数のフレーム画像の各々の特徴から各フレーム画像に記録された風景を例えば「森林」「街並み」「開けた道」「その他」等の複数の分類項目のいずれかに分類し、当該分類項目ごとに予め設定された重要度を取得し、重要度指標としてフレーム画像の各々に付与する。

【0145】

具体的には、制御部２９は、実施例１と同様に選択フレーム画像の各々を、複数の画像片に分割し、画像片毎の特徴を分析した結果を用いて各フレーム画像に記録された風景の分類を行ってもよい。また、風景の分類ごとの重要度は、分類項目ごとに予め定められていてもよいし、風景の各分類項目のそれぞれに対するユーザの注目度合いに応じて、ユーザ自身により複数の段階の重要度を設定可能とされてもよい。

【0146】

このように、本変形例３において、指標取得部としての制御部２９は、複数のフレーム画像の各々が示す特性の１つとして、画像に記録された風景を分類した分類項目を採用することができる。上記したように、当該風景の分類は、例えば画像解析によって行うことができる。換言すれば、指標取得部としての制御部２９は、本変形例３において、複数のフレーム画像の各々を画像解析することで、当該複数のフレーム画像の各々が示す特性を判定し、当該特性に基づいて、複数のフレーム画像の各々の重要度を示す重要度指標を取得することができる。

【0147】

以上のように、本変形例３によれば、重要度指標として画像に記録された風景の分類項目ごとに設定された重要度を採用することで、合成画像中に、重要度の低い画像が連続して表示されることを軽減することができる。従って、移動体の移動方向に対応する方向において、必要とされない画像が占める範囲が小さくなり、所望の画像を見つけ易くなる。従って、ユーザが画像中から所望の箇所を検索する際に、効率の良い検索を可能とし、当該所望の箇所を容易に見つけることを可能にする画像を生成する画像生成装置を提供することができる。

【0148】

なお、上記の実施例及び変形例において、画像生成装置１０が移動体に搭載される場合について説明したが、これに限られない。例えば、画像生成装置１０は、ユーザが携帯する端末装置に搭載されていてもよい。

【0149】

また、上記の実施例及び変形例において、動画を取得するカメラが移動体に設けられている例について説明したが、これに限られない。少なくとも動画の取得に移動が伴っていればよい。例えば、カメラはユーザが携帯する端末装置に搭載されていてもよい。またカメラの撮影方向は移動方向に対して真横に限定されるものではなく、移動方向に沿った方向（すなわち前後方向）でなければ、いかなる方向を撮影していてもよい。例えば上方向や下方向を撮影していてもよい。さらに画像生成装置１０は、移動するカメラと別の場所に設けられていてもよく、当該カメラによって撮影された動画を取得できればよい。

【0150】

また、第１ディスプレイ１５は、自動車Ｍの窓に設けられている例について説明したが、これに限られない。第１ディスプレイ１５は、再生制御部としての制御部２９によって再生された映像を表示可能に設けられていればよい。

【0151】

また、第１ディスプレイ１５は、透明である場合に限られず、半透明又は不透明であってもよい。

【0152】

なお、第２ディスプレイ１７Ａが第１ディスプレイ１５とは別体として設けられている例について説明したが、これに限られない。例えば、第１ディスプレイ１５の動画表示面１５Ａの一部に、操作用の画像を表示可能な領域を設けて、再生操作画像ＰＣを表示してもよい。

【0153】

なお、情報保有動画に累積移動距離が対応付けられており、情報保有動画に基づいて等距離間隔でフレーム画像を選択する例について説明したが、これに限られない。情報保有動画には、距離は対応付けられていなくともよい。

【0154】

上述した実施例及び変形例における構成は例示に過ぎず、用途等に応じて適宜選択及び変更可能である。

【符号の説明】

【0155】

１０ 画像生成装置
１３ カメラ
１５ 第１ディスプレイ
１７ タッチパネル
１７Ａ 第２ディスプレイ
１７Ｂ タッチパッド
１８ システムバス
１９ 入力部
２１ 速度センサ
２２ ＧＰＳ受信機
２３ 出力部
２４ 速度センサ
２５ 操作入力部
２７ 記憶部
２９ 制御部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】