(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-10
(45)【発行日】2023-11-20
(54)【発明の名称】画像記録システム及び画像記録方法
(51)【国際特許分類】
H04N 23/66 20230101AFI20231113BHJP
H04N 23/45 20230101ALI20231113BHJP
H04N 23/63 20230101ALI20231113BHJP
H04N 7/18 20060101ALI20231113BHJP
G08G 1/00 20060101ALI20231113BHJP
【FI】
H04N23/66
H04N23/45
H04N23/63
H04N7/18 U
G08G1/00 D
(21)【出願番号】P 2020060851
(22)【出願日】2020-03-30
【審査請求日】2022-11-08
(73)【特許権者】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(73)【特許権者】
【識別番号】507308902
【氏名又は名称】ルノー エス.ア.エス.
【氏名又は名称原語表記】RENAULT S.A.S.
【住所又は居所原語表記】122-122 bis, avenue du General Leclerc, 92100 Boulogne-Billancourt, France
(74)【代理人】
【識別番号】110000486
【氏名又は名称】弁理士法人とこしえ特許事務所
(72)【発明者】
【氏名】井上 裕史
(72)【発明者】
【氏名】西山 乘
(72)【発明者】
【氏名】寺口 剛仁
(72)【発明者】
【氏名】志小田 雄宇
(72)【発明者】
【氏名】大久保 翔太
【審査官】▲徳▼田 賢二
(56)【参考文献】
【文献】特開2013-255168(JP,A)
【文献】国際公開第2019/216087(WO,A1)
【文献】特開2016-053880(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/66
H04N 23/45
H04N 23/63
H04N 7/18
G08G 1/00
(57)【特許請求の範囲】
【請求項1】
少なくとも車両の乗員を含む前記車両の車内の車内画像を取得する車内画像取得部と、
前記車内画像取得部により取得された前記車内画像の画像認識により、前記乗員のジェスチャを検出するジェスチャ検出部と、
前記ジェスチャ検出部により一人の乗員の前記ジェスチャが検出された場合、前記ジェスチャで指示される指示方向、又は前記ジェスチャと前記一人の乗員との位置関係によって指示される方向の指示範囲を特定する指示内容特定部と、
前記車両の車外の車外画像を取得する車外画像取得部と、
前記車外画像取得部により取得された前記車外画像のうち、前記指示方向又は前記指示範囲の前記車外画像を指示画像として記録する画像記録制御部とを備える画像記録システム。
【請求項2】
請求項1に記載の画像記録システムであって、
前記指示画像に含まれる対象物を検出する対象物検出部と、
前記車両の現在位置情報及び地図情報、又は前記車両の距離センサの検出情報に基づいて、前記車両から前記対象物までの距離を取得する距離取得部と、
前記指示画像を表示する表示部と、
前記距離が閾値以下である場合の第1フレームレートを、前記距離が前記閾値より大きい場合の第2フレームレートよりも低く設定し、
設定された前記第1フレームレートにより前記指示画像を前記表示部に表示させる制御を行う画像表示制御部とをさらに備える画像記録システム。
【請求項3】
請求項2に記載の画像記録システムであって、
前記表示部に前記指示画像及び前記指示画像を表示させる制御信号を送信する通信部とをさらに備える画像記録システム。
【請求項4】
請求項2~3のいずれかに記載の画像記録システムであって、
前記画像表示制御部は、
前記車両の速度を取得し、
前記速度が第1速度である場合の前記閾値を、前記速度が、前記第1速度より低い第2速度である場合の前記閾値よりも高く設定する画像記録システム。
【請求項5】
請求項2~4のいずれかに記載の画像記録システムであって、
前記画像表示制御部は、前記指示画像を静止画像として表示させる画像記録システム。
【請求項6】
請求項2~4のいずれかに記載の画像記録システムであって、
前記画像表示制御部は、前記指示画像を動画像として表示させる画像記録システム。
【請求項7】
請求項2~6のいずれかに記載の画像記録システムであって、
前記画像表示制御部は、
前記表示部を備える端末装置を利用するユーザのうち、前記指示画像を表示させる対象ユーザとして選択されたユーザの情報に基づいて、前記対象ユーザの前記端末装置に備えられる前記表示部に前記指示画像を表示させる画像記録システム。
【請求項8】
請求項2~7のいずれかに記載の画像記録システムであって、
前記画像表示制御部は、前記対象物を強調表示するように画像表示を制御する画像記録システム。
【請求項9】
請求項1~8のいずれかに記載の画像記録システムであって、
前記指示内容特定部は、
前記車内画像に基づいて、前記乗員の視線方向を検出し、
検出された前記視線方向及び前記ジェスチャの位置によって示される方向の前記指示範囲を特定する画像記録システム。
【請求項10】
請求項1~9のいずれかに記載の画像記録システムであって、
前記ジェスチャは、前記乗員が指差しをする方向指示ジェスチャを含み、
前記指示内容特定部は、前記ジェスチャ検出部により検出された前記ジェスチャが前記方向指示ジェスチャである場合には、前記方向指示ジェスチャにより指差しがされた方向を、前記指示方向として特定する画像記録システム。
【請求項11】
請求項1~10のいずれかに記載の画像記録システムであって、
前記ジェスチャは、前記乗員が両手の指によって範囲を形成する範囲指定ジェスチャを含み、
前記指示内容特定部は、前記ジェスチャ検出部により検出された前記ジェスチャが前記範囲指定ジェスチャである場合には、前記範囲指定ジェスチャを行った前記乗員の両目の間の中心点と前記範囲の中心点を結ぶ直線の延長方向の前記指示範囲を特定する画像記録システム。
【請求項12】
少なくとも車両の乗員を含む前記車両の車内の車内画像を取得し、
取得された前記車内画像の画像認識により、前記乗員のジェスチャを検出し、
一人の乗員の前記ジェスチャが検出された場合、前記ジェスチャで指示される指示方向、又は前記ジェスチャと前記一人の乗員との位置関係によって指示される方向の指示範囲を特定し、
前記車両の車外の車外画像を取得し、
取得された前記車外画像のうち、前記指示方向又は前記指示範囲の前記車外画像を指示画像として記録する画像記録方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像記録システム及び画像記録方法に関するものである。
【背景技術】
【0002】
自動車に搭載される撮像システムにおいて、同乗者の顔向きを検出して、同一方向の顔向きの同乗者の数が数値条件を満たしていれば、同乗者の顔向きの延長線上を向くように車外カメラを駆動させて車外画像の撮像を実行する技術が知られている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に係る技術は、複数の乗員の視線方向が同一の方向に向かなければ、車載カメラを駆動させて当該方向の車外画像の撮像を実行しない。そのため、特許文献1に係る技術には、一人の乗員が取得すべきと感じた車外風景の画像を取得できないという問題がある。
【0005】
本発明が解決しようとする課題は、一人の乗員が取得すべきと感じた車外風景の画像を取得できる画像記録システム及び画像記録方法を提供することである。
【課題を解決するための手段】
【0006】
本発明は、少なくとも車両の乗員を含む車両の車内の車内画像を取得し、車内画像の画像認識により、乗員のジェスチャを検出し、一人の乗員のジェスチャが検出された場合、ジェスチャで指示される指示方向、又はジェスチャと一人の乗員との位置関係によって指示される方向の指示範囲を特定し、車両の車外の車外画像を取得し、取得された車外画像のうち、指示方向又は指示範囲の車外画像を指示画像として記録することによって上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、一人の乗員が取得すべきと感じた車外風景の画像を取得できる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、第1実施形態における画像記録システムの構成の一例を示す図である。
【
図2】
図2は、乗員による範囲指定のジェスチャを示す一例である。
【
図3】
図3は、第1実施形態における画像記録制御の手順の一例を示すフローチャートある。
【
図4】
図4は、第2実施形態における画像記録システムの構成の一例を示す図である。
【
図5】
図5は、乗員による指示方向の変化の一例を示す図である。
【
図6】
図6は、第2実施形態における画像表示制御の手順の一例を示すフローチャートである。
【
図7】
図7は、第3実施形態における画像記録システムの構成の一例を示す図である。
【
図8】
図8は、第3実施形態における画像表示制御の手順の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
≪第1実施形態≫
本発明に係る画像記録システムの一実施形態を図面に基づいて説明する。
【0010】
本実施形態に画像記録システムの構成を
図1を用いて説明する。
図1は、本実施形態における画像記録装置1を含む画像記録システム100の一例を示すブロック図である。
【0011】
画像記録装置1は、コントローラ10、加速度センサ20、ジャイロセンサ21、GPS22、車速センサ23、地図データ24、車内カメラ30、車外カメラ31と、記憶装置40を備える。画像記録装置1は、車両2に搭載されている装置であり、車外の風景等の画像を取得して記録する。
【0012】
コントローラ10は、加速度センサ20、ジャイロセンサ21、GPS22、車速センサ23、地図データ24、車内カメラ30、車外カメラ31、記憶装置40とお互いに通信可能である。コントローラ10は、各種センサ等からの情報に基づいて、乗員が画像取得したい車外の景色等の方向又は範囲を特定し、当該景色の画像を取得して記録させる制御を行う。本実施形態におけるコントローラ10は、ハードウェア及びソフトウェアを有するコンピュータを備えており、このコンピュータはプログラムを格納したROM(Read Only Memory)と、ROMに格納されたプログラムを実行するCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)を含むものである。なお、動作回路としては、CPUに代えて又はこれとともに、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などを用いることができる。コントローラ10は、機能ブロックとして、車内画像取得部11と、車外画像取得部12と、ジェスチャ検出部13と、車両状態推定部14と、指示内容特定部15と、画像記録制御部16とを含んで構成され、上記各機能を実現する又は各処理を実行するためのソフトウェアと、ハードウェアとの協働により各機能を実行する。なお、本実施形態では、コントローラ10が有する機能を6つのブロックとして分けた上で、各機能ブロックの機能を説明するが、コントローラ10の機能は必ずしも6つのブロックに分ける必要はなく、5以下の機能ブロック、あるいは、7つ以上の機能ブロックで分けてもよい。
【0013】
車内画像取得部11は、車内カメラ30により撮像された車内画像を取得する。具体的には、車内画像取得部11は、車内カメラ30により所定周期で車両内を撮像させる。そして、車内画像取得部11は、車内カメラ30により撮像された車内画像を所定周期で取得する。
【0014】
車外画像取得部12は、車外カメラ31により撮像された車外画像を取得する。具体的には、車外画像取得部12は、車外カメラ31により所定周期で車両外を撮像させる。そして、車外画像取得部12は、ジェスチャ検出部13により乗員の所定のジェスチャが検出されると、乗員のジェスチャが検出された時間に撮像された車外画像を取得する。車外画像取得部12により取得される車外画像には、撮像された撮像時間と車外に対する撮像方向の情報が記憶されているため、車外画像取得部12は、この撮像時間に基づいて、乗員のジェスチャが検出された時間に撮像された車外画像を取得する。
【0015】
ジェスチャ検出部13は、一人の乗員によるジェスチャを検出する。具体的には、ジェスチャ検出部13は、車内画像取得部11により取得された車内画像から画像認識処理により、一人の乗員の所定のジェスチャを検出する。検出の対象となる所定のジェスチャとしては、例えば、方向指示ジェスチャである。方向指示ジェスチャは、すなわち、特定の方向に向けて人差し指を向けるジェスチャである。また、所定のジェスチャは、範囲指定ジェスチャであってもよい。範囲指定ジェスチャは、
図2で示されるように、指示範囲を両手の指で形成するジェスチャである。例えば、ジェスチャ検出部13は、画像認識処理により、一人の乗員の両手の人差し指と親指を特定し、両手の人差し指と親指に接するように設定された矩形を指示範囲として特定する。また、乗員がトラッキングデバイスを装着又は把持する場合には、ジェスチャ検出部13は、トラッキングデバイスにより取得される手や指の動きにより、一人の乗員のジェスチャを検出してもよい。例えば、乗員がグローブ型のトラッキングデバイスを装着している場合には、ジェスチャ検出部13は、指差し等の動作を検出する。なお、遠隔ユーザのアバターが仮想的に車両2内に表示されている場合には、ジェスチャ検出部13は、トラッキングデバイスにより遠隔ユーザのジェスチャを検出してもよい。
【0016】
車両状態推定部14は、車両2の現在位置及び向きを推定する。具体的には、車両状態推定部14は、加速度センサ20、ジャイロセンサ21、GPS22、地図データ24から各種情報を取得し、取得された情報に基づいて、車両2の現在位置及び向きを推定する。例えば、車両状態推定部14は、GPS22により、車両2の現在位置を推定する。また、車両状態推定部14は、例えば、ジャイロセンサ21により、進行方向に対する車両2の向きを検出する。また、車両状態推定部14は、車速センサ23により、車両2の車速を検出する。
【0017】
指示内容特定部15は、ジェスチャ検出部13により一人の乗員のジェスチャが検出された場合に、検出されたジェスチャにより示される指示方向又は指示範囲を特定する。まず、指示内容特定部15は、ジェスチャの形に基づいて、ジェスチャの指示内容を判定する。ジェスチャの指示内容は、指示方向の特定及び指示範囲の特定のいずれかである。ジェスチャの指示内容は、ジェスチャの形にあらかじめ対応づけられている。例えば、指示内容特定部15は、検出されたジェスチャが方向指示ジェスチャである場合には、指示内容を、指示方向の特定であると判定する。また、指示内容特定部15は、検出されたジェスチャが範囲指定ジェスチャである場合には、指示内容は、指示範囲の特定であると判定する。
【0018】
次に、指示内容特定部15は、指示内容の判定結果に応じて、ジェスチャで指示される指示方向、又はジェスチャと一人の乗員との位置関係によって指示される方向の指示範囲を特定する。指示内容特定部15は、指示内容が指示方向の特定であると判定された場合には、ジェスチャによって示される指示方向を特定する。まず、指示内容特定部15は、検出されたジェスチャの車内における位置と向きに基づいて、車両2を基準とした相対的な方向を特定する。例えば、指示内容特定部15は、車内画像から一人の乗員の指の向きを検出して、車両2の前後方向(進行方向)を基準とした相対的な方向を特定する。また、指示内容特定部15は、画像認識処理により、一人の乗員の指の位置と肩の位置を検出して、指の位置と肩の位置を通る直線方向から、車両2の進行方向を基準とした相対的な方向を特定してもよい。次に、指示内容特定部15は、車両2を基準とした相対的な方向と車両2の向きから、車両2を基準とした相対的な方向が示している車外の方向を指示方向として特定する。例えば、指示内容特定部15は、ジャイロセンサ21の検出情報に基づいて、車両2が走行する道路の進行方向を基準として、車両2の相対的な向きを推定する。そして指示内容特定部15は、車両2を基準とした相対的な方向と車両2の相対的な向きに基づいて、車外に対する指示方向を特定する。
【0019】
また、指示内容特定部15は、指示内容が指示範囲の特定であると判定された場合には、ジェスチャを行っている乗員の視点位置とジェスチャの位置によって示される方向の指示範囲を特定する。具体的には、指示内容特定部15は、ジェスチャを行った乗員の両目の間の中心点から、ジェスチャによって形成される範囲の中心位置を通る直線に沿った視線方向を範囲方向とする。このとき、指示内容特定部15は、指示方向と同様に、車内画像から画像認識処理により、車両2を基準とした範囲方向を特定する。そして、指示内容特定部15は、車両2を基準とした範囲方向と車両2の向きに基づいて、車外に対する範囲方向を特定する。車外に対する範囲方向が特定されると、指示内容特定部15は、車外に対する範囲方向における、ジェスチャで形成された範囲を指示範囲として特定する。なお、範囲方向は、乗員の位置から指示範囲の中心点を通る直線の延長方向を範囲方向としてもよい。また、指示内容特定部15は、車内画像から画像認識処理により、乗員が片目をつぶっていると判定される場合には、開いているほうの目の位置から指示範囲の中心点を通る直線の延長方向を範囲方向としてもよい。
【0020】
画像記録制御部16は、車外画像取得部12により取得された車外画像から、指示内容特定部15により特定された指示方向又は指示範囲を特定して、特定された指示方向又は指示範囲に含まれる画像を指示画像として抽出して記憶装置40に記録させる。具体的には、まず、画像記録制御部16は、車外画像に記憶されている撮像方向の情報に基づいて、指示方向又は範囲方向に一致する撮像方向の車外画像を特定する。次に、画像記録制御部16は、指示方向の所定範囲又は範囲方向の指示範囲に含まれる画像を指示画像として特定し、特定された指示画像を記憶装置40に記憶させる。例えば、画像記録制御部16は、指示方向の車外画像を特定する場合には、指示方向を示している指先を頂点として、指示方向に沿った直線に対して左右30度、上下30度の範囲の車外画像を指示画像として記録させる。
【0021】
加速度センサ20は、運転者の操縦等によって生じる車両2の加速度を検出する。運転者の操縦は、加減速及び操舵を含む。具体的には、加速度センサ20は、お互いに直交するX軸、Y軸、Z軸の3軸について、それぞれの軸方向に沿った加速度を取得する。加速度センサ20により取得された加速度は、コントローラ10の車両状態推定部14に出力される。
【0022】
ジャイロセンサ21は、車両2の姿勢変化によって生じる車両2の角速度を検出する。車両2の姿勢変化は、加減速及び操舵といった運転者の操縦等に伴って生じる。具体的には、ジャイロセンサ21は、上述のX軸、Y軸、Z軸の3軸について、それぞれの軸回りの角速度を検出する。ジャイロセンサ21により取得された角速度は、コントローラ10の車両状態推定部14に出力される。
【0023】
GPS22は、車両2の現在位置を検出するGPS機器である。GPS22は、複数の衛星通信から送信される電波を受信機で受信することで、車両2の位置情報を取得する。また、GPS22は、周期的に複数の衛星通信から送信される電波を受信することで、車両2の位置情報の変化を検出できる。
【0024】
車速センサ23は、車両2の車速を検出する。例えば、車速センサ23は、車両2のドライブシャフトなどの駆動系の回転速度を計測し、これに基づいて車両2の車速を検出する。車速センサ23より検出された車両2の車速の情報はコントローラ10に出力される。
【0025】
地図データ24は、道路情報等の情報を含む地図データである。道路情報としては、例えば、道路境界、車線、道路標示等に関する情報を含む。また、地図データ24は、道路周辺等に位置する地物に関する地物情報を含む。例えば、地物情報は、河川や山、建築物等のランドマークに関する地図上の位置情報等である。
【0026】
車内カメラ30は、いわゆるCCDやCMOSなどの撮像素子、光学レンズ、光学フィルタ、電源等の周辺電子回路を備え、撮像素子により画像を撮像する撮像装置である。車内カメラ30は、車両2内の乗員を含む車内の車内画像を撮像するように車両2内に配置されている。特に、車内カメラ30は、乗員の顔や乗員の指・手を含む車内画像を撮像する。また、車内カメラ30は、車内画像を、所定の時間間隔で繰り返し撮像する。車内カメラ30は、一台であってもよいし、複数台であってもよい。
【0027】
車外カメラ31は、いわゆるCCDやCMOSなどの撮像素子、光学レンズ、光学フィルタ、電源等の周辺電子回路を備え、撮像素子により画像を撮像する周知の撮像装置である。車外カメラ31は、車両2周囲の環境を撮像するように配置されている。例えば、車外カメラ31は、車両2の前後左右に配置された複数台のカメラであり、様々な方向の車外の風景を撮像する。また、車外カメラ31は、車外画像を、所定の時間間隔で繰り返し撮像する。車外カメラ31は、車外画像を撮像したときに、当該車外画像が撮像された撮像時間と撮像方向の情報を、撮像された車外画像に付加する。
【0028】
記憶装置40は、画像記録制御部16により特定された指示画像を記憶する。記憶される指示画像は、1枚でも複数枚であってもよい。
【0029】
次に、
図3のフローチャートを用いて、本実施形態に係る画像記録制御を行う手順を説明する。本実施形態では、車両2が走行を開始すると、ステップS301からフローを開始する。コントローラ10は、ステップS301の車内画像の取得処理と、ステップS302のジェスチャの検出処理を繰り返し実行し、ジェスチャが検出されると、ステップS303に進む。
【0030】
ステップS301では、コントローラ10は、乗員を含む車両2の車内の車内画像を取得する。具体的には、コントローラ10は、車内カメラ30に車内を撮像させて、撮像された車内画像を取得する。また、本実施形態では、コントローラ10は、一定の時間間隔で、車内カメラ30により車内の撮像を実行し、車内画像を取得する。
【0031】
ステップS302では、コントローラ10は、ステップS302で取得された車内画像から、一人の乗員によるジェスチャを検出したか否かの判定を行う。ジェスチャは、方向指示ジェスチャ及び範囲指定ジェスチャを含む。コントローラ10は、画像認識処理により、車内画像から、予め記憶されたジェスチャの形の特徴点を抽出し、ジェスチャを検出する。一人の乗員のジェスチャが検出された場合には、ステップS303に進む。乗員のジェスチャが検出されない場合には、ステップS301に戻り、以下、乗員のジェスチャが検出されるまでステップS301、S302を繰り返す。なお、本実施形態では、検出対象となるジェスチャは、方向指示ジェスチャ及び範囲指定ジェスチャとしているが、ジェスチャの種類はこれに限らず、その他の形のジェスチャ等を含むこととしてもよい。
【0032】
ステップS303では、コントローラ10は、ステップS302で判定されたジェスチャが方向指示ジェスチャ及び範囲指定ジェスチャのいずれかのうち、範囲指定ジェスチャであるか否かを判定する。具体的には、コントローラ10は、車内画像から画像認識技術により、ジェスチャの特徴を抽出し、範囲指定ジェスチャであるか否かを判定する。ジェスチャが範囲指定ジェスチャであると判定される場合には、ステップS304に進む。また、ジェスチャが範囲指定ジェスチャであると判定されない、すなわち、ジェスチャが方向指示ジェスチャである場合には、ステップS307に進む。
【0033】
ステップS304では、コントローラ10は、指示範囲を特定する。具体的には、コントローラ10は、まず、車内画像から、車両2を基準としたジェスチャの位置を推定する。すなわち、コントローラ10は、ジェスチャを行った一人の乗員の指を検出し、一人の乗員の指で形成される矩形の範囲の位置を推定する。次に、コントローラ10は、車内画像から、ジェスチャを行った一人の乗員の両目の位置を検出し、両目の間の中心点を視点位置として推定する。ジェスチャの位置及び視点位置の推定後、コントローラ10は、視点位置からジェスチャにより形成される範囲の中心点を通る直線の延長方向を範囲方向とする。これにより、コントローラ10は、車両2を基準とした範囲方向を推定する。そして、コントローラ10は、車両2を基準とした範囲方向と、車両2の向きに基づいて、車外に対する範囲方向を特定し、車外に対する範囲方向における、ジェスチャで形成される範囲を指示範囲として特定する。
【0034】
ステップS305では、コントローラ10は、車外カメラ31により撮像された車外画像を取得する。具体的には、コントローラ10は、車外画像から、ジェスチャが検出された時間に撮像された車外画像を取得する。
【0035】
ステップS306では、コントローラ10は、ステップS304で特定された指示範囲に基づいて、ステップS305で取得された車外画像から、指示範囲に含まれる画像を指示画像として特定して、当該指示画像を記憶装置40に記録する。
【0036】
ステップS307では、指示方向を特定する。具体的には、コントローラ10は、まず、車内画像から、車両2を基準とした指示方向を推定する。すなわち、コントローラ10は、ジェスチャを行った一人の乗員の指を検出し、指で指示される方向を特定する。そして、コントローラ10は、車両2を基準とした相対的な方向と車両2の向きとに基づいて、車外に対する指示方向を特定する。
【0037】
ステップS308では、コントローラ10は、車外カメラ31により撮像された車外画像を取得する。具体的には、コントローラ10は、ステップS305と同様に、ジェスチャが検出された時間に撮像された車外画像を取得する。
【0038】
ステップS309では、コントローラ10は、ステップS307で特定された指示方向に基づいて、ステップS308で取得された車外画像から、指示方向を中心とした所定範囲に含まれる画像を指示画像として特定して、当該指示画像を記憶装置40に記録する。
【0039】
以上のように、本実施形態では、少なくとも車両の乗員を含む車両の車内の車内画像を取得し、取得された車内画像の画像認識により、乗員のジェスチャを検出し、一人の乗員のジェスチャが検出された場合、ジェスチャで指示される指示方向、又はジェスチャと一人の乗員との位置関係によって指示される方向の指示範囲を特定し、車両の車外の車外画像を取得し、取得された車外画像のうち、指示方向又は指示範囲の車外画像を指示画像として記録する。これにより、一人の乗員が取得すべきと感じた車外風景の画像を取得できる。
【0040】
また、本実施形態では、車内画像に基づいて、乗員の視線方向を検出し、検出された視線方向及びジェスチャの位置によって示される方向の指示範囲を特定する。これにより、乗員の視線方向と乗員のジェスチャから画像取得すべき車外風景の方向を特定できる。
【0041】
また、本実施形態では、ジェスチャは、乗員が指差しをする方向指示ジェスチャを含み、検出されたジェスチャが方向指示ジェスチャである場合には、方向指示ジェスチャにより指差しがされた方向を、指示方向として特定する。これにより、乗員のジェスチャから画像取得すべき車外風景の方向を特定できる。
【0042】
また、本実施形態では、ジェスチャは、乗員が両手の指によって指示範囲を形成する範囲指定ジェスチャを含み、検出されたジェスチャが範囲指定ジェスチャである場合には、範囲指定ジェスチャを行った乗員の両目の間の中心点と指示範囲の中心点を結ぶ直線の延長方向の指示範囲を特定する。これにより、乗員が範囲指定を行うことで、画像取得すべき車外風景の範囲を構図も含めて特定できる。
【0043】
≪第2実施形態≫
次に、
図4を用いて、第2実施形態に係る画像記録システム100について説明する。第2実施形態に係る画像記録システム100は、以下に説明する点において第1実施形態に係る画像記録システムと異なること以外は、第1実施形態と同様の構成を有し、第1実施形態と同様に動作するものであり、第1実施形態の記載を適宜、援用する。本実施形態の構成では、画像記録システム100は、車載表示装置50及び端末装置60をさらに備える。なお、本実施形態では、画像記録システム100が、車載表示装置50及び端末装置60のいずれかひとつを含む構成であってもよい。また、画像記録装置1は、通信装置41をさらに備える。また、コントローラ10は、機能構成として、距離取得部17及び画像表示制御部18をさらに備える。車載表示装置50は、車両2に備えつけられている装置であって、例えば、モニタである。端末装置60は、車両2に搭乗している乗員が利用する装置であって、例えば、携帯電話、スマートフォン、ヘッドマウントディスプレイ等である。なお、端末装置60の利用者は、車両2に搭乗している乗員に限らず、車外のユーザであってもよい。本実施形態では、コントローラ10は、記憶装置40に記録した指示画像を取得して、車載表示装置50及び端末装置60に、指示画像及び指示画像を表示させる制御信号を送信して、車載表示装置50及び端末装置60に指示画像を表示させる。
【0044】
車両2が走行している状態で、一人の乗員が、他の乗員と車外の風景を共有したい場合、以下のような問題がある。すなわち、一人の乗員が、車両2から距離の近い風景を共有したいと思った場合に、距離の近い風景は、車両の走行に合わせてすぐに車両後方に流れてしまうため、他の乗員が当該風景の方向に視線を向ける時間がないという問題である。このような問題に対して、本実施形態では、画像記録システム100は、一人の乗員が共有したいと感じる風景までの距離に応じて、取得された指示画像の表示形態を制御する。具体的には、共有したい風景の距離が近い場合には、画像記録システム100は、指示画像を表示する際のフレームレートを低くして指示画像を表示する。例えば、画像記録システム100は静止画像として指示画像を表示する。これにより、他の乗員が当該風景の方向に視線を向ける時間がなかったとしても、一人の乗員は、表示された静止画像によって他の乗員と車外風景を共有することができる。以下、本実施形態における具体的な機能構成や制御手順について説明する。
【0045】
指示内容特定部15は、所定の時間間隔で、一人の乗員が指し示す指示方向を特定する。車両2が走行している場合には、車両の位置と向きが変化するのに応じて、車両2を基準とした指示方向も変化する。例えば、最初は、一人の乗員が車両2の前方方向を指示していたとしても、時間の経過とともに、走行する車両の位置も変化する。車両2が撮像対象の横方向まで来ると、一人の乗員は車両2の横方向を指示するようになる。指示内容特定部15は、このような指示方向の時系列変化を特定する。具体的には、指示内容特定部15は、所定の時間間隔で、ジェスチャによって示される方向を車両2を基準として特定する。また、このとき、車両状態推定部14は、車両2を基準とした相対的な方向が特定された時間ごとに、車両2の位置と向きを推定する。そして、指示内容特定部15は、所定の時間間隔で、車両2を基準とした指示方向と、車両2の位置と向きとに基づいて、車外に対する指示方向を特定する。これにより、指示内容特定部15は、指示方向の時系列変化の情報を取得する。
【0046】
距離取得部17は、車両2から撮像対象位置までの距離を取得する。撮像対象位置は、一人の乗員が指示している撮像対象の位置である。撮像対象とは、地物等を含む車外の風景である。
図5では、車両2が走行しているときに、車両2に乗車している一人の乗員Pが指示方向Qを指差ししている状況を示す一例である。
図5は、車両2の位置と向きを時系列順に車両2、車両2′、車両2′′で示していて、指示方向Qを時系列順に指示方向Q、指示方向Q′、指示方向Q′′で示している。一人の乗員による指示方向Qは、車両2の位置と向きに応じて変化する。本実施形態では、距離取得部17は、指示内容特定部15により特定された指示方向Qの時系列変化の情報に基づいて、車両2の現在位置と撮像対象位置までの距離を取得する。具体的には、距離取得部17は、時系列変化する指示方向Qを用いて、各時間における指示方向Qがそれぞれ交わる交点を算出する。指差しによる指示方向には誤差が生じるため、それぞれの指示方向は異なる複数の交点を有すると考えられる。したがって、距離取得部17は、複数の交点の中心点を撮像対象位置Rとして設定する。中心点は、例えば、複数の交点で形成される図形の重心である。そして、距離取得部17は、撮像対象位置が設定されると、車両2の現在位置と撮像対象位置との間の距離を推定する。例えば、まず、距離取得部17は、車速と時間から車両2の移動距離を取得する。そして、距離取得部17は、所定の時間間隔ごとに、指示方向の角度と車両2の移動距離に基づいて、車両2の現在位置と撮像対象位置との間の距離を推定する。
【0047】
画像表示制御部18は、指示画像の表示形態を設定し、設定された表示形態によって指示画像を表示させる制御を行う。本実施形態では、画像記録制御部16は、一人の乗員のジェスチャが検出された時点から所定時間の間に、一定の時間間隔で撮像された2以上の車外画像から、指示方向又は指示範囲に含まれる画像を指示画像として特定して、2以上の指示画像を記録する。2以上の指示画像は、時系列的に連続する画像である。すなわち、記憶装置40には、時系列的に連続する2以上の指示画像が記録される。画像表示制御部18は、記憶装置40に指示画像が記録されると、まず、動画像の表示形態を設定する。具体的には、画像表示制御部18は、距離取得部17で取得された距離に基づいて、当該距離が閾値以下であるか否かを判定する。そして、画像表示制御部18は、閾値による距離の評価に基づいて、指示画像を表示する際のフレームレートを設定する。例えば、画像表示制御部18は、距離が閾値以下である場合の第1フレームレートを、距離が閾値より大きいと判定される場合の第2フレームレートよりも低く設定する。また、距離が閾値より大きいと判定される場合の第2フレームレートを、距離が閾値以下であると判定される場合の第1フレームレートよりも高く設定する。例えば、画像表示制御部18は、第1フレームレートを1枚、すなわち、静止画像として表示形態を設定し、第2フレームレートを、車外画像を撮像した時のフレームレートで、すなわち、動画像として表示形態を設定する。一般に、走行している車両から見える車外の景色は、車両から近いほど車両の進行方向とは反対方向に速く流れていくように見える。そのため、画像表示制御部18が、車両2から近い景色を動画像として撮像した場合、車両2から近い景色はすぐに車両後方に流れて見えなくなってしまう。そこで、画像表示制御部18は、静止画像として指示画像を表示させる。例えば、画像表示制御部18は、距離が閾値より大きいと判定される場合には、車外画像を撮像した時のフレームレートで表示し、距離が閾値以下であると判定される場合には、車外画像を撮像した時のフレームレートよりも低いフレームレート、すなわちスローモーションで表示してもよい。以上のように、画像表示制御部18は、指示画像の表示形態を設定する。なお、第1フレームレートで表示される画像は、静止画像に限らず、第2フレームレートよりも低いフレームレートで表示される動画像でもよい。
【0048】
距離を評価するための閾値は、例えば40mである。また、画像表示制御部18は、あらかじめ設定された閾値のみならず、車両2の現在の車速に応じて設定される閾値を用いて距離を評価してもよい。具体的には、画像表示制御部18は、車両2の車速が高いほど、閾値を高く設定する。例えば、表1に示されるように、車速が20km/hの場合には、閾値を30mに設定し、車速が80km/hの場合には、閾値を300mに設定する。これは、車両2の車速が高い場合には、車速が低い場合よりも、車両2は短時間のうちに撮像対象位置を通り過ぎてしまうため、撮像のための時間的余裕を確保するためには、車速が高いほど距離を長くとる必要があるからである。本実施形態では、画像表示制御部18は、車両状態推定部14により推定された車速を取得し、取得された車速に対応する閾値を設定する。なお、車速と閾値の対応関係は、表1の内容に限定されるものではない。
【0049】
【0050】
また、画像表示制御部18は、車両2から見た撮像対象の位置の方向の変化量、例えば、車両2から見た撮像対象の位置の方向の角度の変化量が閾値以上であるか否かを判定してもよい。車外風景そのものは静止しているが、車両2が走行していることで、乗員の視点からは、車外風景が車両2の進行方向とは反対方向に流れていくように見える。このような場合、乗員の視野に映る撮像対象の位置の方向の変化量は、車両2の進行方向を基準とした角度の変化量で表すことができる。たとえば、車両2の進行方向を基準にした撮像対象の方向の角度が、閾値の10度/秒以上変化すると判定される場合には、画像表示制御部18は、静止画像として表示形態を設定する。また、角度が閾値の10度/秒以上変化すると判定されない場合には、画像表示制御部18は、動画像として表示形態を設定する。車両2と撮像対象との距離が近いほど、車両2から見た撮像対象が流れていく速度が高いからである。
【0051】
また、画像表示制御部18は、車両2と撮像対象との距離を評価する閾値による判定のみに限らず、車両2を基準とした撮像対象の方向による判定を行ってもよい。例えば、画像表示制御部18は、車両2の進行方向を前方として、撮像対象が車両2の後方に位置すると判定される場合には、距離が閾値より大きかったとしても、静止画像として表示形態を設定する。撮像対象が遠くにあったとしても、既に車両が撮像対象位置を通り過ぎている場合には、距離が離れていくからである。
【0052】
次に、画像表示制御部18は、指示画像を表示させる制御を行う。例えば、画像表示制御部18は、車載表示装置50及び端末装置60に指示画像を表示させる制御を行う。具体的には、画像表示制御部18は、設定された表示形態に基づいて指示画像を表示させる制御信号を生成する。そして、画像表示制御部18は、通信装置41を介して、指示画像と、生成された制御信号とを車載表示装置50及び端末装置60に送信する。なお、画像表示制御部18は、指示画像と制御信号とを車載表示装置50及び端末装置60の両方に送信することに限らず、車載表示装置50及び端末装置60のいずれかに送信してもよい。
【0053】
なお、画像表示制御部18は、一人の乗員が共有したい車外風景が遠くにあって乗員が車両2の窓から直接視認できる時間がある場合には、当該車外風景を強調表示するように画像表示を制御してもよい。例えば、画像表示制御部18は、車両2から撮像対象位置までの距離が閾値以上であると判定される場合には、乗員が利用する端末装置60の端末出力装置61(ディスプレイ画面)上で、一人の乗員が共有したい車外風景を強調するための強調画像を表示させる制御を行う。強調画像は、例えば、一人の乗員が共有したい車外風景を囲むような矩形の画像を表示する。
【0054】
通信装置41は、車載表示装置50及び端末装置60とお互いに送受信が可能である。通信装置41は、コントローラ10により出力された指示画像及び制御信号を車載表示装置50及び端末装置60に送信する。
【0055】
車載表示装置50は、車両2に搭載され、乗員に指示画像を表示する装置である。車載表示装置50は、車載出力装置51と、車載通信装置52を備える。車載出力装置51は、乗員から見える位置に設定され、制御信号に基づいて、画像を表示させる。車載出力装置51は、例えば、モニタ等であって、インスツルメントパネルの近くや各座席に設置される。車載通信装置52は、通信装置41と無線又は有線で接続されていて、相互に情報の送受信が可能である。車載表示装置50は、車載通信装置52を介して画像表示制御部18から制御信号を受信すると、当該制御信号に基づいて、車載通信装置52の車載出力装置51に指示画像を表示する。
【0056】
端末装置60は、車両2の乗員及び車外のユーザに利用される装置である。端末装置60は、端末出力装置61と、端末通信装置62とを備える。端末出力装置61は、例えば、ディスプレイ画面であって、制御信号に基づいて、画像を表示させる。端末通信装置62は、通信装置41と無線で接続されていて、相互に情報の送受信が可能である。端末装置60は、端末通信装置62を介して画像表示制御部18から制御信号を受信すると、当該制御信号に基づいて、端末装置60の端末出力装置61に指示画像を表示する。
【0057】
次に、
図6のフローチャートを用いて、本実施形態に係る画像表示制御を行う手順を説明する。本実施形態では、
図3のS306又はS309で指示画像を記録すると、
図6で示される画像表示制御を開始する。また、本実施形態では、指示画像は、時系列的に連続する2以上の指示画像として記憶装置40に記録されている。
【0058】
ステップS601では、コントローラ10は、所定の時間に、一定の時間間隔で、指示方向又は範囲方向を特定する。所定の時間は、たとえば、走行中の場合であれば、少なくとも2秒以上である。車両2が走行している間に、乗員が車外の撮像対象位置を指差ししている場合には、車両2を基準とした撮像対象位置の相対的な位置が変化するため、ジェスチャにより指示される方向も変化する。これにより、コントローラ10は、所定時間における時系列的に連続する2以上の指示方向又は範囲方向を特定する。
【0059】
ステップS602では、コントローラ10は、ステップS601で取得された、時系列的に連続する2以上の指示方向又は範囲方向に基づいて、それぞれの指示方向又は範囲方向の交点を複数特定する。そして、コントローラ10は、指示方向又は範囲方向の複数の交点の中心点を車外の撮像対象位置として推定し、推定された撮像対象位置と車両2の位置との間の距離を取得する。
【0060】
ステップS603では、コントローラ10は、ステップS602で算出された距離が閾値以下であるか否かを判定する。距離が閾値以下であると判定される場合には、ステップS604に進む。距離が閾値以下であると判定されない場合には、ステップS606に進む。
【0061】
ステップS604では、コントローラ10は、指示画像を表示する際の表示形態を静止画像に設定する。
【0062】
ステップS605では、コントローラ10は、ステップS604で設定された表示形態、すなわち静止画像で指示画像を表示させる制御を行う。具体的には、コントローラ10は、指示画像を静止画像で表示させる制御信号を生成し、指示画像と生成された制御信号とを車載表示装置50及び端末装置60に送信する。車載表示装置50及び端末装置60の出力装置は、制御信号の入力があると、当該制御信号に基づいて、指示画像を静止画像で表示させる。これにより、一人の乗員は、出力装置に表示された車外の風景の静止画像を見ながら他の乗員と会話できる。また、車外のユーザが利用する端末装置60の出力装置に表示することで、車外のユーザに対しても一人の乗員が共有すべきと感じた風景等を共有できる。
【0063】
ステップS606では、コントローラ10は、指示画像を表示する際の表示形態を動画像に設定する。
【0064】
ステップS607では、コントローラ10は、指示画像を動画像で表示させる制御を行う。具体的には、コントローラ10は、時系列的に連続する2以上の指示画像を、車外画像を撮像した時のフレームレートで表示させる制御信号を生成し、指示画像と生成された制御信号とを車載表示装置50及び端末装置60に送信する。車載表示装置50及び端末装置60の出力装置は、制御信号の入力があると、当該制御信号に基づいて、指示画像を動画像で表示させる。
【0065】
なお、本実施形態では、画像表示制御部18は、端末装置60を利用するユーザのうち対象ユーザとして選択されたユーザの端末装置60に指示画像を表示させる制御をしてもよい。対象ユーザとは、指示画像を表示させる対象として選択されたユーザである。具体的には、一人の乗員により他ユーザの情報が入力されると、画像表示制御部18は、まず、入力された他ユーザの情報に基づいて、他ユーザの端末装置60を特定する。そして、画像表示制御部18は、特定された端末装置60の端末出力装置61に、表示画像及び制御信号を送信する。他ユーザは、車両2に乗車しているユーザであってもよいし、車両2の車外にいるユーザであってもよい。また、一人の乗員が、自分自身を、指示画像を表示させたい対象ユーザとして選択してもよいし、一人の乗員以外の他ユーザが、指示画像を表示させたい対象ユーザを選択してもよい。
【0066】
以上のように、本実施形態では、指示画像に含まれる対象物を検出し、車両の現在位置情報及び地図情報、又は車両の距離センサの検出情報に基づいて、車両から対象物までの距離を取得し、距離が閾値以下である場合の第1フレームレートを、距離が前記閾値より大きい場合の第2フレームレートよりも低く設定し、設定された第1フレームレートにより指示画像を表示部に表示させる制御を行い、指示画像を表示する。これにより、取得すべき車外風景までの距離に応じて、指示画像を表示する表示形態を制御できる。
【0067】
また、本実施形態では、画像を表示させる表示部に指示画像及び指示画像を表示させる制御信号を送信する。これにより、表示部に車外風景を表示させることができる。
【0068】
また、本実施形態では、車両の速度を取得し、速度が第1速度である場合の閾値を、速度が、第1速度より低い第2速度である場合の閾値よりも高く設定する。これにより、車両の速度が高い場合には、車両の現在位置と撮像対象位置との距離が遠くても、低いフレームレートで指示画像を表示できる。
【0069】
また、本実施形態では、指示画像を静止画像として表示させる。これにより、速く通り過ぎてしまいすぐに見えなくなる風景であっても、一人の乗員がジェスチャした時の静止画像により乗員は車外風景を共有できる。
【0070】
また、本実施形態では、指示画像を動画像として表示させる。これにより、乗員は、車両から見える時間が長い車外風景を動画像により把握できる。
【0071】
また、本実施形態では、表示部を備える端末装置を利用するユーザのうち、指示画像を表示させる対象ユーザとして選択されたユーザの情報に基づいて、対象ユーザの端末装置に備えられる表示部に指示画像を表示させる。これにより、指示画像を表示させたいユーザを選択して指示画像を表示できる。
【0072】
また、本実施形態では、対象物を強調表示するように画像表示を制御する。これにより、車両から見える実際の景色に乗員の視線を誘導できる。
【0073】
≪第3実施形態≫
次に、
図7を用いて、第3実施形態に係る画像記録システム100について説明する。第3実施形態に係る画像記録システム100は、以下に説明する点において第1及び2実施形態に係る画像記録システムと異なること以外は、第1及び第2実施形態と同様の構成を有し、第1及び第2実施形態と同様に動作するものであり、第1及び第2実施形態の記載を適宜、援用する。本実施形態の構成では、第1及び第2実施形態の構成と異なり、コントローラ10は機能ブロックとして対象推定部19をさらに備える。
【0074】
対象推定部19は、指示内容特定部15により特定された指示方向又は範囲方向に特徴的な対象物が存在するかを地図データ24から検索し、特徴的な対象物が存在する場合には、指示画像において当該対象物を推定する。特徴的な対象物とは、地図データ24から情報が取得可能な地物であり、例えば、車両の車外風景の中で目印となるランドマーク(河川、山、植物、建物、橋梁等)である。対象推定部19は、GPS22により取得された車両2の現在位置情報と地図データ24の地図情報から、地図上において車両2の現在位置から指示方向又は範囲方向にある特徴的な対象物を検索する。例えば、対象推定部19は、地図データに記憶されている地物情報から、指示方向又は範囲方向にある地物を検索する。そして、コントローラ10は、地物が存在すると判定できた場合には、指示画像から画像認識処理により、当該地物を、特徴的な対象物として推定する。また、指示方向又は範囲方向に特徴的な対象物が複数ある場合や、特徴的な対象物が存在しない場合には、対象推定部19は、特徴的な対象物を推定できなかったと判定する。例えば、指示方向又は範囲方向の地物の数が所定値以上である場合には、対象推定部19は、対象物が複数あると判定する。特徴的な対象物を推定できなかったと判定される場合、コントローラ10は、第1実施形態と同様に、一定の時間間隔で一人の乗員の指示方向を取得して、車両2と対象物との間の距離を取得する。
【0075】
距離取得部17は、車両2の現在位置と特徴的な対象物の位置との間の距離、及び車両2を基準とした対象物の方向を取得する。具体的には、距離取得部17は、地図データの距離情報に基づいて、車両2の現在位置と特徴的な対象物の位置との間の距離を取得する。また、距離取得部17は、車両2に搭載された距離センサの検出情報により、特徴的な対象物との距離を取得する。距離センサは、レーザーセンサやデプスカメラ等を含む。
【0076】
次に、本実施形態に係る画像表示制御の手順について、
図8のフローチャートを用いて説明する。なお、ステップS803~ステップS809は、
図6に記載された第2実施形態に係る画像表示制御のステップS601~ステップS607と同様の手順となるため、説明を省略する。本実施形態では、
図3で示されるステップS306又はステップS309で、画像記録制御部16が指示画像を取得した後、ステップS801からのフローを開始する。
【0077】
ステップS801では、コントローラ10は、地図情報に基づいて、指示画像に含まれる特徴的な対象物を推定したか否かを判定する。コントローラ10が特徴的な対象物を推定したと判定される場合には、ステップS802に進む。コントローラ10が特徴的な対象物を推定したと判定されない場合には、ステップS803に進む。
【0078】
ステップS802では、コントローラ10は、車両2の位置と特徴的な対象物の位置との間の距離を算出する。例えば、コントローラ10は、地図データの距離情報に基づいて、車両2と特徴的な対象物との距離を算出する。コントローラ10は、距離を算出すると、ステップS805に進む。ステップS805では、
図6のS603と同様の処理を行うため、説明を省略する。
【0079】
ステップS803では、コントローラ10は、
図6のステップS601と同様に、一定の時間間隔で、指示方向を取得する。以下、ステップS803からステップS807までの手順は、
図6のステップS601からステップS605までの手順と同様であるため、説明を省略する。
【0080】
以上のように、本実施形態では、指示画像に含まれる対象物を検出し、車両の現在位置情報及び地図情報、又は車両の距離センサの検出情報に基づいて、車両から対象物までの距離を取得し、距離が閾値以下である場合の第1フレームレートを、距離が前記閾値より大きい場合の第2フレームレートよりも低く設定し、設定された第1フレームレートにより指示画像を表示部に表示させる制御を行い、指示画像を表示する。これにより、取得した指示画像に映る景色までの距離に応じて、指示画像を表示する表示形態を制御できる。
【0081】
なお、以上に説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【符号の説明】
【0082】
100…画像記録システム
1…画像記録装置
10…コントローラ
11…車内画像取得部
12…車外画像取得部
13…ジェスチャ検出部
14…車両状態推定部
15…指示内容特定部
16…画像記録制御部
17…距離取得部
18…画像表示制御部
19…対象推定部
20…加速度センサ
21…ジャイロセンサ
22…GPS
23…車速センサ
24…地図データ
30…車内カメラ
31…車外カメラ
40…記憶装置
41…通信装置
50…車載表示装置
60…端末装置