IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

特許7540497情報処理装置、画像送信システム、情報処理方法及びプログラム
<>
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図1
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図2
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図3
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図4
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図5
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図6
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図7
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図8
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図9
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図10
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図11
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図12
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図13
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図14
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図15
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図16
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図17
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図18
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図19
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図20
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図21
  • 特許-情報処理装置、画像送信システム、情報処理方法及びプログラム 図22
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-19
(45)【発行日】2024-08-27
(54)【発明の名称】情報処理装置、画像送信システム、情報処理方法及びプログラム
(51)【国際特許分類】
   G08G 1/16 20060101AFI20240820BHJP
   G08G 1/095 20060101ALI20240820BHJP
【FI】
G08G1/16 A
G08G1/095 F
【請求項の数】 9
(21)【出願番号】P 2022553415
(86)(22)【出願日】2020-10-02
(86)【国際出願番号】 JP2020037651
(87)【国際公開番号】W WO2022070426
(87)【国際公開日】2022-04-07
【審査請求日】2023-03-29
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103894
【弁理士】
【氏名又は名称】家入 健
(72)【発明者】
【氏名】逸身 勇人
(72)【発明者】
【氏名】篠原 悠介
(72)【発明者】
【氏名】二瓶 浩一
(72)【発明者】
【氏名】岩井 孝法
(72)【発明者】
【氏名】バイエ フロリアン
(72)【発明者】
【氏名】ヴィタル チャルヴィ
【審査官】田中 将一
(56)【参考文献】
【文献】特開2018-041389(JP,A)
【文献】特開2020-004366(JP,A)
【文献】特開2011-121398(JP,A)
【文献】特開2010-044561(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00 - 99/00
(57)【特許請求の範囲】
【請求項1】
車両に搭載された撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する隣接領域特定部と、
前記走行領域、前記隣接領域、及びその他の道路上の領域と重複する1つ以上の検出対象領域を、他の領域よりも高画質化する領域を決定し、
複数の対象を検出した場合に、前記走行領域、前記隣接領域、その他の道路上の領域、及び検出された対象の種別に関連付けられた優先度であって、前記車両の運転に影響を及ぼすかに応じて定められた優先度に基づいて、複数の対象領域のうち、対象領域の個数又は対象領域の画像全体に占める面積の割合に対する閾値を下回るように、前記1つ以上の対象の領域を選択する決定部と、
を備える、情報処理装置。
【請求項2】
決定された前記領域に基づいて、前記取得された画像に画像処理を行う画像処理部と、
画像処理された前記画像を遠隔監視制御装置に送信する通信部と、を更に備える、請求項1に記載の情報処理装置。
【請求項3】
前記対象の種別、前記走行領域、及び前記隣接領域に関連付けられた前記優先度は、前記車両が走行する地域ごとに異なるように定められている、請求項1又は2に記載の情報処理装置。
【請求項4】
前記走行領域特定部は、走行レーンを検出し、
前記隣接領域特定部は、走行レーンに隣接する隣接レーンを検出する、請求項1~3のいずれか一項に記載の情報処理装置。
【請求項5】
前記決定部は、前記通信部における可用帯域に基づいて決定される走行可能なデータ総量を下回るように、前記優先度に基づいて決定する、請求項2に記載の情報処理装置。
【請求項6】
前記1つ以上の対象と前記車両との距離を取得する距離取得部と、
前記取得された距離の単位時間あたり距離変化量を算出する距離変化量算出部と、を更に備え、
前記決定部は、前記優先度と前記距離変化量に基づいて、前記1つ以上の対象領域のうち、他の領域よりも高画質化する画像処理領域を決定する、請求項1~5のいずれか一項に記載の情報処理装置。
【請求項7】
車両に搭載された撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する隣接領域特定部と、
前記走行領域、前記隣接領域、及びその他の道路上の領域と重複する1つ以上の検出対象領域を、他の領域よりも高画質化する領域を決定し、
複数の対象を検出した場合に、前記走行領域、前記隣接領域、その他の道路上の領域、及び検出された対象の種別に関連付けられた優先度であって、前記車両の運転に影響を及ぼすかに応じて定められた優先度に基づいて、複数の対象領域のうち、対象領域の個数又は対象領域の画像全体に占める面積の割合に対する閾値を下回るように、前記1つ以上の対象の領域を選択する決定部と、
を備える、画像送信システム。
【請求項8】
コンピュータにより実行される情報処理方法であって、
車両に搭載された撮像部により撮影された画像を取得し、
取得された前記画像内の1つ以上の対象を検出し、
取得された前記画像内の領域で前記車両が走行する走行領域を特定し、
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定し、
前記走行領域、前記隣接領域、及びその他の道路上の領域と重複する1つ以上の検出対象領域を、他の領域よりも高画質化する領域を決定し、
複数の対象を検出した場合に、前記走行領域、前記隣接領域、その他の道路上の領域、及び検出された対象の種別に関連付けられた優先度であって、前記車両の運転に影響を及ぼすかに応じて定められた優先度に基づいて、複数の対象領域のうち、対象領域の個数又は対象領域の画像全体に占める面積の割合に対する閾値を下回るように、前記1つ以上の対象の領域を選択する、情報処理方法。
【請求項9】
車両に搭載された撮像部により撮影された画像を取得し、
取得された前記画像内の1つ以上の対象を検出し、
取得された前記画像内の領域で前記車両が走行する走行領域を特定し、
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定し、
前記走行領域、前記隣接領域、及びその他の道路上の領域と重複する1つ以上の検出対象領域を、他の領域よりも高画質化する領域を決定し、
複数の対象を検出した場合に、前記走行領域、前記隣接領域、その他の道路上の領域、及び検出された対象の種別に関連付けられた優先度であって、前記車両の運転に影響を及ぼすかに応じて定められた優先度に基づいて、複数の対象領域のうち、対象領域の個数又は対象領域の画像全体に占める面積の割合に対する閾値を下回るように、前記1つ以上の対象の領域を選択することをコンピュータに実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、画像送信システム、及び情報処理方法に関する。
【背景技術】
【0002】
携帯電話網経由での車両遠隔監視・制御では可用帯域が変動することから帯域不足による映像品質悪化が懸念されている。そこで、運転上重要なカメラ映像・領域のみを高画質化して送信することにより必要な情報を提供する方法が期待される。
【0003】
例えば、特許文献1には、前記画像データのうち、前記車両の運転者の視線方向を基準とする第1の所定範囲を前記周辺状況監視画像データとして特定する車両走行記録装置が開示されている。また、特許文献2には、画像の転送量を削減すべく、撮像画像の撮像を行う撮像部と、前記撮像画像の全体又は一部の領域である複数の転送領域内の領域画像を、前記転送領域毎に設定されているフレームレートで送信する送信制御を行う送信制御部とを備える撮像装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2020-106921号
【文献】国際公開第2019/077999号
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1のように、車両の運転者の視線方向を基準とする第1の所定範囲を用いても、十分な精度で、車両の走行にとって重要な領域を特定することができない場合がある。また、特許文献2でも画像内の検出物体数が多くなると、車両の走行にとって重要な領域を特定できない場合がある。
【0006】
本発明は、このような問題点を解決するためになされたものであり、車両の走行に影響を与え得る画像内の対象を特定することができる情報処理装置等を提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の第1の態様にかかる情報処理装置は、
車両に搭載された撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部と、
を備える。
【0008】
本開示の第2の態様にかかる画像送信システムは、
前記撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部と、
を備える。
【0009】
本開示の第3の態様にかかる情報処理方法は、
車両に搭載された撮像部により撮影された画像を取得し、
前記取得された画像内の1つ以上の対象を検出し、
前記取得された画像内の領域で前記車両が走行する走行領域を特定し、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する。
【発明の効果】
【0010】
本開示により、車両の走行に影響を与え得る画像内の対象を特定することができる情報処理装置等を提供することができる。
【図面の簡単な説明】
【0011】
図1】実施の形態1にかかる情報処理装置の構成を示すブロック図である。
図2】実施の形態1にかかる情報処理方法を示すフローチャートである。
図3】実施の形態2にかかる情報処理装置の構成を示すブロック図である。
図4】実施の形態2にかかる情報処理方法を示すフローチャートである。
図5】遠隔監視運転システムの概要を説明する概略図である。
図6】車両の車載カメラで撮影された画像の一例を示す図である。
図7】高画質化すべきROIの選択例を示す図である。
図8】実施の形態3にかかるルールベース手法の例を説明する図である。
図9】実施の形態3にかかる情報処理装置の構成を示すブロック図である。
図10】片側4車線の高速道路におけるレーン検出の例を説明する図である。
図11】レーン領域およびその他の道路上の領域、および検出された対象の種別に関連付けられた優先度の一例を示すテーブルである。
図12】実施の形態3にかかる情報処理方法のフローチャートである。
図13】実施の形態4にかかる情報処理装置の構成を示すブロック図である。
図14】車両と対象と距離を管理するテーブルの一例を示す。
図15】時間ごとの車両と対象との距離を示すグラフである。
図16】実施の形態4にかかる対象追跡および距離推定を説明するフローチャートである。
図17】その他の変形例を説明する概略図である。
図18】その他の変形例を説明する概略図である。
図19】その他の変形例を説明する概略図である。
図20図18の変形例にかかる情報処理装置の構成を示すブロック図である。
図21】他の実施の形態にかかる情報処理システム(又は画像送信システム)の構成を示すブロック図である。
図22】いくつかの実施形態における情報処理装置等のハードウェア構成例を示すブロック図である。
【発明を実施するための形態】
【0012】
以下、本発明を適用した具体的な実施形態について、図面を参照しながら詳細に説明する。ただし、本発明が以下の実施形態に限定される訳ではない。また、説明を明確にするため、以下の記載および図面は、適宜、簡略化されている。
【0013】
実施の形態1
図1は、実施の形態1にかかる情報処理装置の構成を示すブロック図である。
情報処理装置100は、プロセッサとメモリを含むコンピュータにより構成される。情報処理装置100は、車両の走行に重要な画像内の領域を特定し、特定された領域と、それ以外の領域に対して異なる画像処理を行うために使用される。情報処理装置100は、車両に搭載された撮像部により撮影された画像を取得する取得部11と、前記取得された画像内の1つ以上の対象を検出する対象検出部12と、前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部13と、走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部15と、を備える。
【0014】
取得部11は、ネットワークを介して、撮像部(例えば、車載カメラ)に接続されている。撮像部は、例えばデジタルスチルカメラやデジタルビデオカメラなどCCDやCMOSセンサ等の撮像素子を備えたカメラであり、映像を撮影して電気信号として出力する。
【0015】
対象検出部12は、例えば、車両の運転に影響を与え得る対象を予め設定することで、画像内の1つ以上の対象を検出する。対象は、移動する対象であっても、静止している対象であってもよい。
【0016】
走行領域特定部13は、画像内の領域であって、車両が走行することとなる走行領域を特定する。走行領域特定部13は、走行レーン、ガードポール等の車線分離標を検出することにより、走行領域を特定してもよい。
【0017】
あるいは、走行領域特定部13は、車幅とステアリング(移動方向)、車両速度などを考慮して、仮想的な走行領域を特定してもよい。仮想的な走行領域は、車両が停車している場合であっても、車両が走行した場合を想定して、特定することができる。例えば、車幅に所定のマージンを付与して、画像内の道路に車両の進行方向に沿って2本の仮想線を描くことで、走行領域を特定することができる。
【0018】
決定部15は、特定された走行領域に基づいて、検出された1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する。
【0019】
図2は、実施の形態1にかかる情報処理方法を示すフローチャートである。
車両に搭載された撮像部により撮影された画像を取得する(ステップS11)。取得された画像内の1つ以上の対象を検出する(ステップS12)。取得された画像内の領域で前記車両が走行する走行領域を特定する(ステップS13)。記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する(ステップS15)。
【0020】
以上説明した実施の形態1にかかる情報処理装置によれば、車両の走行に影響を与え得る画像内の対象を特定することができる。
【0021】
実施の形態2
図3は、実施の形態2にかかる情報処理装置の構成を示すブロック図である。
情報処理装置100は、車両に搭載された撮像部により撮影された画像を取得する取得部11と、前記取得された画像内の1つ以上の対象を検出する対象検出部12と、前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部13と、前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する隣接領域特定部14と、走行領域および隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部15と、を備える。
【0022】
隣接領域特定部14は、特定された走行領域に隣接する隣接レーン、路側帯又は歩道を検出することで、隣接領域を特定してもよい。あるいは、隣接領域特定部14は、特定された走行領域に隣接する所定の隣接領域(例えば、3.0~3.5mの道路の幅に相当する領域)を設定し、隣接領域を定めてもよい。また、走行レーンの幅に対して、所定の割合のマージンを、隣接領域として定めてもよい。隣接領域は、走行領域の一方の側だけに設定してもよいし、走行領域の両側に設定してもよい。隣接領域を走行領域の両側に設定する場合、一方の隣接領域の幅と、他方の隣接領域の幅は異なってもよい。
【0023】
決定部15は、例えば、走行領域および隣接領域を含む領域と重複する1つ以上の対象の領域を、画像処理を行う画像処理領域として決定することができる。決定部15は、このように重複する対象の領域を、画像内の他の領域に比べて、高画質化すべき領域に決定することができる。
【0024】
図4は、実施の形態2にかかる情報処理方法を示すフローチャートである。
車両に搭載された撮像部により撮影された画像を取得する(ステップS11)。前記取得された画像内の1つ以上の対象を検出する(ステップS12)。前記取得された画像内の領域で前記車両が走行する走行領域を特定する(ステップS13)。前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する(ステップS14)。走行領域および隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する(ステップS15)。
【0025】
以上説明した実施の形態2にかかる情報処理装置によれば、車両の走行に影響を与え得る画像内の対象を特定し、所定の画像処理を行う領域を決定することができる。
【0026】
実施の形態3
図5は、遠隔監視運転システムの概要を説明する概略図である。
遠隔監視運転システムは、遠隔監視センタから、運転手を必要としない車両5を遠隔操作する。無人運転車両5を遠隔操作する方式としては、車両5に搭載された複数台の車載カメラ10A~10Dで撮影された映像を、無線通信ネットワークおよびインターネットを介して遠隔監視制御装置800に送信する。車両に搭載される情報処理装置100は、車載カメラからの映像に所定の画像処理を行い、ネットワークを介して、画像処理後の映像を、遠隔監視制御装置800に送信するのに使用される。遠隔監視制御装置800は受信した映像をモニター等の表示部に表示し、遠隔運転者3は受信した映像をモニター上で見ながら車両5を遠隔操作する。遠隔監視制御装置800は、受信した映像の他に、遠隔運転者3が車両5を遠隔操作するための情報を表示してもよい。例えば、遠隔監視制御装置800は、遠隔運転者3に対して、受信した映像と、分析した結果を表示しても良い。車両5に搭載された遠隔運転制御装置は、携帯電話網を使用した通信方式(例えば、LTE、5G)を利用して地上監視遠隔制御装置800と双方向通信を行う。なお、遠隔監視運転システムは、遠隔監視下にある車両が走行中に、車両の危険を察知した際に、遠隔制御や自動制御に切り替えるものであってもよい。すなわち、人が運転している車両を一時的にこうした制御に切り替えるものであってもよく、車両に運転手がいてもよい。
【0027】
車載カメラ10Aは車両の前方を撮影し、車載カメラ10Bは車両の後方を撮影し、車載カメラ10Cは車両の右方を撮影し、車載カメラ10Dは車両の左方を撮影する。なお車載カメラの数は、これに限定されず、5個以上であってもよい。また、各カメラの性能は、基本的には同一であるが、若干異なっていてもよい。なお、タクシーなどの通常の運転手は、第二種免許が要求され、それには、視力0.8以上の人が見える範囲の対象物(物体とも呼ばれる)を認識できることが要求されている。そのため、遠隔運転者に提供される映像も、視力0.8以上の人が見える範囲の対象物を認識できる(例えば一般道の道路標識の場合は、運転手が10.66mの距離離れて標識を認識できる)ものであってもよい。遠隔運転者は、対象物だけでなく、対象物の周辺情報も視認する必要があり、こうした周辺情報も比較的高品質な映像として、遠隔運転者に送信されることができる。
【0028】
携帯電話網経由での車両遠隔監視・制御では可用帯域が変動することから帯域不足による映像品質悪化が懸念されている。そのため、帯域低下時に、撮影画像のうち重要な領域のみ高品質で送り、それ以外の領域を低画質で遠隔監視センタに送ることで、遠隔監視センタでの映像分析の精度を維持することができる。このように、帯域低下時のQoE(Quality of Experience)を維持することが可能になる。
【0029】
図6は、車両の車載カメラで撮影された画像の一例を示す図である。
図6は、図5で示した車載カメラ10Aにより車両の前方を撮影した画像の一例を示す。検出された物体は、バウンディングボックスで囲われる(この領域はROI(Region of Interest)とも呼ばれる)。ここでは、ROIとして、車両の運転に影響を与え得るもの、すなわち、他の車両、歩行者、自転車、信号機、交通標識などが検出される。例えば、図6では、道路の両側の路側帯に駐車された多数の車両が検出されている。このように、撮影画像内で検出される物体の数が多くなると、高画質化すべき領域が大きくなり、結果として使用帯域が増加する。そのため、どのROIを高画質化するかの判断が困難となる。また、前述したように、可用帯域は変動しうるので、低帯域の時に、遠隔監視センタに送られる映像は粗くなり、遠隔運転者の監視に支障をきたす場合がある。
【0030】
そこで、本開示では、運転に影響する対象を選択してその領域を高画質化することで、使用帯域を抑制し、低帯域の時においても、監視のQoEを維持することを目的とする。図7は、高画質化すべきROIの選択例を示す。例えば、走行レーンにおいて、先行する車両のROI1は、高画質すべき領域であると考えられる。車両が走行する走行レーンとは反対の対向車線上の路上駐車は、当該車両の運転に影響を及ぼさないと考えられる。また、走行レーンと同じ車線上の路側帯上の路上駐車については、発進する可能性のある車両のROI2のみを高画質化すべき領域と考えられる。さらに、歩道は、走行レーンとは、隣接レーンおよび路側帯を隔てて、十分に離れているので、歩道上の歩行者は、当該車両の走行に影響を及ぼさないと考えられる。このように、車両の運転に影響を及ぼすか否かを分類するための、予め設定された規則の集合をルールベースという。
【0031】
図8は、本開示の実施の形態3にかかるルールベース手法の例を説明する図である。
まず、車載カメラから撮影された画像から、複数のレーンを検出する。レーン検出は、既知の方法(例えば、非特許文献Zequn Qin著、Ultra Fast Structure-aware Deep Lane Detection参照)を採用することができる。図8では、車載カメラが前方を撮影した画像のうち、画面下部中央の2つのレーンに囲われた領域DRを走行レーンとして扱う。また、走行レーンと、走行レーンに隣接するレーンとの間の領域を隣接レーンAR(第1の左隣レーン又は第1の右隣レーン、又は単に、左隣レーン又は右隣レーンとも呼ばれる)として扱う。更に、第1の左隣レーンと、第1の左隣レーンに隣接するレーンとの間の領域を第2の左隣レーンとして扱う。同様に、第1の右隣レーンと、第1の右隣レーンに隣接するレーンとの間の領域を第2の右隣レーンとして扱う。
【0032】
図8の例では、車両が走行している走行レーンを検出し、さらに、隣接レーンとして、走行レーンと隣接する右隣レーン(路側帯を含む)を検出する。一方、車両の走行に影響を及ぼす可能性のある1つ以上の対象も検出される。この検出されたレーン領域と重複する、1つ以上の対象を、高画質化すべき領域であると決定することができる。なお、対象は、レーン領域と完全に重複する必要はなく、部分的に重複してもよい。
【0033】
また、多数の対象が検出された場合は、走行レーンに付与された優先度、隣接レーンに付与された優先度、およびその他の領域に付与された優先度に基づいて、多数の対象から、高画質化すべき領域を選択することができる。例えば、ROIの上限個数(例えば、8個)を設定し、優先度に応じて、多数の対象から、高画質化すべき領域を選択してもよい。また、画像フレーム全体のうちの上限面積(例えば、画像フレーム全体の30%以内)を設定し、優先度に応じて、多数のROIから、高画質化すべき領域を選択してもよい。領域の面積が小さく、優先度が高い(すなわち、優先度/ROI面積)順に、高画質化すべき領域が、画像フレーム全体の30%以内に収まるように設定することもできる。なお、これらの高画質すべきROIの上限個数や上限面積は、使用帯域に応じて、変更され得る。例えば、使用帯域が大きくなる場合は、上限個数を増加させたり、上限面積を拡張したりすることができる。
【0034】
図9は、情報処理装置の構成を示すブロック図である。
情報処理装置100は、プロセッサおよび記憶部を有するコンピュータにより構成される。情報処理装置100は、例えば、車両に搭載され、1つ以上の対象を検出するとともに、1つ以上の対象から当該車両の運転に影響する対象を決定し、決定された対象領域のみを他の領域より高画質化して、遠隔監視センタに送信するために使用され得る。情報処理装置100は、画像取得部110、対象検出部120、レーン検出部130、決定部140、画像処理部(エンコーダ)150、および通信部160を備える。本実施の形態にかかる情報処理装置100は、画像処理装置とも呼ばれる。
【0035】
画像取得部110は、車載カメラ10A(図3)などにより撮影された映像を所定のフレームレートで画像フレームとして順次取得する。なお、本例では、車載カメラ10Aにより撮影された画像フレームを例に説明するが、本開示はこれに限定されない。例えば、本開示にかかる情報処理装置は、車両の後方を撮影する車載カメラ10Bにより撮影された画像フレームにも適用することができる。
【0036】
対象検出部120は、画像取得部110からの画像内において、対象を検出する。検出する対象は、任意に予め設定することができる。ここでは、車両の運転に影響を及ぼすおそれのある対象(例えば、人、車両、オートバイ、自転車、トラック、バスなど)を設定する。対象検出部120は、既知の画像認識技術を用いて、対象の種別(例えば、人、車両、自転車、バイクなど)を識別することもできる。
【0037】
レーン検出部130は、画像取得部110からのフレームにおいて、レーン等を検出する。具体的には、車両が走行する走行レーン、走行レーンに隣接する隣接レーン(右隣レーンおよび左隣レーン)、およびこれらの周辺にあるその他の道路上の領域および物体を検出する。その他の道路上の領域としては、例えば、路側帯、歩道、自転車道、中央分離帯などが挙げられる。その他の道路上の物体としては、壁、フェンス、ガードレールなどが挙げられる。
【0038】
図10は、片側4車線の高速道路におけるレーン検出の例を説明する図である。
車両の左側から第2レーンを走行している。レーン検出部130は、画像内の車線を検出し、2つの車線で挟まれた領域を走行レーンDRと認識する。さらに、レーン検出部130は、走行レーンと隣接する車線で挟まれた領域を、左隣レーン(左隣接領域LAR)および右隣レーン(右隣接領域RAR)と認識する。
【0039】
レーン検出部130は、例えば、道路の中央にフェンスや中央分離帯を検出した場合、対向車が当該車両に影響を及ぼすことはほとんどないので、図10で示すように、対向車線の隣接レーンをレーン領域から除外してもよい。図10の例では、走行レーン、左隣レーンおよび右隣レーンと重複する1つ以上の対象物を、他の領域よりも高画質化すべき領域であるとみなすことができる。
【0040】
一方、レーン検出部130は、例えば、道路の中央にフェンスや中央分離帯を検出しない場合、対向車が当該車両に影響を及ぼすことがあると判断してもよい。例えば、車両が対向車線と隣接する左側から第1のレーンを走行していた場合、対向車線の隣接レーンをレーン領域に含めてもよい。
【0041】
レーン検出部130は、車両が走行する走行レーンが歩道に隣接する場合、歩道から人が走行レーンに飛び出してくる恐れがあるので、歩道を隣接領域として検出してもよい。
【0042】
決定部140は、検出された走行レーンおよび隣接レーンを含むレーン領域およびその他の道路上の領域と、検出された1つ以上の対象に基づいて、他の領域より高画質化すべき領域を決定する。言い換えると、決定部140は、1つ以上の対象を含む画像を、画像内の高画質化すべき領域と、低画質化すべき領域に区分するように決定する。決定部140は、当該レーン領域およびその他の道路上の領域と重複する1つ以上の検出対象領域を、高画質化すべき領域であると決定することもできる。
【0043】
高画質化処理は、例えば、コントラスト増加処理、高解像度化処理、階調数増加処理、色数増加処理、又はダイナミックレンジ増加処理、圧縮率の低減処理を含んでよい。低画質化処理は、コントラスト低減処理、低解像度化処理、階調数削減処理、色数削減処理、又はダイナミックレンジ削減処理を含んでもよい。高画質化処理も、コントラスト低減処理、低解像度化処理、階調数削減処理、色数削減処理、又はダイナミックレンジ削減処理を含んでもよいが、低画質化処理よりも高画質になるような各種画像処理である。なお、決定部140が高画質化すべき領域と、低画質化すべき領域に区分すると記載したが、低画質化すべき領域よりも高画質化すべき領域の画質が高画質であればよく、必ずしも低画質化する処理を行わなくともよい。
【0044】
決定部140は、多数の対象が検出された場合は、当該レーン領域およびその他の道路上の領域、および検出された対象の種別に関連付けられた優先度に基づいて、高解像度とすべき領域を決定することもできる。この際、貪欲法を用いてもよい。詳細は図11を用いて後述する。
【0045】
画像処理部(エンコーダ)150は、決定部140で決定された領域を、それ以外のフレーム内の領域に比べて、高画質になるようにエンコードする。例えば、画像処理部(エンコーダ)150は、高画質化すべき領域を第1の圧縮率で符号化し、低画質化すべき領域を、第1の圧縮率よりも高い第2の圧縮率で符号化することができる。また、低画質化すべき領域は、色を削減し、例えば、RGBのカラー画像からグレースケール画像に変換してもよい。画像処理部(エンコーダ)150は、様々な画像処理を行うことができる(画像処理部とも呼ばれる)。
【0046】
通信部160は、ネットワークとの通信インタフェースである。通信部160は、情報処理システムを構成する他のネットワークノード装置(例えば、遠隔監視センタ側の情報処理装置)と通信するために使用される。通信部160は、無線通信を行うために使用されてもよい。例えば、通信部160は、IEEE 802.11 seriesにおいて規定された無線LAN通信、もしくは3GPP(3rd Generation Partnership Project)、4G、5G等において規定されたモバイル通信を行うために使用されてもよい。また、通信部160は、Bluetooth(登録商標)等を介してスマートフォンと通信可能に接続することもできる。通信部160は、カメラとネットワークを介して接続することができる。
【0047】
また、通信部160は、符号化された画像フレームのデータを、遠隔監視センタに送信する。通信部160は、LTE、5Gなどのモバイルネットワークを介して、エンコードされた画像データを遠隔監視制御装置800(図5)に送信する。
【0048】
図11は、当該レーン領域およびその他の道路上の領域、および検出された対象の種別に関連付けられた優先度の一例を示すテーブルである。本例では、片側3車線の道路において、車両が中央レーンを走行している場合について説明する。本例では、中央レーンが走行レーンとなり、中央レーンに隣接する左隣レーンおよび右隣レーンが隣接領域となる。さらに、右隣レーンに隣接する歩道なども隣接領域とする。
【0049】
テーブルに示す数値が高いほど、優先度は高いものとする。例えば、人が左隣レーン、走行レーン及び右隣レーンにいたことが検出された場合(すなわち、人が道路を横断していることが検出された場合)、人の安全を守るために、優先度を最重要となるスコア(テーブルでは、「100」)に設定してもよい。一方、歩道上の人が検出された場合は、道路上の人に付与される最重要となるスコア(図11では、「100」)より、低いスコア(図11では、「40」)が付与される。
【0050】
また、テーブルに示すように、左隣レーン、走行レーン、右隣レーンおよびその他の領域ごとに、異なる優先度を設定することもできる。例えば、自転車や車についても、走行レーンにおける優先度は、左隣レーン、右隣レーン、および歩道の優先度より高くなるように設定されている。さらに、対象の種別(図11では、人、自転車、車)に応じて、異なる優先度を設定することもできる。これらの優先度を示すテーブルは、車両が走行する地域(例えば、市街地、高速道路)ごとに変わってもよい。このように、多数の対象領域のうち、高画質化すべき領域は、可用帯域に基づいて決定される送信可能なデータ総量を下回るように、優先度に基づいて決定される。
【0051】
図12は、実施の形態3にかかる情報処理方法のフローチャートである。
情報処理装置は、車載カメラ等から、画像を取得する(ステップS101)。画像から、1つ以上の対象を検出する(ステップS102)。一方、画像から、車両が走行している走行レーンを検出する(ステップS104)。さらに、画像から、走行レーンに隣接する隣接レーン又は走行レーンに隣接する他の領域(歩道、路側帯など)を隣接領域として検出する(ステップS106)。なお、ここでは、低遅延化の観点からパラレル処理を示しているが、シーケンシャルな処理を行ってもよい。例えば、ステップS102を実施した後にステップS104、S106を実行しても良いし、S104、S106を実行したとにS102を実行しても良い。
【0052】
走行レーンおよび隣接領域を含む領域と重複する1つ以上の対象領域を取得する(ステップS108)。重複する対象領域(例えば、対象領域の個数又は対象領域の画像全体に占める面積の割合)が閾値よりも小さい場合は(ステップS109でNO)、対象領域を、他の領域よりも高画質になるように画像データをエンコードして、遠隔監視センタに送信する(ステップS110)。
【0053】
重複する対象領域(例えば、対象領域の個数又は対象領域の画像全体に占める面積の割合)が閾値よりも大きい場合は(ステップS109でYES)、優先度に基づいて、多数の対象領域のうち、当該閾値を下回るように、1つ以上の対象領域を選択する(ステップS112)。選択された1つ以上の対象領域を他の領域より高画質になるように画像データをエンコードして、遠隔監視センタに送信する(ステップS114)。
【0054】
以上説明した実施の形態3にかかる情報処理装置は、車両の運転に影響を及ぼす重要な領域を選択的に高画質にすることで、使用帯域を抑制しつつ、画像データを遠隔監視センタに送信することもできる。
【0055】
実施の形態4
図13は、実施の形態4にかかる情報処理装置の構成を示すブロック図である。
本実施形態にかかる情報処理装置は、画像内の対象を検出するだけでなく、検出された対象を追跡し、車両と対象との距離を推定し、推定された距離に応じて、前述した優先度を決定する。例えば、車両の前方を走行している他の対象車両が急停車した場合、車両と対象車両との距離が急激に縮まる場合、この対象車両の優先度を高くし、高画質すべき領域であると判断することができる。具体的には、情報処理装置200は、取得部110、対象検出部120、距離推定部210、対象追跡部220、対象距離取得部230、対象距離保存部250、決定部240、および画像処理部(エンコーダ)150を有する。
【0056】
対象検出部120は、画像内の1つ以上の対象を検出するとともに、対象ごとに対象IDを付与し、管理する。距離推定部210は、画像内の検出された対象と車両との距離を推定する。例えば、画像内の対象の大きさから、距離を推定することができる。推定された距離は、対象IDと、時刻とともに、対象距離保存部250に保存される。図14は、車両と対象と距離を管理するテーブルの一例を示す。
【0057】
対象追跡部220は、画像内の検出された1つ以上の対象を追跡し、追跡している対象の対象IDを取得する。すなわち、対象追跡部220は、車両が移動しているか、又は対象が移動している場合であっても、画像内の対象を追跡することができる。対象距離取得部230は、検出された対象の対象IDから、過去の対象距離と、現在時刻の対象距離との変化量を算出することができる。図15は、時間ごとの車両と対象との距離を示すグラフである。図15では、実線は、接近車両を示し、破線は所定の車間距離を保持した先行車両を示している。決定部240は、検出された多数の対象領域から、高画質化すべき領域を決定するに際し、前述した優先度に加えて、車両の対象との距離変化を考慮する。すなわち、決定部240は、接近する対象は車両の運転に影響を及ぼすおそれが高いものとして、高画質化すべき領域と判断する。言い換えると、決定部240は、1つ以上の対象を含む画像を、高画質化すべき領域と、低画質化すべき領域に区分するように決定する。決定部140は、例えば、図11で示した優先度のテーブルにおいて、接近車両には、優先度のスコア(例えば、走行レーン又は左隣レーンでの接近車両の場合、「+20」)を加算する。
【0058】
図16は、実施の形態4にかかる対象追跡および距離推定を説明するフローチャートである。
情報処理装置は、車載カメラ等から、画像を取得する(ステップS201)。画像から、1つ以上の対象を検出する(ステップS202)。さらに、対象追跡により、対象の対象IDを取得する(ステップS203)。
【0059】
一方、画像から、車両が走行している走行レーンを検出する(ステップS204)。さらに、画像から、走行レーンに隣接する隣接レーン又は走行レーンに隣接する他の領域(歩道、路側帯など)を隣接領域として検出する(ステップS206)。さらに、本実施形態では、車両と対象との距離を推定する(ステップS208)推定された距離は、取得時間とともに、対象距離保存部250に保存される。なお、ここでは、低遅延化の観点からパラレル処理を示しているが、シーケンシャル処理を行ってもよい。例えば、ステップS204、S206を実施した後にステップS202、S203、S208を実行しても良いし、S202、S203、S208を実行した後にS204、S206を実行しても良い。
【0060】
走行レーンおよび隣接領域を含む領域と重複する1つ以上の対象領域を取得する(ステップS210)。ここでは、本実施形態では、重複する対象領域(例えば、対象領域の個数又は対象領域の画像全体に占める面積の割合)が閾値よりも大きい場合は、対象と車両との距離変化量と、前述した優先度に基づいて、多数の対象領域のうち、当該閾値を下回るように、1つ以上の対象領域を選択する。
【0061】
まず現在時刻における車両と対象との距離を取得する(ステップS211)。次に、対象IDから、車両と過去の対象との距離を、対象距離保存部250から取得する(ステップS213)。現在時刻での車両と対象との距離と、過去の時刻での車両と対象との距離との変化量を算出する(ステップS214)。車両と対象との距離との変化量から、接近対象を判別する。以上により、前述した優先度、および接近する対象に基づいて、多数の対象領域のうち、当該閾値を下回るように、1つ以上の対象領域を選択する。選択された1つ以上の対象領域を他の領域より高画質になるように画像データをエンコードして、遠隔監視センタに送信する(ステップS215)。
【0062】
以上説明した実施の形態3にかかる情報処理装置は、車両と対象との距離を考慮しつつ、車両の運転に影響を及ぼす重要な領域を選択的に高画質にすることで、使用帯域を抑制しつつ、画像データを遠隔監視センタに送信することもできる。
【0063】
その他の変形例
変形例は、走行している車両の外部環境に応じて、最適なROI決定プログラムを選択する。例えば、ROI決定プログラムAは、高速道路などに最適化されたプログラムである。すなわち、高速道路では、人が道路を横断したり、自転車が道路を走行したりすることはないため、先行車や車線変更の可能性の高い車に対して、高い優先度を定めている。一方、ROI決定プログラムBは、住宅街などに最適化されたプログラムである。すなわち、住宅街では、歩行者や自転車が多く、人が車両の走行に影響を及ぼす可能性が高いので、歩行者や自転車など人を高い優先度を定めている。なお、この変形例は、特に、上記した実施形態3、4、5に適用することができる。
【0064】
図17および図18は、本変形例にかかる決定部140の構成を詳細に示すブロック図である。図17は、車両が第1の環境(例えば、高速道路)を走行していることを検知して、第1の環境に適合したROI決定プログラムを選択する例を示す。図18は、車両が第2の環境(例えば、住宅街)を走行していることを検知して、第2の環境に適合したROI決定プログラムを選択する例を示す。
【0065】
環境決定部410は、自車両の位置、地図情報、経路情報、および取得画像などの外部情報420に基づいて、自車両がいる環境を決定する。これらの外部情報420は、一般的なカーナビゲーションシステムから、ナビゲーション情報として取得することができる。外部情報420のうち、自車両の位置情報は、例えば、GPS(Global Positioning System)受信機からの位置情報から取得され得る。環境としては、高速道路や住宅街が挙げられるが、これらに限定されない。例えば、環境決定部410は、人が歩くことがほとんどない道か否か(例えば、山道)、車線数(例えば、片側1車線、2車線、3車線以上)、歩道の有無、中央分離帯の有無などを決定してもよい。
【0066】
プログラム選択部141は、決定された環境に基づいて、予め用意された複数のプログラムから最適なプログラムを選択する。予め用意された複数のプログラムは、環境ごとに最適化された優先度に応じて、検出された多数の対象領域(又はROI)から、高画質化すべき領域を決定するためのプログラムである。
【0067】
図19は、その他の変形例を説明する概略図である。
本変形例では、左折時に、車両が対向車線を横切る場合、自車線(走行レーン)ではなく、反対車線(対向レーン)を高画質化すべき領域になるように、高画質化すべき領域を切り替えてもよい。例えば、決定部は、反対車線の優先度を自車線(走行レーン)の優先度より高くしてもよい。
【0068】
また、その他の変形例として、右折時に、車両が対向車線を横切る場合、自車線(右折前に走行している走行レーン)ではなく、反対車線(対向レーン)を高画質化すべき領域になるように決定部は、高画質化すべき領域を切り替えてもよい。
【0069】
また、車両が走行レーンから隣接レーンへ車線変更する場合、走行レーンに加えて、隣接レーン(移動先のレーン)も高画質化すべき領域になるように切り替えてもよい。この場合、例えば、隣接レーン(移動先のレーン)の優先度を、走行レーンの優先度より高く設定してもよい。
【0070】
また、その他の変形例としては、信号機のない横断歩道がある場合、横断歩道の先にある車よりも、走行領域に隣接する横断歩道(隣接領域)付近にある対象(例えば、人、自転車)を高画質化すべき領域になるように優先度を切り替えてもよい。この場合、走行領域に隣接する横断歩道付近にある対象の優先度を、車両から横断歩道より遠い走行領域(走行レーン)にある対象の優先度より、高く設定してもよい。
【0071】
図20は、図19の変形例にかかる情報処理装置の構成を示すブロック図である。
情報処理装置400は、画像取得部110,対象検出部120、レーン検出部430、レーン変更検知部470,外部情報420、決定部440、画像処理部(エンコーダ)150、通信部160を有する。
【0072】
本変形例にかかる情報処理装置400は、車両がレーンを変更したことを検知するレーン変更検知部470(走行領域変更検知部とも呼ばれる)を有する。例えば、レーン変更検知部470は、走行レーンから隣接レーンへの移動(車線変更)や、交差点での右左折を検知する。レーン変更検知部470は、経路情報などの外部情報420を取得し、外部情報420に基づいて、車線変更や右左折を判断することができる。あるいは、レーン変更検知部470は、車両からCAN(Controller Area Network)を介してステアリング情報を受信して、レーン変更を検知してもよい。
【0073】
レーン検出部430は、上記した実施形態のレーン検出部の機能に加えて、レーン変更検知部470の検知結果に基づいて、対向レーンを検出することもできる。レーン検出部430は、右左折又は車線変更時に、対向レーンを隣接領域として検出してもよい。
【0074】
決定部440は、走行領域(本例では、走行レーン)および隣接領域(本例では、対向レーン)に基づいて、1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定することができる。本例では、対向レーンも隣接領域となるため、対向レーンに含まれる1つ以上の対象も高画質化すべき領域に決定することができる。
【0075】
あるいは、決定部440は、レーン変更検知部470の検知結果に基づいて、優先度を変更してもよい。例えば、決定部440は、右左折が発生することを判断した場合、右左折時に、対向レーンの優先度を、走行レーンの優先度より高くなるように優先度を変更してもよい。また、決定部440は、例えば、車両からステアリング情報を受信して、車両が車線変更すると判断した時、(移動先のレーン)の優先度を、走行レーンの優先度と同程度設定してもよいし、走行レーンの優先度以上に高く設定してもよい。
【0076】
また、レーン検出部430又は対象検出部120は、横断歩道を検出することもできる。横断歩道が検出された場合は、レーン検出部430は、横断歩道付近の左右の領域を、隣接領域として検出してもよい。
【0077】
決定部440は、走行領域(本例では、走行レーン)および隣接領域(本例では、横断歩道付近の左右の領域)に基づいて、1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定することができる。本例では、横断歩道付近の左右の領域も隣接領域となるため、横断歩道付近の左右の領域に含まれる1つ以上の対象も高画質化すべき領域に決定することができる。
【0078】
また、上述した実施の形態では、情報処理装置100に複数の構成要素(例えば図1に記載の取得部11、対象検出部12、走行領域特定部13、決定部15、図9に記載の画像取得部110、対象検出部120、レーン検出部130、決定部140、エンコーダ150、および通信部160等)が設けられているが、これには限定されない。情報処理装置100に設けられていた構成要素は、1つの装置に設けることには限定されず、複数の装置に分散して設けられていても良い。例えば、レーン検出部130を外部の装置に設け、予め外部の装置のレーン検出部130が行ったレーン検出の結果に基づいて、対象検出部120が画像処理の対象を判断しても良い。
【0079】
なお、本明細書では走行領域を特定して、特定した走行領域に基づいて画像処理を行う画像処理領域を決定する方法を記載したが、画像処理領域の決定は走行領域に基づくものに限られない。例えば、走行状態に基づいて、画像処理を行う画像処理領域を決定しても良い。走行状態とは、車両が走行する状態を示すもので、例えば、車両が走行するレーンや、走行する方向、速度である。
【0080】
例えば、車両が右折するという状況を走行状態として捉え、横切る対向車線(対向車レーン)を左隣レーンとして検出して、当該左隣レーン上の対象物を画像処理領域として決定してもよい。
【0081】
例えば、車両が十字路で右折する場合に、車両が右に向いたという方向を走行状態として検出して、同じ方向を向いた対象物(例えば、右折して侵入する先の道路に直進で侵入する車両)を検出して、画像処理領域としてもよい。 また、車両が直進する場合に、右向きに進む(車両が直進する方向と交わる方向を向いた)自転車を検出して、画像処理領域としてよい。
【0082】
例えば、車両が時速15kmで走行している場合には、時速30kmで走行する場合に決定した画像処理領域よりも少ない領域を選択しても良い。例えば、車両30kmで走行するという状況を走行状態として捉え、100m先のものまで画像処理領域として選択したが、車両15kmで走行する場合には、50m先のものまで画像処理領域として選択する(50mより先の対象物は画像処理領域として選択しない)としてもよい。なお、説明簡略化のために具体的な距離を記載したが、対象物までの距離は実施例4に記載の方法でも良いし、これに限定されるものではない。
【0083】
さらに、走行状態は複数の指標を含んでいても良い。例えば、車両が時速30kmで走行している際に車両の直進する方向と逆の方向を向いた自転車(車道を逆走する自転車等)を検出した場合に、画像処理領域として選択しても良い(時速10kmで走行している場合には画像処理領域として選択しないと判断しても良い)。
【0084】
図21は、他の実施の形態にかかる情報処理システム(又は画像処理システム)の構成を示すブロック図である。
情報処理システムは、車両に搭載された情報処理装置100と、情報処理装置100とネットワークを介して通信可能に接続された遠隔監視制御装置800とを備える。ネットワークは、例えば、LTE(Long Term Evolution)等の通信回線規格を用いたネットワークであってもよいし、WiFi(登録商標)又は第5世代移動通信システムなどの無線通信網を含んでいてもよい。
【0085】
情報処理装置100は、車両に搭載された撮像部により撮影された画像を取得する取得部11と、前記取得された画像内の1つ以上の対象を検出する対象検出部12と、取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部13と、前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部15と、を備える。更に、情報処理装置100、図9等に示すように、決定された画像処理領域に対して画像処理する画像処理部150と、画像処理された画像データを遠隔監視制御装置800に送信する通信部160とを備える。
【0086】
情報処理システムは、車両の走行に影響を与え得る画像内の対象を特定することができる。また、画像送信システムは、使用帯域を抑制しつつ、車両の運転に影響を与え得る適切な領域を画像処理し、画像処理後の画像データを遠隔監視制御装置に送信することで、車両の遠隔監視および遠隔制御を実現することができる。
【0087】
なお、図21では、取得部11と対象検出部12と走行領域特定部13と決定部15とを備える情報処理装置100として記載したが、それぞれ異なる装置に搭載されたシステムとして実装されても良い。例えば、取得部11と対象検出部12とを搭載した装置と、走行領域特定部13と決定部15とを備える装置とがネットワークを介して通信するような構成であっても良い。
【0088】
また、以上説明した実施の形態では、情報処理ステム及び遠隔監視運転システムにおいて、遠隔運転者3が無人運転車両5を遠隔で操作する形式としたが、これに限られない。例えば、無人運転車両5を統括して制御する統括制御装置を設けても良い。統括制御装置は、無人運転車両5から取得した情報を基に、無人運転車両5が自律運転するための情報を生成して、無人運転車両5が該情報に従って動作してもよい。
【0089】
図22は、情報処理装置100、200、400、及び遠隔監視制御装置800(以下、情報処理装置100等とする)のハードウェア構成例を示すブロック図である。図22を参照すると、情報処理装置100等は、ネットワーク・インターフェース1201、プロセッサ1202、及びメモリ1203を含む。ネットワーク・インターフェース1201は、通信システムを構成する他のネットワークノード装置と通信するために使用される。ネットワーク・インターフェース1201は、無線通信を行うために使用されてもよい。例えば、ネットワーク・インターフェース1201は、IEEE 802.11 seriesにおいて規定された無線LAN通信、もしくは3GPP(3rd Generation Partnership Project)において規定されたモバイル通信を行うために使用されてもよい。もしくは、ネットワーク・インターフェース1201は、例えば、IEEE 802.3 seriesに準拠したネットワークインターフェースカード(NIC)を含んでもよい。
【0090】
プロセッサ1202は、メモリ1203からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態においてフローチャートもしくはシーケンスを用いて説明された情報処理装置100等の処理を行う。プロセッサ1202は、例えば、マイクロプロセッサ、MPU(Micro Processing Unit)、又はCPU(Central Processing Unit)であってもよい。プロセッサ1202は、複数のプロセッサを含んでもよい。
【0091】
メモリ1203は、揮発性メモリ(RAM(Random Access Memory))及び不揮発性メモリ(ROM(Read Only Memory))の組み合わせによって構成される。メモリ1203は、プロセッサ1202から離れて配置されたストレージを含んでもよい。この場合、プロセッサ1202は、図示されていないI/Oインタフェースを介してメモリ1203にアクセスしてもよい。例えば、メモリ1203は、必ずしも装置の一部である必要はなく、外部記憶装置であってもよいし、ネットワークを介してコンピュータ装置500に接続されたクラウドストレージであってもよい。
【0092】
図22の例では、メモリ1203は、ソフトウェアモジュール群を格納するために使用される。プロセッサ1202は、これらのソフトウェアモジュール群をメモリ1203から読み出して実行することで、上述の実施形態において説明された情報処理装置100等の処理を行うことができる。
【0093】
図22を用いて説明したように、情報処理装置100等が有するプロセッサの各々は、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。
【0094】
なお、上述のフローチャートを参照して説明した各処理は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。また、プログラムは、1のCPUにより処理されるものであってもよいし、複数のCPUによって分散処理されるものであってもよい。
【0095】
上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリを含む。磁気記録媒体は、例えばフレキシブルディスク、磁気テープ、ハードディスクドライブであってもよい。半導体メモリは、例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory)であってもよい。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【0096】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。以上で説明した複数の例は、適宜組み合わせて実施されることもできる。
【0097】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
車両に搭載された撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部と、
を備える、情報処理装置。
(付記2)
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する隣接領域特定部を更に備え、
前記決定部は、前記走行領域および前記隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する、付記1に記載の情報処理装置。
(付記3)
前記決定部は、前記対象の種別、当該走行領域及び当該隣接領域に関連付けられた優先度に基づいて、前記1つ以上の対象領域のうち、画像処理を行う画像処理領域を決定する、付記2に記載の情報処理装置。
(付記4)
前記走行領域特定部は、走行レーンを検出する、付記1に記載の情報処理装置。
(付記5)
前記隣接領域特定部は、走行レーンに隣接する隣接レーンを検出する、付記2に記載の情報処理装置。
(付記6)
前記1つ以上の対象と前記車両との距離を取得する距離取得部と、
前記取得された距離の単位時間あたり距離変化量を算出する距離変化量算出部と、
を更に備え、
前記決定部は、前記距離変化量に基づいて、前記1つ以上の対象領域のうち、他の領域よりも高画質化する画像処理領域を決定する、付記1~5のいずれか一項に記載の情報処理装置。
(付記7)
車両に搭載された撮像部により撮影された画像を取得する取得部と、
前記取得された画像内の1つ以上の対象を検出する対象検出部と、
前記取得された画像内の領域で前記車両が走行する走行領域を特定する走行領域特定部と、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する決定部と、
を備える、画像送信システム。
(付記8)
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定する隣接領域特定部を更に備え、
前記決定部は、前記走行領域および前記隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する、付記7に記載の画像送信システム。
(付記9)
前記決定部は、前記対象の種別、当該走行領域及び当該隣接領域に関連付けられた優先度に基づいて、前記1つ以上の対象領域のうち、画像処理を行う画像処理領域を決定する、付記8に記載の画像送信システム。
(付記10)
前記走行領域特定部は、走行レーンを検出する、付記7に記載の画像送信システム。
(付記11)
前記隣接領域特定部は、走行レーンに隣接する隣接レーンを検出する、付記8に記載の画像送信システム。
(付記12)
前記隣接領域特定部は、前記走行レーン又は前記隣接レーンに隣接する路側帯又は歩道を検出する、付記11に記載の画像送信システム。
(付記13)
前記1つ以上の対象と前記車両との距離を取得する距離取得部と、
前記取得された距離の単位時間あたり距離変化量を算出する距離変化量算出部と、
を更に備え、
前記決定部は、前記距離変化量に基づいて、前記1つ以上の対象領域のうち、他の領域よりも高画質化する画像処理領域を決定する、付記7~12のいずれか一項に記載の画像送信システム。
(付記14)
車両に搭載された撮像部により撮影された画像を取得し、
前記取得された画像内の1つ以上の対象を検出し、
前記取得された画像内の領域で前記車両が走行する走行領域を特定し、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する、情報処理方法。
(付記15)
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定し、
前記走行領域および前記隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定する、付記14に記載の情報処理方法。
(付記16)
前記対象の種別、当該走行領域及び当該隣接領域に関連付けられた優先度に基づいて、前記1つ以上の対象領域のうち、画像処理を行う画像処理領域を決定する、付記15に記載の情報処理方法。
(付記17)
走行レーンを検出する、付記14に記載の情報処理方法。
(付記18)
走行レーンに隣接する隣接レーンを検出する、付記15に記載の情報処理方法。
(付記19)
前記走行レーン又は前記隣接レーンに隣接する路側帯又は歩道を検出する、付記18に記載の情報処理方法。
(付記20)
前記1つ以上の対象と前記車両との距離を取得し、
前記取得された距離の単位時間あたり距離変化量を算出し、
前記距離変化量に基づいて、前記1つ以上の対象領域のうち、他の領域よりも高画質化する画像処理領域を決定する、付記14~19のいずれか一項に記載の情報処理方法。
(付記21)
車両に搭載された撮像部により撮影された画像を取得し、
前記取得された画像内の1つ以上の対象を検出し、
前記取得された画像内の領域で前記車両が走行する走行領域を特定し、
前記走行領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定することをコンピュータに実行させる、プログラム。
(付記22)
前記走行領域に隣接する領域で、前記車両の走行に影響を及ぼすおそれのある1つ以上の対象を含む隣接領域を特定し、
前記走行領域および前記隣接領域に基づいて、前記1つ以上の対象の領域のうち、画像処理を行う画像処理領域を決定することをコンピュータに実行させる、付記21に記載のプログラム。
(付記23)
前記対象の種別、当該走行領域及び当該隣接領域に関連付けられた優先度に基づいて、前記1つ以上の対象領域のうち、画像処理を行う画像処理領域を決定する、付記22に記載のプログラム。
(付記24)
走行レーンを検出する、ことをコンピュータに実行させる、付記21に記載のプログラム。
(付記25)
走行レーンに隣接する隣接レーンを検出する、ことをコンピュータに実行させる、付記22に記載のプログラム。
(付記26)
前記走行レーン又は前記隣接レーンに隣接する路側帯又は歩道を検出することをコンピュータに実行させる、付記22に記載のプログラム。
(付記27)
前記1つ以上の対象と前記車両との距離を取得し、
前記取得された距離の単位時間あたり距離変化量を算出し、
前記距離変化量に基づいて、前記1つ以上の対象領域のうち、他の領域よりも高画質化する画像処理領域を決定することをコンピュータに実行させる、付記21~26のいずれか一項に記載のプログラム。
【0098】
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【符号の説明】
【0099】
1 送信システム
3 遠隔運転者
5 車両
10 車載カメラ
11 取得部
12 対象検出部
13 走行領域特定部
14 隣接領域特定部
15 決定部
100 情報処理装置
110 画像取得部
120 対象検出部
130 レーン検出部
140 決定部
150 画像処理部(エンコーダ)
160 通信部
200 情報処理装置
210 距離推定部
220 対象追跡部
230 対象距離取得部
250 対象距離保存部
400 情報処理装置
410 環境決定部
420 外部情報
430 レーン検出部
440 決定部
470 レーン変更検知部
800 遠隔監視制御装置
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22