ホーム > 特許ランキング > ソフトバンク株式会社
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023141078
(43)【公開日】2023-10-05
(54)【発明の名称】遠隔監視装置および自動運転車両
(51)【国際特許分類】
G08G 1/16 20060101AFI20230928BHJP
G08G 1/09 20060101ALI20230928BHJP
B60W 60/00 20200101ALI20230928BHJP
G05D 1/02 20200101ALI20230928BHJP
【ＦＩ】
G08G1/16 A
G08G1/09 F
B60W60/00
G05D1/02 H
【審査請求】有
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2022047211
(22)【出願日】2022-03-23
(71)【出願人】
【識別番号】501440684
【氏名又は名称】ソフトバンク株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】弁理士法人 ＨＡＲＡＫＥＮＺＯ ＷＯＲＬＤ ＰＡＴＥＮＴ ＆ ＴＲＡＤＥＭＡＲＫ
(72)【発明者】
【氏名】山科 瞬
【テーマコード（参考）】
3D241
5H181
5H301
【Ｆターム（参考）】
3D241CE02
5H181AA01
5H181BB04
5H181BB13
5H181BB15
5H181BB20
5H181CC04
5H181FF10
5H181FF13
5H181LL01
5H181LL09
5H181MB02
5H181MC19
5H301AA01
5H301CC03
5H301CC06
5H301CC10
5H301DD05
5H301DD17
(57)【要約】
【課題】自動運転車両による自動運転制御の安全性を高める。
【解決手段】遠隔監視装置（２）は、自動運転車両（１）の第一認識判断部に入力したデータと同じデータ、および第一認識判断部による第一判断結果を受信するよう制御する受信制御部（２４１）と、認識および判断の少なくとも一方を行う際の第一基準が第一認識判断部のものとは異なる第二認識判断部（２４２）と、第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部（２４３）と、判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部（２４６）と、を備える。
【選択図】図２
【解決手段】遠隔監視装置（２）は、自動運転車両（１）の第一認識判断部に入力したデータと同じデータ、および第一認識判断部による第一判断結果を受信するよう制御する受信制御部（２４１）と、認識および判断の少なくとも一方を行う際の第一基準が第一認識判断部のものとは異なる第二認識判断部（２４２）と、第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部（２４３）と、判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部（２４６）と、を備える。
【選択図】図２
【特許請求の範囲】
【請求項1】
センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する第一認識判断部を有する監視対象の自動運転車両と通信する通信部と、
前記自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信するよう前記通信部を制御する受信制御部と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部と、
前記第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部と、
前記判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部と、
を備える遠隔監視装置。
前記自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信するよう前記通信部を制御する受信制御部と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部と、
前記第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部と、
前記判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部と、
を備える遠隔監視装置。
【請求項2】
前記第一基準は、前記事象の認識に用いる閾値、認識した複数の前記事象の重みづけ、および判断に用いる閾値の少なくともいずれかである、
請求項１に記載の遠隔監視装置。
請求項１に記載の遠隔監視装置。
【請求項3】
前記第二判断結果と前記第一判断結果との比較結果が前記第二基準を超えると前記判定部が判定した場合に、当該判断の相違を検証する検証部と、
前記検証部による検証結果を蓄積するデータベースと、
を更に備え、
前記処理部は、前記検証結果に基づく処理を実行する、
請求項１または２に記載の遠隔監視装置。
前記検証部による検証結果を蓄積するデータベースと、
を更に備え、
前記処理部は、前記検証結果に基づく処理を実行する、
請求項１または２に記載の遠隔監視装置。
【請求項4】
前記処理部は、前記データベースに蓄積された検証結果に基づいて、前記認識および前記判断の少なくとも一方の機能をアップデートするための情報を、前記第一認識判断部および前記第二認識判断部の少なくとも一方に送信する、
請求項３に記載の遠隔監視装置。
請求項３に記載の遠隔監視装置。
【請求項5】
前記第二判断結果と前記第一判断結果との比較結果が前記第二基準を超えると前記判定部が判定した場合に、当該判断の相違が事故に繋がる問題であるか否かを、前記検証結果に基づいて判定する第二判定部を備え、
前記相違が事故に繋がる問題であると前記第二判定部が判定した場合、前記処理部は、前記自動運転車両を遠隔制御する、
請求項３に記載の遠隔監視装置。
前記相違が事故に繋がる問題であると前記第二判定部が判定した場合、前記処理部は、前記自動運転車両を遠隔制御する、
請求項３に記載の遠隔監視装置。
【請求項6】
前記相違が事故に繋がる問題ではないと前記第二判定部が判定した場合、前記処理部は、前記判定結果を遠隔監視者に通知する、
請求項５に記載の遠隔監視装置。
請求項５に記載の遠隔監視装置。
【請求項7】
自動運転車両であって、
前記自動運転車両の動作を監視する遠隔監視装置と通信する通信部と、
前記自動運転車両の内部および外部の少なくとも一方の事象を検知してデータを生成するセンサと、
前記センサからのデータに基づいて前記事象を認識し、その認識結果に基づいて判断する認識判断部と、
前記認識判断部による判断結果に基づいて加減速または操舵の少なくとも一方を制御する運転制御部と、
前記判断結果、および前記認識判断部に入力したデータと同じデータを、前記遠隔監視装置へ送信するよう前記通信部を制御する送信制御部と、を備え、
前記運転制御部は、現状の前記自動運転車両の動作が事故に繋がると前記遠隔監視装置が判定したことに基づいて当該遠隔監視装置が送信してきた所定の遠隔制御信号を前記通信部が受信した場合、前記遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する、
自動運転車両。
前記自動運転車両の動作を監視する遠隔監視装置と通信する通信部と、
前記自動運転車両の内部および外部の少なくとも一方の事象を検知してデータを生成するセンサと、
前記センサからのデータに基づいて前記事象を認識し、その認識結果に基づいて判断する認識判断部と、
前記認識判断部による判断結果に基づいて加減速または操舵の少なくとも一方を制御する運転制御部と、
前記判断結果、および前記認識判断部に入力したデータと同じデータを、前記遠隔監視装置へ送信するよう前記通信部を制御する送信制御部と、を備え、
前記運転制御部は、現状の前記自動運転車両の動作が事故に繋がると前記遠隔監視装置が判定したことに基づいて当該遠隔監視装置が送信してきた所定の遠隔制御信号を前記通信部が受信した場合、前記遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する、
自動運転車両。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔監視装置および自動運転車両に関する。
【背景技術】
【0002】
自動運転車両による自動運転制御の安全性を高めるための各種技術が従来提案されている。例えば特許文献１には、プロセッサ及びメモリを備え、所定の条件における所定の自動車の運転の内容を所定の数値で評価するための評価基準の情報である評価基準情報を記憶する評価基準情報記憶部と、所定の条件における所定の自動車の運転の内容を決定する所定のプログラムの実行結果として出力された、当該自動車の運転の履歴を含む情報である実行ログを、所定の情報処理システムから受信する実行ログ受信部と、受信した実行ログ及び評価基準情報に基づき、所定の条件における所定の自動車の運転の評価を所定の数値で示す評価結果情報を生成する評価結果情報生成部と、を備える自動運転プログラム評価システムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０２０－１２３２５９号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献１に記載されたような従来技術は、自動運転プログラムを開発するために、仮想的に実行された自動運転を評価するものである。このため、自動運転プログラム実行システム１０に入力されるデータも仮想のものである。仮想のデータは、現実のデータと必ずしも一致するわけではない。このため、この先行技術によって開発された自動運転プログラムを搭載した現実の自動運転車両が道路を走行した場合、仮想空間上で行った認識・判断と同じ認識・判断をするとは限らない。すなわち、先行技術は、現実の自動運転車両の自動運転の安全性を十分に担保することはできない。また、仮想のデータは人工的に生成する必要があるため、自動運転プログラム実行システム１０を動作させるのには手間がかかる。
【課題を解決するための手段】
【0005】
本発明の一態様に係る遠隔監視装置は、センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する第一認識判断部を有する監視対象の自動運転車両と通信する通信部と、前記自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信するよう前記通信部を制御する受信制御部と、前記データに基づいて前記事象を認識し、その認識結果に基づいて判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部と、前記第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部と、前記判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部と、を備える。
【0006】
本発明の他の態様に係る自動運転車両は、前記自動運転車両の動作を監視する遠隔監視装置と通信する通信部と、前記自動運転車両の内部および外部の少なくとも一方の事象を検知してデータを生成するセンサと、前記センサからのデータに基づいて前記事象を認識し、その認識結果に基づいて判断する認識判断部と、前記認識判断部による判断結果に基づいて加減速または操舵の少なくとも一方を制御する運転制御部と、前記判断結果、および前記認識判断部に入力したデータと同じデータを、前記遠隔監視装置へ送信するよう前記通信部を制御する送信制御部と、を備え、前記運転制御部は、現状の前記自動運転車両の動作が事故に繋がると前記遠隔監視装置が判定したことに基づいて当該遠隔監視装置が送信してきた所定の遠隔制御信号を前記通信部が受信した場合、前記遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する。
【0007】
本発明の各態様は、コンピュータによって実現してもよく、この場合には、コンピュータを上記遠隔監視装置および自動運転車両が備える各部（ソフトウェア要素）として動作させることにより自動運転車両１および遠隔監視装置２をコンピュータにて実現させるプログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
【図面の簡単な説明】
【0008】
【図1】本発明の一の態様の実施形態に係る自動運転車両の機能的構成を示すブロック図である。
【図2】本発明の他の態様の実施形態に係る遠隔監視装置の機能的構成を示すブロック図である。
【図3】本発明の他の態様の実施形態に係る遠隔監視方法の流れを示すフローチャートである。
【発明を実施するための形態】
【0009】
＜１．自動運転車両＞
まず、本発明の一の態様である自動運転車両１の実施形態について、詳細に説明する。
まず、本発明の一の態様である自動運転車両１の実施形態について、詳細に説明する。
【0010】
［構成］
自動運転車両１は、レベル４以上の自動運転を行う。自動運転車両１は、図１に示したように、センサ１１と、車両側通信部１２（通信部）と、車両側記憶部１３と、車両側制御部１４と、を備える。
自動運転車両１は、レベル４以上の自動運転を行う。自動運転車両１は、図１に示したように、センサ１１と、車両側通信部１２（通信部）と、車両側記憶部１３と、車両側制御部１４と、を備える。
【0011】
〔センサ〕
センサ１１は、自動運転車両１の内部および外部の少なくとも一方の事象を検知してデータを生成する。内部の事象は、例えば、自動運転車両１に乗っている人の状態である。外部の事象は、例えば、物体の存在、物体の移動速度および明るさ（昼間であるか、夜間であるか）の少なくともいずれかである。物体は、例えば、車道、車線、標識、歩道、歩行者、先行車両、後続車両、対向車両および障害物の少なくともいずれかが含まれる。障害物には、建物、縁石、街路樹、故障車、および落下物の少なくともいずれかが含まれる。また、車道の一部区間における通行止めも、車両にとっては障害物と見なせるため、障害物に含まれる。なお、センサ１１は、自動運転車両１の内部および外部の少なくとも一方を撮影して画像データを生成するイメージセンサであってもよい。この場合、一の画像データから複数の事象を同時に抽出することができる。
センサ１１は、自動運転車両１の内部および外部の少なくとも一方の事象を検知してデータを生成する。内部の事象は、例えば、自動運転車両１に乗っている人の状態である。外部の事象は、例えば、物体の存在、物体の移動速度および明るさ（昼間であるか、夜間であるか）の少なくともいずれかである。物体は、例えば、車道、車線、標識、歩道、歩行者、先行車両、後続車両、対向車両および障害物の少なくともいずれかが含まれる。障害物には、建物、縁石、街路樹、故障車、および落下物の少なくともいずれかが含まれる。また、車道の一部区間における通行止めも、車両にとっては障害物と見なせるため、障害物に含まれる。なお、センサ１１は、自動運転車両１の内部および外部の少なくとも一方を撮影して画像データを生成するイメージセンサであってもよい。この場合、一の画像データから複数の事象を同時に抽出することができる。
【0012】
〔車両側通信部〕
車両側通信部１２は、遠隔監視装置２と通信する。本実施形態に係る車両側通信部１２は、例えば無線通信モジュールで構成されている。すなわち、本実施形態に係る車両側通信部１２は、遠隔監視装置２と無線通信する。遠隔監視装置２は、自動運転車両１の動作を監視するためのものである。この遠隔監視装置２の詳細については後述する。
車両側通信部１２は、遠隔監視装置２と通信する。本実施形態に係る車両側通信部１２は、例えば無線通信モジュールで構成されている。すなわち、本実施形態に係る車両側通信部１２は、遠隔監視装置２と無線通信する。遠隔監視装置２は、自動運転車両１の動作を監視するためのものである。この遠隔監視装置２の詳細については後述する。
【0013】
〔車両側記憶部〕
車両側記憶部１３は、後述する第一認識判断部１４２が認識および判断の少なくとも一方を行う際の第一基準を記憶している。本実施形態に係る第一基準は、事象の認識に用いる閾値（認識用閾値１３１）、認識した複数の事象の重みづけ（認識結果に乗じる係数１３２）、および判断に用いる閾値（判断用閾値１３３）である。本実施形態に係る車両側記憶部１３は、事象の種類に応じた複数の認識用閾値１３１および複数の係数１３２を記憶している。また、本実施形態に係る車両側記憶部１３は、半導体メモリおよびハードディスクの少なくともいずれかで構成されている。
車両側記憶部１３は、後述する第一認識判断部１４２が認識および判断の少なくとも一方を行う際の第一基準を記憶している。本実施形態に係る第一基準は、事象の認識に用いる閾値（認識用閾値１３１）、認識した複数の事象の重みづけ（認識結果に乗じる係数１３２）、および判断に用いる閾値（判断用閾値１３３）である。本実施形態に係る車両側記憶部１３は、事象の種類に応じた複数の認識用閾値１３１および複数の係数１３２を記憶している。また、本実施形態に係る車両側記憶部１３は、半導体メモリおよびハードディスクの少なくともいずれかで構成されている。
【0014】
〔車両側制御部〕
車両側制御部１４は、取得部１４１と、第一認識判断部１４２（認識判断部）と、車両側送信制御部１４３（送信制御部）と、車両側受信制御部１４４と、運転制御部１４５と、を備える。
車両側制御部１４は、取得部１４１と、第一認識判断部１４２（認識判断部）と、車両側送信制御部１４３（送信制御部）と、車両側受信制御部１４４と、運転制御部１４５と、を備える。
【0015】
（取得部）
取得部１４１は、センサ１１が生成したデータを取得する。本実施形態に係る取得部１４１は、所定時間が経過する度に、データを繰り返し取得する。なお、データの取得は、第一認識判断部１４２が直接行うよう構成されていてもよい。その場合、車両側制御部１４は、取得部１４１を備えていなくてもよい。
取得部１４１は、センサ１１が生成したデータを取得する。本実施形態に係る取得部１４１は、所定時間が経過する度に、データを繰り返し取得する。なお、データの取得は、第一認識判断部１４２が直接行うよう構成されていてもよい。その場合、車両側制御部１４は、取得部１４１を備えていなくてもよい。
【0016】
（第一認識判断部）
第一認識判断部１４２は、取得部１４１が取得した（センサ１１からの）データに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第一認識判断部１４２は、例えば、機械学習により構築されている。なお、第一認識判断部１４２は、機械学習以外の従来公知の各種技術を用いて構築されたものであってもよい。本実施形態に係る第一認識判断部１４２は、事象認識部１４２ａと、重みづけ部１４２ｂと、事象判断部１４２ｃと、を備える。
第一認識判断部１４２は、取得部１４１が取得した（センサ１１からの）データに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第一認識判断部１４２は、例えば、機械学習により構築されている。なお、第一認識判断部１４２は、機械学習以外の従来公知の各種技術を用いて構築されたものであってもよい。本実施形態に係る第一認識判断部１４２は、事象認識部１４２ａと、重みづけ部１４２ｂと、事象判断部１４２ｃと、を備える。
【0017】
事象認識部１４２ａは、取得部１４１が取得したデータ、および車両側記憶部１３が記憶している認識用閾値１３１を用い、自動運転車両１の内部および外部の少なくとも一方の事象を認識する。事象認識部１４２ａは、複数の事象を認識する。
【0018】
重みづけ部１４２ｂは、複数の事象の認識結果の少なくともいずれかに、車両側記憶部１３が記憶している係数１３２を乗じることにより、認識結果を重みづけする。
【0019】
事象判断部１４２ｃは、重みづけされた（係数１３２が乗じられた）認識結果、および車両側記憶部１３が記憶している判断用閾値１３３を用い、自動運転車両をどのように制御するかを判断する。例えば、重みづけされた認識結果が自動運転車両１の前方に歩行者の存在を示している場合、事象判断部１４２ｃは、自動運転車両１を、減速または迂回走行させる旨判断する。このとき、当該歩行者が例えば小児や高齢者であると更に認識できた場合、事象判断部１４２ｃは判断用閾値１３３に従って、車両にとってより注意が必要な歩行者であると判断し、自動運転車両１を一時停止させてもよい。また、認識結果が車道の存在のみを示している場合、事象判断部１４２ｃは、自動運転車両１を、現状のまま走行させる旨判断する。このとき、車道が複数の車線からなり、先の交差点で自動運転車両１の右折又は左折が予定されている場合、事象判断部１４２ｃは判断用閾値１３３に従って、右折又は左折をよりスムーズに行えるよう、当該交差点との距離に関わらず自動運転車両１を右端または左端の車線に移動させた上で、走行を継続させてもよい。なお、事象判断部１４２ｃは、事象認識部１４２ａによる判断結果を直接用いて（重みづけを行わずに）判断するよう構成されていてもよい。その場合、第一認識判断部１４２は、重みづけ部１４２ｂを備えていなくてもよい。以下、第一認識判断部１４２による判断結果を第一判断結果と称する。
【0020】
（車両側送信制御部）
車両側送信制御部１４３は、第一認識判断部１４２による第一判断結果、および第一認識判断部１４２に入力したデータと同じデータを、遠隔監視装置２へ送信するよう車両側通信部１２を制御する。なお、自動運転車両１は、車両側通信部１２を介した通信以外の方法で判断結果およびデータを送るよう構成されていてもよい。その場合、自動運転車両１は、車両側送信制御部１４３を備えていなくてもよい。
車両側送信制御部１４３は、第一認識判断部１４２による第一判断結果、および第一認識判断部１４２に入力したデータと同じデータを、遠隔監視装置２へ送信するよう車両側通信部１２を制御する。なお、自動運転車両１は、車両側通信部１２を介した通信以外の方法で判断結果およびデータを送るよう構成されていてもよい。その場合、自動運転車両１は、車両側送信制御部１４３を備えていなくてもよい。
【0021】
（車両側受信制御部）
車両側受信制御部１４４は、遠隔監視装置２からアップデートするための情報および遠隔制御信号の少なくともいずれかを受信するよう車両側通信部１２を制御する。アップデートするための情報および遠隔制御信号の詳細については後述する。なお、自動運転車両１は、車両側通信部１２を介した通信以外の方法でアップデートするための情報や遠隔制御信号を取得するよう構成されていてもよい。その場合、自動運転車両１は、車両側受信制御部１４４を備えていなくてもよい。
車両側受信制御部１４４は、遠隔監視装置２からアップデートするための情報および遠隔制御信号の少なくともいずれかを受信するよう車両側通信部１２を制御する。アップデートするための情報および遠隔制御信号の詳細については後述する。なお、自動運転車両１は、車両側通信部１２を介した通信以外の方法でアップデートするための情報や遠隔制御信号を取得するよう構成されていてもよい。その場合、自動運転車両１は、車両側受信制御部１４４を備えていなくてもよい。
【0022】
（運転制御部）
運転制御部１４５は、第一認識判断部１４２による第一判断結果に基づいて加減速または操舵の少なくとも一方を制御する。また、運転制御部１４５は、所定の遠隔制御信号を車両側通信部１２が受信した場合、遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する。所定の遠隔制御信号は、現状の自動運転車両１の動作が事故に繋がると遠隔監視装置２が判定したことに基づいて当該遠隔監視装置２が送信してきた信号である。このため、運転制御部１４５は、所定の遠隔制御信号を受信した場合、第一認識判断部１４２による第一判断結果に優先して、所定の遠隔制御信号に基づく制御を行うことになる。
運転制御部１４５は、第一認識判断部１４２による第一判断結果に基づいて加減速または操舵の少なくとも一方を制御する。また、運転制御部１４５は、所定の遠隔制御信号を車両側通信部１２が受信した場合、遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する。所定の遠隔制御信号は、現状の自動運転車両１の動作が事故に繋がると遠隔監視装置２が判定したことに基づいて当該遠隔監視装置２が送信してきた信号である。このため、運転制御部１４５は、所定の遠隔制御信号を受信した場合、第一認識判断部１４２による第一判断結果に優先して、所定の遠隔制御信号に基づく制御を行うことになる。
【0023】
［作用効果］
本実施形態に係る自動運転車両１は、データの他、第一認識判断部１４２による第一判断結果を、遠隔監視装置２へ送信する。これにより、遠隔監視装置２は、データを用いた認識・判断の他、受信した第一判断結果と、自身による第二判断結果と、を用いた二重チェックを行うことができる。また、本実施形態に係る自動運転車両１は、通常は第一認識判断部による第一判断結果に基づいて加減速・操舵を制御し、所定の遠隔制御信号を受信した場合は、遠隔制御信号に基づいて加減速・操舵を制御する。所定の遠隔制御信号は、現状の自動運転車両１の動作が事故に繋がると遠隔監視装置２が判定したことに基づいて当該遠隔監視装置２が送信してきた信号である。すなわち、この遠隔制御信号が届いたときの自動運転車両の認識・判断には誤りがある（事故を起こす）可能性がある。このため、本実施形態に係る自動運転車両１によれば、自身が認識・判断を誤った場合に、誤った認識・判断に基づく加減速・操舵が継続されるのを防ぐことができる。
本実施形態に係る自動運転車両１は、データの他、第一認識判断部１４２による第一判断結果を、遠隔監視装置２へ送信する。これにより、遠隔監視装置２は、データを用いた認識・判断の他、受信した第一判断結果と、自身による第二判断結果と、を用いた二重チェックを行うことができる。また、本実施形態に係る自動運転車両１は、通常は第一認識判断部による第一判断結果に基づいて加減速・操舵を制御し、所定の遠隔制御信号を受信した場合は、遠隔制御信号に基づいて加減速・操舵を制御する。所定の遠隔制御信号は、現状の自動運転車両１の動作が事故に繋がると遠隔監視装置２が判定したことに基づいて当該遠隔監視装置２が送信してきた信号である。すなわち、この遠隔制御信号が届いたときの自動運転車両の認識・判断には誤りがある（事故を起こす）可能性がある。このため、本実施形態に係る自動運転車両１によれば、自身が認識・判断を誤った場合に、誤った認識・判断に基づく加減速・操舵が継続されるのを防ぐことができる。
【0024】
＜２．遠隔監視装置＞
次に、本発明の他の態様である遠隔監視装置２の実施形態について、詳細に説明する。
次に、本発明の他の態様である遠隔監視装置２の実施形態について、詳細に説明する。
【0025】
［構成］
遠隔監視装置２は、図２に示したように、装置側通信部２１（通信部）と、装置側記憶部２２と、出力部２３と、装置側制御部２４と、を備える。
遠隔監視装置２は、図２に示したように、装置側通信部２１（通信部）と、装置側記憶部２２と、出力部２３と、装置側制御部２４と、を備える。
【0026】
〔装置側通信部〕
装置側通信部２１は、監視対象の自動運転車両１と通信する。本実施形態に係る装置側通信部２１は、例えば無線通信モジュールで構成されている。すなわち、本実施形態に係る装置側通信部２１は、自動運転車両１と無線通信する。監視対象の自動運転車両１は、上述したように、センサ１１からのデータに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する第一認識判断部１４２（図１参照）を有するものである。
装置側通信部２１は、監視対象の自動運転車両１と通信する。本実施形態に係る装置側通信部２１は、例えば無線通信モジュールで構成されている。すなわち、本実施形態に係る装置側通信部２１は、自動運転車両１と無線通信する。監視対象の自動運転車両１は、上述したように、センサ１１からのデータに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する第一認識判断部１４２（図１参照）を有するものである。
【0027】
〔装置側記憶部〕
装置側記憶部２２は、後述する第二認識判断部２４２が認識および判断の少なくとも一方を行う際の第一基準を記憶している。本実施形態に係る第一基準は、事象の認識に用いる閾値（装置側認識用閾値２２１）、認識した複数の事象の重みづけ（認識結果に乗じる装置側係数２２２）、および判断に用いる閾値（装置側判断用閾値２２３）である。装置側記憶部２２が記憶する第一基準は、装置側認識用閾値２２１、装置側係数２２２および装置側判断用閾値２２３少なくともいずれかが、自動運転車両１が記憶する第一基準とは異なる。以下、装置側記憶部２２が記憶する第一基準を装置側第一基準と称する。本実施形態に係る装置側記憶部２２は、事象の種類に応じた複数の装置側認識用閾値２２１および複数の装置側係数２２２を記憶している。また、本実施形態に係る装置側記憶部２２は、半導体メモリおよびハードディスクの少なくともいずれかで構成されている。
装置側記憶部２２は、後述する第二認識判断部２４２が認識および判断の少なくとも一方を行う際の第一基準を記憶している。本実施形態に係る第一基準は、事象の認識に用いる閾値（装置側認識用閾値２２１）、認識した複数の事象の重みづけ（認識結果に乗じる装置側係数２２２）、および判断に用いる閾値（装置側判断用閾値２２３）である。装置側記憶部２２が記憶する第一基準は、装置側認識用閾値２２１、装置側係数２２２および装置側判断用閾値２２３少なくともいずれかが、自動運転車両１が記憶する第一基準とは異なる。以下、装置側記憶部２２が記憶する第一基準を装置側第一基準と称する。本実施形態に係る装置側記憶部２２は、事象の種類に応じた複数の装置側認識用閾値２２１および複数の装置側係数２２２を記憶している。また、本実施形態に係る装置側記憶部２２は、半導体メモリおよびハードディスクの少なくともいずれかで構成されている。
【0028】
また、装置側記憶部２２は、後述する判定部２４３が用いる第二基準を記憶している。この第二基準の詳細については後述する。
【0029】
また、装置側記憶部２２は、データベース２２４を格納する。すなわち、遠隔監視装置２は、データベース２２４を備える。データベース２２４は、検証部２４４による過去の検証結果（詳細後述）を蓄積している。本実施形態に係るデータベース２２４は、検証部２４４が新たな検証を行うと、その検証結果を更に蓄積する。
【0030】
〔出力部〕
出力部２３は、装置側制御部２４の制御に応じた内容を出力する。出力部２３は、他の装置（表示装置等）へデータや信号を送信する通信モジュール、他の装置と接続するための端子、画像を表示する液晶パネルおよび音声を出力するスピーカの少なくともいずれかで構成されている。
出力部２３は、装置側制御部２４の制御に応じた内容を出力する。出力部２３は、他の装置（表示装置等）へデータや信号を送信する通信モジュール、他の装置と接続するための端子、画像を表示する液晶パネルおよび音声を出力するスピーカの少なくともいずれかで構成されている。
【0031】
〔装置側制御部〕
装置側制御部２４は、装置側受信制御部２４１（受信制御部）と、第二認識判断部２４２と、判定部２４３と、検証部２４４と、第二判定部２４５と、処理部２４６と、を備える。
装置側制御部２４は、装置側受信制御部２４１（受信制御部）と、第二認識判断部２４２と、判定部２４３と、検証部２４４と、第二判定部２４５と、処理部２４６と、を備える。
【0032】
（受信制御部）
受信制御部２４１は、自動運転車両１から、第一認識判断部１４２に入力したデータと同じデータ、および第一認識判断部１４２による第一判断結果を受信するよう装置側通信部２１を制御する。
受信制御部２４１は、自動運転車両１から、第一認識判断部１４２に入力したデータと同じデータ、および第一認識判断部１４２による第一判断結果を受信するよう装置側通信部２１を制御する。
【0033】
（第二認識判断部）
第二認識判断部２４２は、装置側通信部２１が受信したデータに基づいて事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第二認識判断部２４２は、上記第一認識判断部１４２と同様、例えば、機械学習により構築されている。なお、第二認識判断部２４２は、機械学習以外の従来公知の各種技術を用いて構築されたものであってもよい。第二認識判断部２４２は、第二事象認識部２４２ａと、第二重みづけ部２４２ｂと、第二事象判断部２４２ｃと、を備える。
第二認識判断部２４２は、装置側通信部２１が受信したデータに基づいて事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第二認識判断部２４２は、上記第一認識判断部１４２と同様、例えば、機械学習により構築されている。なお、第二認識判断部２４２は、機械学習以外の従来公知の各種技術を用いて構築されたものであってもよい。第二認識判断部２４２は、第二事象認識部２４２ａと、第二重みづけ部２４２ｂと、第二事象判断部２４２ｃと、を備える。
【0034】
第二事象認識部２４２ａは、装置側通信部２１が受信したデータ、および装置側記憶部２２が記憶している装置側認識用閾値２２１を用い、自動運転車両１の内部および外部の少なくとも一方の事象を認識する。第二事象認識部２４２ａは、複数の事象を認識する。
【0035】
第二重みづけ部２４２ｂは、複数の事象の認識結果の少なくともいずれかに、装置側記憶部２２が記憶している装置側係数２２２を乗じることにより、認識結果を重みづけする。
【0036】
第二事象判断部２４２ｃは、重みづけされた（装置側係数２２２が乗じられた）認識結果に基づいて、自動運転車両をどのように制御するかを判断する。
なお、第二事象判断部２４２ｃは、第二事象認識部２４２ａによる判断結果を直接用いて（重みづけを行わずに）判断するよう構成されていてもよい。その場合、第二認識判断部２４２は、第二重みづけ部２４２ｂを備えていなくてもよい。以下、第二認識判断部２４２による判断結果を第二判断結果と称する。
なお、第二事象判断部２４２ｃは、第二事象認識部２４２ａによる判断結果を直接用いて（重みづけを行わずに）判断するよう構成されていてもよい。その場合、第二認識判断部２４２は、第二重みづけ部２４２ｂを備えていなくてもよい。以下、第二認識判断部２４２による判断結果を第二判断結果と称する。
【0037】
第二認識判断部２４２は、第一認識判断部１４２と同様に構築されているが、上述したように、認識および判断の少なくとも一方を行う際の第一基準（装置側第一基準）が第一認識判断部１４２のものとは異なる。装置側第一基準は、装置側認識用閾値２２１（事象の認識に用いる閾値）、装置側係数２２２（認識した複数の事象の重みづけ）、および装置側判断用閾値２２３（判断に用いる閾値）の少なくともいずれかである。すなわち、第二認識判断部２４２は、事象の認識、認識結果の重みづけ、および認識結果に基づく判断の少なくともいずれかにおいて、上記第一認識判断部１４２と異なる結果を生じさせる（第一判断結果と第一判断結果とが大きく異なる）可能性がある。各自動車メーカーが開発している自動運転車両１の第一認識判断部１４２は、基本的な動作は共通しており、判断の基準だけが異なる場合が多い。このため、本実施形態に係る第二認識判断部２４２は、自動運転車両１とは異なるメーカーの自動運転車両に搭載されているものを用いるだけで構成することができる。
【0038】
（判定部）
判定部２４３は、第二認識判断部２４２による第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定する。比較結果は、例えば、第一判断結果を表す第一数値と第二判断結果を表す第二数値との差、または第一数値および第二数値の統計値（例えば、第二数値に対する第一数値の割合等）である。そして、判定部２４３は、その比較結果が第二基準を超えるか否かを判定する。ここで、第二判断結果と第一判断結果との比較結果が第二基準を超えないと判定した場合、判定部２４３は、第二判断結果は第一判断結果と同じであるとみなす。そして、判定部２４３は、第一判断結果、第二判断結果および自身の判定結果をデータベース２２４に蓄積する。
判定部２４３は、第二認識判断部２４２による第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定する。比較結果は、例えば、第一判断結果を表す第一数値と第二判断結果を表す第二数値との差、または第一数値および第二数値の統計値（例えば、第二数値に対する第一数値の割合等）である。そして、判定部２４３は、その比較結果が第二基準を超えるか否かを判定する。ここで、第二判断結果と第一判断結果との比較結果が第二基準を超えないと判定した場合、判定部２４３は、第二判断結果は第一判断結果と同じであるとみなす。そして、判定部２４３は、第一判断結果、第二判断結果および自身の判定結果をデータベース２２４に蓄積する。
【0039】
（検証部）
検証部２４４は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に、当該判断の相違を検証する。例えば、検証部２４４は、以下のような内容を検証する。
・第一認識判断部１４２（第二認識判断部２４２）が認識した事象を第二認識判断部２４２（第一認識判断部１４２）が認識したか否か
・第一認識判断部１４２が認識した事象を、第二認識判断部２４２は同じものとして認識したか否か
・第二認識判断部２４２（第一認識判断部１４２）による認識結果のうち、第一認識判断部１４２（第二認識判断部２４２）が大きな係数１３２を乗じた認識結果に対応するものは、第二認識判断部２４２（第一認識判断部１４２）においても大きな装置側係数２２２が乗じられているか
検証を終えた後、検証部２４４は、検証結果を、装置側記憶部２２に格納されたデータベース２２４に蓄積する。
検証部２４４は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に、当該判断の相違を検証する。例えば、検証部２４４は、以下のような内容を検証する。
・第一認識判断部１４２（第二認識判断部２４２）が認識した事象を第二認識判断部２４２（第一認識判断部１４２）が認識したか否か
・第一認識判断部１４２が認識した事象を、第二認識判断部２４２は同じものとして認識したか否か
・第二認識判断部２４２（第一認識判断部１４２）による認識結果のうち、第一認識判断部１４２（第二認識判断部２４２）が大きな係数１３２を乗じた認識結果に対応するものは、第二認識判断部２４２（第一認識判断部１４２）においても大きな装置側係数２２２が乗じられているか
検証を終えた後、検証部２４４は、検証結果を、装置側記憶部２２に格納されたデータベース２２４に蓄積する。
【0040】
（第二判定部）
第二判定部２４５は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に、当該判断の相違が事故に繋がる問題であるか否かを、検証結果に基づいて判定する。例えば、第一判断結果が異常なしである旨の結果であったにもかかわらず、第二判断結果が歩行者を回避する旨の結果であった場合、自動運転車両１は、歩行者の存在を見落としたことになる。このため、第二判定部２４５は、このような相違については、事故に繋がる問題であると判定する。一方、第一判断結果が、交差する道路から自動車が近づいてくるので減速する旨の結果であり、第二判断結果が、交差する道路から自転車が近づいてくるので減速する旨の結果であった場合、自動運転車両１または遠隔監視装置２は、対象を誤認したことになる。しかし、いずれも減速の判断であるため、第二判定部２４５は、このような相違については、事故に繋がる問題ではないと判定する。
第二判定部２４５は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に、当該判断の相違が事故に繋がる問題であるか否かを、検証結果に基づいて判定する。例えば、第一判断結果が異常なしである旨の結果であったにもかかわらず、第二判断結果が歩行者を回避する旨の結果であった場合、自動運転車両１は、歩行者の存在を見落としたことになる。このため、第二判定部２４５は、このような相違については、事故に繋がる問題であると判定する。一方、第一判断結果が、交差する道路から自動車が近づいてくるので減速する旨の結果であり、第二判断結果が、交差する道路から自転車が近づいてくるので減速する旨の結果であった場合、自動運転車両１または遠隔監視装置２は、対象を誤認したことになる。しかし、いずれも減速の判断であるため、第二判定部２４５は、このような相違については、事故に繋がる問題ではないと判定する。
【0041】
なお、上記検証部２４４は、自動運転車両１の第一基準及び遠隔監視装置２の装置側第一基準の少なくとも一方が新規に記憶またはアップデートされた後、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が最初に判定した場合のみ検証するよう構成されていてもよい。その場合、第二判定部２４５は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が２回目以降に判定した場合、データベース２２４に蓄積された検証結果を参照して、新たに生じた判断の相違が、過去のどのパターンに当てはまるかをマッチングすることにより検証するよう構成されていてもよい。このようにすれば、装置側制御部２４の動作を簡素化することができる。
【0042】
（処理部）
処理部２４６は、判定部２４３による判定結果に基づいて、遠隔監視に関する処理を実行する。本実施形態に係る処理部２４６は、判定部２４３による判定結果および第二判定部２４５による第二判定結果に基づいて処理を実行する。また、本実施形態に係る処理部２４６は、データベース２２４に蓄積された検証結果に基づく処理を実行する。これにより、判定部２４３による最新の判定結果だけでなく、過去に蓄積された検証結果を用いるため、より精度の高い遠隔監視を行うことができる。
処理部２４６は、判定部２４３による判定結果に基づいて、遠隔監視に関する処理を実行する。本実施形態に係る処理部２４６は、判定部２４３による判定結果および第二判定部２４５による第二判定結果に基づいて処理を実行する。また、本実施形態に係る処理部２４６は、データベース２２４に蓄積された検証結果に基づく処理を実行する。これにより、判定部２４３による最新の判定結果だけでなく、過去に蓄積された検証結果を用いるため、より精度の高い遠隔監視を行うことができる。
【0043】
本実施形態に係る処理部２４６は、検証結果に基づく処理として、アップデート、遠隔制御および通知の少なくともいずれかを実行する。
【0044】
・アップデート
アップデートは、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に実行される処理である。判定部２４３が実行する処理がアップデートである場合、処理部２４６は、データベース２２４に蓄積された検証結果に基づいて、認識および判断の少なくとも一方の機能をアップデートするための情報を、第一認識判断部１４２および第二認識判断部２４２の少なくとも一方に送信する。具体的には、アップデートするための情報を生成し、この情報を自動運転車両１へ送信するよう装置側通信部２１を制御する。アップデートするための情報には、例えば、以下の少なくともいずれかが含まれる。
・アップデート用の第一基準（認識用閾値１３１、係数１３２および判断用閾値１３３の少なくともいずれか）
・アップデート用の装置側第一基準（装置側認識用閾値２２１、装置側係数２２２および装置側判断用閾値２２３の少なくともいずれか）
・アップデート用の第二基準
・第一認識判断部１４２を動作させるプログラムおよび第二認識判断部２４２を動作させるためのプログラムの少なくとも一方
このように、第一認識判断部１４２による認識・判断と、第二認識判断部２４２による認識・判断の相違を、それぞれの認識機能および判断機能の少なくとも一方のアップデートに用いることにより、第一認識判断部１４２および第二認識判断部２４２による認識又は判断の精度をより向上させることができる。
アップデートは、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定した場合に実行される処理である。判定部２４３が実行する処理がアップデートである場合、処理部２４６は、データベース２２４に蓄積された検証結果に基づいて、認識および判断の少なくとも一方の機能をアップデートするための情報を、第一認識判断部１４２および第二認識判断部２４２の少なくとも一方に送信する。具体的には、アップデートするための情報を生成し、この情報を自動運転車両１へ送信するよう装置側通信部２１を制御する。アップデートするための情報には、例えば、以下の少なくともいずれかが含まれる。
・アップデート用の第一基準（認識用閾値１３１、係数１３２および判断用閾値１３３の少なくともいずれか）
・アップデート用の装置側第一基準（装置側認識用閾値２２１、装置側係数２２２および装置側判断用閾値２２３の少なくともいずれか）
・アップデート用の第二基準
・第一認識判断部１４２を動作させるプログラムおよび第二認識判断部２４２を動作させるためのプログラムの少なくとも一方
このように、第一認識判断部１４２による認識・判断と、第二認識判断部２４２による認識・判断の相違を、それぞれの認識機能および判断機能の少なくとも一方のアップデートに用いることにより、第一認識判断部１４２および第二認識判断部２４２による認識又は判断の精度をより向上させることができる。
【0045】
・遠隔制御
遠隔制御は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定し、かつ相違が事故に繋がる問題であると第二判定部２４５が判定した場合に実行される処理である。判定部２４３が実行する処理が遠隔制御である場合、処理部２４６は、自動運転車両１を遠隔制御する。具体的には、事故を回避し得る動作を指示する所定の遠隔制御信号を生成し、この遠隔制御信号を自動運転車両１へ送信するよう装置側通信部２１を制御する。この遠隔制御信号を受信した自動運転車両は事故を回避するよう動作する。その結果、自動運転車両１の誤った認識・判断に基づく事故の発生を防ぐことができる。
遠隔制御は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定し、かつ相違が事故に繋がる問題であると第二判定部２４５が判定した場合に実行される処理である。判定部２４３が実行する処理が遠隔制御である場合、処理部２４６は、自動運転車両１を遠隔制御する。具体的には、事故を回避し得る動作を指示する所定の遠隔制御信号を生成し、この遠隔制御信号を自動運転車両１へ送信するよう装置側通信部２１を制御する。この遠隔制御信号を受信した自動運転車両は事故を回避するよう動作する。その結果、自動運転車両１の誤った認識・判断に基づく事故の発生を防ぐことができる。
【0046】
・通知
通知は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定し、かつ相違が事故に繋がる問題ではないと第二判定部が判定した場合に実行される処理である。判定部２４３が実行する処理が通知である場合、処理部２４６は、判定部２４３による判定結果を遠隔監視者に通知する。具体的には、出力部２３が判定結果を出力するよう出力部２３を制御する。その結果、判定結果が出力部２３を介して遠隔監視者に通知される。これにより、遠隔監視者は、通知を受けたときだけ確認をすればよくなる。このため、複数の自動運転車両１が遠隔監視対象となっている場合に、遠隔監視者の負担を軽減することができる。なお、処理部２４６は、通知を行わない（アップデートまたは遠隔制御のみ行う）よう構成されていてもよい。その場合、遠隔監視装置２は、出力部２３を備えていなくてもよい。
通知は、第二判断結果と第一判断結果との比較結果が第二基準を超えると判定部２４３が判定し、かつ相違が事故に繋がる問題ではないと第二判定部が判定した場合に実行される処理である。判定部２４３が実行する処理が通知である場合、処理部２４６は、判定部２４３による判定結果を遠隔監視者に通知する。具体的には、出力部２３が判定結果を出力するよう出力部２３を制御する。その結果、判定結果が出力部２３を介して遠隔監視者に通知される。これにより、遠隔監視者は、通知を受けたときだけ確認をすればよくなる。このため、複数の自動運転車両１が遠隔監視対象となっている場合に、遠隔監視者の負担を軽減することができる。なお、処理部２４６は、通知を行わない（アップデートまたは遠隔制御のみ行う）よう構成されていてもよい。その場合、遠隔監視装置２は、出力部２３を備えていなくてもよい。
【0047】
［作用効果］
第二認識判断部２４２は、現実に走行している自動運転車両１から得た実際のデータと同じデータに基づいて認識・判断をする。第二認識判断部２４２が行う認識・判断は、監視対象の（現実の）自動運転車両１が行う認識・判断に対するセカンドオピニオンとなる。両者の比較結果（認識・判断の差）が第二基準内であれば、問題なく自動運転および遠隔監視を継続できる。一方、両者の比較結果が第二基準を超える場合には、事故に繋がり得る状況が生じた可能性が考えられるため、遠隔監視を慎重に行うことになる。本実施形態に係る遠隔監視装置２は、このような二重チェックを行い、自動運転車自体の自動運転制御に誤りがあった場合に、それに気づけるようにすることにより、現実の自動運転車両１の自動運転の安全性を担保することができる。自動運転制御の誤りに気づくことで、その誤りを改善することができる。
第二認識判断部２４２は、現実に走行している自動運転車両１から得た実際のデータと同じデータに基づいて認識・判断をする。第二認識判断部２４２が行う認識・判断は、監視対象の（現実の）自動運転車両１が行う認識・判断に対するセカンドオピニオンとなる。両者の比較結果（認識・判断の差）が第二基準内であれば、問題なく自動運転および遠隔監視を継続できる。一方、両者の比較結果が第二基準を超える場合には、事故に繋がり得る状況が生じた可能性が考えられるため、遠隔監視を慎重に行うことになる。本実施形態に係る遠隔監視装置２は、このような二重チェックを行い、自動運転車自体の自動運転制御に誤りがあった場合に、それに気づけるようにすることにより、現実の自動運転車両１の自動運転の安全性を担保することができる。自動運転制御の誤りに気づくことで、その誤りを改善することができる。
【0048】
また、レベル４以上の自動運転においては、監視者による遠隔監視が必要となる。そこで、自動運転車の走行においては、遠隔監視者が代替する必要があるが、事業性の観点から、常時監視を行うことは難しい。しかし、本実施形態に係る遠隔監視装置２によれば、遠隔監視者は、両者の認識が一致しなかった自動運転車両１にのみ対応すればよくなる。その結果、少ない人数で多数の自動運転車両１を容易に遠隔監視することができる。また、使用するデータは実際の自動運転車両１が備えるセンサ１１が検出したものなので、人が生成する必要が無い。このため、監視者は、遠隔監視装置２を容易に動作させることができる。
【0049】
＜３．遠隔監視方法＞
次に、本発明の他の態様である遠隔監視方法の実施形態について、詳細に説明する。
次に、本発明の他の態様である遠隔監視方法の実施形態について、詳細に説明する。
【0050】
遠隔監視方法は、図３に示したように、取得ステップＳ１と、第一認識判断ステップＳ２と、第二認識判断ステップＳ３と、判定ステップＳ４と、処理ステップＳ５と、を備える。
【0051】
（取得ステップ）
初めの取得ステップＳ１では、センサ１１が生成したデータを取得する。本実施形態に係る取得ステップＳ１では、上記自動運転車両１の取得部１４１が取得する。なお、取得ステップＳ１において、データを遠隔監視装置２が取得してもよい。
初めの取得ステップＳ１では、センサ１１が生成したデータを取得する。本実施形態に係る取得ステップＳ１では、上記自動運転車両１の取得部１４１が取得する。なお、取得ステップＳ１において、データを遠隔監視装置２が取得してもよい。
【0052】
（第一認識判断ステップ）
データを取得した後は、第一認識判断ステップＳ２に移る。第一認識判断ステップＳ２では、取得ステップＳ１において取得した（センサ１１からの）データに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第一認識判断ステップＳ２では、上記自動運転車両１の第一認識判断部１４２が判断する。なお、第一認識判断ステップＳ２において、事象の認識および認識結果に基づく判断を、遠隔監視装置２が判断してもよい。
データを取得した後は、第一認識判断ステップＳ２に移る。第一認識判断ステップＳ２では、取得ステップＳ１において取得した（センサ１１からの）データに基づいて自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第一認識判断ステップＳ２では、上記自動運転車両１の第一認識判断部１４２が判断する。なお、第一認識判断ステップＳ２において、事象の認識および認識結果に基づく判断を、遠隔監視装置２が判断してもよい。
【0053】
（第二認識判断ステップ）
自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断した後は、第二認識判断ステップＳ３に移る。第二認識判断ステップＳ３では、第一認識判断ステップＳ２で用いたデータと同じデータに基づいて事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第二認識判断ステップＳ３では、上記遠隔監視装置２の第二認識判断部２４２が判断する。なお、第二認識判断ステップＳ３において、事象の認識および認識結果に基づく判断を、自動運転車両１が判断してもよい。
自動運転車両１の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて判断した後は、第二認識判断ステップＳ３に移る。第二認識判断ステップＳ３では、第一認識判断ステップＳ２で用いたデータと同じデータに基づいて事象を認識し、その認識結果に基づいて判断する。本実施形態に係る第二認識判断ステップＳ３では、上記遠隔監視装置２の第二認識判断部２４２が判断する。なお、第二認識判断ステップＳ３において、事象の認識および認識結果に基づく判断を、自動運転車両１が判断してもよい。
【0054】
（判定ステップ）
事象を認識し、その認識結果に基づいて判断した後は、判定ステップＳ４に移る。判定ステップＳ４では、上記第二認識判断ステップＳ３における第二判断結果と、上記第一認識判断ステップＳ２における第一判断結果との比較結果が第二基準を超えるか否かを判定する。本実施形態に係る判定ステップＳ４では、上記遠隔監視装置２の判定部２４３が判定する。なお、判定ステップＳ４において、第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを、自動運転車両１が判定してもよい。
事象を認識し、その認識結果に基づいて判断した後は、判定ステップＳ４に移る。判定ステップＳ４では、上記第二認識判断ステップＳ３における第二判断結果と、上記第一認識判断ステップＳ２における第一判断結果との比較結果が第二基準を超えるか否かを判定する。本実施形態に係る判定ステップＳ４では、上記遠隔監視装置２の判定部２４３が判定する。なお、判定ステップＳ４において、第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを、自動運転車両１が判定してもよい。
【0055】
（処理ステップ）
第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定した後は、処理ステップＳ５に移る。処理ステップＳ５では、上記判定ステップＳ４における判定結果に基づいて、遠隔監視に関する処理を実行する。本実施形態に係る処理ステップＳ５では、上記遠隔監視装置２の処理部２４６が実行する。なお、処理ステップＳ５において、遠隔監視に関する処理を、自動運転車両１が実行してもよい。また、この処理ステップＳ５において、第二判断結果と第一判断結果との比較結果が第二基準を超えるであると判定した場合には、遠隔監視に関する処理を実行しなくてもよい。
第二判断結果と第一判断結果との比較結果が第二基準を超えるか否かを判定した後は、処理ステップＳ５に移る。処理ステップＳ５では、上記判定ステップＳ４における判定結果に基づいて、遠隔監視に関する処理を実行する。本実施形態に係る処理ステップＳ５では、上記遠隔監視装置２の処理部２４６が実行する。なお、処理ステップＳ５において、遠隔監視に関する処理を、自動運転車両１が実行してもよい。また、この処理ステップＳ５において、第二判断結果と第一判断結果との比較結果が第二基準を超えるであると判定した場合には、遠隔監視に関する処理を実行しなくてもよい。
【0056】
＜４．その他＞
上記自動運転車両１および遠隔監視装置２（以下、装置１，２）の機能は、当該装置１，２としてコンピュータを機能させるためのプログラムであって、当該装置１，２の各制御ブロック（特に車両側制御部１４、装置側制御部２４に含まれる各部）としてコンピュータを機能させるためのプログラムにより実現することができる。この場合、上記装置１，２は、上記プログラムを実行するためのハードウェアとして、少なくとも１つの制御装置（例えばプロセッサ）と少なくとも１つの記憶装置（例えばメモリ）を有するコンピュータを備えている。この制御装置と記憶装置により上記プログラムを実行することにより、上記実施形態で説明した各機能が実現される。上記プログラムは、一時的ではなく、コンピュータ読み取り可能な、１または複数の記録媒体に記録されていてもよい。この記録媒体は、上記装置が備えていてもよいし、備えていなくてもよい。後者の場合、上記プログラムは、有線または無線の任意の伝送媒体を介して上記装置に供給されてもよい。
上記自動運転車両１および遠隔監視装置２（以下、装置１，２）の機能は、当該装置１，２としてコンピュータを機能させるためのプログラムであって、当該装置１，２の各制御ブロック（特に車両側制御部１４、装置側制御部２４に含まれる各部）としてコンピュータを機能させるためのプログラムにより実現することができる。この場合、上記装置１，２は、上記プログラムを実行するためのハードウェアとして、少なくとも１つの制御装置（例えばプロセッサ）と少なくとも１つの記憶装置（例えばメモリ）を有するコンピュータを備えている。この制御装置と記憶装置により上記プログラムを実行することにより、上記実施形態で説明した各機能が実現される。上記プログラムは、一時的ではなく、コンピュータ読み取り可能な、１または複数の記録媒体に記録されていてもよい。この記録媒体は、上記装置が備えていてもよいし、備えていなくてもよい。後者の場合、上記プログラムは、有線または無線の任意の伝送媒体を介して上記装置に供給されてもよい。
【0057】
また、上記各制御ブロックの機能の一部または全部は、論理回路により実現することも可能である。例えば、上記各制御ブロックとして機能する論理回路が形成された集積回路も本発明の範疇に含まれる。この他にも、例えば量子コンピュータにより上記各制御ブロックの機能を実現することも可能である。
【0058】
また、本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0059】
以上説明してきた本発明の各態様によれば、安全で持続可能なバス等の公共交通機関にも適した作用効果を奏することにより、持続可能な開発目標（ＳＤＧｓ）の目標１１「住み続けられるまちづくりを」の達成に貢献できる。
【符号の説明】
【0060】
１ 自動運転車両
１１ センサ
１２ 車両側通信部
１３ 車両側記憶部
１３１ 認識用閾値
１３２ 係数
１３３ 判断用閾値
１４ 車両側制御部
１４１ 取得部
１４２ 第一認識判断部
１４２ａ 事象認識部
１４２ｂ 重みづけ部
１４２ｃ 事象判断部
１４３ 車両側送信制御部
１４４ 車両側受信制御部
１４５ 運転制御部
２ 遠隔監視装置
２１ 装置側通信部
２２ 装置側記憶部
２２１ 装置側認識用閾値
２２２ 装置側係数
２２３ 装置側判断用閾値
２２４ データベース
２３ 出力部
２４ 装置側制御部
２４１ 装置側受信制御部（受信制御部）
２４２ 第二認識判断部
２４２ａ 第二事象認識部
２４２ｂ 第二重みづけ部
２４２ｃ 第二事象判断部
２４３ 判定部
２４４ 検証部
２４５ 第二判定部
２４６ 処理部
１１ センサ
１２ 車両側通信部
１３ 車両側記憶部
１３１ 認識用閾値
１３２ 係数
１３３ 判断用閾値
１４ 車両側制御部
１４１ 取得部
１４２ 第一認識判断部
１４２ａ 事象認識部
１４２ｂ 重みづけ部
１４２ｃ 事象判断部
１４３ 車両側送信制御部
１４４ 車両側受信制御部
１４５ 運転制御部
２ 遠隔監視装置
２１ 装置側通信部
２２ 装置側記憶部
２２１ 装置側認識用閾値
２２２ 装置側係数
２２３ 装置側判断用閾値
２２４ データベース
２３ 出力部
２４ 装置側制御部
２４１ 装置側受信制御部（受信制御部）
２４２ 第二認識判断部
２４２ａ 第二事象認識部
２４２ｂ 第二重みづけ部
２４２ｃ 第二事象判断部
２４３ 判定部
２４４ 検証部
２４５ 第二判定部
２４６ 処理部
【図1】
【図2】
【図3】
【手続補正書】
【提出日】2023-07-26
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する第一認識判断部を有する監視対象の自動運転車両と通信する通信部と、
前記自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信するよう前記通信部を制御する受信制御部と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部と、
前記第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部と、
前記判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部と、
を備える遠隔監視装置。
前記自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信するよう前記通信部を制御する受信制御部と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部と、
前記第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定部と、
前記判定部による判定結果に基づいて、遠隔監視に関する処理を実行する処理部と、
を備える遠隔監視装置。
【請求項2】
前記第一基準は、前記事象の認識に用いる閾値、認識した複数の前記事象の重みづけ、および判断に用いる閾値の少なくともいずれかである、
請求項１に記載の遠隔監視装置。
請求項１に記載の遠隔監視装置。
【請求項3】
前記第二判断結果と前記第一判断結果との比較結果が前記第二基準を超えると前記判定部が判定した場合に、当該判断の相違を検証する検証部と、
前記検証部による検証結果を蓄積するデータベースと、
を更に備え、
前記処理部は、前記検証結果に基づく処理を実行する、
請求項１または２に記載の遠隔監視装置。
前記検証部による検証結果を蓄積するデータベースと、
を更に備え、
前記処理部は、前記検証結果に基づく処理を実行する、
請求項１または２に記載の遠隔監視装置。
【請求項4】
前記処理部は、前記データベースに蓄積された検証結果に基づいて、前記認識および前記判断の少なくとも一方の機能をアップデートするための情報を、前記第一認識判断部および前記第二認識判断部の少なくとも一方に送信する、
請求項３に記載の遠隔監視装置。
請求項３に記載の遠隔監視装置。
【請求項5】
前記第二判断結果と前記第一判断結果との比較結果が前記第二基準を超えると前記判定部が判定した場合に、当該判断の相違が事故に繋がる問題であるか否かを、前記検証結果に基づいて判定する第二判定部を備え、
前記相違が事故に繋がる問題であると前記第二判定部が判定した場合、前記処理部は、前記自動運転車両を遠隔制御する、
請求項３に記載の遠隔監視装置。
前記相違が事故に繋がる問題であると前記第二判定部が判定した場合、前記処理部は、前記自動運転車両を遠隔制御する、
請求項３に記載の遠隔監視装置。
【請求項6】
前記相違が事故に繋がる問題ではないと前記第二判定部が判定した場合、前記処理部は、前記判定結果を遠隔監視者に通知する、
請求項５に記載の遠隔監視装置。
請求項５に記載の遠隔監視装置。
【請求項7】
自動運転車両であって、
前記自動運転車両の動作を監視する遠隔監視装置と通信する通信部と、
前記自動運転車両の内部および外部の少なくとも一方の事象を検知してデータを生成するセンサと、
前記センサからのデータに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する第一認識判断部と、
前記第一認識判断部による第一判断結果に基づいて加減速または操舵の少なくとも一方を制御する運転制御部と、
前記第一判断結果、および前記第一認識判断部に入力したデータと同じデータを、前記遠隔監視装置へ送信するよう前記通信部を制御する送信制御部と、を備え、
前記運転制御部は、前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えると前記遠隔監視装置が判定したことに基づいて当該遠隔監視装置が送信してきた所定の遠隔制御信号を前記通信部が受信した場合、前記第一判断結果ではなく前記遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する、
自動運転車両。
前記自動運転車両の動作を監視する遠隔監視装置と通信する通信部と、
前記自動運転車両の内部および外部の少なくとも一方の事象を検知してデータを生成するセンサと、
前記センサからのデータに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する第一認識判断部と、
前記第一認識判断部による第一判断結果に基づいて加減速または操舵の少なくとも一方を制御する運転制御部と、
前記第一判断結果、および前記第一認識判断部に入力したデータと同じデータを、前記遠隔監視装置へ送信するよう前記通信部を制御する送信制御部と、を備え、
前記運転制御部は、前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる第二認識判断部による第二判断結果と前記第一判断結果との比較結果が第二基準を超えると前記遠隔監視装置が判定したことに基づいて当該遠隔監視装置が送信してきた所定の遠隔制御信号を前記通信部が受信した場合、前記第一判断結果ではなく前記遠隔制御信号に基づいて加減速または操舵の少なくとも一方を制御する、
自動運転車両。
【請求項8】
第一判断結果と第二判断結果との比較結果が第一基準を超えるか否かを判定した判定結果を記録している記録媒体であって、
前記第一判断結果は、センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する前記自動運転車両による判断結果であり、
前記第二判断結果は、前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第二基準が前記自動運転車両のものとは異なる、前記自動運転車両の遠隔監視装置による判断結果である、
記録媒体。
前記第一判断結果は、センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する前記自動運転車両による判断結果であり、
前記第二判断結果は、前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断するとともに、認識および判断の少なくとも一方を行う際の第二基準が前記自動運転車両のものとは異なる、前記自動運転車両の遠隔監視装置による判断結果である、
記録媒体。
【請求項9】
前記第一判断結果と前記第二判断結果とを更に記録している、請求項８に記載の記録媒体。
【請求項10】
コンピュータに、
センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する第一認識判断部を有する監視対象の自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信する受信処理と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する処理であって、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる判断処理と、
前記判断処理における第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定処理と、
前記判定処理における判定結果に基づく遠隔監視に関する処理と、
を実行させるプログラム。
センサからのデータに基づいて自動運転車両の内部および外部の少なくとも一方の事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する第一認識判断部を有する監視対象の自動運転車両から、前記第一認識判断部に入力したデータと同じデータ、および前記第一認識判断部による第一判断結果を受信する受信処理と、
前記データに基づいて前記事象を認識し、その認識結果に基づいて前記自動運転車両をどのように制御するかを判断する処理であって、認識および判断の少なくとも一方を行う際の第一基準が前記第一認識判断部のものとは異なる判断処理と、
前記判断処理における第二判断結果と前記第一判断結果との比較結果が第二基準を超えるか否かを判定する判定処理と、
前記判定処理における判定結果に基づく遠隔監視に関する処理と、
を実行させるプログラム。