IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックIPマネジメント株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-24
(45)【発行日】2024-11-01
(54)【発明の名称】情報処理方法及び情報処理装置
(51)【国際特許分類】
   G08G 1/127 20060101AFI20241025BHJP
   G08G 1/09 20060101ALI20241025BHJP
   G08G 1/00 20060101ALI20241025BHJP
   H04Q 9/00 20060101ALI20241025BHJP
   H04N 7/18 20060101ALI20241025BHJP
   G16Y 10/40 20200101ALI20241025BHJP
   G16Y 20/20 20200101ALI20241025BHJP
   G16Y 40/10 20200101ALI20241025BHJP
【FI】
G08G1/127 B
G08G1/09 F
G08G1/00 D
G08G1/09 V
H04Q9/00 301B
H04N7/18 J
G16Y10/40
G16Y20/20
G16Y40/10
【請求項の数】 5
(21)【出願番号】P 2023076684
(22)【出願日】2023-05-08
(62)【分割の表示】P 2019047427の分割
【原出願日】2019-03-14
(65)【公開番号】P2023106448
(43)【公開日】2023-08-01
【審査請求日】2023-05-08
(31)【優先権主張番号】P 2018136099
(32)【優先日】2018-07-19
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】穴吹 元嗣
【審査官】貞光 大樹
(56)【参考文献】
【文献】特許第6227211(JP,B1)
【文献】特開2019-101709(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00 - 1/16
H04N 7/18
B60W 10/00 - 10/30
B60W 30/00 - 60/00
G05D 1/00 - 1/87
H04Q 9/00
(57)【特許請求の範囲】
【請求項1】
複数の車両にあるセンサから得られるセンシングデータ、及び、データベースに格納されている過去の車両データの各々を取得部が取得し、
前記センシングデータの各々のうちの1つのセンシングデータを用いて、前記複数の車両の各々の物体検出処理を検出処理部が実行し、
前記物体検出処理の各々の結果及び前記過去の車両データを用いて、前記複数の車両を監視又は制御するオペレータのための提示の態様を決定部が決定し、
決定された前記態様に応じて提示装置の前記提示を提示制御部が制御することを含み、
走行中の前記複数の車両のそれぞれにおける外の物体及び前記物体の位置が検出されると、前記決定部は、前記物体及び前記物体の位置を用いて、前記複数の車両について前記複数の車両の外の危険度をそれぞれ算出し、
前記決定部は、前記オペレータに対して優先的に前記提示が行われるように、前記複数の車両のそれぞれに対して算出された前記危険度に基づいて、前記複数の車両のそれぞれに対応する複数の優先度を決定し、
前記決定部は、決定された前記複数の車両のそれぞれの前記優先度に応じて、算出された前記危険度が高い車両ほど、優先的に監視すべき車両として前記提示の態様を決定し、
前記過去の車両データは、危険な状況が発生していた場所、前記危険な状況の説明文であるラベル、前記ラベルに対応する推奨操作、及び、前記ラベルに対応する危険度を含む、
情報処理方法。
【請求項2】
前記過去の車両データは、推奨される操作に関する情報、危険度に関する情報の少なくとも1つを含む、
請求項1に記載の情報処理方法。
【請求項3】
前記過去の車両データは、前記センシングデータに基づいて生成された車両内外情報であって前記複数の車両のそれぞれの車両の内部に存在する人の様子及び車両の外部に存在する物体の様子を示す前記車両内外情報に類似した過去の車両データである、
請求項1に記載の情報処理方法。
【請求項4】
前記提示は、前記推奨される操作に関する情報を含む、
請求項2に記載の情報処理方法。
【請求項5】
複数の車両にあるセンサから得られるセンシングデータ、及び、データベースに格納されている過去の車両データの各々を取得する取得部と、
前記センシングデータの各々のうちの1つのセンシングデータを用いて、前記複数の車両の各々の物体検出処理を実行する検出処理部と、
前記物体検出処理の各々の結果及び前記過去の車両データを用いて、前記複数の車両を監視又は制御するオペレータのための提示の態様を決定する決定部と、
決定された前記態様に応じて提示装置への前記提示を制御する提示制御部とを備え、
走行中の前記複数の車両のそれぞれにおける外の物体及び前記物体の位置が検出されると、前記決定部は、前記物体及び前記物体の位置を用いて、前記複数の車両について前記複数の車両の外の危険度をそれぞれ算出し、
前記決定部は、前記オペレータに対して優先的に前記提示が行われるように、前記複数の車両のそれぞれに対して算出された前記危険度に基づいて、前記複数の車両のそれぞれに対応する複数の優先度を決定し、
前記決定部は、決定された前記複数の車両のそれぞれの前記優先度に応じて、算出された前記危険度が高い車両ほど、優先的に監視すべき車両として前記提示の態様を決定し、
前記過去の車両データは、危険な状況が発生していた場所、前記危険な状況の説明文であるラベル、前記ラベルに対応する推奨操作、及び、前記ラベルに対応する危険度を含む
情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理方法及び情報処理装置に関する。
【背景技術】
【0002】
近年では、車両を自動運転により走行させる技術が登場し、研究開発が活発化してきている。今後、自動運転技術の発展に伴い、無人の自動運転車両の普及が予想される。無人の自動運転車両の運行には、安全性の観点から、遠隔地のオペレータによる車両の監視が要求される。車両の監視に関する技術はいくつか提案されている。
【0003】
例えば、特許文献1には、車両が遠隔操作対象エリアに進入した場合に管制センタに対して遠隔操作要求を行い、管制センタが遠隔操作要求を発した車両を遠隔操作する遠隔操作装置を決定する技術が開示されている。
【0004】
また、特許文献2には、駅に流入する利用客数に基づいて、車両の発車時刻を修正する技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2017-147626号公報
【文献】特開2015-182623号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1で開示される従来技術では、オペレータは、複数の車両が遠隔操作対象エリアに進入すると、当該複数の車両が同時に遠隔操作対象となる。しかし、一人のオペレータで複数の車両を同時に遠隔操作することは困難である。
【0007】
また、特許文献2で開示される従来技術では、単一の車両に乗り込んでいるオペレータ向けの技術であり、一人のオペレータで複数の車両を同時に管理することは想定されていない。
【0008】
そこで、本開示は、複数の車両を監視又は制御することにより当該複数の車両についての安全性を確保しつつ、当該監視又は制御を行うオペレータの負担を軽減することができる情報処理方法及び情報処理装置を提供する。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本開示の一形態に係る情報処理方法は、複数の車両にあるセンサから得られるセンシングデータ、及び、データベースに格納されている過去の車両データの各々を取得部が取得し、前記センシングデータの各々のうちの1つのセンシングデータを用いて、前記複数の車両の各々の物体検出処理を検出処理部が実行し、前記物体検出処理の各々の結果及び前記過去の車両データを用いて、前記複数の車両を監視又は制御するオペレータのための提示の態様を決定部が決定し、決定された前記態様に応じて提示装置の前記提示を提示制御部が制御することを含み、走行中の前記複数の車両のそれぞれにおける外の物体及び前記物体の位置が検出されると、前記決定部は、前記物体及び前記物体の位置を用いて、前記複数の車両について前記複数の車両の外の危険度をそれぞれ算出し、前記決定部は、前記オペレータに対して優先的に前記提示が行われるように、前記複数の車両のそれぞれに対して算出された前記危険度に基づいて、前記複数の車両のそれぞれに対応する複数の優先度を決定し、前記決定部は、決定された前記複数の車両のそれぞれの前記優先度に応じて、算出された前記危険度が高い車両ほど、優先的に監視すべき車両として前記提示の態様を決定し、前記過去の車両データは、危険な状況が発生していた場所、前記危険な状況の説明文であるラベル、前記ラベルに対応する推奨操作、及び、前記ラベルに対応する危険度を含む
【0010】
なお、これらの包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【0011】
本開示の情報処理方法等によれば、複数の車両を監視又は制御することにより複数の車両についての安全性を確保しつつ、当該監視又は制御を行うオペレータの負担を軽減することができる。
【図面の簡単な説明】
【0012】
図1図1は、実施の形態1に係る情報処理システムを例示するブロック図である。
図2A図2Aは、実施の形態1に係り、優先度情報を例示する図である。
図2B図2Bは、実施の形態1に係るデータベースを例示する図である。
図2C図2Cは、実施の形態1に係るデータベースを例示する図である。
図3図3は、実施の形態1に係る情報処理システムの動作を例示するシーケンス図である。
図4A図4Aは、実施の形態1に係る端末装置の提示を例示する図である。
図4B図4Bは、実施の形態1に係る端末装置の提示を例示する図である。
図4C図4Cは、実施の形態1に係る端末装置の提示を例示する図である。
図4D図4Dは、実施の形態1に係る端末装置の提示を例示する図である。
図4E図4Eは、実施の形態1に係る端末装置の提示を例示する図である。
図5図5は、実施の形態1に係る情報処理装置の動作において、優先度の決定を例示するフロー図である。
図6図6は、実施の形態1に係る情報処理装置の動作において、データベースを利用して乗降完了時刻の算出を例示するフロー図である。
図7図7は、実施の形態2に係る情報処理システムを例示するブロック図である。
図8A図8Aは、実施の形態2に係るデータベースを例示する図である。
図8B図8Bは、実施の形態2に係り、データベースを例示する図である。
図8C図8Cは、実施の形態2に係り、データベースを例示する図である。
図9図9は、実施の形態2に係る情報処理システムの動作を例示するシーケンス図である。
図10A図10Aは、実施の形態2に係る端末装置の提示を例示する図である。
図10B図10Bは、実施の形態2に係る端末装置の提示を例示する図である。
図10C図10Cは、実施の形態2に係る端末装置の提示を例示する図である。
図10D図10Dは、実施の形態2に係る端末装置の提示を例示する図である。
図10E図10Eは、実施の形態2に係る端末装置の提示を例示する図である。
図10F図10Fは、実施の形態2に係る端末装置の提示を例示する図である。
図11図11は、実施の形態2に係る情報処理装置の動作において、優先度を決定する動作を例示するフロー図である。
【発明を実施するための形態】
【0013】
本開示の一形態に係る情報処理方法は、複数の車両にあるセンサから得られるセンシングデータの各々を前記複数の車両の各々からそれぞれ取得し、前記センシングデータの各々を用いて物体検出処理の各々をそれぞれ実行し、前記物体検出処理の各々の結果を用いて、前記複数の車両を監視又は制御するための提示の態様を決定し、決定された前記態様に応じて提示装置の前記提示を制御する。
【0014】
このように、物体検出処理の各々から得られた結果を用いて決定された態様で複数の車両を監視又は制御(以下、まとめて単に監視とも称する。)するための提示が行われることにより、複数の車両を監視するオペレータは、監視すべき車両を容易に把握することができる。すなわち、オペレータが監視すべき車両の見落としリスクを軽減しつつ、オペレータが同時に監視すべき車両の数を低減することができる。よって、複数の車両を監視することにより複数の車両についての安全性を確保しつつ、監視を行うオペレータの負担を軽減することができる。
【0015】
また、本開示の一形態に係る情報処理装置は、複数の車両にあるセンサから得られるセンシングデータの各々を前記複数の車両の各々からそれぞれ取得する取得部と、前記センシングデータの各々を用いて物体検出処理の各々をそれぞれ実行する検出処理部と、前記物体検出処理の各々の結果を用いて、前記複数の車両を監視又は制御するための提示の態様を決定する決定部と、決定された前記態様に応じて提示装置の前記提示を制御する提示制御部と、を備える。
【0016】
また、本開示の一形態に係る情報処理システムは、情報処理装置と、前記提示装置と、を備える。
【0017】
これら情報処理装置及び情報処理システムにおいても、上述と同様の作用効果を奏する。
【0018】
また、本開示の一形態に係る情報処理方法は、前記物体検出処理の各々の結果に基づいて、前記複数の車両にそれぞれ対応する複数の優先度を決定し、前記複数の優先度に応じて、前記提示の態様を決定する。
【0019】
このように、各々の車両の優先度に応じて、提示装置が各々の車両を監視又は制御するための提示をするため、複数の車両を監視するオペレータは、複数の車両のうち優先して監視すべき車両を把握することができる。このため、オペレータは優先度が他の車両に比べて高い車両を監視することができるため、車両についての安全性を確保しつつオペレータの負担を軽減することができる。
【0020】
また、本開示の一形態に係る情報処理方法において、前記複数の車両の状態の各々を前記複数の車両の各々からそれぞれ取得し、前記物体検出処理の各々の結果及び前記複数の車両の状態の各々に基づいて、前記複数の優先度をそれぞれ決定する。
【0021】
このように、物体検出処理の各々の結果を用いるだけでなく、さらに、複数の車両の状態を用いることによって、各々の車両の優先度をより適切に決定することができる。これにより、複数の車両を監視するオペレータは、複数の車両のうち優先して監視すべき車両を、より把握し易くなる。このため、オペレータは、優先度が他の車両に比べて高い車両をより監視し易くなるため、車両についての安全性を確保しつつオペレータの負担を、より軽減することができる。
【0022】
また、本開示の一形態に係る情報処理方法において、前記物体検出処理は、停止中の車両についての乗車者及び降車者の少なくとも一方を検出し、検出した前記乗車者及び前記降車者の少なくとも一方に応じて、前記提示の態様を決定する。
【0023】
従来では、車両への乗車又は車両からの降車が完了したことを判定して発車のタイミングを制御することは難しい。例えば、車両の近くにいる人が乗車予定者であるのか否かを判定することをセンシングデータから判定することは困難である。誤判定が生じた場合、乗降者に危険が及ぶおそれもある。他方で、監視を行うオペレータが発車のタイミングを制御することが考えられるが、車両の乗降状況を常に監視することになるとオペレータの負担が増大する。これに対し、本構成によれば、乗降者に応じて監視のための提示の態様が制御されることにより、オペレータは監視すべき状況にある車両を容易に把握することができる。したがって、乗降時において、複数の車両についての安全性を確保しつつ、オペレータの負担を軽減することができる。なお、本構成は、自動的に発車が制御される場合であっても有効である。上述したように発車は危険が発生するおそれがある状況であるため、オペレータが優先して監視することが要求されるからである。
【0024】
また、本開示の一形態に係る情報処理方法において、前記物体検出処理では、前記乗車者及び前記降車者の少なくとも一方の属性又は数を検出し、検出した前記属性又は前記数に応じて、前記提示の態様を決定する。
【0025】
このように、乗降時の監視の優先度に関わる要素に応じた態様で提示が行われることにより、監視すべき車両をより正確にオペレータに把握させることができる。
【0026】
また、本開示の一形態に係る情報処理方法は、前記属性又は前記数を用いて、前記乗車者による前記停止中の車両への乗車及び前記降車者による前記停止中の車両からの降車の少なくとも一方が完了するまでの時間を算出し、算出された前記時間に応じて、前記提示の態様を決定する。
【0027】
このように、乗降時間に応じた態様で提示が行われることにより、監視すべきタイミングに応じて車両をオペレータに提示することができる。したがって、監視すべき車両をよりタイムリーに提示することができる。例えば、算出した時間が長い車両よりも、算出した時間が短い車両の方を優先的に監視すべき車両として提示することができる。
【0028】
また、本開示の一形態に係る情報処理方法において、前記物体検出処理では、走行中の車両外の物体及び前記物体の位置を検出し、検出した前記物体及び前記物体の位置に応じて、前記提示の態様を決定する。
【0029】
従来では、車外にある物体の状況に応じて車両の動作を制御する技術は存在する。しかし、当該物体の状況は多様であり、あらゆることを想定して制御することは困難である。他方で、監視を行うオペレータが車外を確認することが考えられるが、複数の車両の外を常に監視することになると負担が増大する。これに対し、本構成によれば、車外の物体に応じて監視のための提示の態様が制御されることにより、オペレータは監視すべき状況にある車両を容易に把握することができる。したがって、車外に物体が存在する場合において、複数の車両についての安全性を確保しつつ、オペレータの負担を軽減することができる。
【0030】
また、本開示の一形態に係る情報処理方法は、前記物体及び前記物体の位置を用いて、前記複数の車両について自動運転の困難度及び前記複数の車両の外の危険度の少なくとも一方をそれぞれ算出し、算出された前記困難度及び前記危険度の少なくとも一方に応じて、前記提示の態様を決定する。
【0031】
このように、自動運転の困難度及び車外の危険度の少なくとも一方に応じた態様で提示が行われることにより、監視すべき車両をより正確にオペレータに把握させることができる。例えば、自動運転の困難度又は車外の危険度の少なくとも一方が相対的に高い車両を優先的に監視すべき車両として提示することができる。
【0032】
また、本開示の一形態に係る情報処理方法において、前記提示は、前記複数の車両それぞれの乗車口及び降車口の少なくとも一方が映る画像を表示することを含む。
【0033】
このため、オペレータは乗降時の安全を容易に確認することができる。
【0034】
また、本開示の一形態に係る情報処理方法において、前記提示は、前記複数の車両それぞれの外部が映る画像を表示することを含む。
【0035】
このため、オペレータは車両の外部の安全を容易に確認することができる。
【0036】
また、本開示の一形態に係る情報処理方法において、前記提示の態様の決定は、前記優先度が高いほど前記提示の視認性を高くすることを含む。
【0037】
このように、優先度の高い車両ほど、視認性を高くすることで、オペレータは監視すべき車両の情報を迅速に確認することができる。
【0038】
また、本開示の一形態に係る情報処理方法において、前記提示の態様の決定は、前記優先度が高いほど前記提示の情報量を増やすことを含む。
【0039】
このように、優先度の高いほど提示の情報量を多くすることで、オペレータは監視すべき車両の情報を詳細に把握することができる。
【0040】
また、優先度が低いほど提示の情報量が少ないため、オペレータに提示させる車両のフレームレートを低下させたり、画質を低下させたりすることができる。このため、この情報処理方法を実現する装置、車両、及び提示装置の間でのネットワーク負荷を軽減することができる。
【0041】
また、本開示の一形態に係る情報処理方法において、前記提示の態様の決定は、前記優先度が高いほど前記提示を強調することを含む。
【0042】
このように、優先度の高いほど提示を強調することで、オペレータは監視すべき車両を迅速に特定することができる。
【0043】
また、本開示の一形態に係る情報処理方法において、前記提示の態様の決定は、前記優先度が閾値より高くなると前記提示を開始することを含む。
【0044】
このように、優先度が閾値以上の車両のみを提示をすることで、オペレータは監視すべき車両に注力することができる。
【0045】
また、本開示の一形態に係る情報処理方法において、前記提示の態様の決定は、前記優先度が閾値より高くなると前記提示を開始することを含む。
【0046】
このように、優先度の高さ順に車両を提示することで、オペレータは監視すべき車両を迅速に特定することができる。また、次に監視すべき車両を予め確認することができ、監視作業の効率化が可能となる。
【0047】
また、本開示の一形態に係る情報処理方法において、前記優先度の算出では、さらに、車両の位置、前記車両の位置に対応する時刻、乗車者及び降車者が乗降を完了するまでの所要時間の履歴、及び、前記車両の位置に対応する天候情報の少なくとも1つである。
【0048】
これによれば、複数の車両に対して各々の優先度をより適切に設定することができる。このため、監視すべき車両を、より適切に提示装置に提示させることができる。
【0049】
なお、これらの包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【0050】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【0051】
なお、各図は、模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略又は簡略化する。
【0052】
以下、本開示の実施の形態に係る情報処理方法、情報処理装置及び情報処理システムについて説明する。
【0053】
(実施の形態1)
[構成]
図1は、実施の形態1に係る情報処理システム1を例示するブロック図である。
【0054】
情報処理システム1は、車両3と、情報処理装置5と、端末装置7とを有する。
【0055】
車両3は、車両3の遠隔者からの遠隔操作によって走行を行うことができるとともに、遠隔操作されていない場合に、自動走行を行うことができる自動運転車両3である。車両3は、例えば、バス、タクシー、電車等である。本実施の形態では、車両3の一例であるバスを想定し、かつ、車両3が停車場所(停留所)で停止している場合を想定して以下の本実施の形態を記載する。以下では、車両3に乗車する者又は乗車を予定している者を乗車者、車両3から降車する者又は降車を予定している者を降車者という。乗車者及び降車者の両者を示す場合を乗降者という。
【0056】
車両3は、第1取得部31と、第2取得部32と、第3取得部33と、第4取得部34と、通信部35とを有する。
【0057】
第1取得部31は、乗降開始時刻を示す情報を取得する装置であり、例えば、時計である。具体的には、乗降開始時刻は、車両3が停車場所に停止している際に、乗降者が車両3に対して乗降を開始した時刻を示す。第1取得部31は、乗降開始時刻を示す情報を情報処理装置5に送信する。なお、乗降開始時刻は、車両3が自動運転によって停車場所に停止した時刻であってもよい。
【0058】
第2取得部32は、車両3の現在位置を示す車両位置情報(例えば、GPS(Global Positioning System)情報)を取得する。第2取得部32は、取得した車両位置情報を情報処理装置5、及び端末装置7に送信する。車両3の現在位置は、車両3の位置の一例である。
【0059】
第3取得部33は、車両3に乗降する乗降者を撮像した画像を示す乗降者画像を取得する装置であり、例えば、カメラ等である。具体的には、第3取得部33は、車両3の停車場所に待機している人(例えば、乗車者)を撮像したり、車両内部で立ち上がっている人(例えば、降車者)を撮像したりして乗降者画像を生成する。第3取得部33は、乗降者画像を情報処理装置5に送信する。第3取得部33は、センサの一例である。また、乗降者画像はセンシングデータの一例である。
【0060】
第4取得部34は、車両内部及び車両外部を示す車両内外画像を取得する装置であり、例えば、カメラ等である。車両内外画像は、車両外部つまり車両3外の歩行者、車両、自転車などの情報、車両内部の乗客の情報、乗降口付近の乗降者の情報を含む。第4取得部34は、車両内外画像を端末装置7に送信する。なお、第4取得部34は第3取得部33と兼用であってもよく、乗降者画像は車内外画像であってよい。
【0061】
通信部35は、乗降開始時刻を示す情報、車両位置情報、及び乗降者画像を情報処理装置5に送信し、車両位置情報、車両内外画像を示す情報を端末装置7に送信する通信インターフェイスである。また、通信部35は、車両3が遠隔者に遠隔操作される場合、遠隔操作される制御コマンドを受信する。通信部35は、車両3を制御する図示しないアクチュエータ、表示器などに、制御コマンドを出力する。
【0062】
ここで、車両3は複数存在しているため、各々の車両3はそれぞれを識別する車両IDを有する。通信部35は、車両IDがそれぞれ付与された、乗降開始時刻を示す情報、車両位置情報、及び乗降者画像を情報処理装置5に送信したり、車両IDが付与された車両内外画像を端末装置7に送信したりする。
【0063】
情報処理装置5は、遠隔地にいるオペレータの指示に基づいて、自動運転を行う複数の車両3を遠隔制御することが可能な装置である。情報処理装置5は、検出処理部51と、決定部52と、記憶制御部53と、通信部54と、提示制御部55とを有する。
【0064】
検出処理部51は、物体検出処理の各々をそれぞれ実行する。物体検出処理は、停止中の車両3についての乗車者及び降車者の少なくとも一方を検出したり、乗車者及び降車者の少なくとも一方の属性又は数を検出したりする処理である。具体的には、検出処理部51は、車両3の第3取得部33から乗降者画像を取得し、乗降者画像に基づいて、乗降者の数、それぞれの乗降者の属性等を検出し、車両3ごとに乗降者情報を生成する。乗降者の属性は、大人、子供、高齢者等の情報を示す。検出処理部51は、乗降者情報を決定部52に出力する。
【0065】
決定部52は、物体検出処理の各々の結果を用いて、複数の車両3を監視又は制御するための提示の態様を決定する。提示の態様の詳細については後述する。
【0066】
また、決定部52は、検出処理部51から各々の乗降者情報を取得し、車両3の第1取得部31、第2取得部32から乗降開始時刻、及び車両位置情報をそれぞれ取得すると、記憶制御部53に格納されているデータベースから過去の乗降データを取得する。具体的には、決定部52は、各々の乗降者情報、乗降開始時刻、及び車両位置情報が類似した過去の乗降データの要求をそれぞれ記憶制御部53に行い、記憶制御部53から類似した過去の乗降データを取得する。
【0067】
決定部52は、記憶制御部53から過去の乗降データを取得し、各々の車両3に対して優先的に監視する指標である優先度をそれぞれ決定する。図2Aに示すように、決定部52は、算出した各々の優先度に、各々の車両3から取得した車両IDを紐付けた、各々の優先度情報を端末装置7に送信する。図2Aは、実施の形態1に係り、優先度情報を例示する図である。
【0068】
記憶制御部53は、データベース化された過去の乗降データを格納している。乗降データは、乗降開始時刻、停車場所、乗降者の属性及び属性ごとの乗降者の数、全ての人が乗降を完了するまでの所要時間、乗降者の属性に応じた乗降時間等の情報である。記憶制御部53は、決定部52の要求に応じて、乗降者情報に類似した過去の乗降データを検索し、類似した過去の乗降データを決定部52に送信する。なお、記憶制御部53は、データベース化された過去の乗降データの代わりに、過去の乗降データにより学習された学習済みモデルを格納してもよい。この場合、記憶制御部53は、決定部52の要求に応じて、学習済みモデルを決定部52に送信する。
【0069】
乗降データは、図2B及び図2Cに示される。図2B及び図2Cは、実施の形態1に係る乗降データを例示する図である。図2Bに示すように、乗降データは、車両3が停車場所で停車した「時刻」、停車した「場所」、「乗降者の属性及び乗降者の数」、及び、全ての乗降者が乗降を完了するまでの「所要時間」で構成されている。図2Cに示すように、乗降データは、乗降者の属性における1人当たりの「乗降時間」をさらに有する。
【0070】
図1に示すように、通信部54は、乗降開始時刻を示す情報、車両位置情報、及び乗降者画像を受信したり、端末装置7に優先度情報を送信したりする通信インターフェイスである。通信部54は、取得部の一例である。
【0071】
提示制御部55は、決定部52によって決定された提示の態様に応じて、端末装置7の提示の態様を制御する。つまり、提示制御部55は、端末装置7が決定された優先度に基づく態様で提示するように、端末装置7の提示を制御するコマンドを出力する。
【0072】
端末装置7は、オペレータが車両3の走行状態を監視し、オペレータが車両3を遠隔操作するための操作端末であり、例えばパーソナルコンピュータ、タブレット端末等である。端末装置7は、提示部71と、操作部72と、計時部73と、通信部74とを有する。
【0073】
提示部71は、車両内外画像、車両位置情報等を車両3ごとに提示するモニタである。具体的には、提示部71は、車両内部の画像、車両3の乗降口の画像、車両3の外部(車両3の周辺)の画像、車両3の優先度、乗降完了時刻、車両ID、停車場所等といった車両3に関する情報を、車両3ごとに提示する。
【0074】
提示部71は、車両3に関する情報を様々な態様で提示する。例えば、提示部71は、優先度の最も高い車両3の情報を面積の大きな画像で提示したり、複数台ある車両3のうちの優先度が閾値以上の車両3の情報のみを提示したり、優先度の高い車両3の情報を詳細に提示したり、同じ大きさの画像で提示についての順序を優先度の高さに応じた順に並べた車両3に関する情報を提示したり、優先度の最も高い車両3の画像を色付けして強調するといった提示をする。
【0075】
操作部72は、オペレータによる車両3の遠隔操作を受け付ける入力部である。オペレータは、全ての乗降者が乗降したことを確認し(乗降完了確認)、車両3を発車させる際に操作部72を操作する。操作部72は、例えば、タッチパネル、キーボード等である。操作部72は、遠隔操作する制御コマンドを、通信部74を介して車両3に送信する。
【0076】
計時部73は、オペレータが操作部72を操作して、車両3を発車させる制御コマンドを送信する時点の時刻を計測する、例えば、時計である。
【0077】
通信部74は、車両3に制御コマンドを送信する通信インターフェイスである。
【0078】
なお、本実施の形態では、端末装置7の計時部73は端末装置7において必須の構成要件ではなく、車両3の第2取得部32は車両3において必須の構成要件ではない。このため、計時部73、及び第2取得部32はなくてもよく、いずれか一方が設けられていてもよい。
【0079】
[動作]
次に、本実施の形態における情報処理方法、情報処理装置5及び情報処理システム1の動作について説明する。具体的には、車両3がバスの停車場所で停止し、一定期間後に車両3が発車するまでの間に行われる情報処理システム1の動作について説明する。
【0080】
図3は、実施の形態1に係る情報処理システム1の動作を例示するシーケンス図である。
【0081】
図3に示すように、車両3は、乗降開始時刻を示す情報を取得し、取得したそれぞれを情報処理装置5に送信する(ステップS101)。また、車両3は、車両3の現在位置を示す車両位置情報を取得し、取得したそれぞれを情報処理装置5、及び端末装置7に送信する(ステップS102)。情報処理装置5の決定部52は、通信部54を介して受信した乗降開始時刻を示す情報、及び車両位置情報を受信する。
【0082】
また、車両3は、車両3に乗降する人を撮像した画像を示す乗降者画像を取得し、取得した乗降者画像を情報処理装置5に送信する(ステップS103)。情報処理装置5の検出処理部51は、通信部54を介して乗降者画像を受信する。
【0083】
一方で、車両3は、車両内外画像を取得し、車両内外画像を端末装置7に送信する(ステップS104)。
【0084】
検出処理部51は、ステップS103による乗降者画像に基づいて、乗降者の人数、乗降者の属性等を検出した乗降者情報を生成する(ステップS105)。検出処理部51は、乗降者情報を決定部52に出力する(ステップS106)。
【0085】
決定部52は、取得した乗降者情報、乗降開始時刻、及び車両位置情報と類似した過去の乗降データの要求を記憶制御部53に行う(ステップS107)。
【0086】
記憶制御部53は、決定部52からの要求に応じて、乗降者情報、乗降開始時刻、車両位置情報と類似した過去の乗降データを検索し、類似した過去の乗降データを決定部52に出力する(ステップS108)。乗降データは、図2B及び図2Cで例示された、車両3が停車場所での停止する時刻、停車場所、乗降者の属性、乗降者の属性ごとの数、全ての乗降者が乗降を開始してから完了するまでの所要時間、乗降者の属性ごとの乗降時間等の情報で構成されている。なお、記憶制御部53は、決定部52からの要求に応じて類似した過去の乗降データを決定部52に出力する代わりに、決定部52の要求に応じて、学習済みモデルを決定部52に送信してもよい。
【0087】
決定部52は、記憶制御部53から過去の乗降データを取得し、それぞれの車両3に対して監視の優先度を設定する(ステップS109)。決定部52は、乗降者情報、乗降開始時刻、及び車両位置情報に基づいて、車両3ごとの優先度を決定する。優先度については後述する。決定部52は、設定した優先度に車両IDに紐付けた優先度情報を端末装置7に送信する(ステップS110)。なお、決定部52は、記憶制御部53から過去の乗降データを取得する代わりに、記憶制御部53から学習済みモデルを取得し、それぞれの車両3に対して監視の優先度を設定してもよい。この場合、決定部52は、取得した学習済みモデルを用いて、車両3ごとの優先度を決定する。
【0088】
ここで、決定部52は、端末装置7に提示させる車両3に関する情報を、優先度が高いほど提示の視認性が高い態様に決定したり、優先度が高いほど情報量を増やす提示の態様に決定したり、優先度が高いほど強調される提示を態様に決定したりする。また、決定部52は、優先度の高さに応じた順に並べた車両3に関する情報を提示する態様に決定する。提示制御部55は、決定された態様に応じて端末装置7の提示を制御する、つまり優先度が閾値より高くなると車両3に関する情報の提示を端末装置7に開始させる。
【0089】
次に、端末装置7は、ステップS104で取得した車両内外画像、及びステップS110で取得した優先度情報を受信する。端末装置7は、優先度に応じた提示を行う(ステップS111)。端末装置7は、優先度に応じて様々な態様で提示する。図4A図4Eでは、提示部71への提示の態様を例示する。
【0090】
図4Aは、実施の形態1に係る端末装置7の提示を例示する図である。図4Aに示すように、提示部71は、優先度の最も高い車両3を面積の大きな画像で提示(視認性が高い態様で提示)する。具体的には、複数台ある車両3のうちの所定の優先度(閾値)以上の車両3だけを提示し、最も優先度の高い車両3については、面積の大きな画像を提示する。優先度が1番の車両3に関する情報は、全ての人が車両3に対して乗降完了するまでの所要時間、車両3に関する画像、車両ID、停車場所を示している。車両3に関する画像は、車両内部の画像、車両3の乗降口の画像、車両外部の画像等の画像である。また、例えば、優先度が2番目以降の車両3については、優先度が1番の車両3よりも簡易な情報、例えば車両3に関する画像を1種類だけ提示し、例えば画像のフレームレートを低下させたり、画質を低下させたりする。また、所定の優先度未満の車両3、本実施の形態では優先度が6番目以降の車両3については、提示部71に車両3に関する情報を提示しない。
【0091】
図4Bは、実施の形態1に係る端末装置7の提示を例示する図である。図4Bに示すように、提示部71は、複数台ある車両3のうちの所定の優先度以上の車両3に関する情報だけを提示する。図4Bでは、乗降完了時刻が近い車両3に関する情報だけを優先的に提示している。本実施の形態では、2台分の車両3を示す情報を提示し、優先度が3番目以降の他の車両3に関する情報を提示しない。
【0092】
図4Cは、実施の形態1に係る端末装置7の提示を例示する図である。図4Cに示すように、提示部71は、優先度の最も高い車両3に関する情報を、面積の大きな画像で提示し、かつ、複数台ある車両3のうちの所定の優先度以上の車両3だけを提示する。図4Cでは、車両3に関する画像を提示する。
【0093】
図4Dは、実施の形態1に係る端末装置7の提示を例示する図である。図4Dに示すように、提示部71は、オペレータが提示部71によって、各々の車両3に関する情報を視認できる程度の大きさで、車両3に関する画像を全て提示(情報量を増やした態様で提示)する。図4Dでは、優先度の高さに応じた順に並べた車両3に関する情報を提示している。
【0094】
図4Eは、実施の形態1に係る端末装置7の提示を例示する図である。図4Eに示すように、提示部71は、優先度の最も高い車両3に関する情報を色付けして強調する提示をする。
【0095】
なお、図4A図4Eの提示はあくまでも一例であり、これらに限定されない。例えば、提示は、複数の車両3それぞれの乗車口及び降車口の少なくとも一方が映る画像を表示することを含む。また、提示は、複数の車両3それぞれの外部が映る画像を表示することを含む。
【0096】
図3のシーケンス図の説明に戻る。
【0097】
全ての人が車両3に対して乗降を完了すると、端末装置7は、オペレータによる発車指示を受け付ける(ステップS112)。例えば、オペレータは、端末装置7を介して乗降完了確認を行う。そして、オペレータは、乗降が完了したことを確認できれば、端末装置7に発車指示を入力する。端末装置7は、入力された発車指示を受け付ける。なお、乗降完了確認は、端末装置7が画像認識によって乗降口付近に人が存在しているかどうかを確認してもよい。
【0098】
端末装置7は、オペレータによる発車指示を受け付けると、車両3を発車させる制御コマンドを車両3に送信する(ステップS113)。
【0099】
車両3は、ステップS113の制御コマンドを受信すると、発車する(ステップS114)。
【0100】
また、端末装置7は、ステップS112で発車指示を受け付けると、計時部73は、発車指示の受け付けに応じた乗降完了時刻を計測し、乗降完了時刻を示す情報を情報処理装置5に送信する(ステップS115)。
【0101】
次に、決定部52は、ステップS101で受信した乗降開始時刻を示す情報を記憶制御部53に格納して(ステップS116)、記憶制御部53のデータベースを更新する(ステップS118)。
【0102】
さらに、決定部52は、ステップS116で受信した乗降開始時刻を示す情報と、ステップS115の乗降完了時刻を示す情報から所要時間を計算し、記憶制御部53に格納して、記憶制御部53のデータベースを更新する(ステップS118)。なお、決定部52は、上述の記憶制御部53のデータベースを更新する代わりに、時刻、場所、乗降者の属性及び乗降者の数ならびに所要時間などの乗降データを用いて学習済みモデルを更新してもよい。
【0103】
また、決定部52は、ステップS106で取得した乗降者情報を記憶制御部53に格納して(ステップS117)、記憶制御部53のデータベースを更新する(ステップS118)。
【0104】
こうして、この情報処理システム1の処理を終了する。なお、この情報処理システム1において、ステップS115~ステップS118における記憶制御部53のデータベース及び学習済みモデルの更新は、必須の処理ではなく、このような処理を行わなくてもよい。
【0105】
次に、情報処理装置5における動作を、図5を用いて説明する。ここでは、車両3が所定位置に停止する際に行われるフローである。図5は、実施の形態1に係る情報処理装置5の動作において、優先度の決定を例示するフロー図である。
【0106】
まず、図5に示すように、情報処理装置5の検出処理部51は、車両3から乗降者画像を受信する(ステップS161)。検出処理部51は、乗降者画像に基づいて、乗降者の数、乗降者の属性等を検出して乗降者情報を生成する。検出処理部51は、乗降者情報を決定部52に出力する。
【0107】
また、情報処理装置5の決定部52は、車両3から、乗降開始時刻を示す情報、及び車両位置情報を受信する(ステップS162)。
【0108】
決定部52は、乗降者情報に基づいて、車両3に対する乗降者が存在しているか否かを判断する(ステップS163)。具体的には、決定部52は、乗降者情報に含まれる乗降者の人数が1名以上であるか否かを判断する。
【0109】
乗降者情報に乗降者が存在している場合(ステップS163でYes)、決定部52は、乗降完了時刻を算出する。具体的には、乗降者情報、過去の乗降データなどに基づいて、決定部52は、全ての人が乗降を開始してから完了するまでに掛かる所要時間を算出する。
【0110】
決定部52は、ステップS162で取得した乗降開始時刻に、算出した所要時間を合算し、乗降完了時刻を、車両3ごとに算出する(ステップS164)。
【0111】
次に、決定部52は、複数の車両3において、現在時刻から乗降完了時刻の近い順に、高い優先度を設定する。決定部52は、車両3が停留所に停止するごとに、それぞれの車両3に優先度を設定し、乗降完了時刻順にそれぞれの車両3の優先度を更新する(ステップS165)。現在時刻は、時刻の一例である。
【0112】
一方、乗降者情報に乗降者が存在していない場合(ステップS163でNo)、決定部52は、乗降者が存在していないと判断した車両3を、最も優先度の高い車両3に設定する(ステップS167)。なお、乗降者が存在していない車両3が複数ある場合、決定部52は、その車両3全てを、最も優先度の高い車両3として設定する。決定部52は、ステップS164と同様に乗降完了時刻を算出してからそれぞれの他の車両3に優先度を設定し、それぞれの車両3の優先度を更新する(ステップS168)。
【0113】
次に、決定部52は、通信部54を介してそれぞれの車両3の優先度を示す情報を端末装置7に送信する(ステップS166)。そして、この情報処理装置5のフローを終了する。また、次に停止する所定位置においても同様の処理を行う。
【0114】
図5のステップS164における乗降完了時刻を算出するフローについて、図6を用いて具体的に説明する。図6は、実施の形態1に係る情報処理装置5の動作において、データベースを利用して乗降完了時刻の算出を例示するフロー図である。なお、データベースを用いる代わりに学習済みモデルを用いて乗降完了時刻が算出されてもよい。
【0115】
まず、図6に示すように、決定部52は、記憶制御部53に格納されている過去の乗降データを参照する(ステップS171)。具体的には、決定部52は、乗降者情報、乗降開始時刻、車両位置情報が類似した過去の乗降データの要求を記憶制御部53に行い、記憶制御部53から要求に対する過去の乗降データを取得する。
【0116】
決定部52は、乗降者情報、乗降開始時刻、車両位置情報が類似する過去の乗降データが存在しているか否かを判断する(ステップS172)。例えば、類似している場合は、乗降者情報、乗降開始時刻、車両位置情報のうち少なくとも一つが過去の乗降データと一致する場合、例えば、乗降開始時刻においては、乗降開始時刻から1時間以内等といった時間的に近しい場合等である。
【0117】
乗降者情報と類似する過去の乗降データが存在している場合(ステップS172でYes)、決定部52は、全ての人が乗降を開始してから完了するまでの所要時間(過去の所要時間)を、全ての人が乗降を開始してから完了するまでの現在の所要時間として採用する(ステップS173)。
【0118】
決定部52は、乗車開始時刻に、ステップS173で採用した所要時間を合算し、乗降完了時刻を算出する(ステップS174)。そして、このフローは終了する。
【0119】
一方、乗降者情報に類似する過去の乗降データが存在していない場合(ステップS172でNo)、決定部52は、記憶制御部53に格納されている過去の乗降データから、乗降者の属性と、乗降者の属性ごとに応じた乗降時間とを抽出する(ステップS175)。
【0120】
決定部52は、ステップS175に基づいて、全ての人が乗降を開始してから完了するまでの所要時間を算出する(ステップS176)。決定部52は、ステップS174に進み、乗降完了時刻を算出する。そして、このフローは終了する。
【0121】
これらのように、情報処理方法、情報処理装置5及び情報処理システム1では、オペレータが停止中の複数の車両3を監視する際に、乗車者及び降車者のそれぞれの数及びそれぞれの属性に基づいて、全ての人が乗降を開始してから完了するまでの所要時間を、車両3ごとに算出することができる。情報処理装置5は、乗降開始時刻と所要時間に基づいて、乗降が完了するまでの時間が短い車両3ほど優先度を高くする。端末装置7は、優先度の高い車両3について、面積の大きな画像で提示したり、優先度が閾値以上の車両3だけを提示したり、優先度の高さに応じた順に並べた車両3に関する情報を提示したり、車両3に関する情報を詳細に提示したり、優先度の最も高い車両3の画像を色付けして強調する等の提示をする。このため、オペレータは、端末装置7に提示されている複数の車両3だけを監視、つまり監視すべき車両を容易に把握することができる。これにより、オペレータが同時に監視すべき車両3の数が減少するため、オペレータによる監視すべき複数の車両3の見落としリスクを軽減することができる。その結果、複数の車両3を監視することにより複数の車両3についての安全性を確保しつつ、複数の車両3を監視するオペレータの負担を軽減することができる。
【0122】
(実施の形態2)
[構成]
本実施の形態では、車両130が自動運転走行を行っている場合を想定して以下の本実施の形態を記載する。
【0123】
本実施の形態の情報処理方法、情報処理装置150及び情報処理システム101の構成は、特に明記しない場合は、実施の形態1と同様であり、同一の構成については同一の符号を付して構成に関する詳細な説明を省略する。
【0124】
図7は、実施の形態2に係る情報処理システム101を例示するブロック図である。
【0125】
図7に示すように、情報処理システム101は、車両130と、情報処理装置150と、端末装置170とを有する。
【0126】
車両130は、第5取得部135と、第6取得部136と、第7取得部137と、通信部138とを有する。
【0127】
第5取得部135は、車両130の状態を示す車両状態情報を取得する装置であり、例えば、ECU(Electronic Control Unit)等である。車両状態情報は、走行中、一時停止、緊急停止、走行速度等といった車両130の状態を示す情報を含む。第5取得部135は、車両状態情報を情報処理装置150、及び端末装置170に送信する。
【0128】
第6取得部136は、車両130の現在位置を示す車両位置情報(例えば、GPS情報)を取得する。第6取得部136は、取得した車両位置情報を情報処理装置150、及び端末装置170に送信する。
【0129】
第7取得部137は、物体検知処理の各々をそれぞれ実行する。物体検知処理は、走行中の車両外部の物体及び物体の位置を検知する。第7取得部137は、車両130の内部の人の様子、車両130の外部の物体の位置等を示すセンシング情報を取得する。第7取得部137は、車両130の内部及び外部を撮像するカメラ等の画像センサ、LIDAR(Laser Imaging Detection and Ranging)等の距離センサ等である。第7取得部137は、センシング情報を情報処理装置150、及び端末装置170に送信する。車両130の外部の物体は、例えば車両130の前方に歩いている人、車両130後方に存在している自転車等である。第7取得部137は、センサの一例である。
【0130】
通信部138は、車両状態情報、車両位置情報、及びセンシング情報を情報処理装置150に送信する通信インターフェイスである。また、通信部138は、車両130が遠隔者に遠隔操作されている状態となれば、遠隔操作される制御コマンドを受信する。
【0131】
情報処理装置150の検出処理部151は、車両130の第7取得部137からセンシング情報を取得し、センシング情報に基づいて、車両130の内部の人の様子、車両130の外部の物体等を示す車両内外情報を生成する。検出処理部151は、車両内外情報を決定部152に出力する。
【0132】
情報処理装置150の決定部152は、検出処理部151から車両内外情報を取得すると、記憶制御部153のデータベースに格納されている過去の車両データを取得する。具体的には、決定部152は、車両内外情報に類似した過去の車両データの要求を記憶制御部153に行い、記憶制御部153から要求に対する過去の車両データを取得する。なお、決定部152は、記憶制御部153のデータベースに格納されている過去の車両データの代わりに、過去の車両データを基に作成された学習済みモデルの要求を記憶制御部153に行い、記憶制御部153から学習済みモデルを取得してもよい。
【0133】
決定部152は、センシング情報、過去の車両データなどに基づいて、複数の車両の各々における自動運転の困難度、複数の車両130の外部の危険度の少なくとも一方をそれぞれ算出する。自動運転の困難度は、車両130の走行のしやすさを示すパラメータである。例えば、道幅が狭い道路を車両130が走行している場合、雨、霧等が発生している環境下で車両130が走行している場合等、自動運転の困難度が高い。複数の車両130の外部の危険度は、車両130が走行している地域が事故を起こす可能性を示すパラメータである。例えば、飛び出し危険地域、工事中等の地域の場合、危険度が高い。以下、本実施の形態では、主に危険度を用いて説明する。なお、決定部152は、センシング情報、過去の車両データなどを用いる代わりに、取得した学習済みモデルを用いて、複数の車両の各々における自動運転の困難度、複数の車両130の外部の危険度の少なくとも一方をそれぞれ算出してもよい。
【0134】
情報処理装置150の記憶制御部153は、過去の車両データを格納している記憶装置である。車両データは、ラベル、ラベルに対応した場所、ラベルに対応して推奨される操作、ラベルに対応する危険度等の情報である。ラベルは、場所における、飛び出し危険地域、工事中等といった説明文である。記憶制御部153は、決定部152からの要求に応じて、車両内外情報に類似した過去の車両データを検索し、類似した過去の車両データを決定部152に送信する。なお、危険度は、任意に変更され、例えば、車両130の外部に存在している人の数によって危険度は変動する。なお、記憶制御部153は、過去の車両データを格納する代わりに、過去の車両データにより学習された学習済みモデルを格納していてもよい。
【0135】
図8A図8B及び図8Cは、実施の形態2に係る過去の車両データを例示する図である。図8Aに示すように、過去の車両データは、危険な状況が発生していた「場所」、危険な状況の説明文である「ラベル」、ラベルに対応する「推奨操作」、及び、ラベルに対応する「危険度」で構成されている。図8Bに示すように、過去の車両データは、AEB(Autonomous Emergency Braking)発動、一時停止等の車両130に発生した「状態」、状態に対応する説明文である「ラベル」、状態に対応する「推奨操作」、状態に対応する「危険度」をさらに有する。図8Cに示すように、過去の車両データは、路上の歩行者、車両130後方の自転車等といった車両130の走行中に発生した車両130の外部の「状況」、状況に対応する説明文である「ラベル」、状況に対応する「推奨操作」、状況に対応する「危険度」をさらに有する。
【0136】
図7に示すように、端末装置170の提示部171は、車両130の優先度、車両130の状態、車両130の内部の画像、車両130の外部の画像、車両ID、車両130の現在位置等といった車両130に関する情報を、通信部173を介して受信し、受信したこれら情報を車両130ごとに提示する。
【0137】
端末装置170の提示部171は、優先度の最も高い車両130を面積の大きな画像で提示したり、複数台ある車両130のうちの優先度が閾値以上の車両130だけを提示したり、車両130に関する情報を詳細に提示したり、同じ大きさの画像で優先度の高さに応じた順に並べた車両130に関する情報を提示したり、優先度の最も高い車両130の画像を色付けして強調するといった提示をする。
【0138】
[動作]
次に、本実施の形態における情報処理方法、情報処理装置150及び情報処理システム101の動作について説明する。具体的には、車両130の走行中に行われる情報処理システム101の動作について説明する。
【0139】
図9は、実施の形態2に係る情報処理システム101の動作を例示するシーケンス図である。
【0140】
図9に示すように、車両130は、車両状態情報を取得し、情報処理装置150、及び端末装置170に送信する(ステップS201)。情報処理装置150の決定部152は、通信部154を介して車両状態情報を受信する。
【0141】
また、車両130は、車両130の現在位置を示す車両位置情報を取得し、車両位置情報を情報処理装置150、及び端末装置170に送信する(ステップS202)。情報処理装置150の決定部152は、通信部154を介して車両位置情報を受信する。
【0142】
車両130は、車両130の内部の人の様子、車両外部つまり車両130の外部の物体や物体の位置等を示すセンシング情報を取得し、取得したセンシング情報を情報処理装置150、及び端末装置170に送信する(ステップS203)。情報処理装置150の決定部152は、通信部154を介してセンシング情報を受信する。
【0143】
検出処理部151は、ステップS203によるセンシング情報に基づいて、車両130の内部の人の様子、車両130の外部の物体の位置等を示す車両内外情報を生成する(ステップS204)。検出処理部151は、車両内外情報を決定部152に出力する(ステップS205)。
【0144】
決定部152は、取得した車両内外情報に類似した過去の車両データの要求(ステップS206)を記憶制御部153に行う。
【0145】
記憶制御部153は、決定部152からの要求に応じて、車両内外情報に類似した過去の車両データを検索し、類似した過去の車両データを決定部152に出力する(ステップS207)。過去の車両データは、図8A図8Cで例示され、場所、ラベルに対応した場所、ラベルに対応して推奨される操作、場所に対応する危険度、車両130の状態、場所に対応する状況等の情報である。
【0146】
決定部152は、記憶制御部153から過去の車両データを取得し、それぞれの車両130に対して優先的に監視する優先度を設定する(ステップS208)。決定部152は、危険度に基づいて優先度を設定する。優先度の決定については後述する。決定部152は、決定した各々の車両130の優先度を示す情報を端末装置170に送信する(ステップS209)。
【0147】
次に、端末装置170は、ステップS201で取得した車両状態情報、車両内外情報、ステップS209で決定した、各々の車両130の優先度を示す情報を受信する。端末装置170は、優先度に応じた提示を行う(ステップS210)。
【0148】
端末装置170は、優先度に応じて様々な態様で提示する。図10A図10Fでは、提示部171への提示の態様を例示する。
【0149】
図10Aは、実施の形態2に係る端末装置170の提示を例示する図である。図10Aに示すように、提示部171は、優先度の最も高い車両130を面積の大きな画像で提示する。具体的には、複数台ある車両130のうちの所定の優先度以上の車両130だけを提示し、最も優先度の高い車両130については、面積の大きな画像で詳細に提示する。優先度が1番の車両130に関する情報は、車両130の優先度、車両130の状態、車両130の内部の画像、車両130の外部の画像、車両ID、車両130の現在位置等といった車両130に関する情報を示している。また、例えば、優先度が2番目以降の車両130については、優先度が1番の車両130よりも簡易な情報、例えば車両130に関する画像を1種類だけ提示する。また、所定の優先度未満の車両130、本実施の形態では優先度が6番目以降の車両130については、提示部171に車両130に関する情報を提示しない。
【0150】
図10Bは、実施の形態2に係る端末装置170の提示を例示する図である。図10Bに示すように、提示部171は、複数台ある車両130のうちの所定の優先度以上の車両130に関する情報だけを提示する。本実施の形態では、2台分の車両130を示す情報を提示し、優先度が3番目以降の他の車両130に関する情報を提示しない。
【0151】
図10Cは、実施の形態2に係る端末装置170の提示を例示する図である。図10Cに示すように、提示部171は、優先度の最も高い車両130に関する情報を、面積の大きな画像で提示し、かつ、複数台ある車両130のうちの所定の優先度以上の車両130だけを提示する。図10Cでは、車両130に関する情報の詳細まで提示する。
【0152】
図10Dは、実施の形態2に係る端末装置170の提示を例示する図である。図10Dに示すように、提示部171は、オペレータが提示部171によってそれぞれの車両130に関する情報を視認できる程度の大きさで、複数の車両130の情報を提示する。図10Dでは、優先度の高さに応じた順に並べた車両130に関する情報を提示している。
【0153】
図10Eは、実施の形態2に係る端末装置170の提示を例示する図である。図10Eに示すように、提示部171は、優先度の最も高い車両130に関する情報を色付けして強調する提示をする。
【0154】
図10Fは、実施の形態2に係る端末装置170の提示を例示する図である。図10Fに示すように、複数台の車両130が連続して縦列走行している場合、これらの車両130をまとめて1台の車両130として提示する。
【0155】
なお、図10A図10Fの提示はあくまでも一例であり、これらに限定されない。
【0156】
図9のシーケンス図の説明に戻る。
【0157】
端末装置170は、オペレータによる動作指示を受け付ける(ステップS211)。例えば、オペレータは、端末装置170に提示された車両130の各々から、各々の車両130における運行状況の確認を行う。そして、オペレータは、端末装置170に動作指示を入力する。端末装置170は、オペレータによる動作指示を受け付けると、端末装置170に提示された各々の車両130について、制御コマンドを送信する(ステップS212)。ここでの制御コマンドは、車両130の緊急停止、車両130の一時停止、車両130の徐行、車両130のハンドル操作等の車両130の走行を制御するコマンドである。
【0158】
車両130は、ステップS212の制御コマンドを受信すると、制御コマンドに応じた動作、表示を行う(ステップS213)。こうして、この情報処理システム101の処理を終了する。
【0159】
端末装置170は、ステップS212で送信した制御コマンドに応じた評価を示す状況データを生成する。例えば、A地点の飛び出し行為によって徐行運転が行われた場合に、端末装置170は、場所を「A地点」、ラベルを「飛び出しの危険」、推奨操作を「徐行運転」、危険度を「高」とする状況データを生成する。なお、オペレータが操作部172を介して入力することで、状況データが生成されてもよい。また、状況データは、端末装置170によって自動的に生成されてもよい。端末装置170は、生成された状況データを情報処理装置150に送信する(ステップS214)。情報処理装置150の記憶制御部153は、通信部154を介して状況データを受信する。記憶制御部153は、状況データを格納して、記憶制御部153のデータベースを更新する。
【0160】
また、決定部152は、車両状態情報、車両位置情報、及びセンシング情報に基づいて、例えば、車両130が停止した位置、その時の車両130の外部の物体の情報等を示す走行情報を生成し、走行情報を記憶制御部153に出力する(ステップS215)。
【0161】
記憶制御部153は、走行情報を取得して、記憶制御部153のデータベースを更新する(ステップS216)。そして、情報処理システム101では、この処理を終了する。
【0162】
なお、この情報処理システム101において、ステップS214~ステップS216における記憶制御部153のデータベースの更新は、必須の処理ではなく、このような処理を行わなくてもよい。
【0163】
ここでは、情報処理装置150における、優先度の設定について具体的に説明する。図11は、実施の形態2に係る情報処理装置150の動作において、データベースを利用して優先度の決定を例示するフロー図である。なお、データベースを用いる代わりに学習済みモデルを用いて優先度が決定されてもよい。
【0164】
まず、図11に示すように、情報処理装置150は、車両状態情報、センシング情報、及び車両位置情報を取得する(ステップS261)。
【0165】
情報処理装置150の決定部152は、車両状態情報に基づいて、車両130に異常があるか否かを判断する(ステップS262)。具体的には、決定部152は、例えば、AEB発動等といった車両130の走行において危険性の高い動作を示す情報が車両状態情報に含まれているかどうかを判断する。
【0166】
車両130に異常がある場合(ステップS262でYes)、決定部152は、車両状態情報を送信した車両130の優先度を「高」に設定する(ステップS263)。
【0167】
決定部152は、ステップS263で設定した車両130の優先度を示す情報を端末装置170に送信する(ステップS264)。
【0168】
車両130に異常がない場合(ステップS262でNo)、決定部152は、記憶制御部153に格納されている地域に関する記憶制御部153のデータベースを参照する(ステップS265)。具体的には、決定部152は、車両位置情報に基づいて、車両130が現在走行している場所(地域)が、データベース内に存在しているかどうかを参照する。
【0169】
決定部152は、車両位置情報に基づいて、現在走行している地域に、危険な地点が存在しているかどうかを判断する(ステップS266)。危険な地点は、例えば、飛び出しの危険性、工事中等の地点である。
【0170】
現在走行している地域において、データベースに危険な地点が存在している場合(ステップS266でYes)、決定部152は、ステップS261で情報を送信した車両130の優先度を「高」又は「中」に設定し(ステップS267)、ステップS264に進む。
【0171】
現在走行している地域において、データベースに危険な地点が存在していない場合(ステップS266でNo)、決定部152は、車両位置情報及びセンシング情報に基づいて、記憶制御部153に格納されている危険シーンに関するデータベースを参照する(ステップS268)。具体的には、決定部152は、車両位置情報及びセンシング情報に基づいて、車両130が現在走行している地域が、記憶制御部153のデータベース内に存在しているかどうかを参照する。ここで、危険シーンは、車両130が自動運転を行うことが困難な地域であり、車両130に危険が発生する恐れがあると予測されるシーンである。例えば、危険シーンは、車両130が走行している車道を自転車が走行している場合、後方から自転車が車両130に接近している場合、路上駐車により死角が多く飛び出しの危険性がある場合等である。
【0172】
決定部152は、車両位置情報及びセンシング情報に基づいて、現在走行している地域に、危険シーンが含まれているかどうかを判断する(ステップS269)。
【0173】
センシング情報に危険シーンが含まれている場合(ステップS269でYes)、決定部152は、ステップS261で情報を送信した車両130の優先度を「高」又は「中」に設定し(ステップS270)、ステップS264に進む。
【0174】
センシング情報に危険シーンが含まれていない場合(ステップS269でNo)、決定部152は、ステップS261で情報を送信した車両130の優先度を「低」に設定し(ステップS271)、ステップS264に進む。このようにして、情報処理装置150は、優先度を決定し、この処理を終了する。本実施の形態では、優先度を「高」、「中」、「低」の3段階に分けているが、2段階でもよく、4段階以上でもよい。
【0175】
なお、車両130が走行している地域、その地域の天候等によって危険度は異なると考えられる。このため、例えば、道幅が狭い道路を車両130が走行している場合、雨、霧等が発生している場合などでは、決定部152は、例えばステップS267及びステップS270の優先度を「高」にしてもよく、ステップS263の優先度を「超高」にしてもよく、ステップS267の優先度を「中」にしてもよい。決定部152は、通信部154を介して、走行している地域の天候情報を外部のサーバから取得してもよい。
【0176】
これらのように、情報処理方法、情報処理装置150及び情報処理システム101では、オペレータが走行中の複数の車両130を監視する際に、各々の車両130の内部及び外部の状態を示すセンシング情報に基づいて、危険度を車両130ごとに算出することができる。情報処理装置150は、この危険度に基づき、車外の危険度が高い車両130ほど優先的に監視すべき車両130として提示する。端末装置170は、優先度の高い車両130について、面積の大きな画像で提示したり、優先度が閾値以上の車両130だけを提示したり、全ての車両130の詳細な情報を提示したり、可能な限り車両130の情報を提示したり、優先度の最も高い車両130の画像を色付けして強調するといった提示をする。このため、オペレータは、端末装置170に提示されている複数の車両130だけを監視、つまり監視すべき車両130をより正確に把握することができる。その結果、複数の車両を監視することにより、複数の車両についての安全性をより確保することができる。
【0177】
(その他変形例)
以上、本開示の実施の形態1、2に係る情報処理方法、情報処理装置5、150及び情報処理システム1、101について説明したが、本開示の実施の形態1、2は上述の実施の形態1、2に限定されるものではない。
【0178】
例えば、上記実施の形態1に係る情報処理方法、情報処理装置5及び情報処理システム1では、乗降者に応じて車両3を監視又は制御するための提示の態様が決定される例を説明したが、車両3の混雑度に応じて当該提示の態様が決定されてもよい。例えば、検出処理部51は、第4取得部34により取得される車内外画像から車両3内の乗客数、空いている座席数などを検出し、混雑度情報を生成する。決定部52は、混雑度情報に基づき優先度を決定する。提示制御部55は、当該優先度に基づき上記提示の態様を制御する。
【0179】
また、上記実施の形態1、2に係る情報処理方法、情報処理装置5、150及び情報処理システム1、101において、複数の車両3、130について同じ優先度が決定された場合、情報処理装置5、150は、その旨を車両3、130側へ通知してもよく、その通知に基づいて車両3、130内でアナウンスが行われてもよい。
【0180】
また、上記実施の形態1、2に係る情報処理方法、情報処理装置5、150及び情報処理システム1、101において、優先度に基づく態様で提示される画像は、優先度の決定に用いられた情報に関する部分が強調されたり、区別可能に提示されたりしてもよい。具体的には、優先度の決定に用いられた情報は、検出された物体であってよい。例えば、実施の形態1では、画像上の乗降者が強調表示されてよい。また、実施の形態2では、画像上の歩行者又は車両が強調表示されてよい。強調表示の態様としては、物体に対する色彩、模様又は枠の付加、物体の点滅などがあってもよい。
【0181】
また、上記実施の形態1、2に係る情報処理方法、情報処理装置5、150及び情報処理システム1、101に含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
【0182】
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続又は設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0183】
なお、上記各実施の形態1、2において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPU又はプロセッサなどのプログラム実行部が、ハードディスク又は半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0184】
また、上記で用いた数字は、全て本開示を具体的に説明するために例示するものであり、本開示の実施の形態1、2は例示された数字に制限されない。
【0185】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0186】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
【0187】
以上、一つ又は複数の態様に係る情報処理方法、情報処理装置5、150及び情報処理システム1、101について、実施の形態1、2に基づいて説明したが、本開示の実施の形態1、2は当該複数の態様に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態1、2に施したもの、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つ又は複数の態様の範囲内に含まれてもよい。
【0188】
なお、検出処理部51、151及び決定部52、152で行う処理は、実施の形態1、2に記載したように機械学習を用いてもよい。機械学習には、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしのどちらも扱う半教師あり学習、状態の観測結果から選択した行動に対するフィードバック(報酬)を得ることにより、最も多く報酬を得ることができる連続した行動を学習する強化学習などが挙げられる。また、機械学習の具体的な手法として、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、サポート・ベクター・マシン(SVM)などが存在する。本開示においては、以上で挙げた具体例のいずれかを用いればよい。
【産業上の利用可能性】
【0189】
本開示は、自動運転車両を遠隔操作する装置、自動運転車両の状態を提示する端末装置、或いはこれらを含むシステムに適用できる。特に、自動運転バス、自動運転タクシー、自動運転電車等に用いられる。
【符号の説明】
【0190】
1、101 情報処理システム
3、130 車両
5、150 情報処理装置
7、170 端末装置(提示装置)
33 第3取得部(センサ)
51、151 検出処理部
52、152 決定部
54、154 通信部(取得部)
55、155 提示制御部
137 第7取得部(センサ)
図1
図2A
図2B
図2C
図3
図4A
図4B
図4C
図4D
図4E
図5
図6
図7
図8A
図8B
図8C
図9
図10A
図10B
図10C
図10D
図10E
図10F
図11