知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-03-18
(45)【発行日】2022-03-29
(54)【発明の名称】自動運転装置、車両、コンピュータプログラム及び自動運転方法
(51)【国際特許分類】
G08G 1/16 20060101AFI20220322BHJP
G08G 1/09 20060101ALI20220322BHJP
G06T 7/00 20170101ALI20220322BHJP
【ＦＩ】
G08G1/16 A
G08G1/09 H
G06T7/00 650Z
【請求項の数】
10
(21)【出願番号】P 2019202611
(22)【出願日】2019-11-07
(65)【公開番号】P2021077036
(43)【公開日】2021-05-20
【審査請求日】2020-12-04
【早期審査対象出願】
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】ＫＤＤＩ株式会社
(74)【代理人】
【識別番号】100165179
【弁理士】
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100114937
【弁理士】
【氏名又は名称】松本 裕幸
(72)【発明者】
【氏名】遠藤 俊樹
(72)【発明者】
【氏名】山田 和紀
(72)【発明者】
【氏名】赤羽 真
(72)【発明者】
【氏名】大黒 將弘
【審査官】佐々木 佳祐
(56)【参考文献】
【文献】特開２０１０－１７３６０１（ＪＰ，Ａ）
【文献】特開２０１３－１２０５５７（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０８Ｇ １／００－９９／００
Ｇ０６Ｔ ７／００
(57)【特許請求の範囲】
【請求項1】
車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、
前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、
前記受信映像データの信憑性を判定する判定部と、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、
前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較部と、を備え、
前記判定部は、前記映像比較部の判定結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転装置。
【請求項2】
車両の自動運転を行う自動運転装置において、
前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、
前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、
前記受信映像データの信憑性を判定する判定部と、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、
現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較部と、を備え、
前記判定部は、前記データ比較部の判定結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転装置。
【請求項3】
車両の自動運転を行う自動運転装置において、
前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、
前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、
前記受信映像データの信憑性を判定する判定部と、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、
前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知部と、を備え、
前記判定部は、前記映像流用検知部の検知結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転装置。
【請求項4】
請求項１から３のいずれか１項に記載の自動運転装置を備える車両。
【請求項5】
車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、
前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記受信映像データの信憑性を判定する判定ステップと、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較ステップと、を実行させ、
前記判定ステップは、前記映像比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、
コンピュータプログラム。
【請求項6】
車両の自動運転を行う自動運転装置のコンピュータに、
前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、
前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記受信映像データの信憑性を判定する判定ステップと、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を実行させ、
前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、
コンピュータプログラム。
【請求項7】
車両の自動運転を行う自動運転装置のコンピュータに、
前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、
前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記受信映像データの信憑性を判定する判定ステップと、
前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を実行させ、
前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、
コンピュータプログラム。
【請求項8】
車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、
前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
前記自動運転装置が、前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較ステップと、を含み、
前記判定ステップは、前記映像比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転方法。
【請求項9】
車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、
前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、
前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
前記自動運転装置が、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を含み、
前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転方法。
【請求項10】
車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、
前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、
前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、
前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、
前記自動運転装置が、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を含み、
前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、
自動運転方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自動運転装置、車両、コンピュータプログラム及び自動運転方法に関する。
【背景技術】
【0002】
近年、自動運転を行う自動運転車が検討されている。自動運転車は、自動運転において、自車両に搭載された撮像装置が撮像した映像データに基づいて周囲の状況の判断等を行う。このため、映像データに対する改ざん等の攻撃を防ぐことは重要である。例えば非特許文献１，２には、画像に対して加工が行われたことを検知する画像加工検知技術が開示されている。
【先行技術文献】
【非特許文献】
【0003】
【文献】“Photoshopで加工された顔画像を見抜く技術 Adobeが開発”、［令和１年９月２７日検索］、インターネット＜ＵＲＬ：https://www.itmedia.co.jp/news/articles/1906/19/news111.html＞
【文献】“LP-Exam”、［令和１年９月２７日検索］、インターネット＜ＵＲＬ：https://lpixel.net/products/＞
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、上述した非特許文献１に記載の画像加工検知技術は、特定の画像加工ソフトウェアによる特定の加工処理が施された画像のみを検知対象にしており、自動運転車における画像加工検知に利用することが難しい。非特許文献２に記載の画像加工検知技術は、加工された画像の検知はできるが、自動運転車で撮像された映像データに対して、加工されていない他の映像データを混入させる攻撃には対処することができない。
【0005】
本発明は、このような事情を考慮してなされたものであり、その目的は、映像データを使用して自動運転を行う自動運転車の円滑な自動運転を図ることにある。
【課題を解決するための手段】
【0006】
（１）本発明の一態様は、車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、前記受信映像データの信憑性を判定する判定部と、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較部と、を備え、前記判定部は、前記映像比較部の判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転装置である。
（２）本発明の一態様は、車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、前記受信映像データの信憑性を判定する判定部と、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較部と、を備え、前記判定部は、前記データ比較部の判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転装置である。
（３）本発明の一態様は、車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、前記受信映像データの信憑性を判定する判定部と、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知部と、を備え、前記判定部は、前記映像流用検知部の検知結果に基づいて、前記受信映像データの信憑性を判定する、自動運転装置である。
（２）本発明の一態様は、車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、前記受信映像データの信憑性を判定する判定部と、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較部と、を備え、前記判定部は、前記データ比較部の判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転装置である。
（３）本発明の一態様は、車両の自動運転を行う自動運転装置において、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信部と、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御部と、前記受信映像データの信憑性を判定する判定部と、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理部と、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知部と、を備え、前記判定部は、前記映像流用検知部の検知結果に基づいて、前記受信映像データの信憑性を判定する、自動運転装置である。
【0007】
（４）本発明の一態様は、上記（１）から（３）のいずれかの自動運転装置を備える車両である。
【0008】
（５）本発明の一態様は、車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記受信映像データの信憑性を判定する判定ステップと、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較ステップと、を実行させ、前記判定ステップは、前記映像比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、コンピュータプログラムである。
（６）本発明の一態様は、車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記受信映像データの信憑性を判定する判定ステップと、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を実行させ、前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、コンピュータプログラムである。
（７）本発明の一態様は、車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記受信映像データの信憑性を判定する判定ステップと、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を実行させ、前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、コンピュータプログラムである。
（６）本発明の一態様は、車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記受信映像データの信憑性を判定する判定ステップと、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を実行させ、前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、コンピュータプログラムである。
（７）本発明の一態様は、車両の自動運転を行う自動運転装置のコンピュータに、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記映像データ受信部が受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記受信映像データの信憑性を判定する判定ステップと、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を実行させ、前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、コンピュータプログラムである。
【0009】
（８）本発明の一態様は、車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記自動運転装置が、前記受信映像データと、前記車両の近隣を走行する他の車両に搭載された撮像装置が撮像した他車映像データとの比較により、前記受信映像データと前記他車映像データとの違いの有無を判定する映像比較ステップと、を含み、前記判定ステップは、前記映像比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転方法である。
（９）本発明の一態様は、車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記自動運転装置が、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を含み、前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転方法である。
（１０）本発明の一態様は、車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記自動運転装置が、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を含み、前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、自動運転方法である。
（９）本発明の一態様は、車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記自動運転装置が、現実の情報に基づいて、前記受信映像データが現実の情報と異なる情報を有するか否かを判定するデータ比較ステップと、を含み、前記判定ステップは、前記データ比較ステップの判定結果に基づいて、前記受信映像データの信憑性を判定する、自動運転方法である。
（１０）本発明の一態様は、車両の自動運転を行う自動運転装置が、前記車両に搭載された撮像装置が撮像した映像データを受信する映像データ受信ステップと、前記自動運転装置が、前記映像データ受信ステップが受信した受信映像データに基づいて前記車両の自動運転を行う自動運転制御ステップと、前記自動運転装置が、前記受信映像データの信憑性を判定する判定ステップと、前記自動運転装置が、前記受信映像データの信憑性の判定結果に基づいて、前記受信映像データに基づく前記車両の自動運転を解除させるための自動運転解除処理を実行する自動運転解除処理ステップと、前記自動運転装置が、前記受信映像データが過去に撮像された映像データが流用されたものであるか否かを検知する映像流用検知ステップと、を含み、前記判定ステップは、前記映像流用検知ステップの検知結果に基づいて、前記受信映像データの信憑性を判定する、自動運転方法である。
【発明の効果】
【0010】
本発明によれば、映像データを使用して自動運転を行う自動運転車の円滑な自動運転を図ることができる。
【図面の簡単な説明】
【0011】
【図1】一実施形態に係る自動運転装置の構成例を示すブロック図である。
【図2】一実施形態に係る映像比較部の構成例を示すブロック図である。
【図3】一実施形態に係る映像加工検知部の構成例を示すブロック図である。
【図4】一実施形態に係る映像流用検知部の構成例を示すブロック図である。
【図5】一実施形態に係る自動運転方法の手順の例を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、図面を参照し、本発明の実施形態について説明する。
図１は、一実施形態に係る自動運転装置の構成例を示すブロック図である。図１において、自動運転装置１は、自動運転車Ｖａに搭載されている。自動運転装置１は、自動運転車Ｖａに搭載された撮像装置が撮像した映像データＰａに基づいて、自動運転車Ｖａの自動運転を行う。以下、映像データＰａを自車映像データＰａと称する。
図１は、一実施形態に係る自動運転装置の構成例を示すブロック図である。図１において、自動運転装置１は、自動運転車Ｖａに搭載されている。自動運転装置１は、自動運転車Ｖａに搭載された撮像装置が撮像した映像データＰａに基づいて、自動運転車Ｖａの自動運転を行う。以下、映像データＰａを自車映像データＰａと称する。
【0013】
車両Ｖｂ，Ｖｃは、自動運転車Ｖａの近隣を走行する車両である。車両Ｖｂ，Ｖｃは、自動運転車Ｖａが走行する場所及び走行する時間に対して、一定の距離範囲及び時間範囲のうちを走行するものであってもよい。車両Ｖｂ，Ｖｃは、自車に搭載された撮像装置が撮像した映像データＰｂ，Ｐｃを自動運転車Ｖａに提供する。映像データＰｂ，Ｐｃは、車車間通信により車両Ｖｂ，Ｖｃから自動運転車Ｖａへ提供されてもよく、又は、所定のサーバ（図示せず）を介して車両Ｖｂ，Ｖｃから自動運転車Ｖａへ提供されてもよい。
【0014】
例えば、車両Ｖｂ，Ｖｃが映像データＰｂ，Ｐｃを通信により映像配信サーバ（図示せず）へ送信し、映像配信サーバが映像データＰｂ，Ｐｃを撮像位置及び撮像時間と共に登録する。映像配信サーバは、映像データＰｂ，Ｐｃの撮像位置及び撮像時間に基づいて、車両Ｖｂ，Ｖｃの近隣を走行する自動運転車Ｖａへ映像データＰｂ，Ｐｃを通信により送信する。以下、映像データＰｂ，Ｐｃを他車映像データＰｂ，Ｐｃと称する。
【0015】
自動運転装置１は、自動運転制御部１０と、映像データ受信部１１と、映像比較部１２と、映像加工検知部１３と、映像流用検知部１４と、判定部１５と、自動運転解除処理部１６と、保守部１７とを備える。自動運転装置１の各機能は、自動運転装置１がＣＰＵ（Central Processing Unit：中央演算処理装置）及びメモリ等のコンピュータハードウェアを備え、ＣＰＵがメモリに格納されたコンピュータプログラムを実行することにより実現される。
【0016】
自動運転制御部１０は、映像データ受信部１１が自動運転装置１の外部の装置から受信した自車映像データＰａ（以下、受信映像データＰａ＿Ｒと称する）に基づいて、自動運転車Ｖａの自動運転を行う。
【0017】
映像データ受信部１１は、自車映像データＰａ及び他車映像データＰｂ，Ｐｃを受信する。映像データ受信部１１は、自動運転車Ｖａに搭載された撮像装置が撮像した自車映像データＰａを、自動運転装置１の外部の装置である例えばドライブレコーダ等の映像記録装置から受信する。そのドライブレコーダ等の映像記録装置に記録された自車映像データＰａに対して改ざん等の攻撃が加えられると、映像データ受信部１１が受信した受信映像データＰａ＿Ｒは、元の自車映像データＰａとは異なるものとなって、自動運転制御部１０による自動運転性能を十分に発揮することができなくなる可能性が生じる。このため、本実施形態では、受信映像データＰａ＿Ｒの信憑性を判定することにより、自動運転制御部１０による自動運転車の円滑な自動運転を図る。
【0018】
映像比較部１２は、受信映像データＰａ＿Ｒと他車映像データＰｂ，Ｐｃとの比較により、受信映像データＰａ＿Ｒと他車映像データＰｂ，Ｐｃとの違いの有無を判定する。また、映像比較部１２は、現実の情報に基づいて、受信映像データＰａ＿Ｒが現実の情報と異なる情報を有するか否かを判定する。以下、他車映像データＰｂ，Ｐｃを特に区別しないときは「他車映像データＰＳ」と称する。
【0019】
図２は、本実施形態に係る映像比較部の構成例を示すブロック図である。図２において、映像比較部１２は、領域分割部１２０と、物体識別部１２１と、輝度分析部１２２と、走行路推定部１２３と、天候状態推定部１２４と、時刻推定部１２５と、推定結果比較部１２６と、車両データ比較部１２７とを備える。
【0020】
領域分割部１２０は、受信映像データＰａ＿Ｒと他車映像データＰＳとをそれぞれ対象にして、映像内の所定サイズの各領域を道路や歩道や建物等のカテゴリに分類し、映像内の所定サイズの各領域をカテゴリで区別する。
【0021】
物体識別部１２１は、受信映像データＰａ＿Ｒと他車映像データＰＳとをそれぞれ対象にして、映像に含まれる物体を標識や信号や車両や人や雨粒等の物体の種別で識別する。
【0022】
輝度分析部１２２は、受信映像データＰａ＿Ｒと他車映像データＰＳとをそれぞれ対象にして、映像の明るさ（輝度）を推定する。
【0023】
走行路推定部１２３は、領域分割部１２０による映像内の各領域のカテゴリ分類結果と、物体識別部１２１による物体種別識別結果（標識および信号の識別結果ならびにランドマーク等の他の周囲の物体の識別結果）とに基づいて、自動運転車Ｖａや車両Ｖｂ，Ｖｃがそれぞれ走行している道路の種別を推定する。道路の種別は、一般道路、高速道路、トンネル道路、細街路などである。
【0024】
天候状態推定部１２４は、物体種別識別結果（雨粒や傘や太陽等の識別結果）に基づいて、自動運転車Ｖａや車両Ｖｂ，Ｖｃがそれぞれ走行している時の天候状態を推定する。
【0025】
時刻推定部１２５は、物体種別識別結果（街灯や店の明かりや空や太陽の識別結果）と、輝度分析部１２２による輝度分析結果とに基づいて、街灯や店の明かりの点灯の有無、空の明るさ又は太陽の位置を判断し、当該判断の結果に基づいて、自動運転車Ｖａや車両Ｖｂ，Ｖｃがそれぞれ走行している時刻を推定する。
【0026】
推定結果比較部１２６は、走行路推定部１２３による道路種別推定結果と、天候状態推定部１２４による天候状態推定結果と、時刻推定部１２５による時刻推定結果とについて、自動運転車Ｖａと車両Ｖｂ，Ｖｃとの間でそれそれ比較し、違いの有無を判定する。推定結果比較部１２６は、当該違いの有無の判定結果に基づいて、比較対象の２つの映像データ（受信映像データＰａ＿Ｒと他車映像データＰＳ）における一定の期間の映像において違いが有るフレームが連続する場合に、当該比較対象の２つの映像データ（受信映像データＰａ＿Ｒと他車映像データＰＳ）は異なる「異映像」であると判定する。
【0027】
車両データ比較部１２７は、受信映像データＰａ＿Ｒについて、走行路推定部１２３による道路種別推定結果と走行位置付近の地図データとを比較する。また、車両データ比較部１２７は、受信映像データＰａ＿Ｒについて、天候状態推定部１２４による天候状態推定結果と、車両データに含まれるワイパーのオン（ＯＮ）／オフ（ＯＦＦ）情報や雨量センサ情報や走行位置付近の気象情報とを比較する。また、車両データ比較部１２７は、受信映像データＰａ＿Ｒについて、時刻推定部１２５による時刻推定結果と、時刻情報や車両データに含まれるワイパーのオン（ＯＮ）／オフ（ＯＦＦ）情報とを比較する。車両データ比較部１２７は、それら比較の結果に基づいて、比較対象の両者の違いの有無を判定する。車両データ比較部１２７は、当該判定の結果に基づいて、比較対象の各推定結果において違いが有る推定結果が一定の期間続く場合に、当該推定結果の基である受信映像データＰａ＿Ｒが現実とは違う（受信映像データＰａ＿Ｒが現実の情報と異なる情報を有する「非現実映像」である）と判定する。なお、車両データ、地図データ、時刻情報及び気象情報は、自動運転車Ｖａに保持されるものが自動運転装置１へ入力される。
【0028】
説明を図１に戻す。
映像加工検知部１３は、受信映像データＰａ＿Ｒを対象にして、映像データに加工箇所があることを検知し、映像加工の有無を示す加工判定結果を出力する。
映像加工検知部１３は、受信映像データＰａ＿Ｒを対象にして、映像データに加工箇所があることを検知し、映像加工の有無を示す加工判定結果を出力する。
【0029】
図３は、本実施形態に係る映像加工検知部の構成例を示すブロック図である。図３において、映像加工検知部１３は、影検出部１３０と、影向き推定部１３１と、つぎはぎ検出部１３２と、その他加工検出部１３３とを備える。
【0030】
影検出部１３０は、受信映像データＰａ＿Ｒを対象にして、映像の中の影領域を検出する。
【0031】
影向き推定部１３１は、影検出部１３０が検出した複数の影領域から影の向き（影向き）を推定する。
【0032】
つぎはぎ検出部１３２は、影向き推定部１３１が推定した複数の影向きについて、影向きの違いから映像のつぎはぎの有無を検出する。また、つぎはぎ検出部１３２は、受信映像データＰａ＿Ｒと他車映像データＰＳとをそれぞれ対象にして、高コントラスト処理やハイパスフィルター処理などを施すことにより、映像のつぎはぎの有無を検出してもよい。
【0033】
その他加工検出部１３３は、受信映像データＰａ＿Ｒを対象にして、映像加工の有無を検出する検出処理を実行する。例えば、その他加工検出部１３３は、映像加工の有無を検出するように深層学習された深層学習モデルを利用することにより、映像加工の有無を検出してもよい。また、その他加工検出部１３３は、ノイズ分布やエッジなどの画像ピクセル情報を分析することにより、映像加工の有無を検出してもよい。また、その他加工検出部１３３は、映像加工履歴が記録されているメタデータ領域を分析することにより、映像加工の有無を検出してもよい。
【0034】
映像加工検知部１３は、加工判定結果として、つぎはぎ検出部１３２による受信映像データＰａ＿Ｒの映像のつぎはぎの有無の検出結果を出力する。また、映像加工検知部１３は、加工判定結果として、その他加工検出部１３３による受信映像データＰａ＿Ｒの映像加工の有無の検出結果を出力する。
【0035】
説明を図１に戻す。
映像流用検知部１４は、受信映像データＰａ＿Ｒが過去に撮像された映像データが流用されたものであるか否かを検知する。
映像流用検知部１４は、受信映像データＰａ＿Ｒが過去に撮像された映像データが流用されたものであるか否かを検知する。
【0036】
図４は、本実施形態に係る映像流用検知部の構成例を示すブロック図である。図４において、映像流用検知部１４は、特徴量抽出部１４０と、類似度判定部１４１と、特徴量蓄積管理部１４２と、特徴量蓄積部１４３とを備える。
【0037】
特徴量抽出部１４０は、受信映像データＰａ＿Ｒから特徴量を抽出する。特徴量は、例えば、ＳＩＦＴ（Scale-Invariant Feature Transform）特徴量や特徴点などである。特徴量抽出部１４０は、受信映像データＰａ＿Ｒから抽出した特徴量（以下、第１特徴量と称する）を出力する。
【0038】
類似度判定部１４１は、特徴量抽出部１４０から出力された第１特徴量と、特徴量蓄積部１４３に格納された特徴量（以下、第２特徴量と称する）とを使用して、ハミング距離等の距離を計算する。類似度判定部１４１は、一定の期間（数秒）において、計算結果の距離が継続して所定の閾値以下である場合に、第１特徴量の抽出元の受信映像データＰａ＿Ｒが過去に撮像された映像データが流用されたものであると判定する。
【0039】
特徴量蓄積管理部１４２は、第１特徴量の抽出元の受信映像データＰａ＿Ｒが流用されたものであると判定された場合に、当該第１特徴量を特徴量蓄積部１４３に格納すると共に当該判定に使用された第２特徴量についての特徴量蓄積部１４３内の流用回数を１増やす。一方、特徴量蓄積管理部１４２は、第１特徴量の抽出元の受信映像データＰａ＿Ｒが流用されたものでないと判定された場合に、当該第１特徴量を特徴量蓄積部１４３に格納する。第１特徴量の抽出元の受信映像データＰａ＿Ｒが流用されたものでないと判定された場合、当該判定に使用された第２特徴量についての特徴量蓄積部１４３内の流用回数は変更されない。また、第１特徴量についての特徴量蓄積部１４３内の流用回数の初期値は０に設定される。特徴量蓄積管理部１４２は、一定の期間において、流用回数が０のままである特徴量を、特徴量蓄積部１４３から削除する。
【0040】
特徴量蓄積部１４３は、特徴量、特徴量が特徴量蓄積部１４３に格納された時刻（登録時刻）及び流用回数を格納する。
【0041】
説明を図１に戻す。
判定部１５は、映像比較部１２（推定結果比較部１２６）による「異映像」の判定結果「異映像であるか否か」、映像比較部１２（車両データ比較部１２７）による「非現実映像」の判定結果「非現実映像であるか否か」、映像加工検知部１３による加工判定結果「映像加工ありか否か」、及び映像流用検知部１４による流用判定結果「流用であるか否か」に基づいて、受信映像データＰａ＿Ｒの信憑性を判定する。信憑性判定方法の例を以下に挙げる。
判定部１５は、映像比較部１２（推定結果比較部１２６）による「異映像」の判定結果「異映像であるか否か」、映像比較部１２（車両データ比較部１２７）による「非現実映像」の判定結果「非現実映像であるか否か」、映像加工検知部１３による加工判定結果「映像加工ありか否か」、及び映像流用検知部１４による流用判定結果「流用であるか否か」に基づいて、受信映像データＰａ＿Ｒの信憑性を判定する。信憑性判定方法の例を以下に挙げる。
【0042】
（信憑性判定方法の例１）
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち少なくとも一つが成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち少なくとも一つが成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
【0043】
（信憑性判定方法の例２）
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち、いずれか複数又は全てが成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち、いずれか複数又は全てが成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
【0044】
（信憑性判定方法の例３）
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち少なくとも所定の判定結果が成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。例えば、少なくとも「異映像である」が成立した場合、他の判定結果に関わらず、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定し、そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。例えば、少なくとも「非現実映像である」と「映像加工あり」とが成立した場合、他の判定結果に関わらず、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定し、そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
「異映像である」、「非現実映像である」、「映像加工あり」及び「流用である」のうち少なくとも所定の判定結果が成立した場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定する。そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。例えば、少なくとも「異映像である」が成立した場合、他の判定結果に関わらず、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定し、そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。例えば、少なくとも「非現実映像である」と「映像加工あり」とが成立した場合、他の判定結果に関わらず、判定部１５は、受信映像データＰａ＿Ｒの信憑性を否定し、そうではない場合、判定部１５は、受信映像データＰａ＿Ｒの信憑性を肯定する。
【0045】
自動運転解除処理部１６は、判定部１５が受信映像データＰａ＿Ｒの信憑性を否定した場合、受信映像データＰａ＿Ｒに基づく自動運転車Ｖａの自動運転を解除させるための自動運転解除処理を実行する。自動運転解除処理部１６は、判定部１５が受信映像データＰａ＿Ｒの信憑性を肯定した場合には、当該自動運転解除処理を実行しない。自動運転解除処理の例を以下に示す。
【0046】
（自動運転解除処理の例１）
自動運転解除処理部１６は、自動運転車Ｖａの運転者に対して、自動運転から手動運転へ切り替えることを促す通知を行う。当該通知は、自動運転車Ｖａの表示画面に通知メッセージが表示されてもよく、又は、自動運転車Ｖａのスピーカから通知メッセージが音声再生されてもよい。自動運転車Ｖａの運転者は、当該通知に応じて、自動運転車Ｖａを自動運転から手動運転へ切り替える。なお、自動運転解除処理部１６は、自動運転車Ｖａの運転者に対して自動運転から手動運転へ切り替えることを促す通知を行ってから一定の期間が経過しても、自動運転から手動運転へ切り替わらない場合、自動運転制御部１０へ停車を指示してもよい。自動運転制御部１０は、当該停車の指示に応じて、自動運転車Ｖａを停車させる。
自動運転解除処理部１６は、自動運転車Ｖａの運転者に対して、自動運転から手動運転へ切り替えることを促す通知を行う。当該通知は、自動運転車Ｖａの表示画面に通知メッセージが表示されてもよく、又は、自動運転車Ｖａのスピーカから通知メッセージが音声再生されてもよい。自動運転車Ｖａの運転者は、当該通知に応じて、自動運転車Ｖａを自動運転から手動運転へ切り替える。なお、自動運転解除処理部１６は、自動運転車Ｖａの運転者に対して自動運転から手動運転へ切り替えることを促す通知を行ってから一定の期間が経過しても、自動運転から手動運転へ切り替わらない場合、自動運転制御部１０へ停車を指示してもよい。自動運転制御部１０は、当該停車の指示に応じて、自動運転車Ｖａを停車させる。
【0047】
（自動運転解除処理の例２）
自動運転解除処理部１６は、自動運転制御部１０に対して、受信映像データＰａ＿Ｒの信憑性を否定することを通知する。自動運転制御部１０は、当該通知に応じて、受信映像データＰａ＿Ｒに基づく自動運転を解除するように、自動運転制御処理に対して所定の手順変更を行う。例えば、受信映像データＰａ＿Ｒに基づく判断の重要度を最低に下げたり、又は、当該判断を採用しないように、自動運転制御処理に対して所定の手順変更を行う。
自動運転解除処理部１６は、自動運転制御部１０に対して、受信映像データＰａ＿Ｒの信憑性を否定することを通知する。自動運転制御部１０は、当該通知に応じて、受信映像データＰａ＿Ｒに基づく自動運転を解除するように、自動運転制御処理に対して所定の手順変更を行う。例えば、受信映像データＰａ＿Ｒに基づく判断の重要度を最低に下げたり、又は、当該判断を採用しないように、自動運転制御処理に対して所定の手順変更を行う。
【0048】
保守部１７は、判定部１５が受信映像データＰａ＿Ｒの信憑性を否定した場合、所定の保守サーバ（図示せず）へ、改ざん等の攻撃への対処を依頼する。保守サーバは、当該対処の依頼に応じて、自動運転車Ｖａに対して遠隔でマルウェア等の攻撃ソフトウェアの駆除や正規ソフトウェアの再インストール等の保守作業を適切な保守タイミングで実施する。
【0049】
【0050】
（ステップＳ１） 自動運転装置１は、自車映像データＰａを受信する。また、自動運転装置１は、他車映像データＰＳを受信する。
【0051】
（ステップＳ２） 自動運転装置１は、受信した自車映像データＰａ（受信映像データＰａ＿Ｒ）の信憑性を判定する。
【0052】
（ステップＳ３） ステップＳ２の判定の結果、受信映像データＰａ＿Ｒの信憑性が肯定された場合、ステップＳ４に進む。一方、受信映像データＰａ＿Ｒの信憑性が否定された場合、ステップＳ５に進む。
【0053】
（ステップＳ４） 自動運転車Ｖａの自動運転を継続する。
【0054】
（ステップＳ５） 自動運転装置１は、自動運転解除処理を実行する。
【0055】
本実施形態によれば、自車映像データＰａを使用して自動運転を行う自動運転車Ｖａにおいて、自動運転装置１が自己の外部の装置から受信した自車映像データＰａ（受信映像データＰａ＿Ｒ）の信憑性を判定し、当該受信映像データの信憑性の判定結果に基づいて受信映像データＰａ＿Ｒに基づく自動運転車Ｖａの自動運転を解除させるための自動運転解除処理を実行する。これにより、自車映像データＰａを使用して自動運転を行う自動運転車Ｖａの円滑な自動運転を図ることができる。
【0056】
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【0057】
また、上述した各装置の機能を実現するためのコンピュータプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するようにしてもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＤＶＤ（Digital Versatile Disc）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＤＶＤ（Digital Versatile Disc）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【0058】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（例えばＤＲＡＭ（Dynamic Random Access Memory））のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
【符号の説明】
【0059】
１…自動運転装置、Ｖａ…自動運転車、１０…自動運転制御部、１１…映像データ受信部、１２…映像比較部、１３…映像加工検知部、１４…映像流用検知部、１５…判定部、１６…自動運転解除処理部、１７…保守部、１２０…領域分割部、１２１…物体識別部、１２２…輝度分析部、１２３…走行路推定部、１２４…天候状態推定部、１２５…時刻推定部、１２６…推定結果比較部、１２７…車両データ比較部、１３０…影検出部、１３１…影向き推定部、１３２…つぎはぎ検出部、１３３…その他加工検出部、１４０…特徴量抽出部、１４１…類似度判定部、１４２…特徴量蓄積管理部、１４３…特徴量蓄積部
【図1】
【図2】
【図3】
【図4】
【図5】