(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024134429
(43)【公開日】2024-10-03
(54)【発明の名称】情報処理装置、情報処理方法、及び情報処理プログラム
(51)【国際特許分類】
E05F 15/73 20150101AFI20240926BHJP
B60J 5/04 20060101ALI20240926BHJP
E05F 15/42 20150101ALI20240926BHJP
E05F 15/611 20150101ALI20240926BHJP
E05C 17/02 20060101ALI20240926BHJP
【FI】
E05F15/73
B60J5/04 C
E05F15/42
E05F15/611
E05C17/02
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023044730
(22)【出願日】2023-03-20
(71)【出願人】
【識別番号】000003609
【氏名又は名称】株式会社豊田中央研究所
(71)【出願人】
【識別番号】000000011
【氏名又は名称】株式会社アイシン
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】小島 真一
(72)【発明者】
【氏名】神谷 翼
【テーマコード(参考)】
2E052
【Fターム(参考)】
2E052AA09
2E052BA01
2E052EA01
2E052EB02
2E052EC01
2E052GB06
2E052GB12
2E052GC10
(57)【要約】
【課題】本発明は、車両周辺に存在する障害物の3次元位置を精度良く特定することを目的とする。
【解決手段】情報処理装置は、ヒンジドアに設けられた撮像部により撮像された画像と、画像が撮像された際のヒンジドアが閉状態から開いた角度を示すドア開き角度とを取得する取得部と、取得したドア開き角度が異なる複数の視点で撮像部により撮像された複数の画像に基づいて決定した、ヒンジドアの周辺に存在する障害物の対応点と、複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両に対する障害物の3次元位置及びドア開き角度の誤差を特定する特定部と、対応点の一部をドア開き角度の誤差に基づいて除去し、除去後の対応点に基づいて特定された障害物の3次元位置と、ヒンジドアの形状及び寸法に関するドア情報とを用いて、ヒンジドアが障害物に接触しない最大のドア開き角度を決定する決定部と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得する取得部と、
前記取得部が取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定する特定部と、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する決定部と、
を備える、
情報処理装置。
【請求項2】
前記特定部は、除去後の前記対応点及び前記ドア開き角度の誤差に基づいて、前記障害物の3次元位置を再度特定し、
前記決定部は、前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
請求項1に記載の情報処理装置。
【請求項3】
前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う制御部を備える、
請求項1に記載の情報処理装置。
【請求項4】
前記制御部は、
前記撮像部が前記画像を撮像する際の前記ドア開き角度を決定し、
決定した前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う、
請求項3に記載の情報処理装置。
【請求項5】
前記制御部は、
前記決定部が前記障害物に接触しない最大の前記ドア開き角度を決定した後、前記障害物に接触しない最大の前記ドア開き角度の範囲内で前記撮像部により前記画像が撮像されていない所定の角度まで、前記ヒンジドアを開放する制御を行い、
前記特定部は、
前記所定の角度の視点と、他の前記ドア開き角度の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置を再度特定し、
前記決定部は、
前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を再度決定する、
請求項3に記載の情報処理装置。
【請求項6】
前記制御部は、
前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度に応じて、前記所定の角度を決定する、
請求項5に記載の情報処理装置。
【請求項7】
前記決定部により前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度が決定される回数の入力を受付ける受付部を備える、
請求項5に記載の情報処理装置。
【請求項8】
前記制御部は、
前記ヒンジドアに設けられた測距センサの検出結果に基づいて、前記ヒンジドアの開放を禁止する制御を行う、
請求項3に記載の情報処理装置。
【請求項9】
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、
取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
処理をコンピュータが実行する情報処理方法。
【請求項10】
コンピュータに、
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、
取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
処理を実行させるための情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。
【背景技術】
【0002】
特許文献1には、車両の利用者がパワーヒンジドアに近づいたときに、パワードア制御部によりパワーヒンジドアが開動作される技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記のように、従来技術として、人手を介さずに自動で車両のヒンジドアを開放する技術が存在する。
ここで、車両周辺に壁及び他の車両等の障害物が存在する状況でヒンジドアを自動で開放する場合には、障害物に接触しない範囲でヒンジドアを開放しなければならない。そして、障害物に接触しない範囲でヒンジドアを開放するためには、車両に対する障害物の3次元位置を精度良く特定する必要があるが、障害物の3次元位置の特定方法については未だ改善の余地がある。
【0005】
そこで、本発明は、車両周辺に存在する障害物の3次元位置を精度良く特定することができる情報処理装置、情報処理方法、及び情報処理プログラムの提供を目的とする。
【課題を解決するための手段】
【0006】
第1の態様の情報処理装置は、車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得する取得部と、前記取得部が取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定する特定部と、前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する決定部と、を備える。
【0007】
第2の態様の情報処理装置は、第1の態様の情報処理装置であって、前記特定部は、除去後の前記対応点及び前記ドア開き角度の誤差に基づいて、前記障害物の3次元位置を再度特定し、前記決定部は、前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する。
【0008】
第3の態様の情報処理装置は、第1の態様の情報処理装置であって、前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う制御部を備える。
【0009】
第4の態様の情報処理装置は、第3の態様の情報処理装置であって、前記制御部は、前記撮像部が前記画像を撮像する際の前記ドア開き角度を決定し、決定した前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う。
【0010】
第5の態様の情報処理装置は、第3の態様の情報処理装置であって、前記制御部は、前記決定部が前記障害物に接触しない最大の前記ドア開き角度を決定した後、前記障害物に接触しない最大の前記ドア開き角度の範囲内で前記撮像部により前記画像が撮像されていない所定の角度まで、前記ヒンジドアを開放する制御を行い、前記特定部は、前記所定の角度の視点と、他の前記ドア開き角度の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記障害物の対応点と、複数の前記画像のそれぞれに紐付く前記補正部が補正した補正後の前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置を再度特定し、前記決定部は、前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を再度決定する。
【0011】
第6の態様の情報処理装置は、第5の態様の情報処理装置であって、前記制御部は、前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度に応じて、前記所定の角度を決定する。
【0012】
第7の態様の情報処理装置は、第5の態様の情報処理装置であって、前記決定部により前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度が決定される回数の入力を受付ける受付部を備える。
【0013】
第8の態様の情報処理装置は、第3の態様の情報処理装置であって、前記制御部は、前記ヒンジドアに設けられた測距センサの検出結果に基づいて、前記ヒンジドアの開放を禁止する制御を行う。
【0014】
第9の態様の情報処理方法は、車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、処理をコンピュータが実行する。
【0015】
第10の態様の情報処理プログラムは、コンピュータに、車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、処理を実行させる。
【発明の効果】
【0016】
本発明に係る情報処理装置、情報処理方法、及び情報処理プログラムでは、車両周辺に存在する障害物の3次元位置を精度良く特定することができる。
【図面の簡単な説明】
【0017】
【
図1】車両のハードウェア構成を示す第1のブロック図である。
【
図2】車載器の機能構成の例を示す第1のブロック図である。
【
図3】開放処理の流れを示す第1のフローチャートである。
【
図4】障害物の3次元位置の特定方法及び最大開き角度の決定方法を説明する第1の説明図である。
【
図5】障害物の3次元位置の特定方法及び最大開き角度の決定方法を説明する第2の説明図である。
【
図6】車載器の機能構成の例を示す第2のブロック図である。
【
図7】車載器の機能構成の例を示す第3のブロック図である。
【
図8】開放処理の流れを示す第2のフローチャートである。
【
図9】車両のハードウェア構成を示す第2のブロック図である。
【
図10】開放処理の流れを示す第3のフローチャートである。
【発明を実施するための形態】
【0018】
以下、本実施形態に係る車両20について説明する。
(第1の実施形態)
図1は、車両20のハードウェア構成を示す第1のブロック図である。車両20は、ガソリン車両、ハイブリッド車両、又は電気自動車の何れであってもよいが、第1の実施形態では、一例として、車両20はガソリン車両とする。また、車両20は、運転席側の運転席ドア、助手席側の助手席ドア、及び車両20後部の後部ドアを備えている。そして、第1の実施形態では、車両20の運転席ドアが、車体座標における回転軸が既知のヒンジドアで構成されている。運転席ドアは「ヒンジドア」の一例である。
【0019】
図1に示すように、車両20は、車載器15と、ドアECU(Electronic Control Unit)30と、アクチュエータ31と、角度センサ32と、マイク40と、カメラ41と、入力スイッチ42と、モニタ43と、スピーカ44と、GPS装置45と、を含んで構成されている。車載器15は「情報処理装置」の一例である。
【0020】
車載器15は、CPU21(Central Processing Unit)、ROM22(Read Only Memory)、RAM23(Random Access Memory)、記憶部24、車内通信I/F(InterFace)25、入出力I/F26及び無線通信I/F27を含んで構成されている。CPU21、ROM22、RAM23、記憶部24、車内通信I/F25、入出力I/F26及び無線通信I/F27は、内部バス28を介して相互に通信可能に接続されている。
【0021】
CPU21は、中央演算処理ユニットであり、各種プログラムを実行したり、各部を制御したりする。すなわち、CPU21は、ROM22又は記憶部24からプログラムを読み出し、RAM23を作業領域としてプログラムを実行する。CPU21は、ROM22又は記憶部24に記録されているプログラムにしたがって、上記各構成の制御及び各種の演算処理を行う。
【0022】
ROM22は、各種プログラム及び各種データを格納する。RAM23は、作業領域として一時的にプログラム又はデータを記憶する。
【0023】
記憶部24は、eMMC(embedded Multi Media Card)又はUFS(Universal Flash Storage)等の記憶装置により構成され、各種プログラム及び各種データを格納する。記憶部24には、少なくとも後述する開放処理を実行するための情報処理プログラム24Aが格納されている。
【0024】
車内通信I/F25は、ドアECU30と接続するためのインターフェースである。当該インターフェースは、CANプロトコルによる通信規格が用いられる。車内通信I/F25は、外部バス29に対して接続されている。
【0025】
第1の実施形態では、ECUとして、ドアECU30が設けられている。なお、図示を省略しているが、ECUは車両20の機能毎に複数設けられており、ドアECU30以外の他のECUを含んで構成されている。
ドアECU30には、アクチュエータ31及び角度センサ32が接続されている。
【0026】
アクチュエータ31は、車両20のドアのうち、少なくとも運転席ドアを自動で開閉駆動させるものである。第1の実施形態では、車載器15の制御に基づいてドアECU30がアクチュエータ31を駆動させることで、乗員が運転席ドアの開閉動作を行わなくても、運転席ドアを自動で開閉させることができる。
【0027】
角度センサ32は、車両20のドアのうち、少なくとも運転席ドアに設けられ、運転席ドアが閉状態、すなわち、ドア閉時から開いた角度を示すドア開き角度を検出するためのセンサである。角度センサ32において検出されたドア開き角度は、記憶部24に記憶される。
【0028】
入出力I/F26は、車両20に搭載されるマイク40、カメラ41、入力スイッチ42、モニタ43、スピーカ44、及びGPS装置45と通信するためのインターフェースである。
【0029】
マイク40は、車両20のフロントピラー、又はダッシュボード等に設けられ、車両20のユーザが発した音声を集音する装置である。
【0030】
カメラ41は、一例として、CCD(Charge Coupled Device)イメージセンサ及びCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子を含んで構成されている。カメラ41は、一例として、少なくとも車両20の運転席ドアのドアミラー33(
図4及び
図5参照)に設けられ、車両側方を撮像する。カメラ41が撮像した画像は、各画像が撮像された際のドア開き角度と紐付けられた上で記憶部24に記憶される。なお、カメラ41は、ECU(例えば、カメラECU)を経由して車載器15に接続されていてもよい。カメラ41は「撮像部」の一例である。
【0031】
また、運転席ドアのドア閉時の車体座標におけるカメラ41の姿勢は既知であり、当該姿勢に関する情報が記憶部24に記憶されている。
【0032】
入力スイッチ42は、インストルメントパネル、センタコンソール、ステアリングホイール等に設けられ、運転者の手指による操作を入力するスイッチである。入力スイッチ42としては、例えば、押しボタン式のテンキー、及びタッチパッド等を採用することができる。第1の実施形態では、入力スイッチ42として、運転席ドアを開放するための開放スイッチが少なくとも設けられている。そして、第1の実施形態では、車両20が停車又は駐車された状態で開放スイッチが操作されることで、運転席ドアを自動で開放することができる。
【0033】
モニタ43は、インストルメントパネル、又はメータパネル等に設けられ、車両20の機能に係る作動の提案、及び当該機能の説明に係る画像を表示するための液晶モニタである。モニタ43は、入力スイッチ42を兼ねたタッチパネルとして設けてもよい。
【0034】
スピーカ44は、インストルメントパネル、センタコンソール、フロントピラー、又はダッシュボード等に設けられ、車両20の機能に係る作動の提案、及び当該機能の説明に係る音声を出力するための装置である。なお、スピーカ44は、モニタ43に設けられていてもよい。
【0035】
GPS装置45は、車両20の現在位置を測定する装置である。GPS装置45は、GPS衛星からの信号を受信する図示しないアンテナを含んでいる。なお、GPS装置45は、ECU(例えば、マルチメディアECU)に接続されるカーナビゲーションシステムを経由して車載器15に接続されていてもよい。
【0036】
無線通信I/F27は、他の機器と通信するための無線通信モジュールである。当該無線通信モジュールは、例えば、5G、LTE、Wi-Fi(登録商標)等の通信規格が用いられる。
【0037】
次に、車載器15の機能構成について説明する。
図2は、車載器15の機能構成の例を示す第1のブロック図である。
【0038】
図2に示すように、車載器15のCPU21は、機能構成として、取得部21A、特定部21B、決定部21C、及び制御部21Dを有する。各機能構成は、CPU21が記憶部24に記憶された情報処理プログラム24Aを読み出し、実行することにより実現される。
【0039】
取得部21Aは、カメラ41により撮像された画像と、当該画像が撮像された際のドア開き角度と、を取得する。第1の実施形態では、取得部21Aは、ドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像と、当該複数の画像のそれぞれに紐付くドア開き角度と、を取得する。
【0040】
特定部21Bは、取得部21Aが取得したドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像に基づいて決定した、運転席ドアの周辺に存在する障害物の対応点と、当該複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置及びドア開き角度の誤差(以下、「ドア角度誤差」と記載することもある)を特定する。障害物の対応点は、公知の画像の特徴点を抽出する処理を、ドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像に対して行うことで決定される。また、特定部21Bは、異なる視点から撮像された複数枚の画像を用いて物体の3次元形状を復元する技術である多視点ステレオ(Multi-View Stereo: MVS)法により、障害物の3次元位置を特定する。ここで、角度センサ32が検出したドア開き角度は、角度センサ32に依存した測定誤差(例:センサ搭載誤差、サンプリング誤差)及び運転席ドアに依存した測定誤差(例:ドアのたわみによる誤差)等により、誤差が生じる可能性がある。そこで、特定部21Bは、角度センサ32が検出したドア開き角度には誤差があると仮定して、Multi-View Stereo法により、ドア角度誤差を特定する。
【0041】
決定部21Cは、対応点の一部をドア角度誤差に基づいて除去し、除去後の対応点に基づいて特定された障害物の3次元位置と、運転席ドアの形状及び寸法に関するドア情報とを用いて、運転席ドアが障害物に接触しない最大のドア開き角度(以下、「最大開き角度」とする)を決定する。ドア情報は、記憶部24に予め記憶されている。詳細は後述するが、決定部21Cは、ドア開き角度が異なる複数の画像、例えば、同一の障害物が写った2枚の画像ペアから特徴点として抽出された対応点(例:100個)のうち、当該画像ペア間の対応関係が異なる、すなわち、当該画像ペアで別の特徴点が抽出されたと想定される対応点(例:20個)を除去する。これにより、決定部21Cは、当該画像ペア間の対応関係が正しいと想定される対応点(例:80個)に基づいて特定された障害物の3次元位置を用いて、最大開き角度を決定することができる。なお、以下では、ドア開き角度が異なる複数の画像で別の特徴点が抽出されたと想定される対応点を「誤対応点」と記載する。
【0042】
制御部21Dは、カメラ41が画像を撮像する際のドア開き角度を決定し、決定したドア開き角度まで運転席ドアを開放する制御を行う。第1の実施形態では、一例として、制御部21Dは、カメラ41が画像を撮像する際の1回目のドア開き角度を「0度」、2回目のドア開き角度を「7度」に決定する。
【0043】
また、制御部21Dは、決定部21Cが決定した最大開き角度まで運転席ドアを開放する制御を行う。
【0044】
図3は、最大開き角度を決定し、決定した最大開き角度まで運転席ドアを開放する開放処理の流れを示す第1のフローチャートである。CPU21が記憶部24から情報処理プログラム24Aを読み出して、RAM23に展開して実行することにより、開放処理が行われる。なお、開放処理は、一例として、車両20が停車又は駐車された状態で開放スイッチが操作された場合に開始される。
【0045】
図3に示すステップS10において、CPU21は、カメラ41により撮像された画像と、当該画像が撮像された際のドア開き角度と、を取得する。一例として、CPU21は、ドア開き角度「0度」においてカメラ41により撮像された画像と、ドア開き角度「7度」においてカメラ41により撮像された画像と、を取得する。そして、ステップS11に進む。
【0046】
ステップS11において、CPU21は、ステップS10で取得したドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像に基づいて決定した障害物の対応点と、当該複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置及びドア角度誤差を特定する。そして、ステップS12に進む。当該障害物の3次元位置及びドア角度誤差の特定方法については後述する。
【0047】
ステップS12において、CPU21は、ステップS11で決定した障害物の対応点のうち、誤対応点を除去する。換言すると、CPU21は、誤対応点が示す情報(データ)を除外する。そして、ステップS13に進む。当該誤対応点の除去方法については後述する。
【0048】
ステップS13において、CPU21は、ステップS12で誤対応点を除去した後の対応点に基づいて特定された障害物の3次元位置とドア情報とを用いて、最大開き角度を決定する。そして、ステップS14に進む。当該最大開き角度の決定方法については後述する。
【0049】
ステップS14において、CPU21は、ステップS13で決定した最大開き角度まで運転席ドアを開放する。そして、開放処理を終了する。
【0050】
次に、
図4及び
図5を用いて、障害物の3次元位置の特定方法及び最大開き角度の決定方法について説明する。
【0051】
図4は、障害物の3次元位置の特定方法及び最大開き角度の決定方法を説明する第1の説明図である。
図4は、基準座標系を示し、また、運転席ドアのドアミラー33を上から見た状態を示している。第1の実施形態では、運転席ドアの回転軸であるヒンジ34がY軸と一致するように基準座標系を設定し、Xが車両後方に向かう方向を示し、Yが車両下方に向かう方向を示し、Zが車両右方に向かう方向を示している。また、原点はY軸と地面が交わる点とする。
【0052】
図4に示すように、ドア閉時の基準座標系でのカメラ41の初期位置をT
c0_w=(X
c0_w,Y
c0_w,Z
c0_w)
T、カメラ41のヒンジ34に対する回転半径をL
c、ドア開き角度をα、ドア開き角度α時の基準座標系でのカメラ41の位置をT
cα_w=(X
cα_w,Y
cα_w,Z
cα_w)
Tとする。Tは転置を表す。また、
図4に示すように、初期位置でのカメラ41はα
0だけヒンジ34周りに回転しているとみなすことができる。このとき、CPU21は、以下の数式(1)及び(2)を用いて、X
c0_w及びZ
c0_wからL
c及びα
0を算出する。
【0053】
【0054】
【0055】
また、CPU21は、以下の数式(3)を用いて、(Xcα_w,Ycα_w,Zcα_w)を算出する。
【0056】
【0057】
図4に示すように、ドア閉時及びドア開き角度α時のカメラ41の姿勢を基準座標系における回転行列で表現したものをそれぞれR
c0_w及びR
cα_wとする。Y軸周りの角度θの回転を表す回転行列をR
Y_w(θ)とすると、R
c0_w及びR
cα_wの関係は以下の数式(4)のように示される。
【0058】
【0059】
以上より、ドア開き角度α時のカメラ41の位置及び姿勢は、ドア閉時のカメラ41の位置及び姿勢とドア開き角度αとを用いて決定することができる。
【0060】
次に、カメラ座標系及び基準座標系の関係と、計測対象である障害物の座標とを
図5に示す。
図5は、障害物の3次元位置の特定方法及び最大開き角度の決定方法を説明する第2の説明図である。
【0061】
図5に示すように、障害物の対応点に対応する、基準座標系における障害物の座標をP_w=(X_w,Y_w,Z_w)
T、ドア閉時でのカメラ座標系における障害物の座標をP_c0=(X_c0,Y_c0,Z_c0)
T、ドア開き角度α時でのカメラ座標系における障害物の座標をP_cα=(X_cα,Y_cα,Z_cα)
Tとする。また、障害物のドア閉時及びドア開き角度α時それぞれの画像座標をI_i0=(x_i0,y_i0)
T、及びI_iα=(x_iα,y_iα)
Tとする。
【0062】
ここで、P_w、P_c0、及びP_cαは、同じ対象である障害物を異なる座標系で表現しており、以下の数式(5)及び(6)で示す関係を有する。
【0063】
【0064】
【0065】
また、カメラ41の内部パラメータである、ピクセル単位の焦点距離及び画像中心をそれぞれf及びIc_i=(xc_i,yc_i)Tとする。このとき、画像の投影式は以下の数式(7)及び(8)になる。
【0066】
【0067】
【0068】
上記の数式(7)及び(8)から、以下の数式(9)、(10)、(11)及び(12)が得られる。
【0069】
【0070】
【0071】
【0072】
【0073】
上記の数式(5)に、数式(9)及び(10)を代入すると、以下の数式(13)が得られる。
【0074】
【0075】
上記の数式(6)に、数式(11)及び(12)を代入すると、以下の数式(14)が得られる。
【0076】
【0077】
ここで、以降の数式を簡易化すべく、上記の数式(13)及び(14)中の定数項を、以下の数式(15)及び(16)のように置き換える。
【0078】
【0079】
【0080】
ここで、ドア角度誤差をεとし、εは小さいと仮定すると回転行列は以下の数式(17)になる。
【0081】
【0082】
ドア角度誤差の回転行列Rεを付与することで以下の数式(18)及び(19)に示す方程式が得られる。
【0083】
【0084】
【0085】
上記の数式(19)を変形すると、以下の数式(20)が得られる。
【0086】
【0087】
Z=εZ_cαと置いて上記の数式(20)の方程式を解くと、以下の数式(21)が得られる。
【0088】
【0089】
Z=εZ_cαより、以下の数式(22)が得られる。
【0090】
【0091】
ここで、上記の数式(21)及び(22)から、対応点i(i=1~N)についてZ_c0_i、Z_cα_i、及びε_iが得られる。誤対応点の除去(誤対応点が示す情報の除外)は、対応点iを構成するε_i(i=1~N)の集合から外れ値となるε_iと対応するZ_c0_i及びZ_cα_iとを除去するもので、以下の2ステップからなる。
【0092】
ステップ1として、CPU21は、固定の閾値に基づいて誤対応点を除去する。具体的には、CPU21は、上記閾値として事前に定めた角度閾値εtに対し、|ε_i|>εtとなるε_iと対応するZ_c0_i及びZ_cα_iとを除去する。なお、角度閾値εtは実験的に決定すればよく、例えば、5度又は10度等の任意の角度とすることができる。
【0093】
ステップ2として、CPU21は、統計的判定手法に基づいて誤対応点を除去する。ステップ2では、ステップ1で誤対応点を除去した後の対応点をi’(i’=1~N’)とする。N’≦Nである。CPU21は、N’個のε_i’に対し、平均及び標準偏差を求め、それぞれm、σとする。例えば、CPU21は、スミルノフ・グラブス検定を用いて、外れ値を判定し除外する。CPU21は、N’及び予め定めた有意水準(例えば5%)に応じて定まる係数μを使って、|ε_i’-m|/σ>μとなるε_i’と対応するZ_c0_i’及びZ_cα_i’とを除去する。なお、スミルノフ・グラブス検定は、例えば、参考文献(https://ja.wikipedia.org/wiki/%E5%A4%96%E3%82%8C%E5%80%A4)に開示されている。
【0094】
ここで、CPU21は、上記の数式(21)から得られるZ_c0_i(i=1~N)のうち、上記ステップ1及びステップ2で誤対応点を除去した後のZ_c0_i’(i’=1~N’)の値を上記の数式(9)及び(10)に代入することでX_c0及びY_c0を算出し、上記の数式(5)にP_c0=(X_c0,Y_c0,Z_c0_i’)Tを代入することでP_wを算出する。同様にして、CPU21は、上記の数式(21)から得られるZ_cα_iのうち、上記ステップ1及びステップ2で誤対応点を除去した後のZ_cα_i’の値を上記の数式(11)及び(12)に代入し、さらに上記の数式(6)に代入することでP_wを算出する。
【0095】
このとき、上記の数式(5)から算出したP_wと上記の数式(6)から算出したP_wとは通常一致しないため、第1の実施形態では、CPU21は、2つのP_wの平均を取ることで最終的な解、すなわち、車両20に対する障害物の3次元位置を特定する。なお、これに限らず、CPU21は、2つのP_wのうち、予め定めた一方の値、又は2つのP_wの重み付き平均を最終的な解として採用してもよい。
【0096】
そして、CPU21は、上記で説明した障害物の3次元位置の特定を、当該障害物中の複数箇所で行い、障害物のN箇所の3次元位置を算出したものとする。
【0097】
ここで、運転席ドアのドア形状は既知で、CPU21により、基準座標系での高さYhにおける運転席ドアの半径Lhが算出可能であるものとする。CPU21は、算出した全ての障害物の3次元点P_wn=(X_wn,Y_wn,Z_wn)T,(n=0~N-1)に対し、以下の計算を行う。
【0098】
まず、CPU21は、障害物の高さY_wnと等しい高さYhにおける運転席ドアの半径Lhを求める。そして、CPU21は、運転席ドアの半径Lhが以下の数式(23)に示す関係を有すれば、障害物と接触する可能性があるため、以下の数式(24)に示す角度θnを算出する。
【0099】
【0100】
【0101】
一方、CPU21は、運転席ドアの半径Lhが以下の数式(25)に示す関係を有すれば、角度θnを算出しない。そして、CPU21は、算出した全ての角度θnの中で最小のものを最大開き角度に決定する。
【0102】
【0103】
上記のように、第1の実施形態では、CPU21は、カメラ41により撮像された画像と、当該画像が撮像された際のドア開き角度と、を取得する。また、CPU21は、取得したドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像に基づいて決定した障害物の対応点と、当該複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置及びドア角度誤差を特定する。そして、CPU21は、誤対応点をドア角度誤差に基づいて除去し、誤対応点を除去した後の対応点に基づいて特定された障害物の3次元位置と、運転席ドアのドア情報とを用いて、最大開き角度を決定する。ここで、ドア開き角度が異なる複数の画像、例えば、同一の障害物が写った2枚の画像ペアから抽出された対応点の中には、当該障害物の異なる位置を示す特徴点同士を当該画像ペア間における対応点としたものが混在する可能性がある。このような誤対応点を含んだ対応点に基づいて障害物の3次元位置を特定すると、当該3次元位置を特定する精度が低下するため望ましくない。
【0104】
そこで、第1の実施形態では、CPU21が、誤対応点を除去した後の対応点に基づいて障害物の3次元位置を特定し、当該障害物の3次元位置を用いて、最大開き角度を決定する。これにより、第1の実施形態によれば、車両20周辺に存在する障害物の3次元位置を精度良く特定することができる。また、第1の実施形態によれば、障害物の3次元位置を特定する精度が向上することで、最大開き角度を精度良く決定することができる。さらに、第1の実施形態によれば、CPU21が、ドア角度誤差に基づいて誤対応点を除去するため、誤対応点の判定に要する計算コストを小さくでき、リアルタイム処理に有利となる。
【0105】
ここで、Multi-View Stereo法により障害物の3次元位置を特定する場合、複数の視点で撮像された各画像におけるカメラの位置及び姿勢を算出する必要があり、従来は、この算出が困難であったためにカメラの位置及び姿勢を推定する精度が十分でなかった。そして、従来は、カメラの位置及び姿勢を推定する精度が十分でないことから、多数の画像を必要とするという問題を有していた。なお、Multi-View Stereo法の文献としては、例えば「A Comparison and Evaluation of Multi-View Stereo Reconstruction Algorithms,CVPR2006」がある。
【0106】
これに対し、第1の実施形態では、カメラ41の移動について、共通の回転軸であるヒンジ34を有するという制約があるため、当該ヒンジ34の座標を示す情報を用いることで、複数の視点で撮像された各画像におけるカメラの位置及び姿勢を高精度に推定することができる。したがって、第1の実施形態によれば、従来のMulti-View Stereo法により障害物の3次元位置を特定する場合に比べて、少ない画像で障害物の3次元位置を特定することができる。
【0107】
また、第1の実施形態では、多くの車両に搭載されているドアミラーに設けられたカメラ41であるドアカメラ及び角度センサ32を用いて、障害物の3次元位置を特定しているため、当該特定を行うための専用部品を追加する必要がない。
【0108】
また、第1の実施形態では、CPU21が、決定した最大開き角度まで運転席ドアを開放する制御を行う。これにより、第1の実施形態によれば、運転席ドアの周辺に障害物が存在する状況において、乗員が運転席ドアの開放動作を行わなくても、障害物に接触しない最大限の範囲まで運転席ドアを自動で開放することができる。
【0109】
また、第1の実施形態では、CPU21が、カメラ41が画像を撮像する際のドア開き角度を決定し、決定したドア開き角度まで運転席ドアを開放する制御を行う。これにより、第1の実施形態によれば、運転席ドアの周辺に障害物が存在する状況において、乗員が運転席ドアの開放動作を行わなくても、障害物に接触しない範囲内で運転席ドアを自動で開放することができる。
【0110】
なお、第1の実施形態では、CPU21が運転席ドアを自動で開放している最中であっても、乗員が手動で運転席ドアを開閉することは可能とされている。
【0111】
(第2の実施形態)
次に、第2の実施形態について他の実施形態との重複部分を省略又は簡略しつつ説明する。
【0112】
図6は、車載器15の機能構成の例を示す第2のブロック図である。
図6に示すように、車載器15のCPU21は、機能構成として、取得部21A、特定部21B、決定部21C、制御部21D、及び補正部21Eを有する。各機能構成は、CPU21が記憶部24に記憶された情報処理プログラム24Aを読み出し、実行することにより実現される。
【0113】
補正部21Eは、取得部21Aが取得したドア角度誤差を補正する。補正部21Eにより補正されたドア開き角度は、記憶部24に記憶される。上記のように、角度センサ32が検出したドア開き角度は、誤差が生じる可能性がある。そこで、第2の実施形態では、角度センサ32が検出したドア開き角度には誤差があると仮定して、補正部21Eにより当該誤差を補正することとしている。
【0114】
第2の実施形態における特定部21Bは、誤対応点を除去した後の対応点及びドア角度誤差に基づいて、障害物の3次元位置を再度特定する。
【0115】
第2の実施形態における決定部21Cは、特定部21Bが再度特定した障害物の3次元位置と、運転席ドアのドア情報とを用いて、最大開き角度を決定する。
【0116】
次に、第2の実施形態の障害物の3次元位置の特定方法及び最大開き角度の決定方法について、第1の実施形態との重複部分を省略又は簡略しつつ説明する。
【0117】
第1の実施形態では、上記ステップ1及びステップ2で誤対応点を除去した後の対応点に基づいて障害物の3次元位置を特定したが、第2の実施形態では、当該誤対応点を除去した後の対応点及びドア角度誤差に基づいて、障害物の3次元位置を再度特定する。
【0118】
以下は、上記ステップ1及びステップ2の2ステップで誤対応点を除去した後の流れを示す。CPU21は、当該誤対応点を除去した後の対応点を構成するε’の集合の平均値を求めて-εとする。そして、CPU21は、-εを用いてR-εを構成し、以下の数式(26)でAαを補正してBαとする。
【0119】
【0120】
CPU21は、以下の数式(27)を用いて、Z_c0及びZ_cαを算出する。
【0121】
【0122】
ここで、CPU21は、上記の数式(27)から得られるZ_c0の値のうち、上記ステップ1及びステップ2で誤対応点を除去した後のZ_c0の値を上記の数式(9)及び(10)に代入することでX_c0及びY_c0を算出し、上記の数式(5)にP_c0=(X_c0,Y_c0,Z_c0)Tを代入することでP_wを算出する。同様にして、CPU21は、上記の数式(27)から得られるZ_cαの値のうち、上記ステップ1及びステップ2で誤対応点を除去した後のZ_cαの値を上記の数式(11)及び(12)に代入し、さらに上記の数式(6)に代入することでP_wを算出する。
【0123】
このとき、上記の数式(5)から算出したP_wと上記の数式(6)から算出したP_wとは通常一致しないため、第2の実施形態では、CPU21は、2つのP_wの平均を取ることで最終的な解、すなわち、車両20に対する障害物の3次元位置を再度特定する。なお、障害物の3次元位置を再度特定した後の流れは第1の実施形態と同様のため、説明を省略する。
【0124】
上記のように、第2の実施形態では、CPU21は、誤対応点を除去した後の対応点及びドア角度誤差に基づいて、障害物の3次元位置を再度特定する。そして、CPU21は、再度特定した障害物の3次元位置と、運転席ドアのドア情報とを用いて、最大開き角度を決定する。これにより、第2の実施形態によれば、障害物の3次元位置を再度特定しない場合に比べて、車両20周辺に存在する障害物の3次元位置を精度良く特定することができる。また、第2の実施形態では、角度センサ32が検出したドア開き角度には誤差があると仮定して、当該誤差を補正することで、車両20周辺、具体的には、運転席ドアの周辺に存在する障害物の3次元位置を精度良く特定することができる。
【0125】
なお、第2の実施形態では、CPU21が、第1の実施形態で示す処理に基づいて障害物の3次元位置を特定した後に、当該障害物の3次元位置を再度特定することとした。しかし、これに限らず、CPU21は、第1の実施形態で示す処理に基づいて障害物の3次元位置を特定することなく、第2の実施形態で示す処理に基づいて障害物の3次元位置を特定してもよい。
【0126】
(第3の実施形態)
次に、第3の実施形態について他の実施形態との重複部分を省略又は簡略しつつ説明する。
【0127】
図7は、車載器15の機能構成の例を示す第3のブロック図である。
図7に示すように、車載器15のCPU21は、機能構成として、取得部21A、特定部21B、決定部21C、制御部21D、及び受付部21Fを有する。各機能構成は、CPU21が記憶部24に記憶された情報処理プログラム24Aを読み出し、実行することにより実現される。
【0128】
第3の実施形態における制御部21Dは、決定部21Cが最大開き角度を決定した後、当該最大開き角度の範囲内でカメラ41により画像が撮像されていない所定の角度まで、運転席ドアを開放する制御を行う。このとき、制御部21Dは、決定部21Cが決定した最大開き角度に応じて、所定の角度を決定する。一例として、制御部21Dは、基本的に所定の角度を10度刻みに更新するが、決定部21Cが決定した最大開き角度が特定の角度(例:70度)より大きい場合は、所定の角度を20度刻みに更新する。
【0129】
第3の実施形態における特定部21Bは、所定の角度の視点と、他のドア開き角度の視点でカメラ41により撮像された複数の画像に基づいて決定した、障害物の対応点と、複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置を再度特定する。上記の「他のドア開き角度」は、ドア開き角度「0度」でもよいし、ドア開き角度「0度」以外、すなわち、ドア開き角度「1度」以上でもよい。
【0130】
第3の実施形態における決定部21Cは、特定部21Bが再度特定した障害物の3次元位置とドア情報とを用いて、最大開き角度を再度決定する。
【0131】
受付部21Fは、決定部21Cにより最大開き角度が決定される回数(以下、「決定回数」とする)の入力を受付ける。一例として、受付部21Fは、乗員によるモニタ43の操作により指定された値を決定回数として受付ける。
【0132】
図8は、開放処理の流れを示す第2のフローチャートである。
図8に示すステップS20において、CPU21は、決定回数の入力を受付ける。そして、ステップS21に進む。一例として、CPU21が入力を受付けた決定回数は、2回であったものとする。
【0133】
ステップS21において、CPU21は、カメラ41により撮像された画像と、当該画像が撮像された際のドア開き角度と、を取得する。一例として、CPU21は、1回目のステップS21において、ドア開き角度「0度」においてカメラ41により撮像された画像と、ドア開き角度「7度」においてカメラ41により撮像された画像と、を取得する。また、CPU21は、2回目のステップS21において、上記の所定の角度として、ドア開き角度「17度」においてカメラ41により撮像された画像を取得する。そして、ステップS22に進む。
【0134】
ステップS22において、CPU21は、ステップS21で取得したドア開き角度が異なる複数の視点でカメラ41により撮像された複数の画像に基づいて決定した障害物の対応点と、当該複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置及びドア角度誤差を特定する。一例として、CPU21は、1回目のステップS22において、ドア開き角度「0度」の視点と、ドア開き角度「7度」の視点とでカメラ41により撮像された画像に基づいて障害物の対応点を決定する。また、CPU21は、2回目のステップS22において、ドア開き角度「17度」の視点と、ドア開き角度「0度」の視点とでカメラ41により撮像された画像に基づいて障害物の対応点を決定する。そして、ステップS23に進む。
【0135】
ステップS23において、CPU21は、ステップS22で決定した障害物の対応点のうち、誤対応点を除去する。そして、ステップS24に進む。
【0136】
ステップS24において、CPU21は、ステップS23で誤対応点を除去した後の対応点に基づいて特定された障害物の3次元位置とドア情報とを用いて、最大開き角度を決定する。そして、ステップS25に進む。
【0137】
ステップS25において、CPU21は、ステップS24で最大開き角度を決定した回数が、ステップS20で入力を受付けた決定回数に到達したか否かを判定し、決定回数に到達したと判定した場合(ステップS25:YES)はステップS26に進む。一方、CPU21により決定回数に到達したと判定されない場合(ステップS25:NO)はステップS21に戻る。
【0138】
ステップS26において、CPU21は、直前のステップS24で決定した最大開き角度まで運転席ドアを開放する。そして、開放処理を終了する。
【0139】
上記のように、第3の実施形態では、CPU21は、最大開き角度を一度決定した後、当該最大開き角度の範囲内でカメラ41により画像が撮像されていない所定の角度まで、運転席ドアを開放する制御を行う。また、CPU21は、所定の角度の視点と、他のドア開き角度の視点でカメラ41により撮像された複数の画像に基づいて決定した、障害物の対応点と、複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置を再度特定する。そして、CPU21は、再度特定した障害物の3次元位置とドア情報とを用いて、最大開き角度を再度決定する。これにより、第3の実施形態によれば、最大開き角度を再度決定することで、最大開き角度を一度のみ決定する構成に比べて、決定された最大開き角度の精度を高めることができる。
【0140】
また、第3の実施形態では、CPU21は、決定した最大開き角度に応じて、所定の角度を決定する。ここで、障害物までの距離が遠い場合(所定距離以上ある場合)には、ドア開き角度が小さい画像よりも、大きい画像を用いた方が障害物の3次元位置を高精度に特定できる。そのため、第3の実施形態によれば、一例として、決定した最大開き角度が特定の角度より大きい場合に所定の角度を通常より大きく決定することで、障害物の3次元位置を高精度に特定することができる。
【0141】
また、第3の実施形態では、CPU21は、決定回数の入力を受付ける。これにより、第3の実施形態によれば、例えば、乗員に時間的な余裕がある場合には、最大開き角度の決定を多い回数繰り返すことで、障害物間際まで開放可能な最大開き角度を決定することができる。また、第3の実施形態によれば、乗員に時間的な余裕がない場合には、最大開き角度の決定を少ない繰り返し回数で終了させることで、早期に運転席ドアを開放することができる。
【0142】
(第4の実施形態)
次に、第4の実施形態について他の実施形態との重複部分を省略又は簡略しつつ説明する。
【0143】
図9は、車両20のハードウェア構成を示す第2のブロック図である。
図9に示すように、第4の実施形態における車両20は、車載器15と、ドアECU30と、アクチュエータ31と、角度センサ32と、マイク40と、カメラ41と、入力スイッチ42と、モニタ43と、スピーカ44と、GPS装置45と、ソナーセンサ46と、を含んで構成されている。
【0144】
ソナーセンサ46は、少なくとも運転席ドアに設けられ、超音波を利用して車両側方に近接する障害物との距離を検出する装置である。ソナーセンサ46は「測距センサ」の一例である。
【0145】
第4の実施形態における車載器15の機能構成の例は、
図6に示す第2の実施形態における車載器15の機能構成の例と同様である。
【0146】
第4の実施形態における補正部21Eは、カメラ41の内部パラメータを用いて、カメラ41により撮像された画像の補正を行う。一例として、補正部21Eは、当該画像の補正として歪み補正を行う。このとき、補正部21Eは、カメラ41の内部パラメータとして、カメラモデル毎の光学的な歪みを補正するためのパラメータ及び焦点距離等を用いる。この内部パラメータは、記憶部24に予め記憶されている。
【0147】
一例として、補正部21Eによる歪み補正は、以下の手法を用いて行われる。Scaramuzza,D.,A.Martinelli,and R.Siegwart.’’A Toolbox for Easy Calibrating Omnidirectional Cameras.’’ Proceedings to IEEE International Conference on Intelligent Robots and Systems,(IROS).October 7-15,2006.
【0148】
第4の実施形態における制御部21Dは、運転席ドアに設けられたソナーセンサ46の検出結果に基づいて、運転席ドアの開放を禁止する制御を行う。具体的には、制御部21Dは、ソナーセンサ46が運転席ドアに近接又は接近する障害物を検出した場合、運転席ドアの開放を禁止する制御を行う。
【0149】
図10は、開放処理の流れを示す第3のフローチャートである。
図10に示すステップS30において、CPU21は、カメラ41により撮像された画像と、当該画像が撮像された際のドア開き角度と、を取得する。そして、ステップS31に進む。
【0150】
ステップS31において、CPU21は、カメラ41の内部パラメータを用いて、ステップS30で取得した画像の補正を行う。そして、ステップS32に進む。
【0151】
ステップS32において、CPU21は、ステップS31で補正した複数の画像に基づいて決定した障害物の対応点と、当該複数の画像のそれぞれに紐付くドア開き角度とを用いて、車両20に対する障害物の3次元位置及びドア角度誤差を特定する。そして、ステップS33に進む。
【0152】
ステップS33において、CPU21は、ステップS32で決定した障害物の対応点のうち、誤対応点を除去する。そして、ステップS34に進む。
【0153】
ステップS34において、CPU21は、ステップS33で誤対応点を除去した後の対応点に基づいて特定された障害物の3次元位置とドア情報とを用いて、最大開き角度を決定する。そして、ステップS35に進む。
【0154】
ステップS35において、CPU21は、ステップS34で決定した最大開き角度まで運転席ドアを開放する。そして、開放処理を終了する。
【0155】
上記のように、第4の実施形態では、CPU21は、運転席ドアに設けられたソナーセンサ46の検出結果に基づいて、運転席ドアの開放を禁止する制御を行う。これにより、第4の実施形態によれば、一例として、ソナーセンサ46が運転席ドアに近接又は接近する障害物を検出した場合に運転席ドアの開放を禁止することができる。
【0156】
また、第4の実施形態では、CPU21は、カメラ41の内部パラメータを用いて、カメラ41により撮像された画像の補正を行う。これにより、第4の実施形態によれば、補正後の画像を用いて障害物の3次元位置が特定されるため、画像補正を行わない構成に比べて、障害物の3次元位置を高精度に特定することができる。
【0157】
(その他)
上記実施形態では、車両20の運転席ドアを「ヒンジドア」の一例としたが、これに代えて又は加えて、助手席ドア及び後部ドアの少なくとも一方を「ヒンジドア」の一例としてもよい。そして、助手席ドア及び後部ドアの少なくとも一方を「ヒンジドア」の一例とした場合には、これらのドアを自動で開閉駆動させるアクチュエータ、これらのドアのドア開き角度を検出するための角度センサ、これらのドアに設けられ、及び車両側方を撮像するカメラが車両20に搭載される。また、助手席ドア及び後部ドアの少なくとも一方を「ヒンジドア」の一例とした場合には、これらのドアにソナーセンサを設けてもよい。
【0158】
上記実施形態では、乗員が車両20の内部にいる状況で開放処理が開始される例について説明したが、これに限らず、乗員が車両20の外部にいる状況で開放処理が開始されてもよい。一例として、乗員が車両20の外部にいる状況で車両20に対応する電子キーが検出された場合に開放処理が開始されてもよい。
【0159】
上記実施形態では、車両20の運転席ドアのドアミラー33にカメラ41が設けられていたが、これに限らず、運転席ドア自体にカメラ41が設けられていてもよい。
【0160】
上記実施形態において、運転席ドアの周辺に存在する障害物は、カメラ41により撮像された画像内に写っている対象物であればよく、運転席ドアを開放した際に当該運転席ドアに接触する位置に存在するものでもよいし、当該運転席ドアに接触しない位置に存在するものでもよい。
【0161】
上記実施形態では、車載器15を「情報処理装置」の一例としたが、これに限らず、車両20に接続可能なサーバ等の外部装置を「情報処理装置」の一例としてもよい。この場合は、一例として、上記実施形態で説明した取得部21A、特定部21B、決定部21C、及び補正部21Eの機能を外部装置が備え、制御部21D及び受付部21Fの機能を車両20が備えるように構成することができる。
【0162】
なお、上記の実施形態でCPU21がソフトウェア(プログラム)を読み込んで実行した開放処理を、CPU以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、FPGA(Field-Programmable Gate Array)等の製造後に回路構成を変更可能なPLD(Programmable Logic Device)、及びASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、開放処理を、これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
【0163】
また、上記の実施形態では、情報処理プログラム24Aが記憶部24に予め記憶(インストール)されている態様を説明したが、これに限定されない。情報処理プログラム24Aは、CD-ROM(Compact Disk Read Only Memory)、DVD-ROM(Digital Versatile Disk Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の記録媒体に記録された形態で提供されてもよい。また、情報処理プログラム24Aは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【0164】
本開示は、以下の態様を採用してもよい。
(1)
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得する取得部と、
前記取得部が取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定する特定部と、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する決定部と、
を備える、
情報処理装置。
【0165】
(2)
前記特定部は、除去後の前記対応点及び前記ドア開き角度の誤差に基づいて、前記障害物の3次元位置を再度特定し、
前記決定部は、前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
(1)に記載の情報処理装置。
【0166】
(3)
前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う制御部を備える、
(1)又は(2)に記載の情報処理装置。
【0167】
(4)
前記制御部は、
前記撮像部が前記画像を撮像する際の前記ドア開き角度を決定し、
決定した前記ドア開き角度まで、前記ヒンジドアを開放する制御を行う、
(3)に記載の情報処理装置。
【0168】
(5)
前記制御部は、
前記決定部が前記障害物に接触しない最大の前記ドア開き角度を決定した後、前記障害物に接触しない最大の前記ドア開き角度の範囲内で前記撮像部により前記画像が撮像されていない所定の角度まで、前記ヒンジドアを開放する制御を行い、
前記特定部は、
前記所定の角度の視点と、他の前記ドア開き角度の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置を再度特定し、
前記決定部は、
前記特定部が再度特定した前記障害物の3次元位置と、前記ドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を再度決定する、
(3)又は(4)に記載の情報処理装置。
【0169】
(6)
前記制御部は、
前記決定部が決定した前記障害物に接触しない最大の前記ドア開き角度に応じて、前記所定の角度を決定する、
(5)に記載の情報処理装置。
【0170】
(7)
前記決定部により前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度が決定される回数の入力を受付ける受付部を備える、
(5)又は(6)に記載の情報処理装置。
【0171】
(8)
前記制御部は、
前記ヒンジドアに設けられた測距センサの検出結果に基づいて、前記ヒンジドアの開放を禁止する制御を行う、
(3)から(7)の何れか1つに記載の情報処理装置。
【0172】
(9)
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、
取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
処理をコンピュータが実行する情報処理方法。
【0173】
(10)
コンピュータに、
車両のヒンジドアに設けられた撮像部により撮像された画像と、前記画像が撮像された際の前記ヒンジドアが閉状態から開いた角度を示すドア開き角度と、を取得し、
取得した前記ドア開き角度が異なる複数の視点で前記撮像部により撮像された複数の前記画像に基づいて決定した、前記ヒンジドアの周辺に存在する障害物の対応点と、複数の前記画像のそれぞれに紐付く前記ドア開き角度とを用いて、前記車両に対する前記障害物の3次元位置及び前記ドア開き角度の誤差を特定し、
前記対応点の一部を前記ドア開き角度の誤差に基づいて除去し、除去後の前記対応点に基づいて特定された前記障害物の3次元位置と、前記ヒンジドアの形状及び寸法に関するドア情報とを用いて、前記ヒンジドアが前記障害物に接触しない最大の前記ドア開き角度を決定する、
処理を実行させるための情報処理プログラム。
【符号の説明】
【0174】
15 車載器(情報処理装置の一例)
20 車両
21A 取得部
21B 特定部
21C 決定部
21D 制御部
21E 補正部
21F 受付部
41 カメラ(撮像部の一例)