(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-21
(45)【発行日】2023-07-31
(54)【発明の名称】環境から情報を取得するシステムおよび方法
(51)【国際特許分類】
G01B 11/25 20060101AFI20230724BHJP
【FI】
G01B11/25 H
(21)【出願番号】P 2020500902
(86)(22)【出願日】2018-07-12
(86)【国際出願番号】 IL2018050762
(87)【国際公開番号】W WO2019012535
(87)【国際公開日】2019-01-17
【審査請求日】2021-07-08
(32)【優先日】2017-07-12
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】500115826
【氏名又は名称】ジェンテックス コーポレイション
(74)【代理人】
【識別番号】100094569
【氏名又は名称】田中 伸一郎
(74)【代理人】
【識別番号】100109070
【氏名又は名称】須田 洋之
(74)【代理人】
【識別番号】100067013
【氏名又は名称】大塚 文昭
(74)【代理人】
【識別番号】100086771
【氏名又は名称】西島 孝喜
(74)【代理人】
【識別番号】100109335
【氏名又は名称】上杉 浩
(74)【代理人】
【識別番号】100120525
【氏名又は名称】近藤 直樹
(74)【代理人】
【識別番号】100139712
【氏名又は名称】那須 威夫
(72)【発明者】
【氏名】ズータ ヨアヴ
(72)【発明者】
【氏名】カーモン ギデオン
(72)【発明者】
【氏名】レヴィー ロイ
【審査官】國田 正久
(56)【参考文献】
【文献】米国特許出願公開第2011/0211044(US,A1)
【文献】特表2010-540970(JP,A)
【文献】特開2008-026236(JP,A)
【文献】特開2006-015938(JP,A)
【文献】特開2005-195394(JP,A)
【文献】特開2013-246010(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/25
(57)【特許請求の範囲】
【請求項1】
環境から情報を取得するシステムであって、
(a)構造化光パターンを形成する少なくとも1つの光ビームを生成する光源と、
(b)少なくとも1つのレンズを有し、前記少なくとも1つの光ビームを構造化光パターンに変換し、前記構造化光パターンを環境に投射可能な歪んだ光パターンに変形する第1の光学系であって、前記少なくとも1つのレンズは車内に投影されたときに、前記歪んだ光パターンによって車室内に変換するのに必要な画角を有し、歪んだ光パターンの所定の形状を生成
し、
前記少なくとも1つのレンズは第1の魚眼レンズを含む、第1の光学系と、
(c)前記環境から戻り、前記環境の少なくとも1つの表面によって変形された前記歪んだ光パターンを含む元のビューを補正された画像に変換する第2の光学系であって、前記歪んだ光パターンの前記形状は、補正されたパターンに補正されている、第2の光学系と、
を備えている、システム。
【請求項2】
前記第1の光学系が、前記少なくとも1つのビームを構造化光パターンに変換し、前記構造化光パターンを歪めて、前記歪んだ光パターンを生成する、請求項1に記載のシステム。
【請求項3】
前記補正されたパターンが、前記構造化光パターンと実質的に同じである、請求項2に記載のシステム。
【請求項4】
前記歪んだ光パターンが、前記構造化光パターンの投射角度より大きい画角を有する、請求項2に記載のシステム。
【請求項5】
前記歪んだ光パターンの前記画角が、50度と220度の間である、請求項2に記載のシステム。
【請求項6】
前記構造化光パターンが、半径方向に歪められて前記歪んだ光パターンにされる、請求項2に記載のシステム。
【請求項7】
前記第1の光学系が回折光学素子(DOE)を含む、請求項
1に記載のシステム。
【請求項8】
前記第2の光学系が第2の魚眼レンズを含む、請求項
1に記載のシステム。
【請求項9】
前記第1の魚眼レンズおよび/または前記第2の魚眼レンズが、アフォーカルである、請求項
8に記載のシステム。
【請求項10】
前記第2の光学系が第2の魚眼レンズを含み、前記第2の魚眼レンズの光学特性が、前記第1の魚眼レンズの光学特性と実質的に同じである、請求項
1に記載のシステム。
【請求項11】
前記第1の光学系が回折光学素子(DOE)を含み、前記DOEが、前記第1の魚眼レンズの開口面内に位置している、請求項
1に記載のシステム。
【請求項12】
前記第2の光学系によって生成される前記補正された画像を捕捉する撮像センサ、
をさらに備えている、請求項1に記載のシステム。
【請求項13】
前記撮像センサが、前記表面に形成されるスペックル場を、焦点が合った状態でマッピングするように構成されている、請求項
12に記載のシステム。
【請求項14】
前記補正された光パターンから、輪郭情報、深さ情報、および表面振動情報の少なくとも1つを導く処理ユニット、
をさらに備えている、請求項1に記載のシステム。
【請求項15】
前記光源がコリメートレンズを含む、請求項1に記載のシステム。
【請求項16】
前記少なくとも1つのビームが、800nmより長い波長を有する、請求項1に記載のシステム。
【請求項17】
前記少なくとも1つの表面によって変形された前記補正された光パターンを含む前記補正された画像が分析されて、前記環境に関する情報を取得する、請求項1に記載のシステム。
【請求項18】
車両の内部に取り付けるように構成されている、請求項1に記載のシステム。
【請求項19】
前記補正された画像を分析して、車両乗員の総数、乗員の位置および動き、乗員の姿勢、乗員の頭部および身体部位の位置、乗員の行動、運転者の監視、チャイルドシートの存在およびその着用状態、座席上の物体の存在、前記車両内の侵入者、前記車両内に置き忘れられた幼児またはペット、の少なくとも1つを導くことができる、請求項
18に記載のシステム。
【請求項20】
前記少なくとも1つのビームが、平行ビームおよび準平行ビームの少なくとも一方を含む、請求項1に記載のシステム。
【請求項21】
環境から情報を取得するシステムであって、
(a)少なくとも1つの平行ビームを生成する光源と、
(b)前記少なくとも1つのビームを構造化光パターンに変換する第1の光学部品と、少なくとも1つのレンズを有し、前記構造化光パターンを歪めて、環境に投射可能な歪んだ光パターンにする第2の光学部品と、を含み、前記第2の光学部品の前記少なくとも1つのレンズは車内に投影されたときに、前記歪んだ光パターンによって車室内に変換するのに必要な画角を有し、歪んだ光パターンの所定の形状を生成
し、
前記少なくとも1つのレンズは第1の魚眼レンズを含む、光学系と、
を備えており、
前記歪んだ光パターンが、前記構造化光パターンより広い投射角度を有する、
システム。
【請求項22】
前記歪んだ光パターンの前記画角が、前記構造化光パターンの投射角度の画角の少なくとも4倍である、請求項
21に記載のシステム。
【請求項23】
前記第1の光学部品が回折光学素子(DOE)を含み、前記第2の光学部品がアフォーカル魚眼レンズを含む、請求項
21に記載のシステム。
【請求項24】
前記歪んだ光パターンが、半径1~2.5mの球の半分をカバーする、請求項
21に記載のシステム。
【請求項25】
前記歪みが半径方向である、請求項
21に記載のシステム。
【請求項26】
前記構造化光パターンが、20~50度の角度で投射される、請求項
23に記載のシステム。
【請求項27】
前記歪んだ光パターンが、50~220度の角度で投射される、請求項
23に記載のシステム。
【請求項28】
環境から情報を取得する方法であって、
(a)光源によって少なくとも1つのビームを生成するステップと、
(b)少なくとも1つのレンズを使用して、前記少なくとも1つのビームを、環境に投射可能な歪んだ光パターンに変換するステップであって、前記歪みは、歪んだ光パターンの所定の形状にしたがって生成される、ステップと、
(c)前記環境から戻り、前記環境の少なくとも1つの表面によって変形された前記歪んだ光パターンを含む元のビューを補正された画像に変換するステップであって、前記歪んだ光パターンの前記形状は、補正されたパターンに補正されている、ステップと、
を含み、
車内に投影されたときに、前記歪んだ光パターンによって車室内に変換するのに必要な画角を有し、歪んだ光パターンの所定の形状を生成するように、前記少なくとも1つのレンズが選択され、
前記少なくとも1つのレンズは第1の魚眼レンズを含む、方法。
【請求項29】
(d)前記補正された画像を撮像センサによって捕捉するステップ、
をさらに含む、請求項
28に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、環境から情報を取得するシステムと、この情報を使用する方法とに関し、より詳細には、広角の歪んだパターン(distorted pattern)を表面に投射し、表面上の歪んだパターンから構造化パターンを取得するシステム、に関する。
【背景技術】
【0002】
構造化光(structured light)を使用して、環境内の対象物(objects)の形状(shape)、深さ、(depth)および動き(movement)に関連する情報を取得することは、この技術分野において周知である。
【0003】
構造化光システムが、環境(environment)(本明細書では「シーン(scene)」とも称する)の空間内に既知のパターン(格子(grids)、ドットマトリクス(dot matrices)、または複数の水平線(horizontal bars))を投射し、対象物の表面に当たるときのパターンの変形特性(deformation characteristics)から、シーン内の対象物の深さ、形状、および動きを計算する。
【0004】
構造化光は、(工学用途における)対象物の3Dスキャニング、および環境内の対象物および被検者を識別および追跡する目的に使用することができる。
【0005】
構造化光システムは、一般には、投射器(projector)とカメラとの間の三角法に基づく。投射器は、既知の光パターンを3次元形状の表面上に生成する。カメラによって捕捉されるパターンは、投射器とカメラとの間の三角法効果(triangulation effect)(パターンをシフトさせる)に起因して、歪んでいる。画像の各位置の歪み(シフト)を計算することによって、対象物の幾何学的形状を再構築して深さ画像を作成することができる。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【課題を解決するための手段】
【0007】
本発明の一態様によれば、環境から情報を取得するシステムであって、(a)少なくとも1つのビームを生成する光源と、(b)(1つまたは複数の)ビームを、環境に投射可能な歪んだ光パターンに変換する第1の光学系と、(c)環境から戻り、環境の少なくとも1つの表面によって変形された歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第2の光学系と、を備えている、システム、を提供する。
【0008】
以下に説明する本発明の好ましい実施形態におけるさらなる特徴によれば、第1の光学系は、少なくとも1つのビームを構造化光パターンに変換し、この構造化光パターンを歪めて、歪んだ光パターンを生成する。
【0009】
説明する好ましい実施形態におけるさらなる特徴によれば、補正されたパターンは、構造化パターンと実質的に同じである。
【0010】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、構造化光パターンの投射角度より大きい画角(angle of view)を有する。
【0011】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンの画角は、50度~220度の範囲内である。
【0012】
説明する好ましい実施形態におけるさらなる特徴によれば、構造化光パターンは、半径方向に歪められて歪んだ光パターンにされる。
【0013】
説明する好ましい実施形態におけるさらなる特徴によれば、第1の光学系は、第1の魚眼レンズを含む。
【0014】
説明する好ましい実施形態におけるさらなる特徴によれば、第1の光学系は、回折光学素子(DOE)を含む。
【0015】
説明する好ましい実施形態におけるさらなる特徴によれば、第2の光学系は、第2の魚眼レンズを含む。
【0016】
説明する好ましい実施形態におけるさらなる特徴によれば、第1の魚眼レンズおよび/または第2の魚眼レンズは、アフォーカル(afocal:無限焦点の)である。
【0017】
説明する好ましい実施形態におけるさらなる特徴によれば、第2の魚眼レンズの光学特性は、第1の魚眼レンズの光学特性と実質的に同じである。
【0018】
説明する好ましい実施形態におけるさらなる特徴によれば、DOEは、第1の魚眼レンズの開口面内に位置している。
【0019】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、第2の光学系によって生成される補正された画像を捕捉する撮像センサ、をさらに備えている。
【0020】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、補正された光パターンから、輪郭情報、深さ情報、および表面振動情報の少なくとも1つを導く処理ユニット、をさらに備えている。
【0021】
説明する好ましい実施形態におけるさらなる特徴によれば、撮像センサは、表面に形成されるスペックル場(確定)(speckle field)を、焦点が合った状態でマッピングするように構成されている。
【0022】
説明する好ましい実施形態におけるさらなる特徴によれば、光源は、コリメートレンズを含む。
【0023】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも1つのビームは、800nmより長い波長を有する。
【0024】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、車両の内部に取り付けるように構成されている。
【0025】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも1つの表面によって変形された補正された光パターンを含む補正された画像が分析されて、環境に関する情報を取得する。
【0026】
説明する好ましい実施形態におけるさらなる特徴によれば、本システムは、補正された画像を分析して、車両乗員の総数、乗員の位置および動き、乗員の姿勢、乗員の頭部および身体部位の位置、乗員の行動、運転者の監視(頭部の位置、手の位置、および動作を含む)、チャイルドシートの存在およびその着用状態、座席上の物体の存在、車両内の侵入者、車両内に置き忘れられた幼児またはペット、の少なくとも1つを導くことができる。
【0027】
説明する好ましい実施形態におけるさらなる特徴によれば、少なくとも1つのビームは、平行ビームまたは準平行ビームの少なくとも一方を含む。
【0028】
本発明の別の態様によれば、環境から情報を取得するシステムであって、(a)少なくとも1つの平行ビームを生成する光源と、(b)少なくとも1つのビームを構造化光パターンに変換する第1の光学部品と、構造化光パターンを歪めて、環境に投射可能な歪んだ光パターンにする第2の光学部品と、を含む光学系と、を備えており、歪んだ光パターンが、構造化光パターンの投射角度より広い画角を有する、システム、を提供する。
【0029】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンの画角は、構造化光パターンの投射角度の画角の少なくとも4倍である。
【0030】
説明する好ましい実施形態におけるさらなる特徴によれば、第1の光学部品はDOEを含み、第2の光学部品はアフォーカル魚眼レンズを含む。
【0031】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、半径1~2.5mの球の半分をカバーする。
【0032】
説明する好ましい実施形態におけるさらなる特徴によれば、歪みは半径方向である。
【0033】
説明する好ましい実施形態におけるさらなる特徴によれば、構造化光パターンは、20~50度の角度で投射される。
【0034】
説明する好ましい実施形態におけるさらなる特徴によれば、歪んだ光パターンは、50~220度の角度で投射される。
【0035】
説明する好ましい実施形態におけるさらなる特徴によれば、環境から情報を取得するシステムであって、(a)環境から戻り、予備的な光学系によって歪められておりかつ環境の少なくとも1つの表面によって変形された光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する光学系と、(b)光学系によって投影される補正された画像を捕捉する撮像センサと、を備えている、システム、を提供する。
【0036】
説明する好ましい実施形態におけるさらなる特徴によれば、第1の光学部品は、アフォーカル魚眼レンズを含む。
【0037】
本発明の別の態様によれば、環境から情報を取得する方法であって、(a)光源によって少なくとも1つのビームを生成するステップと、(b)少なくとも1つのビームを、環境に投射可能な歪んだ光パターンに変換するステップと、(c)環境から戻り、環境の少なくとも1つの表面によって変形された歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換するステップと、を含む、方法、を提供する。
【0038】
説明する好ましい実施形態におけるさらなる特徴によれば、本方法は、(d)補正された画像を撮像センサによって捕捉するステップ、をさらに含む。
【0039】
本発明は、投射される1つのパターンを使用して、限定された環境から情報を取得することのできるシステム、を提供することによって、現在の公知の機器構成の欠点に対処することに成功した。
【0040】
特に定義されていない限り、本明細書において使用されているすべての技術用語および科学用語は、本発明が属する技術分野における通常の技術を有する者によって一般的に理解されている意味と同じ意味を有する。本発明を実施または試験するとき、本明細書に記載されている方法および材料に類似するかまたは同等の方法および材料を使用してよいが、好適な方法および例示的な材料は以下に記載してある。矛盾が生じる場合、定義を含めて本特許明細書に従うものとする。さらには、これらの材料、方法、および例は、説明のみを目的としており、本発明を制限することを意図していない。
【0041】
本発明の方法およびシステムの実施においては、選択されたタスクまたはステップを、手操作で、または自動的に、またはこれらの組合せによって、実行または完了する。さらには、本発明の方法およびシステムの好ましい実施形態の実際の機器および装置に応じて、いくつかの選択されたステップを、ハードウェアによって、または任意のオペレーティングシステム上のソフトウェアによって、または任意のファームウェアによって、またはこれらの組合せによって、実施することができる。例えば、ハードウェアとしては、本発明の選択されたステップを、チップまたは回路として実施することができる。ソフトウェアとしては、本発明の選択されたステップを、任意の適切なオペレーティングシステムを使用するコンピュータによって実行される複数のソフトウェア命令として実施することができる。いずれの場合も、本発明の方法およびシステムの選択されたステップは、データプロセッサ(複数の命令を実行するコンピューティングプラットフォームなど)によって実行されるものとして説明することができる。
【0042】
本明細書では、本発明について、添付の図面を参照しながら一例としてのみ説明してある。以下では特定の図面を詳細に参照するが、図示されている細部は一例であり、本発明の好ましい実施形態を実例を通じて説明することを目的としているにすぎず、本発明の原理および発想に関する最も有用かつ容易に理解される説明であると考えられるために提示したものであることを強調しておく。これに関して、本発明を基本的に理解するうえで必要である以上には、本発明の構造上の細部を示すことは避けたが、当業者には、図面を参照しながらの説明によって、本発明のいくつかの形態を実際に実施する方法が明らかになるであろう。
【図面の簡単な説明】
【0043】
【
図1】本発明のいくつかの実施形態に係る、環境から情報を取得するシステムの一実施形態を概略的に示している。
【
図2A】本発明のいくつかの実施形態に係る、歪んでいないパターンの表面投射を示している。
【
図2B】本発明のいくつかの実施形態に係る、
図2Aの歪んでいないパターンから生成された歪んだパターンの表面投射を示している。
【
図2C】本発明のいくつかの実施形態に係る、
図2Bの歪んだパターンの表面投射からの、本システムによって捕捉された補正されたパターンを示している。
【
図3A】格子パターンのさまざまな変形として、平坦な対象物表面における変形を概略的に示している。
【
図3B】格子パターンのさまざまな変形として、凸状の対象物表面における変形(「針刺し」パターンを形成する)を概略的に示している。
【
図3C】格子パターンのさまざまな変形として、凹状の対象物表面における変形(「バレル(barrel)」パターンを形成する)を概略的に示している。
【
図4】本発明のいくつかの実施形態に係る、環境から情報を取得する方法を概略的に示している流れ図である。
【
図5】本発明のいくつかの実施形態に係る、実際の格子線(黒い線)の上に投射された歪んだドットマトリクスパターン(白いドット)の画像である。
【
図6A】本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【
図6B】本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【発明を実施するための形態】
【0044】
本発明は、そのいくつかの実施形態においては、限定された環境から情報を取得するシステムおよび方法に関し、より具体的には、以下に限定されないが、環境に投射された歪んだ光パターンを使用することによって情報を取得することに関する。
【0045】
本発明の原理および動作は、図面および付随する説明を参照して、より深く理解することができる。
【0046】
本発明の少なくとも一実施形態について詳しく説明する前に、本発明は、その適用において、以下の説明に記載されている細部、または例のセクションに例示されている細部に制限されないことを理解されたい。本発明は、他の実施形態が可能である、あるいはさまざまな様式で実施または実行することができる。また、本明細書において採用されている表現および専門用語は、説明を目的としており、本発明を制限するようにはみなされないものとする。
【0047】
構造化光システムによって取得される情報量は、投射の深さおよび距離と、調べる対象物の大きさとによって制限される。したがって構造化光システムは、車室など限定された環境のシーンを、1つのパターンを使用して効率的にカバーすることができず、なぜならこのようなシステムによって投射されるパターンの画角は限られており、画像を歪ませる広視野の写真撮影術が要求されるためである。一般的な構造化光システムは、比較的小さい距離における小さな対象物、または大きい距離における大きな対象物を調べるのに有用であるが、比較的小さい距離(1メートル未満)における人間などの大きな対象物から情報を取得することは難しいことがある。構造化光システムのこのような制限は、複数の重なり合うパターンを使用して、または1つのパターンを使用してシーンをスキャンすることによって、克服することができるが、これらの方法はプロセッサに大きな負荷がかかり、実施するためのコストも高い。複数の重なり合うパターンから情報を導くことは、パターン間の「クロストーク」の理由でプロセッサの負荷が大きいタスクであり、(広視野の写真撮影術において見られるように)いくつかの重なり合う歪んだパターンからの情報を処理する必要がある。
【0048】
車室を完全にカバーするためには、1つのパターンが約3m×1.5mのエリアをカバーしなければならないことが判明した。しかしながら、投射器と車室の対象物(同乗者を含む)との間の一般的な距離は30~250cmであるため、対象物をカバーするのに必要な画角(160度)は、構造化パターンを歪ませることなく達成することはできない。
【0049】
歪んだ投射パターンを使用してシーンから情報を取得することができるが、このようなパターンを使用する場合、情報が失われる、あるいは誤った情報が取得される(例:対象物の不正確な形状、対象物を背景と区別できない)ことがある。
【0050】
1つのパターンを使用して、限定された環境(車室など)から情報を取得するという課題を解決するため、歪んだ光パターンを環境に投射し、次いで広角の光学系を使用して、環境の画像においてこの歪みを元に戻し、したがって補正された(歪んでいない)パターンを有する補正された画像を分析して情報を取得することができるシステム、を提案する。
【0051】
したがって、本発明の一態様によれば、環境から情報を取得するシステム、を提供する。
【0052】
本明細書で使用されるとき、語「環境」は、パターンをそこに投射することのできる表面を有する任意の開いた空間または閉じた空間を意味する。パターンが投射されて情報がそこから取得される表面は、本明細書においては「シーン」とも称する。環境の一例は、自動車、バス、列車、飛行機などの車両の車室・客室である。
【0053】
本明細書で使用されるとき、句「光パターン」は、複数の光ビームによって形成される任意の既知のパターンを意味する。パターンは、構造化されていなくてもよく、または構造化されていてもよい。格子、縞模様、ドットマトリクス、線、疑似ランダムパターンなどは、構造化されたパターンである。このようなパターンは、歪められるとその構造を失い、本明細書においては構造化されていないパターンと称する。パターンは、任意の一般的な形状、長方形、円形などとすることができる。
【0054】
本明細書で使用されるとき、語「歪み(ゆがみ)(distortion)」は、光学系を通じて投射された光パターンに対する、その光学系または光学装置の効果を意味し、パターンは直線投射(rectilinear projection)から逸脱する。直線投射では、元のパターンの直線は、投射されたパターンにおいてもまっすぐなままであり、歪んだパターンにおいては、これらの線が変化する。歪みは、光パターンの全体的な形状と、光パターンのパターン要素(例:縞、ドットなど)の形状および間隔を変化させうる。半径方向の歪みでは、変化は、レンズの対称性に起因して、半径方向に対称的またはほぼ対称的である。例えば、魚眼レンズは、ドットの正方形パターンを半径方向に歪ませ、パターン要素(ドット)間の間隔を大きくする。
【0055】
本明細書で使用されるとき、語「変形(deformation)」は、表面上に投射される光パターンの形状に対する、表面の効果を意味する。ある光パターンが表面に投射されるとき、その表面から戻る光パターンは、表面の形状および/または角度に応じて、元の光パターンとは異なる形状を有する。この変化は、光パターンの全体的な形状の変化と、パターン要素の形状および間隔の変化でありうる。
【0056】
限定された環境に適する広い画角を提供し、歪んだパターンの上述した制限を克服する目的で、以下の構成要素を有するシステムを提案する:
(i)それぞれが1つの(オプションとして平行または準平行にされた)ビームを生成することのできる1つまたは複数の(可視光または非可視光)光源
(ii)(1つまたは複数の)光ビームを構造化パターンに変換し、その構造化パターンを歪めて、構造化パターンが投射される角度より広い画角を有する歪んだパターンにする第1の光学系
(iii)環境から戻り、環境の少なくとも1つの表面によって変形された後の歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する第2の光学系(補正されたパターンは、構造化パターンと同じかまたは類似していてよい(例えば形状は同じであるが、パターン要素の大きさや間隔は異なる))、および
(iv)補正された画像を捕捉する撮像センサ。この画像は、環境内の(1つまたは複数の)表面の形状および角度に従って変形されたパターンを含む。次いで、変形されたパターンを分析して、環境および表面に関する情報を取得することができる。
【0057】
これらの構成要素は、1つのハウジング内に収容して、車室などの限定された環境に取付け可能なシステムを提供することができる。第1の光学系および第2の光学系それぞれは、1つまたは複数の光学部品および/または光学装置を含むことができる。
【0058】
撮像センサにマッピングされたパターンは、上記の構成要素と一緒に収容されている処理ユニット、または遠隔に(例:車両管理システムまたはクラウドに)設けられている処理ユニット、に伝えることができる。処理ユニットは、環境(例:車室)内に位置している対象物(例:車両乗員)に関連する深さ、輪郭、および動きの情報を提供する目的で、(深さに起因する)パターンの歪み/シフトに関連する情報を処理することができる。
【0059】
本発明において使用することのできる光源は、例えば、800nm~1000nmの波長を有するダイオードレーザである。光源によって投射されるビームは、例えば直径0.5~10ミリメートル(mm)の非球面レンズによって平行にする、または準平行にすることができる。ビームは、例えば幅2~5mmであり、例えば1~2.5mの距離に焦点を結ぶ。ビームは、回折光学素子(DOE)によって、それぞれ例えば0.7mW(830nmにおけるクラス1レーザ)のドットパターンに分割することができる。全出力(一般には約0.1~10ワット)は、各スポットの出力(クラス1レーザの出力限界)を合計することによって計算される。複数の光ビームを生成するため、複数の光源を使用することができる。これらの光ビームそれぞれを、構造化パターンの一部に変換することができる。例えば、4つの光源が4つの光ビームを生成することができ、各光ビームが、構造化パターンの1/4(例えば車両内の4つの座席それぞれに投射される)に変換される。
【0060】
DOEは、各次元において例えば10~1000ドットのドットマトリクスを生成するように構成されている。ドット間の隣接角は、X軸および/またはY軸において0.01~10度とすることができる。全画角は、(各軸において)10度~80度とすることができ、DOEのサイズは、1~10mm×1~10mmとすることができる。
【0061】
DOEによって生成されたパターンは、例えば、160~220度の視野角(FOV)および-30%~+15%の範囲内のF-θ歪みを有するアフォーカル魚眼レンズによって、歪めることができる。焦点レンズおよびアフォーカルレンズのいずれも、対象物の面からの光を集める。しかしながら、像平面上では、これらのレンズは互いに異なる。焦点レンズは、像平面上に光をフォーカスし、一方でアフォーカルレンズはフォーカスせず、したがって光をフォーカスさせる目的でアフォーカルレンズの後ろに別のレンズを配置するべきである。他の光学素子(例えば半径方向の歪みを特徴とする広角レンズ)が歪みを生成してもよい。
【0062】
第2の光学系は、例えば、サイズが例えば2~5mmの画像を生成することのできる類似する魚眼レンズを含むことができる。第2の光学系は、広い視野の構成要素を含まなくてもよく、第1の光学系によって形成されたパターンの歪みを補正する任意の別の光学部品を含むことができる。
【0063】
撮像センサは、例えば、1~10マイクロメートル(μm)のピクセルサイズおよび高精細(HD)解像度/フル高精細(FHD)解像度/ビデオグラフィックスアレイ(VGA)解像度を有する相補型金属酸化膜半導体(CMOS)センサ/電荷結合素子(CCD)センサとすることができる。
【0064】
処理ユニットは、撮像センサによって捕捉された補正された画像(環境内の(1つまたは複数の)表面によって変形されている補正されたパターンを含む)を分析するために適したアルゴリズムを実行する任意のプロセッサを含むことができ、環境に関する情報を抽出することができる。分析は、例えば、捕捉された画像のスポットを識別するステップと、基準(投射)位置からの各スポットのシフト(深さ)を測定するステップと、計算によって、またはシフト長をルックアップテーブルと比較することによって、または三角法公式によって、深さを再構築するステップと、スポットの深さを隣接するスポットと比較して深さの確実性を高めるステップと、を含むことができる。
【0065】
本システムは、深さ、輪郭、および動きの情報を取得することに加えて、表面の振動(例:微小振動)を識別および定量化することもできる。遠隔の対象物の表面の振動は、レーザドップラ振動計(LDV:Laser Doppler Vibrometer)を使用して、または表面に生成されるスペックルパターンを分析することによって、測定することができる。スペックルは、粗面から散乱する波面からの干渉によって形成される強度パターンによって特徴付けられる。スペックルを撮像することによってスペックルの詳細な画像が提供され、これらの画像により、スペックルの経時的な変動を追跡して、回転、並進、変形など表面の動きを抽出することができる。
【0066】
特許文献1には、目に安全な低出力の光放射(例:クラス1レーザ)および独自のスペックル分析アルゴリズムを利用して、任意の環境内の対象物または被検者の表面からリアルタイムで振動を検出するスペックル分析システムが開示されている。本システムは、投射されたパターンに対して表面によって形成されるスペックルを分析して、人またはペット(例えば車内に残された子供またはペット)の存在および動きを示す表面振動の情報を導く目的で、特許文献1に記載されているようなスペックル分析手法を組み込むことができる。
【0067】
次に図面を参照し、
図1は、本発明のいくつかの実施形態に係る、本システムの一実施形態(本明細書ではシステム10と称する)を示している。
図2Aは、本発明のいくつかの実施形態に係る、歪んでいないパターンの表面投射を示しており、
図2Bは、
図2Aの歪んでいないパターンから生成された歪んだパターンの表面投射を示しており、
図2Cは、
図2Bの歪んだパターンの表面投射からの、本システムによって捕捉された補正されたパターンを示している。
図3A、
図3B、
図3Cは、それぞれ、本発明のいくつかの実施形態に係る、パターンの形状に対してと、パターン要素の間隔および形状に対する、例示的な平坦な表面の変形効果、凸状の表面の変形効果(「針刺し(pincushion)」パターンを形成する)、凹状の表面の変形効果(「バレル」パターンを形成する)、を示している。
【0068】
図1に示したように、システム10は、平行ビーム16を生成するコリメートレンズ14を有する光源12を含む。光源12は、830ナノメートル(nm)(近赤外線:NIR)の波長および約3ワットの全出力を有するビームを生成するレーザダイオードを含むことができる。
【0069】
例えば、焦点距離3mm、直径2mmの非球面レンズによってビームを平行にして、幅2mmの平行ビームを形成することができる。
【0070】
システム10は、平行ビーム16を構造化光パターン22に変換する第1の光学部品20と、構造化光パターン22を歪めて、表面27(対象物面)に投射可能な歪んだ光パターン26にする第2の光学部品24とを含む光学装置18、をさらに含む。
【0071】
第1の光学部品20は、回折光学素子(DOE)28(位相変調/減衰変調を行うことのできる、または回折パターンを形成することのできる単一素子)であることが好ましい、またはマイクロレンズアレイである。
【0072】
DOE 28は、例えば61×61ドット(本明細書ではスポットとも称する)のドットマトリクスパターンを生成することができる。これに代えて、別のパターン(例えばランダムなドットおよび/または線)を生成してもよい。
【0073】
ドット間の隣接角は0.57度(x軸およびy軸)であり、全画角が34×34度である。パターンは、(平行ビーム16より大きい)3×3mmのエリアを有する長方形とすることができる。
【0074】
構造化光パターン22は、表面に投射されたとき、1メートル離れた距離では10mm間隔の61×61ドットを含む正方形形状のドットマトリクスを形成する(
図2Aを参照)。
【0075】
DOE 28は、平行ビーム16の経路に沿ってビーム源から1~2mm離れて位置している。DOE 28の位置および向きは、事前に設定して固定することができ、または可動台(電動化することができる)上にDOE 28を取り付けることによって、位置および向きを変えることができる。
【0076】
第2の光学部品24は、オプションとして、200度の視野角(FOV)を有するアフォーカル魚眼レンズ30である。歪んだ光パターン26の視野角(FOV)および画角は、構造化光パターン22の視野角(FOV)および画角より大きい。歪んだ光パターン26の(X軸および/またはY軸における)画角は、例えば、50~220度、20~50度、または160~200度とすることができる。
【0077】
魚眼レンズ30は、構造化光パターン22を形成しているビームの経路に沿って位置しており、したがってDOE 28は、アフォーカル魚眼レンズ30の開口面内に位置している。アフォーカル魚眼レンズ30の位置および向きは、事前に設定して固定することができ、または可動台(電動化することができる)上にアフォーカル魚眼レンズ30を取り付けることによって、位置および向きを変えることができる。
【0078】
歪んだ光パターン26を魚眼レンズ30によって半径方向に歪めて、
図2Bに示したようなドットマトリクスを形成することができる。別の形状を使用してもよい。
【0079】
環境から情報を取得する目的で、システム10は、歪んだ光パターン26を環境(シーン)内の表面上に投射し、戻った光を第2の光学装置40によって捕捉する。
【0080】
第2の光学装置40は魚眼レンズ42を含み、魚眼レンズ42は、表面から反射された光(歪んだ光パターン26に相当する)を捕捉し、歪んだ光パターン26を、構造化光パターン22に形状が似ているかまたは同じである(例えば倍率は異なるが半径方向の歪みが同じである)補正されたパターンに変換する。魚眼レンズ42は、200度のFOV、直径3.5mmのイメージサークル、および1.05mmの相当焦点距離(EFL)を有することができる。
【0081】
システム10の光学部品は、次のように配置することができる。第1のレンズおよび第2のレンズ(それぞれ30および42)は、同じ高さ(光学軸)に並んで位置させ、その間の距離(
図1ではバックボーンBと称する)は、例えば50mmまたは任意の別の距離に設定する。バックボーンは、三角法の基線を形成し、システムの全体的な深さ精度に影響する。
【0082】
歪んだパターンを処理して表面の情報を導くことができるが、本発明のシステム10によって行われるように、歪んだ光パターン26を、構造化光パターン22に形状が似ているかまたは同じである補正されたパターンに変換することによって、ドットの識別が大幅に容易になる(各ドットは特定の領域(格子)に配置されているべきである)。このことは、特に、日光および他の明るい物体が存在する(雑音の多い写真)ときにあてはまり、スポットが容易に識別されることでプロセスが大きく軽減される。これに加えて、深さマップの空間解像度が固定されているため、ドットを2D画像に記録する目的で補間が必要ない。
【0083】
システム10によって生成される、補正されたパターンを含む補正された画像は、例えば、ピクセルサイズ3.75μm、解像度1280×960、エリア内の有効領域4.8×3.6mmを有する撮像装置45(CCD/CMOS)上に投影される。
【0084】
次に
図4を参照し、
図4は、本発明のいくつかの実施形態に係る、環境から情報を取得する方法を概略的に示している流れ図である。
【0085】
最初に101に示したように、上述したように、少なくとも1つの光源によって、1つまたは複数の(オプションとして平行または準平行にされた)光ビームを生成する。例えば、4つのダイオードレーザによって生成されて非球面レンズによって平行にされた平行ビームである。
【0086】
次に102に示したように、上述したように、この光ビームを構造化パターンに変換し、この構造化パターンを歪めて、構造化パターンの投射角度より広い画角を有する歪んだパターンにする。例えば、平行ビームを光学素子によって回折させた後、アフォーカル魚眼レンズによって歪めて、歪んだドットマトリクスを形成する。
【0087】
次に103に示したように、上述したように、環境から戻り、環境の少なくとも1つの表面によって変形された後の歪んだ光パターンを含む元のビューを、補正されたパターンを含む補正された画像に変換する。例えば、表面上に投射された歪んだドットマトリクスパターンが、表面から戻る。このドットマトリクスおよび表面の画像が、投射に使用されたアフォーカルレンズに類似する特性を有する魚眼レンズを通る。
【0088】
次に104に示したように、上述したように、補正された画像を撮像センサによって捕捉する。例えば、画像をCMOSセンサによって捕捉する。
【0089】
次に
図5を参照し、
図5は、本発明のいくつかの実施形態に係る、実際の格子線の上に投射された歪んだドットマトリクスパターンの画像である。歪んだドットマトリクスパターン(白いドット)が、実際の(物理的な)格子(黒い線)を有する表面上に投射されている。ドットマトリクスパターンは、(回折によって生成されたドットマトリクスに形状およびサイズが類似する)補正されたパターンとして捕捉され、その一方で、格子は、画像の捕捉に使用される魚眼レンズによって歪む。
【0090】
次に
図6Aおよび
図6Bを参照し、
図6Aおよび
図6Bは、それぞれ、本発明のいくつかの実施形態に係る、ドットマトリクス以外に使用することのできる別のパターンとして、ランダムなドット、および線、を示している。
【0091】
表面から取得され、処理ユニット47によって処理されたドットマトリクスの各ドットに関して、時間の経過とともに位置および強度に関連する情報が集められる。このプロセスの出力は点群であり、さまざまな車内アプリケーションに情報を提供する目的で、この点群が処理ユニットによってさらに処理される。本システムは、点群および追加の情報層(後述する)からの情報を利用して、車両安全システムおよび快適性システムに指示情報(indication)を提供する。このような指示情報は、自動車の製造業者によって事前に定義され、一般にはコントローラエリアネットワーク(CANバス)プロトコルによって送信される。アクティブな安全システムは、その動作性能をリアルタイムで継続的に最適化する目的で、この指示情報を使用する。
【0092】
自動車の内部の点群は、さまざまな安全性アプリケーションおよび快適性アプリケーションを支援する豊富な情報を提供する。このような点群は、それ自体で、対象物および動きの検出に使用することができ、または、画像検出および微小動作検出などの追加のデータ層と組み合わせて使用して、システムの動作性能を高めることができる。1つのこのような用途は占有検出(occupancy detection)であり、乗員および物体を検出するために車両の各座席が監視される。座席が空いていないという指示情報が点群によって提供されると、システムは、物体と乗員を区別する目的で点群をさらに分析する。乗員が識別される場合、シートベルトが着用されていなければシートベルトリマインダを適用するように車両安全システムに指示情報が送られる。座席上に物体が見つかる場合、システムは、自動車の製造業者の要件に従ってその形状および大きさを推定し、その物体を記録する。例えば、前部助手席にチャイルドシートが認識される場合、車両安全システムに指示情報が送られ、その座席に対してはエアバッグが自動的にオフにされる。
【0093】
座席が占有されているものと分類された時点で、乗員の身長および体重を推定する目的で、点群が分析される。システムは、出力を統計表と比較して、乗員の体重を適切なパーセンタイルグループに分類する。この指示情報により、エアバッグ展開システムは、エアバッグ展開による乗員への危険性を最小限にする目的で、適切な出力でエアバッグを作動させる、またはエアバッグを無効にすることができる。乗員の身長および体重が分析され、身長/体重の区分は、エアバッグ展開制御のための追加の有用な情報を提供し、エアバッグ展開による傷害の可能性をさらに減らすことができる。
【0094】
乗員の姿勢は、点群の分析によって継続的に検出され、事前定義される着座位置リストに分類される。着座位置の指示情報は、乗員の安全性を改善するためのさまざまな方法で使用することができる。第一に、危険な着座位置が検出される場合、運転者および同乗者に警告を送ることができる。第二に、エアバッグを展開するのに乗員が危険な位置にあることが検出された場合、この指示情報を使用してエアバッグを無効にする、または(スマートエアバッグにおいて)姿勢に応じて一部を無効にすることができる。
【0095】
前部座席の位置は、エアバッグ展開およびシートベルトの制御のための追加のパラメータである。
【0096】
自動車を駐車すると、車室の占有状態が監視されて、乗員、幼児、およびペットの存在を確認する。安全システムは、占有の指示情報に従って対応する。例えば、駐車している自動車の中に幼児またはペットだけが見つかった場合、自動車のクラクションを作動させて通りがかりの人に知らせる、空調装置をオンにして熱中症の危険性を軽減する、および自動車の所有者に無線ネットワーク(例:携帯電話)を介してメッセージを送ることができる。これに加えて、警告メッセージ(ナビゲーションシステムから導かれる車両の位置を含む)を緊急センターに送ることができる。
【0097】
自動運転車は、運転の終了時に占有状態を考慮しなければならない。目的地に到着したときに運転者または同乗者が眠っている場合、または閉まった駐車場に駐車している場合、運転者/同乗者を起こす、または潜在的な危険性について緊急連絡先に警報を発するために無線ネットワークを介してメッセージを送る目的で、複数の措置を取ることができる。
【0098】
本システムは、運転者の監視に使用することもできる。運転者の状態に関する情報を点群から抽出して、例えば運転者がハンドルを握っているかを検出することができる。また、運転者が例えばスマートフォンに気を取られていないかを確かめるため、運転者の頭部および手の位置および方向を監視することもできる。エンジンを始動するとき、および運転者または同乗者が降りる前に自動車が完全に停止しているようにするため、運転者の位置を監視することができる。子供が車両を発進させることを阻止するため、運転者の身長を使用することもできる。
【0099】
本システムは、車室の占有状態に基づく適応型オーディオ最適化アプリケーションなどの快適性アプリケーションに情報を提供する目的に使用することもできる。オーディオの性能を最適化し、運転者および同乗者に対するアクティブノイズキャンセルを可能にする目的で、同乗者の頭部の位置を使用することができる。運転者および同乗者の認識を使用して、個人の間で区別し、それぞれが好むオーディオ設定のみならず、座席およびミラーの位置、および車室内の他の制御可能なシステムを、自動的にロードすることができる。
【0100】
本システムによって集められる車内情報を、統計分析に使用することもできる。第一に、システムによって提供される指示情報を、車室の画像および車室内のセンサからの他の指示情報と一緒に、サーバに無線で送ることができる。これらの情報を機械学習技術によって使用して、システムの動作性能をテストおよび改善することができる。これに加えて、画像が手動または自動的に分類されるならば、さまざまなシナリオを認識するように機械学習アルゴリズムを訓練することができる。配備されているセンサに、更新されたパラメータセットをソフトウェアアップデートと一緒に無線でアップロードして、システムの既存の機能を改良する、または新しい機能を提供することができる。
【0101】
本明細書において使用されている語「約」は、±10%を意味する。
【0102】
語「備える」、「備えている」、「含む」、「含んでいる」、「有する」、およびこれらの活用形は、「~を含み、ただしそれらに限定されない」を意味する。この語は、語「~からなる」および「本質的に~からなる」を包含する。
【0103】
「本質的に~からなる」という表現は、組成物または方法が、追加の成分および/または追加のステップを含んでもよく、ただし、それら追加の成分および/または追加のステップが、特許請求の範囲に記載されている組成物または方法の基本的かつ新規の特徴を実質的に変化させない場合に限られることを意味する。
【0104】
本明細書で使用されるとき、単数形(「a」、「an」、および「the」)は、文脈から明らかに複数形が除外されない限り、複数形も含む。例えば、語「化合物」または「少なくとも1種類の化合物」は、複数種類の化合物(それらの混合物を含む)を含むことができる。
【0105】
語「例示的な」は、本明細書においては、「例、一例、または説明としての役割を果たす」を意味する目的で使用されている。「例示的な」として説明されている実施形態は、必ずしも他の実施形態よりも好ましい、または有利であるとは解釈されないものとする、および/または、他の実施形態の特徴を組み込むことが排除されないものとする。
【0106】
語「オプションとして」は、本明細書においては、「いくつかの実施形態において設けられ、他の実施形態では設けられない」を意味する目的で使用されている。本発明のいずれの実施形態も、互いに矛盾しない限りは複数の「オプションの」特徴を含むことができる。
【0107】
本出願の全体を通じて、本発明のさまざまな実施形態は、範囲形式で提示されていることがある。範囲形式での記述は、便宜上および簡潔さのみを目的としており、本発明の範囲を固定的に制限するようには解釈されないことを理解されたい。したがって、範囲の記述には、具体的に開示されている可能な部分範囲すべてと、その範囲内の個々の数値とが含まれるものとみなされたい。例えば、1~6などの範囲の記述には、具体的に開示された部分範囲(例えば、1~3、1~4、1~5、2~4、2~6、3~6など)と、この範囲内の個々の数(例えば1、2、3、4、5、および6)とが含まれるものとみなされたい。このことは、範囲の広さにかかわらずあてはまる。
【0108】
本明細書中に数値範囲が示されているときには、示された範囲内の任意の該当する数値(分数または整数)が含まれるものとする。第1の指示数と第2の指示数「との間の範囲」、および、第1の指示数「から」第2の指示数「までの範囲」という表現は、本明細書においては互換的に使用され、第1の示された数および第2の示された数と、それらの間のすべての分数および整数を含むものとする。
【0109】
明確さを目的として個別の実施形態の文脈の中で説明されている本発明の特定の複数の特徴は、1つの実施形態の中に組み合わせて設けることもできることを理解されたい。逆に、簡潔さを目的として1つの実施形態の文脈の中で説明されている本発明のさまざまな特徴は、個別に設ける、または任意の適切な部分的な組合せとして設ける、または本発明の任意の他の説明されている実施形態において適切に設けることもできる。さまざまな実施形態の文脈の中で説明されている特定の特徴は、実施形態がそれらの要素なしでは動作・機能しない場合を除いて、それらの実施形態の本質的な特徴とはみなさないものとする。
【0110】
明確さを目的として個別の実施形態の文脈の中で説明されている本発明の特定の複数の特徴は、1つの実施形態の中に組み合わせて設けることもできることを理解されたい。逆に、簡潔さを目的として1つの実施形態の文脈の中で説明されている本発明のさまざまな特徴は、個別に設ける、または任意の適切な部分的な組合せとして設けることもできる。
【0111】
本発明についてその特定の実施形態に関連して説明してきたが、当業者には多数の代替形態、修正形態、および変形形態が明らかであろう。したがって、添付の請求項の趣旨および広義の範囲内に含まれるすべての代替形態、修正形態、および変形形態を包含するように意図されている。本明細書に記載されているすべての刊行物、特許、および特許出願は、これら個々の刊行物、特許、または特許出願それぞれが、参照によって本明細書に組み込まれることを明示的かつ個別に示されている場合と同じように、それぞれの全体が参照によって本明細書に組み込まれている。さらには、本出願において参考文献が引用または特定されていることは、そのような参考文献が本発明の従来技術として利用可能であることを認めるものとして解釈されない。