(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-04-17
(54)【発明の名称】拡張された視野を用いた画像キャプチャ
(51)【国際特許分類】
H04N 23/55 20230101AFI20240410BHJP
G01J 1/02 20060101ALI20240410BHJP
G01J 1/04 20060101ALI20240410BHJP
G02B 3/00 20060101ALI20240410BHJP
H04N 23/58 20230101ALI20240410BHJP
H04N 23/698 20230101ALI20240410BHJP
【FI】
H04N23/55
G01J1/02 Q
G01J1/04 A
G02B3/00 Z
H04N23/58
H04N23/698
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023557774
(86)(22)【出願日】2022-01-27
(85)【翻訳文提出日】2023-09-20
(86)【国際出願番号】 US2022070383
(87)【国際公開番号】W WO2022204625
(87)【国際公開日】2022-09-29
(32)【優先日】2021-03-24
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】507364838
【氏名又は名称】クアルコム,インコーポレイテッド
(74)【代理人】
【識別番号】100108453
【氏名又は名称】村山 靖彦
(74)【代理人】
【識別番号】100163522
【氏名又は名称】黒田 晋平
(72)【発明者】
【氏名】エドウィン・チョンウー・パク
(72)【発明者】
【氏名】ラッセル・グルールケ
【テーマコード(参考)】
2G065
5C122
【Fターム(参考)】
2G065BA05
2G065BA09
2G065BA34
2G065BB15
2G065BC33
2G065BC35
5C122FA02
5C122FB02
5C122FB03
5C122FB17
5C122FF13
5C122HB01
(57)【要約】
画像キャプチャ装置のための方法、システム、コンピュータ可読媒体、および装置が提示される。本開示の一態様による装置は、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を備える。装置は、複数の光学素子に結合された1つまたは複数の支持構造をさらに備える。この態様によれば、1つまたは複数の支持構造は、複数の光学素子の各々を画像センサーに対して相対位置に支持するように構成される。この態様によれば、複数の光学素子の各々は、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るように構成される。
【特許請求の範囲】
【請求項1】
画像キャプチャのための装置であって、
環境からの光を画像センサーに向けて送るように構成された複数の光学素子と、
前記複数の光学素子に結合された1つまたは複数の支持構造であって、前記複数の光学素子の各々を前記画像センサーに対する相対位置に支持するように構成される、1つまたは複数の支持構造とを備え、
前記複数の光学素子の各々は、それぞれに異なる視野に基づく前記環境からの光を受光として受け取り、前記受光を前記画像センサーに向けて送るように構成される装置。
【請求項2】
前記複数の光学素子は、互いに対して横方向に隣接する位置に配置される、請求項1に記載の装置。
【請求項3】
前記1つまたは複数の支持構造は、3次元透明構造を備える、請求項1に記載の装置。
【請求項4】
前記3次元透明構造は、複数のファセットを有する外面を備え、前記複数のファセットの各々は、前記複数の光学素子のうちの1つを前記画像センサーに対する固定位置に支持するように構成される、請求項3に記載の装置。
【請求項5】
前記3次元透明構造は、光路を光学素子と前記画像センサーとの間で分離するための1つまたは複数の分割器を備える、請求項3に記載の装置。
【請求項6】
前記3次元透明構造は、ガラス材料を含む、請求項3に記載の装置。
【請求項7】
前記3次元透明構造は、ポリマー材料を含む、請求項3に記載の装置。
【請求項8】
前記ポリマー材料は、ポリカーボネート材料を含む、請求項7に記載の装置。
【請求項9】
前記複数の光学素子は、互いに対する非隣接位置に配置される、請求項1に記載の装置。
【請求項10】
複数の光ガイドをさらに備え、前記複数の光ガイドの各々は、前記複数の光学素子のうちの1つによって受け取られた光を前記画像センサーに向けて誘導するように構成される、請求項1に記載の装置。
【請求項11】
前記複数の光学素子の各々は、回折光学素子を備える、請求項1に記載の装置。
【請求項12】
前記回折光学素子は、回折格子フィルムを備える、請求項11に記載の装置。
【請求項13】
前記複数の光学素子の各々は、回折レンズを備える、請求項1に記載の装置。
【請求項14】
前記複数の光学素子は、一様なサイズを有する、請求項1に記載の装置。
【請求項15】
前記複数の光学素子は、それぞれに異なるサイズを有する、請求項1に記載の装置。
【請求項16】
前記複数の光学素子のうちの第1の光学素子は、第1のサイズを有し、前記画像センサーの中心軸に対する第1の位置に位置し、前記複数の光学素子のうちの第2の光学素子は、第2のサイズを有し、前記画像の前記中心軸に対する前記第1の位置よりも遠い第2の位置に位置し、前記第1のサイズは、前記第2のサイズよりも小さい、請求項15に記載の装置。
【請求項17】
前記複数の光学素子のうちの第1の光学素子は、第1のサイズを有し、前記画像センサーの中心軸に対する第1の位置に位置し、前記複数の光学素子のうちの第2の光学素子は、第2のサイズを有し、前記画像の前記中心軸に対する前記第1の位置よりも遠い第2の位置に位置し、前記第1のサイズは、前記第2のサイズよりも大きい、請求項15に記載の装置。
【請求項18】
前記複数の光学素子に結合された複数のシャッターをさらに備え、前記複数のシャッターの各々は、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能であり、前記シャッターは、前記開位置では、対応する光学素子からの光が前記画像センサーに到達するのを可能にするように構成され、前記閉位置では、前記対応する光学素子からの光が前記画像センサーに到達するのを妨げるように構成される、請求項1に記載の装置。
【請求項19】
前記複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)前記開位置および(2)前記閉位置で動作可能な液晶を有する液晶要素を備える、請求項18に記載の装置。
【請求項20】
前記複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)前記開位置および(2)前記閉位置で動作可能な微小電子機械システム(MEMS)構造を備える、請求項18に記載の装置。
【請求項21】
前記複数のシャッターに制御信号を提供して、前記複数のシャッターのそれぞれに異なるシャッターをそれぞれに異なる時間に開くように順次選択する制御回路をさらに備え、前記複数のシャッターのうちの選択されたシャッターが前記開位置に配置され、一方、前記複数のシャッターのうちの残りのシャッターが、前記閉位置に配置される、請求項18に記載の装置。
【請求項22】
前記制御信号は切替えパターンを繰り返し、前記切替えパターンに従って、前記複数のシャッターの全てが一度選択されて前記開位置に配置される一方、前記複数のシャッターのうちの残りのシャッターが前記閉位置に配置される、請求項21に記載の装置。
【請求項23】
画像キャプチャを補助するための方法であって、
環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するステップと、
前記複数の光学素子に結合された1つまたは複数の支持構造を提供するステップであって、前記1つまたは複数の支持構造が、前記複数の光学素子の各々を前記画像センサーに対する相対位置で支持するように構成される、ステップと、
前記複数の光学素子の各々において、それぞれに異なる視野に基づく前記環境からの光を受光として受け取り、前記受光を前記画像センサーに向けて送るステップとを含む方法。
【請求項24】
前記1つまたは複数の支持構造は、3次元透明構造を備える、請求項23に記載の方法。
【請求項25】
前記3次元透明構造は、複数のファセットを有する外面を備え、前記複数のファセットの各々は、前記複数の光学素子のうちの1つを前記画像センサーに対する固定位置に支持するように構成される、請求項24に記載の方法。
【請求項26】
前記複数の光学素子の各々は、回折光学素子を備える、請求項23に記載の方法。
【請求項27】
前記複数の光学素子に結合された複数のシャッターを提供するステップをさらに含み、前記複数のシャッターの各々は、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能であり、前記シャッターは、前記開位置では、対応する光学素子からの光が前記画像センサーに到達するのを可能にするように構成され、前記閉位置では、前記対応する光学素子からの光が前記画像センサーに到達するのを妨げるように構成される、請求項23に記載の方法。
【請求項28】
前記複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)前記開位置および(2)前記閉位置で動作可能な液晶を有する液晶要素を備える、請求項27に記載の方法。
【請求項29】
画像キャプチャを補助するためのシステムであって、
環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するための手段と、
前記複数の光学素子に結合された1つまたは複数の支持構造を提供するための手段であって、前記1つまたは複数の支持構造が、前記複数の光学素子の各々を前記画像センサーに対する相対位置に支持するように構成される手段と、
前記複数の光学素子の各々において、それぞれに異なる視野に基づく前記環境からの光を受光として受け取り、前記受光を前記画像センサーに向けて送るための手段とを備えるシステム。
【請求項30】
1つまたは複数の処理ユニットによって実行される命令を記憶する非一時的コンピュータ可読記憶媒体であって、前記記憶された命令が、
環境からの光を画像センサーに向けて送るように構成された複数の光学素子からの光に基づく複数の画像をキャプチャするための命令を含み、
前記複数の光学素子の各々において受け取られる光は、それぞれに異なる視野に基づく前記環境からの光であり、前記光学素子によって前記画像センサーに向けて送られ、
1つまたは複数の支持構造は、前記複数の光学素子に結合され、前記複数の光学素子の各々を前記画像センサーに対する相対位置に支持するように構成される、非一時的コンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
開示の態様は、概して画像キャプチャに関する。より詳細には、後述の態様は、拡張された視野から画像をキャプチャすることに関する。
【背景技術】
【0002】
画像ベースの処理は、多様性、精巧化、およびアプリケーションの多様性においてますます成長している。機械学習(ML)および人工知能(AI)の向上によって、日常の問題の解決策としてキャプチャされた画像の利用が加速している。そのようなシステムの性能は、キャプチャされた画像の固有の品質に依存することがある。画像キャプチャのためのコスト効果的なハードウェアを広く使用することができるが、画像ベースの解決策の機能を限定する固有の制限がある場合がある。一方、高価で特殊なハードウェアは、特定のアプリケーションにしか有用ではない場合があり、コストまたは過度の重量もしくは寸法などの物理的特性に起因して多くの他のアプリケーションには適さない場合がある。コスト効果的な画像キャプチャハードウェアの機能が向上すれば、画像ベースのアプリケーションの可能性を大幅に拡張することができる。
【発明の概要】
【課題を解決するための手段】
【0003】
以下に、本開示の1つまたは複数の態様の概要を提示する。この概要は、すべての特徴の広範な説明ではなく、本開示のすべての態様の主要または重要な要素を識別するものでもない。その代わり、この概要は、以後の節において提示されるより詳細な説明の前置きとして1つまたは複数の概念におけるいくつかの概念を示すものである。
【0004】
本開示の一態様による画像キャプチャのための装置を提示する。装置は、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を備える。装置は、複数の光学素子に結合された1つまたは複数の支持構造をさらに備える。この態様によれば、1つまたは複数の支持構造は、複数の光学素子の各々を画像センサーに対して相対位置に支持するように構成される。この態様によれば、複数の光学素子の各々は、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るように構成される。
【0005】
本開示の一態様による画像キャプチャを助けるための装置を提示する。方法は、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するステップを含む。方法は、複数の光学素子に結合された1つまたは複数の支持構造を提供するステップであって、1つまたは複数の支持構造が、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される、ステップをさらに含む。方法は、複数の光学素子の各々において、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るステップをさらに含む。
【0006】
本開示の一態様による画像キャプチャを助けるためのシステムを提示する。システムは、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するための手段を備える。システムは、複数の光学素子に結合された1つまたは複数の支持構造を提供するための手段であって、1つまたは複数の支持構造が、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される手段をさらに備える。システムは、複数の光学素子の各々において、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るための手段をさらに備える。
【0007】
本開示の一態様による、1つまたは複数の処理ユニットによって実行される命令を記憶する非一時的コンピュータ可読メモリを提示する。記憶された命令は、環境からの光を画像センサーに向けて送るように構成された複数の光学素子からの光に基づいて複数の画像をキャプチャするための命令を含む。本開示のこの態様によれば、光は、それぞれに異なる視野に基づいて環境から複数の光学素子の各々において受け取られ、光学素子によって画像センサーに向けて送られる。この態様によれば、1つまたは複数の支持構造は、複数の光学素子に結合され、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される。
【0008】
本開示の態様が例として図示される。添付図の中で、同様の参照番号は類似の要素を示す。
【図面の簡単な説明】
【0009】
【
図1】本開示の態様が利用される場合がある環境の簡略図である。
【
図2】本開示の一実施形態による、拡張された視野をキャプチャすることのできる画像キャプチャ装置のさらなる詳細を示す図である。
【
図3】本開示の実施形態による、異なる光学素子から共通の画像センサー上への光投射の収束を示す画像キャプチャ装置の断面図である。
【
図4】本開示の実施形態による、光を制御可能に遮断するために使用される複数のシャッターを示す画像キャプチャ装置の断面図である。
【
図5】本開示の実施形態による、光学素子として使用される複数の屈折レンズを示す画像キャプチャ装置の断面図である。
【
図6】本開示の実施形態による、複数の回折光学素子を示す画像キャプチャ装置の断面図である。
【
図7】本開示の一実施形態による、光ガイドを利用して複数の光学素子で受け取られた光を画像センサーに送る画像キャプチャ装置を示す図である。
【
図8】本開示の一実施形態による、複数のシャッターを制御するための信号を提供するための制御回路800を示す回路図である。
【
図9】本開示の一態様による、画像キャプチャのためのプロセスの特徴を示すフローチャートである。
【
図10】本開示の一態様による、車両の様々なハードウェア構成要素およびソフトウェア構成要素のブロック図である。
【発明を実施するための形態】
【0010】
ここで、本明細書の一部を形成する添付図面に関して、いくつかの例示的な実施形態が説明される。本開示の1つまたは複数の態様が実装されてもよい特定の実施形態が以下で説明されるが、他の実施形態が使用されてもよく、本開示の範囲または添付の特許請求の範囲の趣旨から逸脱することなく、様々な変更が加えられてもよい。
【0011】
図1は、本開示の態様が利用される場合がある環境100の簡略図である。この例では、環境100が小売環境として示されており、小売環境では、商品が顧客に提示され、販売される。拡張された視野をキャプチャすることができる画像キャプチャ装置102の一例が示されている。顧客が調べられるように商品を表示するための棚104、106、108、および110が配置されている。製品112が、棚104、106、108、および110上の指定された空間に配置されている。画像キャプチャ装置102は、買い物客が製品を取り出して購入する際に製品112および棚104、106、108、および110の画像をキャプチャする。コンピュータシステムは、キャプチャされた画像を処理して分析し、たとえば、ある棚の上の特定の製品が枯渇しており、補充する必要がある程度を判定してもよい。システムは、たとえば、ML/AIベースの手法を使用して、製品および/または特定の製品の在庫レベルを認識してもよい。
【0012】
いくつかの実施形態によれば、画像キャプチャ装置102は、広い横方向視野を含む拡張された視野から画像をキャプチャすることができる。そのような広い横方向視野は、たとえば、長く延びた棚をカバーしてもよい。概して、小売ショッピングの文脈では、棚は、限定された奥行および広い横方向寸法を有して顧客に対する商品のディスプレイを最大にするように設計される。たとえば、棚104は、図では、図を単純にするために製品の3つの容器のみを表示しているが、実際の棚は、製品の数十個または場合によっては、数百個の容器を表示し、棚を顧客の視点からかなり広く見えるようにしてもよい。同じレベルで棚104および106などの複数の棚があってもよい。画像キャプチャ装置102の拡張された視野は、その広い横方向視野を考えると、広い棚の広がり全体および同じレベルの複数の棚をカバーしてもよい。
【0013】
いくつかの実施形態によれば、画像キャプチャ装置102は、大きい垂直視野を含む拡張された視野から画像をキャプチャすることができる。そのような大きい視野は、たとえば、複数レベルの棚をカバーしてもよい。図には、例示のために、棚104および106を含む第1のレベルならびに棚108および110を含む第2のレベルを含む2レベルの棚が示されている。ここでは棚の2つのレベルのみが示されているが、小売文脈ではよりレベルの多い棚が存在してもよい。画像キャプチャ装置102の拡張された視野は、その大きい垂直視野を考えると、複数レベルの棚をカバーしてもよい。
【0014】
この特定の例では小売環境100が示されているが、本開示の態様は、小売環境100に限定されず、広範囲の環境において適用することができる。別の例として、たとえば、注文の自動化および在庫レベルの補充を助けるために、(たとえば、パレット上および/またはベイ内の使用によって)商品の在庫が、キャプチャされた画像を使用することによって監視される場合がある倉庫環境。さらに別の例は、植物相および動物相が、たとえば、集団の成長および縮小、植物および/または動物の挙動、群れの移動などの変化を観測するために、キャプチャされた画像を使用することによって監視される場合がある荒野環境であってもよい。画像キャプチャ装置102の拡張された視野は、広い横方向視野および/または大きい垂直視野を含む、環境のより大きい部分から画像をキャプチャする機能を提供する。
【0015】
図2は、本開示の一実施形態による、拡張された視野をキャプチャすることのできる画像キャプチャ装置200のさらなる詳細を示す。画像キャプチャ装置200は、
図1に示す画像キャプチャ装置102の一例であってもよい。ここで、画像キャプチャ装置200は、画像センサー202と複数の光学素子204とを備える。画像センサー202は、光の光子を電気信号または他のタイプの信号に変換するように構成された光検出器(たとえば、フォトダイオード)のアレイを備えてもよい。各光検出器は、キャプチャされた画像のピクセルに対応してもよい。画像センサー202は、白黒画像および/またはカラー画像をキャプチャしてもよい。画像センサー202は、色分け素子、スペクトル帯域に基づくそのようなフィルタ、およびベイヤーパターンなどの繰り返される色ベースのパターンに配置された光検出器を使用することによってカラー画像をキャプチャしてもよい。
【0016】
光学素子204は、それぞれに異なる視野からの光を画像センサー202に向けて送る。光学素子204の各々は、異なる外方向に配置され、その光学素子に固有の視野からの光を受け取ってもよい。各光学素子204は、そのそれぞれの視野から受け取られた光を送り、受光を画像センサー202に向けて送る。それぞれに異なる光学素子204に対応する視野は異なってもよいが、これらの視野は、少なくともいくつかの実施形態では、ある程度重なってもよい。ここで、光学素子は、広く光を所望の様式で送る構造または構造の集合を指す。いくつかの実施形態では、光学素子は、1つまたは複数のファセット、レンズ、格子、反射体、他の光学的構造、またはそれらの組合せを備えてもよい。いくつかの実施形態では、複数の光学素子は、モノリシック構造の一部として形成されてもよい。たとえば、複数の光学素子は、共通の構造(たとえば、支持構造)として鋳造、機械加工、またはそれ以外の方法で形成された屈折形状または回折格子であってもよい。したがって、モノリシック構造は、別個の構成要素の形成および組立てを必要とせずに複数の光学素子を備えてもよい。また、各光学素子は、複数のファセット、レンズ、格子、反射体、および/または光学特性を有する他の構造を備えてもよい。
【0017】
様々な実施形態では、各視野からの光は、画像センサー202の全検知表面よりも大きいか、全検知表面に等しいか、または全検知表面よりも小さい領域上に投射される。いくつかの実施形態では、各光学素子204からの光の投射領域は、画像センサー202の総検知表面よりも広いか、または総検知表面と同じであるか、または総検知表面よりも狭い領域をカバーする。たとえば、1つの光学素子204からの光の投射領域が画像センサー202の総検知表面よりもわずかに大きい場合、他の光学素子204からの光の投射領域はまた、画像センサー202の総検知領域よりもわずかに大きくてもよい。そのような設計は、画像センサー202によってキャプチャされる画像中のすべてのピクセルが確実に、環境に由来する投射光を表し、対応する光学素子204からの投射光を受け取らない、画像センサー202の検知表面の領域に関連付けられた暗いピクセルを回避するようにしてもよい。画像キャプチャ装置200は、必ずしも投射光の各経路に同じ光学的品質を適用しない。たとえば、投射光のそれぞれに異なる経路をそれぞれに異なる視野、それぞれに異なる光学ひずみの量、それぞれに異なるキャプチャされる光の量などに関連付けることができる。複数の光学素子204は、それぞれに異なるサイズ、形状、および/または構成を有してもよい。
【0018】
図示の実施形態では、画像キャプチャ装置200はまた、支持構造206を備える。支持構造206は、光学素子204の各々を支持し、各光学素子204を画像センサー202に対する相対位置に固定して保持してもよい。ここで、支持構造206は、複数のファセット208を備える外面を有する。いくつかの実施形態では、支持構造206は、3次元透明構造を備える。たとえば、3次元透明構造は、ガラス材料またはポリマー材料を含んでもよい。そのようなポリマー材料の例には、ポリカーボネート材料が含まれるが、これに限定はされない。3次元透明構造の形状は、1つもしくは複数の型を使用して形成されるかまたはフライス加工、研磨、もしくはその他の機械的プロセスを使用して実現されてもよい。3次元透明構造は、実際的な製造可能性を達成するうえで有用であり、画像センサー202に対する所望の位置に光学素子204を取り付けるための固体支持体を提供する。
【0019】
たとえば、3次元透明構造の外面は、(1)画像センサー202に結合するためのファセットと、(2)複数の光学素子204に結合するための複数の追加のファセットとを備えてもよい。各ファセットは、他のファセットの位置に対して指定された並進位置および回転位置(たとえば、x、y、およびz軸に沿った並進変位の3つの成分、ならびにx、y、およびz軸の周りの回転変位の3つの成分を含む、6自由度)に形成されてもよい。3次元透明構造の製造中に様々なファセットの位置および角度を制御することによって、画像センサー202に対する各光学素子204の相対位置を事前に決定し固定することができる。次いで、光学素子204および画像センサー202は、ファセットを使用して単純に3次元透明構造に機械的に結合することができる。これによって、構成要素の好都合な組立てが容易になり、一方、構成要素の互いに対する所望の位置が確保される。
【0020】
図3は、本開示の実施形態による、異なる光学素子から共通の画像センサー上への光投射の収束を示す画像キャプチャ装置300の断面図である。画像キャプチャ装置300は、
図1に示す画像キャプチャ装置102の一例であってもよい。図示のように、画像キャプチャ装置300は、支持構造302を備える。支持構造302は、複数のファセット304、306、308、310、および312を有する3次元透明構造であってもよい。図示を単純にするために、ファセット304、306、308、310、および312の各々に配置された光学素子は、この図には明示的に示されていない。そのような光学素子の例は、本開示の以後の節により詳細に記載されている。ある範囲の水平角度に沿って5つのファセット304、306、308、310、および312のみが示されているが、支持構造302は、追加のファセット(図示せず)、たとえば、1つまたは複数の異なる垂直角度に沿ったファセットを包含してもよい。
【0021】
光学素子は、環境のそれぞれに異なる視野から受け取られた光を画像センサー314に送る。たとえば、特定の視野に対応する受光光線316のビームは、ファセット308に対応する光学素子によって受け取られてもよい。受光光線316はそれぞれに異なる形状をとってもよい。一例として、受光光線316は、円形または楕円形の断面を有する円錐の形状をとってもよい。別の例として、受光光線316は、矩形形の断面を有する、六面体の形状をとってもよい。ファセット308に対応する光学素子は、受光光線を投射光318として画像センサー314に向けて送ってもよい。他のファセット304、306、310、および312の各々に対応する光学素子は、環境の他の視野からの光を受け取り、そのそれぞれの光線を同じ画像センサー314に向けて投射してもよい。これらの同じ投射光は、投射光320、322、324、および326として示されている。
【0022】
図示を容易にするために、投射光318、320、322、324、および326などの各投射光は、図では幅の狭い矢印として示されている。しかし、各投射光が、画像センサー314の検知領域を実質的にカバーする(いくつかの実施形態では、検知領域の境界を越える)のに十分な大きさを有する断面積を実現する場合があることを理解されたい。たとえば、投射光318の断面積は、投射光318が画像センサー314に近づくにつれて大きくなってもよい。投射光318が画像センサー314に達するまでに、投射光318の断面積は、画像センサー314の総検知表面316を実質的にカバーしてもよい(または総検知表面316を完全にカバーするかもしくは総検知表面316よりも大きくてもよい)。同様に、他の投射光320、322、324、および326の各々はまた、画像センサー314の総検知表面316に到達して総検知表面316を実質的にカバーしてもよい(または総検知表面316を完全にカバーするかもしくは総検知表面316よりも大きくてもよい)。このようにして、画像キャプチャ装置300は、環境のそれぞれに異なる視野から受け取られた投射光を送り、画像センサー314上に重ね合わせるように構成されてもよい。
【0023】
図4は、本開示の実施形態による、光を制御可能に遮断するために使用される複数のシャッターを示す画像キャプチャ装置400の断面図である。画像キャプチャ装置400は、
図1に示す画像キャプチャ装置102の一例であってもよい。図示のように、画像キャプチャ装置400は、シャッター402、404、406、408、および410を含む複数のシャッターをさらに備える。シャッター402、404、406、408、および410の各々は、複数のファセット412、414、416、418、および420のうちの対応するファセットに直接的または間接的に固定されている。前に説明したように、複数のファセットは、支持構造422の一部であってもよい。支持構造422は、たとえば、3次元透明構造であってもよい。
【0024】
複数のシャッター402、404、406、408、および410の各々は、それぞれに異なる時間に(1)開位置および(2)閉位置に配置されるように独立に動作可能であってもよい。シャッターは、開位置では、対応する光学素子からの光が画像センサー424に到達するのを可能にするように構成され、閉位置では、対応する光学素子からの光が画像センサー424に到達するのを妨げるように構成される。図示を単純にするために、ファセット412、414、416、418、および420の各々に配置された光学素子は、この図には明示的に示されていない。そのような光学素子の例は、本開示の以後の節により詳細に記載されている。
【0025】
制御信号を使用して、複数のシャッター402、404、406、408、および410のうちでそれぞれに異なる時間に開くそれぞれに異なるシャッターを順次選択してもよい。本開示の実施形態によれば、任意の所与の時間に、複数のシャッターのうちの選択されたシャッターが開位置に配置されてもよく、一方、複数のシャッターのうちの残りのシャッターが閉位置に配置されてもよい。たとえば、図に示す時間に、シャッター408は、「開」位置になり、一方、他のシャッター402、404、406、および410は、「閉」位置になる。シャッター408が開位置にある場合、たとえば、特定の視野に対応する受光光線426は、ファセット408に対応する光学素子(図示せず)によって受け取られてもよい。光学素子は、受光光線を投射光428として画像センサー424に向けて送ってもよい。同時に、他のシャッター402、404、406、および410が閉位置にある場合、他の視野に対応する他の潜在的な受光の光線が遮断されてもよい。このようにして、複数のシャッター402、404、406、408、および410は、画像センサー424上に投射される環境のそれぞれに異なる視野から受け取られたそれぞれに異なる光線を選択的に選択するように制御されてもよい。ここで、「閉」位置は、光が特定の経路から遮断されるようになっている状態を指す。いくつかの実装形態では、遮断要素における隙間、ささいなずれなどに起因して光の遮断は完全ではない。したがって、「閉」位置でも、漏れ光が存在することがある。
【0026】
画像キャプチャ装置400は、複数の異なる個々の視野を含む拡張された視野を実現し、一方、単一の画像センサーを利用して画像コンテンツをキャプチャする。これは、シャッター402、404、406、408、および410などの複数のシャッターを操作して、それぞれに異なる視野からの受光の重ね合わせられた投射光を選択的に遮断するかまたは受け入れることによって実現される。得られるキャプチャ画像は、それぞれに異なる視野に対応し、多数のアプリケーションにおいて一緒に処理されてもよく、または別々に処理されてもよい。
【0027】
複数のシャッター402、404、406、408、および410は、それぞれに異なるタイプの技術を使用して実装されてもよい。いくつかの実施形態では、各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能な液晶を有する液晶要素を備える。制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能な微小電子機械システム(MEMS)構造。
【0028】
図5は、本開示の実施形態による、光学素子として使用される複数の屈折レンズを示す画像キャプチャ装置500の断面図である。画像キャプチャ装置500は、
図1に示す画像キャプチャ装置102の一例であってもよい。図示のように、画像キャプチャ装置500は、屈折レンズ502、504、506、508、および510として実装された複数の光学素子をさらに備える。屈折レンズ502、504、506、508、および510の各々は、複数のファセット512、514、516、518、および520のうちの対応するファセットに直接的または間接的に固定されてもよい。前に説明したように、複数のファセットは、支持構造522の一部であってもよい。支持構造522は、たとえば、3次元透明構造であってもよい。光学素子は、それぞれに異なる視野からの受光を画像センサー524上に投射するように構成されてもよい。
【0029】
この図には屈折レンズが示されているが、他のタイプの光学要素が組み込まれてもよい。たとえば、反射要素は、明示的に示されていないが、視野を画像センサーに向けて送る光路に沿って組み込まれてもよい。反射要素は、光路を誘導し、ならびに/または区別するように回転可能であり、ならびに/または他の方法で移動可能であってもよい。屈折、回折、および/または反射要素の組合せを任意の所与の光路に沿って使用して、環境の視野をセンサーに向けて誘導してもよい。
【0030】
屈折レンズ502、504、506、508、および510は、ガラス材料、ポリカーボネートなどのポリマー材料を含む光屈折に適した材料を含んでもよい。いくつかの実施形態によれば、屈折レンズ502、504、506、508、および510は、支持構造522を構成する材料の屈折率と異なる屈折率を有する材料から作られる。いくつかの実施形態では、屈折レンズ502、504、506、508、および510は、支持構造522の外面の真下に配置されてもよい。たとえば、屈折レンズ502、504、506、508、および510の各々は、ファセット512、514、516、518、および520の対応するファセットの下に配置されてもよく、ファセットは、支持構造522の外面の対応する部分を構成してもよい。他の実施形態では、屈折レンズ502、504、506、508、および510は、支持構造522から突き出してもよい。そのような実施形態では、屈折レンズ502、504、506、508、および510は、ファセットの一部および支持構造522の外面を形成してもよい。
【0031】
複数の屈折レンズ502、504、506、508、および510に対応する複数のシャッターは、画像キャプチャ装置500に実装されてもよい。図示を容易にするために、そのようなシャッターは、この図には明示的に示されていない。しかし、そのようなシャッターが存在してもよいことを理解されたい。いくつかの実施形態では、各シャッターは、対応する光学素子(すなわち、屈折レンズ)の上方に配置され、環境の視野から受け取られた光を、光学素子に到達する前に、制御可能に遮断する。いくつかの実施形態では、各シャッターは、対応する光学素子(すなわち、屈折レンズ)の下方に配置され、環境の視野から受け取られた光を、光学素子を通過してから画像センサー524上に投射されるまでの間、制御可能に遮断する。
【0032】
いくつかの実施形態によれば、支持構造522は、光路を光学素子と画像センサー524との間で分離するための1つまたは複数の分割器を組み込んでもよい。隣接する光学素子および/またはシャッター間の隙間が、近傍の構成要素の当接が不完全であることの結果として形成されることがある。一例として、互いに隣接する屈折レンズ508および510(および/または屈折レンズ508および510に対応するシャッター)間に形成される隙間526がある。そのような隙間は、光漏れを生じさせることがあり、光漏れは、キャプチャされた画像の品質に影響を与える。たとえば、屈折レンズ506は、屈折レンズ506に対応するシャッターを開き、他の屈折レンズ502、504、508、および510に対応するシャッターを閉じることによって、環境の特定の視野からの光を透過させるために選択されてもよい。このとき、理想的には、屈折レンズ506によって受け取られる光以外の光は画像センサー524上に投射されない。しかし、他の屈折レンズ502、504、508、および510(および/またはそれに対応するシャッター)間の隙間は、同じく画像センサー524上に投射することができる漏れ光を導入することがあり、キャプチャされたイメージの品質を劣化させる。いくつかの実施形態によれば、支持構造522は、投射光の経路を各光学素子と画像センサー524との間で分離する1つまたは複数の分割器を組み込んでもよい。そのような分割器は、隙間526などの隙間を通して支持構造522に導入される迷光を遮断してもよい。
【0033】
図6は、本開示の実施形態による、複数の回折光学素子を示す画像キャプチャ装置600の断面図である。画像キャプチャ装置600は、
図1に示す画像キャプチャ装置102の一例であってもよい。図示のように、画像キャプチャ装置600は、回折光学素子602、604、606、608、および610として実装された複数の光学素子をさらに備える。回折光学素子602、604、606、608、および610の各々は、複数のファセット612、614、616、618、および620のうちの対応するファセットに直接的または間接的に固定されてもよい。前に説明したように、複数のファセットは、支持構造622の一部であってもよい。支持構造622は、たとえば、3次元透明構造であってもよい。光学素子は、それぞれに異なる視野からの受光を画像センサー624上に投射するように構成されてもよい。
【0034】
回折光学素子602、604、606、608、および610は、回折格子フィルムを備えてもよい。回折光学素子602、604、606、608、および610の各々は、環境の特定の視野からの光を受け取り、受光を投射光として画像センサー624に向けて送るように構成された回折格子を備えてもよい。回折光学素子602、604、606、608、および610の平面形状は、画像キャプチャ装置600の製造および組立てを容易にし得る。各回折光学素子は、対応するシャッター要素にしっかりと固定されてもよく、シャッター要素はまた、概ね平面形状を有してもよい。回折光学素子とシャッター要素の両方が、支持構造622の対応するファセットに固定されてもよい。
【0035】
示唆されるように、複数の屈折レンズ602、604、606、608、および610に対応する複数のシャッターは、画像キャプチャ装置600に実装されてもよい。図示を容易にするために、そのようなシャッターは、この図には明示的に示されていない。しかし、そのようなシャッターが存在してもよいことを理解されたい。いくつかの実施形態では、各シャッターは、対応する回折光学素子の上方に配置され、環境の視野から受け取られた光を、回折光学素子に到達する前に、制御可能に遮断する。いくつかの実施形態では、各シャッターは、対応する回折光学素子の下方に配置され、環境の視野から受け取られた光を、回折光学素子を通過してから画像センサー624上に投射されるまでの間、制御可能に遮断する。
【0036】
いくつかの実施形態によれば、支持構造622は、光路を光学素子と画像センサー624との間で分離するための1つまたは複数の分割器を組み込んでもよい。隣接する回折光学素子および/またはシャッター間の隙間が、近傍の構成要素の当接が不完全であることの結果として形成されることがある。分割器は、そのような隙間を通して支持構造622に導入される迷光を遮断して、キャプチャされた画像の品質を向上させてもよい。
【0037】
図7は、本開示の実施形態による、光ガイドを利用して複数の光学素子で受け取られた光を画像センサーに送る画像キャプチャ装置700を示す図である。画像キャプチャ装置700は、互いに対して非隣接位置に配置された光学素子の例を示す。図示のように、画像キャプチャ装置700は、複数の光ガイド702、704、706、および708を含む。光ガイド702、704、706、および708は、それぞれの光学素子712、714、716、および718から受け取られた光を送り、光学素子712、714、716、および718は、別々の位置に配置されてもよい。光学素子712、714、716、および718の各々は、環境の異なる視野から光を受け取る。この特定の例では、光学素子712は、視野から前方に向かう光を受け取る。光学素子714は、視野から第1の横方向に向かう光を受け取る。光学素子718は、視野から第2の横方向に向かう光を受け取る。光学素子716は、視野から後方に向かう光を受け取る。可撓性の光ガイド702、704、706、および708を使用すると、画像キャプチャ装置700についての広範囲の視野角が容易になる。したがって、画像キャプチャ装置700は、方位角のある範囲(たとえば、360度の方位角の全範囲まで)および/またはピッチ角のある範囲(360度のピッチ角の全範囲まで)にわたる視野から画像をキャプチャしてもよい。この例では、4つの光学素子が示されているが、異なる数、たとえば、より多いかまたは少ない光学素子および対応する光ガイドが配置されてもよい。
【0038】
光学素子712、714、716、および718の各々は、屈折レンズまたは回折光学素子であってもよく、または屈折レンズまたは回折光学素子でなくてもよい。少なくとも1つの実施形態によれば、光学素子712、714、716、および718の各々は、光を光ガイド702、704、706、および708のそれぞれに結合するためのインカプラを備える。光ガイド702、704、706、および708の他方の端部では、環境の異なる視野から受け取られた光が光ガイドから出て、画像センサー720に送られる。アウトカプラ(図示せず)が光ガイド702、704、706、および708の他方の端部に配置され、光ガイド702、704、706、および708からの光をそれぞれの投射光732として画像センサー720に送ってもよい。
【0039】
複数の回折光学素子702、704、706、および708に対応する複数のシャッターが、画像キャプチャ装置700に実装されてもよい。図示を容易にするために、そのようなシャッターは、この図には明示的に示されていない。しかし、そのようなシャッターが存在してもよいことを理解されたい。いくつかの実施形態では、各シャッターは、光路に沿って対応する回折光学素子の前に配置され、環境の視野から受け取られた光を、回折光学素子に到達する前に、制御可能に遮断する。いくつかの実施形態では、各シャッターは、対応する回折光学素子の後に配置され、環境の視野から受け取られた光を、回折光学素子を通過してからそれぞれの光ガイドに入るまでの間、制御可能に遮断する。いくつかの実施形態では、各シャッターは、それぞれの光ガイドの他方の端部に配置され、環境の視野から受け取られた光を、それぞれの光ガイドを通過してから画像センサー720上に投射されるまでの間、制御可能に遮断する。
【0040】
図8は、本開示の一実施形態による、複数のシャッターを制御するための信号を提供するための制御回路800を示す回路図である。この例では、制御回路800は、デマルチプレクサ802と、複数のドライバ812、814、816、818、820、および822とを備える。ドライバは、複数の液晶要素832、834、836、838、840、および842用の駆動信号を提供する。追加のドライバおよび液晶要素が存在するが、図示を簡略化するために明示的には示されていない。液晶要素の各々は、それぞれに異なる時間に(1)開位置および(2)閉位置に配置されるように動作可能なシャッターのインスタンスを表してもよい。説明したように、開位置では、各シャッターは、対応する光学素子からの光が画像センサーに到達するのを可能にするように構成される。閉位置では、シャッターは、対応する光学素子からの光が画像センサーに到達するのを妨げるように構成される。
【0041】
デマルチプレクサ802は、入力信号8および選択信号854を受信する。この例では、入力信号852は論理「1」(たとえば、Vcc)に接続される。この例における選択信号854は4ビット幅である。選択信号854の値に基づいて、デマルチプレクサ802は入力信号852をデマルチプレクサ802の出力ポートのうちの1つに接続する。したがって、デマルチプレクサ802は、論理「1」値を選択された出力ポートに選択的に出力し、一方、論理「0」を他の非選択出力ポートに提供する。
【0042】
デマルチプレクサ802の出力ポートは、複数のドライバ812、814、816、818、820、および822への入力信号として提供される。各ドライバについて、入力信号が論理「1」を示す場合、ドライバは、その出力ポート上に必要な駆動電圧および/または電流を提供して対応する液晶要素を「開」位置に駆動する。ドライバへの入力信号が論理「0」を示す場合、ドライバは、対応する液晶要素を駆動するための必要な駆動電圧および/または電流をその出力ポート上に提供せず、液晶要素は「閉」位置のままである。異なる実装形態では、液晶要素の必要な駆動電圧/電流が異なり、または場合によっては反転することがある。各ドライバは、それぞれの液晶要素を所望の「開」または「閉」状態に駆動するのに適した適切な電圧および/または電流を提供するように構成されてもよい。
【0043】
単に一例として、
図2に示す画像キャプチャ装置200の3列に配置された15個の光学素子に対応する15個の個々のシャッターが制御されてもよい。これらの15個のシャッターは、液晶要素LC_0~LC_14として実装されてもよく、
図8では液晶要素832、834、836、838、840、および842によって表されている。いくつかの実施形態によれば、選択信号854は切替えパターンを繰り返す。切替えパターンの各繰返しにおいて、複数のシャッターのうちの1つが開位置に配置されるシャッターとして選択され、一方、複数のシャッターのうちの残りのシャッターは閉位置に配置される。したがって、この例では、切替えパターンは、15個の可能な値を含み、次のように配置されてもよい。0000、0001、0010、0011、0100、0101、0110、0111、1000、1001、1010、1011、1100、1101、および1110。
図8によって示される特定の瞬間に、選択信号854は、値「0001」を有し、値「0001」は「開」位置に配置される第2の液晶要素834(LC_1)を選択し、他の液晶要素832、836、838、840、および842(LC_0, LC2, LC_3, LC_4, ..., LC_14)を「閉」位置に維持する。選択信号854は、追加の回路(図示せず)によって提供されてもよく、追加の回路は、論理回路、1つもしくは複数のレジスタもしくは他のメモリデバイス、またはプログラムされた命令を実行する1つもしくは複数のプロセッサを備えてもよい。
【0044】
図9は、本開示の一態様による、画像キャプチャのためのプロセス900の特徴を示すフローチャートである。902において、プロセスは、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するステップを含む。複数の光学素子の例には、
図2の光学素子204、
図5の屈折レンズ502、504、506、508、および510、ならびに
図6の回折光学素子602、604、606、608、および610が含まれる。904において、プロセスは、複数の光学素子に結合された1つまたは複数の支持構造を提供するステップであって、1つまたは複数の支持構造が、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される、ステップをさらに含む。1つもしくは複数の支持構造の例には、
図2の支持構造206が含まれる。906において、プロセスは、複数の光学素子の各々において、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るステップを含む。画像センサーの一例には、
図2に示す画像センサー202が含まれる。
【0045】
図10は、本開示の一態様による、拡張された視野をキャプチャすることのできる画像キャプチャ装置を使用するデバイス1000の様々なハードウェアおよびソフトウェア構成要素のブロック図である。デバイス1000の一例は、環境監視デバイス、モバイルハンドセットデバイス、ウェアラブルデバイス、車両、ドローン、または画像データを入力としてとる別のデバイスであってもよい。一例では、デバイス1000は、リモートワイヤレストランシーバとの間でワイヤレス信号を送受信することによって、ワイヤレストランシーバ1030およびワイヤレスアンテナ1032を介して他のデバイスおよび/またはワイヤレス通信ネットワークと通信してもよく、リモートワイヤレストランシーバは、ワイヤレス通信リンク上で別のデバイス、基地局(たとえば、ノードB、eノードB、もしくはgノードB)、またはワイヤレスアクセスポイントを構成してもよい。
【0046】
同様に、デバイス1000は、たとえば、WLANならびに/または本明細書ではワイヤレストランシーバ1030およびワイヤレスアンテナ1032の一方によって表されるPANワイヤレストランシーバを使用することによって、ワイヤレス通信リンク上でローカルトランシーバとの間でワイヤレス信号を送受信してもよい。一実施形態では、ワイヤレストランシーバ1030は、WANトランシーバ、WLANトランシーバ、および/またはPANトランシーバの様々な組合せを備えてもよい。一実施形態では、ワイヤレストランシーバ1030はまた、Bluetoothトランシーバ、ZigBeeトランシーバ、または他のPANトランシーバを備えてもよい。一実施形態では、デバイス1000は、ワイヤレス通信リンク1034上でデバイス1000上のワイヤレストランシーバ1030との間でワイヤレス信号を送受信してもよい。ローカルトランシーバ、WANワイヤレストランシーバ、および/またはモバイルワイヤレストランシーバは、WANトランシーバ、アクセスポイント(AP)、フェムトセル、ホーム基地局、スモールセル基地局、HNB、HeNB、またはgノードBを備えることがあり、ワイヤレスローカルエリアネットワーク(WLAN、たとえば、IEEE802.11ネットワーク)、ワイヤレスパーソナルエリアネットワーク(PAN、たとえば、Bluetoothネットワーク)、またはセルラーネットワーク(たとえば、LTEネットワーク、または次の段落において説明するものなどの他のワイヤレスワイドエリアネットワーク)へのアクセスを提供し得る。もちろん、これらは、ワイヤレスリンク上でデバイスと通信し得るネットワークの例にすぎず、請求する主題は、この点について限定されないことを理解されたい。ワイヤレストランシーバ1030が、ボート、フェリー、自動車、バス、ドローン、および様々な輸送車両などの様々なタイプのデバイス1000上に位置してもよいことも理解されたい。一実施形態では、デバイス1000は、旅客輸送、貨物輸送、またはその他の目的に利用されてもよい。一実施形態では、GNSS衛星からのGNSS信号1074が、デバイス1000によって位置特定および/またはGNSS信号パラメータおよび復調済みデータの決定に利用される。一実施形態では、WANトランシーバ、WLAN、および/またはPANローカルトランシーバからの信号1034が、単独でまたはGNSS信号1074と組み合わせて、位置特定のために使用される。
【0047】
ワイヤレストランシーバ1030をサポートし得るネットワーク技術の例は、GSM、CDMA、WCDMA(登録商標)、LTE、5Gまたは新無線アクセス技術(NR)、HRPD、およびV2X車間通信である。述べたように、V2X通信プロトコルは、SAE規格およびETS-ITS規格など、様々な規格において定義されてもよい。GSM、WCDMA、およびLTEは、3GPP(登録商標)によって定義された技術である。CDMAおよびHRPDは、第3世代パートナーシッププロジェクトII(3GPP2)によって定義された技術である。WCDMAはまた、ユニバーサル移動体通信システム(UMTS)の一部であり、HNBによってサポートされてもよい。
【0048】
ワイヤレストランシーバ1030は、WANワイヤレス基地局を介して通信ネットワークと通信してもよく、WANワイヤレス基地局は、サービスのために(サービス契約に従って)ワイヤレス通信ネットワークへの加入者アクセスを可能にする機器の展開を含んでもよい。ここで、WANワイヤレス基地局は、WANワイヤレス基地局がアクセスサービスを提供することが可能である範囲に少なくとも部分的に基づいて決定されたセル内の加入者デバイスにサービスする際に、WANまたはセル基地局の機能を実行してもよい。WAN基地局の例には、GSM基地局、WCDMA基地局、LTE基地局、CDMA基地局、HRPD基地局、Wi-Fi基地局、Bluetooth基地局、WiMAX基地局、5G NR基地局が含まれる。一実施形態では、さらなるワイヤレス基地局は、WLANおよび/またはPANトランシーバを備えてもよい。
【0049】
一実施形態では、デバイス1000は、1つまたは複数のカメラ1035を含んでもよく、カメラ1035は、本開示の様々な実施形態による、拡張された視野をキャプチャすることができる画像キャプチャ装置を備えてもよい。一実施形態では、カメラは、カメラセンサーと取付けアセンブリとを備えてもよい。デバイス1000上のそれぞれに異なるカメラ用にそれぞれの異なる取付けアセンブリが使用されてもよい。カメラは、特に既知のサイズおよび/または形状を有する物体について物体検出および距離推定を可能にしてもよい。カメラは、他のセンサーとともに使用されるとき、LIDAR、ホイールティック/距離センサー、および/またはGNSSを使用するなど他のシステムを使用して走行距離および角度方向を検証することによって較正されてもよい。同様にカメラを使用して他のシステムを検証して較正し、たとえば、既知の物体(ランドマーク、路側マーカー、道路マイルマーカーなど)間の既知の距離に対して較正することによって距離測定値が正しいことを検証し、かつ物体が、したがってLIDARおよび他のシステムによって自動車に対して正しい位置にマップされるように物体検出が正確に実行されることを検証してもよい。
【0050】
加速度計、ジャイロ、および磁力計1040は、一実施形態では、運動および方向情報を提供しならびに/または検証するために利用されてもよい。LIDAR1050は、パルスレーザー光を使用して、物体までの距離を測定する。カメラは物体検出に使用される場合があるが、LIDAR1050は、特にサイズおよび形状が未知の物体に関して、より確かな物体の距離(および向き)を検出するための手段を提供する。LIDAR1050の測定値は、正確な距離測定値およびデルタ距離測定値を提供することによって、走行速度、ベクトル方向、相対位置、および停止距離を推定するために使用されてもよい。
【0051】
メモリ1060は、プロセッサ1010および/またはDSP1020とともに使用されてもよく、ランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、ディスクドライブ、フラッシュ、もしくは他のメモリデバイス、またはそれらの様々な組合せを備えてもよい。一実施形態では、メモリ1060は、この説明全体にわたって記載される様々な方法を実施するための命令を含んでもよい。一実施形態では、メモリは、センサーを動作させ較正し、地図、天気、および他のデータを受信するための命令を含んでもよい。
【0052】
全球測位衛星システム(GNSS)受信機1070は、地球に対する位置(絶対位置)を特定するために利用され、他の物体からの測定値および/またはマッピングデータなどの他の情報とともに使用されるときは、他の自動車に対する位置および/または路面に対する位置など、他の物体に対する位置を特定するために利用されてもよい。位置を決定するために、GNSS受信機/トランシーバ1070は、1つまたは複数のアンテナ1072(機能的要件に応じて、アンテナ1032と同じであってもよい)を使用して、GNSS衛星からのRF信号1074を受信してもよい。GNSS受信機/トランシーバ1070は、1つまたは複数のGNSSコンスタレーション、ならびに他の衛星ベースナビゲーションシステムをサポートしてもよい。たとえば、一実施形態では、GNSS受信機/トランシーバ1070は、GPS、GLONASS、Galileo、および/もしくはBeiDou、またはそれらの任意の組合せなど、全地球航法衛星システムをサポートしてもよい。一実施形態では、GNSS受信機/トランシーバ1070は、NavIC、もしくはQZSS、またはそれらの組合せなどの地域航法衛星システム、ならびに、衛星によって統合されたドップラーオービトグラフィーおよび無線測位(DORIS:Doppler Orbitography and Radio-positioning Integrated by Satellite)、またはワイドエリアオーグメンテーションシステム(WAAS)、または欧州静止ナビゲーションオーバーレイサービス(EGNOS)、または多機能衛星オーグメンテーションシステム(MSAS)、またはローカルエリアオーグメンテーションシステム(LAAS)など、様々なオーグメンテーションシステム(たとえば、衛星ベースオーグメンテーションシステム(SBAS)、またはグラウンドベースオーグメンテーションシステム(GBAS))をサポートしてもよい。一実施形態では、GNSS受信機/トランシーバ1030およびアンテナ1032は、GPS L1、L2、およびL5バンド、Galileo E1、E5、およびE6バンド、Compass(BeiDou) B1、B3、およびB2バンド、GLONASS G1、G2、およびG3バンド、ならびにQZSS L1C、L2C、およびL5-Qバンドなどの複数のバンドおよびサブバンドをサポートしてもよい。
【0053】
GNSS受信機/トランシーバ1070は、晴天条件における2つの時点間の距離を判定し、かつ距離データを使用して走行距離計および/またはLIDARなどの他のセンサーを較正するなど、必要に応じて、位置特定、ナビゲーションに利用され得る位置および相対位置を特定し、他のセンサーを較正するために使用されてもよい。一実施形態では、GNSSベース相対位置は、たとえば、車両間の共有ドップラーおよび/または擬似距離測定値に基づき、2台の車両間の非常に正確な距離を判定するために使用されてもよく、形状およびモデル情報ならびにGNSSアンテナ位置などの車両情報と組み合わされたときに、LIDAR、カメラ、RADAR、SONAR、およびその他の距離推定技法による情報に関連する信頼レベルを較正し、信頼レベルの妥当性を検査し、ならびに/または信頼レベルに影響を及ぼすために使用されてもよい。
【0054】
RADAR1053は、物体から反射された、送信された電波を使用する。反射された電波は、反射が到達するのにかかった時間および反射波の他の信号特性に基づいて解析され、近隣の物体の位置が特定される。RADAR1053は、近隣の自動車、路側物体(標識、他の車両、歩行者など)の位置を検出するために利用されてもよく、一般に、雪、雨、またはひょうなどの掩蔽天候がある場合でも物体を検出するのを可能にする。したがって、RADAR1053は、視覚ベースシステムが典型的に失敗するとき、測距および距離測定値を提供することによって、他の物体への測距情報を提供する際に、LIDAR1050システムおよびカメラ1035システムを補完するために使用されてもよい。さらに、RADAR1053は、LIDAR1050およびカメラ1035などの他のシステムを較正しならびに/またはサニティチェックするために利用されてもよい。
【0055】
特定の要件に従って実質的な変形が加えられてよいことが当業者には明らかとなろう。たとえば、カスタマイズされたハードウェアが使用される場合もあり、および/または特定の要素がハードウェア、ソフトウェア(アプレットなどのポータブルソフトウェアを含む)、もしくはその両方で実装される場合がある。さらに、ネットワーク入力/出力デバイスなどの他のコンピューティングデバイスへの接続が採用されてよい。
【0056】
添付の図を参照すると、メモリ(たとえば、
図10のメモリ1060)を含みことができる構成要素は、非一時的機械可読媒体を含むことができる。本明細書で使用する「機械可読媒体」および「コンピュータ可読媒体」という用語は、特定の様式で機械を動作させるデータを提供することに関与する任意の記憶媒体を指す。上で提供された実施形態では、様々な機械可読媒体は、実行のために命令/コードを処理ユニットおよび/または他のデバイスに提供することに関与することがある。追加または代替として、機械可読媒体は、そのような命令/コードを記憶および/または搬送するために使用されることがある。多くの実装形態では、コンピュータ可読媒体は、物理的なおよび/または有形の記憶媒体である。そのような媒体は、限定はしないが、不揮発性媒体、揮発性媒体、および送信媒体を含む、多くの形態をとってもよい。コンピュータ可読媒体の通常の形態は、たとえば、磁気媒体および/もしくは光学媒体、穴のパターンを有する任意の他の物理媒体、RAM、PROM、EPROM、FLASH-EPROM、任意の他のメモリチップもしくはカートリッジ、以降で説明するような搬送波、またはコンピュータがそこから命令および/もしくはコードを読み取ることができる任意の他の媒体を含む。
【0057】
本明細書で論じられた方法、システム、およびデバイスは例である。様々な実施形態が、適宜様々な手順またはコンポーネントを省略し、置換し、または追加してもよい。たとえば、いくつかの実施形態に関して説明された特徴は、様々な他の実施形態において組み合わせられてもよい。実施形態の異なる態様および要素は、同様に組み合わせられてもよい。本明細書において提供された図の様々なコンポーネントは、ハードウェアおよび/またはソフトウェア内で具現化されてもよい。また、技術は進化し、したがって、要素の多くは、本開示の範囲をそれらの具体例に限定しない例である。
【0058】
主に一般的な用法という理由で、そのような信号をビット、情報、値、要素、シンボル、文字、変数、項、数、数値などと呼ぶことが時として好都合であることがわかっている。しかしながら、これらまたは類似の用語のすべてが適切な物理数量と関連することになり、便宜的なラベルにすぎないことを理解されたい。別段に明記されていない限り、上記の議論から明らかなように、本明細書全体にわたって、「処理する」、「算出する」、「計算する」、「決定する」、「確認する」、「識別する」、「関連付ける」、「測定する」、「実行する」などの用語を利用する議論が、専用コンピュータまたは同様の専用電子コンピューティングデバイスなどの特定の装置のアクションまたはプロセスを指すことが理解される。したがって、本明細書の文脈では、専用コンピュータまたは同様の専用電子コンピューティングデバイスは、専用コンピュータまたは同様の専用電子コンピューティングデバイスのメモリ、レジスタ、もしくは他の情報記憶デバイス、送信デバイス、または表示デバイス内の物理的な電子、電気または磁気量として一般に表される信号を操作または変換することが可能である。
【0059】
本明細書で使用される「および」および「または」という用語は、そのような用語が使用される文脈に少なくとも部分的に依存することも予想される様々な意味を含んでもよい。本明細書で使用される「1つまたは複数」という用語は、単数形で任意の特徴、構造、もしくは特性を記述するために使用されてもよく、または特徴、構造、もしくは特性のいくつかの組合せを記述するために使用されてもよい。しかしながら、これは説明に役立つ実例にすぎず、特許請求される主題がこの例に限定されないことに留意されたい。さらに、「のうちの少なくとも1つ」という用語は、A、B、またはCなどの列挙を関連付けるために使用される場合、A、AB、AA、AAB、AABBCCCなどの、A、B、および/またはCの任意の組合せを意味すると解釈されてもよい。
【0060】
いくつかの実施形態について説明したが、本開示の趣旨から逸脱することなく、様々な変更形態、代替構成、および等価物が使用されてもよい。たとえば、上記の要素は、単により大きいシステムの構成要素であってもよく、他の規則が、様々な実施形態の適用例より優先されてもよく、または様々な実施形態の適用例を別様に変更してもよい。また、上記の要素が考慮される前、考慮される間、または考慮された後、いくつかのステップに着手してもよい。したがって、上記の説明は本開示の範囲を限定しない。
【0061】
この説明に鑑みて、実施形態は特徴の様々な組合せを含んでよい。以下の番号付き条項において実装例が説明される。
条項1。画像キャプチャのための装置であって、環境からの光を画像センサーに向けて送るように構成された複数の光学素子と、複数の光学素子に結合された1つまたは複数の支持構造であって、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成された支持構造とを備え、複数の光学素子の各々が、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るように構成される装置。
条項2。複数の光学素子は、互いに対して横方向に隣接する位置に配置される、条項1に記載の装置。
条項3。1つまたは複数の支持構造は、3次元透明構造を備える、条項1または2に記載の装置。
条項4。3次元透明構造は、複数のファセットを有する外面を備え、複数のファセットの各々は、複数の光学素子のうちの1つを画像センサーに対する固定位置に支持するように構成される、条項3の記載の装置。
条項5。3次元透明構造は、光路を光学素子と画像センサーとの間で分離するための1つまたは複数の分割器を備える、条項3および4のいずれかに記載の装置。
条項6。3次元透明構造は、ガラス材料を含む、条項3から5のいずれか一項に記載の装置。
条項7。3次元透明構造は、ポリマー材料を含む、条項3から6のいずれか一項に記載の装置。
条項8。ポリマー材料は、ポリカーボネート材料を含む、条項7に記載の装置。
条項9。複数の光学素子は、互いに対して非隣接位置に配置される、条項1から8のいずれかに記載の装置。
条項10。複数の光ガイドをさらに備え、複数の光ガイドの各々は、複数の光学素子によって受け取られた光を画像センサーに向けて誘導するように構成される、条項1から9のいずれかに記載の装置。
条項11。複数の光学素子の各々は、回折光学素子を備える、条項1から10のいずれかに記載の装置。
条項12。回折光学素子は、回折格子フィルムを備える、条項11に記載の装置。
条項13。複数の光学素子の各々は、回折レンズを備える、条項1から12のいずれかに記載の装置。
条項14。複数の光学素子は、一様なサイズを有する、条項1から13のいずれかに記載の装置。
条項15。複数の光学素子は、それぞれに異なるサイズを有する、条項1から14のいずれかに記載の装置。
条項16。複数の光学素子のうちの第1の光学素子は、第1のサイズを有し、画像センサーの中心軸に対する第1の位置に位置し、複数の光学素子のうちの第2の光学素子は、第2のサイズを有し、画像の中心軸に対する第1の位置よりも遠い第2の位置に位置し、第1のサイズは、第2のサイズよりも小さい、条項1から15のいずれかに記載の装置。
条項17。複数の光学素子のうちの第1の光学素子は、第1のサイズを有し、画像センサーの中心軸に対する第1の位置に位置し、複数の光学素子のうちの第2の光学素子は、第2のサイズを有し、画像の中心軸に対する第1の位置よりも遠い第2の位置に位置し、第1のサイズは、第2のサイズよりも大きい、条項1から15のいずれかに記載の装置。
条項18。複数の光学素子に結合された複数のシャッターをさらに備え、複数のシャッターの各々は、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能であり、シャッターは、開位置では、対応する光学素子からの光が画像センサーに到達するのを可能にするように構成され、閉位置では、対応する光学素子からの光が画像センサーに到達するのを妨げるように構成される、条項1から17のいずれかに記載の装置。
条項19。複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能な液晶を有する液晶要素を備える、条項18に記載の装置。
条項20。複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能な微小電子機械システム(MEMS)構造を備える、条項18に記載の装置。
条項21。複数のシャッターに制御信号を提供して、複数のシャッターのそれぞれに異なるシャッターをそれぞれに異なる時間に開くように順次選択する制御回路をさらに備え、複数のシャッターのうちの選択されたシャッターが開位置に配置され、一方、複数のシャッターのうちの残りのシャッターが、閉位置に配置される、条項18から20のいずれかに記載の装置。
条項22。制御信号は、切替えパターンを繰り返し、切替えパターンに従って、各繰返しにおいて、複数のシャッターのうちの1つが開位置に配置されるシャッターとして選択され、一方、複数のシャッターのうちの残りのシャッターが閉位置に配置される、条項21に記載の装置。
条項23。画像キャプチャのための方法であって、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するステップと、複数の光学素子に結合された1つまたは複数の支持構造を提供するステップであって、1つまたは複数の支持構造が、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される、ステップと、複数の光学素子の各々において、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るステップとを含む方法。
条項24。1つまたは複数の支持構造は、3次元透明構造を備える、条項23に記載の方法。
条項25。3次元透明構造は、複数のファセットを有する外面を備え、複数のファセットの各々は、複数の光学素子のうちの1つを画像センサーに対する固定位置に支持するように構成される、条項24の記載の方法。
条項26。複数の光学素子の各々は、回折光学素子を備える、条項23から25のいずれかに記載の方法。
条項27。複数の光学素子に結合された複数のシャッターを提供するステップをさらに含み、複数のシャッターの各々は、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能であり、シャッターは、開位置では、対応する光学素子からの光が画像センサーに到達するのを可能にするように構成され、閉位置では、対応する光学素子からの光が画像センサーに到達するのを妨げるように構成される、条項23から26のいずれかに記載の方法。
条項28。複数のシャッターの各シャッターは、制御回路によって与えられる制御信号に基づいて、それぞれに異なる時間に(1)開位置および(2)閉位置で動作可能な液晶を有する液晶要素を備える、条項27に記載の方法。
条項29。画像キャプチャを助けるためのシステムであって、環境からの光を画像センサーに向けて送るように構成された複数の光学素子を提供するための手段と、複数の光学素子に結合された1つまたは複数の支持構造を提供するための手段であって、1つまたは複数の支持構造が、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される手段と、複数の光学素子の各々において、それぞれに異なる視野に基づく環境からの光を受光として受け取り、受光を画像センサーに向けて送るための手段とを備えるシステム。
条項30。1つまたは複数の処理ユニットによって実行される命令を記憶する非一時的コンピュータ可読媒体であって、記憶された命令が、環境からの光を画像センサーに向けて送るように構成された複数の光学素子からの光に基づく複数の画像をキャプチャするための命令を含み、複数の光学素子の各々において受け取られる光は、それぞれに異なる視野に基づく環境からの光であり、光学素子によって画像センサーに向けて送られ、1つまたは複数の支持構造は、複数の光学素子に結合され、複数の光学素子の各々を画像センサーに対する相対位置に支持するように構成される、非一時的コンピュータ可読媒体。
【符号の説明】
【0062】
100 環境
102、200、300、400、500、600、700 画像キャプチャ装置
104、106、108、110 棚
112 製品
202、314、424、524、624 画像センサー
204、712、714、716、718 光学素子
206、302、422、522、622 支持構造
208、304、306、308、310、312、412、414、416、418、420、512、514、516、518、520、612、614、616、618、620 ファセット
316 光
318、320、322、324、326、428 投射光
402、404、406、408、410 シャッター
502、504、506、508、510 屈折レンズ
526 隙間
602、604、606、608、610 回折光学素子
702、704、706、708 光ガイド
800 制御回路
802 デマルチプレクサ
812、814、816、818、820、822 ドライバ
832、834、836、838、840、842 液晶要素
852 入力信号
854 選択信号
1000 デバイス
1001 バス
1010 プロセッサ
1020 DSP
1030 ワイヤレストランシーバ
1032 ワイヤレスアンテナ
1034 ワイヤレス通信リンク
1035 カメラ
1040 ジャイロおよび磁力計
1050 LIDAR
1053 RADAR
1060 メモリ
1070 全球測位衛星システム受信機
1072 アンテナ
1074 GNSS信号
【国際調査報告】