(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-08-21
(54)【発明の名称】パッケージ検出の向上のための非対称のカメラセンサ位置決め
(51)【国際特許分類】
H04N 23/58 20230101AFI20240814BHJP
H04N 23/60 20230101ALI20240814BHJP
H04N 23/698 20230101ALI20240814BHJP
G06T 7/80 20170101ALI20240814BHJP
G06T 7/13 20170101ALI20240814BHJP
G06T 5/80 20240101ALI20240814BHJP
【FI】
H04N23/58
H04N23/60 500
H04N23/698
G06T7/80
G06T7/13
G06T5/80
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023578770
(86)(22)【出願日】2021-08-02
(85)【翻訳文提出日】2024-02-07
(86)【国際出願番号】 US2021044190
(87)【国際公開番号】W WO2023014345
(87)【国際公開日】2023-02-09
(81)【指定国・地域】
(71)【出願人】
【識別番号】502208397
【氏名又は名称】グーグル エルエルシー
【氏名又は名称原語表記】Google LLC
【住所又は居所原語表記】1600 Amphitheatre Parkway 94043 Mountain View, CA U.S.A.
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】グリロ,ジャコビ・コルトン
(72)【発明者】
【氏名】プロカ,アドリアン・ミルチャ
(72)【発明者】
【氏名】ドゥラン,ウィリアム・ビンセント
(72)【発明者】
【氏名】チェン,チー・ハオ
【テーマコード(参考)】
5B057
5C122
5L096
【Fターム(参考)】
5B057AA19
5B057AA20
5B057BA02
5B057CA02
5B057CA08
5B057CA12
5B057CA16
5B057CB02
5B057CB08
5B057CB12
5B057CB16
5B057CC01
5B057CD12
5B057DA08
5B057DB02
5B057DB05
5B057DB09
5B057DC16
5C122DA18
5C122EA33
5C122EA66
5C122FA01
5C122FB06
5C122FB23
5C122FH06
5C122HB01
5L096BA02
5L096BA08
5L096BA18
5L096CA02
5L096DA02
5L096DA04
5L096EA37
5L096EA45
5L096FA14
5L096JA11
(57)【要約】
本書類はパッケージ検出の向上のための非対称カメラセンサ位置決めを説明する。ある局面において、電子ドアベルは、縦向きに回転させられかつカメラのレンズに対して垂直方向にずらされるイメージセンサを有し、その結果レンズに対してイメージセンサの位置が非対称になる。レンズはイメージサークルをイメージセンサ上に投影し、イメージセンサはセンサ検出領域を有し、センサ検出領域は、イメージサークルの下部に配置され、イメージサークルの端に近接するオブジェクトの撮影を可能にするように、イメージサークルの内部に上部の角を有し、イメージサークルの外部に下部の角を有する。そして、レンズ歪み訂正は、イメージサークルの内部だが従来のセンサ検出領域の外部に配置され得るパッケージを検出するのに使用可能な最終画像を提供するように、撮影された画像に対して実行される。
【特許請求の範囲】
【請求項1】
電子ドアベルであって、
レンズ光軸を有するレンズを備え、前記レンズは、前記レンズによって撮影されたシーンを表わすイメージサークルを提供し、前記イメージサークルは、中間部で分離されかつ垂直に積み重ねて配置された上部および下部を有し、前記上部は、前記イメージサークルの上の端に近接して配置され、前記下部は、前記イメージサークルの下の端に近接して配置され、
前記電子ドアベルはさらに、センサ検出領域を有するイメージセンサを備え、前記イメージセンサは、
前記イメージサークルの前記垂直に積み重ねて配置された部分に対して縦向きに配置され、前記センサ検出領域の前記縦向きは、水平寸法よりも大きい垂直寸法を有し、かつ、
前記イメージセンサは、前記イメージサークルの前記下の端に近接する前記イメージサークルの前記下部に配置されるオブジェクトの画像を前記イメージセンサが撮影することを可能にするように、前記レンズ光軸からオフセット距離だけ前記イメージサークルの前記下部に向かって前記レンズに対して垂直方向にずらされる、電子ドアベル。
【請求項2】
前記イメージセンサは、3:4の縦向きに構成される、請求項1に記載の電子ドアベル。
【請求項3】
前記センサ検出領域は矩形形状を有し、前記イメージサークルは楕円形状を有し、
前記センサ検出領域は、前記イメージサークルの内部に配置される2つの上部の角、および前記イメージサークルの外部に配置される2つの下部の角を含む、請求項1または請求項2に記載の電子ドアベル。
【請求項4】
前記イメージセンサは、イメージセンサ光軸を有し、
前記イメージセンサは、前記レンズの垂直軸に沿って前記オフセット距離だけ前記イメージセンサ光軸を前記レンズ光軸からオフセットさせるように、前記レンズに対して垂直方向にずらされる、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項5】
前記イメージセンサ光軸は、前記レンズ光軸と平行である、請求項4に記載の電子ドアベル。
【請求項6】
前記オフセット距離は、実質的に0.15ミリメートルから0.35ミリメートルの範囲内である、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項7】
前記イメージサークルは、約160度の画角を有する前記レンズに基づく前記シーンを表わす、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項8】
前記レンズに対する前記イメージセンサの前記縦向きおよび前記垂直方向へずらすことは、イメージセンサが約130度の前記レンズの垂直方向の画角に対応する前記イメージサークルの領域を撮影することを可能にする、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項9】
前記電子ドアベルは、前記撮影された画像の下部の角の領域内の黒い領域を取り除くように、前記イメージセンサによって撮影される画像上でレンズ歪み訂正を実行するように構成されるプロセッサをさらに備える、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項10】
前記プロセッサは、垂直方向の非対称性を補正するために使用できる台形画像を提供するように前記撮影された画像に台形補正を適用することと、
垂直方向の前記非対称性を補正するために前記台形画像の歪みを除去し、歪みが除去された画像を提供することとによって、レンズ歪み訂正を実行するように構成される、請求項9に記載の電子ドアベル。
【請求項11】
前記プロセッサは前記下部の角の領域内の前記黒い領域を取り除き歪み補正された画像を提供するように、前記歪み除去された画像をさらに歪み補正することにより、前記レンズ歪み訂正を実行するように構成される、請求項10に記載の前記電子ドアベル。
【請求項12】
前記プロセッサは表示用の最終画像を提供するように、前記歪み補正された画像をさらに明るくすることにより、前記レンズ歪み訂正を実行するように構成される、請求項11に記載の電子ドアベル。
【請求項13】
前記イメージセンサは、前記イメージサークル内に配置される前記センサ検出領域の底部の端の中点を有するように位置決めされる、先行する請求項のいずれか1つに記載の電子ドアベル。
【請求項14】
非対称のイメージセンサ位置決めを有する電子ドアベルによって引き起こされるレンズ歪みを補正するための方法であって、前記方法は、
前記電子ドアベルのイメージセンサを使用して画像を撮影することを備え、前記電子ドアベルは、
縦向きに配向されたセンサ検出領域、および
前記電子ドアベルのレンズのレンズ光軸から垂直方向にずらされるイメージセンサ光軸を備え、前記センサ検出領域は、前記レンズにより前記イメージセンサ上に投影されるイメージサークルの内部に配置される上部の角および前記イメージサークルの外部に配置される下部の角を有し、前記方法は、
イメージセンサ光軸が垂直方向にずらされることの結果である垂直方向の非対称性を補正するために使用できる台形画像を提供するように前記撮影された画像に台形補正を適用することと、
垂直方向の前記非対称性を補正し歪みが除かれた画像を提供するように、前記台形画像の歪みを除くことと、
前記センサ検出領域の下部の角に対応する黒い領域を除去し歪み補正された画像を提供するように、前記歪みが除去された画像を歪み補正することと、
電子デバイス上に表示するための最終画像を提供するように前記歪み補正された画像を明るくすることとを備える、方法。
【請求項15】
前記方法はさらに、
前記最終画像に基づいて、前記イメージサークルの端に近接する前記イメージサークルの下部に位置するパッケージを検出することと、
前記パッケージが存在するという前記電子デバイスのユーザへの表示を提供することとを備える、請求項14に記載の方法。
【発明の詳細な説明】
【背景技術】
【0001】
背景
画像および/または映像を撮影するための電子ドアベルの進歩に伴い、多くのユーザはパッケージが配達されたかどうかを判定するために電子ドアベルデータに頼り始めている。しかしながら、多くの既存の電子ドアベルは限定された視野(field of view:FOV)を有するカメラを備える。一般的に、ドアベルは人の顔の画像取得を可能とするように方向づけられるが、ユーザは(安全のために)人の顔を見ることにより興味があり得るため、人の足の画像取得は必要ではない。多くの場合、パッケージがドアベルに近すぎるよう(例えば、ドアベルの下でかつドアベルが備え付けられた壁に隣接する地面に)に配達された場合、パッケージはカメラのFOVの外側にあることがある。
【発明の概要】
【発明が解決しようとする課題】
【0002】
ユーザは配達の通知を受け取り、到着および出発する配達ドライバの画像データを取得し得るが、もしユーザが配達されたパッケージの状態を確認したい場合に、パッケージがカメラのFOVの外側にあり得る場合(例えば、パッケージがドアベルに近すぎる場合)、ユーザはドアベルのデータ内のパッケージを見ることができないことがある。さらに、パッケージ検出アルゴリズムはドアベルのデータに適用され得るが、パッケージがカメラのFOVの外側にある場合、パッケージは撮影された画像内において検出することができず、ユーザはパッケージの通知を受けない可能性がある。もしパッケージがカメラのFOVになくて、人がパッケージを持ち去るまたは盗むために近づいたとしても、ユーザはパッケージが持ち去られたことを通知されない可能性がある。
【0003】
カメラのFOVを広げるための1つの解決方法は、180°の画角(angle of view:AOV)のドアベルカメラを使用することである。しかしながら、そのようなカメラは製造原価を高め、赤外線フレアを防ぐために追加の構造機能を必要とすることがある。また、そのようなカメラを使用することは、人の頭上の領域を含む、重要ではないかもしれない追加画像データ(例えば、ピクセルデータ)がユーザデバイスに表示されることを提供し得る。なぜならば、ユーザがドアベルデータを見ているときにアプリケーションでスクリーン(例えば、スマートフォンのディスプレイ)上に表示され得るピクセル数は有限であるため、重要ではない追加画像データがスクリーンの現実的な領域を消費し、より小さいディスプレイ画像になり、画像の質が低下し、ユーザエクスペリエンスが低下する可能性がある。
【0004】
要約
本明細書は、パッケージ検出強化のための非対称のカメラセンサの位置決めについて説明する。ある局面において、電子ドアベルは、カメラのレンズに対して縦向きに回転し、垂直方向にシフトされるイメージセンサを有し、その結果、レンズに対してイメージセンサの位置決めが非対称になる。レンズは、イメージサークルをイメージセンサに投影し、イメージセンサは、イメージサークルの下部に位置し、イメージサークルのエッジに近接する物体の撮影を可能にするために、イメージサークル内の上隅とイメージサークルの外側の下隅を有するセンサ検出領域を有する。次に、レンズ歪み訂正が、撮影画像に対して実行され、イメージサークル内にあり得るが、従来のセンサ検出領域の外側に位置し得るパッケージの検出に使用可能な最終画像を提供する。
【課題を解決するための手段】
【0005】
いくつかの局面において、電子ドアベルは開示される。電子ドアベルは、レンズ光軸を有し、レンズによって撮影されるシーンを表わすイメージサークルを提供するレンズを含む。イメージサークルは、中間部によって分けられかつ垂直に積み重ねて配置された上部分と下部分とを持つ。上部分はイメージサークルの上の端に近接して位置されて、下部分はイメージサークルの下の端に近接して位置される。また、電子ドアベルはセンサ検出領域を有するイメージセンサを含む。イメージセンサはイメージサークルの部分の垂直積み重ねに対して縦向きに位置し、センサ検出領域の縦向きは水平方向の寸法より長い垂直方向の寸法を持つ。また、イメージセンサは、イメージサークルの下の端に近いイメージサークルの下部分に位置する対象物の画像をイメージセンサが撮影することを可能にするように、レンズに対してレンズの光軸からオフセット距離だけ垂直にずらされる。
【0006】
この要約は、パッケージ検出向上のための非対称のカメラセンサ位置決めに関わる簡略化された概念を紹介するために提供され、さらに下の詳細な説明や図に記載される。この要約は、クレームされた主題の本質的な特徴の特定を意図されず、クレームされた主題の範囲を決定するときの使用も意図されない。
【0007】
パッケージ検出の向上のための非対称のカメラセンサ位置決めの1つ以上の局面の詳細は以下の図を参照して、本明細書に記載される。本開示および図の異なる例において同じ参照番号を使用することは、同様の要素を表わす。
【図面の簡単な説明】
【0008】
【
図1】従来のカメラドアベルと比較してパッケージ検出の向上のための非対称のカメラセンサ位置決めの実施例を示す図である。
【
図2】
図1の電子ドアベルの実施例の等軸観測図である。
【
図3】
図2の電子ドアベルを線3-3に沿って切った断面図、および断面図における電子ドアベルのカメラ側の端の拡大図である。
【
図4】レンズに対するイメージセンサの非対称位置決めに基づくイメージサークルに対するセンサ検出領域の実施例である。
【
図5】パッケージ検出向上のためにイメージサークルに対してずれたセンサ検出領域の実施例を示す図である。
【
図6】電子ドアベルにおける非対称のカメラセンサ位置決めに応じたレンズ歪み訂正の実施例を示す図である。
【
図7】非対称に位置決めされたカメラセンサによって撮影された画像のレンズ歪みを本明細書に記載の技術に従って補正するための方法の例を示す図である。
【
図8】
図1~7を参照して説明したように、非対称のカメラセンサ位置決めの局面を実装する任意の電子デバイス(例えば電子ドアベル)として実装することができる、デバイスの例を含むシステムの例を示すブロック図である。
【発明を実施するための形態】
【0009】
詳細な説明
概要
本明細書は、パッケージ検出の向上のための非対称のカメラセンサ位置決めについて説明する。本明細書において説明された技術は、従来のドアベルカメラと比べて広い垂直なFOVをもつ電子ドアベルカメラを提供する。例えば、電子ドアベルカメラは、縦向きに回転し、カメラのレンズから垂直方向にオフセットされたイメージセンサを含む。この非対称位置決めによりイメージセンサは、電子ドアベルカメラのほぼ下方の地面にある対象物(例えば、パッケージ)の画像を撮影することができ、対象物は従来のレンズによって撮影され得るが、レンズによって従来のイメージセンサに十分に投影されない。撮影された画像のレンズ歪みは、後処理で綺麗な最終画像をユーザに提供するために補正され、画像は地面の上のパッケージはもちろん、立っている人の顔も含むことがある。
【0010】
垂直方向のFOVが増加するだけではなく、ユーザにとって有用な画素数も増加して、その結果、画質および効率が向上し、ユーザエクスペリエンスも向上した。画像の角の近くにあるオブジェクトに関連するレンズの歪みは軽減される。さらに、標準の160°レンズを使用する全体的な効率は向上する。説明されたパッケージ検出の向上のための非対称のカメラセンサ位置決めの特徴および概念は、任意の数の異なる環境において実装され得、いくつかの局面は、以下の例の文脈において説明されている。
【0011】
デバイスの例
図1は、従来のドアベルカメラと比較して、パッケージ検出の向上のための非対称のカメラセンサ位置決めの実施例を示す。従来のドアベルカメラの多くは、地面上のオブジェクト(例えば、荷物)ではなく人物の画像撮影を可能にする、広い水平視野(horizontal field of view:hFOV)および短い垂直視野(vertical field of view:vFOV)で画像を撮影する。例100は、(垂直破線で表わされる)壁104に取り付けられ、約104度の垂直AOV106を有し、身長約6フィート(ft)2インチ(in)(1.88メートル(m))で、従来のドアベルカメラから、約2ft(0.6m)の水平距離112のところに立つ人物110の頭部および顔108を撮影するために配向された、従来のドアベルカメラ102を示す。この例において、従来のドアベルカメラ102は、従来のドアベルカメラ102とその垂直AOV106の実質的に下方にある(例えば、垂直AOV106の端と、従来のドアベルカメラ102と、地面と、壁104との間の容積である)領域(例えば、領域116)に位置するパッケージ114の画像を撮影することができない。例において、パッケージ114は壁104から約6インチ(0.15メートル)の距離118に位置し、従来のドアベルカメラ102から「隠されている」。
【0012】
例120は本明細書で説明するように、非対称のカメラセンサ位置決めを伴う電子ドアベル122を示す。電子ドアベル122は地面上のパッケージ114と同様に、上述された人物110の頭部および顔108の画像撮影を可能にする対応するvFOVを提供する、約130度の垂直AOV124を含む。より大きな垂直AOV(例えば、垂直AOV124)の使用は、従来の垂直AOV106と比較して、領域126のサイズを小さくし、画像撮影のための対応するvFOVを増加させ、パッケージ114が「隠れる」ことを防止する。電子ドアベル122の垂直AOV124を、従来のドアベル102の垂直AOV106よりも向上するために、電子ドアベル122は、縦向きに配向されかつ電子ドアベル122のカメラレンズ(例えば、レンズ130)と非対称に整列されたカメラセンサ(例えば、イメージセンサ128)を含み、その結果、センサ検出領域132はイメージサークル134からオフセット(例えば、光学的中心でない)される。特に、イメージセンサ128はレンズ130と光学的に同軸上に並べられていないが、垂直方向にオフセットされている。このようにして、電子ドアベル122は同様の構成要素および構造を使用することによって、より高価なイメージセンサおよび/またはレンズを実装することなく、従来のドアベルカメラ102より大きな垂直AOV(およびより大きなvFOV)を達成することができる。イメージサークル134は、レンズ130によってイメージセンサ128上に伝送される光の円錐の断面である。イメージセンサ128のセンサ検出領域132は、イメージセンサ128によって感知される光の領域を表わす。一般に、イメージサークル134は、イメージセンサ128がイメージサークル134の少なくとも一部を検出することを可能にするように、センサ検出領域132上に投影される。特定の要因(例えば、焦点距離、レンズ130とイメージセンサ128との距離、配置、イメージセンサ128のサイズ)によって、センサ検出領域132はイメージセンサ128上に投影されたイメージサークル134の一部または全てを撮影し得る。これらのさらなる詳細および他の機能は以下で説明される。
【0013】
図2は、
図1の電子ドアベル122の実施例の等軸観測
図200を示す。電子ドアベル122は筐体202を有し、筐体202は、筐体202の縦軸204と交差する丸みを帯びた両端部を有する細長い形状(例えば、正面でおおむね楕円形)の筐体202を含む。カメラモジュール(たとえば、
図1におけるイメージセンサ128およびレンズ130を有するカメラモジュール206)は筐体202の一端(カメラ側の端208)に近接して筐体202内に配置される。押しボタン210は、筐体202の他端(ボタン側の端212)に近接して配置される。
【0014】
筐体202はプラスチック材料を含み得、例えば、プラスチック注入成形技術を用いて形成され得る。筐体202は
図2において示された形状の例を含む任意の適切な形状を含んでもよい。例えば、筐体202は電子ドアベル122の様々な構成要素を収容するための空洞を形成するように、一緒に合わさって(一緒に閉まって)外枠(例えば、中空の、実質的に楕円形の外枠)を形成する複数の構成要素を含んでもよい。筐体202はまた、カメラモジュール206が開口または透明領域を通して見ること、および景色の画像や映像を撮ることを可能とするようにカメラモジュール206と並べられた開口または透明領域を含んでもよい。
【0015】
ボタン210は機能を開始するために使用可能な任意の適切なボタン(例えば、スイッチを開閉するための機械的なボタン、ユーザのタッチを検出するための容量センサ)を含んでもよい。例えば、ボタン210の作動は、聞こえるドアベルの呼び出し音、ドアベルの所有者のスマートフォンへの電子通知の送信、カメラモジュール206の開始などを含む機能を開始してもよい。任意の適切な機能は、ボタン210を作動させることによって開始され得る。
【0016】
図3は線3-3に沿って切断した
図2における電子ドアベル122の断面
図300、および断面
図300における電子ドアベルのカメラ側の端208の拡大
図302を示す。筐体202内において、電子ドアベル122は少なくともメインロジックボード304およびカメラボード306を含む複数のプリント回路基板(PCB(複数可))を含む。追加のPCB(複数可)もまた使用され得る。PCB(複数可)はシステムオンチップ(SoC)ICデバイス、プロセッサ、および発光ダイオード(複数可)(LED(複数可))、マイクロフォン(複数可)、タッチ入力、ボタン押下、音声コマンド、または動きなどの入力を検知するためのセンサ用のIC構成要素などの、様々な集積回路(IC)構成要素を含み得る。電子ドアベル122はまた、カメラモジュール206(例えば、カメラ)、バッテリ308、ボタン210、およびスピーカーモジュール310を含む。バッテリ308はカメラ側の端208とボタン側の端212との間に配置され得る。
【0017】
スピーカーモジュール310は、音声を電子ドアベル122の前面および/または側面(例えば、筐体202の前面312と直交する側面)に向けて出力し得る。スピーカーモジュール310は、訪問者(例えば、ボタン210を押すユーザ)が録音された音声メッセージまたはドアベル所有者からのリアルタイム音声伝送を含む可聴メッセージを聞くことを可能にすることができる。
【0018】
バッテリ308は電子ドアベル122に電源を供給し、電子ドアベル122を無線可能にする。電子ドアベル122はバッテリ駆動であるため、電子ドアベル122を電力源に配線することなく、電子ドアベル122は任意の適切な場所に取り付けられ得る。例えば、電子ドアベル122は家の内部の電源に配線を接続するために家に穴を開けることなく、ユーザーの家の玄関ドアに近接するユーザの家に取り付けられ得る。
【0019】
PCBs(例えば、メインロジック基板304、カメラ基板306)は、例えば、FR4などのガラス強化エポキシ材料から形成されてもよい。場合によっては、PCBsは単層の導電性トレースを含んでもよく、単層基板であってもよい。他の例では、PCBsは誘電体材料の層によって分離される複数層の導電性トレースを含む多層基板であってもよい。
【0020】
電子ドアベル122はまた、カメラ側の端208に近接する筐体202内に取り付けられた受動赤外線(PIR)センサ314を含む。PIRセンサ314はPIRセンサ314のFOV内のオブジェクト(例えば、人または動物)の動きを検出するように構成される。
【0021】
カメラモジュール206は、イメージセンサ128およびレンズ130を含む様々な構成要素を含む。ある局面において、レンズ130は光学的中心(例えば、レンズ130の幾何学的中心を通りレンズ表面の曲率中心を結合する直線を表わすレンズ光軸316)を有する。イメージセンサ128もまた光学的中心(例えばイメージセンサ光軸318)を有し、従来のカメラシステムにおける光学的中心は、典型的にレンズ130のレンズ光軸316と位置合わせされる。しかしながら、本明細書において説明されている電子ドアベル122において、イメージセンサ光軸318は、レンズ光軸316から垂直方向にずれている。さらに詳細は、
図4に関連して説明される。
【0022】
図4はレンズ130(
図1において示される)に対するイメージセンサ128の非対称な位置決めに基づくイメージサークル134に関するセンサ検出領域132の実施例400を示す。ある局面において、イメージセンサ128はイメージサークル134に対して、センサ検出領域132をずらすためにレンズ130に対してずらされる。加えて、イメージセンサ128はセンサ検出領域132を縦向き(例えば、3:4縦向き)にさせるために90度回転される。この縦向きはイメージセンサ128にとって、水平面(例えば、幅404)よりも大きい垂直面(例えば、高さ402)を提供する。イメージセンサ128の縦向きおよび移動を両方を実施することによって、垂直AOV(および対応するvFOV)は増加される(例えば、ほぼ130°の垂直AOV124を示す
図1の例120を参照する)。したがって、イメージセンサ128の高さ402はイメージセンサ128がほぼ130°のレンズ130の垂直AOVに対応するイメージサークル134の領域を撮影することを可能にする。
【0023】
イメージサークル134は、中間部410によって分離され垂直に積み重ねられ配置された上部406および下部408を含む複数の部分を含んでもよい。上部は、イメージサークルの上の端412に近接して位置付けられる。下部は、イメージサークルの下の端414に近接して位置付けられる。いくつかの例において、中間部は中間部420によって分離され、水平に積み重ねられた左部分416および右部分418にさらに分割されてもよい。用語「上部」および「下部」は示された例に関連して説明され、外的要因(例えば、地球、重力)に対する構成要素の特定の向きに関して限定されることを意図するものではないことに留意されたい。説明された技術は、本明細書において用語「上部」および「下部」が入れ替わること、およびイメージセンサ128によって検出された時、投影された場面の画像が反転されるミラー反転を伴うレンズ配置に技術を適用することによってもまた実施され得る。
【0024】
ある局面において、イメージサークル134は180°レンズよりも実質的に安価であり得るほぼ160°のAOV範囲を有するレンズ130(160°レンズと呼ばれる)と関連付けられ得る。160°レンズを使用する従来のカメラシステムにおいて、センサ検出領域132(例えば、矩形形状を有する)は、センサ検出領域132の角の全てがイメージサークル134内に位置付けられた場合、イメージサークル134(例えば、楕円形を有する)において撮影された画像の上部および下部(例えば、それぞれ上部406および下部408)を撮影しないことがある。
【0025】
しかしながら、図示された例において、センサ検出領域132の上部の2つの角(例えば、上部の角422)はイメージサークル134の楕円形(例えば、円形)の内部に位置付けられ、下部の2つの角(例えば、下部の角424)はイメージサークル134の境界の外部に位置付けられている。イメージセンサ光軸318は、レンズ光軸316と水平方向に並べられる(例えば、水平軸426に沿って並べられる)が、レンズ光軸316と垂直方向に非対称になるように垂直方向にずらされる(垂直軸428に沿って)。ミラー反転レンズ配置を用いる例において、下部の角424はイメージサークル134内部に位置付けられ得、一方上部の角422はイメージサークル134の外部に位置付けられ得る。
【0026】
このイメージセンサ光軸318は任意の適切な距離(例えば、オフセット距離430)だけレンズ光軸316に対してずらされてもよく、これによりイメージセンサ128はイメージサークル134の境界(例えば、端)に近接するイメージサークル134の下部408を撮影することができる。一例において、オフセット距離430は実質的に0.15ミリメートル(mm)から0.35mmの範囲内であり得る。ある局面において、上部406(例えば、イメージサークル134の上部の端412と、センサ検出領域132の上の端432との間の領域)は、一般的に興味のないまたは重要でない画像データを有する人の頭の上部領域を含むため、有用な画素を含まなくてもよい。したがって、センサ検出領域132の上部の角422をイメージサークル内に配置することは、撮影した画像の上部の2つの角の領域が黒色の画素を有することを防止する。しかしながら、下部408は、電子ドアベル122が取り付けられる壁に近接した地面の上に位置付けられたパッケージ114(
図1において示された)を含み得るため、有用な画素を含んでもよい。したがって、下部の角424がイメージサークル134の外側に位置付けられることで、下部408を撮影することが可能になる。
【0027】
センサ検出領域132の一部分は、イメージセンサ128上に投影されるイメージサークル134の下部の端414を超えているため、センサ検出領域132は撮影された画像の対応する底部の角の領域において、黒の画素(例えば、ケラレ)をもたらす2つの下部の角の領域434を含み得る。その結果、イメージセンサ128によって撮影された画像の底部の角の領域は黒くなるが、歪み訂正技術を使用することで補正され得る。しかしながら、イメージセンサ128をずらすことは、画像に適用される歪み訂正技術によって特に画像の角に近いオブジェクトにもたらされ得る歪みおよび画像の乱れを減らす。ある局面において、センサ検出領域132の底部の端(イメージサークル134の外部にある角(例えば、下部の角424)の間の底部の端438)の中心(例えば、中点436)は、イメージサークル134の端に接するまたはイメージサークル134の外部にあるのではなく、イメージサークル134内に位置付けられる。イメージサークル134に対するセンサ検出領域132の底部の端438のこの位置付けは、撮影された画像の底部の近くに含まれる黒色の画素の数を減らし、本明細書に記載のレンズ歪み訂正技術の効率を向上させる。しかしながら、他の例において、センサ検出領域132の底部の端438の中心は、イメージサークル134の端(例えば、下部の端414)に接していてもよい。さらに他の例において、センサ検出領域132の底部の端438の中点436は、イメージサークル134の下部の端414を超えて位置し得るが、除去のためにいくつかの追加の後処理手順を必要とする追加の黒色画素をもたらし得る。
【0028】
さらに、イメージサークル134に対してセンサ検出領域をずらすことは、ユーザにとって有用な画素数を増加すること(例えば、最大化すること)によって、画像の質を向上させる。例えば、上部406を撮影し、続いて対応するデータをトリミングすることは、画素が「捨てられる」ため、画像の質を低下させる。有限個の画素を撮影し、一部(例えば、上部406)を除去し、そしてユーザ画面上に表示するための結果の画像を拡大することにより、画像の残りの部分がぼやけ、またはピクセル化され得る。したがって、センサ検出領域132をずらすことによって、イメージセンサ128は、有用な画像データを有し、および/またはユーザにとって重要な画像のそれらの部分を撮影している(例えば、電子ドアベル122の下の地面に置かれたパッケージと同様に人の顔を撮影するためのより大きなvFOV)。その結果、本明細書で説明されるように、イメージセンサ128をずらし、撮影した画像に対して後処理を行うことは、画像を撮影するためのvFOVを増加させることだけではなく、最終結果に使用される画素数を減少させる(例えば、最小化させる)ことになり、画質を増加させる(例えば、最大化させる)。
【0029】
図5は、向上されたパッケージ検出のためにイメージサークルに対してずらされたセンサ検出領域の実施例500を示す。図示された例において、イメージサークル134は実質的に楕円(例えば、円)として示される。しかしながら、イメージサークル134はレンズ130の形状および曲率に基づく任意の適当な形状であってもよい。センサ検出領域132は、イメージセンサ128上に投影されたイメージサークル134の一部を撮影する。図示された例において、イメージサークル134は電子ドアベル122の正面に立っている人(例えば、人110)の画像を含む。パッケージ(例えば、パッケージ114)はイメージサークル134の下部408に示されている。イメージサークル134の上部406は、画像内の人110の頭および顔108の上の空間を撮影し、人110に関連するいかなるデータも含まない。イメージセンサ128がセンサ検出領域132内に境界付けられる画像の一部を撮影した後、撮影される画像に対して歪み訂正は行われてもよく、その一例は
図6に関して説明される。
【0030】
図6は電子ドアベルにおける非対称のカメラセンサ位置決めにしたがうレンズ歪み訂正の実施例600を示す。まず、(
図1からおよびレンズ130に対してずらした)イメージセンサ128はイメージサークル134の一部、およびセンサ検出領域132の底部に近いイメージサークル134の外側の一部(例えば、領域434の2つの下部の角)を含む画像(例えば、画像602-1)を撮影する。図示されるように、撮影された画像602-1はイメージサークル134の下部408、およびセンサ検出領域132の2つの下部の角の領域434に対応する黒色の角の領域604-1を含む。しかしながら、撮影された領域602-1はセンサ検出領域132の上の端432の上のイメージサークル134の上部406を含まない。撮影された画像602-1はパッケージ114-1もまた含む。いくつかの局面において、撮影された画像602-1は黒い角の領域604-1に近接するイメージサークル134の端の近くの暗い画素(例えば、領域606-1)または他の乱れもまた含み得る。
【0031】
台形補正608は非対称補正のための台形画像602-2を提供するために、撮影された画像602-1に適用される。撮影された画像602-1はレンズ130に対するイメージセンサ128の非対称な位置決めによる垂直方向の非対称性を含むため、台形補正608はレンズ歪みの一部を除去するために適用される。
【0032】
台形画像602-2は歪みを除去された画像602-3を提供するために歪みを除去され、これは元の撮影された画像602-1のレンズ歪み(例えば、垂直方向の非対称性)の一部を補正する。歪みを除去された画像602-3の人110-2は、元の撮影された画像602-1の人110-1より細い(例えば、歪みが少ない)ことに注目する。さらに、黒い角の領域604-1は黒い角の領域604-2のサイズに小さくなっている。領域606-1もまた領域606-2のサイズに小さくなっている。いくつかの局面において、パッケージ114-1は台形画像602-2の歪み除去のために変更され得る。例えば、歪みが除去された画像602-3のパッケージ114-2は元の撮影された画像602-1のパッケージ114-1より小さい。しかしながら、パッケージ114-2は、ユーザの玄関先のパッケージとして識別できるために十分な大きさである。ある局面において、台形補正608は台形形状を画像に適用することを含み、台形形状は画像の上部でより狭く、画像の下部でより広くなる。台形補正はその後の画像の歪み補正中に画像の上部の方に乱れが発生するリスクを減らす。
【0033】
歪み除去された画像602-3の端は、歪み補正された画像602-4を提供するために歪み補正される。歪み除去された画像602-3の端の歪み補正は、画像の底部から黒い角の領域604-2を除去する。ある局面において、歪み補正はパッケージ114-3にいくつかの歪みを引き起こす可能性があるが、人110-3のレンズ歪みは著しく低減される。さらに、歪みを完全に訂正することは画像内に乱れを生じさせる可能性があり、乱れは最終画像を劣化させ、ユーザエクスペリエンスを低下させるため、ある程度の歪みは許容され得る。一例において、歪み補正された画像602-4はイメージサークル134の端に近接していた暗くなった画素の領域606-3を含んでもよい。
【0034】
歪み補正された画像602-4は領域606-3の暗くなった画素を除去し、最終画像602-5を提供するために明るくされ得る。最終画像602-5は、人110-3(人の頭および顔を含む)および最終画像602-5の底部の角(例えば、底部の角の領域610)に黒色または暗くなった画素を伴わないパッケージ114-3を含む歪み訂正画像を含む。次に、最終画像602-5は、表示のためにユーザデバイス(例えば、スマートフォン)に提供され得る。
【0035】
方法例
図7は、本明細書に記載された技術によって、非対称のイメージセンサ位置決めを伴う電子ドアベルによって引き起こされるレンズ歪みを補正するための方法例700を示す。ある局面において、方法700は、電子ドアベル122の1つ以上のプロセッサによって実行され得る。
【0036】
702において、レンズに対して非対称に配置されたイメージセンサに基づいて、少なくとも部分的にレンズ歪みを有する画像が撮影されるおよび受信される。ある局面において、イメージセンサ128はレンズ130に対して非対称に配置され、その結果レンズ光軸316(例えば、レンズ130の光学中心)からイメージセンサ光軸318(例えば、イメージセンサ128の光学中心)の垂直方向のずれが生じる。また、画像センサ128は縦向きに配向される。レンズ130に対するイメージセンサ128の向きおよび非対称の位置決めの結果として、センサ検出領域132はイメージサークル134の下部(例えば、下部408)およびイメージサークル134の境界を越える領域(例えば、下部の角の領域434)を含むようにイメージサークル134の中心から垂直方向にずれ、結果として撮影された画像は黒い角の領域604-1を有する。
【0037】
704において、台形画像を提供するために台形補正は撮影された画像に適用される。例えば、台形補正608は、レンズ130に対するイメージセンサ128の非対称な位置決めから生じる垂直方向の非対称性を補正するのに使用可能な、台形画像602-2を提供するように、撮影された画像602-1に適用され得る。
【0038】
706において、台形画像は、歪み除去された画像を提供するために歪み除去される。例えば、台形画像602-2は垂直方向の非対称性を補正しかつ歪み除去された画像602-3を提供するように歪みを除去され得る。例えば、台形画像602-2をまっすぐにすることは、台形602-2を本質的に画像の底部においてよりも上部においてより大きく引き伸ばす。
【0039】
708において、歪み除去された画像は、歪み補正された画像を提供するために歪み補正される。例えば、歪み除去された画像602-3の端は、歪み補正された画像602-4を提供するように歪み補正される。歪み補正は、センサ検知領域132の2つの下部の角の領域434に対応する黒い領域(例えば、黒い角の領域604)を除去する。
【0040】
710において、歪み補正された画像は、最終画像を提供するために明るくされる。例えば、歪み補正された画像602-4は、レンズ歪みが補正されかつ黒い角を有しない最終画像602-5を提供するように明るくされる。
【0041】
712において、最終画像はコンピュータ可読記憶メモリに提供される。例えば、最終画像602-5は、ローカルストレージまたはリモートストレージ(例えば、オンラインストレージ)に格納されてもよい。電子ドアベル122はバッテリ駆動であるため、最終画像602-5はリモートデータストレージに無線で通信されてもよい。
【0042】
714において、最終画像はユーザデバイス(例えば、スマートフォン)に出力される。一例において、最終画像602-5は、ローカルストレージまたはリモートストレージへアクセスするための要求に基づいてユーザデバイスに提供され得る。必要に応じて、712においてメモリストレージに最終画像を提供する前に、または同時に、最終画像は714においてユーザデバイスに出力され得る。したがって、本明細書において記載された技術は黒い角のない向上されたvFOVを有する最終画像602-5を提供するために、3:4縦配置のイメージセンサの台形歪み補正を含む。これらの技術は、典型的には従来のイメージセンサのFOVの外側にあり得る、イメージサークル134の下部408に配置されるパッケージまたは他の物体のパッケージ検出を向上することを可能にする。したがって、このようなパッケージは最終画像602-5に基づいて検出されてもよく、パッケージが存在すること、または、場合によっては、パッケージが持ち去られたことをユーザに通知するために、電子ドアベル122に関連付けられた他の電子デバイスのユーザに通知は提供され得る。
【0043】
コンピューティングシステムの例
図8は
図1~7を参照して記載したように、非対称のカメラセンサ位置決めの局面を実装する任意の電子デバイス(例えば、電子ドアベル122)として実施されることができるデバイス例802を含むシステム例800を示すブロック図である。デバイス例802は任意のタイプのコンピュータデバイス、クライアントデバイス、携帯電話、タブレット、通信、娯楽、ゲーム、メディア再生、および/または他のタイプのデバイスであってもよい。さらに、デバイス例802はサーモスタット、ドアベル、ハザード検出器、カメラ、照明ユニット、試運転デバイス、ルータ、境界ルータ、ジョイナールータ、ジョイナーデバイス、エンドデバイス、リーダ、アクセスポイント、ハブ、および/または他の電子デバイスなど、ネットワーク上で通信するために構成される任意の他のタイプの電子デバイスとして実装されてもよい。デバイス例802は、電子回路、マイクロプロセッサ、メモリ、入出力(I/O)ロジック制御、通信インターフェイスおよび構成要素、およびネットワークを介して通信するための他のハードウェア、ファームウェア、および/またはソフトウェアと統合されることができる。さらに、デバイス802は以下でさらに説明するように、任意の数の異なる構成要素およびそれらの組み合わせなど様々な構成要素で実装されることができる。
【0044】
デバイス802はネットワーク内のデバイス間で通信されるデータ、受信されているデータ、ブロードキャスト用にスケジュールされたデータ、データのデータパケット、デバイス間で同期されるデータなど、デバイスデータ806の有線および/または無線通信を可能とする通信デバイス804を含む。デバイスデータはデバイス上で実行するアプリケーションによって生成されるオーディオ、ビデオ、および/または画像データと同様に任意のタイプの通信データを含むことができる。通信デバイス804は携帯電話通信用および/またはネットワークデータ通信用の送受信機も含むことができる。通信デバイス804は複数の異なる無線通信システムのためのワイヤレス無線システムを含むことができる。ワイヤレス無線システムは、Wi-Fi、Bluetooth(登録商標)、モバイルブロードバンド、Bluetooth Low Energy(BLE)、および/またはポイントツーポイントIEEE802.15.4を含んでもよい。異なる無線システムのそれぞれは特定のワイヤレス通信技術のために実装される無線デバイス、アンテナ、およびチップセットを含むことができる。
【0045】
デバイス802は、デバイス、データネットワーク(例えば、内部ネットワーク、外部ネットワークなど)、および他のデバイス間の接続および/または通信リンクを提供するデータネットワークインターフェイスなどの入出力(I/O)インターフェイス808もまた含む。I/Oインターフェイスは、デバイスを任意のタイプの構成要素、周辺装置、および/または付属装置に結合するために使用され得る。I/Oインターフェイスは、任意のコンテンツおよび/またはデータソースから受信されたオーディオ、ビデオ、および/または画像データなどの任意のタイプの通信データと同様に、デバイスへのユーザ入力などの任意のタイプのデータ、メディアコンテンツ、および/または入力が受信され得るデータ入力ポートも含む。
【0046】
デバイス802は、実行可能な命令を処理する任意のタイプのマイクロプロセッサ、コントローラのようなものなどを有するハードウェアにおいて、少なくとも部分的に実装され得る処理システム810を含む。処理システムは、システムオンチップ(SoC)として実装されるプロセッサおよびメモリシステムのような、集積回路、プログラマブルロジックデバイス、1つ以上のセミコンダクタを使用して形成されたロジックデバイス、およびシリコンおよび/またはハードウェアにおける他の実装の構成要素を含むことができる。あるいは、または、加えて、デバイスは、ソフトウェア、ハードウェア、ファームウェア、または処理および制御回路と実装され得る固定ロジック回路の任意の1つまたは組み合わせで実装され得る。デバイス802は、デバイス内の様々な構成要素を結合する任意のタイプのシステムバス、または他のデータおよびコマンド転送システムをさらに含んでもよい。システムバスは制御およびデータラインと同様に、異なるバス構成および構造の任意の1つまたは組み合わせを含むことができる。
【0047】
デバイス802はコンピューティングデバイスによってアクセスされ得、データおよび実行可能命令(例えば、ソフトウェアアプリケーション、モジュール、プログラム、機能など)の永続的ストレージを提供するデータ記憶デバイスのようなコンピュータ可読記憶メモリ812もまた含む。本明細書に記載のコンピュータ可読ストレージメモリは、伝播信号を除外する。コンピュータ可読記憶装置の例は、揮発性メモリおよび不揮発性メモリ、固定および取り外し可能メディアデバイス、およびコンピューティングデバイスアクセスのためのデータを保持する任意の適切なメモリデバイスまたは電子データストレージを含む。コンピュータ可読ストレージメモリはランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、フラッシュメモリ、および様々なメモリデバイス構成における他のタイプのストレージメモリの様々な実装を含む。
【0048】
コンピュータ可読ストレージメモリ812は、コンピュータ可読ストレージメモリによってソフトウェアアプリケーションとして維持され、処理システム810によって実行されるオペレーティングシステムのようなデバイスデータのストレージ806および様々なデバイスアプリケーション814を提供する。デバイスアプリケーションは任意の形式の制御アプリケーション、ソフトウェアアプリケーション、信号処理および制御モジュール、特定のデバイスにネイティブなコード、特定のデバイス用のハードウェア抽象化層等のようなデバイスマネージャーもまた含み得る。この例において、デバイスアプリケーションはデバイス例802が本明細書において記載される任意の電子デバイスとして実装される場合などに、パッケージ検出の向上のための非対称のカメラセンサ位置決めの態様を実装するスマートホームアプリケーション816もまた含む。デバイス802はバッテリー308のような電源818もまた含む。交流(AC)電源はデバイスのバッテリーを充電するためにも使用され得る。
【0049】
ある局面において、電子ドアベル122について説明される技術の少なくとも一部は、プラットフォーム822内の「クラウド」820上のような分散システムにおいて実装されてもよい。クラウド820はサービス824および/またはリソース826のためのプラットフォーム822を含むおよび/または代表である。
【0050】
プラットフォーム822はサーバデバイス(例えば、サービス824に含まれる)および/またはソフトウェアリソース(例えば、リソース826として含まれる)のような、ハードウェアの基礎となる機能を抽象化し、デバイス例802を他のデバイス、サーバなどに通信可能に接続する。リソース826はデバイス例802から離れたサーバ上でコンピュータ処理が実行される間に利用され得るアプリケーションおよび/またはデータを含み得る。加えて、サービス824および/またはリソース826は、インターネット、セルラーネットワーク、またはWi-Fiネットワーク上のような加入者ネットワークサービスを容易にし得る。プラットフォーム822はシステム800全体に分散された機能を有する相互接続されたデバイス実装などにおいて、プラットフォームを介して実装されるリソース826に対する需要にサービスを提供するために、リソースの抽象化および基準化する役割を果たすことができる。例えば、機能性はクラウド820の機能を抽象化するプラットフォーム822を介してはもちろん、デバイス例802で部分的に実装されてもよい。
【0051】
いくつかの例は以下に説明される。
電子ドアベルは、レンズ光軸を有しするレンズを備え、レンズは、レンズによって撮影されたシーンを表わすイメージサークルを提供し、イメージサークルは、中間部で分離されかつ垂直に積み重ねて配置された上部および下部を有し、上部は、イメージサークルの上の端に近接して配置され、下部は、イメージサークルの下の端に近接して配置され、電子ドアベルはさらに、センサ検出領域を有するイメージセンサを備え、イメージセンサは、イメージサークルの垂直に積み重ねられて配置された部分に対して縦向きに配置され、センサ検出領域の縦向きは水平方向FOVよりも大きい垂直方向FOVを有し、かつイメージセンサは、イメージサークルの下の端に近接するイメージサークルの下部に配置されるオブジェクトの画像をイメージセンサが撮影することを可能にするように、レンズ光軸からオフセット距離だけイメージサークルの下部に向かってレンズに対して垂直方向にずらされる。
【0052】
イメージセンサは、3:4の縦向きに構成され得る。
センサ検出領域は矩形形状を有し得、イメージサークルは楕円形状を有し得、センサ検出領域は、イメージサークルの内部に配置される2つの上部の角、およびイメージサークルの外部に配置される2つの下部の角を含み得る。
【0053】
イメージセンサは、イメージセンサ光軸を有し得、イメージセンサは、レンズの垂直軸に沿ってオフセット距離だけイメージセンサ光軸をレンズ光軸からオフセットさせるように、レンズに対して垂直方向にずらされ得る。
【0054】
イメージセンサ光軸は、レンズ光軸と平行であり得る。
オフセット距離は、実質的に0.15ミリメートルから0.35ミリメートルの範囲内であり得る。
【0055】
イメージサークルは、約160度の画角を有するレンズに基づくシーンを表わす。
レンズに対するイメージセンサの縦向きおよび垂直方向へずらすことは、イメージセンサが約130度のレンズの垂直方向の画角に対応するイメージサークルの領域を撮影することを可能にし得る。
【0056】
電子ドアベルは、撮影された画像の下部の角の領域内の黒い領域を取り除くために、イメージセンサによって撮影される画像上でレンズ歪み訂正を実行するように構成されるプロセッサをさらに備え得る。
【0057】
プロセッサは、垂直方向の非対称性を補正するために使用できる台形画像を提供するように撮影された画像に台形補正を適用することと、垂直方向の非対称性を補正するために台形画像の歪みを取り除いて歪みが取り除かれた画像を提供することとによって、レンズ歪み訂正を実行するように構成され得る。
【0058】
プロセッサは下部の角の領域内の黒い領域を取り除き歪み補正された画像を提供するように、歪み除去された画像をさらに歪み補正することにより、レンズ歪み訂正を実行するように構成され得る。
【0059】
プロセッサは表示用の最終画像を提供するように、歪み補正された画像をさらに明るくすることにより、レンズ歪み訂正を実行するために構成され得る。
【0060】
イメージセンサは、イメージサークル内に配置されるセンサ検出領域の底部の端の中点を有するように位置決めされ得る。
【0061】
非対称のイメージセンサ位置決めを有する電子ドアベルによって引き起こされるレンズ歪みを補正するための方法であって、方法は、電子ドアベルのイメージセンサを使用して画像を撮影することを備え、電子ドアベルは、縦向きに配向されたセンサ検出領域、および電子ドアベルのレンズのレンズ光軸から垂直方向にずらされるイメージセンサ光軸を備え、センサ検出領域は、レンズによりイメージセンサ上に投影されるイメージサークルの内部に配置される上部の角およびイメージサークルの外部に配置される下部の角を有し、方法は、イメージセンサ光軸が垂直方向にずらされることの結果である垂直方向の非対称性を補正するために使用できる台形画像を提供するように撮影された画像に台形補正を適用することと、垂直方向の非対称性を補正し歪みが除去された画像を提供するように、台形画像の歪みを取り除くことと、センサ検出領域の下部の角に対応する黒い領域を除去し歪み補正された画像を提供するように、歪みが除去された画像を歪み補正することと、電子デバイス上に表示するための最終画像を提供するように歪み補正された画像を明るくすることとを備える。
【0062】
方法はさらに、最終画像に基づいて、イメージサークルの端に近接するイメージサークルの下部に位置するパッケージを検出することと、パッケージが存在するという電子デバイスのユーザへの表示を提供することとを備え得る。
【0063】
結論
さらにパッケージ検出の向上のために位置付けられた非対称カメラセンサの局面は特徴および/または方法に、固有の言語で説明されていて、添付の特許請求の範囲の主題は、説明された特定の特徴または方法に限定されない。むしろ、特定の特徴および方法は、請求されたパッケージ検出の向上のために位置付けられた非対称カメラセンサの実施例として開示され、他の同等の特徴および方法は、添付の特許請求の範囲内にあることが意図される。さらに、様々に異なる局面は説明され、各記載された局面は、独立してまたは1つ以上の他の記載された局面と関連して実施され得ると理解される。
【手続補正書】
【提出日】2024-02-14
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
電子ドアベルであって、
レンズ光軸を有するレンズを備え、前記レンズは、前記レンズによって撮影されたシーンを表わすイメージサークルを提供し、前記イメージサークルは、中間部で分離されかつ垂直に積み重ねて配置された上部および下部を有し、前記上部は、前記イメージサークルの上の端に近接して配置され、前記下部は、前記イメージサークルの下の端に近接して配置され、
前記電子ドアベルはさらに、センサ検出領域を有するイメージセンサを備え、前記イメージセンサは、
前記イメージサークルの前記垂直に積み重ねて配置された部分に対して縦向きに配置され、前記センサ検出領域の前記縦向きは、水平寸法よりも大きい垂直寸法を有し、かつ、
前記イメージセンサは、前記イメージサークルの前記下の端に近接する前記イメージサークルの前記下部に配置されるオブジェクトの画像を前記イメージセンサが撮影することを可能にするように、前記レンズ光軸からオフセット距離だけ前記イメージサークルの前記下部に向かって前記レンズに対して垂直方向にずらされる、電子ドアベル。
【請求項2】
前記イメージセンサは、3:4の縦向きに構成される、請求項1に記載の電子ドアベル。
【請求項3】
前記センサ検出領域は矩形形状を有し、前記イメージサークルは楕円形状を有し、
前記センサ検出領域は、前記イメージサークルの内部に配置される2つの上部の角、および前記イメージサークルの外部に配置される2つの下部の角を含む、請求項1または請求項2に記載の電子ドアベル。
【請求項4】
前記イメージセンサは、イメージセンサ光軸を有し、
前記イメージセンサは、前記レンズの垂直軸に沿って前記オフセット距離だけ前記イメージセンサ光軸を前記レンズ光軸からオフセットさせるように、前記レンズに対して垂直方向にずらされる
、請求項
1~3のいずれ
かに記載の電子ドアベル。
【請求項5】
前記イメージセンサ光軸は、前記レンズ光軸と平行である、請求項4に記載の電子ドアベル。
【請求項6】
前記オフセット距離は、実質的に0.15ミリメートルから0.35ミリメートルの範囲内である
、請求項
1~5のいずれ
かに記載の電子ドアベル。
【請求項7】
前記イメージサークルは、約160度の画角を有する前記レンズに基づく前記シーンを表わす
、請求項
1~6のいずれ
かに記載の電子ドアベル。
【請求項8】
前記レンズに対する前記イメージセンサの前記縦向きおよび前記垂直方向へずらすことは、イメージセンサが約130度の前記レンズの垂直方向の画角に対応する前記イメージサークルの領域を撮影することを可能にする
、請求項
1~7のいずれ
かに記載の電子ドアベル。
【請求項9】
前記電子ドアベルは、前記撮影された画像の下部の角の領域内の黒い領域を取り除くように、前記イメージセンサによって撮影される画像上でレンズ歪み訂正を実行するように構成されるプロセッサをさらに備える
、請求項
1~8のいずれ
かに記載の電子ドアベル。
【請求項10】
前記プロセッサは、垂直方向の非対称性を補正するために使用できる台形画像を提供するように前記撮影された画像に台形補正を適用することと、
垂直方向の前記非対称性を補正するために前記台形画像の歪みを除去し、歪みが除去された画像を提供することとによって、レンズ歪み訂正を実行するように構成される、請求項9に記載の電子ドアベル。
【請求項11】
前記プロセッサは
、前記下部の角の領域内の前記黒い領域を取り除き歪み補正された画像を提供するように、前記歪みが除去された画像をさらに歪み補正することにより、前記レンズ歪み訂正を実行するように構成される、請求項10に記載の前記電子ドアベル。
【請求項12】
前記プロセッサは
、表示用の最終画像を提供するように、前記歪み補正された画像をさらに明るくすることにより、前記レンズ歪み訂正を実行するように構成される、請求項11に記載の電子ドアベル。
【請求項13】
前記イメージセンサは、前記イメージサークル内に配置される前記センサ検出領域の底部の端の中点を有するように位置決めされる
、請求項
1~12のいずれ
かに記載の電子ドアベル。
【請求項14】
非対称のイメージセンサ位置決めを有する電子ドアベルによって引き起こされるレンズ歪みを補正するための方法であって、前記方法は、
前記電子ドアベルのイメージセンサを使用して画像を撮影することを備え、前記電子ドアベルは、
縦向きに配向されたセンサ検出領域、および
前記電子ドアベルのレンズのレンズ光軸から垂直方向にずらされるイメージセンサ光軸を備え、前記センサ検出領域は、前記レンズにより前記イメージセンサ上に投影されるイメージサークルの内部に配置される上部の角および前記イメージサークルの外部に配置される下部の角を有し、前記方法は、
イメージセンサ光軸が垂直方向にずらされることの結果である垂直方向の非対称性を補正するために使用できる台形画像を提供するように前記撮影された画像に台形補正を適用することと、
垂直方向の前記非対称性を補正し歪みが除かれた画像を提供するように、前記台形画像の歪みを除くことと、
前記センサ検出領域の下部の角に対応する黒い領域を除去し歪み補正された画像を提供するように、前記歪みが除去された画像を歪み補正することと、
電子デバイス上に表示するための最終画像を提供するように前記歪み補正された画像を明るくすることとを備える、方法。
【請求項15】
前記方法はさらに、
前記最終画像に基づいて、前記イメージサークルの端に近接する前記イメージサークルの下部に位置するパッケージを検出することと、
前記パッケージが存在するという前記電子デバイスのユーザへの表示を提供することとを備える、請求項14に記載の方法。
【国際調査報告】