(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024085412
(43)【公開日】2024-06-26
(54)【発明の名称】異なる関心領域に関する動力車両用カメラの焦点調整
(51)【国際特許分類】
H04N 25/70 20230101AFI20240619BHJP
H04N 25/531 20230101ALI20240619BHJP
H04N 25/532 20230101ALI20240619BHJP
H04N 7/18 20060101ALI20240619BHJP
G03B 15/00 20210101ALI20240619BHJP
G02B 7/28 20210101ALI20240619BHJP
G08G 1/16 20060101ALI20240619BHJP
【FI】
H04N25/70
H04N25/531
H04N25/532
H04N7/18 E
G03B15/00 V
G03B15/00 A
G02B7/28 N
G08G1/16 C
【審査請求】未請求
【請求項の数】15
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023210511
(22)【出願日】2023-12-13
(31)【優先権主張番号】10 2022 133 188.1
(32)【優先日】2022-12-14
(33)【優先権主張国・地域又は機関】DE
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.FRAM
2.PYTHON
(71)【出願人】
【識別番号】514189527
【氏名又は名称】コノート、エレクトロニクス、リミテッド
【氏名又は名称原語表記】CONNAUGHT ELECTRONICS LTD.
(74)【代理人】
【識別番号】100120031
【弁理士】
【氏名又は名称】宮嶋 学
(74)【代理人】
【識別番号】100127465
【弁理士】
【氏名又は名称】堀田 幸裕
(74)【代理人】
【識別番号】100130719
【弁理士】
【氏名又は名称】村越 卓
(72)【発明者】
【氏名】パトリック、マクデッド
【テーマコード(参考)】
2H151
5C024
5C054
5H181
【Fターム(参考)】
2H151AA07
2H151CE14
2H151DA03
2H151DA07
2H151DA30
5C024CY17
5C024EX12
5C024EX42
5C024GY31
5C054CA04
5C054CC02
5C054FC12
5C054FF02
5C054FF07
5C054HA29
5C054HA30
5H181AA01
5H181CC04
5H181FF27
5H181LL01
5H181LL02
5H181LL04
5H181LL09
(57)【要約】 (修正有)
【課題】複数のROIに関する最適な焦点設定を行うことのできる、動力車両用カメラを提供する。
【解決手段】動力車両用カメラの焦点調整のために、2つ以上の予め定められたROI(6a、6b、6c)に対応するターゲット焦点設定が与えられる。第1焦点設定が、それぞれのターゲット焦点設定に応じて、ROIの第1サブセットに関して決められる。カメラの撮像デバイスにより、第1フレーム期間中に第1画像が取得され、少なくとも第1フレーム期間の一部の間に第1焦点設定が使用される。第2焦点設定が、それぞれのターゲット焦点設定に応じて、ROIの第2サブセットに関して決められる。第2画像が、第1フレーム期間の後の第2フレーム期間の間に取得され、少なくとも第2フレーム期間の一部の間に第2焦点設定が使用される。
【選択図】
図2
【特許請求の範囲】
【請求項1】
動力車両用カメラ(3)の焦点調整のための方法であって、
- 前記カメラ(3)の視野内の2つ以上の所定の関心領域ROI(6a、6b、6c、7a、7b、7c)の各々に関し、前記カメラ(3)に関する対応のターゲット焦点設定が提供され;
- 第1焦点設定が、前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の第1サブセットに関し、ROIの前記第1サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて決定され;
- 第1画像が、前記カメラ(3)の撮像デバイス(10)によって第1フレーム期間(F1)の間に取得され、前記第1焦点設定が、少なくとも前記第1フレーム期間(F1)の一部の間に使用され;
- 第2焦点設定が、前記2つ以上の所定のROI(6a、6b、6c、7a、7b、7c)の第2サブセットに関し、ROIの前記第2サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、決定され;
- 前記第1焦点設定が前記第2焦点設定に変更され、第2画像が、前記撮像デバイス(10)によって、前記第1フレーム期間(F1)の後の第2フレーム期間(F2)の間に取得され、前記第2焦点設定は、少なくとも前記第2フレーム期間(F2)の一部の間に使用される、
ことを特徴とする方法。
【請求項2】
- 前記ターゲット焦点設定は、ROIの前記第1サブセットのすべてのROIについて同一であり且つ前記第1焦点設定と同一であり;及び/又は
- 前記ターゲット焦点設定は、ROIの前記第2サブセットのすべてのROIについて同一であり且つ前記第2焦点設定と同一である、
ことを特徴とする請求項1に記載の方法。
【請求項3】
- ROIの前記第1サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定間を補間することによって、又は、ROIの前記第1サブセットの少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算され;及び/又は
- ROIの前記第2サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定間を補間することによって、又は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算される、
ことを特徴とする請求項1に記載の方法。
【請求項4】
前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の各々について、それぞれの相対的な優先度が与えられ、
- ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定間の前記補間又はROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定の前記平均化は、ROIの前記第1サブセットの前記相対的な優先度に応じて実行され;及び/又は
- ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定間の前記補間又はROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定の前記平均化は、ROIの前記第2サブセットの前記相対的な優先度に応じて実行される、
ことを特徴とする請求項3に記載の方法。
【請求項5】
- ROIの前記第1サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じて最適化を実行することによって計算され、前記第1焦点設定は、所定の第1目的関数の最適解によって与えられる;及び/又は
- ROIの前記第2サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第2焦点設定は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じて最適化を実行することによって計算され、前記第2焦点設定は、所定の第2目的関数の最適解によって与えられる、
ことを特徴とする請求項1に記載の方法。
【請求項6】
前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の各々について、それぞれの相対的な優先度が与えられ、
- ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じた前記最適化は、ROIの前記第1サブセットの前記相対的な優先度に応じて実行され;及び/又は
- ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じた前記最適化は、ROIの前記第2サブセットの前記相対的な優先度に応じて実行される、
ことを特徴とする請求項5に記載の方法。
【請求項7】
- 前記第1画像を取得するために、前記撮像デバイス(10)のセンサーアレイ(11)が、前記第1フレーム期間(F1)内の第1露光期間の間に、グローバルシャッターモードに従って露光され;
- 前記第2画像を取得するために、前記センサーアレイ(11)は、前記第2フレーム期間(F2)内の第2露光期間の間に、前記グローバルシャッターモードに従って露光され;
- 前記カメラ(3)の少なくとも1つの焦点パラメータが、前記第1露光期間と前記第2露光期間との間にある焦点調整期間の間に、前記第1焦点設定を前記第2焦点設定に変更するように調整される、
ことを特徴とする請求項1~6のいずれか一項に記載の方法。
【請求項8】
- 前記第1画像を取得するために、前記撮像デバイス(10)のセンサーアレイ(11)が、前記第1フレーム期間(F1)内の第1露光期間の間に、ローリングシャッターモードに従って露光され;
- 前記第2画像を取得するために、前記センサーアレイ(11)は、前記第2フレーム期間(F2)内の第2露光期間の間に、前記ローリングシャッターモードに従って露光され;
- 前記カメラ(3)の少なくとも1つの焦点パラメータが、前記第1露光期間及び/又は前記第2露光期間とオーバーラップする焦点調整期間の間に、前記第1焦点設定を前記第2焦点設定に変更するように調整される、
ことを特徴とする請求項1~6のいずれか一項に記載の方法。
【請求項9】
- 前記第1画像を取得するために、前記センサーアレイ(11)の複数の行(P)が前記ローリングシャッターモードに従って露光され;
- ROIの前記第1サブセットに対応する前記センサーアレイ(11)における少なくとも1つの第1エリアが、決定され;
- 前記複数の行の第1サブセット(P1)が決定され、行の前記第1サブセット(P1)が前記少なくとも1つの第1エリアを含み;
- 前記焦点調整期間は、行の前記第1サブセット(P1)のすべての行が前記第1露光期間の間に露光された際に又は後に開始する、
ことを特徴とする請求項8に記載の方法。
【請求項10】
- 前記第2画像を取得するために、前記センサーアレイ(11)の前記複数の行(P)が前記ローリングシャッターモードに従って露光され;
- ROIの前記第2サブセットに対応する前記センサーアレイ(11)における少なくとも1つの第2エリアが、決定され;
- 前記複数の行の第2サブセット(P2)が決定され、行の前記第2サブセット(P2)は前記少なくとも1つの第2エリアを含み;
- 前記焦点調整期間は、前記第2露光期間の間に前記第2サブセットの行(P2)のいずれかが露光される前に終了する、
ことを特徴とする請求項9に記載の方法。
【請求項11】
前記少なくとも1つの焦点パラメータを調整することは、前記センサーアレイ(11)と前記カメラ(3)のレンズユニット(9)との間の距離を変更すること、及び/又は、前記レンズユニット(9)の焦点距離を変更することを含む、
ことを特徴とする請求項7~10のいずれか一項に記載の方法。
【請求項12】
車両(1)を少なくとも部分的に自動的に誘導するための方法であって、
- 前記車両(1)の動力車両用カメラ(3)の焦点調整のための方法が、請求項1~11のいずれか一項に基づいて実行され;
- 前記車両(1)は、前記第1画像及び/又は前記第2画像に応じて、少なくとも部分的に自動的に誘導される、
方法。
【請求項13】
撮像デバイス(10)、焦点調整構成(12)及び少なくとも1つの制御ユニット(13a、13b)を備える動力車両用カメラ(3)であって、
前記少なくとも1つの制御ユニット(13a、13b)は、
- 前記カメラ(3)の視野内の2つ以上の所定の関心領域ROI(6a、6b、6c、7a、7b、7c)の各々について、前記カメラ(3)の対応のターゲット焦点設定を受けとり;
- ROIの前記第1サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、前記2つ以上の所定のROIの第1サブセットに関する第1焦点設定を決定し;
- 第1フレーム期間(F1)の間に第1画像を取得するように前記撮像デバイス(10)を制御し、前記第1焦点設定は少なくとも前記第1フレーム期間(F1)の一部の間に使用され;
- 第2焦点設定を、前記2つ以上の所定のROI(6a、6b、6c、7a、7b、7c)の第2サブセットに関し、ROIの前記第2サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、決定し;
- 前記焦点調整構成(12)を制御して前記第1焦点設定を前記第2焦点設定に変更し;
- 前記第1フレーム期間(F1)の後の第2フレーム期間(F2)の間に第2画像を取得するように前記撮像デバイス(10)を制御し、前記第2焦点設定は、少なくとも前記第2フレーム期間(F2)の一部の間に使用される、
ように構成される、ことを特徴とする動力車両用カメラ(3)。
【請求項14】
車両(1)のための電子車両誘導システム(2)であって、請求項13に記載の動力車両用カメラ(3)と、前記第1画像及び/又は前記第2画像に応じて、前記車両(1)を少なくとも部分的に自動的に誘導するための1つ又は複数の制御信号を生成するように構成される更なる制御ユニット(4)とを備える、車両(1)のための電子車両誘導システム(2)。
【請求項15】
指示を含むコンピュータプログラムプロダクトであって、当該指示は、
- 請求項13に記載の動力車両用カメラ(3)によって実行されると、前記動力車両用カメラ(3)に請求項1~11のいずれか一項に記載の方法を実行させる;又は
- 請求項14に記載の電子車両誘導システム(2)によって実行されると、前記電子車両誘導システム(2)に請求項12に記載の方法を実行させる、
コンピュータプログラムプロダクト。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動力車両用カメラの焦点調整のための方法、少なくとも部分的に自動的に車両を誘導するための方法、撮像装置、焦点調整構成及び少なくとも1つの制御ユニットを備える動力車両用カメラ、電子車両誘導システム及びコンピュータプログラムプロダクトに関する。
【発明の概要】
【0002】
写真撮影やカメラの他の適用において、フォーカシングという用語は、表現される対象又は表現される環境のある部分に焦点を合わすような、対象距離に対するそれぞれのカメラ設定及び/又はレンズ設定の調整を指す。このような調整は、以下では焦点調整又は焦点の調整とも表記される。
【0003】
カメラの動力車両適用との関連において、様々な運転支援機能又は車両を少なくとも部分的に自動的に誘導するための他の機能を実現するように、連続するフレームに従った複数の連続するカメラ画像を含むビデオストリーム又は画像ストリームがキャプチャーされて表示されてもよく及び/又は処理されてもよい。対応するフレームレートは、例えば、1秒間に数フレーム又は数十フレームのオーダーである。典型的には、15fps~60fpsのフレームレートが使用されてもよい。
【0004】
動力車両適用において、カメラの異なる焦点設定が、異なるケースに関して最適でありうる。例えば、様々な機能に関し、カメラから異なる距離にある対象が典型的に関連する。例えば、例えば車両を駐車することに関し、後退運転において車両の運転者を支援する運転者支援機能について、近くにある物体が最も関連がありうるが、その一方で、その環境における他の車両、歩行者又は更なる交通利用者を検出するコンピュータビジョンアルゴリズムに関し、最も関連のある物体は、典型的には、カメラから遠くに位置しうる。
【0005】
言い換えれば、カメラの視野において、様々な関心領域、ROI、がありうるものであり、当該ROIは様々な機能に関連があり、様々な焦点設定が様々なROIに関して最適でありうる。その結果、すべての関連のROIに関する妥協点が見つかるように、焦点設定が選択されてもよい。しかし、これは画像を利用する後続の関数の性能を損ないうる。
【0006】
文献DE102016124089A1は、動力車両におけるローリングシャッターモードでのカメラの使用について記載する。
【0007】
本発明のある目的は、動力車両用カメラの焦点調整のための改良されたコンセプトを提供することであり、当該改良されたコンセプトにおいて、様々なROIの個々の要件をより良く満たすことができ、特に、個々のROIに関する最適な焦点設定に関して低減された妥協の程度がなされることが必要とされ、その個々のROIに関する最適な焦点設定は、以下において、ターゲット焦点設定としても表される。
【0008】
この目的は、独立請求項のそれぞれの主題によって達成される。更なる実施及び好ましい実施形態は、従属請求項の主題である。
【0009】
発明は、第1フレーム期間において第1画像をキャプチャーするために、関連のROIの第1サブセットに関して決定される第1焦点設定を使用し、第2画像をキャプチャーするためにその後の第2フレーム期間において関連のROIの第2サブセットに関して異なる第2焦点設定を使用するというアイデアに基づいている。
【0010】
本発明の一態様によれば、動力車両用カメラの焦点調整のための方法が提供される。それにおいて、カメラの視野内の2つ以上の予め定められる関心領域、ROI、の各々に関し、特にカメラの少なくとも1つの制御ユニットに対し、カメラに関する対応のターゲット焦点設定が提供される。第1焦点設定は、特に少なくとも1つの制御ユニットによって、ROIの第1サブセットのROIのそれぞれのターゲット焦点設定に応じて、2つ以上の予め定められたROIの第1サブセットに関して決定される。第1画像は、カメラの撮像デバイスによって第1フレーム期間中にキャプチャーされ、第1焦点設定は、少なくとも第1フレーム期間の一部の間に使用される。第2焦点設定は、特に少なくとも1つの制御ユニットによって、2つ以上の予め定められたROIの第2サブセットに関して、ROIの第2サブセットのROIのそれぞれのターゲット焦点設定に応じて決定される。第1焦点設定は、特に焦点調整構成によって、第2焦点設定に変更され、それは、この目的のために、例えば、少なくとも1つの制御ユニットによって制御されうる。第2画像は、撮像デバイスによって、第1フレーム期間の後の第2フレーム期間中にキャプチャーされ、第2焦点設定は、少なくとも第2フレーム期間の一部の間に使用される。
【0011】
カメラの焦点設定を第1焦点設定から第2焦点設定に変更するために、カメラの少なくとも1つの焦点パラメータが、特に焦点調整構成によって、適宜調整される。特に、少なくとも1つの焦点パラメータの調整は焦点調整期間中に行われ、当該焦点調整期間は、第1焦点設定が使用される第1フレーム期間の部分が終了する際又は終了した後に開始し、第2焦点設定が使用される第2フレーム期間の部分が開始する前に終了する。
【0012】
その結果、発明による焦点調整のための方法は、少なくとも第1画像及び第2画像をキャプチャーするための方法として示されることも可能であり、第2画像をキャプチャーするための焦点調整が行われる。
【0013】
特に、ROIの第1サブセットのROIは、第1焦点設定が使用される第1フレーム期間の部分の間、カメラによって、撮像デバイスのセンサーアレイに表現又はマッピングされる。しかしながら、第1焦点設定が、第1フレーム期間の更なる部分の間に使用され、その間に、視野における領域がカメラによってセンサーアレイに表現又はマッピングされるが、それが、ROIの第1サブセットのROIのうちのいずれにも属さない又はROIの第1サブセットのROIのうちのいずれかの範囲内にはない、ということは排除されない。
【0014】
同様に、ROIの第2サブセットのROIは、第2焦点設定が使用される第2フレーム期間の一部の間に、撮像デバイスのセンサーアレイにカメラによって表現又はマッピングされる。しかしながら、第2焦点設定が、第2フレーム期間の更なる部分の間に使用され、その間に視野における領域がカメラによってセンサーアレイに表現又はマッピングされ、それは、ROIの第2サブセットのROIのいずれにも属さず又はROIの第2サブセットのいずれのROIいずれの範囲内に属さない、ことは除外されない。
【0015】
動力車両用カメラは、フロントカメラ、リアカメラ、サイドカメラなどの、車両に、特に動力車両に、取り付けられるのに適したカメラとして考えられうる。発明による方法が実行されつつ、動力車両用カメラは車両に取り付けられる。
【0016】
第1フレーム期間及び第2フレーム期間は、例えば、カメラによって生成される画像ストリーム又はビデオストリームの連続する2つのフレームに対応してもよい。その結果、第2フレーム期間は、第1フレーム期間が終了した直後に開始されてもよい。しかし、第1フレーム期間が終了する前に、第1画像に関し、センサーアレイ全体の露光が既に完了されていてもよく、及び/又は、データの読み出し、及び例えばデータ保存、が、既に完了されていてもよい。
【0017】
ここで及び以下において、ROI、特に2つ以上の予め定められたROIのうちの1つのROIは、実世界としても表されるカメラの環境における3次元体積として、例えば立方体体積又は立方体形状の体積又は他の3次元体積として、みなされてもよい。そして、3次元体積におけるポイントが、特にカメラの固有パラメータによって与えられる予め定められるやり方で、センサーアレイの2次元表面にマッピングされる。そして、ROIがマッピングされるセンサーアレイ上のセンサーピクセルは、センサーアレイ上のあるエリアに対応する。特に、ROIは、接続された3次元体積であり、対応するマッピングされたエリアは、センサーアレイの表面上における接続された部分である。例えば、2つ以上の予め定められたROIのうちのすべてのROIは、互いに異なっていてもよく、それは、しかし、オーバーラップするROIを排除するものではない。
【0018】
撮像デバイスは、光検出器のアレイに対応するセンサーアレイを含む電子デバイスとして理解されうる。センサーピクセルは、光検出器のうちの1つとして又は隣り合う2つ以上の光検出器のグループとして、理解されうる。センサーアレイは、CCDセンサー、CMOSセンサー、特にアクティブピクセルセンサー又はパッシブピクセルセンサー、或いは光に、特に可視光に、感応する他のセンサーアレイとして、設計されうる。撮像デバイスは、例えばセンサーアレイの読み出しのための及び/又は前処理目的などのために、センサーアレイに加え、更なる電子部品も含みうる。撮像デバイスは単一の半導体チップに実装されてもよく、したがって撮像デバイスチップとしても表されうる。或いは、センサーアレイ及び更なる電子部品は、2つ以上の異なる半導体チップに実装されてもよく、それらは例えば共通の回路基板に実装されてもよい。特に、撮像デバイスは、カメラの少なくとも1つの制御ユニットの1つ以上を含んでいてもよい。
【0019】
その少なくとも1つの焦点パラメータは、焦点調整が実際にどのように行われるかに依存する。例えば、焦点調整が、カメラのレンズユニットとセンサーアレイとの間の距離を調節することによって実行される場合、少なくとも1つの焦点パラメータは、センサーアレイとレンズユニットとの間の距離を含みうる又は当該距離で構成されうる。また、その少なくとも1つの焦点パラメータは、焦点調整構成を動作させるための少なくとも1つの制御パラメータを含んでいてもよく、或いは、センサーアレイとレンズユニットとの間の相対的な距離変化等を含んでいてもよい。その少なくとも1つの焦点パラメータは、また、焦点調整を実行するために焦点距離が変更されうる場合に、レンズユニットの焦点距離を含みうる。また、焦点距離の相対的な差は、その少なくとも1つの焦点パラメータを表しうる。一般に、その少なくとも1つの焦点パラメータは、センサーアレイの表面を含む面によって与えられるカメラの像面と、レンズユニットの物体側主面との間の距離に直接的又は間接的に影響を与える又は当該距離を変更する1つ又は複数のパラメータを含む。
【0020】
予め定められた第1焦点設定及び第2焦点設定は、少なくとも1つの焦点パラメータに関する値のそれぞれのセットに対応する。それはまた、第1画像又は第2画像の全体をそれぞれ撮像するための焦点設定であってもよいし、第1画像又は第2画像の一部をそれぞれ撮像するための焦点設定であってもよい。特に、第1焦点設定は第2焦点設定とは異なる。
【0021】
2つ以上のROIのうちの1つ以上を含むROIの第1サブセットは、2つ以上のROIのリアルなサブセットである。言い換えれば、ROIの第1サブセットは、2つ以上のROIのすべてを含むわけではない。ROIの第2サブセットについても同様である。ROIの第1サブセットは、ROIの第2サブセットとは異なる。ただし、ROIの第1サブセットと第2サブセットはオーバーラップしていてもよい。言い換えると、ROIの第1サブセットは、ROIの第2サブセットにも含まれる1つ以上のROIを含んでいてもよい。
【0022】
2つ以上のROIに関するターゲット焦点設定は、特に少なくとも1つの制御ユニットに、例えばカメラの記憶装置に保存された、コンピュータ読み取り可能な方法で提供される。
【0023】
所定のROIに関するターゲット焦点設定は、例えば、後続の関数のある特定の要件に従った最適な焦点設定として理解されうる。これらのターゲット焦点設定がどのように決定されるかは、本発明の範囲外である。第1焦点設定は、2つ以上のROIのターゲット焦点設定のうちの1つと同一であってもよいし、それらのすべてと異なっていてもよい。第2焦点設定についても類似的に同様である。
【0024】
発明によれば、2つの異なるフレーム期間で2つの異なる焦点設定が使用される。そのため、視野内の異なるROIについての焦点設定に関する個々の要件がより良く満たされうるものであり、異なるROIに対応するための妥協が少なくて済む。したがって、例えば、異なる最適ターゲット焦点設定に関連する異なるROIを使用する、例えばヒューマンビジョン関数(HV-関数)及び/又はコンピュータビジョン関数(CV-関数)などの、異なる車両関数に適した入力データを提供することが可能になる。
【0025】
その方法のいくつかの実施によれば、ターゲット焦点設定は、第1サブセットのすべてのROIについて同一である。この場合、第1焦点設定も、ROIの第1サブセットのROIのターゲット焦点設定と同一である。
【0026】
これらの実施のいくつかにおいて、ROIの第1サブセットは、2つ以上のROIのうちの正確に1つを含む。他の実施において、ROIの第1サブセットは、2つ以上のROIのうちの少なくとも2つを含み、それらはすべて、それぞれのターゲット焦点設定として第1焦点設定を共有する。
【0027】
いくつかの実施によれば、ターゲット焦点設定は、ROIの第2サブセットのすべてのROIについて同一であり、第2焦点設定と同一である。
【0028】
これらの実施のいくつかにおいて、ROIの第2サブセットは、2つ以上のROIのうちの正確に1つを含む。他の実施において、ROIの第2サブセットは、2つ以上のROIのうちの少なくとも2つを含み、それらはすべて、それぞれのターゲット焦点設定として第2焦点設定を共有する。
【0029】
いくつかの実施によれば、ROIの第1サブセットのターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含む。第1焦点設定は、特に、少なくとも1つの制御ユニットによって、ROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定の間を補間することによって又はROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算される。
【0030】
そのような実施において、ある程度の妥協が許容され、それは補間や平均化に由来する。しかし、補間又は平均化は、2つ以上のROIのすべてのターゲット焦点設定のすべてに関して行われるのではなく、ROIの第1サブセットのターゲット焦点設定に関してのみ実行されるため、全体的な妥協のレベルは低減される。特に、ROIの第1サブセットは、平均化又は補間の悪影響を低減するように、それぞれのターゲット焦点設定が互いに類似するように選択されてもよい。
【0031】
そのような実施において、ROIの第1サブセットに含まれるROIの数は2以上である。その結果、2つ以上のROIの総数は少なくとも3つとなる。
【0032】
算術平均、調和平均、二乗平均平方根などの計算を含む様々なタイプの平均化が前記実施に関与できることに留意される。更に、平均化する量に重み付けされてもよい。
【0033】
いくつかの実施によれば、ROIの第2サブセットのターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、第1焦点設定は、特に少なくとも1つの制御ユニットによって、ROIの第2サブセットの少なくとも2つの異なるターゲット焦点設定を補間することによって又はROIの第2サブセットの少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算される。
【0034】
そのような実施において、ROIの第2サブセットに含まれるROIの数は2以上である。その結果、2つ以上のROIの総数は少なくとも3つである。
【0035】
ROIの第1サブセットのターゲット焦点設定が少なくとも2つの異なるターゲット焦点設定を含み且つ第1サブセットが上記のように補間によって計算されるいくつかの実施によれば、2つ以上のROIの各々に関してそれぞれの相対的な優先度が与えられ、ROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定の間の補間は、ROIの第1サブセットの相対的な優先度に応じて実行される。
【0036】
ROIの第1サブセットのターゲット焦点設定が少なくとも2つの異なるターゲット焦点設定を含み且つ第1サブセットが上述のように平均化によって計算されるいくつかの実施によれば、2つ以上のROIの各々に関してそれぞれの相対的な優先度が与えられ、ROIの第1サブセットの相対的な優先度に応じて、ROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定間の平均化が実行される。
【0037】
ROIの第2サブセットのターゲット焦点設定が少なくとも2つの異なるターゲット焦点設定を含み且つ第2サブセットが上記のように補間によって計算されるいくつかの実施によれば、2つ以上のROIの各々に関してそれぞれの相対的な優先度が与えられ、ROIの第2サブセットの少なくとも2つの異なるターゲット焦点設定間の補間は、ROIの第2サブセットの相対的な優先度に応じて実行される。
【0038】
ROIの第2サブセットのターゲット焦点設定が少なくとも2つの異なるターゲット焦点設定を含み且つ第2サブセットが上述のように平均化によって計算されるいくつかの実施によれば、2つ以上のROIの各々に関してそれぞれの相対的な優先度が与えられ、ROIの第2サブセットの相対的な優先度に応じて、ROIの第2サブセットの少なくとも2つの異なるターゲット焦点設定間の平均化が実行される。
【0039】
特に、ROIの第1サブセット又は第2サブセットのいくつかのROIには、他のROIよりも高い優先度を与えることができる。第1焦点設定及び/又は第2焦点設定を適宜計算する場合、優先度の高いROI及びそれらのそれぞれのターゲット焦点設定は、補間又は平均化においてより大きな重みを与えられてもよい。その結果、優先度の高いROIを使用する機能の特定の要件が、より良く達成されうる。
【0040】
いくつかの実施によれば、ROIの第1サブセットのターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、第1焦点設定は、特に少なくとも1つの制御ユニットにより、最適化を実行することによって、計算される。その最適化は、ROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定に応じて実行され、第1焦点設定は、予め定められた第1目的関数の最適解によって与えられる。
【0041】
特に、最適化のための目的関数及び/又は境界条件は、ROIの第1サブセットの少なくとも2つの異なるターゲット焦点設定に依存しうる。例えば、最適化は、ROIの第1サブセットのすべてのROIについて合計されたそれぞれのターゲット焦点設定からの第1焦点設定の偏差を最小化することを目指してもよい。しかし、ここでも、例えばターゲット焦点設定の相対的な優先度に応じて、適切な重み付けが考慮されてもよい。境界条件は、例えば、第1焦点設定に関し、どのターゲット焦点設定に対しても、ある予め定められた最大偏差を超えるべきではないということにしうる。しかし、より複雑な又は異なるタイプの最適化も使われうる。
【0042】
また、そのような実施において、ROIの第1サブセットに含まれるROIの数は2つ以上であり、それによってその2つ以上のROIの総数は少なくとも3つである。
【0043】
補間又は平均化と比較して、第1焦点設定を決定するために最適化を使用すると、ROIの第1サブセットのすべてのROIについて共通の第1焦点設定を考慮することによる望ましくない影響を、更に低減しうる。
【0044】
いくつかの実施によれば、ROIの第2サブセットのターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、第2焦点設定は、特に少なくとも1つの制御ユニットにより、更なる最適化を実行することによって、計算される。その更なる最適化は、ROIの第2サブセットの少なくとも2つの異なるターゲット焦点設定に応じて実行され、第2焦点設定は、予め定められた第2目的関数の最適解によって与えられる。
【0045】
第2焦点設定を計算するための最適化に関する説明は、類似的に引き継がれる。
【0046】
いくつかの実施によれば、第1焦点設定が、記載されたように最適化を実行することによって計算され、2つ以上のROIの各々について、それぞれの相対的な優先度が与えられ、最適化が、ROIの第1サブセットの相対的な優先度に応じて実行される。
【0047】
いくつかの実施によれば、第2焦点設定が、記載されたように更なる最適化を実行することによって計算され、2つ以上のROIの各々について、それぞれの相対的な優先度が与えられ、更なる最適化は、ROIの第2サブセットの相対的な優先度に応じて実行される。
【0048】
特に、第1目的関数及び/又は第2目的関数は、相対的な優先度及び/又は境界条件に依存していてもよい。
【0049】
いくつかの実施によれば、撮像デバイスのセンサーアレイは、グローバルシャッターモードに従って又はローリングシャッターモードに従って、第1画像をキャプチャーするため及び/又は第2画像をキャプチャーするために、露光される。
【0050】
デジタルカメラにおいて、特に動力車両用カメラにおいて、例えば従来のデジタル一眼レフカメラで使用されているような機械式シャッターではなく、電子シャッターを使用することが知られている。電子シャッターの場合、それぞれのセンサー画素に当たる光によって、積分期間とも呼ばれる定められた露光期間中に発生した光電子のみが、ロー画像(raw image)の対応する画素値を決定するために読み出される累積電荷又は累積電圧に寄与するように、センサーアレイのセンサー画素は電子的に制御される。しかし、機械的な部品がないため、機械式シャッターの場合のように露光時間中にのみ光がそれぞれのセンサー画素に当たることになる。
【0051】
一方、電子シャッターはグローバルシャッターとして実装することができる。この場合、センサーアレイのすべてのセンサー画素が同時に露光される。言い換えれば、露光期間は、センサーアレイのすべての画素について同じ時刻に開始し、同じ時刻に終了する。一方、電子シャッターはローリングシャッターとして実装可能であり、それにおいて、センサーアレイのセンサー画素は、ラインとも表われる複数の行にグループ化され、露光時間は、既定の行のすべてのセンサー画素に関して同時に開始し及び終了する。しかし、異なる行に関する露光期間は、異なる時間に開始し及び終了する。例えば、隣り合う行に関する露光の開始の間に、あらかじめ定められた時間的オフセットがあってもよい。その結果、露光期間は複数の行の各々について1行ずつ開始され、最後の行が露光された時点でセンサーアレイ全体の露光が完了する。完全を期すため、ローリングシャッター及びグローバルシャッターの両方が機械的に実施されうることにも留意される。
【0052】
ローリングシャッターの原理ではデータの中間バッファリングが少なくて済み且つ複雑な読み出しエレクトロニクスが少なくて済むため、グローバルシャッターと比較したローリングシャッターの利点は、撮像デバイスの簡素化されたピクセルアーキテクチャを含む。更に、グローバルシャッターに関するものよりも、放熱及び電子ノイズが低減され、熱ノイズも小さくすることができる。一方、グローバルシャッターは、動く被写体の像を取得する場合にメリットがある。典型的には、グローバルシャッターモードに従って動作するカメラは、より高いフレームレートで動作しうるものであり、特に高い解像度を有しうる及び/又は短い露光時間であっても高い画質を達成しうる。
【0053】
いくつかの実施によれば、第1画像を取得するために、撮像デバイスのセンサーアレイは、第1フレーム期間内の第1露光期間中にグローバルシャッターモードに従って露光される。第2画像を取得するために、センサーアレイは、第2フレーム期間内の第2露光期間中にグローバルシャッターモードに従って露光される。カメラの少なくとも1つの焦点パラメータは、第1露光期間と第2露光期間との間にある、特に完全に第1露光期間と第2露光期間との間にある、焦点調整期間中に、第1焦点設定を第2焦点設定に変更するように、言い換えればカメラの焦点設定を第1焦点設定から第2焦点設定に変更するように調整される。
【0054】
言い換えれば、焦点調整期間は、第1露光期間が終了するとき又は終了した後に開始され、第2露光期間が開始する前又は開始したときに終了する。その結果、画像に好ましくない影響をもたらしうる及び画質を低下させうることである、センサーアレイの露光されている間に任意の焦点調整が行われることが回避される。
【0055】
いくつかの実施によれば、第1画像を取得するために、撮像デバイスのセンサーアレイは、第1フレーム期間内の第1露光期間中にローリングシャッターモードに従って露光され、第2画像を取得するために、センサーアレイは、第2フレーム期間内の第2露光期間中にローリングシャッターモードに従って露光される。
【0056】
カメラの少なくとも1つの焦点パラメータは、第1露光期間及び/又は第2露光期間とオーバーラップする焦点調整期間中に、第1焦点設定を第2焦点設定に変更するように、言い換えれば、カメラの焦点設定を第1焦点設定から第2焦点設定に変更するように、調整される。
【0057】
ローリングシャッターモードによれば、センサーアレイのセンサー画素はすべてが同時に露光されるわけではなく、言い換えれば、センサーアレイの一部は既に完全に露光されているが、別の一部はまだ完全には露光されていない可能性があるので、焦点調整期間が第1露光期間及び/又は第2露光期間と重なっても、ROIの第1サブセット及び/又は第2サブセットのマッピングに悪影響を与えることなく、焦点調整期間中に少なくとも1つの焦点パラメータを調整することが可能である。
【0058】
ローリングシャッターモードが第1画像及び第2画像を取得するために使用されるいくつかの実施によれば、センサーアレイの複数の行は、第1画像を取得するためのローリングシャッターモードに従って露光される。ROIの第1サブセットに対応するセンサーアレイにおける少なくとも1つの第1アレイが、特に少なくとも1つの制御ユニットによって、決定される。第1サブセットの複数の行が決定され、それにおいて第1サブセットの行は少なくとも1つの第1エリアを含む。焦点調整期間は、第1サブセットの行のすべての行が第1露光期間中に露光されたとき又はその後に開始し、例えば複数の行のすべての行が第1露光期間中に露光された前に開始する。
【0059】
センサーアレイは、特に、画素行及び画素列に配列されたセンサー画素の矩形アレイであり、それによって各センサー画素は画素行及び画素列によって一意に特定される。ローリングシャッターモードに関連する行の各々は、言い換えれば複数の行の行は、1つ又は複数の隣り合う又は連続する画素行又は画素列に対応しうる。例えば、複数の行のうちの1つの行は、数十、数百、或いは数千の画素行又は画素列を含みうる。
【0060】
以下において、複数の行のうちの1つの行は、画素列ではなく、いくつかの画素行に対応するものとする。しかし、すべての説明は、1つの行が、画素行の代わりにいくつかの画素列を含む場合に対し、類似的に引き継がれる。
【0061】
複数の行の個々の行の長さは、個々の画素行の長さに等しい。言い換えれば、各行は、センサーアレイの画素列の各々に関して複数画素を含む。その結果、少なくとも1つの第1エリアを含む第1サブセット又は行は、一般に、少なくとも1つの第1エリアよりも大きなエリアをカバーし、それは後者がすべての画素列のセンサー画素を必ずしも含まないからである。
【0062】
第1サブセットの行は、例えば、複数の行のうちのそのような行のみを含みうるものであり、それは少なくとも1つの第1エリアとオーバーラップする。言い換えれば、第1サブセット又は行は、少なくとも1つの第1エリアを含む複数の行の最小のサブセットとしてみなされうる。
【0063】
上に示したように、2つ以上のROIの各々は、センサーアレイの表面の特定の2次元部分にマッピングされることができる。その結果、ROIの第1サブセットの各々は、少なくとも1つの第1エリアのうちの1つにマッピングされる。
【0064】
ローリングシャッターは好ましくは電子シャッターである。しかし、原理的には、その方法のそれぞれの実施は、機械式シャッターの場合にも適用されうる。特に言及がない場合、ここでも以下でもローリングシャッターは電子シャッターであることが想定される。その方法のそれぞれの実施は、複数の行のすべての行の露光が完了する前に、第1サブセットの行の露光が完了するという想定に基づいている。焦点調整期間は、それらの2つの時間例の間に始まる。
【0065】
すなわち、複数の行が、1、2、...、Nでラベル付けされたN個の連続する複数の行を含むことを想定すると、第1画像を取得する場合、まず行1の露光期間が開始し、行1の露光時間が開始された後に予め定められたオフセット時間又は遅延時間の後に行2の露光期間が開始するように、複数の行が露光される。最後に、行Nの露光時間が始まる。言い換えれば、行Nの露光期間は、最後に開始し、最後に終了する。第1露光期間は、行1の露光の開始と行Nの露光の終了との間の期間に相当する。特に、第1サブセットの行は行Nを含まない。前記実施は、行Nが第1サブセットにも含まれるという例外的なケースに関するものではない。この場合、第2画像を取得するための焦点調整をどのように取り扱うかについて、さまざまな可能性がありうる。例えば、焦点パラメータが調整されるまで第2フレーム期間が意図的に遅らせられてもよく、この場合には焦点調整が省略されてもよく、複数の行のすべての行が露光された後に焦点調整が開始することが容認されてもよい。
【0066】
前記実施によれば、第1サブセットのすべての行が露光された前に焦点調整が起こらないことが保証され、その一方で、第1サブセットの行に含まれない残りの行が露光されている間に焦点調整が起こることが容認される。言い換えれば、ROIの第1サブセットのROIのマッピングが焦点調整による影響を受けないことが保証され、その一方で、ROIの第1サブセットのROIの外側の画像領域が焦点調整によって影響をされることが容認される。言い換えれば、第1画像を使用する後続の車両機能は、焦点調整によるいかなる質低下もなしに、ROIの第1サブセットに対応する第1画像の一部を使用することができ、その一方で、ROIの第1サブセット以外の質低下が受け入れられ、例えば対応する車両機能には関係しない。
【0067】
いくつかの実施によれば、第2画像を取得するために、センサーアレイの複数の行がローリングシャッターモードに従って露光され、センサーアレイの少なくとも1つの第2エリアが決定され、それはROIの第2サブセットに対応する。第2サブセットの複数の行が決定され、それにおいて第2サブセットの行は少なくとも1つのセンサーアレイを含む。焦点調整期間は、第2露光期間中に第2サブセットの行のいずれかが露光される前に、終了する。
【0068】
第1サブセットの行は、第2サブセットの行と同一とすることができ、或いは第2サブセットの行と異なることもできる。少なくとも1つの第2エリアが少なくとも1つの第1エリアと同一であれば、第2サブセットの行も第1サブセット行と同一である。
【0069】
そのような実施において、第2露光期間中に第2サブセットの行のいずれかが露光されている間は焦点調整が行われないことが保証される。
【0070】
例えば、焦点調整期間は、第2サブセットの行の露光が開始される時間例で終了しうる。しかし、代替の実施において、焦点調整期間の終了と、第2露光期間における第2サブセットの行の露光の開始との間に時間差があってもよい。時間差は、あらかじめ定められたゼロでないバッファ期間と等しくてもよいし、当該バッファ期間よりも大きくてもよい。ゼロでないバッファ期間は、例えば、その調整後の焦点設定の解決決定を考慮してもよい。このようにして、第2露光期間における第2サブセットの行の露光中の焦点設定の変動を回避することができる。
【0071】
ローリングシャッターモードで第1画像を取得することに関するそれぞれの説明は、ローリングシャッターモードで第2画像を取得することにも類似的に引き継がれる。
【0072】
いくつかの実施によれば、少なくとも1つの焦点パラメータを調整することは、センサーアレイ、特に像面、とカメラのレンズユニットとの間の距離を変更することを含む。
【0073】
レンズユニットは、1つ又は複数のレンズを含む。センサーアレイとレンズユニットとの間の距離を変更するために、レンズユニット及びセンサーアレイは、互いに対して相対的に移動させられてもよい。特に、センサーアレイが移動されつつ、例えば撮像デバイスの全体が移動されつつ、レンズユニットは静止したままであってもよく、或いは、レンズユニット、特に1つ以上のレンズのすべてを備えた完全なユニット、が移動されつつ、撮像デバイス及びセンサーアレイが静止したままであってもよい。
【0074】
センサーアレイとレンズユニットとの間の距離を、特に機械的に、変更することにより、レンズユニットの物体側主平面と像面との間の距離がそれに応じて変更される。
【0075】
いくつかの実施によれば、少なくとも1つの焦点パラメータを調整することは、カメラのレンズユニットの焦点距離を変更することを含む。
【0076】
また、焦点距離を変更することにより、例えば1つ又は複数のレンズの光学特性又はそれらの互いに対する相対的な位置又はそれらの形状を変更することにより、像面に対する物体側主面の位置が変更される。
【0077】
本発明の更なる態様によれば、車両、特に動力車両、を少なくとも部分的に自動的に誘導するための方法が提供される。それにおいて、車両は、動力車両用カメラを備え、動力車両用カメラの焦点調整のための発明による方法が実行される。その車両は、第1画像及び/又は第2画像に応じて、少なくとも部分的に自動的に誘導される。
【0078】
車両を少なくとも部分的に自動的に誘導するために、第1画像及び/又は第2画像に応じて1つ又は複数のコンピュータビジョン関数が実行されうる。車両の更なる制御ユニットは、1つ又は複数のコンピュータビジョン関数の結果に応じて、車両を少なくとも部分的に自動的に誘導するための少なくとも1つの制御信号を生成してもよい。その1つ又は複数の制御信号は、例えば、車両の1つ又は複数のアクチュエータに与えられてもよく、当該アクチュエータは、車両を少なくとも部分的に自動的に誘導するために、1つ又は複数の制御信号に応じて車両の横方向及び/又は縦方向の制御に影響を与える。
【0079】
代替的に又は追加的に、第1画像及び/又は第2画像に応じて、1つ又は複数のヒューマンビジョン関数が実行されてもよい。この目的のために、車両を誘導するために車両の運転者を支援するように、第1画像及び/又は第2画像は表示されてもよいし、或いは最初に処理され、その後に車両の表示装置に表示されてもよい。
【0080】
その方法において生じうるがここでは明示的に説明されていない使用ケース又は使用状況に関し、その方法に従って、エラーメッセージ及び/又はユーザフィードバックのためのプロンプトが出力されること、及び/又は、デフォルト設定及び/又は所定の初期状態が設定されることが、提供されてもよい。
【0081】
発明の更なる態様によれば、動力車両用カメラが提供される。動力車両用カメラは、撮像デバイス、焦点調整構成、及び少なくとも1つの制御ユニットを備える。少なくとも1つの制御ユニットは、カメラの視野内の2つ以上の予め定められたROIの各々について、カメラに関する対応のターゲット焦点設定を受信するように構成される。少なくとも1つの制御ユニットは、ROIの第1サブセットのROIのそれぞれのターゲット焦点設定に応じて、2つ以上の予め定められたROIの第1サブセットに関する第1焦点設定を決定するように構成される。少なくとも1つの制御ユニットは、第1フレーム期間中に第1画像を取得するように撮像デバイスを制御するように構成され、第1焦点設定は、第1フレーム期間の少なくとも一部の間に使用される。少なくとも1つの制御ユニットは、ROIの第2サブセットのROIのそれぞれのターゲット焦点設定に応じて、2つ以上の予め定められたROIの第2サブセットに関する第2焦点設定を決定するように構成される。少なくとも1つの制御ユニットは、第1焦点設定を第2焦点設定に変更するように焦点調整構成を制御するように、及び、第1フレーム期間の後の第2フレーム期間中に第2画像を取得するように撮像デバイスを制御するように構成され、第2焦点設定は、少なくとも第2フレーム期間の一部の間に使用される。
【0082】
少なくとも1つの制御ユニットは、例えば記憶装置から2つ以上のROIに関するターゲット焦点設定を受け取ってもよく、当該記憶装置は、カメラ又は少なくとも1つの制御ユニットの一部であってもよい。
【0083】
少なくとも1つの制御ユニットの制御ユニットは、それぞれの演算ユニットとしても表されうる。少なくとも1つの制御ユニットは、部分的に又は全体的に撮像デバイスによって具備されていてもよいし、或いは撮像デバイスとは別に実装されてもよい。
【0084】
演算ユニットは、特に、処理回路を含むデータ処理装置として理解されうる。したがって、演算ユニットは特に、演算処理を実行するようにデータを処理することができる。これは、例えばルックアップテーブル、LUT、などの、データ構造へのインデックス付きアクセスを実行する操作も含みうる。
【0085】
特に、演算ユニットは、1つ又は複数のコンピュータ、1つ又は複数のマイクロコントローラ、及び/又は1つ又は複数の集積回路、例えば、1つ又は複数の特定用途向け集積回路、ASIC、1つ又は複数のフィールドプログラマブルゲートアレイ、FPGA、及び/又は1つ又は複数のシステムオンチップ、SoC、を含みうる。演算ユニットはまた、1つ又は複数のプロセッサ、例えば1つ又は複数のマイクロプロセッサ、1つ又は複数の中央演算処理装置、CPU、1つ又は複数のグラフィックス処理装置、GPU、及び/又は1つ又は複数の信号プロセッサ、特に1つ又は複数のデジタル信号プロセッサ、DSP、を含みうる。また、演算ユニットは、物理的又は仮想的なコンピュータのクラスタや他の前記ユニットを含みうる。
【0086】
様々な実施形態において、演算ユニットは、1つ以上のハードウェア及び/又はソフトウェアインターフェース及び/又は1つ以上のメモリユニットを含む。
【0087】
メモリユニットは、例えばダイナミックランダムアクセスメモリ、DRAM、やスタティックランダムアクセスメモリ、SRAM、などの揮発性データメモリとして、或いは例えばリードオンリーメモリ、ROM、プログラマブルリードオンリーメモリ、PROM、消去可能プログラマブルリードオンリーメモリ、EPROM、電気的消去可能プログラマブルリードオンリーメモリ、EEPROM、フラッシュメモリ又はフラッシュEEPROM、強誘電体ランダムアクセスメモリ、FRAM、磁気抵抗ランダムアクセスメモリ、MRAM、又は相変化ランダムアクセスメモリ、PCRAMなどの不揮発性データメモリとして、実装されてもよい。
【0088】
調整構成を制御するために、少なくとも1つの制御ユニットは、少なくとも1つの焦点制御信号を生成してもよく、それに応じてそれを焦点調整構成に提供してもよい。
【0089】
発明による動力車両用カメラのいくつかの実施によれば、焦点調整構成は、少なくとも1つの焦点パラメータを調整するために、センサーアレイをカメラのレンズユニットに対して相対的に移動させるように構成される。
【0090】
いくつかの実施によれば、焦点調整構成は、少なくとも1つの焦点パラメータを調整するために、カメラのレンズユニットの焦点距離を変更するように構成される。
【0091】
発明による動力車両用カメラの更なる実装は、発明による方法の様々な実施形態から直接的に導かれ、その逆もまた同様である。特に、発明による方法の様々な実施に関連する個々の特徴及び対応する説明並びに利点は、発明による動力車両用カメラの対応する実施に対して類似的に移されることができる。特に、発明による動力車両用カメラは、発明による方法を実行するように設計され又はプログラムされる。特に、発明による動力車両用カメラは、発明による方法を実行する。
【0092】
発明の更なる態様によれば、車両用の電子車両誘導システムが提供される。電子車両誘導システムは、発明による動力車両用カメラと、更なる制御ユニットとを備える。その更なる制御ユニットは、第1画像及び/又は第2画像に応じて、車両を少なくとも部分的に自動的に案内するための1つ又は複数の制御信号を生成するように構成され、及び/又は、発明に従って車両を少なくとも部分的に自動的に案内するための方法を実行するように構成される。
【0093】
電子車両誘導システムは、完全に自動化された方法で又は完全に自律化された方法で車両を誘導するように構成された電子システムとして理解されうるものであり、特に、車両の運転手又は使用者による手動の介入又は制御を必要としない。車両は、ステアリング操作、減速操作及び/又は加速操作など、必要なすべての機能を実行し、また道路交通及び対応する反応を自動的に監視及び記録する。特に、電子車両誘導システムは、SAE J3016分類のレベル5に従って、完全自動運転モード又は完全自律運転モードを実施しうる。電子車両誘導システムは、部分的に自動的な運転又は部分的に自律した運転のために運転者を支援する先進運転支援システム、ADAS、として実装されてもよい。特に、電子車両誘導システムは、SAE J3016分類のレベル1~4に従って、部分的な自動運転モード又は部分的な自律運転モードを実施してもよい。ここで及び以下において、SAE J3016は2018年6月付のそれぞれの規格を指す。
【0094】
したがって、少なくとも部分的に自動的に車両を誘導することは、SAE J3016分類のレベル5に従った完全自動運転モード又は完全自律運転モードに従って車両を誘導することを含みうる。少なくとも部分的に自動的に車両を誘導することは、SAE J3016分類のレベル1~4に従った部分的に自動的な運転モード又は部分的に自律的な運転モードに従って車両を誘導することも含みうる。
【0095】
発明の更なる態様によれば、第1コンピュータプログラムが提供され、当該第1コンピュータプログラムは第1指示を含む。第1指示が発明による動力車両用カメラによって、例えば少なくとも1つの制御ユニットによって、実行される場合、第1指示は、動力車両用カメラに、発明による焦点調整のための方法を実行させる。
【0096】
発明の更なる態様によれば、第2指示を含む第2コンピュータプログラムが提供される。第2指示が発明による電子車両誘導システムによって、特に動力車両用カメラの少なくとも1つの制御ユニット及び/又は電子車両誘導システムの更なる制御ユニットによって、実行される場合、第2指示は、電子車両誘導システムに、発明による車両を少なくとも部分的に自動的に誘導するための方法を実行させる。
【0097】
第1指示及び/又は第2指示は、プログラムコードとして提供されうる。そのプログラムコードは、例えば、バイナリコード又はアセンブラとして、及び/又はプログラミング言語、例えばC言語、のソースコードとして、及び/又はプログラムスクリプト、例えばPython、として、提供されうる。
【0098】
発明の更なる態様によれば、コンピュータ読み取り可能な記憶装置が提供される。コンピュータ読み取り可能な記憶装置は、発明による第1コンピュータプログラム及び/又は第2コンピュータプログラムを記憶する。
【0099】
第1コンピュータプログラム、第2コンピュータプログラム、及びコンピュータ読み取り可能な記憶装置は、それぞれ、第1指示及び/又は第2指示を含むそれぞれのコンピュータプログラムプロダクトとして示されうる。
【0100】
発明の更なる特徴は、特許請求の範囲、図面及び図面の説明から明らかである。明細書において上述した特徴及び特徴の組み合わせ、及び図面の説明において後述される及び/又は図面に示される特徴及び特徴の組み合わせは、記載されるそれぞれの組み合わせにおいてだけでなく、他の組み合わせにおいても、発明に含まれうる。特に、当初定められた請求項の特徴のすべてを備えているわけではない実施形態や特徴の組み合わせも、発明に含まれうる。更に、特許請求の範囲の記述に記載された特徴の組み合わせを超える又は逸脱する実施形態及び特徴の組み合わせが、発明に含まれうる。
【図面の簡単な説明】
【0101】
以下において、具体的な例示的な実施及びそれぞれの概略図面を参照して、発明が詳細に説明される。図面において、同一又は機能的に同一の要素は、同一の参照符号で示されうる。同一又は機能的に同一の要素の説明は、異なる図面に関して必ずしも繰り返されるものではない。
【0102】
図面において:
【
図1】
図1は、発明による動力車両用カメラの例示的な実装を含む、発明による電子車両誘導システムの例示的な実装を伴う車両を概略的に示す。
【
図2】
図2は、動力車両用カメラの環境における関心領域を概略的に示す。
【
図3】
図3は、動力車両用カメラの環境における更なる関心領域を概略的に示す。
【
図4】
図4は、発明による焦点調整のための方法の例示的な実施による、2つの連続するフレーム期間におけるローリングシャッターモードによる複数の行の露光を概略的に示す。
【
図5】
図5は、発明による焦点調整のための方法の更なる例示的な実施による、2つの連続するフレーム期間におけるローリングシャッターモードに従った複数の行の露光を概略的に示す。
【
図6】
図6は、発明による焦点調整のための方法の更なる例示的な実施による、2つの連続するフレーム期間におけるローリングシャッターモードに従った複数の行の露光を概略的に示す。
【
図7】
図7は、発明による焦点調整のための方法を適用するための使用ケースを、フロー図の観点から概略的に示す。
【
図8】
図8は、発明による焦点調整のための方法を適用するための更なる使用ケースを、フロー図の観点から概略的に示す。
【
図9】
図9は、発明による焦点調整のための方法を適用するための更なる使用ケースを、フロー図の観点から概略的に示す。
【
図10】
図10は、発明による焦点調整のための方法を適用するための更なる使用ケースを、フロー図の観点から概略的に示す。
【発明を実施するための形態】
【0103】
図1は、発明による電子車両誘導システム2を備える車両1を概略的に示す。車両誘導システム2は、発明の例示的な実施による動力車両用カメラ3として実装される1つ又は複数のカメラを含む。動力車両用カメラ3は、
図1の差し込み図においてブロック図として概略的に示されている。
【0104】
動力車両用カメラ3は撮像デバイス10を備え、当該撮像デバイス10は例えばカメラ3のハウジング8の内側に配置される。動力車両用カメラ3は、1つ又は複数のレンズ(図示せず)を含むレンズユニット9も備える。更に、撮像デバイスのセンサーアレイ11は、レンズユニット9を通過した光がセンサーアレイ11の表面に当たりうるように、レンズユニット9に対して配置される。カメラ3は、1つ又は複数の制御ユニット13a、13bを備える。1つ以上の制御ユニット13a、13bは、
図1において制御ユニット13aについて示されるように、撮像デバイス10の一部とすることもできるし、
図1において制御ユニット13bについて示されるように、撮像デバイス10に加えて実装されることもできる。
【0105】
更に、動力車両用カメラ3は、少なくとも1つの制御ユニット13a、13bによって制御可能な焦点調整構成12を備え、カメラ3の少なくとも1つの焦点パラメータを変更又は調整する。この目的のために、カメラの像面に対応するセンサーアレイ11の表面と、レンズユニット9の物体側主面との間の距離を変更するように、焦点調整構成は、少なくとも1つの制御ユニット13a、13bによって制御されてもよい。これは、レンズユニット9の位置に対してセンサーアレイ11の位置を移動させることによって、達成されうる。例えば、レンズユニット9の位置が焦点調整構成によって変更されてもよい一方で、撮像デバイス10及びセンサーアレイ11は固定されたままでもよく、或いはその逆であってもよい。代替的に又は追加的に、焦点調整構成12は、レンズユニットの光学特性を、例えば焦点距離を、電子的に変更してもよい。
【0106】
電子車両誘導システム2は更なる制御ユニット4を含んでいてもよく、当該更なる制御ユニット4は、例えば電子制御ユニット、ECU、として実装されてもよく、カメラ3に接続される。カメラ3は、少なくとも第1画像と第2画像を含むカメラ画像のストリームを生成するように、及びそのストリーム又はそのストリームの前処理されたバージョンを更なる制御ユニット4に提供するように、構成される。そして、更なる制御ユニット4は、カメラ画像のストリームに応じて、車両1を少なくとも部分的に自動的に案内するための1つ又は複数の制御信号を生成してもよく、1つ又は複数の制御信号を車両のそれぞれのアクチュエータ(図示せず)に提供してもよく、当該アクチュエータは、1つ又は複数の制御信号に応じて、車両1の縦方向及び/又は横方向の制御に影響を与える。
【0107】
カメラ3は、発明による動力車両用カメラの焦点調整のための方法を実行することができる。そのような方法の詳細は、
図2~
図6を参照して以下に説明される。
【0108】
少なくとも1つの制御ユニット13a、13bは、例えばカメラの記憶装置(図示せず)から、カメラ3の視野内の2つ以上の予め定められたROI6a、6b、6c、7a、7b、7cの各々について、カメラ3に関する対応のターゲット焦点設定を受信するように構成される。
【0109】
図2は、カメラ3の環境5における3つの異なる関心領域6a、6b、6cに関する例を模式的に示す。3つの異なる関心領域6a、6b、6cは、カメラの視点からすれば異なるサイズ及び/又は水平角度によって定められてもよい。関心領域6a、6b、6cは、例えば環境5における三次元体積に対応してもよく、当該三次元体積は直方体の体積又はほぼ直方体の体積である。カメラ3が魚眼カメラなどの非直線的なカメラである場合、直方体の体積を区切る直線又は平面が
図2に示すように歪む。
【0110】
異なる関心領域6a、6b、6cは、例えば、電子車両誘導システム2の異なる機能に関連していてもよい。中央の関心領域6aは、例えば、カメラ3により取得された画像の対応する部分を車両1の表示装置(図示せず)に表示することによって、車両1の後方への運転時に運転者を支援するために使用されてもよい。一方、横方向の関心領域6b、6cは、例えば、例えば車両1から更に離れた位置にある他の車両を検出することを目的とした物体検出機能などのコンピュータビジョン関数によって、使用されてもよい。その結果、それは異なるROI6a、6b、6cに関して異なる焦点設定を有することが望ましいかもしれない。発明は、異なる焦点設定による画像ストリームの異なるフレームを使用して、例えば異なるROIに関して最適な設定間で切り替えることを可能にする。各ROI6a、6b、6cは、対応するエリアに直接的にマッピングされてもよく、当該対応するエリアは、センサーアレイ11の表面の一部である。
【0111】
図3は、カメラ3の環境5における異なるROI7a、7b、7cの更なる例を示す。この例において、最大のROI7aはより小さなROI7bを含み、当該ROI7bは更に小さなROI7cを更に含む。これらのROI7a、7b、7cについても、環境5における関連物体のカメラ3からの予想される異なる距離に応じて、異なる焦点設定が望ましいかもしれない。
【0112】
発明による方法の過程において、少なくとも1つの制御ユニット13a、13bは、2つ以上のROI6a、6b、6c、7a、7b、7cの第1サブセットに関する第1焦点設定を、ROIの第1サブセットのROIのそれぞれのターゲット焦点設定に応じて決定する。少なくとも1つの制御ユニット13a、13bは、第1フレーム期間F1の間に第1画像を取得するように撮像デバイス10を制御し、第1焦点設定は、少なくとも第1フレーム期間F1の一部の間に使用される。少なくとも1つの制御ユニット13a、13bは、2つ以上の予め定められたROI6a、6b、6c、7a、7b、7cの第2サブセットに関する第2焦点設定を、ROIの第2サブセットのROIのそれぞれのターゲット焦点設定に応じて、決定する。少なくとも1つの制御ユニット13a、13bは、第1焦点設定を第2焦点設定に変更するように焦点調整構成12を制御し、第1フレーム期間F1の後の第2フレーム期間F2の間に第2画像を取得するように撮像デバイス10を制御し、第2焦点設定は、少なくとも第2フレーム期間F2の一部の間に使用される。この目的のために、焦点調整構成12は焦点調整期間Taの間に少なくとも1つの焦点パラメータを調整する。
【0113】
撮像デバイス10は、例えばグローバルシャッターモードで動作させられてもよい。そしてセンサーアレイ11は、第1画像を取得するように第1フレーム期間F1内の第1露光期間の間に全体として適宜露光されうるものであり、第2画像を取得するよう第2フレーム期間F2内の第2露光期間の間に再び露光されうる。そして、焦点調整期間Taは、第1露光期間と第2露光期間との間にある。
【0114】
或いは、撮像デバイス10は、
図4、
図5及び
図6に模式的に描かれているように、ローリングシャッターモードで動作させられてもよい。そこで、ローリング電子シャッターに関して一般的に知られているように、センサーアレイ11の複数の行Pが露光される。R
1、R
2、...、R
i、R
i+1、...、R
j、R
j+1、...、R
Nの各行について、対応するバッファがクリアされるリセット期間に、露光期間又は、すなわち積分期間が続き、露光期間が終了した後、それぞれの読み出し期間が続き、それぞれの行のすべての画素が読み出される。リセット期間及び読み出し期間は異なる色調のブロックによって表され、その一方で露光期間は空白のブロックによって表される。ローリングシャッター原理で知られているように、隣り合う行の個々の露光期間は、予め定められたオフセット時間だけ互いに対してオフセットされる。第1フレーム期間F
1の後の第2フレーム期間F
2において、少なくとも1つの制御ユニット13a、13bは、ローリングシャッターモードに従って複数の行Pを露光することにより、同じ方法で第2画像を取得するように撮像デバイス10を制御する。
【0115】
少なくとも1つの制御ユニット13a、13bは、ROIの第1サブセットに対応するセンサーアレイ11における少なくとも1つの第1エリアを決定し、少なくとも1つの第1エリアを含む複数の行Pの第1サブセットP
1を決定する。
図4の例において、行R
1~行R
i は、行R
j+1~行R
Nと同様に、第1サブセットP
1に含まれない。第1サブセットP
1は、行R
i+1~行R
jを含む。類似的に、少なくとも1つの制御ユニット13a、13bは、少なくとも1つの第2エリアを含む複数の行Pの第2サブセットP
2を決定してもよく、少なくとも1つの第2エリアは、ROIの第2サブセットに対応する。その少なくとも1つの第1エリアは、センサーアレイ11における少なくとも1つの第2エリアと同一であってもよいし、異なっていてもよい。少なくとも1つの第1エリアが少なくとも1つの第2エリアと同一である場合、
図4に模式的に示すように、行の第1サブセットP
1は行の第2サブセットP
2と同一である。一方、少なくとも1つの第1エリアが少なくとも1つの第2エリアと異なる場合、
図6に模式的に示されているように、行の第1サブセットP
1は第2サブセットの行P
2と異なっていてもよい。この場合、行Pの第1サブセット1は、
図4に関して説明したように、行R
i+1~行R
jを含み、行の第2サブセットP
2は行R
k+1~行R
lを含み、ここでk≠I及び/又はl≠jである。
【0116】
図5の例において、行の第1サブセットP
1は、
図4について説明した行の第2サブセットP
2と同一である。ただし、
図4の例において、第2フレーム期間F
2における第1の行R
1の露光は、第1フレーム期間F
1における最後の行R
Nの露光が終了した直後に、開始する。他方、
図5及び
図6の例において、第1フレーム期間F
1における最終行R
Nの露光の終了と、第2フレーム期間F
2における第1行R
1の露光の開始との間に、中間期間がある。
【0117】
少なくとも1つの制御ユニット13a、13bは、第1サブセットP
1に応じて及び特に第2サブセットP
2に応じて、焦点調整期間T
aを決定し、焦点調整期間T
aの間にカメラ3の少なくとも1つの焦点パラメータを調整して、カメラ3の焦点設定を第1焦点設定から第2焦点設定に変更するように、焦点調整構成12を制御する。そこで、焦点調整期間T
aは、第1フレーム期間F
1において行の第1サブセットP
1のすべての行が露光された場合又はその後に、本例では行の第1サブセットP
1の最後の行R
jが露光された後に、開始する。更に、焦点調整期間T
aは、第1フレーム期間F
1の間に複数の行Pのすべての行が露光されたのに先立って、又は換言すれば、本例では、複数の行Pの最後の行R
Nが露光されたのに先立って、開始する。更に、焦点調整期間T
aは、第2フレーム期間F
2中に行の第2サブセットP
2のいずれかの行が露光されるのが開始する前に、又は、
図4の本例では第2サブセットP
2の第1行R
i+1が露光されるのが開始される前に、終了する。
図6の例において、焦点調整期間T
aは、それに応じて、第2サブセットP
2の第1行R
k+1が露光されるのを開始する前に、終了する。
【0118】
換言すれば、焦点調整に利用可能な最大時間T
a’は、行の第1サブセットP
1の最後の行、本例では行R
j、の露光の終了と、第2サブセットP
2の最初の行、
図4及び
図5の例では行R
i+1であり
図6の例では行R
k+1、の露光の開始との間の時間差によって与えられる。しかし、いくつかの実施において、焦点調整期間T
aは、最大利用可能期間T
a’よりも、ゼロでないバッファ期間T
bだけ、短い。バッファ期間T
bは、焦点調整構成12によって調整される少なくとも1つの焦点パラメータを決めるために設けられた期間に対応してもよく、或いは当該期間を含んでいてもよい。
【0119】
いくつかの実施において、撮像デバイス10は、また、少なくとも1つの制御ユニット13a、13bに垂直及び水平同期信号を与えてもよい。水平同期信号は、HSYNCとも表記され、ある行が完全に露光されて読み出されたときにはいつでも出力され、垂直同期信号は、VSYNCとも表記され、複数の行Pのすべての行が露光されたときにはいつでも出力される。
【0120】
図7~
図10において、異なる使用ケースが概略フロー図として描かれており、時間の方向は左から右である。
【0121】
図7に関して、後続のフレームn、n+1、n+2及びn+3の各々について、ROI6a、6b、6c、7a、7b、7cのそれぞれの1つが関連し、ROIの対応するサブセットを表すと仮定することができる。焦点設定は、説明したように、各フレームに関して決定されて設定される。各フレームの間、撮像デバイス10は、完全な画像や、それぞれのROIに対応するセンサーアレイにおけるエリアをカバーするために必要な少なくともそれぞれの行のサブセットを含む画像のクロップを取得してもよい。そしてそのキャプチャーは、個別に又は他のROIキャプチャーと組み合わされて、処理される。
【0122】
図7において、第1ラインは画像取得のステップに対応し、第2ラインはヒューマンビジョン関数(HV関数)に対応し、第3ラインはコンピュータビジョン関数(CV関数)に対応する。ブロック700において、フレームnに関して決定された焦点設定が設定され、それぞれのロー画像がブロック701において取得される。ブロック702において、フレームn+1に関して決定された焦点設定が設定され、それぞれのロー画像がブロック703において取得される。ブロック704において、フレームn+2に関して決定された焦点設定が設定され、それぞれのロー画像がブロック705において取得される。ブロック706において、フレームn+3に関して決定された焦点設定が設定され、それぞれのロー画像がブロック707において取得される。
【0123】
ブロック710において、HV関数に関する出力がフレームn-1のそのキャプチャーに基づいて更新され、ブロック720において、CV関数に関する出力がフレームn-1のそのキャプチャーに基づいて更新される。ブロック711において、HV関数に関する出力がフレームnのキャプチャーに基づいて更新され、ブロック721において、CV関数に関する出力がフレームn-1のキャプチャーに基づいて更新される。ブロック712において、HV関数に関する出力がフレームn+1のキャプチャーに基づいて更新され、ブロック722において、CV関数に関する出力がフレームn+1のキャプチャーに基づいて更新される。ブロック713において、HV関数に関する出力がフレームn+2のキャプチャーに基づいて更新され、ブロック723において、CV関数に関する出力がフレームn+2のキャプチャーに基づいて更新される。
【0124】
図8は、関数の並列演算を逐次演算に置き換えることに関する例を示しており、例えば2つの並列演算を2つの逐次演算、例えば1つのHV関数及び1つのCV関数、に置き換え、そこで各関数は、1つ又は複数のそれぞれのROIを必要とする。
【0125】
ブロック800において、フレームnに関して決定された焦点設定が設定され、それぞれのロー画像がブロック801において取得される。ブロック802において、フレームn+1に関して決定された焦点設定が設定され、それぞれのロー画像がブロック803において取得される。ブロック804において、フレームn+2に関して決定された焦点設定が設定され、それぞれのロー画像がブロック805において取得される。ブロック806において、フレームn+3に関して決定された焦点設定が設定され、それぞれのロー画像がブロック807において取得される。
【0126】
ブロック810において、HV関数に関する出力がフレームnのキャプチャーに基づいて更新され、ブロック820において、CV関数に関する出力がフレームn-1のキャプチャーに基づいて更新される。ブロック811において、HV関数に関する出力がフレームn+2のキャプチャーに基づいて更新され、ブロック821において、CV関数に関する出力がフレームn+1のキャプチャーに基づいて更新される。
【0127】
図9を参照すると、ブロック900において、フレームnに関して決定された焦点設定が設定され、それぞれのロー画像がブロック901において取得される。ブロック902において、フレームn+1に関して決定された焦点設定が設定され、それぞれのロー画像がブロック903において取得される。ブロック904において、フレームn+2に関して決定された焦点設定が設定され、それぞれのロー画像がブロック905において取得される。ブロック906において、フレームn+3に関して決定された焦点設定が設定され、それぞれのロー画像がブロック907で取得される。
【0128】
ブロック910において、HV関数に関する出力がフレームn-1のキャプチャーに基づいて更新され、ブロック920において、CV関数に関する出力がフレームn-1のキャプチャーに基づいて更新される。ブロック911において、HV関数に関する出力がフレームnのキャプチャーに基づいて更新され、ブロック921において、CV関数に関する出力がフレームn-1のキャプチャーに基づいて更新される。ブロック912において、HV関数に関する出力がフレームn+1のキャプチャーに基づいて更新され、ブロック922において、CV関数に関する出力がフレームn+1のキャプチャーに基づいて更新される。ブロック913において、HV関数に関する出力がフレームn+2のキャプチャーに基づいて更新され、ブロック923において、CV関数に関する出力がフレームn+2のキャプチャーに基づいて更新される。
【0129】
図9の概念によれば、個々のフレームに関するROIのサブセットにおけるすべてのROIについて、ターゲット焦点設定が同一であるシナリオを考えることができる。この場合、それぞれのターゲット焦点設定は、ブロック900、902、904及び906においてそれぞれ直接的に設定されることができる。
【0130】
しかし、あるフレームに関するROIのサブセットにおける異なるROIについてのターゲット焦点設定が同一ではないというシナリオも考えられる。この場合、ブロック900、902、904及び906においてそれぞれのフレームに関して設定される焦点設定が、異なるターゲット焦点設定に基づく補間、平均化又は最適化によって取得可能である。そこで、ROIのサブセットにおけるすべてのROIは、同じ相対的な優先度を持っていてもよい。しかし、他のシナリオにおいて、それらは異なる相対的な優先度を有していてもよく、当該優先度は、ブロック900、902、904及び906においてそれぞれ設定されるそれぞれの焦点設定を決定する際にも考慮可能である。
【0131】
図10は、2つのCV関数、CV1及びCV2、の間でのフレーム間切り替えの例を表し、当該2つのCV関数は各々それらの独自の特定のROI又はROIのセットを有する。
【0132】
ブロック1000において、CV1の要件に従ってフレームnに関して決定された焦点設定が設定され、それぞれのロー画像がブロック1001において取得される。ブロック1002において、CV2の要件に従ってフレームn+1について決定された焦点設定が設定され、それぞれのロー画像がブロック1003において取得される。ブロック1004において、CV1の要件に従ってフレームn+2に関して決定された焦点設定が設定され、それぞれのロー画像がブロック1005において取得される。ブロック1006において、CV2の要件に従ってX>2であるフレームn+xに関して決定された焦点設定が設定され、それぞれのロー画像がブロック1007において取得される。ブロック1008において、CV2の要件に従ってフレームn+x+1について決定された焦点設定が設定され、それぞれのロー画像がブロック1009において取得される。
【0133】
ブロック1010において、CV1に関する出力が、フレームnのキャプチャーに基づいて更新される。ブロック1020において、CV2に関する出力が、フレームn-1のキャプチャーに基づいて更新される。ブロック1011において、CV1に関する出力が、フレームn+x-1のキャプチャーに基づいて更新される。ブロック1021において、CV2に関する出力が、フレームn+1のキャプチャーに基づいて更新される。ブロック1022において、CV2に関する出力が、フレームn+xのキャプチャーに基づいて更新される。
【0134】
すべてのROI6a、6b、6c、7a、7b、7cがフレームごとにキャプチャーされるX fpsの基本画像キャプチャーレートを持つ並列アプローチが順次アプローチに置き換えられる場合において、有効キャプチャーレートが、それに応じて、例えばX/2 fps、X/3 fps、X/4 fpsなどに低下することに留意される。したがって、例えば、基本フレームキャプチャーレートを、例えば2x fps、3x fps、4x fpsなどに増大してもよい。そして、次のフレームのための焦点パラメータを調整するために、フレーム間移行において依然として十分な時間があることが確保されなければならない。しかし、低減されたフレームキャプチャーレートが受け入れられてもよい。
【0135】
更に、すべてのROI6a、6b、6c、7a、7b、7cが必ずしも同じ有効キャプチャーレートを有する必要はなく、有効キャプチャーレートは、それらの相対的な優先度に応じて選択されてもよいことに留意される。例えばROI1、ROI2、ROI3、ROI4及びROI5によって示される5つのROIを持つシステムにおいて、以下のシーケンスがマルチレートROIキャプチャーをサポートしてもよい:
フレームn: {ROI1、ROI2、ROI4}
フレームn+1: {ROI1、ROI3}
フレームn+2: {ROI1、ROI2、ROI5}
フレームn+3: {ROI1、ROI3}
【0136】
この4つのフレームのシーケンスが周期的に繰り返されると、X fpsを基本フレームレートとして、以下のROI固有の有効キャプチャーレートが得られる:
ROI1:X fps
ROI2:X/2 fps
ROI3:X/2 fps
ROI4:X/4 fps
ROI5:X/4 fps
【0137】
このスキームにおいて、ROIの各々の相対的な優先度に従って焦点パラメータを設定することが依然として可能であることに、留意される。ROIの相対的な優先度は、同じフレームでアクティブな他のROIに応じて、フレーム間で変わることも可能である。上記の例において、相対的な優先度は例えば以下のようにしてもよい:
フレームn: ROI4の優先度>ROI1の優先度>ROI2の優先度
フレームn+1: ROI3の優先度>ROI1の優先度
フレームn+2: ROI1の優先度>ROI2の優先度>ROI5の優先度
フレームn+3: ROI3の優先度>ROI1の優先度
【0138】
焦点調整機構は、動作条件及び寿命について劣化することなく、高動作デューティサイクルをサポートすることができる。フォーカスの調整が非常に小さいものとなりうることは、この点で有益である。
【0139】
特に図面に関し説明したように、発明は、動力車両用カメラの焦点調整のための改良された概念を提供する。それにおいて、異なるROIの個々の要件をより良く満たすことができ、特に個々のROIに関する最適な焦点設定に関して、低減された妥協の度合いがもたらされるべきである。
【手続補正書】
【提出日】2024-03-28
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
動力車両用カメラ(3)の焦点調整のための方法であって、
- 前記カメラ(3)の視野内の2つ以上の所定の関心領域ROI(6a、6b、6c、7a、7b、7c)の各々に関し、前記カメラ(3)に関する対応のターゲット焦点設定が提供され;
- 第1焦点設定が、前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の第1サブセットに関し、ROIの前記第1サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて決定され;
- 第1画像が、前記カメラ(3)の撮像デバイス(10)によって第1フレーム期間(F1)の間に取得され、前記第1焦点設定が、少なくとも前記第1フレーム期間(F1)の一部の間に使用され;
- 第2焦点設定が、前記2つ以上の所定のROI(6a、6b、6c、7a、7b、7c)の第2サブセットに関し、ROIの前記第2サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、決定され;
- 前記第1焦点設定が前記第2焦点設定に変更され、第2画像が、前記撮像デバイス(10)によって、前記第1フレーム期間(F1)の後の第2フレーム期間(F2)の間に取得され、前記第2焦点設定は、少なくとも前記第2フレーム期間(F2)の一部の間に使用される、
ことを特徴とする方法。
【請求項2】
- 前記ターゲット焦点設定は、ROIの前記第1サブセットのすべてのROIについて同一であり且つ前記第1焦点設定と同一であり;及び/又は
- 前記ターゲット焦点設定は、ROIの前記第2サブセットのすべてのROIについて同一であり且つ前記第2焦点設定と同一である、
ことを特徴とする請求項1に記載の方法。
【請求項3】
- ROIの前記第1サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定間を補間することによって、又は、ROIの前記第1サブセットの少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算され;及び/又は
- ROIの前記第2サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定間を補間することによって、又は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定を平均化することによって、計算される、
ことを特徴とする請求項1に記載の方法。
【請求項4】
前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の各々について、それぞれの相対的な優先度が与えられ、
- ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定間の前記補間又はROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定の前記平均化は、ROIの前記第1サブセットの前記相対的な優先度に応じて実行され;及び/又は
- ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定間の前記補間又はROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定の前記平均化は、ROIの前記第2サブセットの前記相対的な優先度に応じて実行される、
ことを特徴とする請求項3に記載の方法。
【請求項5】
- ROIの前記第1サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第1焦点設定は、ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じて最適化を実行することによって計算され、前記第1焦点設定は、所定の第1目的関数の最適解によって与えられる;及び/又は
- ROIの前記第2サブセットの前記ターゲット焦点設定は、少なくとも2つの異なるターゲット焦点設定を含み、前記第2焦点設定は、ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じて最適化を実行することによって計算され、前記第2焦点設定は、所定の第2目的関数の最適解によって与えられる、
ことを特徴とする請求項1に記載の方法。
【請求項6】
前記2つ以上のROI(6a、6b、6c、7a、7b、7c)の各々について、それぞれの相対的な優先度が与えられ、
- ROIの前記第1サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じた前記最適化は、ROIの前記第1サブセットの前記相対的な優先度に応じて実行され;及び/又は
- ROIの前記第2サブセットの前記少なくとも2つの異なるターゲット焦点設定に応じた前記最適化は、ROIの前記第2サブセットの前記相対的な優先度に応じて実行される、
ことを特徴とする請求項5に記載の方法。
【請求項7】
- 前記第1画像を取得するために、前記撮像デバイス(10)のセンサーアレイ(11)が、前記第1フレーム期間(F1)内の第1露光期間の間に、グローバルシャッターモードに従って露光され;
- 前記第2画像を取得するために、前記センサーアレイ(11)は、前記第2フレーム期間(F2)内の第2露光期間の間に、前記グローバルシャッターモードに従って露光され;
- 前記カメラ(3)の少なくとも1つの焦点パラメータが、前記第1露光期間と前記第2露光期間との間にある焦点調整期間の間に、前記第1焦点設定を前記第2焦点設定に変更するように調整される、
ことを特徴とする請求項1に記載の方法。
【請求項8】
- 前記第1画像を取得するために、前記撮像デバイス(10)のセンサーアレイ(11)が、前記第1フレーム期間(F1)内の第1露光期間の間に、ローリングシャッターモードに従って露光され;
- 前記第2画像を取得するために、前記センサーアレイ(11)は、前記第2フレーム期間(F2)内の第2露光期間の間に、前記ローリングシャッターモードに従って露光され;
- 前記カメラ(3)の少なくとも1つの焦点パラメータが、前記第1露光期間及び/又は前記第2露光期間とオーバーラップする焦点調整期間の間に、前記第1焦点設定を前記第2焦点設定に変更するように調整される、
ことを特徴とする請求項1に記載の方法。
【請求項9】
- 前記第1画像を取得するために、前記センサーアレイ(11)の複数の行(P)が前記ローリングシャッターモードに従って露光され;
- ROIの前記第1サブセットに対応する前記センサーアレイ(11)における少なくとも1つの第1エリアが、決定され;
- 前記複数の行の第1サブセット(P1)が決定され、行の前記第1サブセット(P1)が前記少なくとも1つの第1エリアを含み;
- 前記焦点調整期間は、行の前記第1サブセット(P1)のすべての行が前記第1露光期間の間に露光された際に又は後に開始する、
ことを特徴とする請求項8に記載の方法。
【請求項10】
- 前記第2画像を取得するために、前記センサーアレイ(11)の前記複数の行(P)が前記ローリングシャッターモードに従って露光され;
- ROIの前記第2サブセットに対応する前記センサーアレイ(11)における少なくとも1つの第2エリアが、決定され;
- 前記複数の行の第2サブセット(P2)が決定され、行の前記第2サブセット(P2)は前記少なくとも1つの第2エリアを含み;
- 前記焦点調整期間は、前記第2露光期間の間に前記第2サブセットの行(P2)のいずれかが露光される前に終了する、
ことを特徴とする請求項9に記載の方法。
【請求項11】
前記少なくとも1つの焦点パラメータを調整することは、前記センサーアレイ(11)と前記カメラ(3)のレンズユニット(9)との間の距離を変更すること、及び/又は、前記レンズユニット(9)の焦点距離を変更することを含む、
ことを特徴とする請求項7に記載の方法。
【請求項12】
車両(1)を少なくとも部分的に自動的に誘導するための方法であって、
- 前記車両(1)の動力車両用カメラ(3)の焦点調整のための方法が、請求項1に基づいて実行され;
- 前記車両(1)は、前記第1画像及び/又は前記第2画像に応じて、少なくとも部分的に自動的に誘導される、
方法。
【請求項13】
撮像デバイス(10)、焦点調整構成(12)及び少なくとも1つの制御ユニット(13a、13b)を備える動力車両用カメラ(3)であって、
前記少なくとも1つの制御ユニット(13a、13b)は、
- 前記カメラ(3)の視野内の2つ以上の所定の関心領域ROI(6a、6b、6c、7a、7b、7c)の各々について、前記カメラ(3)の対応のターゲット焦点設定を受けとり;
- ROIの前記第1サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、前記2つ以上の所定のROIの第1サブセットに関する第1焦点設定を決定し;
- 第1フレーム期間(F1)の間に第1画像を取得するように前記撮像デバイス(10)を制御し、前記第1焦点設定は少なくとも前記第1フレーム期間(F1)の一部の間に使用され;
- 第2焦点設定を、前記2つ以上の所定のROI(6a、6b、6c、7a、7b、7c)の第2サブセットに関し、ROIの前記第2サブセットの前記ROIのそれぞれの前記ターゲット焦点設定に応じて、決定し;
- 前記焦点調整構成(12)を制御して前記第1焦点設定を前記第2焦点設定に変更し;
- 前記第1フレーム期間(F1)の後の第2フレーム期間(F2)の間に第2画像を取得するように前記撮像デバイス(10)を制御し、前記第2焦点設定は、少なくとも前記第2フレーム期間(F2)の一部の間に使用される、
ように構成される、ことを特徴とする動力車両用カメラ(3)。
【請求項14】
車両(1)のための電子車両誘導システム(2)であって、請求項13に記載の動力車両用カメラ(3)と、前記第1画像及び/又は前記第2画像に応じて、前記車両(1)を少なくとも部分的に自動的に誘導するための1つ又は複数の制御信号を生成するように構成される更なる制御ユニット(4)とを備える、車両(1)のための電子車両誘導システム(2)。
【請求項15】
指示を含むコンピュータプログラムプロダクトであって、当該指示は、
- 請求項13に記載の動力車両用カメラ(3)によって実行されると、前記動力車両用カメラ(3)に請求項1~11のいずれか一項に記載の方法を実行させる;又は
- 請求項14に記載の電子車両誘導システム(2)によって実行されると、前記電子車両誘導システム(2)に請求項12に記載の方法を実行させる、
コンピュータプログラムプロダクト。
【外国語明細書】