IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックオートモーティブシステムズ株式会社の特許一覧

<>
  • 特開-車両、車載用カメラ及び映像出力方法 図1
  • 特開-車両、車載用カメラ及び映像出力方法 図2
  • 特開-車両、車載用カメラ及び映像出力方法 図3
  • 特開-車両、車載用カメラ及び映像出力方法 図4
  • 特開-車両、車載用カメラ及び映像出力方法 図5
  • 特開-車両、車載用カメラ及び映像出力方法 図6
  • 特開-車両、車載用カメラ及び映像出力方法 図7
  • 特開-車両、車載用カメラ及び映像出力方法 図8
  • 特開-車両、車載用カメラ及び映像出力方法 図9
  • 特開-車両、車載用カメラ及び映像出力方法 図10
  • 特開-車両、車載用カメラ及び映像出力方法 図11
  • 特開-車両、車載用カメラ及び映像出力方法 図12
  • 特開-車両、車載用カメラ及び映像出力方法 図13
  • 特開-車両、車載用カメラ及び映像出力方法 図14
  • 特開-車両、車載用カメラ及び映像出力方法 図15
  • 特開-車両、車載用カメラ及び映像出力方法 図16
  • 特開-車両、車載用カメラ及び映像出力方法 図17
  • 特開-車両、車載用カメラ及び映像出力方法 図18
  • 特開-車両、車載用カメラ及び映像出力方法 図19
  • 特開-車両、車載用カメラ及び映像出力方法 図20
  • 特開-車両、車載用カメラ及び映像出力方法 図21
  • 特開-車両、車載用カメラ及び映像出力方法 図22
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024090206
(43)【公開日】2024-07-04
(54)【発明の名称】車両、車載用カメラ及び映像出力方法
(51)【国際特許分類】
   H04N 23/60 20230101AFI20240627BHJP
   H04N 23/56 20230101ALI20240627BHJP
   H04N 23/50 20230101ALI20240627BHJP
   H04N 23/88 20230101ALI20240627BHJP
   B60R 1/30 20220101ALN20240627BHJP
【FI】
H04N23/60 500
H04N23/56
H04N23/50
H04N23/88
B60R1/30
【審査請求】未請求
【請求項の数】30
【出願形態】OL
(21)【出願番号】P 2022205941
(22)【出願日】2022-12-22
(71)【出願人】
【識別番号】322003857
【氏名又は名称】パナソニックオートモーティブシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】牧田 哲哉
(72)【発明者】
【氏名】合田 康之
(72)【発明者】
【氏名】貝瀬 剛
【テーマコード(参考)】
5C066
5C122
【Fターム(参考)】
5C066AA01
5C066EA14
5C066EC01
5C122DA14
5C122EA18
5C122FG14
5C122FH09
5C122FH11
5C122FK23
5C122GG04
5C122GG28
(57)【要約】
【課題】可視光及び赤外光に感度を有する車載カメラにおける画質の低下を抑制すること。
【解決手段】本開示に係る車両は、第1,第2車輪、車体、近赤外光源、カメラ、照度センサ及び出力回路を備える。車体は、第1,第2車輪によって移動可能である。近赤外光源は、車体の周囲の少なくとも一部に、近赤外光を照射する。カメラは、車体の周囲の少なくとも一部を撮像し、撮像した第1映像を出力する。照度センサは、車体の周囲の少なくとも一部の照度を検出する。出力回路は、近赤外光源が第1発光強度である場合、第1映像の少なくとも一部に第1補正処理が施された第2映像を出力する。出力回路は、近赤外光源が、第1発光強度より大きい第2発光強度である場合で、かつ照度が、所定の値より小さい場合、第1映像の少なくとも一部に、第1補正処理と異なる第2補正処理が施された第3映像を出力する。
【選択図】図1
【特許請求の範囲】
【請求項1】
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力するように構成されたカメラと、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出するように構成された照度センサと、
前記車体内部に配置された出力回路と、を備え、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
車両。
【請求項2】
請求項1に記載の車両であって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
車両。
【請求項3】
請求項1に記載の車両であって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
車両。
【請求項4】
請求項3に記載の車両であって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
車両。
【請求項5】
請求項1に記載の車両であって、
前記カメラは、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
車両。
【請求項6】
請求項5に記載の車両であって、
前記照度センサは、前記カメラの前記撮像素子が兼ねる、
車両。
【請求項7】
請求項1に記載の車両であって、
前記出力回路は、映像を表示するスクリーンを備える、
車両。
【請求項8】
請求項1に記載の車両であって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
車両。
【請求項9】
請求項8に記載の車両であって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
車両。
【請求項10】
請求項1に記載の車両であって、
制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
車両。
【請求項11】
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、を備えた車両に搭載可能な車載用カメラであって、
前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力することが可能に構成され、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出することが可能に構成された照度センサと、
前記車体内部に出力可能に構成された出力回路と、を備え、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
車載用カメラ。
【請求項12】
請求項11に記載の車載用カメラであって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
車載用カメラ。
【請求項13】
請求項11に記載の車載用カメラであって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
車載用カメラ。
【請求項14】
請求項13に記載の車載用カメラであって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
車載用カメラ。
【請求項15】
請求項11に記載の車載用カメラであって、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
車載用カメラ。
【請求項16】
請求項15に記載の車載用カメラであって、
前記照度センサは、前記撮像素子が兼ねる、
車載用カメラ。
【請求項17】
請求項11に記載の車載用カメラであって、
前記出力回路は、前記車体に搭載されたディスプレイデバイスのスクリーンに映像を出力可能である、
車載用カメラ。
【請求項18】
請求項11に記載の車載用カメラであって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
車載用カメラ。
【請求項19】
請求項18に記載の車載用カメラであって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
車載用カメラ。
【請求項20】
請求項11に記載の車載用カメラであって、
制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
車載用カメラ。
【請求項21】
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力するように構成されたカメラと、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出するように構成された照度センサと、
前記車体内部に配置された出力回路と、を備えた車両で実行可能な映像出力方法であって、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
映像出力方法。
【請求項22】
請求項21に記載の映像出力方法であって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
映像出力方法。
【請求項23】
請求項21に記載の映像出力方法であって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
映像出力方法。
【請求項24】
請求項23に記載の映像出力方法であって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
映像出力方法。
【請求項25】
請求項21に記載の映像出力方法であって、
前記カメラは、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
映像出力方法。
【請求項26】
請求項25に記載の映像出力方法であって、
前記照度センサは、前記カメラの前記撮像素子が兼ねる、
映像出力方法。
【請求項27】
請求項21に記載の映像出力方法であって、
前記出力回路は、映像を表示するスクリーンを備える、
映像出力方法。
【請求項28】
請求項21に記載の映像出力方法であって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
映像出力方法。
【請求項29】
請求項28に記載の映像出力方法であって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
映像出力方法。
【請求項30】
請求項21に記載の映像出力方法であって、
前記車両は、制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
映像出力方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、車両、車載用カメラ及び映像出力方法に関する。
【背景技術】
【0002】
従来、特に夜間条件において車両側方などの低照度領域の視認性を向上するために、赤外光源(例えば近赤外光源)と、可視光に加えて赤外光(例えば近赤外光)に感度を有する車載カメラとを搭載する車両が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】国際公開第2021-166601号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、赤外光源と可視光源との分光分布が大きく異なるため、適切なホワイトバランス処理ができずに画像に不要な着色が生じてしまい、色再現性が低下するなど画質が低下するおそれがあった。
【0005】
本開示が解決しようとする課題は、可視光及び赤外光に感度を有する車載カメラにおける画質の低下を抑制することである。
【課題を解決するための手段】
【0006】
本開示に係る車両は、第1車輪と、第2車輪と、車体と、近赤外光源と、カメラと、照度センサと、出力回路とを備える。前記車体は、前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能である。前記近赤外光源は、前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成されている。前記カメラは、前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力するように構成されている。前記照度センサは、前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出するように構成されている。前記出力回路は、前記車体内部に配置されている。前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力する。前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する。
【発明の効果】
【0007】
本開示によれば、可視光及び赤外光に感度を有する車載カメラにおける画質の低下を抑制することができる。
【図面の簡単な説明】
【0008】
図1図1は、実施形態に係る車両の一例を模式的に示す図である。
図2図2は、実施形態に係る車載用カメラの上面斜視図である。
図3図3は、実施形態に係る車載用カメラの下面斜視図である。
図4図4は、実施形態に係る車載用カメラの分解斜視図である。
図5図5は、実施形態に係る車両の要部のハードウェア構成の一例を示す図である。
図6図6は、実施形態に係る車載用カメラの処理回路のハードウェア構成の一例を示す図である。
図7図7は、実施形態に係る車両1において実行される映像出力処理の流れの一例を示すフローチャートである。
図8図8は、図7の照度推定処理の流れの一例を示すフローチャートである。
図9図9は、図8の処理で使用される、照度と信号レベルとの対応を示すテーブルの一例を示す図である。
図10図10は、図7の近赤外光源の補正判定処理の流れの一例を示すフローチャートである。
図11図11は、図7の白検出基準決定処理の流れの一例を示すフローチャートである。
図12図12は、図11の処理で決定される、白検出基準について説明するための図である。
図13図13は、図7の色温度推定処理の流れの一例を示すフローチャートである。
図14図14は、図13の処理における白検出基準を満たす仮想色温度座標値について説明するための図である。
図15図15は、図13の処理で使用される、光源と色温度座標値との対応を示すテーブルの一例を示す図である。
図16図16は、図13の処理において推定される色温度について説明するための図である。
図17図17は、図7の色補正処理の流れの一例を示すフローチャートである。
図18図18は、図17の処理で使用される、光源と色補正パラメータとの対応を示すテーブルの一例を示す図である。
図19図19は、図17の処理で使用される、色補正パラメータについて説明するための図である。
図20図20は、図7の色温度推定処理の流れの別の一例を示すフローチャートである。
図21図21は、図20の処理において推定される色温度について説明するための図である。
図22図22は、図7の色補正処理の流れの別の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照しながら、本開示に係る車両、車載用カメラ、映像出力方法、プログラム及び記録媒体の実施形態について説明する。
【0010】
なお、以下の説明において、既出の図に関して前述したものと同一又は略同一の機能を有する構成要素については、同一符号を付し、必要な場合にのみ重複説明する。また、既出の図に関して前述したものと同一又は略同一の機能を有する構成要素については、参照符号の末尾にa又はbを付して区別している場合もある。あるいは、同一又は略同一の機能を有する複数の構成要素を区別しない場合には、参照符号の末尾に付されたa又はbを省略することにより統合して記載する場合もある。
【0011】
従来、運転者の視野を補う視界補助のために、車両には、後部のバックカメラやサイドミラー横のサイドカメラが搭載されていた。このような中、車の安全性向上のため、カメラの映像を活用して、人や物体を検知し、検知の結果に基づいて運転者に注意を促したり、車両を制御したりする技術が知られている。
【0012】
カメラの映像を活用した車両の制御としては、車両の全周囲を撮影したカメラの映像に基づく自動駐車機能などが知られている。しかしながら、例えばサイドカメラの撮像領域は、車両のライトが届かないなど、暗い環境シーンが多く、可視領域の波長を有する可視光を検出可能な可視カメラでは十分な感度で映像を確保できなかった。
【0013】
これに対して、可視光だけでなく、近赤外領域の波長を有する近赤外光をさらに検出可能な撮像素子を搭載する2つの波長帯域を持つカメラと、近赤外光(以下簡単のために、近赤外光をNIRと呼ぶことがある。)を発する近赤外光源とを車両に搭載し、特に夜間条件において車両側方などの低照度領域といった、可視光の光量が少ない環境であっても画像を得ることができる技術が知られている。
【0014】
しかしながら、昼間などの可視光の光量が多い環境においては、赤外光源と可視光源との分光分布が大きく異なるため、適切なホワイトバランス処理ができずに画像に不要な着色が生じてしまう場合があった。つまり、可視光に加えて検出される近赤外光により被写体に対する画像の色再現性が低下するなど、画質が低下するおそれがあった。
【0015】
そこで、本開示は、可視光及び赤外光に感度を有する車載カメラにおける画質の低下を抑制することができる車両、車載用カメラ、映像出力方法、プログラム及び記録媒体を提供する。
【0016】
なお、本開示に係る車載用カメラを搭載する車両としては、自転車、自動二輪車、自動車、電車などの各種の車両が適宜利用可能である。また、本開示に係る車載用カメラは、車両に限らず、船舶、航空機などの各種の移動体に搭載されても構わない。ここで、車両を含む各種の移動体は、有人で移動する移動体であってもよいし、無人で移動する移動体であってもよい。また、これらの移動体の移動は、ユーザにより制御されてもよいし、自律的に制御されてもよい。
【0017】
(第1の実施形態)
図1は、実施形態に係る車両1の一例を模式的に示す図である。車両1は、図1に示すように、車体12と、車体12に所定方向に沿って配置された二対の車輪13とを有する。二対の車輪13は、一対のフロントタイヤ13f及び一対のリアタイヤ13rを含む。
【0018】
ここで、実施形態に係るフロントタイヤ13fは、第1車輪の一例である。また、実施形態に係るリアタイヤ13rは、第2車輪の一例である。なお、図1は、四つの車輪13を有する車両1を例示するが、これに限らない。車両1は、少なくとも一つのフロントタイヤ13fと、少なくとも一つのリアタイヤ13rを有していればよい。つまり、車両1の車輪13の数は二つ、三つ又は五つ以上の複数であってもよい。
【0019】
車体12は、車輪13に結合され、車輪13により支持される。車体12は、車輪13によって移動可能である。具体的には、車両1は、図示しない駆動機を有し、当該駆動機の動力によって車両1の車輪13のうちの少なくとも1つの車輪(駆動輪)を駆動することにより移動可能である。なお、駆動機としては、ガソリンや水素などを燃料とするエンジンやバッテリからの電力を用いるモータ、あるいはエンジンとモータとの組合せなど、任意の駆動機が適用可能である。この場合、二対の車輪13が配置される所定方向が車両1の走行方向となる。車両1は、不図示のギアの切り替え等により前進又は後退することができる。また、車両1は、操舵により右左折することもできる。
【0020】
また、車体12は、フロントタイヤ13f側の端部である前端部Fと、リアタイヤ13r側の端部である後端部Rを有する。車体12は上面視で略矩形をしており、略矩形状の4つの角部を端部と呼ぶ場合もある。
【0021】
車体12の前後端部F,Rであって、車体12の下端付近には一対のバンパー14が設けられている。一対のバンパー14のうちのフロントバンパー14fは、車体12の下端部付近の前面全体と側面の一部とを覆う。一対のバンパー14のうちのリアバンパー14rは、車体12の下端部付近の後面全体と側面の一部とを覆う。
【0022】
なお、図1では図示を省略するが、車両1は、ディスプレイ19(図2参照)、スピーカ、操作部、方位センサ、GPS(Global Positioning System)等の全球測位衛星システム(Global Navigation Satellite System:GNSS)インターフェース及びGNSS回路等を有する。また、車体12の所定の端部には、超音波等の音波を送受波するソナーや電磁波を送受波するレーダーが設けられていてもよい。
【0023】
車両1は、車体12に取り付けられ、車体12の周囲の少なくとも一部を撮像し、撮像した映像信号S1,S2,S3(図5参照)を出力するように構成された、少なくとも一つの車載用カメラ16を有する。なお、車載用カメラ16が撮像する撮像画像は、動画でもよいし、静止画でもよい。車両1は、車載用カメラ16として、例えば、車両1の前端部Fに取り付けられた車載用カメラ16aと、後端部Rに取り付けられた車載用カメラ16bと、左側面部に取り付けられた車載用カメラ16cと、右側面部に取り付けられた車載用カメラ16d(図示しない)とを有する。
【0024】
ここで、車両1の前端部Fとは、例えば車両1のエンブレム部などである。前端部Fの車載用カメラ16aは、例えば車両1の前方の路面を斜め方向に見下ろすような姿勢で取り付けされている。つまり、前端部Fの車載用カメラ16aは、車両1の前方を中心とした所定の撮影領域を撮影可能に構成される。
【0025】
また、車両1の後端部Rとは、例えば車両1のリアライセンスガーニッシュ部などである。後端部Rの車載用カメラ16bは、例えば車両1の後方の路面を斜め方向に見下ろすような姿勢で取り付けされている。つまり、後端部Rの車載用カメラ16bは、車両1の後方を中心とした所定の撮影領域を撮影可能に構成される。
【0026】
また、車両1の左側面部及び右側面部、すなわち車両1の側方部とは、例えば車両1のサイドミラー部などである。側方部の車載用カメラ16c,16dは、それぞれ、例えば車両1の側方の路面を真下方向に見下ろすような姿勢で取り付けされている。つまり、側方部の車載用カメラ16c,16dは、それぞれ、車両1の側方を中心とした所定の撮影領域を撮影可能に構成される。
【0027】
なお、複数の車載用カメラ16のうちの隣接する車載用カメラ16は、一例として、互いに撮影領域の一部が重複するように配置される。この場合、複数の車載用カメラ16により得られた複数の画像を貼り合わせるように合成することにより、車両1の全周を表現する画像を生成可能である。
【0028】
以下、前端部Fの車載用カメラ16a、後端部Rの車載用カメラ16b、左側面部の車載用カメラ16c及び右側面部の車載用カメラ16d(図示しない)を特に区別しない場合には、単に車載用カメラ16と記載する。なお、車載用カメラ16の位置及び/又は数は、図1に示す例に限らず適宜変更可能である。
【0029】
図2は、実施形態に係る車載用カメラ16の上面斜視図である。図3は、実施形態に係る車載用カメラ16の下面斜視図である。図4は、実施形態に係る車載用カメラ16の分解斜視図である。
【0030】
本実施形態の車載用カメラ16は、キャップ10、溶着リング20、レンズユニット30、回路基板40(図3参照)、放熱材50(図3参照)及び筐体60を有する。
【0031】
キャップ10は、溶着リング20に取り付けられ、レンズユニット30を保護する部材である。図3では、キャップ10の図示が省略されている。
【0032】
溶着リング20は、平面視で矩形環状の平板により構成され、レンズユニット30及び筐体60に対し、レーザ溶着により溶着されている。溶着リング20の内周面は、レンズユニット30のレンズ鏡筒31(後述参照)の外周面と対向している。溶着リング20の内径は、レンズユニット30のレンズ鏡筒31が挿入可能な長さを有する。
【0033】
溶着リング20は、光透過性樹脂を含む材料から成る。例えば、光透過性樹脂としては、ポリエステル樹脂、ポリオレフィン樹脂、ポリアミド樹脂、塩化ビニル樹脂、フッ素樹脂などから形成される。ポリエステル樹脂としては、ポリプチレンテレフタレート(PBT)、ポリエチレンテレフタレート(PET)などを用いることができる。ポリオレフィン樹脂としては、ポリエチレン、ポリプロピレンなどを用いることができる。なお、用いる光透過性樹脂は、1種類であっても複数種類であってもよい。また、一定水準以上の透過性能を実現可能であれば、主となる光透過性樹脂に、着色材料或いは充填材又はその両方を含有させてもよい。
【0034】
なお、溶着リング20は本実施の形態において平板矩形環状であるが、これに限らず、溶着部分が平板状であればよい。したがって、矩形環状のような多角形に限らず、円環状、楕円の環状などのように円環状以外の環状であってもよい。また、溶着部以外の部分については段差、厚みなどが一様でなくてもよい。
【0035】
レンズユニット30は、円筒状のレンズ鏡筒31と、レンズ鏡筒31内部に設けられる少なくとも一つのレンズ311(図5参照)とから構成される。レンズユニット30は、レンズ鏡筒31の外周面から外側に向けて張り出した鍔部32(図3参照)を有する。鍔部32は、後述する筐体60の内部空間の開口付近に位置しており、筐体60の筐体側壁67(図3参照)の内周面に向けて突出している。鍔部32の少なくとも一部は、溶着リング20を介して筐体60と接合される。
【0036】
レンズ鏡筒31は、光吸収性樹脂を含む材料から成る。光吸収性樹脂としては、例えば、ポリアミド系樹脂、オレフィン系樹脂、ビニル系樹脂、スチレン系樹脂、アクリル系樹脂、ポリエステル系樹脂、ポリカーボネート系樹脂、ポリアリレート系樹脂、ポリサルフォン系樹脂、ポリフェニレンオキサイド系樹脂、ポリエーテルサルフォン系樹脂、ポリエーテルイミド系樹脂などを用いることができる。なお、用いる光吸収性樹脂は、1種類であっても複数種類であってもよい。また、主となる光吸収性樹脂に、レーザ光を吸収する吸収剤或いは着色材料又はその両方を含有させてもよい。
【0037】
レンズ鏡筒31を、光吸収性樹脂を含む材料から構成することにより、内部空間への光の透過を低減することができる。すなわち、車載用カメラ16の外部から車載用カメラ16の内部への光の透過を低減することができる。そのため、透過光による撮像素子41(後述参照)のハレーションを防止することができる。
【0038】
さらに、レンズユニット30は、筐体60に対して位置決めを行うために、レンズユニット30の光軸(図3の紙面上下方向)に直交する直交方向(言い換えると、面方向)に起立する位置決めリブ33を有する。これにより、回路基板40上に設けられた撮像素子41の撮像面を、少なくとも一つのレンズ311の光軸上に配置することができる。
【0039】
回路基板40は、筐体60の内部空間に配置される。回路基板40は、少なくとも一枚の基板から構成される。図4は、一枚の基板から成る回路基板40を例示する。回路基板40は、第1面40aと、第1面40aと反対の第2面40bとを有する。回路基板40は、撮像素子41及び処理回路42(図5参照)を有する。撮像素子41及び処理回路42のうちの少なくとも撮像素子41は、回路基板40の第1面40aに配置される。撮像素子41及び処理回路42については、後述する。
【0040】
なお、回路基板40は、二枚以上の基板から構成されていてもよい。また、回路基板40において、撮像素子41及び処理回路42が異なる基板上に設けられていてもよい。あるいは、回路基板40において、第1面40aに撮像素子41が配置され、第2面40bに処理回路42が配置される場合もあり得る。
【0041】
放熱材50は、筐体60の内部空間において回路基板40に隣接して配置され、回路基板40などの電子部品から発生した熱を、外部に放熱する役割を果たす。放熱材50は、放熱グリース、シリコーン系シート、非シリコーン系シート、熱伝導性ゲルなどの材料により構成されるがその種類は限定されない。
【0042】
筐体60は、少なくとも回路基板40を収容する。具体的には、筐体60は、内部空間を有する筒状の部材であり、大径筒状部61及び小径筒状部62を有する。大径筒状部61は、小径筒状部62に比べて大きな断面積を有し、ともに矩形の断面を有する。大径筒状部61は、上述した回路基板40、放熱材50などを収容する。小径筒状部62は、もっぱら車載用カメラ16の外部との電気的接続を確保するコネクタを収容する。大径筒状部61と小径筒状部62とは、後述する樹脂により、一体成形することが可能であるが、あらかじめ用意された個別の大径筒状部61と小径筒状部62とを溶着若しくはビス止めなどの方法により接合してもよい。なお、筐体60は本実施形態において矩形筒状であるが、これに限らず、矩形以外の多角形の筒状、円形や楕円形の筒状、その他の形状の筒であってもよい。
【0043】
筐体60は、光吸収性樹脂を含む材料から成る。光吸収性樹脂としては、例えば、ポリアミド系樹脂、オレフィン系樹脂、ビニル系樹脂、スチレン系樹脂、アクリル系樹脂、ポリエステル系樹脂、ポリカーボネート系樹脂、ポリアリレート系樹脂、ポリサルフォン系樹脂、ポリフェニレンオキサイド系樹脂、ポリエーテルサルフォン系樹脂、ポリエーテルイミド系樹脂などを用いることができる。なお、用いる光吸収性樹脂は、1種類であっても複数種類であってもよい。また、主となる光吸収性樹脂に、レーザ光を吸収する吸収剤或いは着色材料又はその両方を含有させてもよい。
【0044】
筐体60を、光吸収性樹脂を含む材料から構成することにより、筐体60の内部空間への光の透過を低減することができる。すなわち、車載用カメラ16外部から車載用カメラ16内部への光の透過を低減することができる。そのため、透過光による撮像素子41のハレーションを防止することができる。
【0045】
さらに、実施形態の車載用カメラ16は、筐体60の内部空間において回路基板40を囲うように配置された金属製のシールド70を備えている。シールド70は、筐体60の外部から伝播する電磁波や内部空間から放射される電磁波を遮蔽する役割を果たす。
【0046】
図5は、実施形態に係る車両1の要部のハードウェア構成の一例を示す図である。
【0047】
レンズ鏡筒31は、その内部において少なくとも一つのレンズ311(レンズ群)及び赤外カットフィルタ(IRCF)312(図5参照)を保持している。
【0048】
少なくとも一つのレンズ311は、それぞれの光軸を一致させた状態に並べられ、車両1の車体12の内外の撮像に用いられるレンズ群を構成している。なお、少なくとも一つのレンズ311は、パワーを有する少なくとも1つの光学素子により所望の結像性能を有していればよく、少なくとも1つの単レンズを含む複合レンズで構成されてもよいし、レンズ系や反射系の組合せで構成されてもよい。
【0049】
IRCF312は、可視光及び近赤外光にバンドパス特性を有する光学素子である。近赤外光のバンドパス領域は、例えば昼間条件で自然光の影響を受けにくい940-950nm程度の波長帯であるが、撮像素子41の分光感度に応じて適宜決定されればよい。一例として、IRCF312は、ガラスにより形成され、少なくとも一つのレンズ311の結像レンズと撮像素子41の撮像面との間に配置される。一例として、IRCF312は、IRCF312は、ガラス表面に形成された塗膜であり、少なくとも一つのレンズ311の結像レンズと撮像素子41の撮像面との間に配置される。一例として、IRCF312は、IRCF312は、少なくとも一つのレンズ311のレンズ面にコート状に塗布又は蒸着することにより形成された薄膜である。
【0050】
撮像素子41は、少なくとも一つのレンズ311の光軸上にその撮像面が位置するように回路基板40の第1面40aに配置される。撮像素子41の撮像面は、少なくとも一つのレンズ311の光軸方向において、少なくとも一つのレンズ311により被写体からの光束が結像される位置に配置される。撮像素子41は、少なくとも可視光から近赤外光までの分光感度を有する。撮像素子41は、被写体からの光束、すなわちレンズユニット30を介して撮像面に結像された被写体光束の受光強度に応じた信号レベルの画素信号S0を出力するように構成される。
【0051】
ここで、本実施形態に係る画素信号S0は、第1映像信号の一例である。なお、本実施形態に係る映像出力処理においては、画素信号S0に基づいて照度推定値が算出される。つまり、実施形態に係る撮像素子41は、車体12に取り付けられた車載用カメラ16において、車体12の周囲の少なくとも一部の照度を検出するように構成された照度センサの一例であると表現することができる。
【0052】
なお、車両1には、照度センサが搭載されていてもよい。照度センサは、車体12に取り付けられ、車体12の周囲の少なくとも一部の照度を検出するように構成されていればよい。この場合、実施形態に係る映像出力処理は、照度センサによる検出結果と、画素信号S0に基づく推定結果との少なくともいずれかを用いて実施されればよい。
【0053】
撮像素子41としては、CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)などの固体撮像素子が適宜利用可能である。一例として、撮像素子41は、ベイヤ配列構造のカラーフィルタを有する固体撮像素子である。ベイヤ配列構造は、水平方向にR画素及びGr画素が交互に配列されたラインと、水平方向にB画素及びGb画素が交互に配列されたラインとが垂直方向に交互に配置されるカラーフィルタの配列構造のことを言う。
【0054】
処理回路42は、制御回路17からの近赤外光源18の状態通知S5に応じた画像処理を撮像素子41からの画素信号S0に対して施し、処理後の映像信号S1,S2,S3のいずれかを出力するように構成される。図6は、実施形態に係る車載用カメラ16の処理回路42のハードウェア構成の一例を示す図である。処理回路42は、図6に示すように、露光制御回路421、補正判定回路422、補正パラメータ生成回路423、メモリ424及び画像処理回路425を有する。
【0055】
処理回路42は、例えばISP(Image Signal Processor)により実現される。なお、処理回路42は、ISPの他のDSP(Digital Signal Processor)により実現されてもよいし、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の各種のプロセッサにより実現されても構わない。また、処理回路42は、マイクロコンピュータにより実現されてもよい。
【0056】
なお、露光制御回路421、補正判定回路422、補正パラメータ生成回路423及び画像処理回路425のそれぞれは、二つ以上のプロセッサにより実現されてもよい。また、露光制御回路421、補正判定回路422、補正パラメータ生成回路423及び画像処理回路425の一部又は全部が一つのプロセッサにより実現されてもよい。
【0057】
なお、露光制御回路421、補正判定回路422、補正パラメータ生成回路423及び画像処理回路425のそれぞれが専用回路として実現される場合を例示するが、これに限らない。処理回路42は、メモリ424のROMなどに格納されたプログラムをRAMにロードして実行することにより、露光制御回路421、補正判定回路422、補正パラメータ生成回路423及び画像処理回路425のそれぞれに対応する機能部を実現してもよい。
【0058】
露光制御回路421は、撮像素子41に対して、露光制御信号S8を出力するとともに、撮像素子41からの画素信号S0に基づき照度推定値を算出する。
【0059】
補正判定回路422は、近赤外光源18の状態に関する状態通知S5と、照度推定処理による照度値の推定結果とに基づき補正判定処理を実行する。
【0060】
補正パラメータ生成回路423は、白検出基準としての白検出枠の生成、補正ゲイン生成、色温度推定及び補正パラメータ生成を行う。一例として、補正パラメータ生成回路423は、近赤外光源の補正判定結果に基づいて白検出枠の範囲を設定する。また、補正パラメータ生成回路423は、画像から抽出した色比率に基づいて光源の色温度を推定する。また、補正パラメータ生成回路423は、色温度推定結果に基づいて画像処理における補正パラメータを算出する。
【0061】
メモリ424は、例えば、RAM(Random Access Memory)やROM(Read Only Memory)などの半導体メモリ(記憶媒体)により実現される。なお、メモリ424は、HDD(Hard Disk Drive)やSSD(Solid State Drive)を有していても構わない。メモリ424は、例えば画像処理で用いる各種のパラメータやしきい値などを記憶する。例えば、メモリ424は、光源別の白検出枠や色温度、画像補正値をテーブルとして記憶する。換言すれば、メモリ424は、光源の色温度ごとに最適な画像処理設定をテーブルとして記憶する。
【0062】
画像処理回路425は、補正パラメータ生成回路423により算出された補正パラメータを設定し、設定した補正パラメータを用いたホワイトバランス処理及び色補正処理の少なくともいずれかを実行する。
【0063】
I/F43は、例えばCAN(Controller Area Network)に接続するように設定されている。I/F43は、例えばCANを介して他のECU又は車両1の各種センサから車両1の状態に関する情報を取得する。車両1の状態に関する情報とは、例えば、車両1の速度、操舵角、加速度などである。一例として、I/F43は、車両1の他のECU(例えば制御回路17)からの近赤外光源18の状態通知S5を受信する。また、I/F43は、処理回路42による処理後の映像信号S1,S2,S3を車両1の他のECU(例えば制御回路17)に伝送する。ここで、I/F43は、車載用カメラ16において、車体12内部に出力可能に構成された出力回路の一例である。
【0064】
一例として、I/F43は、近赤外光源18が第1発光強度である場合、画素信号S0の少なくとも一部に可視光用のホワイトバランスの補正処理が施された第2映像信号S2を出力する。ここで、可視光用のホワイトバランスの補正処理は、第1補正処理の一例である。
【0065】
一例として、I/F43は、近赤外光源18が第1発光強度より大きい第2発光強度である場合、かつ、照度が所定の値より小さい場合、画素信号S0の少なくとも一部に、可視光用のホワイトバランスの補正処理と異なる近赤外光用のホワイトバランスの補正処理が施された第3映像信号S3を出力する。ここで、近赤外光用のホワイトバランスの補正処理は、第2補正処理の一例である。
【0066】
一例として、I/F43は、近赤外光源18が、第2発光強度である場合、かつ、照度が所定の値より大きい場合、画素信号S0の少なくとも一部に可視光用のホワイトバランスの補正処理が施された第2映像信号S2を出力する。
【0067】
車両1は、図1及び図5に示すように、制御回路17、近赤外光源18を有する。また、車両1は、図5に示すように、ディスプレイ19を有する。
【0068】
制御回路17は、車体12内部に配置される。例えば、制御回路17は、車両1に搭載されるように設定された情報処理装置であり、例えば、車両1の内部に設けられたECU(Electronic Control Unit)、もしくはOBU(On Board Unit)である。あるいは、制御回路17は、車両1のダッシュボード付近に設置された外付けの装置であってもよい。ここで、制御回路17は、車両1内部に配置された出力回路の一例である。
【0069】
制御回路17は、複数の車載用カメラ16のそれぞれに接続される。制御回路17は、近赤外光源18の動作を制御する。また、制御回路17は、近赤外光源18の点灯/消灯状態を通知する、すなわち近赤外光源18が発光状態であるか非発光状態であるかを通知する近赤外光源18の状態通知S5を、I/F43を介して車載用カメラ16側に伝送する。
【0070】
なお、制御回路17は、実施形態に係る映像出力処理を実現可能に構成されていてもよい。つまり、制御回路17は、実施形態に係る処理回路42の機能の一部を実現可能に構成されていてもよい。この場合、車載用カメラ16は、画素信号S0、あるいは画素信号S0に基づく第1映像信号S1を、I/F43を介して制御回路17に出力する。制御回路17は、第1映像信号S1に基づく映像出力処理により、第1映像信号S1、第2映像信号S2又は第3映像信号S3をディスプレイ19に出力する。
【0071】
近赤外光源18は、車体12に取り付けられ、車体12の周囲の少なくとも一部に、近赤外光を照射するように構成される。近赤外光源18は、例えばサイドミラーなどの車載用カメラ16の近傍に配置される。近赤外光源18は、制御回路17から点灯/消灯の制御可能に構成される。
【0072】
近赤外光源18は、電力が供給されない場合の発光強度である第1発光強度で発光する第1発光状態と、電力が供給される場合の第1発光強度より大きい第2発光強度で発光する第2発光状態との間で切り替えられる。なお、第1発光強度は、消灯状態であると見做せる発光状態であり、発光強度が0(ゼロ)である場合を含む。同様に、第2発光強度は、点灯状態であると見做せる発光状態である。
【0073】
ディスプレイ19は、映像を表示するスクリーンを有する。スクリーンにより表示される映像は、制御回路17から供給される第1映像信号S1、第2映像信号S2又は第3映像信号S3を含む。ディスプレイ19は、カーナビゲーション装置のディスプレイと共通であってもよい。
【0074】
なお、本実施形態では、車載用カメラ16が車両1に内蔵されている場合を例示するが、これに限らない。車載用カメラ16は、車両1に後付け可能なドライブレコーダのカメラなど、車両1とは独立した装置として構成されていてもよい。この場合、実施形態に係る映像出力処理は、車載用カメラ16で実行されてもよいし、車両1で実行されてもよい。換言すれば、実施形態に係る映像出力処理は、車両1とは独立した装置として構成された車載用カメラ16により実行されてもよいし、車両1とは独立した装置として構成された車載用カメラ16からの第1映像信号S1に基づき制御回路17により実行されてもよい。
【0075】
次に、以上のように構成された車載用カメラ16を搭載する車両1で実行される映像出力処理の流れを説明する。図7は、実施形態に係る車両1において実行される映像出力処理の流れの一例を示すフローチャートである。
【0076】
車載用カメラ16においてI/F43は、車両1の内部に設けられた制御回路17からの近赤外光源18の状態に関する状態通知S5を受信する(S101)。I/F43は、受信した状態通知S5を処理回路42に供給する。また、車載用カメラ16において撮像素子41は、レンズユニット30を介して撮像面に結像された被写体光束の受光強度に応じた信号レベルの画素信号S0を、例えばフレームレートに応じた頻度で順次、処理回路42に供給する。
【0077】
処理回路42において露光制御回路421は、画素信号S0に基づいて車体12の周囲の少なくとも一部についての照度推定値を算出することにより照度を検出する照度推定処理を実行する(S102)。照度推定処理については、後述する。
【0078】
処理回路42において補正判定回路422は、I/F43により受信した近赤外光源18の状態に関する状態通知S5と、照度推定処理による照度値の推定結果とに基づいて、近赤外の成分による影響を低減するための近赤外光源補正をオンするかを判定する補正判定処理を実行する(S103)。補正判定処理については、後述する。
【0079】
処理回路42において補正パラメータ生成回路423は、補正判定処理の結果に基づいてホワイトバランス処理における白検出基準を決定する白検出基準決定処理を実行する(S104)。具体的には、補正パラメータ生成回路423は、補正判定処理の結果に基づいて、白検出基準を満たす色温度座標値を規定する白検出枠の範囲を、可視光源と近赤外光源との間で切り替える。白検出基準決定処理については、後述する。
【0080】
また、補正パラメータ生成回路423は、画素信号S0から抽出した色比率に基づいて、光源の色温度を推定する色温度推定処理を実行する(S105)。色温度推定処理については、後述する。
【0081】
そして、処理回路42は、補正パラメータ生成回路423において色温度推定値に基づいて光源に適した補正パラメータを読み出し、画像処理回路425においてホワイトバランス補正処理及び色補正処理の少なくともいずれかを行う色補正処理を実行する(S106)。色補正処理については、後述する。
【0082】
ここで、実施形態に係る映像出力処理における照度推定処理について説明する。図8は、図7の照度推定処理の流れの一例を示すフローチャートである。図9は、図8の処理で使用される、照度と信号レベルとの対応を示すテーブルT1の一例を示す図である。
【0083】
露光制御回路421は、撮像素子41からの映像信号(画素信号S0)を取得する(S201)。
【0084】
露光制御回路421は、取得した画素信号S0から指定領域の信号レベルを読み出す(S202)。ここで、指定領域とは、測光のための領域であり、車体12の周囲の少なくとも一部の領域である。指定領域は、例えば車載用カメラ16の撮像範囲に応じて予め設定されて予めメモリ424等に記憶されている。なお、指定領域は、車載用カメラ16の撮像範囲の全体であってもよいし、一部であってもよい。
【0085】
露光制御回路421は、予め測定した照度と信号レベルとを紐付けたルックアップテーブルT1を参照し、指定領域の信号レベル及び撮像時の露光設定値に応じた照度の値を読み出す(S203)。図9のルックアップテーブルT1は、照度(Lux)と、露光量と、信号レベルとの対応を示す。なお、本実施形態ではルックアップテーブルT1を用いる場合を例示するが、予め測定した照度と信号レベルとの関係を示す関係式を用いてもよい。
【0086】
露光制御回路421は、ルックアップテーブルT1から読み出した照度を用いた補間処理により、指定領域の信号レベルに応じた照度推定値を算出する(S204)。
【0087】
露光制御回路421は、照度推定値と、予め定められてメモリ424等に記憶されたしきい値との比較に応じた照度推定結果を出力する(S205)。一例として、しきい値は、例えば、近赤外光源18が第2発光強度である場合の照度である。この場合、照度推定値がしきい値未満であれば、近赤外光源18が点灯していると見做すことができる。同様に、照度推定値がしきい値以上であれば、近赤外光源18が第1発光強度である場合の照度であり、点灯していないと見做すことができる。
【0088】
ここで、実施形態に係る映像出力処理における補正判定処理について説明する。図10は、図7の近赤外光源の補正判定処理の流れの一例を示すフローチャートである。
【0089】
補正判定回路422は、制御回路17から受信されてメモリ424に記憶されている近赤外光源18の状態通知S5を読み出す(S301)。また、補正判定回路422は、露光制御回路421により出力されてメモリ424に記憶されている照度推定結果を読み出す(S302)。
【0090】
補正判定回路422は、近赤外光源18の発光状態が第1発光強度であるか否かを判定する(S303)。近赤外光源18が第1発光強度ではない場合(S303:No)、すなわち近赤外光源18が点灯している場合(第2発光強度である場合)、補正判定回路422は、照度推定結果が予め定められたしきい値未満であるか否かを判定する(S304)。照度推定結果が予め定められたしきい値未満である場合(S304:Yes)、すなわち低照度環境である場合、補正判定回路422は、近赤外光源補正オンと判定する(S305)。
【0091】
一方、近赤外光源18が第1発光強度である場合(S303:Yes)、あるいは照度推定結果が予め定められたしきい値以上である場合(S304:No)、補正判定回路422は、近赤外光源補正オフと判定する(S306)。つまり、補正判定回路422は、近赤外光源18が消灯している場合、あるいは近赤外光源18が点灯している場合で、かつ照度がしきい値以上の環境である場合、近赤外光源補正オフと判定する。
【0092】
その後、補正判定回路422は、近赤外光源18の補正判定結果を出力する(S307)。
【0093】
ここで、実施形態に係る映像出力処理における白検出基準決定処理について説明する。図11は、図7の白検出基準決定処理の流れの一例を示すフローチャートである。図12は、図11の処理で決定される、白検出基準について説明するための図である。
【0094】
補正パラメータ生成回路423は、補正判定回路422により出力されてメモリ424に記憶されている補正判定結果を読み出す(S401)。そして、補正パラメータ生成回路423は、読み出した補正判定結果に応じた白検出基準をテーブルから読み出す(S402)。このように、補正パラメータ生成回路423は、近赤外光源の補正判定結果に基づいて白検出枠の範囲を設定する。
【0095】
本実施形態では、白検出基準として、G画素の信号レベルを基準としたR画素及びB画素の信号レベルを示す色比率(B/G,R/G)を用いる色座標系において色温度座標の範囲を規定する白検出枠を用いる場合を例示する。
【0096】
一例として、補正パラメータ生成回路423は、近赤外光源補正オフの補正判定結果であるとき、可視光向けの白検出枠(図12ではx0~x1,y0~y1)をメモリ424に記憶されたテーブルから読み出す。ここで、可視光向けの色座標系における白検出枠は、第1検出枠の一例である。可視光向けの白検出枠は、色座標系において近赤外光源18の色温度座標(x,y)を含まない。
【0097】
一例として、補正パラメータ生成回路423は、近赤外光源補正オンの補正判定結果であるとき、近赤外光源向けの白検出枠(図12ではx0~x2,y0~y2)をメモリ424に記憶されたテーブルから読み出す。ここで、近赤外光向けの色座標系における白検出枠は、第2検出枠の一例である。近赤外光源向けの白検出枠は、図12に例示するように、可視光向けの白検出枠より色座標系において広い。また、近赤外光源向けの白検出枠は、色座標系において近赤外光源18の色温度座標(x,y)を含む。近赤外光源18の色温度座標(x,y)は、近赤外光源18が発光する光に対応する色温度を示す。
【0098】
ここで、実施形態に係る映像出力処理における色温度推定処理について説明する。図13は、図7の色温度推定処理の流れの一例を示すフローチャートである。図14は、図13の処理における白検出基準を満たす仮想色温度座標値について説明するための図である。図14は、近赤外光源補正オンと判定された場合を例示する。図15は、図13の処理で使用される、光源と色温度座標値との対応を示すテーブルT2の一例を示す図である。図16は、図13の処理において推定される色温度について説明するための図である。
【0099】
補正パラメータ生成回路423は、画素信号S0における指定した範囲の画素値を色温度に変換し、色温度平面上に仮想的にプロットする(S501)。
【0100】
補正パラメータ生成回路423は、白検出基準決定処理において設定された白検出基準を読み出し、仮想色温度座標値をマスクする(S502)。また、補正パラメータ生成回路423は、白検出基準を満たす仮想色温度座標値の平均値を算出する(S503)。具体的には、補正パラメータ生成回路423は、白検出枠外の仮想色温度座標値(図14では×印)を除外し、白検出枠内の仮想色温度座標値(図14では菱形)についての平均値を算出する。
【0101】
その後、補正パラメータ生成回路423は、予め測定した色温度座標値を光源ごとに読み出す(S504)。予め測定した色温度座標値は、図15に例示するように、光源種別と、色温度と、色比率(B/G,R/G)との対応を示すルックアップテーブルT2としてメモリ424等に記憶されている。ここで、色比率(B/G,R/G)は、上述したように図14等に例示する色座標系における色温度座標値である。図15に示す例では、光源種別が可視光源である光源をVISと表現し、光源種別が近赤外光源である光源をNIRと表現する。例えば、光源種別が可視光源であるVIS1は、色温度が6500K(ケルビン)であり、B/Gにおける色比率は0.5であり、R/Gにおける色比率は0.6である。光源種別が近赤外光源であるNIRは、B/Gにおける色比率は1.1であり、R/Gにおける色比率は1.1である。
【0102】
また、補正パラメータ生成回路423は、仮想色温度座標値の平均値(図16では星印)から各色温度座標までの距離(正確には、ユークリッド距離)を算出する(S505)。図16に示す例では、光源種別が可視光源である光源をVISと表現し、光源種別が近赤外光源である光源をNIRと表現する。図16に示す例では、補正パラメータ生成回路423は、仮想色温度座標値の平均値からVIS1までの色座標系における距離と、仮想色温度座標値の平均値からVIS2までの色座標系における距離と、仮想色温度座標値の平均値からNIRまでの色座標系における距離とを算出する。
【0103】
その後、補正パラメータ生成回路423は、近赤外光源が最も近いかを判定する(S506)。近赤外光源が最も近い場合(S506:Yes)、補正パラメータ生成回路423は、仮想色温度座標値の平均値を近赤外光源の色温度と判定する(S507)。一方で、近赤外光源の他の可視光源が最も近い場合(S506:No)、補正パラメータ生成回路423は、仮想色温度座標値の平均値を可視光源のうちのいずれかの色温度、例えば最も近い可視光源の色温度と判定する(S508)。このように、補正パラメータ生成回路423は、画像から抽出した色比率に基づいて光源の色温度を推定する。
【0104】
また、補正パラメータ生成回路423は、判定した色温度に対応するホワイトバランスの補正ゲインを算出して出力する(S509)。一例として、補正パラメータ生成回路423は、仮想色温度座標値の平均値から色比率が1になるようなホワイトバランスの補正ゲインを算出する。
【0105】
ここで、実施形態に係る映像出力処理における色補正処理について説明する。図17は、図7の色補正処理の流れの一例を示すフローチャートである。図18は、図17の処理で使用される、光源と色補正パラメータとの対応を示すテーブルT3の一例を示す図である。図18に示す例では、光源種別が可視光源である光源をVISと表現し、光源種別が近赤外光源である光源をNIRと表現する。図19は、図17の処理で使用される、色補正パラメータについて説明するための図である。
【0106】
補正パラメータ生成回路423は、色温度推定処理において判定された色温度に対応した色補正パラメータをテーブルT3から読み出す(S601)。テーブルT3は、図18に例示するように、光源種別と、色温度と、色補正パラメータとの対応を示す。テーブルT3は、色補正パラメータとして、全体の彩度ゲインと、色相別の彩度ゲインとを含む。色相別の彩度ゲインは、図19に例示するように、Cr(R-Y)-Cb(B-Y)平面における領域ごとに色補正パラメータが格納されている。また、補正パラメータ生成回路423は、色温度推定処理において算出されてメモリ424に記憶されているホワイトバランスの補正ゲインを読み出す(S602)。
【0107】
画像処理回路425は、読み出したホワイトバランスの補正ゲインを画素信号S0に乗算して第2映像信号S2又は第3映像信号S3を生成する。ここで、第2映像信号S2は、可視光用のホワイトバランス処理が施された映像信号である。また、第3映像信号S3は、近赤外光用のホワイトバランス処理が施された映像信号である。
【0108】
また、画像処理回路425は、読み出した色補正パラメータを用いた色補正処理が施された第2映像信号S2又は第3映像信号S3を生成する。なお、色補正処理は、ホワイトバランス処理、カラーマトリクス処理、デモザイク処理及び色差信号生成処理が施された画素信号S0に対して行われる。
【0109】
なお、ホワイトバランス処理及び色補正処理の少なくともいずれかが行われない場合もあり得る。つまり、画像処理回路425は、ホワイトバランス処理及び色補正処理の少なくともいずれかを画素信号S0に対して施すことにより第2映像信号S2又は第3映像信号S3を生成する。
【0110】
このように、本実施形態に係る映像出力処理は、近赤外光源18の状態通知S5と、撮像範囲における照度の推定値とを用いて色温度を推定し、推定された色温度に応じて近赤外用のホワイトバランス処理と、可視光用のホワイトバランス処理とを切り替える。
【0111】
この構成によれば、昼間などの可視光の光量が多い環境において、近赤外光源18が消灯していれば可視光用のホワイトバランス処理を実施し、近赤外光源18が点灯している状況であれば近赤外光用のホワイトバランス処理を実施することができる。
【0112】
例えば、昼間であっても車両1がトンネル内を走行している間には近赤外光源18が点灯する場合もある。このような中、車両1がトンネルを出てから近赤外光源18が消灯するまでの間においては、可視光の光量が多い環境下で近赤外光源18が点灯した状態となり得る。この場合であっても、上記構成によれば、可視光用のホワイトバランス処理を実施可能である。
【0113】
また、近赤外光源18は、例えば低速走行時に運転者がディスプレイ19を用いて周囲を確認する場合や運転者が駐車支援及び/又は運転支援を得る場合に点灯し得る。このような中、例えば、運転支援を使用せずに車両1が高速走行している間や車両1がトンネルに入ってから近赤外光源18が点灯するまでの間においては、可視光の光量が少ない環境において近赤外光源18が消灯した状態となり得る。この場合であっても、上記構成によれば、可視光用のホワイトバランス処理を実施可能である。
【0114】
したがって、本実施形態に係る映像出力処理によれば、近赤外成分の影響に応じた適切なホワイトバランス処理を実施することができるため、可視光及び赤外光に感度を有する車載用カメラ16における画質の低下を抑制することができる。
【0115】
(第2の実施形態)
なお、上述の実施形態では、算出した平均値に最も近い色温度に基づいてホワイトバランス処理及び色補正処理の少なくともいずれかを行う場合を例示したがこれに限らない。ホワイトバランス処理及び色補正処理のそれぞれは、平均値に近い二点に紐づく補間処理に基づく補正ゲイン及び色補正パラメータを用いて行うこともできる。
【0116】
図20は、図7の色温度推定処理の流れの別の一例を示すフローチャートである。図21は、図20の処理において推定される色温度について説明するための図である。図21に示す例では、光源種別が可視光源である光源をVISと表現し、光源種別が近赤外光源である光源をNIRと表現する。
【0117】
ここでは、図13に示す色温度推定処理との相違点を主に説明する。補正パラメータ生成回路423は、予め測定した色温度座標値を光源ごとに読み出した(S504)後、仮想色温度座標値の平均値から色比率が1になるホワイトバランスの補正ゲインを算出して出力する(S701)。
【0118】
また、補正パラメータ生成回路423は、仮想色温度座標値の平均値まで近い順に二つの色温度座標それぞれまでの距離LNIR,LVIS1を算出して出力する(S702)。図21は、仮想色温度座標値の平均値まで近い順に二つの色温度として、VIS1及びNIRの色温度を例示する。この場合、補正パラメータ生成回路423は、仮想色温度座標値の平均値(図16では星印)からVIS1までの色座標系における距離LVIS1と、仮想色温度座標値の平均値からNIRまでの色座標系における距離LNIRとを算出する。
【0119】
図22は、図7の色補正処理の流れの別の一例を示すフローチャートである。ここでは、図17に示す色温度推定処理との相違点を主に説明する。
【0120】
補正パラメータ生成回路423は、仮想色温度座標値の平均値まで近い順に二つの色温度座標(図21ではVIS1,NIR)の色温度に対応した二つの色補正パラメータをテーブルT3から読み出す(S801)。
【0121】
また、補正パラメータ生成回路423は、二つの色温度座標までの各距離LNIR,LVIS1と、読み出した二つの色補正パラメータとに基づく補間処理により、仮想色温度座標値の平均値についての色補正パラメータを算出する。このように、補正パラメータ生成回路423は、色温度推定値が近赤外光と可視光との間に位置する場合は、補間処理により推定値についての色補正パラメータを算出する(S802)。その後、補正パラメータ生成回路423によりホワイトバランス補正ゲインが読み出され(S602)、画像処理回路425によりホワイトバランス補正処理(S603)及び色補正処理(S604)の少なくともいずれかが実施される。
【0122】
なお、本開示に係る映像出力処理に係る技術は、車載用カメラ16に限らず、監視カメラなどの可視光及び近赤外光の各光量が変化する環境で使用されるカメラに対して適用することもできる。
【0123】
本実施形態の各装置(車両1,車載用カメラ16)で実行されるプログラムは、例えばROM等に予め組み込んで提供される。
【0124】
なお、本実施形態の各装置(車両1,車載用カメラ16)で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、FD、CD-R、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供してもよい。
【0125】
また、本実施形態の各装置(車両1,車載用カメラ16)で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、各装置(車両1,車載用カメラ16)で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
【0126】
以上説明した少なくとも1つの実施形態によれば、可視光及び赤外光に感度を有する車載カメラにおける画質の低下を抑制することができる。
【0127】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【0128】
(付記)
以上の実施の形態の記載により、下記の技術が開示される。
(技術1)
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力するように構成されたカメラと、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出するように構成された照度センサと、
前記車体内部に配置された出力回路と、を備え、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
車両。
(技術2)
上記技術1に記載の車両であって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
車両。
(技術3)
上記技術1又は上記技術2に記載の車両であって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
車両。
(技術4)
上記技術3に記載の車両であって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
車両。
(技術5)
上記技術1から上記技術4のうちのいずれかに記載の車両であって、
前記カメラは、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
車両。
(技術6)
上記技術5に記載の車両であって、
前記照度センサは、前記カメラの前記撮像素子が兼ねる、
車両。
(技術7)
上記技術1から上記技術6のうちのいずれかに記載の車両であって、
前記出力回路は、映像を表示するスクリーンを備える、
車両。
(技術8)
上記技術1から上記技術7のうちのいずれかに記載の車両であって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
車両。
(技術9)
上記技術8に記載の車両であって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
車両。
(技術10)
上記技術1から上記技術9のうちのいずれかに記載の車両であって、
制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
車両。
(技術11)
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、を備えた車両に搭載可能な車載用カメラであって、
前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力することが可能に構成され、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出することが可能に構成された照度センサと、
前記車体内部に出力可能に構成された出力回路と、を備え、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
車載用カメラ。
(技術12)
上記技術11に記載の車載用カメラであって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
車載用カメラ。
(技術13)
上記技術11又は上記技術12に記載の車載用カメラであって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
車載用カメラ。
(技術14)
上記技術13に記載の車載用カメラであって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
車載用カメラ。
(技術15)
上記技術11から上記技術14のうちのいずれかに記載の車載用カメラであって、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
車載用カメラ。
(技術16)
上記技術15に記載の車載用カメラであって、
前記照度センサは、前記撮像素子が兼ねる、
車載用カメラ。
(技術17)
上記技術11から上記技術16のうちのいずれかに記載の車載用カメラであって、
前記出力回路は、前記車体に搭載されたディスプレイデバイスのスクリーンに映像を出力可能である、
車載用カメラ。
(技術18)
上記技術11から上記技術17のうちのいずれかに記載の車載用カメラであって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
車載用カメラ。
(技術19)
上記技術18に記載の車載用カメラであって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
車載用カメラ。
(技術20)
上記技術11から上記技術19のうちのいずれかに記載の車載用カメラであって、
制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
車載用カメラ。
(技術21)
第1車輪と、
第2車輪と、
前記第1車輪及び前記第2車輪に結合され、前記第1車輪及び前記第2車輪によって移動可能な車体と、
前記車体に取り付けられ、前記車体の周囲の少なくとも一部に、近赤外光を照射するように構成された近赤外光源と、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部を撮像し、撮像した第1映像を出力するように構成されたカメラと、
前記車体に取り付けられ、前記車体の周囲の前記少なくとも一部の照度を検出するように構成された照度センサと、
前記車体内部に配置された出力回路と、を備えた車両で実行可能な映像出力方法であって、
前記近赤外光源が第1発光強度である場合、前記第1映像の少なくとも一部に第1補正処理が施された第2映像を前記出力回路が出力し、
前記近赤外光源が、前記第1発光強度より大きい第2発光強度である場合で、かつ前記照度が、所定の値より小さい場合、前記第1映像の少なくとも一部に、前記第1補正処理と異なる第2補正処理が施された第3映像を前記出力回路が出力する、
映像出力方法。
(技術22)
上記技術21に記載の映像出力方法であって、
前記近赤外光源が、前記第2発光強度である場合で、かつ前記照度が前記所定の値より大きい場合、前記第1映像の少なくとも一部に、前記第1補正処理が施された前記第2映像を前記出力回路が出力する、
映像出力方法。
(技術23)
上記技術21又は上記技術22に記載の映像出力方法であって、
前記近赤外光源の前記第1発光強度は、0(ゼロ)である、
映像出力方法。
(技術24)
上記技術23に記載の映像出力方法であって、
前記近赤外光源の前記第1発光強度は、前記近赤外光源で電力が供給されない場合の発光強度である、
映像出力方法。
(技術25)
上記技術21から上記技術24のうちのいずれかに記載の映像出力方法であって、
前記カメラは、
少なくとも1つのレンズを備えるレンズ鏡筒と、
第1面と、前記第1面と反対の第2面とを有する回路基板と、
前記回路基板の前記第1面に配置され、前記少なくとも1つのレンズの光軸上に配置され、可視光から近赤外光までの分光感度を有する撮像素子と、
少なくとも前記回路基板を収容する筐体部と、を備える
映像出力方法。
(技術26)
上記技術25に記載の映像出力方法であって、
前記照度センサは、前記カメラの前記撮像素子が兼ねる、
映像出力方法。
(技術27)
上記技術21から上記技術26のうちのいずれかに記載の映像出力方法であって、
前記出力回路は、映像を表示するスクリーンを備える、
映像出力方法。
(技術28)
上記技術21から上記技術27のうちのいずれかに記載の映像出力方法であって、
前記第1補正処理は、可視光用のホワイトバランスの補正処理であり、
前記第2補正処理は、近赤外光用のホワイトバランスの補正処理である、
映像出力方法。
(技術29)
上記技術28に記載の映像出力方法であって、
前記第1補正処理の前記可視光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第1検出枠とし、
前記第2補正処理の前記近赤外光用のホワイトバランスの補正処理に用いる、色座標系における検出枠を第2検出枠とし、
前記第2検出枠は、前記第1検出枠より、前記色座標系において広く、
前記第2検出枠は、前記色座標系において前記近赤外光源が発光する光に対応する色座標を含む、
映像出力方法。
(技術30)
上記技術21から上記技術29のうちのいずれかに記載の映像出力方法であって、
前記車両は、制御回路を備え、
少なくとも前記第1補正処理及び前記第2補正処理は、前記制御回路が実行する、
映像出力方法。
(技術31)
上記技術21から上記技術30のうちのいずれかに記載の映像出力方法をコンピュータに実行させるためのプログラム。
(技術32)
コンピュータにより実行されるプログラムであって、上記(31)に記載のプログラムが記録された記録媒体(Computer Program Product)。
【符号の説明】
【0129】
1 車両
12 車体
13 車輪
13f フロントタイヤ(第1車輪)
13r リアタイヤ(第2車輪)
14 バンパー
16 車載用カメラ
17 制御回路(出力回路)
18 近赤外光源
19 ディスプレイ(スクリーン)
30 レンズユニット
31 レンズ鏡筒
311 レンズ
40 回路基板
40a 第1面
40b 第2面
41 撮像素子(照度センサ)
42 処理回路
421 露光制御回路
422 補正判定回路
423 補正パラメータ生成回路
424 メモリ
425 画像処理回路
43 I/F(出力回路)
60 筐体(筐体部)
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22