特許第6263829号(P6263829)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エスゼット ディージェイアイ テクノロジー カンパニー リミテッドの特許一覧

特許6263829ホワイトバランス調整方法及び撮像システム
<>
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000002
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000003
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000004
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000005
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000006
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000007
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000008
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000009
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000010
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000011
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000012
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000013
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000014
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000015
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000016
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000017
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000018
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000019
  • 特許6263829-ホワイトバランス調整方法及び撮像システム 図000020
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6263829
(24)【登録日】2018年1月5日
(45)【発行日】2018年1月24日
(54)【発明の名称】ホワイトバランス調整方法及び撮像システム
(51)【国際特許分類】
   H04N 9/73 20060101AFI20180115BHJP
   H04N 5/238 20060101ALI20180115BHJP
   H04N 9/04 20060101ALI20180115BHJP
【FI】
   H04N9/73 A
   H04N5/238
   H04N9/04 B
【請求項の数】23
【全頁数】27
(21)【出願番号】特願2016-542939(P2016-542939)
(86)(22)【出願日】2014年9月17日
(65)【公表番号】特表2017-502596(P2017-502596A)
(43)【公表日】2017年1月19日
(86)【国際出願番号】CN2014086739
(87)【国際公開番号】WO2016041162
(87)【国際公開日】20160324
【審査請求日】2016年7月6日
【早期審査対象出願】
(73)【特許権者】
【識別番号】513068816
【氏名又は名称】エスゼット ディージェイアイ テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】SZ DJI TECHNOLOGY CO.,LTD
(74)【代理人】
【識別番号】110000877
【氏名又は名称】龍華国際特許業務法人
(72)【発明者】
【氏名】ワン、ミンギュ
【審査官】 大室 秀明
(56)【参考文献】
【文献】 特開2004−276165(JP,A)
【文献】 国際公開第2014/077046(WO,A1)
【文献】 特開2012−119756(JP,A)
【文献】 特開2008−227951(JP,A)
【文献】 特開2003−289546(JP,A)
【文献】 国際公開第2013/114803(WO,A1)
【文献】 特開2012−213053(JP,A)
【文献】 特開平06−197355(JP,A)
【文献】 特開2007−017576(JP,A)
【文献】 特開2011−151790(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00
G06T11/60−13/80
G06T17/05
G06T19/00−19/20
H04N 1/40−1/409
H04N 1/46−1/48
H04N 1/52
H04N 1/60
H04N 5/222−5/257
H04N 7/18
H04N 9/04−9/11
H04N 9/44−9/78
(57)【特許請求の範囲】
【請求項1】
無人航空機(UAV)において実行される、デジタル画像のホワイトバランス調整方法であって、
前記UAVは、
機体と、
前記機体に取り付けられた着陸装置と、
前記機体に取り付けられたジンバル機構と、
少なくとも1つの軸周りで回転することを可能にすべく、前記ジンバル機構に動作可能に搭載されるイメージセンサと、
前記イメージセンサの視野内であって、前記着陸装置に設置され、ホワイトバランス調整がされるのに適した色を有する参照領域と
を備え、
ホワイトバランス調整トリガに応答して、前記ジンバル機構が使用され、前記イメージセンサと、前記参照領域との複数の相対位置が調整され、前記イメージセンサが配置されるステップと、
前記イメージセンサを使用して、前記参照領域の画像が取得されるステップと、
前記参照領域の前記画像から前記デジタル画像にホワイトバランス調整がされるパラメータが計算されるステップと
を含む、ホワイトバランス調整方法。
【請求項2】
前記複数の相対位置が調整されるステップは、前記ジンバル機構が使用され、前記イメージセンサ及び前記参照領域の前記複数の相対位置が自動的に調整されるステップを含む、請求項1に記載のホワイトバランス調整方法。
【請求項3】
前記参照領域の前記画像が取得されるステップは、前記参照領域の前記画像が自動的に取得されるステップを含む、請求項1または2に記載のホワイトバランス調整方法。
【請求項4】
前記パラメータが計算されるステップは、ホワイトバランス調整がされる前記パラメータが自動的に計算されるステップを含む、請求項1から3の何れか一項に記載のホワイトバランス調整方法。
【請求項5】
前記複数の相対位置が調整されるステップは、前記デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定を含む前記ホワイトバランス調整トリガに応答して、前記ジンバル機構が使用され、前記複数の相対位置が調整されるステップを含む、請求項1から4の何れか一項に記載のホワイトバランス調整方法。
【請求項6】
前記デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの前記決定は、前記デジタル画像の複数の画素の複数の色彩比と、参照画像の複数の画素の複数の色彩比とが比較されるステップを含む、請求項5に記載のホワイトバランス調整方法。
【請求項7】
前記複数の色彩比は、赤と緑との複数の比、及び、青と緑との複数の比を含む、請求項6に記載のホワイトバランス調整方法。
【請求項8】
前記比較されるステップは、前記参照画像の前記複数の画素の前記複数の色彩比が散布図にプロットされるステップと、前記デジタル画像の前記複数の画素の前記複数の色彩比が散布図にプロットされるステップと、前記デジタル画像の前記複数の画素の複数のプロット位置と前記参照画像の前記複数の画素の複数のプロット位置とが比較されるステップとを含む、請求項6または7に記載のホワイトバランス調整方法。
【請求項9】
前記複数の相対位置が調整されるステップは、ユーザコマンドを含む前記ホワイトバランス調整トリガに応答して、前記ジンバル機構が使用され、前記複数の相対位置が調整されるステップを含む、請求項1から8の何れか一項に記載のホワイトバランス調整方法。
【請求項10】
前記複数の相対位置が調整されるステップは、前記参照領域が前記イメージセンサの視野内となるように、前記ジンバル機構が使用され、前記イメージセンサが移動するステップを含む、請求項1から9の何れか一項に記載のホワイトバランス調整方法。
【請求項11】
前記参照領域が記録された位置に従って前記イメージセンサが移動するステップに先立って、前記参照領域の前記位置が記録されるステップを更に含む、請求項10に記載のホワイトバランス調整方法。
【請求項12】
前記複数の相対位置が調整されるステップは、前記ジンバル機構が使用され、前記イメージセンサが、前記イメージセンサの周囲を走査するステップを含む、請求項10または11に記載のホワイトバランス調整方法。
【請求項13】
前記イメージセンサの周囲を走査するステップは、1または複数のマーカが前記イメージセンサに認識されることによって前記参照領域が設置されるステップを含む、請求項12に記載のホワイトバランス調整方法。
【請求項14】
前記参照領域の境界は前記複数のマーカによって定められる、請求項13に記載のホワイトバランス調整方法。
【請求項15】
前記複数のマーカは、複数のクイックレスポンス(QR)コード(登録商標)である、請求項13または14に記載のホワイトバランス調整方法。
【請求項16】
前記複数の相対位置が調整されるステップは、前記ジンバル機構が使用され、前記イメージセンサの視野の中に前記参照領域が移動されるステップを含む、請求項1から15の何れか一項に記載のホワイトバランス調整方法。
【請求項17】
前記イメージセンサが前記参照領域の前記画像を取得した後に、前記ジンバル機構が使用され、前記イメージセンサ及び前記参照領域の少なくとも一方の位置を復元するステップを更に含む、請求項1から16の何れか一項に記載のホワイトバランス調整方法。
【請求項18】
前記パラメータが計算されるステップは、複数のアウトライヤーカラーを有する前記参照領域の前記画像の複数の画素を廃棄するステップを含む、請求項1から17の何れか一項に記載のホワイトバランス調整方法。
【請求項19】
前記参照領域の前記画像の複数の画素の色のばらつきが予め定められた閾値より高い場合、エラーメッセージが制御システムに送信されるステップを更に含む、請求項1から18の何れか一項に記載のホワイトバランス調整方法。
【請求項20】
前記パラメータを使用して、前記デジタル画像がホワイトバランス調整されるステップを更に含む、請求項1から19の何れか一項に記載のホワイトバランス調整方法。
【請求項21】
デジタル画像と、ホワイトバランス調整するのに適した色を有する参照領域とが取得されるのに適したイメージセンサを備え、
請求項1から20の何れか一項に記載のホワイトバランス調整方法に従って、デジタル画像のホワイトバランス調整が実行される、撮像システム。
【請求項22】
前記撮像システムの本体にインセットされ、前記イメージセンサの視野の中および外で前記参照領域が移動される、請求項21に記載の撮像システム。
【請求項23】
無人航空機(UAV)に搭載され、デジタル画像のホワイトバランス調整を実行する撮像システムであって、
機体と、
前記機体に取り付けられた着陸装置と、
前記機体に取り付けられたジンバル機構と、
少なくとも1つの軸周りで回転することを可能にすべく、前記ジンバル機構に動作可能に搭載されるイメージセンサと、
前記イメージセンサの視野内であって、前記着陸装置に設置され、ホワイトバランス調整がされるのに適した色を有する参照領域と、
デジタル画像のホワイトバランス調整を実行する画像処理プロセッサと
を備え、
ホワイトバランス調整トリガに応答して、前記ジンバル機構を使用し、前記参照領域の位置に対する前記イメージセンサの位置を調整し、
前記イメージセンサを使用して、前記参照領域の画像を取得し、
前記画像処理プロセッサを使用して、前記参照領域の前記画像からホワイトバランスパラメータを計算する
撮像システム。
【発明の詳細な説明】
【技術分野】
【0001】
開示する複数の実施形態は概して、デジタル画像処理に関する。他を除外するわけではないが、より具体的には、自動ホワイトバランス調整のための複数のシステム及び方法に関する。
【背景技術】
【0002】
ホワイトバランス調整は、照明光源の色温度によって引き起こされる非現実的なカラーキャストを画像から取り除く処理である。日光、白熱光および蛍光などの異なる照明光源は、画像の色にディストーションを引き起こし得る、異なるパワースペクトル分布を有する。そのようなディストーションは、例えば、白色のオブジェクトが、照明光源のカラーキャストにおいては白く表れないという結果をもたらす。例えば、低い色温度(例えば2000K)の照明光源は画像に赤みがかった色を生じさせ得、その一方で、高い色温度(例えば9000K)の照明光源は、画像に青みがかった色を生じさせ得る。人の眼は自動的に照明の色温度に適応でき、その一方で、現在利用可能な(又は従来の)人工的画像取得デバイス及び方法(例えば、カメラ及びビデオカメラで使用されるイメージセンサ)は自動的に適応できず、それ故、照明光源の色温度に起因する、ある特定のカラーキャストアーチファクトを生成する。ホワイトバランス調整によって照明を補償することで、結果として生じる画像はより現実的な色を有することになる。
【0003】
商業的に利用可能なデジタルカメラは、例えば、ユーザが予め定められた照明設定(例えば、白熱、蛍光、曇り、フラッシュ、晴れ、キャンドルライト等)のコレクションから色温度設定を選択することを可能にする、ホワイトバランス調整機能を有している。しかしながら、もし実際の照明状況が照明設定に一致していないならば、予め定められた照明設定を使用することによって、最適状態に及ばない結果が生成され得る。代替的に、自動ホワイトバランス調整(AWB)を実行する、すなわち、ユーザが照明設定を指定しない様々な技術が利用可能である。そのようなAWB技術は、必ず画像の色構成に基づく。しかしながら、照明光源の色温度に関する外部参照なくAWBを実行することは、困難且つ計算的に負荷の大きいものであり得る。AWB技術が、風景構成の内在的なカラーバイアスに対して、照明光源によって引き起こされる全体的なカラーキャストを区別できない場合、当該技術におけるエラーは容易に生じ得る。
【0004】
例えば、「グレイの世界(gray world)」として知られ、一般的に使用されるAWB技術は、ある風景内の平均色がグレイ又は無色であると仮定する。グレイの世界の技術は、その風景が、平均的にグレイに落ち着く多数の色を含んでいる場合に効果的であり得る。しかし、グレイの世界の技術は、ある風景の平均色がグレイでない場合に、著しいカラーバイアスを導入し得る。この問題は、グレイ以外の単色の風景(例えば、青い海または緑の葉群の風景)において、特に深刻である。他のAWB技術である「最大RGB」方法は、赤、緑および青の3色チャネルの各々から得られる最大値の組み合わせが照明光源の色であると仮定する。最大RGB方法は、単色の風景に対してはグレイの世界の方法より効果的であるが、最大RGB方法の効果は、風景構成にかなり依存する。他のホワイトバランス調整アルゴリズムは、同様の限定を有している。更に、(例えば、多量の差動演算を要求することが原因で)高い計算複雑度を有する幾つかのアルゴリズムは、実際的な使用に適しておらず、特に、リアルタイムのビデオ処理に適していない。
【0005】
以上の観点から、計算的に効率的としつつ、様々なタイプの画像構成に対して精確なホワイトバランス調整を実行する、改善されたホワイトバランス調整システム及び方法が必要である。
【発明の概要】
【0006】
本明細書で開示する第1の態様によれば、自動的にデジタル画像をホワイトバランス調整する方法が明らかにされる。当該方法は、以下の複数の段階を含む。ホワイトバランス調整トリガに応答して、イメージセンサと、ホワイトバランス調整するのに適した色を有する参照領域との複数の相対位置を調整し、参照領域の画像を取得すべくイメージセンサを配置する段階。イメージセンサを使用して参照領域の画像を取得する段階。参照領域の画像からデジタル画像をホワイトバランス調整するためのパラメータを計算する段階。
【0007】
開示する方法の幾つかの実施形態において、複数の相対位置を調整する段階は、イメージセンサ及び参照領域の複数の相対位置を自動的に調整する段階を含む。
【0008】
開示する方法の幾つかの実施形態において、取得する段階は、参照領域の画像を自動的に取得する段階を含む。
【0009】
開示する方法の幾つかの実施形態において、計算する段階は、ホワイトバランス調整するためのパラメータを自動的に計算する段階を含む。
【0010】
開示する方法の幾つかの実施形態において、複数の相対位置を調整する段階は、デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定を含むホワイトバランストリガに応答して、複数の相対位置を調整する段階を含む。
【0011】
開示する方法の幾つかの実施形態において、デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定は、デジタル画像の複数の画素の複数の色彩比と、参照画像の複数の画素の複数の色彩比とを比較する段階を含む。好ましくは、複数の色彩比は、赤と緑との複数の比、及び、青と緑との複数の比である。
【0012】
開示する方法の幾つかの実施形態において、比較する段階は、参照画像の複数の画素の複数の色彩比を散布図上にプロットする段階と、デジタル画像の複数の画素の複数の色彩比を散布図上にプロットする段階と、デジタル画像の複数の画素の複数のプロット位置と参照画像の複数の画素の複数のプロット位置とを比較する段階とを含む。
【0013】
開示する方法の幾つかの実施形態において、複数の相対位置を調整する段階は、ユーザコマンドを含むホワイトバランストリガに応答して、複数の相対位置を調整する段階を含む。
【0014】
開示する方法の幾つかの実施形態において、調整する段階は、参照領域がイメージセンサの視野内となるように、自動的にイメージセンサを移動させる段階を含む。
【0015】
開示する方法の幾つかの実施形態は、参照領域の記録された位置に従ってイメージセンサを調整して移動させる段階に先立って、参照領域の位置を記録する段階を更に含む。
【0016】
開示する方法の幾つかの実施形態において、調整する段階は、参照領域を設置すべく、イメージセンサが、イメージセンサの周囲を走査することを可能にする段階を含む。
【0017】
開示する方法の幾つかの実施形態において、イメージセンサを可能にする段階は、イメージセンサが、1または複数のマーカを認識することによって参照領域を設置することを可能にする段階を含む。
【0018】
開示する方法の幾つかの実施形態において、複数のマーカは、参照領域の境界を定める。
【0019】
開示する方法の幾つかの実施形態において、複数のマーカは、複数のクイックレスポンス(QR)コード(登録商標)である。
【0020】
開示する方法の幾つかの実施形態において、調整する段階は、参照領域をイメージセンサの視野の中へと自動的に移動させる段階を含む。
【0021】
開示する方法の幾つかの実施形態は、イメージセンサが参照領域の画像を取得した後に、イメージセンサ及び参照領域の少なくとも一方の位置を自動的に復元する段階を更に含む。
【0022】
開示する方法の幾つかの実施形態において、計算する段階は、複数のアウトライヤーカラーを有する参照領域の画像の複数の画素を廃棄する段階を含む。
【0023】
開示する方法の幾つかの実施形態は、参照領域の画像の複数の画素の色のばらつきが予め定められた閾値より高い場合、エラーメッセージを制御システムに送信する段階を更に含む。
【0024】
開示する方法の幾つかの実施形態は、パラメータを使用して、デジタル画像をホワイトバランス調整する段階を更に含む。
【0025】
本明細書で開示する他の態様によれば、以下の複数の構成を含む撮像システムが明らかにされる。デジタル画像と、ホワイトバランス調整するのに適した色を有する参照領域とを取得するのに適したイメージセンサ。当該撮像システムは、本明細書で開示する複数の方法の何れかに従って、デジタル画像の自動ホワイトバランス調整を実行するように構成する。
【0026】
開示するシステムの幾つかの実施形態において、参照領域は、撮像システムの本体にインセットされ、イメージセンサの視野の中および外で移動するように構成される。
【0027】
開示するシステムの幾つかの実施形態において、撮像システムは、無人航空機(UAV)を含む。
【0028】
本明細書で開示する他の態様によれば、以下の複数の構成を含む撮像システムが明らかにされる。イメージセンサが少なくとも1つの軸周りで回転することを可能にすべく、ジンバル機構に動作可能に搭載されるイメージセンサ。デジタル画像の自動ホワイトバランス調整を実行するように構成した画像処理プロセッサ。当該撮像システムは、以下の動作をするように構成する。ホワイトバランス調整トリガに応答して、ジンバル機構を使用し、ホワイトバランス調整するのに適した色を有する参照領域の位置に対するイメージセンサの位置を調整する。イメージセンサを使用して、参照領域の画像を取得する。画像処理プロセッサを使用して、参照領域の画像からホワイトバランスパラメータを計算する。
【0029】
開示するシステムの幾つかの実施形態において、ホワイトバランストリガは、画像処理プロセッサによる、対象のデジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定を含む。
【0030】
開示するシステムの幾つかの実施形態において、ホワイトバランストリガは、ユーザコマンドを含む。
【0031】
開示するシステムの幾つかの実施形態において、画像処理プロセッサは、参照領域の位置に関する1または複数のパラメータを記録し、複数のパラメータを使用してイメージセンサの位置を調整するように構成する。
【0032】
開示するシステムの幾つかの実施形態において、複数のパラメータは、イメージセンサの位置に対する、参照領域の直線変位及び角変位の少なくとも一方を含む。
【0033】
開示するシステムの幾つかの実施形態において、画像処理プロセッサは、参照領域を設置すべく、イメージセンサに、イメージセンサの周囲を走査することを指示するように構成する。
【0034】
開示するシステムの幾つかの実施形態において、イメージセンサは、1または複数のマーカを認識することによって、参照領域を設置する。
【0035】
開示するシステムの幾つかの実施形態において、複数のマーカは、参照領域の境界を定める。
【0036】
開示するシステムの幾つかの実施形態において、複数のマーカは、複数のクイックレスポンス(QR)コード(登録商標)である。
【0037】
開示するシステムの幾つかの実施形態において、撮像システムは、無人航空機(UAV)を含む。
【0038】
開示するシステムの幾つかの実施形態において、ジンバル機構は、UAVの機体の選択面上に配置し、参照領域は、UAVの着陸装置上に設置する。
【図面の簡単な説明】
【0039】
図1】デジタル画像の自動ホワイトバランス調整用の撮像システムの実施形態を示す、例示的な最上位ブロック図である。
図2】撮像システムが参照領域と対象の風景に向けられたイメージセンサとを含む、図1の撮像システムの実施形態を示す例示的な図である。
図3】イメージセンサが参照領域に向けられている、図2の撮像システムの代替的実施形態を示す例示的な図である。
図4】参照領域がイメージセンサの視野内に配置されている、図2の撮像システムの他の代替的実施形態を示す例示的な図である。
図5】参照領域が参照領域を設置するためのマーカを含む、図2から図4の参照領域の実施形態を示す例示的な図である。
図6】参照領域が参照領域を設置するためのマルチマーカを含む、図5の参照領域の代替的実施形態を示す例示的な図である。
図7】イメージセンサおよびジンバル機構を有する撮像システムの実施形態を示す、例示的な図である。
図8】イメージセンサが対象の風景に向けられている、図7の撮像システムの側面図を示す例示的な図である。
図9】イメージセンサが参照領域に向けられている、図7の撮像システムの側面図を示す例示的な図である。
図10】イメージセンサが対象の風景に向けられている、無人航空機(UAV)を含む撮像システムの実施形態を示す例示的な図である。
図11】イメージセンサがUAV上の参照領域に向けられている、図10の撮像システムを示す例示的な図である。
図12】デジタル画像を自動ホワイトバランス調整する方法の実施形態を示す、例示的な最上位フローチャートである。
図13】方法がデジタル画像の自動ホワイトバランス調整をトリガする段階を含む、図12の方法の代替的実施形態を示す例示的フローチャートである。
図14図13に示されたトリガする段階に対してホワイトバランス調整するのに適した領域を画像が含むか否かを判断する方法の実施形態を示す、詳細な例示的フローチャートである。
図15図13に示されたトリガする段階に対してホワイトバランス調整するのに適した領域を画像が含むか否かを判断する方法の実施形態を示す例示的な図である。
図16】参照領域に対して撮像システムのイメージセンサを配置する、図12の方法の実施形態を示す、例示的フローチャートである。
図17】参照の位置がマーカによって指定される、参照領域に対してイメージセンサを配置する、図12の方法の代替的実施形態を示す、例示的フローチャートである。
図18】イメージセンサに対して参照領域を配置する、図12の方法の他の代替的実施形態を示す、例示的フローチャートである。
図19図12の方法を使用して、ホワイトバランス調整するためのパラメータを計算する方法の実施形態を示す、例示的フローチャートである。
【0040】
複数の図は一定の比率で縮小されて描かれておらず、同様の複数の構造または複数の機能の複数の要素は概して、複数の図の全体を通して、例示する目的で同様の複数の参照番号によって表わされることに留意すべきである。また、複数の図は、単に好ましい複数の実施形態の説明を容易化することを意図されていることに留意すべきである。複数の図は、説明する複数の実施形態の全ての態様を示しておらず、本開示の範囲を制限しない。
【発明を実施するための形態】
【0041】
本開示は、参照領域を使用して自動ホワイトバランス調整を可能にすることによって既存のホワイトバランス調整技術の複数の限定を克服する、デジタル画像をホワイトバランス調整する複数のシステム及び方法を明らかにする。
【0042】
では、図1に目を向けると、イメージセンサ110と画像処理プロセッサ120とを含む、例示的な撮像システム100が示されている。イメージセンサ110は、光を感知して、検出光を、最終的に画像としてレンダリングできる複数の電気信号に変換する機能を実行できる。様々なイメージセンサ110は、商業的に利用可能なカメラおよびビデオカメラを含むがこれらに限定されない、開示する複数のシステム及び方法で使用するのに適している。適切な複数のイメージセンサ110は、複数のアナログイメージセンサ(例えば、複数のビデオカメラチューブ)、及び/又は、複数のデジタル画像センサ(例えば、電荷結合素子(CCD)イメージセンサ、相補型金属酸化膜半導体(CMOS)イメージセンサ、N型金属酸化膜半導体(NMOS)イメージセンサ、及び、それらの複数のハイブリッド/複数の変形)を含むことができる。複数のデジタル画像センサは、例えば、各々が画像情報の1画素をキャプチャできる複数の光センサ素子の2次元アレイを含むことができる。イメージセンサ110は、好ましくは、少なくとも0.1メガピクセル、0.5メガピクセル、1メガピクセル、2メガピクセル、5メガピクセル、10メガピクセル、又は、更に多い画素数の分解能を有する。イメージセンサ110はまた、色に基づいて検出光を分別および/またはフィルター処理し、光を適切な複数の光センサ素子上に向ける装置を含むことができる。例えば、イメージセンサ110は、赤色光、緑色光または青色光を複数の選択された画素センサに通し、インターレースされたカラーモザイクグリッドをベイヤーパターンで形成するカラーフィルターアレイを含むことができる。例えば代替的に、イメージセンサ110は、複数の光センサ素子の複数の特性に基づいて、複数の異なる波長の光を分別する複数の積層画素光センサ素子のアレイを含むことができる。イメージセンサ110は、例えば、サーモグラフィ、複数のマルチスペクトル画像生成、赤外線検出、ガンマ線検出、X線検出等の様々な用途で使用するための複数の専門機能を有することができる。イメージセンサ110は、例えば、複数の電気光学センサ、複数の熱センサ/赤外線センサ、複数のカラーセンサ若しくは複数の単色センサ、複数のマルチスペクトル撮像センサ、複数の分光光度計、複数の分光計、複数の温度計、及び、複数の照度計を含むことができる。
【0043】
画像処理プロセッサ120は、本明細書で説明する複数の自動ホワイトバランス調整機能及び操作を実行するのに必要とされる任意の処理ハードウェアを含むことができる。限定することにはならないが、画像処理プロセッサ120は、1または複数の汎用マイクロプロセッサ(例えば複数のシングル又はマルチコアプロセッサ)、複数の特定用途向け集積回路、複数の特定用途向け命令セットプロセッサ、複数のグラフィック処理装置、複数のフィジックス処理装置、複数のデジタル信号処理装置、複数のコプロセッサ、複数のネットワーク処理装置、複数のオーディオ処理装置、複数の暗号処理装置等を含むことができる。ある特定の複数の実施形態において、画像処理プロセッサ120は、画像キャプチャ、フィルタリング、及び、プロセッシング用のある特定の複数の操作の速度及び効率を向上するための専用ハードウェアを含み得る、画像処理エンジンまたはメディア処理装置を含むことができる。そのような複数の操作は、例えば、複数のベイヤー変形、複数のデモザイキング操作、複数のノイズ低減操作、及び/又は、複数の画像鮮鋭化/軟化操作を含む。ある特定の複数の実施形態において、画像処理プロセッサ120は、複数のホワイトバランス調整操作を実行するための専用ハードウェアを含むことができる。複数のホワイトバランス調整操作は、画像がホワイトバランス調整用の参照領域130(図2から図4で示される)から利益を享受できるか否かを判断する段階と、ホワイトバランス調整用の参照領域130の画像を取得する段階と、ホワイトバランス調整用の参照領域130の画像を処理する段階と、参照領域130の画像からホワイトバランス調整用のパラメータを計算する段階と、ホワイトバランス調整用のパラメータを使用して画像をホワイトバランス調整する段階とを含むが、これらに限定されない。
【0044】
幾つかの実施形態において、撮像システム100は、必要に応じて、ホワイトバランス調整用、又は、撮像システム100の他の複数の操作用に、1または複数の追加のハードウェアコンポーネント(不図示)を含むことができる。例示的な複数の追加のハードウェアコンポーネントは、複数のメモリ(例えばランダムアクセスメモリ(RAM)、スタティックRAM、ダイナミックRAM、リードオンリーメモリ(ROM)、プログラマブルROM、消去可能プログラマブルROM、電気的消去可能プログラマブルROM、フラッシュメモリ、セキュアデジタル(SD)カード等)、及び/又は、1または複数の入出力インタフェース(例えば、ユニバーサルシリアルバス(USB)、デジタルビジュアルインタフェース(DVI)、ディスプレイポート、シリアルATA(SATA)、IEEE1394インタフェース(ファイアーワイヤ(登録商標)としてもまた既知である)、シリアル、ビデオグラフィックアレイ(VGA)、スーパービデオグラフィックアレイ(SVGA)、小型コンピュータシステムインタフェース(SCSI)、高解像度マルチメディアインタフェース(HDMI(登録商標))、複数のオーディオポート、及び/又は、複数のプロプライエタリ入出力インタフェース)を含むが、これらに限定されない。限定することにはならないが、必要ならば、1または複数の入出力デバイス(例えば、複数のボタン、キーボード、キーパッド、トラックボール、複数のディスプレイ、及び、モニタ)もまた、撮像システム100に含めることができる。
【0045】
幾つかの実施形態において、ホワイトバランス調整処理が画像取得プロセスに対して与える混乱を最小限にするように、撮像システム100を構成する。幾らか異なるように述べると、撮像システム100は、対象の風景105(図2から図4で示される)を撮像することが、ホワイトバランス調整用の参照領域130を撮像することを妨げられる間の「ブラックアウト」期間を最小化するように構成できる。イメージセンサ110が、対象の風景105上の最初の視点から、参照領域130にフォーカスすべく移動され、次に、最初の視点へと戻るように移動される幾つかの実施形態において、イメージセンサ110の合計移動時間は、好ましくは、10秒未満、5秒未満、2秒未満、1秒未満、又は、それよりも短い。最初の視点を復元するのに必要とされる時間は、イメージセンサ110が実行する移動量、イメージセンサ110が動く速度、参照領域130の画像を取得するのに必要とされる時間、及び/又は、他の複数のファクタに依存する。イメージセンサ110が移動されない(例えば、参照領域130がイメージセンサ110の視野の前に移動される)複数の実施形態において、正常な画像取得プロセスの幾つかの混乱はまだ生じ得、そのような複数の混乱は、5秒若しくはそれ未満、2秒若しくはそれ未満、1秒若しくはそれ未満、又は、それよりも短い間に生じることが所望される。
【0046】
ホワイトバランス調整を実行すべく複数の正常な撮像操作が中断される場合、ホワイトバランス調整処理中に取得される画像は、撮像システム100から外部システム(不図示)又はユーザ(不図示)へと出力される、次々と続く複数の画像から取り除くことができる。例えば、上記で説明した「ブラックアウト」期間中に、撮像システム100がホワイトバランス調整を現在進行しているが、正常な画像フィードは特定時間内に再開することになると、ユーザに知らせることができる。代替的に、ホワイトバランス調整処理中に取得される複数の画像は、フィルター処理されていない/中断されていない画像フィードの一部であり得る。換言すると、外部システム又はユーザへと出力される複数の画像によって、撮像システム100がホワイトバランス調整を進行していることを示すことができる。
【0047】
では、図2に目を向けると、ホワイトバランス調整を実行すべく参照領域130を使用する撮像システム100の例示的実施形態が示されている。参照領域130は、好ましくは、ホワイトバランス調整するのに適した色、例えば、白色、中間グレイ色、又は、他のグレイトーン色を有する。参照領域130は、好ましくは、色が均一であるが、必ずしもそうではない。散乱する差動光に起因し得る複数の変動を回避すべく、必須ではないけれど、参照領域130は平坦であることが好ましい。参照領域130の複数の光学特性は、ホワイトバランス調整する複数の目的にとって理想的である必要はない。参照領域130の複数の画像の次の処理(例えば、ソフトウェア及び/又はハードウェアを使用する)は、参照領域130の複数の非理想的な特性に起因し得る複数のアーチファクトを修正して、そのような複数の非理想的な特性に関わらずに照明光源の色温度を精確に測定できる。参照領域130は、プラスチック、紙、金属、木、泡、それらの複数の複合、及び、他の複数の材料などの、1または複数の様々な材料製である。更に、参照領域130の色、反射性、及び/又は、他の複数の光学特性は、所望により、適切な塗料または他のコーティングを使用して都合良く較正できる。図2に示すように、イメージセンサ110は、対象の風景105によって占められる視野を有する。参照領域130は、撮像デバイス100と連結でき、及び/又は、撮像デバイス100に取り付けられていないものであり得る。
【0048】
図3において、図2の撮像システム100の実施形態が、代替的構成で示されている。ホワイトバランス調整を実行する目的で、参照領域130がイメージセンサ110の視野内に位置するように、イメージセンサ110は(並進運動又は回転運動によって)移動された状態で示されている。
【0049】
図4において、図2の撮像システム100の実施形態が、他の代替的構成で示されている。ホワイトバランス調整を実行する目的で、参照領域130はイメージセンサ110の視野の中に(並進運動及び/又は回転運動によって)移動された状態で示されている一方で、イメージセンサ110は固定されたままの状態で示されている。集合的に図2から図4が示すように、イメージセンサ110及び/又は参照領域130のいずれか一方は、イメージセンサ110が参照領域130の画像を取得すべく配置されるように、並進及び/又は回転を含む任意の従来の態様で、互いに対して移動され得る。
【0050】
では、図5に目を向けると、参照領域130、及び、1または複数のマーカ135を使用してホワイトバランス調整を実行する撮像システム100の例示的実施形態が示されている。1または複数のマーカ135は、参照領域130の位置を指定すべく使用でき、及び/又は、マーカ135によってエンコードされる情報の中でホワイトバランス調整処理に関する追加の情報を伝達すべく使用できる。好ましくは、各マーカ135は、参照領域130内で、マーカ135の周辺部137と容易に区別される。例えば、マーカ135は、周辺部137の色と共に高コントラストを有する色を備えることができる。代わりに及び/又は加えて、マーカ135は、イメージセンサ110が認識できるパターンを有することができる。幾つかの実施形態において、マーカ135は、例えば更に参照領域130の形をたどるべく使用可能な情報をエンコードできる。好ましい実施形態において、マーカ135は、機械可読情報を含む2次元バーコードである、クイックレスポンス(QR)コード(登録商標)を含むことができる。QRコード(登録商標)は、四角格子内に配置される、好ましくは、カラーコントラストを提供する背景136上に配置される、複数の暗色モジュールを含むことができる。イメージセンサ110はQRコード(登録商標)を「読み取る」ことができ、画像処理プロセッサ120(図1に示される)は、QRコード(登録商標)がエンコードした情報を解読できる。
【0051】
図5において、参照領域130は、参照領域130の中心に設置された単一のマーカ135によって指定された状態で示されている。図17を参照して以下で更に詳細に説明するように、イメージセンサ110は、マーカ135を設置すべくイメージセンサ110の周囲を走査できる。一度、マーカ135が設置されると、イメージセンサ110は、ホワイトバランス調整用に、マーカ135を囲う周辺領域137の画像を取得できる。マーカ135がQRコード(登録商標)、又は、情報をエンコードする他のパターンを含む場所において、エンコードされる情報は、ホワイトバランス調整に関する複数の更なる詳細(例えば、参照領域130のサイズ、複数の境界またはトポロジ)を供給すべく使用できる。
【0052】
では、図6に目を向けると、撮像システム100の代替的な例示的実施形態が、参照領域130及び複数のマルチマーカ135を使用してホワイトバランス調整を実行している状態で示されている。複数のマルチマーカ135は、例えば、(図17を参照して以下で更に説明されるように)参照領域130の1または複数の境界138を定めることができる。図5及び図6の両方において、イメージセンサ110は、(図17を参照して以下で更に説明されるように)マーカ135を走査すべく、参照領域130に対して回転及び/又は並進を含む任意の従来の態様で移動できる。
【0053】
図7は、イメージセンサ110が少なくとも1つの軸149周りで回転することを可能にするジンバル機構140に取り付けできるイメージセンサ110を含む、撮像システム100の例示的実施形態が示されている。ジンバル機構140は、1または複数の回転軸149に対して搭載される1または複数の回転支持部145を含むことができ、それにより、ジンバル機構140が取り付けられる取り付け具146に対してイメージセンサ110が回転的に自由になることを可能にできる。イメージセンサ110を取り付け具146に対して支持する、第1回転支持部145A、第2回転支持部145Bおよび第3回転支持部145Cを含む、例示的なジンバル機構140が示されている。第1回転支持部145Aは、取り付け具146に搭載でき、取り付け具146に鉛直なx軸149A周りで回転するように構成できる。第2回転支持部145Bは、第1回転支持部145Aに搭載でき、x軸149Aに鉛直なy軸149B周りで回転するように構成できる。第3回転支持部145Cは、第2回転支持部145Bに搭載でき、x軸149Aおよびy軸149Bに鉛直なz軸149C周りで回転するように構成できる。最後に、イメージセンサ110は、第3回転支持部145Cに搭載できる。複数の回転支持部145は、取り付け具146、イメージセンサ110、又は、複数の他の回転支持部145に直接搭載される必要はない。代わりに、複数の回転支持部145は、任意に、(例えば1または複数のスペーサー部分(不図示)によって)取り付け具146、イメージセンサ110、又は、複数の他の回転支持部145に間接的に搭載できる。
【0054】
ジンバル機構140内で複数の回転支持部145を構成して搭載する態様は異なり得、例えば、複数の同心円構造、及び、図7から図9に示される複数の非同心円構造を含むことができる。所望される回転自由度数に応じて、ジンバル機構140は、1つ、2つ又は3つを含む任意の適切な数の回転支持部145を含むことができる。更に、回転支持部145A、145Bおよび145Cは、単に例示を目的として、相互に鉛直な複数の回転軸(例えば、x軸149A、y軸149Bおよびz軸149C)周りで回転するように示されているが、複数の回転支持部145は、相互に鉛直な複数の回転軸周りで回転するように構成する必要はない。ジンバル機構140は、必要に応じて、例えば、複数のボールベアリング、複数のトラック、複数のアクチュエータ等の様々な機械的装置を含むことができる。例えば、所望の角度αで各回転支持部145を回転させるべく、1または複数のロータを使用できる。ジンバル機構140は、ホワイトバランス調整用に参照領域130を設置すべくイメージセンサ110の移動を指示する画像処理プロセッサ120からの、複数の回転コマンドに応答するように構成できる。
【0055】
図8図7の側面図を示している)において、イメージセンサ110は、対象の風景105に向けられた状態で示され、参照領域130は、イメージセンサ110の視野の外側に位置する状態で示されている。
【0056】
図9図8と同様の側面図を示している)において、ホワイトバランス調整用のトリガに応答後に、参照領域130がイメージセンサ110の視野内に位置するように、ジンバル機構140が角度αだけ上に向かってz軸149C周りで回転した状態で示されている。
【0057】
単に例示を目的として、3つの回転支持部145を有するように示して説明したが、ジンバル機構140は、任意の自由度数を提供するための任意の適切な数の回転支持部145を含むことができる。更に、図9においては、単に例示を目的として、z軸149C周りで回転した状態を示したが、イメージセンサ110は、必要に応じて、参照領域130の画像を取得すべく、x軸149A、y軸149B及び/又はz軸149Cの任意の組み合わせの軸周りで回転され得る。回転移動されることに加え、イメージセンサ110はまた、必要に応じて、参照領域130の画像を取得すべく並進移動され得る。
【0058】
図10から図11において、無人航空機(UAV)150を含む撮像システム100の例示的実施形態が示されている。UAV150は、口語で「ドローン」と呼ばれており、輸送体に搭乗する人間操縦者がいない航空機であり、その飛行は、自律的に制御され、又は、遠隔操縦者によって制御される(両方による場合もある)。UAVは現在、様々な形の空中のデータ収集を要求する民間用途での増大する使用を見出している。様々なタイプのUAV150は、開示する複数のシステム及び方法で使用するのに適している。1つの適切なタイプのUAV150は、例えば、複数の回転翼によって推進される、空中回転翼航空機である。1つの適切な回転翼航空機は、4つの回転翼を有し、クワッドコプタ、クアッドロータヘリコプタ、又は、クアッドロータとして知られている。仮想的な複数のサイトシーイングシステム及び方法に適した複数の例示的なクワッドコプタは、商業的に現在利用可能な多数のモデルを含む。複数の本システム及び方法に適した複数のUAV150は、シングルロータ設計、デュアルロータ設計、トリロータ設計、ヘキサロータ設計、及び、オクトロータ設計などの他の複数のロータ設計を含むが、これらに限定されない。複数の固定翼機型UAV150、及び、回転翼機と固定翼機との複数のハイブリッド型UAV150もまた使用できる。UAV150は、例えば、機体151と、1または複数の着陸装置152とを含むことができる。単に例示を目的として、UAV150に対して示して説明したが、撮像システム100は、任意のタイプのモバイルプラットフォームを含むことができ、又は、そこに搭載できる。例示的で適切な複数のモバイルプラットフォームは、複数の自転車、複数の自動車、複数のトラック、複数の船、複数のボート、複数の電車、複数のヘリコプタ、複数の航空機、それらの様々なハイブリッド等を含むが、これらに限定されない。
【0059】
UAV150は特に、自動ホワイトバランス調整を実行するハードウェア及び/又はソフトウェア内で構成できる。例えば、イメージセンサ110は、特にUAV150での使用に適応したUAVカメラ115であり得る。UAVカメラ115は、好ましくは、UAV150の動きを過度に妨げるのを回避すべく軽量である。UAVカメラ115は、UAVカメラ115の画像キャプチャ性能を最大化すべく、都合良く広い可動域を有することができる。
【0060】
図10から図11において、ジンバル機構140は、UAV150の機体151の面上に配置された状態で示されている。イメージセンサ110は、イメージセンサ110が機体151に対して1または複数の軸周りで回転自在となることを可能にするジンバル機構140に取り付けられる。
【0061】
図10において、イメージセンサ110は、対象の風景105に向いている状態で示されており、イメージセンサ110の視野は、好ましくは、UAV150の一部によって妨げられない。図11において、ホワイトバランス調整を実行するコマンド/トリガを受信後、イメージセンサ110は、ホワイトバランス調整用の参照領域130がイメージセンサ110の視野内となるようにジンバル機構140を使用して回転した状態で示されている。図11に示されている実施形態において、参照領域130は、着陸装置152上に設置されている状態で示されている。図11において、単に例示を目的として、参照領域130は着陸装置152上に設置されている状態で示されているが、参照領域130は、イメージセンサ110が撮像できるUAV150の任意の部分上(例えば、機体151上)に設置できる。参照領域130は、対象の風景105の撮像に先立って、撮像システム100で指定されることを必要としてもよく、必要としなくてもよい。例えば、もし、機体151、着陸装置152、及び/又は、UAV150の他の複数の部分がホワイトバランス調整するのに適した色を有するならば(例えば、白色、中間グレイ色、又は、他のグレイトーン)、イメージセンサ110は、UAV150のその部分へのポイントだけを必要とする。イメージセンサ110は、図17を参照して以下で更に説明されるように、イメージセンサ110の周囲を走査することによって、UAV150の、ホワイトバランス調整するのに適した部分を設置できる。代替的に、参照領域130の位置は、対象の風景105の撮像に先立って、撮像システム100で指定できる。そのような指定が生じた後に、参照領域130がイメージセンサ110の視野内となるように、イメージセンサ110は、指定された位置に従って移動するようにプログラムされ得、又は、そうでなければ、そのように移動することを可能にされ得る。UAV150が一様にホワイトバランス調整するのに適した色でない複数の実施形態において、参照領域130の位置は、好ましくは、対象の風景105の撮像に先立って、撮像システム100で指定される。
【0062】
図12において、デジタル画像を自動ホワイトバランス調整する最上位方法200の実施形態が示されている。一実施形態において、図1の撮像システム100は、方法200を実行すべく使用できる。段階201において、ホワイトバランス調整トリガに応答して、イメージセンサ110と、ホワイトバランス調整するのに適した色を有する参照領域130との複数の相対位置を調整し、参照領域130の画像を取得すべくイメージセンサ110を配置する。ある特定の複数の実施形態において、段階201における、イメージセンサ110と参照領域130との複数の相対位置の調整は、図13と伴に以下で更に議論されるように、ホワイトバランス調整トリガに応答して自動的に実行できる。例えば、ホワイトバランス調整トリガに応答して、撮像システム100は、参照領域130がイメージセンサ110の視野内となるように、イメージセンサ110を自動的に位置変更する機構を作動させることができる。代わりに及び/又は加えて、参照領域130は、参照領域130がイメージセンサ110の視野内となるように、自動的に移動され得る。後者は、イメージセンサ110を移動できない場合、又は、そのような移動が所望されない場合に、好適であってもよい。
【0063】
段階202において、イメージセンサ110を使用して、参照領域130の画像を取得する。ある特定の複数の実施形態において、段階202における画像取得は、自動的に実行できる。例えば、画像取得は、参照領域130がイメージセンサ110の視野内となるように、イメージセンサ110及び/又は参照領域130が配置されることに応答して実行できる。代わりに及び/又は加えて、イメージセンサ110が参照領域130用にイメージセンサ110の周囲を走査するに連れて、イメージセンサ110は取得した画像を動的に評価するように構成できる。取得画像が参照領域130の画像であるとイメージセンサ110が認識した後、取得画像は後続のホワイトバランス調整用に使用できる。走査中の参照領域130の認識は、イメージセンサ110によって取得される画像の色および色分布に基づいて生じ得る。代わりに及び/又は加えて、参照領域130の認識は、イメージセンサ130によって先に取得された複数の画像、又は、撮像システム100の中に予めロードされている他の画像との比較に基づき得る。例えば、画像は、先に取得した参照領域130の画像と比較できる。もし画像が、(例えば、2つの画像の色及び/又は構成に基づいて)先に取得した参照領域130の画像と同様ならば、撮像システム100は、参照領域130が見つかったという結論を下すことができる。
【0064】
参照領域130の画像を取得した後、ホワイトバランス調整がトリガされた時点より前のイメージセンサ110及び/又は参照領域130の位置は、復元できる。イメージセンサ110及び/又は参照領域130の前の位置の当該復元は、自動的に生じさせることができる。例えば、画像処理プロセッサ120(図1に示されている)は、複数の前の位置を記憶して、イメージセンサ110が参照領域130の画像を取得した後にこれらの前の位置を復元するように構成できる。
【0065】
段階203において、デジタル画像をホワイトバランス調整するためのパラメータを参照領域130の画像から算出する。ホワイトバランス調整するためのパラメータは、参照領域130のカラーキャストによって確認されるような、照明光源の色温度を反映するパラメータであり得る。ホワイトバランス調整するためのパラメータは、例えば、色温度として絶対温度で表現され得る。複数のより低い色温度は、照明光源における青より赤のより高い部分を表わすことができ、その一方で、複数のより高い色温度は、照明光源における赤より青のより高い部分を表わすことができる。照明光源の他の複数の特性を示す他の複数のパラメータはまた、ホワイトバランス調整用に使用できる。幾つかの実施形態において、ホワイトバランス調整するための複数のパラメータは、参照領域130の単一画像に基づいて算出できる。例えば、参照領域130の複数の異なる部分の複数の色温度は、色の不均一性が予期される幾つかの例において、算出できる。他の複数の例において、参照領域130の複数の画素のグループの各画素に対応する複数の色温度を算出できる。ある特定の複数の実施形態において、ホワイトバランス調整パラメータの計算は、例えば、イメージセンサ110による参照領域130の画像の取得に続いて自動的に実行され得る。例えば、画像処理プロセッサ120は、ハードウェア及び/又はソフトウェアによって、参照領域130の画像を受信した後にホワイトバランス調整パラメータを取得するための複数の計算プロセスを自動的に開始するように構成できる。
【0066】
図13において、ホワイトバランス調整がトリガされる時点を判断する方法300を示す例示的なフロー図が示されている。段階301において、撮像システム100(図1に示されている)は、ホワイトバランス調整がまだトリガされていない初期状態で開始し、イメージセンサ110(図1に示されている)は、対象の風景105(図2から図4に示されている)から画像ストリームを取得するプロセスにある。段階302において、ホワイトバランス調整を開始する外部コマンド(例えば、ユーザコマンド、又は、イメージセンサ110が撮った前の複数の画像のカラーキャストに基づいて、ホワイトバランス調整が必要とされると決定した外部システム(不図示)からのコマンド)が受信されたか否かを決定する。もし外部ホワイトバランス調整コマンドが1つも受信されていないならば、初期状態301は維持される。もし段階302において外部ホワイトバランス調整コマンドが受信されているならば、段階303において、ホワイトバランス調整を開始する。段階304において、ホワイトバランス調整は、ホワイトバランス調整が完了するまで進行する。段階303及び段階304において、ホワイトバランス調整処理中に撮像システム100が外部に送信する画像ストリームは、任意に停止できる。段階304において、ホワイトバランス調整の完了後、撮像システム100は初期状態301へと戻り、必要ならば、画像ストリームは再開できる。段階303でホワイトバランス調整が開始された後であるが段階304でホワイトバランス調整が完了される前に、もし追加のホワイトバランス調整コマンドが受信されるならば、そのようなコマンドは余分であるとして無視され得る。代替的に、追加のホワイトバランス調整コマンドは、バッファに入れることができ、前のホワイトバランス調整処理が完了した後に後続のホワイトバランス調整コマンドとして取り次ぐことができる。
【0067】
段階305において、外部ホワイトバランス調整トリガの検出の代替的に、及び/又は、それと同時に、イメージセンサ110によって撮られた画像を分析することによって、ホワイトバランス調整を自動的にトリガできる。段階306において、撮られた画像が参照領域130を使用してホワイトバランス調整することを要求しているか否かを分析する。段階306において、もし画像がホワイトバランス調整するための参照領域130を要求していないと決定されれば、撮像システム100は、初期状態301へと戻らされる。段階306において、もし画像がホワイトバランス調整するための参照領域130を要求していると決定されれば、段階303においてホワイトバランス調整が開始する。画像がホワイトバランス調整するのに適した色を有する領域を欠いているか否かを判断することを含む、段階306における画像評価では、様々な基準を使用でき、その場合は、外部参照領域130は必要とされない。そのような決定は、図14を参照して以下で更に詳細に説明される。
【0068】
では、図14に目を向けると、対象のデジタル画像が、参照領域130を使用することを必要とせずにホワイトバランス調整するのに適した色を有する領域を含むか否かを判断する方法400の一実施形態の詳細なフロー図が示されている。デジタル画像の複数の画素の複数の色彩比と参照画像の複数の画素の複数の色彩比とを比較することによって、この決定を行う方法400が示されている。この実施形態は、複数のグレイの色調が、与えられた照明色温度下においてある特定の複数の範囲内に固定される、赤と緑との強度比、及び、青と緑との強度比を有するという事実に基づく。従って、1または複数の参照画像における複数の同じ比を参照し、複数の画素の赤と緑との強度比、及び、青と緑との強度比を組み合わせることによって、対象のデジタル画像における複数のグレイトーンピクセルを識別できる。幾つかの実施形態において、当該方法は、参照画像の複数の画素の複数の色彩比を散布図上にプロットする段階と、デジタル画像の複数の画素の複数の色彩比を散布図上にプロットする段階と、デジタル画像の複数の画素の複数のプロット位置と参照画像の複数の画素の複数のプロット位置とを比較する段階とを含む。
【0069】
例えば、段階401において、複数のグレイの色調の範囲(例えば、白色から中間グレイ色)を有する1または複数の参照オブジェクト450を提供することによってホワイトバランス調整する目的で、イメージセンサ110を準備する。イメージセンサ110の準備は、好ましくは、イメージセンサが対象の風景105(図2から図4に示されている)の撮像を開始する時間より前に実行する。段階402において、イメージセンサ110は、異なる複数の色温度(例えば、2800K、4000K,5000K、6500K、7500K等)を有する様々な照明光源下で複数の参照オブジェクト450の複数の参照画像455を取得する。段階403において、取得された複数の参照画像455から、赤と緑との色強度比、及び、青と緑との色強度比を算出する。赤と緑との色強度比、及び、青と緑との色強度比は、複数の参照画像455の個々の画素に対して算出できる。代わりに及び/又は加えて、赤と緑との色強度比、及び、青と緑との色強度比は、複数の参照画像455の複数の特定領域に全体に亘って平均化できる。例えば、複数の参照画像455は、各ブロック内でノイズが取り除かれるように、固定幅及び高さの複数のブロック(例えば、10×10画素、20×20画素、50×50画素、又は、それより多くの画素数)、及び、各ブロックの全体に亘って平均化されている赤と緑との色強度比、及び、青と緑との色強度比へと分割できる。別の例において、赤と緑との色強度比、及び、青と緑との色強度比は、ある特定の状況を満たす参照画像455の特定の複数の画素に対してのみ平均化できる(例えば、ある特定の色基準を満たしていない複数の画素を平均から取り除くことができる)。更に別の例において、赤と緑との色強度比、及び、青と緑との色強度比は、ある特定の状況を満たす参照画像455の複数の特定領域に対してのみ平均化できる(例えば、ある特定の色基準を満たしていない非常に多数の画素を有する複数の領域を取り除くことができる)。
【0070】
段階404において、赤と緑との色強度比、及び、青と緑との色強度比が複数の参照画像455から算出された後、参照の複数のグレイの色調および複数の色温度の範囲全体に亘る、赤と緑との色彩比、及び、青と緑との色彩比の分布を参照散布図901図15に示されている)上にプロットする。当該図の複数の軸は、赤と緑との色彩比(例えばx軸上)、及び、青と緑との色彩比(例えばy軸上)である。例示的な参照散布図901は、図15に示されている。参照散布図901上では、様々なグレイトーンピクセルによって、複数の画素が生成される色温度に対応する複数のクラスタ902を形成できる(例えば、2800Kの温度で用いられる複数の画素は散布図の右下で低下する傾向にあってもよく、その一方で、7500Kの温度で用いられる複数の画素は散布図の左上で低下する傾向にあってもよい)。参照散布図901は、対象の風景105の撮像中にホワイトバランス調整すべく参照散布図901を使用できるように、イメージセンサが対象の風景105の撮像を開始する時間より前に生成できる。
【0071】
図14に戻って言及すると、対象の風景105の撮像を開始した後に、対象の風景105の画像が、参照領域130を使用せずにホワイトバランス調整するのに適した色を有する領域を含んでいるか否かを決定する。そのような決定を行うべく、段階405において、対象の風景105の画像の複数の画素の赤と緑との色彩比、及び、青と緑との色彩比を算出する。好ましくは、参照散布図901を生成するための複数の色彩比の計算と同じ又は同様の態様で、対象の風景105の画像に対する複数の色彩比の計算を実行する。段階406において、これら複数の強度比の組み合わせが、複数の座標として用いられた場合に、参照散布図のクラスタ内に入るか否か、及び、それ故にそれ自体がグレイトーンピクセルであるか否かを決定する。段階407において、もし十分に多数の画素、又は、複数の画素の十分な部分がグレイトーンであるならば、画像はホワイトバランス調整するのに適した領域を有しており、ホワイトバランス調整するための外部参照領域130を使用する必要はない。そうでなければ、段階408において、画像はホワイトバランス調整するのに適した領域を欠いており、ホワイトバランス調整するための外部参照領域130の使用から利益を享受するだろう。
【0072】
では、図16に目を向けると、参照領域130がイメージセンサ110の視野内となるようにイメージセンサ110を自動的に移動させる方法500が示されている。この実施形態においては、参照領域130の位置は、ホワイトバランス調整が開始する時点より前に、画像処理プロセッサ120(図1に示されている)によって記録される。段階501において、参照領域130の位置は、3つのデカルト座標の1つにおける、イメージセンサ110に対する参照領域130の直線変位のような、1または複数の位置パラメータを使用して指定できる。例えば、画像処理プロセッサ120は、参照領域130がイメージセンサ110の20〜30cm上方、且つ、イメージセンサ110の左側30〜40cmにあると記録できる。代わりに及び/又は加えて、参照領域130の位置は、1または複数の角(換言すると、回転)変位パラメータを使用して指定でき、これは、イメージセンサ110の移動が回転機構(例えば、図7から図9を参照して上記で説明したジンバル機構140)によって制御される場合により適していてもよい。例えば、画像処理プロセッサ120は、イメージセンサ110を上に40〜45度の角度Φ、且つ、左に20〜25度の角度θだけ移動することによって参照領域130を設置できると記録することができる。段階502において、1または複数の位置パラメータは、参照領域130がイメージセンサ110の視野内となるように対応する並進機構及び/又は回転機構(例えば、ジンバル機構140)によってイメージセンサ110の位置を調整すべく(例えば、イメージセンサ110を上に40〜45度の角度Φ、且つ、左に20〜25度の角度θだけ移動すべく)使用できる。
【0073】
では、図17に目を向けると、参照領域130がイメージセンサ110の視野内となるようにイメージセンサ110を自動的に移動させる代替的方法600が示されている。この実施形態においては、参照領域130の位置は、画像処理プロセッサ120(図1に示されている)によって記録されないが、画像処理プロセッサ120が認識可能なマーカ135でマークされる。この実施形態は、参照領域130の位置を必要に応じて容易に移動できるという利点を有するが、参照領域130の位置を記録することに比べて計算的に負荷がより大きいかもしれない。
【0074】
段階601において、参照領域130の位置は、マーカ135を使用して指定される。好ましくは、マーカ135は、画像処理プロセッサ120によってその周囲と容易に区別される程、十分に特色ある。好ましい実施形態において、マーカ135は、機械可読情報をエンコードする2次元バーコードである、クイックレスポンス(QR)コード(登録商標)であり得る。図5から図6を参照して上記で議論したように、QRコード(登録商標)は、四角格子内、好ましくは、カラーコントラストを提供する背景上に配置される暗色モジュールを含むことができ、それは、イメージセンサ110によって「読み取」られ得、そのコンテンツは、画像処理プロセッサ120によって解読され得る。QRコード(登録商標)のコンピュータ読み取りのための様々な方法が知られている。例えば、QRコード(登録商標)の画像が適切に解釈され得るように、リードソロモンエラー修正を使用してQRコード(登録商標)の画像を処理できる。
【0075】
段階602において、イメージセンサ110は、マーカ135(例えばQRコード(登録商標))が設置されるまで、イメージセンサ110の周囲を走査する。幾らかの取り付けによって他より高い可動度が与えられるので、方法600は、イメージセンサ110が撮像システム100の他の複数の部分に取り付けられる態様に応じて、異なることができる。単純な場合においては、イメージセンサ110は、単一の自由度についてのみ移動できる(例えば、イメージセンサ110は、上下にチルト、又は、左右にスウィングすることだけできる)。この場合は、イメージセンサ110は、任意に、マーカ135を設置すべく自身の全可動域を通じて移動できる。他の複数の場合においては、イメージセンサ110がマーカ135を設置すべく実行する可動域を制限できる。そのような複数の制限は、角変位制限及び/又は直線変位制限であり得る(例えば、イメージセンサ110は、マーカ135を見つけるべく、その原点から20度若しくは2インチ、又は、これより大きい角度若しくは距離を移動することを許容されていない)。そのような複数の制限はまた、例えば、イメージセンサ110がマーカ135を見つけるのに移動すべきである特定の方向を特定できる(例えば、その制限は、イメージセンサ110が、上にだけ移動できるが下には移動できない、又は、左にだけ回転できるが右には回転できない、というものであり得る)。イメージセンサ110が複数の自由度について移動できる、より複雑な場合においては、イメージセンサ110は、マーカ135を見つけるべく、(例えば効率化を目的として)1または複数の選択された自由度においてのみ移動するように制限され得る。更に、イメージセンサ110がマーカ135を走査すべきである(複数の角座標の点で)特定のセクタを指定できる。イメージセンサ110による、マーカ135に対する任意の特定領域又はセクションの走査は、好ましくはシステマティックである。例えば、イメージセンサ110は、一方向で全可動域の至る所を走査し、他の方向で固定量だけ移動し、再び、第1の方向で全可動域の至る所を走査するように構成できる。
【0076】
段階603において、イメージセンサ110は、マーカ135を設置しており、参照領域130を指定すべくマーカ135を使用できる。マーカ135の特色ある色及びパターンによって、別の方法ではニュートラルに色付いているだろう(例えば、白色、中間グレイ色、又は、他のグレイトーン)領域を含むバイアスを導入できるので、ホワイトバランス調整するためのパラメータを計算する複数の目的で、参照領域130の画像からマーカ135を除外できる。一実施形態において、マーカ135は、参照領域130の中心に配置でき、画像処理プロセッサ120(図1に示されている)は、マーカ135から特定距離内の領域をキャプチャするように構成できる。別の実施形態において、マーカ135は、参照領域130の境界138(図6に示されている)に関する情報をエンコードする。別の実施形態において、マーカ135は、参照領域130の境界138に設置される。この実施形態においては、参照領域130の境界138に設置されるマーカ135は、マーカ内でエンコードされ得、又は、画像処理プロセッサ120上に記録され得る。幾つかの実施形態において、マルチマーカ135は、参照領域130の1または複数の境界138を定めるべく使用できる。従って、複数のマーカ135の配置と、複数のマーカ135内でエンコードされた情報との組み合わせによって、参照領域130の複数の境界は完全に特定できる。
【0077】
では、図18に目を向けると、参照領域130をイメージセンサ110の視野の中に自動的に移動させる方法700の実施形態が示されている。方法700の利点は、イメージセンサ110が固定されている、又は、イメージセンサ110を移動することが非実用的である(例えば、イメージセンサ110の移動が遅過ぎる、又は、イメージセンサ110が移動するには大き過ぎる)場において当該方法を使用できることである。そのような複数の場合においては、参照領域130は、様々な機械的手段(例えば、複数のモータ、複数のボールベアリング、複数のトラック、複数のバネ等)によって、撮像システム100(図1に示されている)、及び、レンダリングされたモバイルと連結できる。
【0078】
従って、段階701において、参照領域130は撮像システム100の一部にインセットされ、イメージセンサ110の視野内に位置しない。段階702において、(図3および図4を参照して上記で説明した)ホワイトバランス調整トリガに応答して、参照領域130はイメージセンサ110の視野の中へと移動され、部分的に又は完全に当該視野を占める。段階703において、イメージセンサ110は、ホワイトバランス調整するための参照領域130の画像を取得する。段階704において、参照領域130の画像取得が完了した後に、参照領域130をインセット位置に戻すようにリトラクトできる。撮像システム100がUAV150(図10から図11に示されている)を含む複数の実施形態において、参照領域130は、例えば、UAV150の機体151(図10から図11に示されている)にインセットされ得る。UAV150の正常な複数の動作の下で、参照領域130は、その外部が機体151の外部面153(図10から図11に示されている)と同一平面になるように、少なくとも部分的に機体151にインセットされ得る。参照領域130は、ホワイトバランス調整すべくイメージセンサ110の視野の中に入るように外方へイジェクトされ得、参照領域130が撮像された後に機体151の中へと再挿入され得る。
【0079】
では、図19に目を向けると、参照領域130の画像を使用してホワイトバランス調整するためのパラメータを計算する方法800の実施形態が示されている。参照領域130は意図的に一様に色付けされ得るが、参照領域130の画像における不均一性は、結果として生じるホワイトバランス調整パラメータに著しくバイアスをかけそうな複数のアーチファクトを含んでもよい。参照領域画像における不均一性は、例えば、参照領域130が変色されている、又は、過剰な使用で及び/又は不向きな複数の天気状況から単に汚れている場合に、引き起こされ得る。不均一性は更に、撮像ハードウェアでの複数の故障、及び/又は、画像処理ソフトウェアでの複数のバグによって引き起こされ得る。いずれか一方の場合で、参照領域画像の均一性に対する試験によって、自動ホワイトバランス調整プロセスの信頼性を向上できる。
【0080】
従って、段階801において、参照領域130の画像の複数の画素の色のばらつきを分析する。段階802において、色のばらつきの程度が高すぎる(例えば、ばらつきが予め定められた閾値を超える)か否かを決定する。もし色のばらつきの程度が高すぎるならば、効果的にホワイトバランス調整するには画像の色が不均一すぎると示すことができ、段階803において、撮像システム100は、参照領域130を使用してホワイトバランス調整することが信頼できないかもしれないという警告メッセージを、受信システム(不図示)又はユーザ(不図示)に送信できる。撮像システム100は、任意に、参照領域130の当該特定画像を使用してホワイトバランス調整パラメータを計算するための後続の複数の段階を中止できる。撮像システム100は、参照領域130の複数の後続の画像を用いて、複数の後続の画像の色のばらつきを計算することによって、ホワイトバランス調整を実行することを試みることができる。もし複数の後続の画像の色のばらつきの程度がまだ高すぎるならば、撮像システム100は、もし第2参照領域(不図示)が撮像システム100に利用可能であれば、ホワイトバランス調整すべくそのような第2参照領域を使用することを試みることができる。
【0081】
たとえ参照領域130の画像のばらつきが適切な均一度を有するとしても、その画像は、取り除かれる必要がある複数のカラーアーチファクトを有する複数の画素を含むかもしれない。例えば、複数のアウトライヤーカラーを有する複数の画素から生じ得る、色温度評価における複数のバイアスを回避すべく、段階804において、そのような複数のアウトライヤー画素を取り除いてもよく、段階805において、色温度に対し、(例えば残りの複数の画素の平均を用いることによって)残りの複数の画素を評価してもよい。例えば最も高い色温度の画素および最も低い色温度の画素の(例えば、2%、5%、10%、15%、又は、それより高い)固定パーセンタイルの除去のようなアウトライヤー画素除去用に、様々な統計技術を使用できる。
【0082】
開示した複数の実施形態は、様々な変更及び代替的な形式の対象たり得るものであり、それらの複数の具体例は、複数の図面において、例として示され、本明細書において詳細に説明される。しかしながら、開示した複数の実施形態は、開示した特定の複数の形式又は方法に限定されるものではなく、反対に、開示した複数の実施形態は、全ての変更、均等物及び代替案を包含するものであることに留意すべきである。
[項目1]
自動的にデジタル画像をホワイトバランス調整する方法であって、
ホワイトバランス調整トリガに応答して、イメージセンサと、ホワイトバランス調整するのに適した色を有する参照領域との複数の相対位置を調整し、前記参照領域の画像を取得すべく前記イメージセンサを配置する段階と、
前記イメージセンサを使用して、前記参照領域の前記画像を取得する段階と、
前記参照領域の前記画像から前記デジタル画像をホワイトバランス調整するためのパラメータを計算する段階と
を含む、方法。
[項目2]
前記複数の相対位置を調整する段階は、前記イメージセンサ及び前記参照領域の前記複数の相対位置を自動的に調整する段階を含む、請求項1に記載の方法。
[項目3]
前記取得する段階は、前記参照領域の前記画像を自動的に取得する段階を含む、請求項1または2に記載の方法。
[項目4]
前記計算する段階は、ホワイトバランス調整するための前記パラメータを自動的に計算する段階を含む、請求項1から3の何れか一項に記載の方法。
[項目5]
前記複数の相対位置を調整する段階は、前記デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定を含む前記ホワイトバランス調整トリガに応答して、前記複数の相対位置を調整する段階を含む、請求項1から4の何れか一項に記載の方法。
[項目6]
前記デジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの前記決定は、前記デジタル画像の複数の画素の複数の色彩比と、参照画像の複数の画素の複数の色彩比とを比較する段階を含む、請求項5に記載の方法。
[項目7]
前記複数の色彩比は、赤と緑との複数の比、及び、青と緑との複数の比を含む、請求項6に記載の方法。
[項目8]
前記比較する段階は、前記参照画像の前記複数の画素の前記複数の色彩比を散布図上にプロットする段階と、前記デジタル画像の前記複数の画素の前記複数の色彩比を散布図上にプロットする段階と、前記デジタル画像の前記複数の画素の複数のプロット位置と前記参照画像の前記複数の画素の複数のプロット位置とを比較する段階とを含む、請求項6または7に記載の方法。
[項目9]
前記複数の相対位置を調整する段階は、ユーザコマンドを含む前記ホワイトバランス調整トリガに応答して、前記複数の相対位置を調整する段階を含む、請求項1から8の何れか一項に記載の方法。
[項目10]
前記調整する段階は、前記参照領域が前記イメージセンサの視野内となるように、自動的に前記イメージセンサを移動させる段階を含む、請求項1から9の何れか一項に記載の方法。
[項目11]
前記参照領域の記録された位置に従って前記イメージセンサを調整して移動させる段階に先立って、前記参照領域の前記位置を記録する段階を更に含む、請求項10に記載の方法。
[項目12]
前記調整する段階は、前記参照領域を設置すべく、前記イメージセンサが、前記イメージセンサの周囲を走査することを可能にする段階を含む、請求項10または11に記載の方法。
[項目13]
前記イメージセンサを可能にする段階は、前記イメージセンサが、1または複数のマーカを認識することによって前記参照領域を設置することを可能にする段階を含む、請求項12に記載の方法。
[項目14]
前記複数のマーカは、前記参照領域の境界を定める、請求項13に記載の方法。
[項目15]
前記複数のマーカは、複数のクイックレスポンス(QR)コード(登録商標)である、請求項13または14に記載の方法。
[項目16]
前記調整する段階は、前記参照領域を前記イメージセンサの視野の中へと自動的に移動させる段階を含む、請求項1から15の何れか一項に記載の方法。
[項目17]
前記イメージセンサが前記参照領域の前記画像を取得した後に、前記イメージセンサ及び前記参照領域の少なくとも一方の前記位置を自動的に復元する段階を更に含む、請求項1から16の何れか一項に記載の方法。
[項目18]
前記計算する段階は、複数のアウトライヤーカラーを有する前記参照領域の前記画像の複数の画素を廃棄する段階を含む、請求項1から17の何れか一項に記載の方法。
[項目19]
前記参照領域の前記画像の複数の画素の色のばらつきが予め定められた閾値より高い場合、エラーメッセージを制御システムに送信する段階を更に含む、請求項1から18の何れか一項に記載の方法。
[項目20]
前記パラメータを使用して、前記デジタル画像をホワイトバランス調整する段階を更に含む、請求項1から19の何れか一項に記載の方法。
[項目21]
デジタル画像と、ホワイトバランス調整するのに適した色を有する参照領域とを取得するのに適したイメージセンサを備え、
請求項1から20の何れか一項に従って、デジタル画像の自動ホワイトバランス調整を実行するように構成される、撮像システム。
[項目22]
前記参照領域は、前記撮像システムの本体にインセットされ、前記イメージセンサの視野の中および外で移動するように構成される、請求項21に記載の撮像システム。
[項目23]
前記撮像システムは、無人航空機(UAV)を含む、請求項21または22に記載の撮像システム。
[項目24]
少なくとも1つの軸周りで回転することを可能にすべく、ジンバル機構に動作可能に搭載されるイメージセンサと、
デジタル画像の自動ホワイトバランス調整を実行するように構成される画像処理プロセッサと
を備え、
ホワイトバランス調整トリガに応答して、前記ジンバル機構を使用し、ホワイトバランス調整するのに適した色を有する参照領域の位置に対する前記イメージセンサの位置を調整し、
前記イメージセンサを使用して、前記参照領域の画像を取得し、
前記画像処理プロセッサを使用して、前記参照領域の前記画像からホワイトバランスパラメータを計算するように構成される、
撮像システム。
[項目25]
前記ホワイトバランス調整トリガは、前記画像処理プロセッサによる、対象のデジタル画像がホワイトバランス調整参照として使用するのに適した領域を欠いているとの決定を含む、請求項24に記載の撮像システム。
[項目26]
前記ホワイトバランス調整トリガは、ユーザコマンドを含む、請求項24または25に記載の撮像システム。
[項目27]
前記画像処理プロセッサは、前記参照領域の前記位置に関する1または複数のパラメータを記録し、前記複数のパラメータを使用して前記イメージセンサの前記位置を調整するように構成される、請求項24から26の何れか一項に記載の撮像システム。
[項目28]
前記複数のパラメータは、前記イメージセンサの前記位置に対する、前記参照領域の直線変位及び角変位の少なくとも一方を含む、請求項27に記載の撮像システム。
[項目29]
前記画像処理プロセッサは、前記参照領域を設置すべく、前記イメージセンサに、前記イメージセンサの周囲を走査することを指示するように構成される、請求項24から28の何れか一項に記載の撮像システム。
[項目30]
前記イメージセンサは、1または複数のマーカを認識することによって、前記参照領域を設置する、請求項29に記載の撮像システム。
[項目31]
前記複数のマーカは、前記参照領域の境界を定める、請求項30に記載の撮像システム。
[項目32]
前記複数のマーカは、複数のクイックレスポンス(QR)コード(登録商標)である、請求項30または31に記載の撮像システム。
[項目33]
前記撮像システムは、無人航空機(UAV)を含む、請求項24から32の何れか一項に記載の撮像システム。
[項目34]
前記ジンバル機構は、前記UAVの機体の選択面上に配置され、前記参照領域は、前記UAVの着陸装置上に設置される、請求項33に記載の撮像システム。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19