【文献】
春田 具範、他,"時空間コード化パターン投影による3次元形状計測",人文科学とコンピュータシンポジウム論文集,財団法人情報処理学会,2001年12月14日,Vol. 2001, No. 18,p.149-155
(58)【調査した分野】(Int.Cl.,DB名)
前記基準平面上において前記複数の投光手段から照射された光を加算した輝度値が一定になるように前記グラデーションパターンが設定されていることを特徴とする請求項5に記載の3次元情報提示装置。
前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して光を照射して車両の前方に存在する物体までの距離を可視化することを特徴とする請求項3ないし9のいずれか1つに記載の3次元情報提示装置。
前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して光を照射して車両の前方の道路面に対して垂直方向の高さの違いを可視化することを特徴とする請求項3ないし9のいずれか1つに記載の3次元情報提示装置。
前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して不可視光を照射して、車両の前方に存在する物体までの距離、または車両の前方の道路面に対して垂直方向の高さの違いを提示することを特徴とする請求項15に記載の3次元情報提示装置。
前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して不可視光を照射して車両の前方の特定領域に存在する物体を強調提示することを特徴とする請求項17に記載の3次元情報提示装置。
【発明を実施するための形態】
【0012】
(第1実施形態)
図1に、本発明の第1実施形態に係る3次元情報提示装置の構成を示す。この3次元情報提示装置では、
図1に示すように対象物体面に対して2台のプロジェクタP1、P2から光を照射する。2台のプロジェクタP1、P2から照射された光は物体面上において足し合わされて一つの色や輝度となる。物体面上においては、光は単純に加算されるので、
図1の物体面上の点Aの色や輝度は、第1プロジェクタP1の画像面上の点a
1の色や輝度と第2プロジェクタP2の画像面上の点a
2の色や輝度が加算されたものとなる。同様に、物体面上の点Bの色や輝度は点b
1と点b
2における光の色や輝度の加算となり、点Cの色や輝度は点c
1と点c
2における光の色や輝度の加算となる。
【0013】
このとき2台のプロジェクタP1、P2から照射する光のパターンを、
図2に示すように、2台それぞれで濃淡の変化が逆であるようなグラデーションのパターンとする、つまり空間的にコード化する。濃淡を変化させる方向は、2台のプロジェクタP1、P2の並び方向、より具体的には2台のプロジェクタP1、P2の投影中心を結ぶ直線方向とし、また、濃淡の変化はリニア(線形)に変化させるものとする。すると、点Aの輝度は点a
1の黒と点a
2の黒が加算されて黒色となる。また、点Bの輝度は点b
1の灰色と点b
2の灰色が加算されて灰色となり、点Cの輝度は点c
1の白と点c
2の白が加算されて白となる。2台のプロジェクタP1、P2の輝度はリニアに変化しているので、点Aと同じ距離にある点は全て同じ黒色となり、点Bと同じ距離にある点は全て同じ灰色、点Cと同じ距離にある点は全て同じ白色となる。したがって、物体面上に生成される輝度によって、物体面上の各点の3次元距離が可視化される。
【0014】
このとき可視化する3次元距離は、3次元空間中に設けた任意の基準平面Πに対して垂直な方向の距離とすることができる。例えば、この3次元情報提示装置を車両に適用して車載プロジェクタとした場合、道路前方に存在する車両や障害物までの距離を可視化するには、
図3(a)に示すように車両進行方向に垂直な面を基準平面Πとする。また、道路面の凹凸を可視化したい場合には、
図3(b)に示すように道路面を基準平面Πとすることにより、道路面に対して垂直方向の高さの違いを可視化することができる。
【0015】
なお、
図2に示すように、白から黒に変化するようなグレースケールのグラデーション画像を投影した場合、
図4に示すように、基準平面Πからの距離が変化すると、重ね合わさる画素値が変化し、観測される輝度値が変化する。これにより、観測輝度により基準平面Πからの距離を強調提示することができる。また、白から黒に変化するようなグレースケールのグラデーション画像ではなく、
図5に示すように、赤から緑に変化(
図2の白→灰色→黒に対し赤→黄→緑と変化)するカラーグラデーション画像を投影した場合、プロジェクタと物体の距離が遠い場合は観測
色が緑に、近い場合は観測
色が赤に変化することになる。したがって、
図3(b)のように道路面の凹凸を可視化する場合、路面上を基準平面として校正を行い、
図6に示すように、車載プロジェクタP1、P2から路面に対してパターンを投影すると、路面上の凸部aについては赤色が、凹部bについては緑色が観測されることになる。また、路面cについてはこの中間色である黄色が観測される。これにより、路面形状が色情報を用いて提示可能となり、ドライバに対する路面形状の強調提示が実現できる。
【0016】
次に、上記したような基準平面に応じた3次元距離の可視化の方法を詳しく説明する。まず、第1プロジェクタP1および第2プロジェクタP2から投影される画像の校正方法を説明する。プロジェクタP1、P2から投影される画像を校正する際にはカメラC1が用いられる。
【0017】
いま、
図7に示すように、空間中に基準平面Π、カメラC1、プロジェクタP1、P2が配置されている場合を考える。このとき、プロジェクタP1の画像平面πp1とカメラC1の画像平面πcの間には平面Πを介した平面射影変換Hcp1が存在する。同様に、πcとπp2の間にも平面射影変換Hcp2が存在する。このような平面射影変換は4組の対応点組により計算することが可能である。
【0018】
そこで、プロジェクタP1から4つの点x1i=[x1i,y1i,1]
T(i=1,…,4)を、またプロジェクタP2 から4つの点x2i=[x2i,y2i,1]
T(i=1,…,4)をそれぞれ基準平面Πに投光する。ここで、点の座標は斉次座標を用いて表しており、Tは転置を表している。次に、これらの点をカメラC1によって撮影した像x'1i=[x'1i,y'1i,1]
T,x'2i[x'2i,y'2i,1]
T(i=1,…,4)を基に、数式1、2の関係を満たす3×3の平面射影変換行列Hcp1, Hcp2 を求める。
【0021】
ここで数式1、2中の記号〜は定数倍の不定性を除いて等しいことを表す。この平面射影変換行列Hcp1, Hcp2 の計算は、以下のようにして線形計算により行うことができる。今、Hcp1 を求める場合を考える。このために、3×3行列Hcp1の9つの要素を縦に並べたベクトルhを考える(数式3参照)。
【0023】
hijはHcp1のi行j列の要素である。数式1の射影変換式を展開して整理しなおすことで、以下の線形方程式が得られる(数式4参照)。
【0025】
ここで、0 は零ベクトルであり、Mは以下に示す8×9行列である(数式5参照)。
【0027】
行列Mの中身は、プロジェクタ画像とカメラ画像における点の座標値であるため全て既知である。従って数式4の線形方程式を解くことで、ベクトルhが求まり、射影変換行列Hcp1 が求まる。なお、数式4の解hは行列M
TMの最小固有値に対応する固有ベクトルとして求まる。Hcp2 の計算も同様にして行うことができる。
【0028】
以上のようにして最低4点の対応点から射影変換を求めることができるが、5点以上のN点の対応点がある場合には、これらのN点全てを用いることでより安定に射影変換を求めることができる。この場合には、行列Mが2N×9行列となるが、先と同様にM
TMの最小固有値に対応する固有ベクトルとしてhを求めればよい。
【0029】
このようにして求めた平面射影変換Hcp1、Hcp2を用いることにより、各プロジェクタから基準平面Πに対して任意の像を投影することが可能になる。
【0030】
ここで、2台のプロジェクタP1、P2から発光した光を加算した輝度値が基準平面Π上において一定になるように2台のプロジェクタP1、P2のグラデーションパターンを作成する。このために、まず
図2に示すような輝度変化の方向が逆であるような2つのグラデーション画像I1とI2(それぞれ
図2(a)と(b)に対応)を作成する。カメラC1でグラデーション画像I1とI2のそれぞれが得られるように、グラデーション画像I1を平面射影変換Hcp1で射影変換し、グラデーション画像I2を平面射影変換Hcp2を用いて射影変換する。このようにして得られた2つのグラデーション画像をそれぞれI1'、I2'とすると、第1プロジェクタP1からグラデーション画像I1'が投影されるように第1プロジェクタP1の設定を行い、第2プロジェクタP2からグラデーション画像I2'が投影されるように第2プロジェクタP2の設定を行う。
【0031】
第1プロジェクタP1からグラデーション画像I1'が投影され、第2プロジェクタP2からグラデーション画像I2'が投影されると、基準平面Πからの距離に応じて重ね合わさる輝度が変化し、観測される輝度値が変化する。これにより、基準平面Πからの距離を可視化して表示することができる。基準平面Πは3次元空間中において自由に設定することができるので、例えば、
図3(a)に示すように基準平面を車両進行方向に垂直に取れば、車両前方の距離に応じた輝度変化を付けることができ、
図3(b)に示すように基準平面を道路面上に取れば、道路面の凹凸に応じた輝度変化を付けることができる。
【0032】
なお、
図5に示すように赤から緑に変化するカラーグラデーション画像を投影する場合も、上記と同様の方法により平面射影変換Hcp1、Hcp2を求め、それを用いてプロジェクタP1、P2から投影されるカラーグラデーション画像の設定を行う。
【0033】
以上述べた本実施形態によれば、光の混合を用いて物体面上において直接3次元情報を提示することで、情報獲得と情報提示を同時に行うことを可能にしているので、計測系と情報提示系が分かれた既存システムにおける座標系の校正の問題や、ディスプレイなどの間接的な情報提示手段を用いた場合に生じる実物体と表示物体のずれの問題などを解消することができる。つまり、非特許文献1、2のように3次元計測と3次元情報の提示とを別々に行うのではなく、これら2つを完全に一体化し、3次元情報の可視化が3次元情報の復元を介さずに行うことができる。また、3次元情報の提示は、ディスプレイやHUDなどの表示装置(表示画面)を用いて行うのではなく、対象となる3次元物体面上に直接色や明るさの違いとして提示されるため、従来技術のようにユーザがディスプレイ画面を注視する必要がなく、またHUDにおいて生じるような表示の位置ずれや観測者の焦点ずれなども一切生じることはない。
【0034】
(第2実施形態)
上記第1実施形態では、基準平面Πからの距離を強調提示するが、本第2実施形態では、特定3次元領域を強調提示する。換言すれば、本実施形態では、距離に比例しない3次元情報を提示する。
【0035】
本実施形態では、3台のプロジェクタを用いて特定3次元領域を強調提示する例について説明するが、2台のプロジェクタを用いて特定3次元領域を強調提示することも可能である。
【0036】
本実施形態の3次元情報提示装置では、
図8に示すように対象物体面に対して3台のプロジェクタP1、P2、P3から光を照射する。このとき
図9、
図10に示すように、3台のプロジェクタP1、P2、P3から照射する光のパターンα、β、γを、それぞれ濃淡の変化が非線形であるようなグラデーションのパターンとする。
【0037】
すると、
図11に概念的に示すように、対象物体面のうち特定領域Dの輝度は高くなり、それ以外の領域の輝度は特定領域Dの輝度よりも低くなる。したがって、物体面上に生成される輝度によって、特定3次元領域が強調提示される。なお、
図11の領域Eは、3台のプロジェクタP1、P2、P3から照射する光が重なり合う領域を示している。
【0038】
次に、上記したような特定3次元領域の強調提示の方法を詳しく説明する。まず、特定領域強調提示の投影パターンの計算方法を説明する。いま、
図12に示すように、空間中にプロジェクタP1、P2、P3が配置されている場合を考える。このとき、対象物体面の任意の点jにおいて観測される色I
j は、以下の線形方程式で表される(数式6参照)。
【0040】
ここで、α=[α
1,…,α
N]
T、β=[β
1,…,β
N]
T、γ=[γ
1,…,γ
N]
Tは、各プロジェクタの投影パターンを表すベクトルであり、それぞれのベクトルはプロジェクタのN個の画素の明るさα
i,β
i,
γ
i (i=1,…,N)よりなる。W
jα=[W
jα1,…,W
jαN]、W
jβ=[W
jβ1,…,W
jβN]、W
jγ=[W
jγ1,…,W
jγN]は、対象空間中の点jを着色する場合における投影パターンの各画素の寄与度W
jαi,W
jβi,
W
jγi (i=1,…,N)よりなるベクトルである。寄与度Wは0から1までの値を取り、0はその画素が点jの着色に全く寄与しないことを表し、1は大きく寄与することを表す。寄与度は、その画素から出た光線と離散点jとの重なりの大きさに応じて決定する。
【0041】
したがって、対象物体面上の離散化されたM個の各点における観測色I
1 〜I
M は、次の線形方程式で表される(数式7参照)。
【0043】
ここで、左辺のM×3N行列は各画素の寄与度(重み)を表す。
【0044】
この数式7は、以下の数式8のように表すことができる。
【0046】
ここで、Wは数式7のM×3N行列であり、Yは各プロジェクタの投影パターンを表すベクトルであり、IはM個の離散点における観測色を表すベクトルである。
【0047】
行列Wの中身は、各画素から出る光線と対象空間中の各点との重なりの大きさより事前に求めておくことができるため全て既知である。ベクトルIは、目的とする着色に応じて設定される。したがって、数式8の線形方程式を解くことで、ベクトルY、すなわち各プロジェクタの投影パターンが求まる。
【0048】
このようにして求められた各プロジェクタの投影パターンにはマイナスの輝度値が含まれうるが、プロジェクタからマイナスの光を投影することはできない。
【0049】
このようなマイナスの輝度値の問題を解決するため、本実施形態では以下に示す方法で光の輝度を表現する。例えば目的とする着色画像が
図13(a)に示す画像であるとすると、輝度Iを0〜1の数値で表すこととし、強調したい領域の輝度Iを1(I=1)、その他の領域の輝度Iを0.5(I=0.5)とする。
【0050】
すなわち、
図13(b)に示すように輝度(プロジェクタ光量)I=0.5を疑似的なゼロレベルとすることで、マイナスの輝度値(負の光)を疑似的に表現することが可能になる。
【0051】
このようにして求められた投影パターンがプロジェクタP1、P2、P3から投影されると、対象物体面上の位置によって重ね合わさる輝度が変化し、観測される輝度値が変化する。このようにして得られた投影結果を
図14に示す。このように特定3次元領域で観測される輝度値が高くなることで、特定3次元領域を強調提示することができる。
【0052】
例えば、この3次元情報提示装置を車両に適用して車載プロジェクタとした場合、
図15に示すように道路前方の特定領域に存在する物体10(車両や障害物等)を強調提示することができる。
【0053】
例えば、この3次元情報提示装置を製品検査装置に適用することができる。すなわち、
図16に例示するように、製品11に対して複数のプロジェクタP1、P2、P3から光を照射して、製品11の正規形状部分(
図16の例では直方体形状部分)以外の3次元領域を強調提示するようにする。これにより、製品の欠陥形状部分12(
図16の例では円柱形状部分)が強調提示されるので、製品の欠陥の有無を容易に判別することが可能になる。
【0054】
(他の実施形態)
なお、本発明は、上記した実施形態に限ることなく、以下のように変形することも可能である。
【0055】
(1)プロジェクタから投影するグラデーションパターンとして色の変化を用いる場合において、一方の色をもう一方の色の補色とすることにより、基準平面においては加算された光の色が白色(無色)となり、基準平面以外では加算された光の色が有色となるようにしてもよい。
【0056】
(2)プロジェクタから投光するコード化されたパターン光は、静止したパターン光である必要はなく、時間的に変化する動的パターン光とすることもできる。時間的および空間的にコード化された動的パターン光を用いることで、運動する3次元物体に対して、その運動に応じた色付けや明るさの変化付けを行うことができ、ある特定の運動をする物体のみを強調して提示することができる。
【0057】
(3)提示された3次元情報を人間に知覚させるのみならず、提示された3次元情報を3次元情報取得手段に取得させて各種機器の制御に利用するようにしてもよい。例えば、
図17に示すように、プロジェクタP1、P2からの投影結果をカメラ30で撮影し、撮影された画像を、3次元情報取得手段をなす制御装置31に入力し、制御装置31が、撮影された画像に基づいて各種判別処理を行い、この判別結果に基づいて各種制御対象機器32に制御信号を出力するようにしてもよい。
【0058】
例えば、制御対象機器32が車両衝突危険警報器である場合には、制御装置31は、道路前方に車両や障害物が存在するか否かの判別を行い、道路前方に車両や障害物が存在すると判断した場合には、車両衝突危険警報器に警報音発生信号を出力するようにすればよい。
【0059】
例えば、制御対象機器32が製品欠陥報知器である場合には、制御装置31は、製品に欠陥形状があるか否かの判別を行い、製品に欠陥形状があると判断した場合には、製品欠陥報知器に報知音発生信号を出力するようにすればよい。
【0060】
また、プロジェクタから投光するコード化されたパターン光(波長や強度が空間的に変化したパターン光)は、可視光である必要はなく、不可視光とすることもできる。例えば、
図17において、プロジェクタP1、P2から不可視光として赤外線を投光し、カメラ30として赤外線カメラを用い、カメラ30で撮影された赤外線画像(不可視画像)を制御装置31に入力するようにしてもよい。
【0061】
(4)投光手段として、
図1に示したようなプロジェクタではなく、複数の発光手段(LED等)を用いて構成したものでもよい。また、車載プロジェクタとした場合、投光手段を車両の前部に設けられた左右のヘッドライト装置内にそれぞれ設置したり、あるいはヘッドライトを複数の発光手段(LED等)で構成した場合には、そのうちの一部を車載プロジェクタ用の投光手段として用いるようにしてもよい。
【0062】
(5)投光手段は、2つに限らず適用技術に応じて3つ以上設けるようにしてもよい。投光手段の個数を増やすことによって、より複雑な非線形3次元情報を強調提示することができる。
【0063】
以下、上記した実施形態から把握できる発明について述べる。本発明は、同一の空間領域に対して光を照射する複数の投光手段を備え、前記複数の投光手段から照射する光のパターンが空間的にコード化されて照射面の3次元情報を可視化するようになっていることを第1の特徴とする。
【0064】
なお、本発明における「光のパターンが空間的にコード化される」とは、例えば光のパターンが
図2や
図9のようなパターン(光の波長や強度が空間的に変化したパターン)に設定されることを言う。
【0065】
本発明は、上記第1の特徴において、前記複数の投光手段から照射する光のパターンは、3次元空間中に設定された基準平面に対して垂直な方向の距離が提示されるように空間的にコード化されていることを第2の特徴とする。
【0066】
本発明は、上記第2の特徴において、前記複数の投光手段から照射する光は可視光であり、前記複数の投光手段から可視光のパターンが照射されることにより前記基準平面に対して垂直な方向の距離が可視化されることを第3の特徴とする。
【0067】
本発明は、上記第3の特徴において、前記複数の投光手段から照射する光のパターンはグラデーションパターンとなっていることを第4の特徴とする。 本発明は、上記第4の特徴において、前記グラデーションパターンは、前記複数の投光手段の並び方向に光が変化しているパターンであることを第5の特徴とする。
【0068】
本発明は、上記第5の特徴において、前記基準平面上において前記複数の投光手段から照射された光を加算した輝度値が一定になるように前記グラデーションパターンが設定されていることを第6の特徴とする。
【0069】
本発明は、上記第3ないし第6のいずれか1つの特徴において、前記複数の投光手段から照射する光のパターンは濃淡の変化によりコード化されていることを第7の特徴とする。
【0070】
本発明は、上記第3ないし第6のいずれか1つの特徴において、前記複数の投光手段から照射する光のパターンは色の変化によりコード化されていることを第8の特徴とする。
【0071】
本発明は、上記第8の特徴において、前記複数の投光手段のうち1つから投光する光のパターンの色を他の1つから投光する光のパターンの色の補色とし、前記基準平面においては加算された光の色が白色となり、前記基準平面以外においては加算された光の色が有色となることを第9の特徴とする。
【0072】
本発明は、上記第3ないし第9のいずれか1つの特徴において、前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して光を照射して車両の前方に存在する物体までの距離を可視化することを第10の特徴とする。
【0073】
本発明は、上記第3ないし第9のいずれか1つの特徴において、前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して光を照射して車両の前方の道路面に対して垂直方向の高さの違いを可視化することを第11の特徴とする。
【0074】
本発明は、上記第10または第11の特徴において、前記複数の投光手段は車両のヘッドライト装置内に設置されていることを第12の特徴とする。
【0075】
本発明は、上記第10または第11の特徴において、前記複数の投光手段は車両のヘッドライトを構成する複数の発光手段の一部として構成されていることを第13の特徴とする。
【0076】
本発明は、上記第2の特徴において、前記複数の投光手段から照射する光は不可視光であり、前記複数の投光手段から不可視光のパターンが照射されることにより前記基準平面に対して垂直な方向の距離が提示されることを第14の特徴とする。
【0077】
本発明は、上記第14の特徴において、前記複数の投光手段から照射された不可視光によって提示された3次元情報を取得する3次元情報取得手段を備えることを第15の特徴とする。
【0078】
本発明は、上記第15の特徴において、前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して不可視光を照射して、車両の前方に存在する物体までの距離、または車両の前方の道路面に対して垂直方向の高さの違いを提示することを第16の特徴とする。
【0079】
本発明は、上記第1の特徴において、前記複数の投光手段から照射する光のパターンは、特定3次元領域が強調提示されるように空間的にコード化されていることを第17の特徴とする。
【0080】
本発明は、上記第17の特徴において、前記複数の投光手段は車両に設置され、前記複数の投光手段から車両の前方の空間領域に対して不可視光を照射して車両の前方の特定領域に存在する物体を強調提示することを第18の特徴とする。
【0081】
本発明は、上記第17の特徴において、前記複数の投光手段は製品に対して光を照射して前記製品の欠陥形状部分を強調提示することを第19の特徴とする。
【0082】
さらに、上記した実施形態から次のような3次元情報提示装置を把握できる。すなわち本装置は、同一の空間領域に対して光を照射する複数の投光手段を備え、前記複数の投光手段が照射する光には空間的なパターンが形成されており、前記空間領域に存在する物体上で前記複数の投光手段から照射された光同士が重なり合うことによって、3次元情報に応じた光のパターンを前記物体上に生じさせるものである。