(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024078815
(43)【公開日】2024-06-11
(54)【発明の名称】表示システム
(51)【国際特許分類】
G09G 5/00 20060101AFI20240604BHJP
H04N 7/18 20060101ALI20240604BHJP
G09G 5/37 20060101ALI20240604BHJP
G09G 5/38 20060101ALI20240604BHJP
G09G 5/373 20060101ALI20240604BHJP
G09G 5/377 20060101ALI20240604BHJP
G09G 5/14 20060101ALI20240604BHJP
G06F 3/01 20060101ALI20240604BHJP
B60R 11/02 20060101ALI20240604BHJP
B60R 1/24 20220101ALI20240604BHJP
B60R 1/29 20220101ALI20240604BHJP
【FI】
G09G5/00 550C
H04N7/18 U
G09G5/00 510A
G09G5/37 320
G09G5/38 100
G09G5/373 100
G09G5/377 100
G09G5/14 E
G09G5/373 200
G06F3/01 510
B60R11/02 C
B60R1/24
B60R1/29
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2022191381
(22)【出願日】2022-11-30
(71)【出願人】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】100088672
【弁理士】
【氏名又は名称】吉竹 英俊
(74)【代理人】
【識別番号】100088845
【弁理士】
【氏名又は名称】有田 貴弘
(74)【代理人】
【識別番号】100156177
【弁理士】
【氏名又は名称】池見 智治
(74)【代理人】
【識別番号】100130166
【弁理士】
【氏名又は名称】田中 宏明
(72)【発明者】
【氏名】佐藤 昭典
(72)【発明者】
【氏名】張 贇
(72)【発明者】
【氏名】忠内 諒
(72)【発明者】
【氏名】朝倉 信次
【テーマコード(参考)】
3D020
5C054
5C182
5E555
【Fターム(参考)】
3D020BA04
3D020BC01
3D020BD05
3D020BE03
5C054CA04
5C054CC02
5C054FD03
5C054FD07
5C054HA27
5C182AA02
5C182AA03
5C182AB01
5C182AB25
5C182AC43
5C182BA14
5C182BA27
5C182BA29
5C182BA35
5C182BA46
5C182BA47
5C182BA55
5C182BA56
5C182BA75
5C182BC25
5C182BC26
5C182CB13
5C182CB14
5C182CB23
5C182CB32
5C182CB42
5C182CB44
5C182CB54
5C182CC04
5C182CC15
5C182CC24
5C182DA65
5C182DA67
5E555AA64
5E555BA23
5E555BB23
5E555BC08
5E555CA42
5E555CA44
5E555CB21
5E555CB65
5E555CC05
5E555DB57
5E555DC19
5E555DC25
5E555FA00
(57)【要約】
【課題】動揺病の程度を低減させる表示システムを提供する。
【解決手段】表示システム1は、カメラ2と、表示部3と、第1センサ4と、制御部とを備える。カメラ2は、乗り物10の進行方向の前方の領域を少なくとも撮影して第1画像データを生成する。表示部3は、第1画像データの少なくとも一部である表示画像データと、表示画像データとは異なる第2画像データとを表示する。第1センサ4は、乗り物の操作者とは異なる、乗り物10に搭乗した同乗者20の目の位置を検出する。制御部は、第1センサ4によって検出された目の位置を用いて、表示画像データを生成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
表示システムであって、
乗り物の進行方向の前方の領域を少なくとも撮影して第1画像データを生成するカメラと、
乗り物の操作者とは異なる、前記乗り物に搭乗した同乗者の目の位置を検出する第1センサと、
前記第1画像データの少なくとも一部である表示画像データと、前記表示画像データとは異なる第2画像データとを表示する表示部と、
前記第1センサによって検出された前記目の位置を用いて、前記表示画像データを生成する制御部と、
を備える、表示システム。
【請求項2】
請求項1に記載の表示システムであって、
前記制御部は、前記第1センサによって検出された前記目の位置を用いて、前記第1画像データ内の前記表示画像データの位置を決定する、表示システム。
【請求項3】
請求項1に記載の表示システムであって、
前記制御部は、前記第1センサによって検出された前記目の位置を用いて、前記表示画像データのサイズを決定する、表示システム。
【請求項4】
請求項2に記載の表示システムであって、
前記制御部は、前記第1センサによって検出された前記目の位置が、前記同乗者にとっての左右方向および上下方向の少なくともいずれか一方に移動したときに、前記第1画像データ内の前記表示画像データの位置を、前記目の位置の移動方向とは反対の方向に移動させた位置に決定する、表示システム。
【請求項5】
請求項4に記載の表示システムであって、
前記制御部は、前記目の位置が左右方向および上下方向の原点位置からずれた状態で、前記目の位置が前記表示部に近づいたときに、前記第1画像データ内の前記表示画像データの位置を、前記目の位置の前記原点位置からのずれ方向とは反対の方向に移動させた位置に決定する、表示システム。
【請求項6】
請求項5に記載の表示システムであって、
前記制御部は、前記第1画像データの幅をWx1、前記カメラの画角をS、0.2以上かつ1以下の係数をA、左右方向の前記目の位置をexとし、前記表示部と前記目の位置との距離をezとしたときに、前記第1画像データ内の前記表示画像データの位置を、-(ex/ez)・(Wx1/2)/tan(S)・Aで算出する、表示システム。
【請求項7】
請求項3に記載の表示システムであって、
前記制御部は、前記第1センサによって検出された前記目の位置と、前記表示部との距離が短いほど、前記第1画像データ内の前記表示画像データのサイズをより大きく決定する、表示システム。
【請求項8】
請求項7に記載の表示システムであって、
前記制御部は、前記第1画像データの幅をWx1、前記表示部の表示領域の幅をWdx、前記カメラの画角をS、0.2以上かつ1以下の係数をB、前記表示部と前記目の位置との距離をezとしたときに、前記第1画像データ内の前記表示画像データの幅を、Wx1・Wdx/{2・ez・tan(S)}・Bで算出する、表示システム。
【請求項9】
請求項2に記載の表示システムであって、
前記乗り物の進行方向の変化を検出する第2センサをさらに備え、
前記制御部は、前記第1画像データ内の前記表示画像データの位置を、前記第2センサによって検出された前記進行方向の変化方向と同じ方向に移動させた位置に補正する、表示システム。
【請求項10】
請求項9に記載の表示システムであって、
表示遅延時間をtとし、ヨー角速度をωyとし、補正係数をαとしたとき、前記制御部は、前記第1画像データ内の前記表示画像データの位置を(α・ωy・t)で示された補正量で補正する、表示システム。
【請求項11】
請求項2に記載の表示システムであって、
前記乗り物のピッチ角についての進行方向の変化を検出する第2センサをさらに備え、
前記制御部は、前記第2センサの検出結果に基づいて、前記表示画像データに含まれる水平線の上下方向の位置変化が低減するように、前記第1画像データ内の前記表示画像データの上下方向の位置を補正する、表示システム。
【請求項12】
請求項11に記載の表示システムであって、
表示遅延時間をtとし、ピッチ角速度をωpとし、ピッチ角をθとし、補正係数をβとしたとき、前記制御部は、前記第1画像データ内の前記表示画像データの位置をβ・(ωp・t+θ)で示された補正量で補正する、表示システム。
【請求項13】
請求項1から請求項3のいずれか一つに記載の表示システムであって、
前記乗り物に生じる第1加速度を検出する第3センサと、
前記カメラに生じる第2加速度を検出する第4センサと
をさらに備え、
前記制御部は、前記カメラが前記乗り物の外部を撮影して原画像データを生成し、前記第3センサによって検出された前記第1加速度および前記第4センサによって検出された前記第2加速度に基づいて前記原画像データに対してブレ補正処理を行って前記第1画像データを生成する、表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示システムに関する。
【背景技術】
【0002】
従来から、車両での移動による動揺病の程度を低減させる表示システムが提案されている(例えば特許文献1,2)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006-35980号公報
【特許文献2】特開2006-7867号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
動揺病の程度をさらに低減させることが望まれている。
【課題を解決するための手段】
【0005】
表示システムが開示される。
【0006】
一実施形態において、表示システムは、カメラと、表示部と、第1センサと、制御部とを備える。カメラは、乗り物の進行方向の前方の領域を少なくとも撮影して第1画像データを生成する。表示部は、第1画像データの少なくとも一部である表示画像データと、表示画像データとは異なる第2画像データとを表示する。第1センサは、乗り物の操作者とは異なる、乗り物に搭乗した同乗者の目の位置を検出する。制御部は、第1センサによって検出された目の位置を用いて、表示画像データを生成する。
【発明の効果】
【0007】
例えば、表示部を視認する同乗者に生じる動揺病の程度を低減させることができる。
【図面の簡単な説明】
【0008】
【
図1】第1実施形態に係る表示システムの構成の一例を概略的に示す図である。
【
図2】第1実施形態に係る表示システムの電気的な構成の一例を概略的に示すブロック図である。
【
図3】第1画像データおよび表示画像データの1フレームの一例を概略的に示す図である。
【
図5】同乗者の目の位置および表示画像データの位置の関係を説明するための図である。
【
図6】表示画像データの一例を概略的に示す図である。
【
図7】同乗者の目の位置および表示画像データのサイズの関係を説明するための図である。
【
図8】表示画像データの一例を概略的に示す図である。
【
図9】同乗者の目の位置および表示画像データの位置の関係を説明するための図である。
【
図10】表示画像データの一例を概略的に示す図である。
【
図11】制御部の内部構成の一例を示すブロック図である。
【
図12】乗り物が走行している様子の一例を概略的に示す図である。
【
図13】第2実施形態に係る表示システムの構成の一例を概略的に示すブロック図である。
【
図14】乗り物が-X方向に曲がっているときの第1画像データおよび表示画像データの一例を概略的に示す図である。
【
図15】第1画像データおよび表示画像データの一例を概略的に示す図である。
【
図16】第3実施形態に係る表示システムの構成の一例を示すブロック図である。
【
図17】他の実施形態に係る表示システムの構成の一例を概略的に示す図である。
【
図18】助手席に着座する同乗者の目の位置および表示画像データの位置の関係を説明するための図である。
【
図19】助手席に着座する同乗者の目の位置および表示画像データの位置の関係を説明するための図である。
【発明を実施するための形態】
【0009】
<第1実施形態>
図1は、第1実施形態に係る表示システム1の構成の一例を概略的に示す図であり、
図2は、第1実施形態に係る表示システム1の電気的な構成の一例を概略的に示すブロック図である。
【0010】
図1に示されるように、表示システム1は乗り物10に搭載されてもよい。表示システム1は乗り物用表示システムとも呼ばれ得る。乗り物10には、同乗者20が搭乗可能である。乗り物10は、同乗者20が搭乗した状態で、移動することが可能である。乗り物10は、例えば、車両、船、航空機およびロボット等の乗り物である。車両は、例えば、二輪車(例えばバイク)、乗用車、バス、トラック、電車、機関車、重機および農機を含んでもよい。船は、例えば、水上バイク、ボード、ヨット、旅客船、貨物船、漁船およびホバークラフトを含んでもよい。航空機は、例えば、旅客機、貨物機および飛行船を含んでもよい。
図1では、乗り物10の一例として乗用車が示されている。なお、乗り物10には、同乗者の他に、乗り物の操作者である運転者が搭乗している。同乗者20とは、運転者以外の搭乗者であり、後部座席に着座していてもよいし、前部座席、中間座席に着座していてもよい。
【0011】
図1に示されるように、乗り物10の内部には、同乗者20が着座可能な座席11が位置してもよい。
図1の例では、複数の座席11として、前部座席11aおよび後部座席11bが示されている。前部座席11aは後部座席11bよりも乗り物10の進行方向の前方に位置している。逆に言えば、後部座席11bは前部座席11aよりも後方に位置している。前部座席11aおよび後部座席11bの各々は、同乗者20が前方を向いた姿勢で着座できるように乗り物10の内部に取り付けられている。前部座席11aは、助手席とも称し、運転手座席の横に位置している。また、図示していないが、運転手も運転手座席に着座している。運転手は、不図示のハンドル、アクセルおよびブレーキ等の操作部を操作して乗り物10を運転することができる。
図1の例では、後部座席11bには、同乗者20bが着座しており、助手席に同乗者20aが着座している。
【0012】
表示システム1は、カメラ2と、表示部3と、第1センサ4と、制御部5とを含んでいる。
【0013】
カメラ2は乗り物10の進行方向の前方の領域を撮影して、第1画像データIM1を生成する。第1画像データIM1は2次元画像データであってもよい。カメラ2は例えば1つ以上のレンズおよびイメージセンサを含む。イメージセンサには、例えばCCD(Charge-Coupled Device)イメージセンサまたはCMOS(Complementary Metal-Oxide-Semiconductor)イメージセンサを適用することができる。1つ以上のレンズはイメージセンサの撮影方向の前方に位置しており、乗り物10の進行方向の外景からの光をイメージセンサの撮像面に結像させる。カメラ2は、撮像面に結像した光を検出することで、乗り物10の進行方向の外景を撮影することができる。このため、カメラ2が生成する第1画像データIM1には、乗り物10から見た外部の景色が含まれている。カメラ2は第1画像データIM1として、例えば動画像データを生成する。つまり、カメラ2は乗り物10の進行方向の外景を連続的に撮影して、動画像データである第1画像データIM1を生成する。
【0014】
図1に示されるように、カメラ2は乗り物10の内部に位置していてもよい。カメラ2は不図示の固定部材を介して乗り物10の例えば車体に固定されてもよい。カメラ2は乗り物10の進行方向の前方を撮影してもよい。
図1の例では、カメラ2は、乗り物10の内部空間を進行方向に2等分して得られた前方空間および後方空間のうち、前方空間に位置している。また、
図1の例では、カメラ2の前方には、乗り物10のフロントガラス12が位置している。乗り物10よりも前方からの光はフロントガラス12を透過して、カメラ2に入射する。カメラ2は、自身の撮像面に入射した光を検出して第1画像データIM1を生成する。この第1画像データIM1には、乗り物10よりも前方の景色が含まれる。なお、カメラ2は乗り物10の外部、例えばフロントグリルまたはサイドミラー部分に設置してもよい。
【0015】
表示部3は乗り物10の内部に位置している。表示部3は、液晶ディスプレイおよび有機EL(Electroluminescence)ディスプレイ等の表示デバイスである。表示部3は表示領域3aを有しており、表示領域3aに各種の画像を表示することができる。表示領域3aは、液晶素子または有機EL素子等の複数の表示素子(つまり画素)が2次元的に配列された領域であってもよい。表示領域3aは矩形状の形状を有してもよい。具体的な一例として、表示領域3aは、横方向の幅が縦方向の幅よりも広い長方形状を有する。
【0016】
表示部3は同乗者20によって視認可能な位置に配置される。
図1に示されるように、表示部3は前部座席11aと後部座席11bとの間に位置していてもよい。より具体的な一例として、表示部3は、後部座席11bに着座する同乗者20bの頭の前方に位置していてもよい。表示部3は表示領域3aを後方に向けた姿勢で位置していてもよい。つまり、表示部3は後方に向かって各種の画像を表示してもよい。これにより、後部座席11bに着座した同乗者20bが表示部3の表示領域3aを容易に視認することができる。表示部3は、表示領域3aの法線が水平方向に沿う姿勢で位置してもよいし、水平方向から傾斜した姿勢で位置してもよい。表示部3は不図示の固定部材によって乗り物10の例えば車体に固定されてもよい。
【0017】
第1センサ4は乗り物10の内部に位置しており、表示部3の表示領域3aを視認可能な同乗者20の目の位置を検出する。
図1に示されるように、第1センサ4は座席11aと後部座席11bとの間に位置してもよい。より具体的な一例として、第1センサ4は表示部3の直上に位置してもよい。
図1の例では、第1センサ4は、後部座席11bに着座する同乗者20bの目の位置を検出する。
【0018】
第1センサ4は3次元カメラを含んでもよい。3次元カメラは3次元画像データを生成することができる。3次元画像データは、撮影領域内の各物体の色情報のみならず、3次元カメラから見た奥行き方向の位置情報を画素ごとに含んでいる。3次元カメラの方式としては、例えば2つのカメラを用いたステレオカメラ方式およびマイクロアレイレンズを用いた単眼カメラ方式等のパッシブ方式を適用してもよい。あるいは、3次元カメラの方式として、電磁波または音波である測定波を物体に出射し、物体からの測定波の遅れを測定するToF(Time of Flight)方式、および、プロジェクタから照明光を照射する構造化照明方式等のアクティブ方式を適用してもよい。
【0019】
3次元カメラは、後部座席11bに着座した同乗者20bの顔が撮影領域に含まれるように、不図示の固定部材によって乗り物10の例えば車体に固定される。この場合、3次元画像データには、同乗者20bの顔が含まれる。このため、3次元画像データに対する画像処理により同乗者20bの目の位置を特定することができる。例えば、予め設定された目の画像を含む参照画像を用いて3次元画像データに対してテンプレートマッチングを行って、3次元画像データ内の目の位置を特定してもよい。これにより、3次元空間における同乗者20bの目の位置を検出することができる。第1センサ4は、検出した目の位置を示す位置情報を制御部5に出力してもよい。
【0020】
なお、第1センサ4は必ずしも3次元カメラを含む必要はない。例えば、第1センサ4は2次元カメラ(つまり、通常のカメラ)を含んでもよい。カメラによって生成された2次元画像データに基づいて、例えばテンプレートマッチング等の画像処理により、2次元画像データ内における両目の位置を検出することができる。人の目の間隔(例えば瞳孔間距離)の平均値はおおよそ63mm程度であるので、検出した両目の位置に基づいて瞳孔間距離を算出すれば、算出した瞳孔間距離と平均値とに基づいて、カメラからの奥行き方向の目の位置を算出することもできる。つまり、3次元空間における目の位置を検出することができる。
【0021】
なお、第1センサ4は、検出データ(例えば3次元画像データもしくは2次元画像データ)を制御部5に出力してもよい。この場合、制御部5は、検出データに対して上述の処理を行って同乗者20bの目の位置を算出する算出機能を含む。この態様では、3次元カメラ(あるいは2次元カメラ)および制御部5の当該算出機能が実質的に第1センサ4を構成する。
【0022】
ところで、乗り物10の内部空間が暗い状態では、第1センサ4による目の位置の検出精度が低下する可能性がある。第1センサ4として、アクティブ方式のセンサを適用すれば、第1センサ4が、音波または電磁波である測定波を撮影領域に出射し、撮影領域内の物体で反射した測定波を検出する。つまり、第1センサ4は乗り物10の内部の自然光に依存しない測定波を検出する。そして、第1センサ4は該測定波に基づいて同乗者20bの目の位置を検出する。このため、乗り物10の内部空間が暗い状態でも、第1センサ4は高い精度で目の位置を検出することができる。測定波として、音波または不可視光(例えば赤外線)を適用すれば、乗り物10の内部空間の暗さを維持することができる。測定波として電磁波を適用すれば、第1センサ4はより高い精度で目の位置を検出することができる。
【0023】
制御部5は乗り物10の内部に位置してもよい。制御部5は不図示の固定部材によって乗り物10の例えば車体に固定される。制御部5はカメラ2、表示部3および第1センサ4と電気的に接続されている。制御部5は、カメラ2、表示部3および第1センサ4を制御することができる。また、制御部5はカメラ2から第1画像データIM1を受け取ることができ、第1センサ4から、目の位置に関する情報を受け取ることができる。
【0024】
制御部5は電子回路である。制御部5は、以下にさらに詳細に述べられるように、種々の機能を実行するための制御および処理能力を提供するために、少なくとも1つのプロセッサを含む。
【0025】
種々の実施形態によれば、少なくとも1つのプロセッサは、単一の集積回路(IC)として、または複数の通信可能に接続された集積回路ICおよび/またはディスクリート回路(discrete circuits)として実行されてもよい。少なくとも1つのプロセッサは、種々の既知の技術に従って実行されることが可能である。
【0026】
1つの実施形態において、プロセッサは、例えば、関連するメモリに記憶された指示を実行することによって1以上のデータ計算手続または処理を実行するように構成された1以上の回路またはユニットを含む。他の実施形態において、プロセッサは、1以上のデータ計算手続または処理を実行するように構成されたファームウェア(例えば、ディスクリートロジックコンポーネント)であってもよい。
【0027】
種々の実施形態によれば、プロセッサは、1以上のプロセッサ、コントローラ、マイクロプロセッサ、マイクロコントローラ、特定用途向け集積回路(ASIC)、デジタル信号処理装置、プログラマブルロジックデバイス、フィールドプログラマブルゲートアレイ、またはこれらのデバイスもしくは構成の任意の組み合わせ、または他の既知のデバイスおよび構成の組み合わせを含み、以下に説明される機能を実行してもよい。
【0028】
また、制御部5は、第1画像データIM1に対する画像処理を行う画像処理部としての機能を有している。制御部5は、第1画像データIM1のうちの一部領域を示す表示画像データIM11を切り出すことができる。より具体的には、制御部5は第1画像データIM1の各フレームの一部領域を表示画像データIM11の各フレームとして切り出す。
【0029】
図3は、第1画像データIM1および表示画像データIM11の1フレームの一例を概略的に示す図である。
図3では、xy直交座標系が示されている。x軸は第1画像データIM1の横方向に沿う軸であり、y軸は第1画像データIM1の縦方向に沿う軸である。第1画像データIM1の横方向は表示領域3aの横方向に相当し、表示領域3aの横方向は同乗者20bから見た左右方向に相当する。そのため、第1画像データIM1の横方向も左右方向に相当する。同様に、第1画像データIM1の縦方向は上下方向に相当する。以下では、第1画像データIM1において、右方向を+x方向と呼び、左方向を-x方向と呼び、上方向を+y方向と呼び、下方向を-y方向と呼ぶ。
【0030】
図1の例では、カメラ2は乗り物10よりも前方の景色を撮影するので、
図3の例では、第1画像データIM1には乗り物10よりも前方の景色が写っている。
図3の例では、第1画像データIM1には、乗り物10が走行している道路、および、乗り物10よりも前方に位置する前方車両の後ろ姿等が写っている。表示画像データIM11は、第1画像データIM1のうちの一部領域に対応する画像データである。
図3の例では、表示画像データIM11の輪郭の一例を破線で示している。
図3の例では、表示画像データIM11の輪郭は矩形状の形状を有する。
図3の例では、表示画像データIM11にも、前方車両の後ろ姿が含まれている。
【0031】
制御部5は、第1画像データIM1内の表示画像データIM11の位置Piおよびサイズの少なくともいずれか一方を、第1センサ4によって検出された同乗者20bの目の位置に基づいて決定する。この点については後に詳述する。そして、制御部5は、決定した位置Piおよびサイズで、第1画像データIM1から表示画像データIM11を切り出す。位置Piは切り出し位置とも呼ばれ得る。サイズは切り出しサイズとも呼ばれ得る。位置Piおよびサイズは、第1画像データIM1に設定されたxy直交座標系における位置およびサイズである。
【0032】
制御部5は表示画像データIM11を表示部3に出力し、表示画像データIM11を表示部3に表示させることができる。表示部3は、制御部5から受け取った表示画像データIM11を表示領域3aに表示する。これによれば、表示領域3aには、表示画像データIM11に含まれた、乗り物10よりも前方の景色が表示される。このため、同乗者20bは表示領域3aを視認することで、乗り物10よりも前方の景色を視認することができる。表示画像データIM11は動画像データであるので、乗り物10の移動に応じて、表示領域3aに表示される景色が変化する。つまり、表示領域3aは乗り物10よりも前方の景色をおおよそリアルタイムに表示する。このような表示領域3aは、同乗者20bにとって視認可能なデジタル窓として機能することができる。
【0033】
制御部5は表示画像データIM11のみならず、表示画像データIM11とは異なる第2画像データIM2をも表示部3に表示させてもよい。第2画像データIM2は、カメラ2によって生成された第1画像データIM1とは別の画像データであってもよい。第2画像データIM2は、例えば、映画、テレビ番組および音楽ライブ等の映像データであってもよい。この場合、第2画像データIM2には、音声データも含まれ得る。
図2の例では、表示システム1は不揮発性の非一時的な記憶部501を含んでいる。記憶部501は、例えばハードディスクおよびフラッシュメモリ等の記憶部である。第2画像データIM2は記憶部501に記憶されていてもよい。制御部5は記憶部501と電気的に接続されており、記憶部501から第2画像データIM2を読み出すことができる。
【0034】
あるいは、
図2に示されるように、表示システム1は通信部6を含んでいてもよい。通信部6は通信回路とも呼ばれる。通信部6はサーバ等の外部装置と例えば無線により通信することができる。外部装置は乗り物10の外部に設置されている。第2画像データIM2は外部装置から通信部6に送信されてもよい。制御部5は通信部6と電気的に接続されており、通信部6から第2画像データIM2を受け取ることができる。
【0035】
制御部5は表示画像データIM11および第2画像データIM2に基づいて画像データIM3を生成し、画像データIM3を表示部3に表示させてもよい。
図4は、表示部3の一例を概略的に示す図である。
図4の例では、表示部3は表示領域3aに画像データIM3を表示している。具体的な一例として、表示部3は表示領域3aのうちの中央側かつ上部の第1領域に第2画像データIM2を表示しており、表示領域3aのうちの第1領域以外の第2領域に表示画像データIM11を表示している。つまり、画像データIM3は、表示画像データIM11のうちの第1領域上に第2画像データIM2を重ね合わせ、第1領域の各画素値として第2画像データIM2の画素値を採用した画像データである。表示部3はスピーカをさらに含んでいてもよい。表示部3は、第2画像データIM2に含まれる音声データに基づいてスピーカから音声を出力する。なお、第2画像データIM2の表示位置、すなわち第1領域は
図4に示す位置でなくてもよく、表示領域3aの中央部に位置してもよいし、時間によって移動してもよい。
【0036】
図4の例では、表示部3は第2画像データIM2を再生しつつ、表示画像データIM11を表示させるので、同乗者20bは第2画像データIM2を視聴することができつつ、乗り物10よりも前方の景色を視認することができる。同乗者20bは表示部3によって乗り物10の前方の景色を視認することができるので、慣性力等による同乗者20bの体感によって認識される乗り物10の移動状態と、同乗者20bの視覚から認識される乗り物10の移動状態との差異を低減させることができる。このため、同乗者20bに生じる動揺病の程度を低減させることができる。
【0037】
次に、第1画像データIM1内の表示画像データIM11の位置Piおよびサイズについて説明する。以下では、まず第1画像データIM1内の表示画像データIM11の位置Piについて説明する。ここでは一例として、表示画像データIM11の位置Piを、表示画像データIM11の中心位置(
図3参照)で説明する。表示画像データIM11の中心は表示画像データIM11の2つの対角線の交点である。
【0038】
図5は、同乗者20bの目の位置Peおよび表示画像データIM11の位置Piの関係を説明するための図である。
図5(a)は、目の位置Peの一例を概略的に示す図である。
図5(b)は、第1画像データIM1内の表示画像データIM11の位置Piを説明するための図である。
【0039】
図5(a)では、表示部3に設定された仮想的なXYZ直交座標系が示されている。XYZ直交座標系の原点位置は表示部3の表示領域3aの中心に設定されてもよい。表示領域3aが矩形状の形状を有している場合、表示領域3aの中心は、表示領域3aの対角線の交点であってもよい。X軸は例えば表示領域3aの横方向に沿う軸であってもよい。Y軸は例えば表示領域3aの縦方向に沿う軸であってもよい。Z軸は例えば表示領域3aの法線に沿う軸であってもよい。X軸は、同乗者20bから見た左右方向に沿う軸ともいえ、Y軸は同乗者20bから見た上下方向に沿う軸ともいえ、Z軸は同乗者20bから見た前後方向に沿う軸ともいえる。以下では、同乗者20から見た右方向を+X方向と呼び、+X方向とは反対の方向を-X方向とも呼ぶ。つまり、同乗者20が乗り物10の進行方向に沿って見た状態での右方向を+X方向と呼ぶ。Y軸に沿う方向およびZ軸に沿う方向にも、X軸と同様の称呼を適用する。具体的には、以下では、上方向を+Y方向と呼び、表示部3から遠ざかる方向を+Z方向と呼ぶ。
【0040】
図5(a)の例では、同乗者20bの目の位置Peが示されている。同乗者20bの目の位置Peには、同乗者20bの両目の中点位置を適用することができる。
図5(a)の例では、目の位置PeがZ軸上の位置から+X方向に移動している様子を示している。
【0041】
また、
図5(a)では、表示領域3aが仮想的な窓であると仮定した場合の、該窓を通じて視認可能な景色領域Vが二点鎖線で示されている。
図5(a)では、移動前のZ軸上の位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V1が示され、Z軸から+X方向に移動した位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V2が示されている。
図5(a)から理解できるように、目の位置Peが+X方向に移動するにしたがって、仮想的な窓を通じて視認可能な景色領域Vは-X方向に移動する。図示を省略しているものの、目の位置Peが-X方向に移動すると、景色領域Vは+X方向に移動する。つまり、景色領域Vは目の位置Peの移動方向とは反対の方向に移動する。
【0042】
目の位置PeがY軸に沿って移動した場合にも、X軸と同様に、景色領域Vは目の位置Peの移動方向とは反対の方向に移動する。つまり、目の位置Peが+Y方向(つまり上方)に移動すると、景色領域Vは-Y方向(つまり下方)に移動し、目の位置Peが-Y方向に移動すると、景色領域Vは+Y方向に移動する。
【0043】
そこで、制御部5は第1画像データIM1内の表示画像データIM11の位置Piを、X軸(つまり左右方向)およびY軸(つまり上下方向)における目の位置Peに基づいて決定してもよい。具体的には、制御部5は、目の位置PeがX軸およびY軸の少なくともいずれか一方において移動したときに、第1画像データIM1内の表示画像データIM11の位置Piを、目の位置Peの移動方向とは反対の方向に移動させてもよい。言い換えれば、制御部5は、表示画像データIM11の位置Piを、目の位置Peの移動方向とは反対の方向に移動させて得られる位置に決定してもよい。さらに言い換えれば、制御部5は、第1センサ4によって検出された目の位置Peがより+X方向に位置するほど、表示画像データIM11の位置Piをより-x方向の位置に決定する。
【0044】
図5(b)では、第1画像データIM1および表示画像データIM11を、x軸に沿って延びる線分で示している。
図5(b)では、第1画像データIM1のx軸の幅Wx1も付記している。また、
図5(b)では、目の位置PeがZ軸上に位置するときの表示画像データIM11を二点鎖線で示し、目の位置PeがZ軸から+X方向にずれて位置したときの表示画像データIM11を太線で示している。
図5(b)に示されるように、目の位置PeがZ軸から+X方向に移動したときの表示画像データIM11の位置Piは、目の位置PeがZ軸上に位置するときの表示画像データIM11の位置Piから-x方向に移動して得られる位置である。
【0045】
図6は、表示画像データIM11の一例を概略的に示す図である。
図6(a)は、第1画像データIM1および表示画像データIM11を示す図であり、
図6(b)は、表示部3を示す図である。
図6(a)では、移動前の表示画像データIM11が二点鎖線で示されており、移動後の表示画像データIM11が破線で示されている。
図6(a)の例では、表示画像データIM11は第1画像データIM1内において-x方向に移動している。このため、移動後の表示画像データIM11には、第1画像データIM1のうちのより-x方向の一部領域が含まれている。言い換えれば、目の位置Peが+X方向に移動すると、制御部5は第1センサ4の検出結果に基づいて、表示画像データIM11の位置Piをより-x方向の位置に決定する。そして、制御部5はその位置Piで第1画像データIM1から表示画像データIM11を切り出す。このため、制御部5は、第1画像データIM1のうちより-x方向の一部領域を表示画像データIM11として切り出す。なお、目の位置Peと表示画像データIM11の位置Peとの定量的な関係の一例については後に詳述する。
【0046】
制御部5は表示画像データIM11を表示部3に出力して、表示部3に表示画像データIM11を表示させる。より具体的には、制御部5は、切り出した表示画像データIM11と第2画像データIM2とを合成して画像データIM3を生成し、画像データIM3を表示部3に出力する。
図6(b)に示されるように、表示部3は表示領域3aに合成画像データIM3を表示する。これにより、表示領域3aのうちの第2領域では、乗り物10よりも前方の景色のうちより-X方向に位置する領域が表示される。
【0047】
このような表示システム1によれば、同乗者20bが頭を+X方向(つまり右)に移動させて目の位置Peを+X方向に移動させると、表示部3の表示領域3aは、乗り物10よりも前方の景色のうちのより-X方向の領域(つまり左側の領域)を表示する。したがって、同乗者20bの移動と、表示領域3aから視認される景色の変化との関係が、実際に窓を視認したときの関係と同一となる。つまり、表示領域3aをより実態に即したデジタル窓として機能させることができる。これによれば、同乗者20b自身の移動に伴って予想される景色の変化と、表示領域3aにおける景色の変化との差異を低減させることができ、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0048】
また、制御部5は、目の位置Peが+Y方向(つまり上方)に移動したときには、第1画像データIM1内の表示画像データIM11の位置Piを、-y方向(つまり下方)に移動させて得られる位置に決定する。同様に、制御部5は、目の位置Peが-Y方向に移動したときには、第1画像データIM1内の表示画像データIM11の位置Piを、+y方向に移動させて得られる位置に決定する。このため、同乗者20bが頭を上方に移動させると、表示領域3aには、より下方の景色が表示され、同乗者20bが頭を下方に移動させると、表示領域3aには、より上方の景色が表示される。したがって、表示領域3aをさらに実態に即したデジタル窓として機能させることができ、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0049】
次に、目の位置PeがZ軸に沿って移動した場合について説明する。
図7は、同乗者20bの目の位置Peおよび表示画像データIM11のサイズの関係を説明するための図である。
図7(a)は、目の位置Peの一例を概略的に示す図である。
図7(b)は、第1画像データIM1内の表示画像データIM11のサイズを説明するための図である。
図7(a)では、目の位置Peが、表示部3に近づく-Z方向に移動している。
【0050】
また、
図7(a)でも、表示領域3aが仮想的な窓であると仮定した場合の、該窓を通じて視認可能な景色領域Vが二点鎖線で示されている。
図7(a)では、表示部3から比較的遠い位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V3が示され、表示部3に比較的に近い位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V4が示されている。
図7(a)から理解できるように、目の位置Peが表示部3に近づくにしたがって、仮想的な窓を通じて視認可能な景色領域Vは広くなる。逆に言えば、目の位置Peが表示部3から遠ざかるにしたがって、仮想的な窓を通じて視認可能な景色領域Vは狭くなる。
【0051】
そこで、制御部5は第1画像データIM1内の表示画像データIM11のサイズを、目の位置Peに基づいて決定してもよい。つまり、制御部5は目の位置Peと表示部3との距離に基づいて、表示画像データIM11のサイズを決定してもよい。より具体的には、制御部5は目の位置Peと表示部3との距離が短いほど、第1画像データIM1内の表示画像データIM11のサイズをより大きく決定してもよい。逆に言えば、制御部5は目の位置Peと表示部3との距離が長いほど、第1画像データIM1内の表示画像データIM11のサイズをより小さく決定してもよい。
【0052】
図7(b)では、目の位置Peが表示部3から比較的に遠いときの表示画像データIM11を二点鎖線で示し、目の位置Peが表示部3に比較的に近いときの表示画像データIM11を太線で示している。また、第1画像データIM1を示す線分の長さが、第1画像データIM1のX軸の幅Wx1を示しており、表示画像データIM11を示す線分の長さが、表示画像データIM11のX軸の幅Wx2を示している。
図7(b)に示されるように、目の位置Peが表示部3に近いときの表示画像データIM11の幅Wx2は、目の位置Peが表示部3から遠いときの表示画像データIM11の幅Wx2よりも広い。
【0053】
図8は、表示画像データIM11の一例を概略的に示す図である。
図8(a)は、第1画像データIM1および表示画像データIM11を示す図であり、
図8(b)は、表示部3を示す図である。
図8(a)では、目の位置Peの移動前の表示画像データIM11が二点鎖線で示されており、目の位置Peの移動後の表示画像データIM11が破線で示されている。
図8(a)の例では、目の位置Peが表示部3に近づくことにより、表示画像データIM11のサイズは第1画像データIM1内において大きくなっている。つまり、表示画像データIM11のX軸の幅Wx2およびY軸の幅Wy2は目の位置Peが表示部3に近づくにつれて広くなる。
【0054】
そして、制御部5は、決定したサイズで第1画像データIM1から表示画像データIM11を切り出す。このため、制御部5は第1画像データIM1のうちより広い一部領域を表示画像データIM11として切り出す。逆に言えば、制御部5は、第1センサ4によって検出された目の位置Peと表示部3との距離が長いほど、第1画像データIM1のうちのより狭い一部領域を表示画像データIM11として切り出す。なお、目の位置Peと表示画像データIM11のサイズとの定量的な関係の一例については後に詳述する。
【0055】
制御部5は、切り出した表示画像データIM11を表示部3に表示させる。
図8(b)に示されるように、表示部3は表示領域3aに合成画像データIM3を表示してもよい。
【0056】
以上のように、表示システム1によれば、同乗者20bが頭を表示部3に近づけて目の位置Peを-Z方向に移動させると、表示部3の表示領域3aには、カメラ2によって撮影された第1画像データIM1のうちより広い領域が表示画像データIM11として表示される。このため、表示領域3aには、乗り物10よりも前方の景色のうちのより広い領域が表示される。逆に、同乗者20bが頭を表示部3に遠ざけて目の位置Peを+Z方向に移動させると、表示部3の表示領域3aには、カメラ2によって撮影された第1画像データIM1のうちより狭い領域が表示画像データIM11として表示される。このため、表示領域3aには、乗り物10よりも前方の景色のうちのより狭い領域が表示される。
【0057】
したがって、同乗者20bの移動と、表示領域3aから視認される景色の変化との関係が、実際に窓を視認したときの関係と同一となる。つまり、表示領域3aをさらに実態に即したデジタル窓として機能させることができる。これによれば、同乗者20bの移動に伴って予想される景色の変化と、表示領域3aにおける景色の変化との差異を低減させることができ、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0058】
次に、同乗者20bが表示部3の中心(つまり原点位置)から+X方向にずれて対面した状態で、表示部3に近づいた場合について説明する。
図9は、同乗者20bの目の位置Peおよび表示画像データIM11の位置Piの関係を説明するための図である。
図9(a)は、目の位置Peの一例を概略的に示す図である。
図9(b)は、第1画像データIM1内の表示画像データIM11の位置Piおよびサイズを説明するための図である。
図9(a)では、目の位置PeがZ軸から+X方向にずれた状態で-Z方向に移動している。
【0059】
また、
図9(a)でも、表示領域3aが仮想的な窓であると仮定した場合の、該窓を通じて視認可能な景色領域Vが二点鎖線で示されている。
図9(a)では、表示部3から比較的遠い位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V5が示され、表示部3に比較的に近い位置Peから該窓を通じて視認可能な景色領域Vとして景色領域V6が示されている。
図9(a)から理解できるように、目の位置Peが+X方向にずれた状態で表示部3に近づくにしたがって、景色領域Vの位置は-X方向に移動する。つまり、景色領域Vの位置は目の位置Peのずれ方向とは反対の-X方向に移動する。逆に言えば、目の位置Peが+X方向にずれた状態で表示部3から遠ざかるにしたがって、景色領域Vの位置は目の位置Peのずれ方向と同じ+X方向に移動する。
【0060】
そこで、制御部5は第1画像データIM1内の表示画像データIM11の位置Piを、X軸およびY軸の目の位置Peのみならず、Z軸の目の位置Peにも基づいて決定してもよい。より具体的には、制御部5は、目の位置Peが原点位置(例えば表示部3の中心)からずれた状態で表示部3に近づくほど、表示画像データIM11の位置Piを、目の位置Peのずれ方向とは反対の方向に移動させて得られる位置に決定してもよい。さらに言い換えれば、制御部5は、第1センサ4によって検出された目の位置Peが原点位置からX軸またはY軸においてずれているときには、目の位置Peと表示部3との距離が短いほど、表示画像データIM11の位置Piを、ずれ方向とは反対の方向の位置に決定する。
【0061】
図9(b)では、目の位置Peが表示部3から比較的に遠いときの表示画像データIM11を二点鎖線で示し、目の位置Peが表示部3に比較的に近いときの表示画像データIM11を太線で示している。
図9(b)に示されるように、目の位置Peが表示部3に近いときの表示画像データIM11の位置Piは、目の位置Peが表示部3から遠いときの表示画像データIM11の位置Piから、ずれ方向(ここでは+X方向)とは反対の-x方向に移動して得られる位置である。
【0062】
なお
図9(a)から理解できるように、目の位置Peが表示部3に近づくほど、景色領域Vは広くなる。よって、制御部5は表示画像データIM11のサイズを、上述のようにZ軸の目の位置Pe、つまり、目の位置Peと表示部3との距離に基づいて決定してもよい。目の位置Peが表示部3に近づく例を挙げているが、目の位置Peが表示部3から遠ざかる場合は、景色領域Vは狭くなる。
【0063】
図10は、表示画像データIM11の一例を概略的に示す図である。
図10(a)は、第1画像データIM1および表示画像データIM11を示す図であり、
図10(b)は、表示部3を示す図である。
図10(a)では、目の位置Peの移動前の表示画像データIM11が二点鎖線で示されており、目の位置Peの移動後の表示画像データIM11が破線で示されている。
図10(a)に示されるように、移動後の表示画像データIM11のサイズは、移動前の表示画像データIM11のサイズよりも大きく、移動後の表示画像データIM11の位置Piは移動前の表示画像データIM11の位置Piよりも-x方向にずれている。言い換えると、制御部5は、目の位置Peが+X方向にずれた状態で-Z方向に移動すると、第1センサ4の検出結果に基づいて、表示画像データIM11のサイズをより大きく決定し、位置Piをより-x方向の位置に決定する。そして、制御部5は、決定した位置Piおよびサイズで第1画像データIM1から表示画像データIM11を切り出す。このため、制御部5は、第1画像データIM1のうちのより-x方向、かつ、より広い一部領域を表示画像データIM11として切り出す。
【0064】
制御部5は表示画像データIM11を表示部3に出力して、表示部3に表示画像データIM11を表示させる。具体的な一例として、
図10(b)に示されるように、表示部3は表示領域3aに合成画像データIM3を表示する。これにより、表示領域3aのうちの第2領域では、乗り物10よりも前方の景色のうち、より-X方向、かつ、より広い領域が表示される。
【0065】
以上のように、表示システム1によれば、例えば、同乗者20bが表示部3の中心から+X方向(例えば右)にずれた状態で頭を表示部3に近づけて目の位置Peを表示部3に近づけると、表示領域3aには、乗り物10よりも前方の景色のうちのより左側、かつ、より広い領域が表示される。したがって、同乗者20bの移動と、表示領域3aから視認される景色の変化との関係が、実際に窓を視認したときの関係と同一となる。つまり、表示領域3aをさらに実態に即したデジタル窓として機能させることができる。これによれば、同乗者20b自身の移動に伴って予想される景色の変化と、表示領域3aに表示された景色の変化との差異を低減させることができ、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0066】
ここで、X軸およびZ軸の目の位置Peと表示画像データIM11のx軸の位置Piとの関係を整理しておく。制御部5は、目の位置PeがZ軸から+X方向にずれている状態で-Z方向に移動するにしたがって、表示画像データIM11の位置Piを、より-x方向に移動させて得られる位置に決定する。逆に言えば、制御部5は、目の位置PeがZ軸から+X方向にずれている状態で+Z方向に移動するにしたがって、表示画像データIM11の位置Piを、+x方向に移動させて得られる位置に決定する。制御部5は、目の位置PeがZ軸から-X方向にずれている状態で-Z方向に移動するにしたがって、表示画像データIM11の位置Piを+x方向に移動させる。逆に言えば、制御部5は、目の位置PeがZ軸から-X方向にずれている状態で+Z方向に移動するにしたがって、表示画像データIM11の位置Piを-x方向に移動させる。
【0067】
また、制御部5はY軸およびZ軸の目の位置Peに基づいて、第1画像データIM1内の表示画像データIM11のy軸の位置Piを決定してもよい。この決定方法はx軸の位置Piの決定方法と同様である。
【0068】
次に、目の位置Peと表示画像データIM11の位置Piとの定量的な関係の一例、および、目の位置Peと表示画像データIM11のサイズとの定量的な関係の一例について説明する。ここでは、簡単のために、x軸の位置Piおよびサイズについて説明する。以下では、表示画像データIM11のx軸の位置Piを位置Pixとも呼び、x軸のサイズを幅Wx2とも呼ぶ。位置Pixは、xy直交座標系における表示画像データIM11の位置Piのx座標の値である。
【0069】
制御部5は表示画像データIM11の位置Pixおよび幅Wx2を以下の式で決定してもよい。位置Pixの原点には、例えば第1画像データIM1の中心を適用してもよい。
【0070】
Pix=-(ex/ez)・(Wx1/2)/tan(S)・A ・・・(1)
Wx2=Wx1・Wdx/{2・ez・tan(S)}・B ・・・(2)
ここで、exは、第1センサ4によって検出されたX軸の目の位置Peを示し、ezは第1センサ4によって検出されたZ軸の目の位置Peを示す。つまり、値exは、XYZ直交座標系における目の位置PeのX座標の値であり、値ezは、XYZ直交座標系における目の位置PeのZ座標の値である。値ezは、目の位置Peと表示部3との間の距離であるともいえる。Wx1は、第1画像データIM1のx軸の幅を示し、Sは、カメラ2の画角の2分の1を示し、Wdxは、表示領域3aのX軸の幅を示している。なお、AおよびBはそれぞれ0.2以上かつ1以下の係数であり、カメラ2の撮影画像が無限遠風景よりも近い距離にある時、乗員にオフセットして撮影された画像が拡大して撮影されることによる違和感を抑えることができ、適宜設定される。
【0071】
式(1)によれば、目の位置Peの値exが大きくなるほど、つまり、目の位置Peが+X方向に移動するほど、位置Pixの値は負の領域で小さくなる。つまり、表示画像データIM11の位置Piは、目の位置Peの移動方向とは反対の-x方向に移動する。逆に言えば、値exが小さくなるほど、つまり、目の位置Peが-X方向に移動するほど、表示画像データIM11の位置Piは、目の位置Peの移動方向とは反対の+x方向に移動する。
【0072】
また、式(1)によれば、目の位置Peの値exが正の領域で一定となる状態で、目の位置Peの値ezが小さくなるほど、つまり、目の位置Peが+X方向にずれた状態で表示部3に近づくほど、位置Pixの値は負の領域で小さくなる。つまり、表示画像データIM11の位置Piは、目の位置Peのずれ方向とは反対の-x方向に移動する。逆に、目の位置Peが+X方向にずれた状態で表示部3から遠ざかるほど、表示画像データIM11の位置Piは、目の位置Peのずれ方向と同じ+x方向に移動する。
【0073】
また、式(1)によれば、値exが負の領域で一定となる状態で、値ezが小さくなるほど、つまり、目の位置Peが-X方向にずれた状態で表示部3に近づくほど、位置Pixの値は正の領域で大きくなる。つまり、表示画像データIM11の位置Piは、目の位置Peのずれ方向とは反対の+x方向に移動する。逆に、目の位置Peが-X方向にずれた状態で表示部3から遠ざかるほど、表示画像データIM11の位置Piは、目の位置Peのずれ方向と同じ-x方向に移動する。
【0074】
式(2)によれば、値ezが小さくなるほど、つまり、目の位置Peが表示部3に近づくほど、表示画像データIM11の幅Wx2は大きくなる。逆に言えば、目の位置Peが表示部3から遠ざかるほど、表示画像データIM11の幅Wx2は小さくなる。
【0075】
次に、制御部5の機能的な内部構成の一例について説明する。
図11は、制御部5の内部構成の一例を示すブロック図である。
図11に示されるように、制御部5は前処理部51と切出部52と合成部53と表示制御部54とを含んでもよい。これらの機能部は制御部5がプログラムを実行することによって実現されてもよく、あるいは、専用のハードウエア回路によって実現されてもよい。
【0076】
前処理部51は、カメラ2によって生成された第1画像データIM1に対して種々の前処理を行うことができる。例えば、第1画像データIM1にはカメラ2のレンズに起因した歪みが生じている場合がある。特にカメラ2が広角カメラである場合、第1画像データIM1のうちの周囲領域では、物体が歪んで写る。そこで、前処理部51は第1画像データIM1に対して歪み補正処理等の画像処理を行ってもよい。歪み補正処理は、例えば、カメラ2のレンズの光学パラメータ(例えば屈折率、収差および焦点距離等のパラメータ)に基づいた座標変換処理によって行われ得る。光学パラメータは例えば予め設定されて不揮発性の記憶部501に記憶されていてもよい。
【0077】
また、前処理部51は、歪み補正処理後の第1画像データIM1の原点を設定してもよい。第1画像データIM1の原点には、初期的に表示領域3aに表示させる表示画像データIM11の位置Piを適用することができる。このような原点を示すデータは例えば予め不揮発性の記憶部501に記憶されていてもよい。
【0078】
切出部52は、前処理部51によって処理された第1画像データIM1から表示画像データIM11を切り出す。具体的には、切出部52は、第1センサ4によって検出された目の位置Peに基づいて表示画像データIM11の位置Piおよびサイズを上述のように決定し(例えば式(1)および式(2)を参照)、その位置Piおよびサイズで表示画像データIM11を第1画像データIM1から切り出す。
【0079】
合成部53は、切出部52によって切り出された表示画像データIM11と、第2画像データIM2とを合成して、画像データIM3を生成する。
【0080】
表示制御部54は画像データIM3を表示部3に出力し、表示部3に画像データIM3を表示させる。
【0081】
<第2実施形態>
第1実施形態においては、表示領域3aに表示された表示画像データIM11と、乗り物10の進行方向である前方の景色との間には、若干の違いが生じ得る。なぜなら、表示部3が乗り物10の前方の景色を表示するには、カメラ2の撮影に要する時間、第1センサ4の検出に要する時間、制御部5の処理に要する時間および表示部3の表示に要する時間等の所要時間が必要だからである。以下では、これらの所要時間の全体(つまり総和)を表示遅延時間と呼ぶ。
【0082】
図12は、乗り物10が走行している様子の一例を概略的に示す図である。
図12(a)は、乗り物10が曲道を走行する様子の一例を示しており、
図12(b)は、乗り物10が下り坂を走行する様子の一例を示している。
図12(b)については後に述べる。
【0083】
図12(a)では、乗り物10が直進した状態から左に曲がりつつ走行する。乗り物10が直進している期間では、表示領域3aに表示される表示画像データIM11の変化は、同乗者20bが体感している乗り物10の進行方向に応じた変化である。このため、同乗者20bは、体感によって認識される乗り物10の移動方向と、表示領域3aに表示された景色によって認識される乗り物10の移動方向との間に齟齬を感じにくい。
【0084】
乗り物10が左に曲がり始めると、同乗者20bは直ぐにその進行方向の変化に応じた慣性力を体感できる。その一方で、表示領域3aの表示画像データIM11には、表示遅延時間によって、進行方向の変化に伴う景色の変化が反映されない。そのため、同乗者20bは、体感によって認識される乗り物10の進行方向と、表示領域3aに表示された景色によって認識される移動方向との間に齟齬を感じやすい。
【0085】
そこで、第2実施形態では、乗り物10の姿勢変化に伴って生じる上記の齟齬を低減させることを企図する。
【0086】
図13は、第2実施形態に係る表示システム1Aの構成の一例を概略的に示すブロック図である。表示システム1Aは第1の実施の形態に係る表示システム1の構成に加えて、第2センサ42を含んでいる。
【0087】
第2センサ42は乗り物10の進行方向の変化を検出することができる。第2センサ42は例えば乗り物10の車体に取り付けられる。第2センサ42は例えばジャイロセンサを含む。第2センサ42は、乗り物10に生じる角速度を検出し、その検出結果を示す電気信号を制御部5に出力する。第2センサ42の検出に要する所要時間は表示遅延時間よりも十分に短い。例えば該所要時間はカメラ2の撮影に要する時間の2分の1以下であってもよく、10分の1以下であってもよい。
【0088】
第2センサ42は、乗り物10に生じるヨー角の角速度(以下、ヨー角速度ωyと呼ぶ)を検出してもよい。ヨー角速度ωyとは、乗り物10の進行方向に直交し、かつ、おおよそ鉛直方向に延びる第1回転軸を中心とした回転方向の角速度を示す。乗り物10が直進しているときには、ヨー角速度ωyは非常に小さく、理想的にはゼロである。乗り物10が左に曲がるときには、ヨー角速度ωyは例えば負の値となり、その絶対値が大きくなる。乗り物10が右に曲がるときには、ヨー角速度ωyは例えば正の値となり、その絶対値は大きくなる。よって、例えば制御部5は、ジャイロセンサによって検出されたヨー角速度ωyに基づいて、乗り物10が直進しているのか、右に曲がっているのか、左に曲がっているのかを判断することができる。なお、制御部5が該判断機能を有する場合、ジャイロセンサおよび制御部5の当該判断機能が実質的に第2センサ42を構成する。
【0089】
制御部5の切出部52は表示画像データIM11の位置Piをヨー角速度ωyに基づいて補正してもよい。より具体的な一例として、切出部52は、第1センサ4によって検出された目の位置Peに基づいて表示画像データIM11の位置Piを決定し、その決定した位置Piを補正してもよい。そして、切出部52は、補正後の位置Piで第1画像データIM1から表示画像データIM11を切り出す。
【0090】
例えば、切出部52は、第2センサ42によって検出されたヨー角速度ωyに基づいて乗り物10が-X方向(つまり左)に曲がっていると判断したときには、表示画像データIM11の位置Piをより-x方向の位置に補正する。また、切出部52は、ヨー角速度ωyに基づいて乗り物10が+X方向に曲がっていると判断したときには、表示画像データIM11の位置Piをより+x方向の位置に補正する。つまり、切出部52は乗り物10の進行方向の変化方向(以下、曲がり方向と呼ぶ)と同じ方向に、表示画像データIM11の位置Piを移動させる。
【0091】
図14は、乗り物10が-X方向(つまり左)に曲がっているときの第1画像データIM1および表示画像データIM11の一例を概略的に示す図である。
図14の例では、補正前の表示画像データIM11が二点鎖線で示され、補正後の表示画像データIM11が破線で示されている。
図14に示されるように、乗り物10が-X方向に曲がっているときには、切出部52は表示画像データIM11の位置Piがより-x方向に位置するように、位置Piを補正する。そして、切出部52は補正後の位置Piで第1画像データIM1から表示画像データIM11を切り出す。
【0092】
これによれば、表示部3は、第1画像データIM1のうちの、より左側の一部領域である表示画像データIM11を表示領域3aに表示する。つまり、表示部3は第1画像データIM1において、乗り物10の曲がり方向の少し先の景色を表示画像データIM11として表示領域3aに表示する。このため、表示部3は、乗り物10の進行方向の変化に対して、より高い応答性で乗り物10よりも前方の景色の変化を表示領域3aの表示に反映させることができる。
【0093】
以上のように、第2センサ42が乗り物10の進行方向の変化を検出すると、より高い応答性で、表示領域3aに表示される景色が変化する。よって、表示領域3aをさらに実態に即したデジタル窓として機能させることができる。また、乗り物10の曲がり始めにおいて、同乗者20bの体感によって認識される乗り物10の進行方向と、表示領域3aの景色によって認識される移動方向との差異を低減させることができる。したがって、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0094】
次に、位置Piの補正量について定量的に説明する。切出部52は、第2センサ42によって検出されたヨー角速度ωyの絶対値が大きいほど、より大きな補正量で位置Piを補正してもよい。つまり、切出部52は、乗り物10の進行方向の変化速度が高いほど、より大きな補正量で位置Piを補正してもよい。例えば切出部52は、以下の式で表示画像データIM11のx軸の位置Pixを補正してもよい。
【0095】
Pix=Pix0+α・ωy・t ・・・(3)
ここで、αは補正係数を示す。補正係数αは、例えば、表示画像データIM11の中心付近の1画素分の視野角の逆数である。補正係数αは、第1画像データIM1の原点に最も近い1画素分の視野角の逆数であってもよい。tは、表示遅延時間を示している。補正係数αおよび表示遅延時間tは例えば予め設定されて、不揮発性の記憶部501に記憶されていてもよい。Pix0は補正前の表示画像データIM11のx軸の位置Pixである。
【0096】
式(3)において、ヨー角速度ωyは、乗り物10が-X方向(例えば左)に曲がっているときに負であり、乗り物10が+X方向(例えば右)に曲がっているときには正である。このため、補正項(α・ωy・t)は、乗り物10が-X方向に曲がっているときに負となる。したがって、式(3)によれば、乗り物10が-X方向に曲がっているときに、位置Pixをより-x方向の位置に補正することができる。逆に、補正項(α・ωy・t)は、乗り物10が+X方向に曲がっているときに正となる。したがって、式(3)によれば、乗り物10が+X方向に曲がっているときには、位置Pixをより+x方向の位置に補正することができる。
【0097】
また、式(3)によれば、補正項の絶対値(つまり補正量)は、ヨー角速度ωyの絶対値が大きいほど大きくなる。このため、乗り物10が例えばより急な曲道を-X方向に曲がるときには、位置Pixは、より大きな補正量で-x方向の位置に補正される。したがって、第1画像データIM1のうちのより-x方向の一部領域が表示画像データIM11として切り出され、表示部3は、乗り物10の急な曲がりに追随した景色をより適切に表示することができる。つまり、表示領域3aには、実際の景色により近い景色がよりリアルタイムに表示される。よって、表示領域3aをさらに実態に即したデジタル窓として機能させることができ、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0098】
上述の例では、乗り物10のヨー角の姿勢変化について説明した。次に、乗り物10のピッチ角に関する姿勢変化について述べる。ピッチ角は、乗り物10の進行方向および第1回転軸の両方に直交する第2回転軸を中心とした角度である。
図12(b)に例示されるように、ピッチ角に関する姿勢は、乗り物10の前輪14と後輪15との高さ位置が変動することによって変化する。
【0099】
図12(b)では、乗り物10が水平に直進した状態から下り坂に進入し、下り坂に沿って走行する。乗り物10が下り坂に差し掛かると、表示領域3aに表示された表示画像データIM11内の水平線(例えば道路の水平線)は、表示領域3a内において一旦下降する。そして、乗り物10が完全に下り坂に進入すると、表示領域3aにおいて水平線が元の位置で安定する。つまり、表示領域3aに表示された景色がy軸に沿って変動する。
【0100】
しかしながら、一般的な道路において、上り坂および下り坂の傾斜の角度は曲道の曲がり角度に比べて小さい。このため、同乗者は乗り物10の上り坂または下り坂に伴う進行方向の上下変化を、曲道に伴う進行方向の左右変化に比べて体感しにくい。したがって、同乗者20は、自身の体感によって予想される景色の変化と、表示領域3aに表示される景色の上下方向の変化との間に齟齬を感じやすい。
【0101】
乗り物10のピッチ角に関する姿勢は路面の凹凸に起因して変動する場合もある。この場合も、表示領域3aに表示された景色内の水平線がy軸に沿って変動し得る。しかしながら、通常、路面の凹凸による慣性力は曲道を曲がることによる慣性力に比べて小さいので、同乗者20は上下方向の揺れを体感しにくい。このため、同乗者20は、自身の体感によって予想される景色の変化と、表示領域3aに表示される景色の上下方向の変化との間に齟齬を感じやすい。
【0102】
そこで、第2実施形態では、このような乗り物10の姿勢変化に伴って生じる齟齬も低減させることを企図する。
【0103】
第2センサ42は、乗り物10に生じるピッチ角の角速度(以下、ピッチ角速度ωpと呼ぶ)を検出してもよい。ピッチ角速度ωpは、乗り物10の進行方向および第1回転軸に直交した第2回転軸を中心とした回転方向の角速度を示す。乗り物10が水平に直進しているときには、ピッチ角速度ωpは非常に小さく、理想的にはゼロである。乗り物10の前輪14が後輪15よりも低くなる姿勢に変化するときには、ピッチ角速度ωpは例えば負の値となり、ピッチ角速度ωpの絶対値は大きくなる。逆に、乗り物10の前輪14が後輪15よりも高くなる姿勢に変化するときには、ピッチ角速度ωpは例えば正の値となり、ピッチ角速度ωpの絶対値は大きくなる。
【0104】
切出部52は、第2センサ42によって検出されたピッチ角速度ωpに基づいて、表示画像データIM11のy軸の位置Piyを補正してもよい。位置Piyは、第1画像データIM1に設定されたxy直交座標系における表示画像データIM11の位置Piのy座標の値を示す。切出部52は、表示画像データIM11における水平線のy軸の時間変化が低減するように、ピッチ角速度ωpに基づいて位置Piyを補正してもよい。
【0105】
図15は、第1画像データIM1および表示画像データIM11の一例を概略的に示す図である。
図15の例では、第1画像データIM1に写る景色において、進行方向の前方に位置する下り坂による水平線が含まれている。
図15の例では、補正前の表示画像データIM11が二点鎖線で示され、補正後の表示画像データIM11が破線で示されている。乗り物10が下り坂に差し掛かるときには、第2センサ42によって検出されたピッチ角速度ωpが負の値となる。そこで、切出部52は、第2センサ42によって検出されたピッチ角速度ωpが負であるときには、表示画像データIM11の位置Piをより-y方向の位置に補正する。そして、切出部52は補正後の位置Piで第1画像データIM1から表示画像データIM11を切り出す。
【0106】
これによれば、表示部3は第1画像データIM1のうちの、より下方の一部領域である表示画像データIM11を表示領域3aに表示する。つまり、乗り物10が下り坂に差し掛かるときには、第1画像データIM1において水平線が下方に移動するものの、第1画像データIM1内の表示画像データIM11の位置Piも下方に移動する。このため、表示画像データIM11における水平線の位置の変化を低減させることができる。
【0107】
逆に言うと、切出部52は、ピッチ角速度ωpが正であるときには、表示画像データIM11の位置Piがより+y方向に位置するように、位置Piを補正する。そして、切出部52は補正後の位置Piで第1画像データIM1から表示画像データIM11を切り出す。これによっても、表示画像データIM11における水平線の位置の変化を小さくすることができる。
【0108】
次に、位置Piの補正量について定量的に説明する。切出部52は、ピッチ角速度ωpの絶対値が大きいほど、より大きな補正量で位置Piを補正してもよい。例えば切出部52は、以下の式でy軸の表示画像データIM11の位置Piyを補正してもよい。
【0109】
Piy=Piy0+β・(ωp・t+θ) ・・・(4)
ここで、βは補正係数を示している。補正係数βは例えば予め設定されて、不揮発性の記憶部501に記憶されていてもよい。また、βは中心付近の1画素分の視野角の逆数であり、ωp・tは遅延時間によるピッチ角補正分、θはピッチ角である。ピッチ角はωpの積分または加速度センサで得られる。Piy0は補正前の表示画像データIM11のy軸の位置Piyである。
【0110】
式(4)において、ピッチ角速度ωpは、例えば、乗り物10が下り坂に差し掛かっているときに負である。このため、補正項{β・(ωp・t+θ)}は乗り物10が下り坂に差し掛かっているときには負である。したがって、式(4)によれば、位置Piyを-y方向(ここでは下方)に補正することができる。乗り物10が下り坂に差し掛かっているときには、第1画像データIM1において水平線が下降するものの、表示画像データIM11の位置Piを-y方向に補正するので、表示画像データIM11における水平線の位置の変化を小さくすることができる。
【0111】
また、ピッチ角速度ωpは、例えば、乗り物10が上り坂に差し掛かっているときに正である。このため、補正項{β・(ωp・t+θ)}は乗り物10が上り坂に差し掛かっているときには正である。したがって、式(4)によれば、位置Piyを+y方向(ここでは上方)に補正することができる。乗り物10が上り坂に差し掛かっているときには、第1画像データIM1において水平線が上昇するものの、表示画像データIM11の位置Piを+y方向に補正するので、表示画像データIM11における水平線の位置の変化を小さくすることができる。
【0112】
また、式(4)によれば、補正項の絶対値(つまり補正量)は、ピッチ角速度ωpの絶対値が大きいほど大きくなる。このため、乗り物10が例えばより急な上り坂もしくは下り坂に差し掛かるときには、位置Piyは、より大きな補正量で補正される。このため、乗り物10のピッチ角に関する姿勢変化による水平線の位置の変化をより適切に低減させることができる。
【0113】
なお、この補正によれば、乗り物10のピッチ角に関する姿勢が道路の路面の凹凸によって変化したときにも、その姿勢変化に起因した表示領域3a内の水平線の位置変動を抑制することができる。
【0114】
以上のように、表示システム1によれば、表示部3に表示される表示領域3a内の水平線の位置変動を抑制することができる。同乗者20bは乗り物10における上り坂および下り坂による振動および道路の凹凸における振動を体感しにくいので、表示領域3a内の水平線の変動が小さければ、同乗者20bの体感と、表示領域3a内の水平線の変化との間で齟齬が生じにくい。したがって、同乗者20bに生じる動揺病の程度をさらに低減させることができる。
【0115】
制御部5の切出部52は表示画像データIM11の位置Piをヨー角速度ωyおよびピッチ角速度ωpの両方に基づいて補正してもよく、いずれか一方のみを用いて位置Piを補正してもよい。また、制御部5の切出部52は、ロール角についての角速度(以下、ロール角速度と呼ぶ)ωrに基づいた位置Piへの補正を行わなくてもよい。ロール角速度ωrとは、第1回転軸および第2回転軸の両方に直交する第3回転軸のまわりの回転方向についての角速度である。
【0116】
なお、第2実施形態において、表示システム1は必ずしも第1センサ4を含んでいなくてもよい。この場合、表示システム1は、同乗者20bの目の位置Peに基づいた表示画像データIM11の位置Piの調整を行わず、第2センサ42によって検出された乗り物10の進行方向の変化に基づいて表示画像データIM11の位置Piの調整を行う。これによっても、乗り物10の進行方向の変化に伴って表示領域3aの景色を調整することができるので、同乗者20bに生じる動揺病の程度を低減させることができる。
【0117】
<第3実施形態>
図16は、第3実施形態に係る表示システム1Bの構成の一例を示すブロック図である。表示システム1Bは表示システム1または表示システム1Aの構成に加えて、第3センサ43および第4センサ44を含む。
【0118】
第3センサ43は乗り物10に生じる振動を検出し、その検出結果を示す電気信号を制御部5に出力する。第3センサ43は、乗り物10の例えば車体に取り付けられる。第3センサ43は例えば加速度センサを含んでおり、乗り物10に生じる第1加速度Ac1を検出する。第3センサ43は3軸の加速度センサを含んでいてもよい。具体的な一例として、第3センサ43は、X軸方向の加速度センサ、Y軸方向の加速度センサおよびZ軸方向の加速度センサを含んでいてもよい。
【0119】
第4センサ44は、カメラ2に生じる振動を検出し、その検出結果を示す電気信号を制御部5に出力する。第4センサ44はカメラ2の例えば筐体に取り付けられる。第4センサ44は例えば加速度センサを含んでおり、カメラ2に生じる第2加速度Ac2を検出する。第4センサ44は3軸の加速度センサを含んでいてもよい。具体的な一例として、第4センサ44は、X軸方向の加速度センサ、Y軸方向の加速度センサおよびZ軸方向の加速度センサを含んでいてもよい。
【0120】
制御部5の前処理部51は、第3センサ43によって検出された第1加速度Ac1と、第4センサ44によって検出された第2加速度Ac2とに基づいて、第1画像データIM1に対してブレ補正処理を行うことができる。例えば前処理部51は、まず第1加速度Ac1と第2加速度Ac2との差(=Ac2-Ac1)を算出する。次に、前処理部51は当該差に応じた量だけ第1画像データIM1内の各画素を平行移動させる。具体的な一例として、前処理部51は、第1加速度Ac1のX軸成分と第2加速度Ac2のX軸成分との差を算出し、x軸の映像ブレを抑制するように、当該差の分だけ、第1画像データIM1内の各画素をx軸に沿って移動させる。例えば、前処理部51は、当該差が正であるときに、第1画像データIM1の各画素を+x方向に移動させ、当該差が負であるときに、第1画像データIM1の各画素を-x方向に移動させる。同様に、前処理部51は、第1加速度Ac1のY軸成分と第2加速度Ac2のY軸成分との差を算出し、y軸の映像ブレを抑制するように、当該差の分だけ、第1画像データIM1内の各画素をy軸に沿って移動させてもよい。
【0121】
このようなブレ補正処理によって、前処理部51は、乗り物10の振動の影響を残しつつも、カメラ2の振動の影響を除いた第1画像データIM1を生成することができる。なお、ブレ補正処理前の第1画像データIM1を原画像データと呼ぶことができる。
【0122】
切出部52は、ブレ補正処理後の第1画像データIM1から表示画像データIM11を切り出す。切出部52は第1実施形態または第2実施形態と同様に表示画像データIM11の位置Piおよびサイズを決定してもよい。
【0123】
<他の実施形態>
図17は、他の実施形態に係る表示システム1Cの構成の一例を概略的に示す図である。表示システム1Cの構成は、表示システム1、表示システム1Aまたは表示システム1Bの構成と同様である。ただし、表示システム1Cにおいては、カメラ2は乗り物10よりも後方の景色を撮影する。
図17に示されるように、カメラ2は、乗り物10の内部空間を進行方向に2等分して得られた前方空間および後方空間のち、後方空間に位置している。カメラ2は後部座席11bよりも後方に位置していてもよい。
図17の例では、カメラ2の撮影方向の前方(つまり、乗り物10の進行方向の後方)には、乗り物10のリアガラス13が位置している。乗り物10よりも後方からの光はリアガラス13を透過してカメラ2に入射する。カメラ2は、自身の撮像面に入射した光を検出して第1画像データIM1を生成する。この第1画像データIM1には、乗り物10よりも後方の景色が含まれる。
【0124】
表示部3は乗り物10の内部に位置している。
図17の例では、表示部3は座席11aよりも前方に位置している。表示部3は、助手席に相当する座席11aに着座する同乗者20aによって視認可能な位置に配置される。表示部3は表示領域3aを進行方向の後方に向けた姿勢で位置する。つまり、表示部3は進行方向の後方に向けて画像を表示する。
図17に示されるように、表示部3は同乗者20aの頭よりも下方に位置していてもよい。あるいは、表示部3は同乗者20aの頭よりも上方に位置していてもよい。表示部3は、表示領域3aの法線が水平方向に沿う姿勢で位置してもよいし、水平方向から傾斜した姿勢で位置してもよい。表示部3は不図示の固定部材によって乗り物10の例えば車体に固定されてもよい。
【0125】
図17の例では、第1センサ4は座席11aよりも前方かつ上方に位置している。より具体的な一例として、第1センサ4は表示部3の直上に位置していてもよい。第1センサ4は、座席11aに着座する同乗者20aの目の位置Peを検出し、その検出結果を示す電気信号を制御部5に出力する。
【0126】
制御部5は、カメラ2によって撮影された第1画像データIM1から表示画像データIM11を切り出し、表示画像データIM11を表示部3に出力する。表示部3は表示画像データIM11を表示領域3aに表示する。同乗者20aは表示部3の表示領域3aを視認することにより、乗り物10よりも後方の景色を視認することができる。このため、表示部3の表示領域3aはデジタルミラーとして機能することができる。
【0127】
制御部5は、第1画像データIM1内の表示画像データIM11の位置Piおよびサイズの少なくともいずれか一方を、第1センサ4によって検出された同乗者20aの目の位置Peに基づいて決定する。例えば、制御部5は、第1画像データIM1内の表示画像データIM11の位置Piを、X軸およびY軸の目の位置Peに基づいて決定してもよい。
図18は、助手席に着座する同乗者20aの目の位置Peおよび表示画像データIM11の位置Piの関係を説明するための図である。
図18(a)は、目の位置Peの一例を概略的に示す図である。
図18(b)は、第1画像データIM1内の表示画像データIM11の位置Piを説明するための図である。
【0128】
図18(a)の例では、第1実施形態と同様に表示部3に対してXYZ直交座標系が示されており、該XYZ直交座標系において目の位置Peが+X方向に移動している。
図18(a)の例では、表示部3の表示領域3aが仮想的なミラーであると仮定したときの視線が破線の矢印で模式的に示されている。仮想的な視線は表示領域3aで反射して延びている。
図18(a)から理解できるように、目の位置Peが+X方向に移動するほど、仮想的なミラーを通じて視認可能な景色領域は-X方向に移動する。
【0129】
ここで、ミラーに写る景色の左右は反転するので、第1画像データIM1に設定されたxy直交座標系における+x方向は、表示部3に設定されたXYZ直交座標系における-X方向に相当する。
【0130】
そこで、
図18(b)に示されるように、制御部5は、目の位置Peが+X方向に移動すると、第1画像データIM1内の表示画像データIM11の位置Piを、+x方向に移動させて得られた位置に決定する。つまり、制御部5は、第1センサ4の検出結果に基づいて、表示画像データIM11の位置Piを、目の位置Peの移動方向と同じ方向に移動させて得られた位置に決定する。
【0131】
このような表示システム1Cによれば、同乗者20bが頭を+X方向(例えば右)に移動させて目の位置Peを+X方向に移動させると、表示部3の表示領域3aには、カメラ2によって撮影された第1画像データIM1のうちより+x方向の領域(つまり、右側の領域)が表示画像データIM11として表示される。このため、表示領域3aには、乗り物10よりも後方の景色のうちのより-X方向の領域が表示される。したがって、同乗者20bの移動と、表示領域3aから視認される景色の変化との関係が、実際にミラーを視認したときの関係と同一となる。つまり、表示領域3aをより実態に即したデジタルミラーとして機能させることができる。これによれば、同乗者20a自身の移動に伴って予想される景色の変化と、表示領域3aにおける景色の変化との差異を低減させることができ、同乗者20aに生じる動揺病の程度をさらに低減させることができる。
【0132】
ところで、ミラーに写る景色の左右は反転しているので、第4実施形態では、X方向における目の位置Peの移動方向と、第1画像データIM1における表示画像データIM11の位置Piの移動方向との関係は、第1実施形態における関係と反対となる。一方、ミラーに写る景色の上下は反転しないので、第4実施形態でも、制御部5は表示画像データIM11の位置Piを、目の位置Peのy軸の移動方向とは反対の方向に移動させて得られた位置に決定してもよい。つまり、目の位置PeがY軸に沿って移動すると、制御部5は表示画像データIM11の位置Piを、目の位置Peの移動方向と反対の方向に移動させて得られた位置に決定する。これによれば、表示部3の表示領域3aをさらに実態に即したデジタルミラーとして機能させることができる。
【0133】
また、ミラーに写る景色の前後も反転しない。そこで、制御部5は第1実施形態と同様に、第1画像データIM1内の表示画像データIM11のサイズをZ軸の目の位置Peに基づいて決定してもよい。具体的には、制御部5は、目の位置Peと表示部3との距離が短いほど、表示画像データIM11のサイズを大きく決定する。これによれば、表示部3の表示領域3aをさらに実態に即したデジタルミラーとして機能させることができる。
【0134】
また、第1実施形態と同様に、制御部5は表示画像データIM11の位置Piを、X軸およびY軸の目の位置Peのみならず、Z軸の目の位置Peにも基づいて、決定してもよい。
図19は、助手席に着座する同乗者20aの目の位置Peおよび表示画像データIM11の位置Piの関係を説明するための図である。
図19(a)は、目の位置Peの一例を概略的に示す図である。
図19(b)は、第1画像データIM1内の表示画像データIM11の位置Piを説明するための図である。
【0135】
図19(a)では、目の位置Peが、Z軸から+X方向にずれた状態で-Z方向に移動している。
図19(a)では、移動前の目の位置Peからの視線が二点鎖線の矢印で示されており、移動後の目の位置Peからの視線が破線の矢印で示されている。視線の変化から理解できるように、目の位置Peが+X方向にずれた状態で表示部3に近づくにしたがって、仮想的なミラーを通じて視認可能な景色領域は-X方向に移動する。
【0136】
ミラーに写る景色の左右は反転しているので、制御部5は、目の位置Peが表示部3の中心からX方向にずれた状態で、目の位置Peが表示部3に近づくほど、第1画像データIM1内の表示画像データIM11の位置Piを、目の位置Peのずれ方向と同じ方向に移動させてもよい。つまり、目の位置Peが+X方向(例えば右)にずれた状態で表示部3に近づくと、制御部5は表示画像データIM11の位置Piを+x方向(例えば右)に移動させる。これによれば、表示部3の表示領域3aをさらに実態に即したデジタルミラーとして機能させることができる。
【0137】
ミラーに写る景色の上下は反転しないので、制御部5は、目の位置Peが表示部3の中心からY方向にずれた状態で、目の位置Peが表示部3に近づくほど、第1画像データIM1内の表示画像データIM11の位置Piを、目の位置Peのずれ方向と反対の方向に移動させてもよい。つまり、目の位置Peが上方にずれた状態で表示部3に近づくと、制御部5は表示画像データIM11の位置Piを下方に移動させる。これによれば、表示部3の表示領域3aをさらに実態に即したデジタルミラーとして機能させることができる。
【0138】
目の位置Peと表示画像データIM11の位置Piとの定量的な関係の一例、および、目の位置Peと表示画像データIM11のサイズとの定量的な関係の一例は第1実施形態と同様であってもよい。つまり、式(1)および式(2)を適用することができる。ただし、第4実施形態では、左右が反転するので、x軸の表示画像データIM11の位置Pixは、式(1)の右辺に「-1」を乗じた値となる。
【0139】
<その他>
上述の例では、表示システム1は乗り物10に搭載されているものの、必ずしもこれに限らない。例えば、表示システム1は建物に設置されてもよい。この場合、カメラ2は建物の外部を撮影してもよい。表示部3は建物の内部に位置していてもよい。具体的な一例として、表示部3は建物の室内の壁に取り付けられてもよい。第1センサ4は建物の内部に位置し、例えば表示部3と同室に位置していてもよい。第1センサ4は、表示部3を視認する人物の目の位置を検出してもよい。制御部5は建物の内部に位置してもよい。制御部5は、カメラ2によって撮影された第1画像データIM1から表示画像データIM11を切り出し、表示画像データIM11を表示部3に表示させてもよい。これにより、表示部3の表示領域3aをデジタル窓として機能させることができる。また、制御部5は、第1画像データIM1内の表示画像データIM11の位置Piおよびサイズの少なくともいずれか一方を、第1センサ4によって検出された目の位置に基づいて決定してもよい。目の位置と表示画像データIM11の位置Piとの関係は、例えば、第1実施形態と同様であり、目の位置と表示画像データIM11のサイズとの関係は、例えば、第1実施形態と同様である。これによれば、表示領域3aをより実態に即したデジタル窓として機能させることができる。
【0140】
また、表示システム1が建物に設置される場合、表示システム1は必ずしもカメラ2を含んでいる必要はない。つまり、第1画像データIM1は必ずしもカメラ2によって生成される必要はない。第1画像データIM1は、例えば、記憶部501に記憶されていてもよく、あるいは、通信部6が受信してもよい。
【0141】
以上のように、表示システム1,1A~1Cは詳細に説明されたが、上記の説明は、すべての局面において、例示であって、この表示システム1,1A~1Cがそれに限定されるものではない。例示されていない無数の変形例が、この開示の範囲から外れることなく想定され得るものと解される。上記各実施形態および各変形例で説明した各構成は、相互に矛盾しない限り適宜組み合わせたり、省略したりすることができる。
【0142】
上記各実施形態および各種変形例をそれぞれ構成する全部または一部を、適宜、矛盾しない範囲で組み合わせ可能であることは、言うまでもない。
【0143】
本開示には、以下の内容が含まれる。
【0144】
一実施の形態において、(1)表示システムは、乗り物の進行方向の前方の領域を少なくとも撮影して第1画像データを生成するカメラと、乗り物の操作者とは異なる、前記乗り物に搭乗した同乗者の目の位置を検出する第1センサと、前記第1画像データの少なくとも一部である表示画像データと、前記表示画像データとは異なる第2画像データとを表示する表示部と、前記第1センサによって検出された前記目の位置を用いて、前記表示画像データを生成する制御部とを備えることができる。
【0145】
(2)上記(1)の表示システムにおいて、前記制御部は、前記第1センサによって検出された前記目の位置を用いて、前記第1画像データ内の前記表示画像データの位置を決定することができる。
【0146】
(3)上記(1)の表示システムにおいて、前記制御部は、前記第1センサによって検出された前記目の位置を用いて、前記表示画像データのサイズを決定することができる。
【0147】
(4)上記(2)の表示システムにおいて、前記制御部は、前記第1センサによって検出された前記目の位置が、前記同乗者にとっての左右方向および上下方向の少なくともいずれか一方に移動したときに、前記第1画像データ内の前記表示画像データの位置を、前記目の位置の移動方向とは反対の方向に移動させた位置に決定することができる。
【0148】
(5)上記(4)の表示システムにおいて、前記制御部は、前記目の位置が左右方向および上下方向の原点位置からずれた状態で、前記目の位置が前記表示部に近づいたときに、前記第1画像データ内の前記表示画像データの位置を、前記目の位置の前記原点位置からのずれ方向とは反対の方向に移動させた位置に決定することができる。
【0149】
(6)上記(5)の表示システムにおいて、前記制御部は、前記第1画像データの幅をWx1、前記カメラの画角をS、0.2以上かつ1以下の係数をA、左右方向の前記目の位置をexとし、前記表示部と前記目の位置との距離をezとしたときに、前記第1画像データ内の前記表示画像データの位置を、-(ex/ez)・(Wx1/2)/tan(S)・Aで算出することができる。
【0150】
(7)上記(3)の表示システムにおいて、前記制御部は、前記第1センサによって検出された前記目の位置と、前記表示部との距離が短いほど、前記第1画像データ内の前記表示画像データのサイズをより大きく決定することができる。
【0151】
(8)上記(7)の表示システムにおいて、前記制御部は、前記第1画像データの幅をWx1、前記表示部の表示領域の幅をWdx、前記カメラの画角をS、0.2以上かつ1以下の係数をB、前記表示部と前記目の位置との距離をezとしたときに、前記第1画像データ内の前記表示画像データの幅を、Wx1・Wdx/{2・ez・tan(S)}・Bで算出することができる。
【0152】
(9)上記(2)の表示システムは、前記乗り物の進行方向の変化を検出する第2センサをさらに備えることができ、前記制御部は、前記第1画像データ内の前記表示画像データの位置を、前記第2センサによって検出された前記進行方向の変化方向と同じ方向に移動させた位置に補正することができる。
【0153】
(10)上記(9)の表示システムにおいて、表示遅延時間をtとし、ヨー角速度をωyとし、補正係数をαとしたとき、前記制御部は、前記第1画像データ内の前記表示画像データの位置を(α・ωy・t)で示された補正量で補正することができる。
【0154】
(11)上記(2)の表示システムは、前記乗り物のピッチ角についての進行方向の変化を検出する第2センサをさらに備えることができ、前記制御部は、前記第2センサの検出結果に基づいて、前記表示画像データに含まれる水平線の上下方向の位置変化が低減するように、前記第1画像データ内の前記表示画像データの上下方向の位置を補正することができる。
【0155】
(12)上記(11)の表示システムにおいて、表示遅延時間をtとし、ピッチ角速度をωpとし、ピッチ角をθとし、補正係数をβとしたとき、前記制御部は、前記第1画像データ内の前記表示画像データの位置をβ・(ωp・t+θ)で示された補正量で補正することができる。
【0156】
(13)上記(1)から(3)のいずれか一つの表示システムは、前記乗り物に生じる第1加速度を検出する第3センサと、前記カメラに生じる第2加速度を検出する第4センサとをさらに備えることができ、前記制御部は、前記カメラが前記乗り物の外部を撮影して原画像データを生成することができ、前記第3センサによって検出された前記第1加速度および前記第4センサによって検出された前記第2加速度に基づいて前記原画像データに対してブレ補正処理を行って前記第1画像データを生成することができる。
【符号の説明】
【0157】
1 表示システム
10 乗り物
2 カメラ
3 表示部
3a 表示領域
4 第1センサ
42 第2センサ
43 第3センサ
44 第4センサ
5 制御部
IM1 第1画像データ
IM11 表示画像データ
IM2 第2画像データ
IM3 合成画像データ
Pe 目の位置
Pi 第1画像データ内の表示画像データの位置
Wx1 第1画像データの幅
Wx2 第1画像データ内の表示画像データの幅