(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024028375
(43)【公開日】2024-03-04
(54)【発明の名称】表示制御装置
(51)【国際特許分類】
G01C 21/36 20060101AFI20240226BHJP
G08G 1/16 20060101ALI20240226BHJP
B60R 11/02 20060101ALI20240226BHJP
G09G 5/00 20060101ALI20240226BHJP
【FI】
G01C21/36
G08G1/16 C
B60R11/02 C
G09G5/00 510A
G09G5/00 550C
G09G5/00 530T
【審査請求】有
【請求項の数】1
【出願形態】OL
(21)【出願番号】P 2024000121
(22)【出願日】2024-01-04
(62)【分割の表示】P 2022133347の分割
【原出願日】2017-12-26
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 集会名:第45回 東京モーターショー2017 開催日:平成29年10月25日
(71)【出願人】
【識別番号】000005016
【氏名又は名称】パイオニア株式会社
(74)【代理人】
【識別番号】100134832
【弁理士】
【氏名又は名称】瀧野 文雄
(74)【代理人】
【識別番号】100165308
【弁理士】
【氏名又は名称】津田 俊明
(74)【代理人】
【識別番号】100115048
【弁理士】
【氏名又は名称】福田 康弘
(72)【発明者】
【氏名】下平 真武
(72)【発明者】
【氏名】菊地 貴
(72)【発明者】
【氏名】永田 英記
(72)【発明者】
【氏名】橋本 拡昌
(72)【発明者】
【氏名】住田 純
(72)【発明者】
【氏名】▲高▼▲浜▼ 伸一郎
(72)【発明者】
【氏名】大石 智也
(57)【要約】
【課題】点群情報を利用して、エンタテインメント性を向上させることができる表示制御装置を提供する。
【解決手段】表示制御装置1は、ライダ2が車両の周囲の地物を複数の点により表した点群情報を取得し、表示制御部3がそれぞれ表示態様が異なる複数の表示モードのいずれかで点群情報に基づく画像を表示部4に表示させる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
移動体に配置された表示部に画像を表示させる表示制御装置であって、
前記移動体の周囲の地物を複数の点により表した点群情報を取得する点群情報取得部と、
前記点群情報に基づく画像を表示態様が異なる複数の表示モードのいずれかで前記表示部に表示させる表示制御部と、
を備えることを特徴とする表示制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示部に画像を表示する表示制御装置に関する。
【背景技術】
【0002】
従来、レーザレーダを用いて、車両の前方等の検出領域(すなわち、物体を検出するための対象となる領域)に存在する物体上の複数の点に対して3次元空間上の位置を取得し、その物体を認識する技術が提案されている。例えば、特許文献1には、前記位置が取得された点をクラスタリングしてクラスタ点群を取得し、そのクラスタ点群に係る測定量の時間的変動に基づき、クラスタ点群に対応する物体を識別することとしている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述したように、レーザレーダ(以下、LiDAR(Light Detection And Ranging)とも称する)は、移動体としての車両等の周辺に存在する物体の認識に用いられている。しかしながら、レーザレーダによって取得された情報(所謂点群情報)は、このような物体の認識以外に利用されてはいない。
【0005】
一方で、今後自動運転機能を搭載した車両において、自動運転中の移動時間におけるエンタテインメント性の向上が期待されている。しかし、レーザレーダによって取得された情報を、エンタテインメント性の向上に利用するという思想は、従来は存在していなかった。
【0006】
本発明が解決しようとする課題としては、所謂点群情報を利用して、エンタテインメント性を向上させることが一例として挙げられる。
【課題を解決するための手段】
【0007】
上記課題を解決するために、請求項1に記載の発明は、移動体に配置された表示部に画像を表示させる表示制御装置であって、前記移動体の周囲の地物を複数の点により表した点群情報を取得する点群情報取得部と、前記点群情報に基づく画像を表示態様が異なる複数の表示モードのいずれかで前記表示部に表示させる表示制御部と、を備えることを特徴としている。
【0008】
請求項6に記載の発明は、移動体に配置された表示部の表示を制御する表示制御装置で実行される表示制御方法であって、前記移動体の周囲の地物を複数の点により表した点群情報を取得する点群情報取得工程と、前記点群情報に基づく画像を表示態様が異なる複数の表示モードのいずれかで表示部に表示させる表示制御工程と、を含むことを特徴としている。
【0009】
請求項7に記載の発明は、請求項6に記載の表示制御方法を、コンピュータにより実行させることを特徴としている。
【図面の簡単な説明】
【0010】
【
図1】本発明の一実施例にかかる表示制御装置のブロック構成図である。
【
図2】
図1に示された表示制御装置の表示動作のフローチャートである。
【
図3】
図1に示された表示制御装置における操作画像の例である。
【
図4】第1モードの表示態様と第2モードの表示態様の例である。
【
図6】第1モードと第2モードの表示態様をMIXした表示態様の例である。
【
図7】
図1に示された表示制御装置の変形例である。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態にかかる表示制御装置を説明する。本発明の一実施形態にかかる表示制御装置は、点群情報取得部が移動体の周囲の地物を複数の点により表した点群情報を取得し、表示制御部が点群情報に基づく画像を表示態様が異なる複数の表示モードのいずれかで表示部に表示させる。このようにすることにより、点群情報に基づいて複数の表示態様により表示することができる。したがって、点群情報を利用して、エンタテインメント性を向上させることができる。
【0012】
また、表示制御部は、複数の表示モードを切り替えて前記表示部に表示させてもよい。このようにすることにより、適宜複数の表示モードを切り替えることにより、表示態様を変化させた画像を表示させることができる。
【0013】
また、表示制御部は、複数の表示モードを重ねて(または組み合わせて)表示部に表示させてもよい。このようにすることにより、複数の表示モードの表示態様を重ね合わせたような表示をすることができ、表示のバリエーションを増やすことが可能となる。このような表示は、例えば一の表示態様から他の表示態様へ徐々に移行させるようなことも含まれるものである。
【0014】
また、複数の表示モードのそれぞれに楽曲を設定する設定部を備え、表示制御部は、再生される楽曲に応じて、一の表示モードで表示されている画像の表示態様を変化させてもよい。このようにすることにより、楽曲のイメージに合った表示態様で画像を表示させることができる。
【0015】
また、複数の表示モードの内の一の表示モードは、他の表示モードにおける表示態様をデフォルメした表示態様であってもよい。このようにすることにより、他の表示モードにおける表示態様をベースにしてデフォルメした表示態様で表示することができる。
【0016】
また、本発明の一実施形態にかかる表示制御方法は、点群情報取得工程で移動体の周囲の地物を複数の点により表した点群情報を取得し、表示制御工程で点群情報に基づく画像を表示させるための、それぞれ表示態様が異なる複数の表示モードを有している。このようにすることにより、点群情報に基づいて複数の表示態様により表示することができる。したがって、点群情報を利用して、エンタテインメント性を向上させることができる。
【0017】
また、上述した表示制御方法をコンピュータにより実行させる表示制御プログラムとしてもよい。このようにすることにより、コンピュータを利用して点群情報に基づいて複数の表示態様により表示することができる。したがって、点群情報を利用して、エンタテインメント性を向上させることができる。
【実施例0018】
本発明の第1の実施例にかかる表示制御装置を
図1~
図6を参照して説明する。表示制御装置1は、
図1に示したように、ライダ2と、表示制御部3と、表示部4と、楽曲取得部5と、楽曲解析部6と、操作部7と、を備えている。また、
図1に示した表示制御装置1は、移動体の例として自動車等の車両に搭載されているものとする。
【0019】
点群情報取得部としてのライダ2は、車両の周囲に存在する物体を認識するためのセンサであり、LiDAR(Light Detection And Ranging)とも表記される。ライダ2は、レーザ光等の光を照射してその光の反射光により、外界に存在する物体までの距離を離散的に測定し、当該物体の位置や形状等を三次元の点群として認識する公知のセンサである。したがって、ライダ2で取得された点群は、車両の周囲に存在する建物や道路等の構造物を含む地物を、複数の点により三次元状に表した情報(点群情報)となる。尚、ライダ2は、車両が走行している道路上の標識や道路に沿って存在する建築物や街路樹等の地物以外にも、車両の周辺に存在する人物や他車両等を認識してもよい。
【0020】
表示制御部3は、ライダ2が取得した点群情報を、ライダ2が点群情報を取得した状態の座標系(車両座標系)から点群情報を表示させる表示部4に表示するための座標系(表示座標系)に変換する。車両座標系とは車両(ライダ2)を基準とした座標系である。表示座標系とは、表示部4上に定義されている二次元の座標系である。表示制御部3は、この点群情報における三次元の車両座標系から二次元の表示座標系へ変換する。この座標変換は、いわゆるビュー座標系からスクリーン座標系への変換等の周知の座標変換方法を用いることができる。
【0021】
また、表示制御部3は、点群情報に基づく画像を表示部4へ表示させる表示態様として第1モードと第2モードの2モードを有している。また、表示部4に表示された点群情報を、楽曲解析部6で解析された結果に基づいて、エフェクト等の加工を施して点群情報に基づく画像として表示部4に出力する。即ち、表示制御部3は、表示部4へ点群情報に基づく画像を表示させる表示態様として、複数の表示モードを有する。
【0022】
表示部4は、表示制御部3で加工された点群情報に基づく画像を表示する。表示部4は、例えば車両のセンターコンソール等に設置されているモニタ画面やHUD(Head-Up Display)等で構成することができる。また、表示部4は、車両内に設置されているものに限らず、例えば搭乗者が所有する携帯端末等に画像を表示させるようにしてもよい。また、表示部4は、表示制御装置1が設けられた車両のフロントガラスやドアガラス、サンルーフガラス等の車両が有するガラス部であってもよい。このように、表示部4は、車両内に固定されている表示装置や投影等により表示可能な部位に限らず、車内に持ち込まれている端末等でもよく、つまりは車両に配置されていればよい。
【0023】
楽曲取得部5は、例えばカーオーディオ等により車内で再生されている、またはカーオーディオ等に記録されている楽曲データ等を取得する。なお、楽曲取得部5が楽曲データを取得するのはカーオーディオに限らず、近距離無線通信等により接続された携帯音楽再生機器や音楽再生機能を有するスマートフォン等でもよい。あるいは、外部ネットワークから配信される楽曲データであってもよい。
【0024】
楽曲情報取得部としての楽曲解析部6は、楽曲取得部5が取得した楽曲データに対して特徴量を解析する。特徴量としては、テンポ(BPM:Beats Per Minute)、リズム(拍子、ビート)等が挙げられる。これらの特徴量の解析は周知の方法で行えばよい。また、楽曲データ自体に含まれるジャンルの情報を取得してもよい。したがって、この特徴量やジャンル情報が楽曲に関する楽曲情報となる。
【0025】
操作部7は、例えばタッチパネルや押しボタン等で構成されている。操作部7は、上述した第1モードと第2モードとの切り替えを行うことができる。
【0026】
次に、上述した構成の表示制御装置1における動作(表示制御方法)について
図2のフローチャートを参照して説明する。
図2に示したフローチャートは表示制御部3で実行される。したがって、表示制御部3をCPU等を有するマイクロコンピュータ等で構成することで、表示制御方法を実行する表示制御プログラムとすることができる。
【0027】
まず、表示制御部3はライダ2が検出した点群情報を取得し(ステップS11)、楽曲解析部6で解析された解析結果(テンポ、リズム、ジャンル等)を取得する(ステップS12)。
【0028】
次に、操作部7等により選択された表示モードを判定する(ステップS13)。ここで、操作部7の例を
図3に示す。
図3は、例えばセンターコンソールの表示部に表示された操作用の画像40である。また、この表示部はタッチパネルを有しているものとする。或いは、表示部4をセンターコンソールの表示部として構成した場合は、表示部4の表示領域を操作用の画像の表示領域と点群情報に基づく画像の表示領域とに分割してもよい。
【0029】
図3において、画像40は、楽曲表示部41と、スライド部42と、ボタン44と、を備えている。楽曲表示部41は、2つの楽曲(アルバムやプレイリスト等の複数楽曲のまとまりでもよい)のタイトルやジャケット画像が左右に並べて配置されている。
図3の例では、左側にタイトル“AAAAA”とそのジャケット画像J1が表示され、右側にタイトル“BBBBB” とそのジャケット画像J2が表示されている。
【0030】
スライド部42は、スライダ43を有し、スライダ43は、指等によりドラッグすることでスライド部42において左右方向にスライド自在となっている。ボタン44は、ボタン44Lとボタン44Rとからなり、ボタン44Lは、スライダ43を左方向にスライドさせる。ボタン44Rは、スライダ43を右方向にスライドさせる。つまり、スライダ43は、ドラッグ操作により直接スライドさせることができ、さらにボタン44の操作によってもスライドさせることができる。
【0031】
図3では、スライダ43を左端にスライドさせた場合は第1モード、右端にスライドさせた場合は第2モードとし、左端と右端の間にスライダ43を停止させた場合は「MIX」とする。したがって、ステップS13で、スライダ43を左端にスライドさせた場合は第1モードと判断し、点群情報を第1モードの表示態様に加工する(ステップS14)。また、ステップS13で、スライダ43を右端にスライドさせた場合は第2モードと判断し、点群情報を第2モードの表示態様に加工する(ステップS15)。
【0032】
また、
図3では、スライダの位置で再生される楽曲と表示態様のモードとが対応している。即ち、第1モード、第2モードそれぞれに楽曲が設定されている。例えば、スライダ43を左端にスライドさせた場合は、タイトル“AAAAA”が第1モードの表示態様で再生され、スライダ43を右端にスライドさせた場合は、タイトル“BBBBB”が第2モードの表示態様で再生される。また、左端と右端の間にスライダ43を停止させた場合は「MIX」とし、双方の楽曲が混合して再生されるとともに、表示態様も2つの表示モードが重ね合わされる(組み合わされる)。
【0033】
したがって、ステップS13で、スライダ43を左端にスライドさせた場合は第1モードと判断し、点群情報を第1モードの表示態様に加工する(ステップS14)。また、ステップS13で、スライダ43を右端にスライドさせた場合は第2モードと判断し、点群情報を第2モードの表示態様に加工する(ステップS15)。
【0034】
ここで、第1モードの表示態様と第2モードの表示態様の例を
図4に示す。
図4上段は第1モードの表示態様の例である。本実施例の第1モードは、ライダ2が取得した点群情報に基づいて、点群をそのまま表示したような表示態様である。つまり、各地物が点群で再現されているような画像となっている。但し、地物ごとや距離に応じて点に色等を付けていてもよい。
【0035】
図4下段は第2モードの表示態様の例である。本実施例の第2モードは、ライダ2が取得した点群情報に基づいて、例えば地物の輪郭部分を強調する等のデフォルメをした表示態様となる画像である。
【0036】
本実施例では、表示態様のモードは2つであるが、3つ以上であってもよい。また、本実施例では、表示制御部3において、第1モード、第2モードのそれぞれに楽曲が設定され、再生している楽曲に応じて、一の表示モードで表示部4に表示されている画像の表示態様を後述する内容で変化させているが、各モードの表示態様は、複数の表示態様から楽曲に応じて選択されるようにしてもよい。或いは、楽曲のジャンルに応じて選択されるようにしてもよい。
【0037】
図5に第2モードの表示態様の他の例を示す。具体的には、楽曲解析部6により解析された第1モード、第2モードのそれぞれに設定された楽曲の楽曲情報を用いて、第2モードで表示された画像の表示態様の変化の例を示す。
図5において、例えばビル等の建物の壁面に円形のエフェクトE1、道路の縁石や白線等に沿って移動体の進行方向へ色彩や光等を表現した図形が移動するエフェクトE2、ビル等の建物の高さ方向に沿って色彩や光等が変化することで流れるような表示をするエフェクトE3がそれぞれ表示されている。これらのエフェクトE1~E3は楽曲の特徴量(テンポ(BPM)、リズム(拍子、ビート)、ジャンル等)によって円形や色彩、光等の点滅速度、色彩や光等を表現した図形の移動速度、色彩や光等の流れる速度が変化する。また、エフェクトE1と同様にビル等の建物の壁面に表示される円形のエフェクトE4は、楽曲のリズムによって円の大きさが変化する。即ち、楽曲の特徴量に基づいて、画像に施すエフェクトのタイミングが変化する。
図4下段や
図5は、例えば走行している街全体にプロジェクションマッピングを施したようなイメージである。
【0038】
また、ステップS13で、スライダ43を左端と右端の間に停止させた場合は「MIX」として、第1モードの表示態様の画像と第2モードの表示態様の画像とを重ね合わせた(組み合わせた)画像とする(ステップS16)。MIXの場合の表示態様の例を
図6に示す。2つの表示態様を重ね合わせる(組み合わせる)割合はスライダ43の位置により定めればよい。例えば、スライダ43の位置が左端に近い場合は第1モードの表示態様の割合を多くする。なお、この「MIX」表示は、例えば第1モードの表示態様からスライダ43を移動させて第2モードの表示態様へ徐々に移行させる際に表示が変化する場合も含まれる。
【0039】
つまり、スライダ43を左端から右端、或いは右端から左端に位置させた場合は、複数の表示モードのうち、一の表示モードの表示態様を選択して画像を表示部4に表示していることとなり、スライダ43を左端と右端の間に位置させた場合は、複数の表示モードによる表示態様の重ね合わせ(組み合わせ)比率を変化させて表示部4に表示していることとなる。即ち、スライダ43がスライド部42の中央から左端側に寄せた位置にある場合、第1モードの表示形態の画像と第2モードの表示形態の画像が重ね合わされた画像としては、第1モードの表示形態の画像の割合が、第2モードの表示形態の画像の割合より高くなった状態で、表示部4に表示していることとなる。
【0040】
そして、ステップS17において、ステップS14~S16のいずれかの表示態様で生成された画像を表示部4に表示する。
【0041】
本実施例によれば、表示制御装置1は、ライダ2が車両の周囲の地物を複数の点により表した点群情報を取得し、表示制御部3がそれぞれ表示態様が異なる2つの表示モードで点群情報に基づく画像を表示部4に表示させる。このようにすることにより、点群情報に基づいた画像を2つの表示態様により表示することができる。したがって、点群情報を利用して、エンタテインメント性を向上させることができる。
【0042】
例えば、
図4~
図6のような画像は、カメラで撮影した画像に基づいて加工を施すことにより生成することも可能であるが、カメラで撮影した画像では距離の情報が含まれていないので画像処理等で距離を推定する必要があり、表示制御装置として処理負荷が高くなる。それに対して、点群情報は、一点一点に距離の情報を有することから、画像処理等の解析を必要とせず、正しい奥行きの情報を得ることができる。したがって、カメラ画像よりも処理負荷が低く、精緻な表現をすることが可能となる。そのため、エンタテインメント性を向上させた画像を低い処理負荷で表示することができる。
【0043】
また、表示制御部3は、2つの表示モードにより画像を切り替えて表示部4に表示させている。このようにすることにより、適宜2つの表示モードを切り替えることにより、表示態様を変化させた画像を表示させることができる。
【0044】
また、表示制御部3は、2つの表示モードによる画像の重ね合わせ(組み合わせ)比率を変化させて表示部4に表示させている。このようにすることにより、2つの表示モードの表示態様を重ね合わせ(組み合わせ)たような表示をすることができ、表示のバリエーションを増やすことが可能となる。本実施例では、2つの表示モード(第1モード、第2モード)と、2つの表示モードの画像の重ね合わせ(組み合わせ)としていたが、本発明はこれに限定されない。2つの表示モードの画像の重ね合わせ(組み合わせ)を第3モードとして、3つの表示モードを切り替えるようにしてもよい。
【0045】
また、2つの表示モードのそれぞれに楽曲が設定され、表示制御部3は、再生される楽曲に応じて、一の表示モードで表示部4に表示されている画像の表示態様を変化させている。このようにすることにより、楽曲のイメージに合った表示態様で画像を表示させることができる。
【0046】
また、2つの表示モードのうち第2モードは、第1モードの表示態様をデフォルメした表示態様により表示している。このようにすることにより、第1モードの表示態様をベースにしてデフォルメした表示態様で表示することができる。
【0047】
また、楽曲解析部6が解析または取得する楽曲情報としては、当該楽曲の特徴量、ジャンル情報を含んでいる。このようにすることにより、テンポやリズム等の楽曲の特徴量、楽曲のジャンルといったことに基づいて表示態様を変化させることができる。
【0048】
また、表示制御部3は、楽曲の特徴量に基づいて、画像に施すエフェクトのタイミングを変化させている。このようにすることにより、例えば楽曲のテンポやリズムに合わせてエフェクトを施したり変化させたりすることができる。
【0049】
なお、楽曲解析部6は、楽曲データにジャケット画像を含む場合は、そのジャケット画像を取得して、そのジャケット画像に基づいて表示態様を変化させてもよい。例えば、楽曲のジャケット画像に基づいて、色合い等を決定してもよい。これは、再生中の楽曲のジャケットが、赤系統の色が多く使用されていた場合は、表示態様として赤系統を中心とした色合いとすることができる。あるいは、ジャケット画像を表示態様の中に含めてもよい。例えば、
図5のエフェクトE1やE4の円形状の画像に替えて、ジャケット画像としてもよい。ジャケット画像の一部の文字・形状やロゴマーク等を抜き出して表示してもよい。このようにすることにより、再生している楽曲の世界観を視覚的に体感することができる。
【0050】
また、楽曲の特徴量として、テンポやリズムに限らず、Aメロ、Bメロ、サビといった楽曲の構造によりエフェクトを変化させてもよい。例えば、サビの盛り上がる部分では派手なエフェクトを施すといった演出をしてもよい。
【0051】
また、
図1に示した構成では、ライダ2で取得した点群情報をリアルタイムに表示制御部3で処理していたが、
図7に示すように、点群情報を記憶部9に予め記憶させ、表示制御部3Aが、現在位置推定部8で推定した現在位置に対応する点群情報を記憶部9から読み出して所定の加工を施すようにしてもよい。即ち、
図7の場合は表示制御装置3Aが点群情報取得部として機能する。
【0052】
現在位置推定部8は、表示制御装置1Aが搭載される車両の現在位置を推定する。現在位置推定部8は、例えばGPS(Global Positioning System)受信機により構成され、GPS衛星から受信した電波により現在位置を表す緯度及び経度の位置情報を推定すればよい。
【0053】
なお、
図7では、表示制御装置1Aが記憶部9を備えているが、このような3Dデータはデータ量が多いので外部サーバ等に格納し、外部サーバと通信する通信装置を備えて、表示制御部3Aが、通信装置を介して点群情報を取得するようにしてもよい。
【0054】
また、ライダ2が取得した点群情報には、車両の周囲に存在する物体を示す情報、例えば利用者であるドライバーが注意すべき歩行者や、他車両を示す情報が含まれている。したがって、当該点群情報を利用してエンタテインメント性を持った画像を表示させることで、ドライバーは当該画像を楽しみつつ、注意すべき物体等を監視することができる。これに伴い、ドライバーが持つ安心感を向上させることができることとなる。
【0055】
また、本発明は上記実施例に限定されるものではない。即ち、当業者は、従来公知の知見に従い、本発明の骨子を逸脱しない範囲で種々変形して実施することができる。かかる変形によってもなお本発明の表示制御装置の構成を具備する限り、勿論、本発明の範疇に含まれるものである。