(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-09
(45)【発行日】2022-12-19
(54)【発明の名称】3次元モデリングのための方法及び装置、電子機器、記憶媒体並びにコンピュータプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20221212BHJP
【FI】
G06T7/00 650Z
【外国語出願】
(21)【出願番号】P 2021053237
(22)【出願日】2021-03-26
【審査請求日】2021-05-20
(31)【優先権主張番号】202010605153.4
(32)【優先日】2020-06-29
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】514322098
【氏名又は名称】ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】Beijing Baidu Netcom Science Technology Co., Ltd.
【住所又は居所原語表記】2/F Baidu Campus, No.10, Shangdi 10th Street, Haidian District, Beijing 100085, China
(74)【代理人】
【識別番号】110000914
【氏名又は名称】弁理士法人WisePlus
(72)【発明者】
【氏名】リゥ, イーミン
【審査官】片岡 利延
(56)【参考文献】
【文献】米国特許出願公開第2003/0128182(US,A1)
【文献】特開2014-044569(JP,A)
【文献】特開2012-025327(JP,A)
【文献】特開2015-210584(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00 - 1/40
G06T 3/00 - 9/40
G06T 11/00 - 11/40
G06T 15/00 - 17/30
G08G 1/00 - 99/00
(57)【特許請求の範囲】
【請求項1】
自動運転車両の周囲環境における障害物の車両座標系における座標点を取得することと、
前記自動運転車両に乗る乗客の目の所在位置を確定し、前記乗客の目の所在位置を座標原点として目座標系を構築することと、
前記障害物の前記車両座標系における座標点を前記目座標系における座標点に変換し、乗客の目の観察角度での前記周囲環境における障害物間の可視化距離を確定することと、
前記障害物の前記目座標系における座標点と前記障害物間の可視化距離に基づいて、前記周囲環境の3次元モデリングを行うことと、
を含
み、
前記乗客の目の観察角度での前記周囲環境における障害物間の可視化距離を確定することは、
前記周囲環境から対象領域を選択することと、
前記対象領域の障害物から基準障害物を選択することと、
前記目座標系の座標原点を始点として、前記基準障害物の座標点を通る半直線を生成することと、
前記対象領域における前記基準障害物を除く他の障害物毎に、該他の障害物の座標点を始点として前記半直線の垂線を作成し、前記垂線の長さを該他の障害物と前記基準障害物との間の可視化距離とすることと、を含む、
3次元モデリングのための方法。
【請求項2】
前記障害物の前記目座標系における座標点と前記障害物間の可視化距離に基づいて、前記周囲環境の3次元モデリングを行うことは、
前記基準障害物の前記目座標系における座標点に基づいて、前記基準障害物を3次元モデリングすることと、
前記対象領域における前記基準障害物を除く他の障害物と前記基準障害物との間の可視化距離を用いて、前記他の障害物の位置を確定することと、
前記他の障害物の位置を利用し、前記他の障害物を3次元モデリングすることと、を含む請求項
1に記載の方法。
【請求項3】
前記基準障害物の前記目座標系における座標点に基づいて、前記基準障害物を3次元モデリングすることは、
前記他の障害物と前記基準障害物との可視化距離、前記他の障害物と前記基準障害物との実距離、及び前記乗客の目と前記基準障害物との実距離に基づいて、前記乗客の目と前記基準障害物との間の可視化距離を確定することと、
前記基準障害物の前記目座標系における座標点と、前記乗客の目と前記基準障害物との間の可視化距離とを利用して、前記基準障害物の位置を確定することと、
前記基準障害物の位置を用いて、前記基準障害物を3次元モデリングすることと、を含む請求項
2に記載の方法。
【請求項4】
前記周囲環境から対象領域を選択することは、
前記周囲環境を区画し、区画された領域から対象領域を選択することを含む請求項
1に記載の方法。
【請求項5】
自動運転車両の周囲環境における障害物の車両座標系における座標点を取得するように構成される取得ユニットと、
前記自動運転車両に乗る乗客の目の所在位置を確定し、前記乗客の目の所在位置を座標原点として目座標系を構築するように構成される構築ユニットと、
前記障害物の前記車両座標系における座標点を前記目座標系における座標点に変換し、乗客の目の観察角度での前記周囲環境における障害物間の可視化距離を確定するように構成される確定ユニットと、
前記障害物の前記目座標系における座標点と前記障害物間の可視化距離に基づいて、前記周囲環境の3次元モデリングを行うように構成されるモデリングユニットと、を含
み、
前記確定ユニットはさらに、
前記周囲環境から対象領域を選択し、
前記対象領域の障害物から基準障害物を選択し、
前記目座標系の座標原点を始点として、前記基準障害物の座標点を通る半直線を生成し、
前記対象領域における前記基準障害物を除く他の障害物毎に、該他の障害物の座標点を始点として前記半直線の垂線を作成し、前記垂線の長さを該他の障害物と前記基準障害物との間の可視化距離とするように構成される、
3次元モデリングのための装置。
【請求項6】
前記モデリングユニットはさらに、
前記基準障害物の前記目座標系における座標点に基づいて、前記基準障害物を3次元モデリングし、
前記対象領域における前記基準障害物を除く他の障害物と前記基準障害物との間の可視化距離を用いて、前記他の障害物の位置を確定し、
前記他の障害物の位置を利用し、前記他の障害物を3次元モデリングするように構成される請求項
5に記載の装置。
【請求項7】
前記モデリングユニットはさらに、
前記他の障害物と前記基準障害物との可視化距離、前記他の障害物と前記基準障害物との実距離、及び前記乗客の目と前記基準障害物との実距離に基づいて、前記乗客の目と前記基準障害物との間の可視化距離を確定し、
前記基準障害物の前記目座標系における座標点と、前記乗客の目と前記基準障害物との間の可視化距離とを利用して、前記基準障害物の位置を確定し、
前記基準障害物の位置を用いて、前記基準障害物を3次元モデリングするように構成される請求項
6に記載の装置。
【請求項8】
前記確定ユニットはさらに、
前記周囲環境を区画し、区画された領域から対象領域を選択するように構成される請求項
5に記載の装置。
【請求項9】
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信可能に接続されたメモリと、
を備える電子機器であって、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能な命令が格納されており、前記命令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに請求項1~
4のいずれか1項に記載の方法を実行させる、電子機器。
【請求項10】
コンピュータ命令が格納されている非一時的コンピュータ可読記憶媒体であって、
前記コンピュータ命令は前記コンピュータに請求項1~
4のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体。
【請求項11】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサによって実行されると、請求項1~
4のいずれか1項に記載の方法を実現する、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本出願の実施例は、コンピュータ技術分野に関し、特に高度道路交通分野及び自動運転分野に関する。
【背景技術】
【0002】
自動運転車両はスマート自動車の一種であり、ホイール式移動ロボットと呼ばれてもよく、主に車内のコンピュータシステムを主とするスマート運転計によって自動運転の目的を実現する。現在、自動運転車両は一般的に周囲環境に対する感知を車載スクリーンに投射し、乗客の車両感知能力に対する信頼性を向上させる。したがって、自動運転車両の周囲環境をどのように3次元モデリングし、乗客がスクリーンを介して見える自動運転車両の周囲環境を、車両の窓を介して見えるものにより近づけるかは、解決すべき問題である。
【発明の概要】
【課題を解決するための手段】
【0003】
本出願は、3次元モデリングのための方法および装置、電子機器、記憶媒体並びにコンピュータプログラムを提供する。
【0004】
第1態様によれば、自動運転車両の周囲環境における障害物の車両座標系における座標点を取得することと、自動運転車両に乗る乗客の目の所在位置を確定し、乗客の目の所在位置を座標原点として目座標系を構築することと、障害物の車両座標系における座標点を目座標系における座標点に変換し、乗客の目の観察角度での周囲環境における障害物間の可視化距離を確定することと、障害物の目座標系における座標点と障害物間の可視化距離に基づいて、周囲環境の3次元モデリングを行うことと、を含む3次元モデリングのための方法を提供する。
【0005】
第2態様によれば、自動運転車両の周囲環境における障害物の車両座標系における座標点を取得するように構成される取得ユニットと、自動運転車両に乗る乗客の目の所在位置を確定し、乗客の目の所在位置を座標原点として目座標系を構築するように構成される構築ユニットと、障害物の車両座標系における座標点を目座標系における座標点に変換し、乗客の目の観察角度での周囲環境における障害物間の可視化距離を確定するように構成される確定ユニットと、障害物の目座標系における座標点と障害物間の可視化距離に基づいて、周囲環境の3次元モデリングを行うように構成されるモデリングユニットと、を含む3次元モデリングのための装置を提供する。
【0006】
第3態様によれば、少なくとも1つのプロセッサと、少なくとも1つのプロセッサと通信可能に接続されたメモリと、を備える電子機器であって、メモリには、少なくとも1つのプロセッサによって実行可能な命令が格納されており、命令が少なくとも1つのプロセッサによって実行されると、少なくとも1つのプロセッサに第1態様のいずれか1項に記載の方法を実行させる、電子機器を提供する。
【0007】
第4態様によれば、コンピュータ命令が格納されている非一時的コンピュータ可読記憶媒体であって、コンピュータ命令はコンピュータに第1態様のいずれか1項に記載の方法を実行させるために用いられる、非一時的コンピュータ可読記憶媒体を提供する。
【0008】
第5態様によれば、コンピュータプログラムであって、前記コンピュータプログラムがプロセッサによって実行されると、第1態様のいずれか1項に記載の方法を実現する、コンピュータプログラムを提供する。
【0009】
本出願の技術によれば、まず、自動運転車両の周囲環境における障害物の車両座標系における座標点を取得し、次に上記自動運転車両に乗る乗客の目の所在位置を確定し、上記乗客の目の所在位置を座標原点として目座標系を構築し、次に上記障害物の上記車両座標系における座標点を上記目座標系における座標点に変換し、乗客の目の観察角度での上記周囲環境における障害物間の可視化距離を確定し、最後に上記障害物の上記目座標系における座標点と上記障害物との間の可視化距離に基づいて、上記周囲環境の3次元モデリングを行う。このようにして、乗客が車載スクリーンを介して見える自動運転車両の周囲環境が窓を介して見える周囲環境により近づくように、乗客の目の観察角度での周囲環境における障害物の距離を確定することができる。
【0010】
なお、発明の概要に記載された内容は、本出願の実施形態のかなめとなる特徴又は重要な特徴を限定することを意図するものではなく、本出願の範囲を限定するものでもない。本出願の他の特徴は、以下の説明によって容易に理解されるであろう。
【0011】
図面は本出願をよりよく理解するために用いられ、本出願に対する限定を構成しない。
【図面の簡単な説明】
【0012】
【
図1】本出願に係る3次元モデリングのための方法の一実施例を示すフローチャートである。
【
図2】本出願に係る3次元モデリングのための方法における障害物間の可視化距離を確定する一実施例のフローチャートである。
【
図3】本出願に係る3次元モデリングのための方法における障害物の目座標系における座標点の概略図である。
【
図4】本出願に係る3次元モデリングのための方法における周囲環境を3次元モデリングする一実施例を示すフローチャートである。
【
図5】本出願に係る3次元モデリングのための方法における区画領域の一実施例の概略図である。
【
図6】本出願に係る3次元モデリングのための装置の一実施例を示す構造概略図である。
【
図7】本出願の実施例を達成するための電子機器に適用されるコンピュータシステムの構造概略図である。
【発明を実施するための形態】
【0013】
以下は図面を参照して本出願の例示的な実施例を説明しており、ここでは理解を容易にするため、本出願の実施例の様々な詳細が記載されるが、これらは単なる例示的なものに過ぎない。従って、本出願の範囲および要旨を逸脱しない限り、当業者が本明細書の実施例に対して様々な変更や修正を行うことができることは自明である。なお、以下の説明では、明確化及び簡略化のため、公知の機能及び構成については説明を省略する。
【0014】
図1は、本出願に係る3次元モデリングのための方法の一実施例のフロー100を示す。当該3次元モデリングのための方法は、ステップ101~104を含む。
【0015】
ステップ101:自動運転車両の周囲環境における障害物の車両座標系における座標点を取得する。
【0016】
本実施例において、3次元モデリングのための方法の実行主体(例えば、自動運転車両の車載端末装置)は自動運転車両の周囲環境における障害物の車両座標系における座標点を取得することができる。上記自動運転車両に車載カメラ及びライダ等のセンサが取り付けられ、これらのセンサは上記自動運転車両の周囲環境を感知することができ、周囲環境における各種障害物の空間座標を取得し、予めキャリブレートされた車両座標系により、各センサが取得した障害物の空間座標を融合し、障害物の上記自動運転車両の車両座標系における座標点を得ることができる。上記車両座標系は、自動運転車両の中心点を座標原点とする座標系であってもよい。上記車両座標系は自動運転車両の進行方向をX座標軸又はY座標軸とすることができる。
【0017】
ここで、上記周囲環境における障害物は、車両、歩行者、建物、樹木及びバリケードを含むが、これらに限定されない。
【0018】
ステップ102:自動運転車両に乗る乗客の目の所在位置を確定し、乗客の目の所在位置を座標原点として目座標系を構築する。
【0019】
本実施例において、上記実行主体は、上記自動運転車両に乗る乗客の目の所在位置を特定することができる。上記自動運転車両に目感知装置(例えば、車内カメラ及び赤外線感知装置)を取り付けることができ、上記目感知装置を利用して乗客の目を感知することにより目の所在位置を特定することができる。その後、上記実行主体は上記目の所在位置を座標原点として目座標系を構築することができる。上記目座標系のX座標軸またはY座標軸は自動運転車両の進行方向であってもよい。
【0020】
ステップ103:障害物の車両座標系における座標点を目座標系における座標点に変換し、乗客の目の観察角度での周囲環境における障害物間の可視化距離を確定する。
【0021】
本実施例において、上記実行主体は、上記障害物の上記車両座標系における座標点を、上記目座標系における座標点に変換することができる。ここで、上記実行主体は、上記車両座標系と上記目座標系の座標点との1対1の対応関係を利用して座標軸の並進や回転等の操作により座標変換を行うことができる。
【0022】
例として、障害物Aの上記車両座標系における座標点は(3,3,3)であり、目の上記車両座標系における座標点は(1,1,1)である場合、目の位置(1,1,1)を目座標系の座標原点とすると、障害物Aの上記目座標系における新たな座標点は(2,2,2)である。
【0023】
そして、上記実行主体は、乗客の目の観察角度で、上記周囲環境における障害物間の可視化距離を確定することができる。可視化は、コンピュータグラフィックス及び画像処理技術を利用して、データをグラフィックス又は画像に変換してスクリーンに表示し、さらにインタラクション処理を行う理論、方法及び技術である。ここで、上記可視化距離は、上記周囲環境における障害物の画像を車載スクリーンに表示する際に依拠する距離であってもよい。車載スクリーンに障害物を表示する必要がある場合、上記可視化距離を一定の割合でスケーリングすることにより上記周囲環境における障害物の位置を確定することができる。
【0024】
ステップ104:障害物の目座標系における座標点と障害物間の可視化距離に基づいて、周囲環境を3次元モデリングする。
【0025】
本実施例において、上記実行主体は、上記目座標系における上記障害物の座標点と上記障害物との可視化距離に基づいて、上記周囲環境を3次元モデリングすることができる。ここで、上記実行主体は、障害物と上記目との距離及び障害物間の距離に基づいて、上記周囲環境における各障害物の位置を特定することで、上記周囲環境を3次元モデリングすることができる。
【0026】
なお、自動運転車両には乗客が着座するため、障害物と乗客の目との距離が障害物と自動運転車両との距離として考えることもできる。
【0027】
本実施例において、上記実行主体は、上記周囲環境を3次元モデリングした後に、モデリングされた周囲環境をレンダリングしてもよい。レンダリングは、画像を3Dシーンに適合させる段階であってもよい。
【0028】
本実施例において、3次元モデリングは3Dモデリングとも呼ばれ、一般的には3次元制作ソフトウェアを利用して仮想3次元空間により3次元データを有するモデルを構築することを指す。3DモデリングはNURBS(Non-Uniform Rational B-Splines、不均一な有理Bスプライン)及びポリゴンメッシュという2つのモデリング方式を含むことができる。NURBSは、高度な3次元ソフトウェアにおいてサポートされる非常に優れたモデリング方式である。ポリゴンメッシュは、3Dオブジェクトを構成する頂点、エッジ、および面の集合であり、各3Dキャラクタおよびオブジェクトの形状および輪郭を定義する。ポリゴンメッシュの各頂点は、x、y、z座標情報を記憶する。NURBSは従来のメッシュモデリング方式よりも物体表面の曲線度をよりよく制御することができ、それによりよりリアルで鮮やかな造形を作成することができる。
【0029】
本出願の上記実施例により提供された方法によれば、乗客が車載スクリーンを介して見える自動運転車両の周囲環境が窓を介して見える周囲環境により近づくように、乗客の観察角度で周囲環境における障害物の距離を確定することができる。
【0030】
本実施例のいくつかの代替的な実現形態において、上記実行主体は上記周囲環境から対象領域を選択するという方式で、乗客の目の観察角度から上記周囲環境における障害物の間の可視化距離を確定することができる。上記対象領域は、予め計画された領域であってもよく、例えば、上記自動運転車両の前方または後方50メートルの範囲内の領域であってもよく、上記自動運転車両の左側または右側50メートルの範囲内の領域であってもよく、上記周囲環境全体を対象領域としてもよい。その後、上記実行主体は、上記対象領域内の障害物間の可視化距離を確定することができる。具体的には、上記実行主体は、上記対象領域における障害物の中から対象障害物を選択してもよく、例えば、上記対象領域の障害物の中から任意に1つの障害物を対象障害物として選択してもよく、上記対象領域の障害物の中から目座標系の座標原点に最も近い障害物を対象障害物として選択してもよい。
【0031】
その後、対象障害物に基づいて、上記対象領域において対象障害物に最も近い障害物(第1障害物)と対象障害物との間の可視化距離を確定するという可視化距離確定ステップを実行することができる。ここで、上記目座標系の座標原点を円の中心とし、座標原点から第1障害物までの距離を半径として円を作成し、座標原点を始点とし、対象障害物の座標点を通る半直線と円との交点を目標点とすることができ、目標点と第1障害物の座標点とを結ぶ線の距離を、第1障害物と対象障害物との可視化距離として確定することができる。そして、可視化距離が確定されていない障害物が上記対象領域内に存在するか否かを判定することができる。
【0032】
可視化距離が確定されていない障害物が存在すれば、可視化距離が確定されていない障害物を対象障害物として、上記可視化距離確定ステップを引き続き実行することができる。
【0033】
該実施形態は可視化距離の算出方式を提供し、それにより可視化距離の算出方式を多様化することができる。
【0034】
次に
図2を参照すると、3次元モデリングのための方法における障害物間の可視化距離を確定する一実施例のフロー200が示されている。該障害物間の可視化距離を確定するフロー200は、以下のステップ201~204を含む。
【0035】
ステップ201:周囲環境から対象領域を選択する。
【0036】
本実施例において、3次元モデリングのための方法の実行主体(例えば、自動運転車両の車載端末装置)は上記周囲環境から対象領域を選択することができる。上記対象領域は、予め計画された領域であってもよく、例えば、上記自動運転車両の前方または後方50メートルの範囲内の領域であってもよく、上記自動運転車両の左側または右側50メートルの範囲内の領域であってもよく、上記周囲環境全体を対象領域としてもよい。
【0037】
ステップ202:対象領域の障害物から基準障害物を選択する。
【0038】
本実施例において、上記実行主体は上記対象領域の障害物から基準障害物を選択することができる。一例として、上記対象領域の障害物の中から、上記自動運転車両に最も近い障害物を基準障害物として選択することができる。
【0039】
ステップ203:目座標系の座標原点を始点として、基準障害物の座標点を通る半直線を生成する。
【0040】
本実施例において、上記実行主体は、上記目座標系の座標原点を始点として、上記基準障害物の座標点を通る半直線を生成することができる。
【0041】
図3に示すように、
図3は本出願に係る3次元モデリングのための方法における障害物の目座標系における座標点の概略図を示す。
図3において、目座標系の座標原点はOであり、OAは自動運転車両の車載スクリーンに垂直な線分であり、点Bは基準障害物Bの座標点であり、点Cは障害物Cの座標点である。上記実行主体は、目座標系の座標原点Oを始点として、
図3の半直線ODのように、基準障害物の座標点Bを通る半直線を生成することができる。
【0042】
ステップ204:対象領域における基準障害物を除く他の障害物毎に、当該他の障害物の座標点を始点として半直線の垂線を作成し、垂線の長さを当該他の障害物と基準障害物との間の可視化距離として確定する。
【0043】
本実施例において、上記実行主体は、上記対象領域における基準障害物を除く他の障害物毎に、当該他の障害物の座標点を始点として、上記半直線の垂線を作成してもよい。上記垂線の長さを、当該他の障害物と上記基準障害物との可視化距離として確定することができる。
【0044】
図3に示すように、障害物Cについては、障害物Cの座標点Cを始点として、半直線ODの垂線を作成して垂線CDを得ることができ、垂線CDの長さを障害物Cと基準障害物Bとの可視化距離として確定することができる。ここで、線分OBと線分OAとの間の夾角をαとすると、線分CDと線分CBとの間の夾角もαであり、線分CBの長さが既知であるため、三角関数の関係により、線分CD=cosα×CBであることを確定することができる。
【0045】
本出願の上記実施例により提供された方法は、さらに他の可視化距離の算出方式を提供し、このような可視化距離の算出方式によれば、他の障害物と基準障害物との間の可視化距離をより正確に確定することができる。
【0046】
さらに
図4を参照すると、3次元モデリングのための方法における、周囲環境を3次元モデリングする一実施例のフロー400が示されている。当該周囲環境を3次元モデリングするフロー400は、ステップ401~403を含む。
【0047】
ステップ401:基準障害物の目座標系における座標点に基づいて基準障害物を3次元モデリングする。
【0048】
本実施例において、3次元モデリングのための方法の実行主体(例えば、自動運転車両の車載端末装置)は、基準障害物の目座標系における座標点に基づいて、上記基準障害物を3次元モデリングすることができる。具体的には、上記実行主体は、上記基準障害物の上記目座標系における座標点に基づいて、上記基準障害物と上記自動運転車両との相対的な位置関係を特定して、上記基準障害物を3次元モデリングすることができる。なお、周囲環境の相対的な位置関係をよりよく表現するために、上記自動運転車両を3次元モデリングする必要がある。
【0049】
ここで、上記基準障害物を3次元モデリングした後、上記実行主体はモデリングされた基準障害物をレンダリングすることができる。レンダリングは、画像を3Dシーンに適合させる段階であってもよい。
【0050】
ステップ402:対象領域における基準障害物を除く他の障害物と基準障害物との間の可視化距離を用いて、他の障害物の位置を確定する。
【0051】
本実施例において、上記実行主体は、上記対象領域における上記基準障害物を除く他の障害物と上記基準障害物との間の可視化距離を用いて、上記他の障害物の位置を確定することができる。ここで、上記実行主体は、上記他の障害物と上記基準障害物との上記目座標系における座標点に基づいて、上記他の障害物と上記基準障害物との相対的な方位関係を確定することができる。上記実行主体は、上記他の障害物と上記基準障害物との相対的な方位関係を保持したまま、上記他の障害物を上記基準障害物の方向に並進させ、上記他の障害物と上記基準障害物との距離が上記可視化距離になると、当該位置を上記他の障害物の位置として確定することができる。
【0052】
ステップ403:他の障害物の位置を用いて他の障害物を3次元モデリングする。
【0053】
本実施例において、上記実行主体は上記他の障害物の位置において、上記他の障害物を3次元モデリングすることができる。上記他の障害物を3次元モデリングした後、上記実行主体はモデリングされた他の障害物をレンダリングすることができる。
【0054】
本出願の上記実施例により提供された方法は、基準障害物を基準として、他の障害物の位置関係を確定することができ、ある障害物の位置が誤っていることにより他の障害物の位置特定に影響を与えることを防止できる。
【0055】
本実施例のいくつかの代替的な実現形態において、上記実行主体は以下のステップ(ステップ1~3)により上記基準障害物の上記目座標系における座標点に基づいて上記基準障害物を3次元モデリングすることができる。
【0056】
ステップ1:上記他の障害物と上記基準障害物との可視化距離、上記他の障害物と上記基準障害物との実距離、及び乗客の目と上記基準障害物との実距離に基づいて、上記目と上記基準障害物との可視化距離を確定する。
【0057】
ここで、上記対象領域における上記基準障害物を除く他の障害物毎に、当該他の障害物と上記基準障害物との可視化距離をa’、当該他の障害物と上記基準障害物との実距離をa、上記目と上記基準障害物との実距離をc、上記目と上記基準障害物との可視化距離をc’とする。視覚的比例関係a’/a=c’/cにより、c’=c×a’/aを得ることができる。当該他の障害物と上記基準障害物との可視化距離a’、当該他の障害物と上記基準障害物との実距離a、及び乗客の目と上記基準障害物との実距離cは既知であるので、この他の障害物を根拠とした場合の上記乗客の目と上記基準障害物との可視化距離c’は、上記式c’=c×a’/aにより求めることができる。
【0058】
上記他の障害物の数が少なくとも2つであれば、上記実行主体は、少なくとも2つの他の障害物を根拠とする場合、得られた上記乗客の目と上記基準障害物との少なくとも2つの可視化距離を加重平均演算して、上記乗客の目と上記基準障害物との可視化距離を得ることができる。
【0059】
なお、自動運転車両には乗客が着座しているため、障害物と乗客の目との距離を障害物と自動運転車両との距離として考えることもできる。
【0060】
ステップ2:上記基準障害物の上記目座標系における座標点と、上記乗客の目と上記基準障害物との可視化距離とを用いて、上記基準障害物の位置を確定する。
【0061】
ここで、上記実行主体は、上記基準障害物の上記目座標系における座標点に基づいて、上記基準障害物と上記乗客の目との相対的な方位関係を確定することができる。その後、上記実行主体は、上記基準障害物と上記乗客の目との相対的な方位関係を保持したまま、上記基準障害物を上記乗客の目の方向に並進させ、上記基準障害物と上記乗客の目との距離が、上記乗客の目と上記基準障害物との可視化距離になると、当該位置を上記基準障害物の位置として確定することができる。
【0062】
なお、上記基準障害物を上記乗客の目の方向に並進させた後も、障害物同士の相対的な位置関係を保証するために、他の障害物を上記乗客の目の方向に相応に並進させる必要がある。
【0063】
ステップ3:上記基準障害物の位置を用いて、上記基準障害物を3次元モデリングする。
【0064】
ここで、上記実行主体は上記基準障害物の位置において、上記基準障害物を3次元モデリングすることができる。上記実行主体は、上記基準障害物を3次元モデリングした後、モデリングした上記基準障害物をレンダリングしてもよい。
【0065】
このようにして、視覚的比例関係により、複数の他の障害物に基づいて、上記乗客の目と上記基準障害物との可視化距離を総合的に算出することができる。これにより、上記乗客の目と上記基準障害物との可視化距離をより正確かつ合理的に確定することができる。
【0066】
本実施例のいくつかの代替的な実現形態において、上記実行主体は上記周囲環境を区画するように上記周囲環境から対象領域を選択することができる。一般に、区画された領域が多いほど、各領域において確定される可視化距離はより正確になる。そして、区画された領域の中から任意の領域を対象領域として選択することができる。周囲環境を区画することにより、区画された対象領域毎に領域内の障害物間の可視化距離を確定することで、可視化距離をより正確に確定することができる。
【0067】
図5に示すように、
図5は、本出願に係る3次元モデリングのための方法における区画領域の一実施例の概略図を示す。
図5では、上記周囲環境を4つの領域に区画することができる。領域1は、自動運転車両の前方、左側部分領域および右側部分領域を含む。領域2は、自動運転車両の左側、前方部分領域および後方部分領域を含む。領域3は、自動運転車両の後方、左側部分領域および右側部分領域を含む。領域4は、自動運転車両の右側、前方部分領域および後方部分領域を含む。
【0068】
更に
図6を参照すると、上記の各図に示された方法の実施態様として、本出願は、3次元モデリングのための装置の一実施例を提供し、当該装置の実施例は、
図1に示された方法の実施例に対応しており、当該装置は、具体的に様々な電子機器に適用することができる。
【0069】
図6に示すように、本実施例に係る3次元モデリングのための装置600は、取得ユニット601と、構築ユニット602と、確定ユニット603と、モデリングユニット604とを備える。取得ユニット601は、自動運転車両の周囲環境における障害物の車両座標系における座標点を取得するように構成される。構築ユニット602は、自動運転車両に乗る乗客の目の所在位置を確定し、乗客の目の所在位置を座標原点として目座標系を構築するように構成される。確定ユニット603は、障害物の車両座標系における座標点を目座標系における座標点に変換し、乗客の目の観察角度での周囲環境における障害物間の可視化距離を確定するように構成される。モデリングユニット604は、障害物の目座標系における座標点と障害物間の可視化距離に基づいて、周囲環境の3次元モデリングを行うように構成される。
【0070】
本実施例において、3次元モデリングのための装置600の取得ユニット601、構築ユニット602、確定ユニット603及びモデリングユニット604の具体的な処理及びそれによる技術的効果はそれぞれ
図1の対応する実施例におけるステップ101~104の関連する説明を参照することができ、ここで説明を省略する。
【0071】
本実施例のいくつかの代替的な実現形態において、上記確定ユニット603は上記周囲環境から対象領域を選択するという方式で、乗客の目の観察角度での上記周囲環境における障害物の間の可視化距離を確定することができる。上記対象領域は、予め計画された領域であってもよく、例えば、上記自動運転車両の前方または後方50メートルの範囲内の領域であってもよく、上記自動運転車両の左側または右側50メートルの範囲内の領域であってもよく、上記周囲環境全体を対象領域としてもよい。その後、上記確定ユニット603は、上記対象領域内の障害物間の可視化距離を確定することができる。具体的には、上記確定ユニット603は、上記対象領域における障害物の中から対象障害物を選択してもよく、例えば、上記対象領域の障害物の中から任意に1つの障害物を対象障害物として選択してもよく、上記対象領域の障害物の中から目座標系の座標原点に最も近い障害物を対象障害物として選択してもよい。
【0072】
その後、対象障害物に基づいて、上記対象領域において対象障害物に最も近い障害物(第1障害物)と対象障害物との間の可視化距離を確定するという可視化距離確定ステップを実行することができる。ここで、上記目座標系の座標原点を円の中心とし、座標原点から第1障害物までの距離を半径として円を作成し、座標原点を始点とし、対象障害物の座標点を通る半直線と円との交点を目標点とすることができ、目標点と第1障害物の座標点とを結ぶ線の距離を、第1障害物と対象障害物との可視化距離として確定することができる。そして、可視化距離が確定されていない障害物が上記対象領域内に存在するか否かを判定することができる。
【0073】
可視化距離が確定されていない障害物が存在すれば、可視化距離が確定されていない障害物を対象障害物として、上記可視化距離確定ステップを引き続き実行することができる。
【0074】
該実施形態は可視化距離の算出方式を提供し、それにより可視化距離の算出方式を多様化することができる。
【0075】
本実施例のいくつかの代替的な実現形態において、上記確定ユニット603は上記対象領域の障害物から基準障害物を選択することができる。一例として、上記対象領域の障害物の中から、上記自動運転車両に最も近い障害物を基準障害物として選択することができる。次に、上記確定ユニット603は、上記目座標系の座標原点を始点として、上記基準障害物の座標点を通る半直線を生成することができる。上記確定ユニット603は、上記対象領域における基準障害物を除く他の障害物毎に、当該他の障害物の座標点を始点として、半直線の垂線を作成することができる。上記垂線の長さを、当該他の障害物と上記基準障害物との可視化距離として確定することができる。
【0076】
本実施例のいくつかの代替的な実現形態において、上記モデリングユニット604は基準障害物の目座標系における座標点に基づいて上記基準障害物を3次元モデリングすることができる。具体的には、上記モデリングユニット604は、上記基準障害物の上記目座標系における座標点に基づいて、上記基準障害物と上記自動運転車両との相対的な位置関係を特定することで、上記基準障害物を3次元モデリングすることができる。なお、周囲環境の相対的な位置関係をよりよく表現するために、上記自動運転車両を3次元モデリングする必要がある。
【0077】
次に、上記モデリングユニット604は、上記対象領域における上記基準障害物を除く他の障害物と上記基準障害物との間の可視化距離を用いて、上記他の障害物の位置を確定することができる。ここで、上記モデリングユニット604は、上記他の障害物と上記基準障害物との上記目座標系における座標点に基づいて、上記他の障害物と上記基準障害物との相対的な方位関係を確定することができる。上記モデリングユニット604は、上記他の障害物と上記基準障害物との相対的な方位関係を保持したまま、上記他の障害物を上記基準障害物の方向に並進させ、上記他の障害物と上記基準障害物との距離が上記可視化距離になると、当該位置を上記他の障害物の位置として確定することができる。
【0078】
最後に、上記モデリングユニット604は上記他の障害物の位置において、上記他の障害物を3次元モデリングすることができる。上記他の障害物を3次元モデリングした後、上記モデリングユニット604はモデリングされた他の障害物をレンダリングすることができる。
【0079】
本実施例のいくつかの代替的な実現形態において、上記モデリングユニット604は以下のステップ(ステップ1~3)により上記基準障害物の上記目座標系における座標点に基づいて上記基準障害物を3次元モデリングすることができる。
【0080】
ステップ1:上記他の障害物と上記基準障害物との可視化距離、上記他の障害物と上記基準障害物との実距離、及び乗客の目と上記基準障害物との実距離に基づいて、上記目と上記基準障害物との可視化距離を確定する。
【0081】
ここで、上記対象領域における上記基準障害物を除く他の障害物毎に、当該他の障害物と上記基準障害物との可視化距離をa’、当該他の障害物と上記基準障害物との実距離をa、上記目と上記基準障害物との実距離をc、上記目と上記基準障害物との可視化距離をc’とする。視覚的比例関係a’/a=c’/cにより、c’=c×a’/aを得ることができる。当該他の障害物と上記基準障害物との可視化距離a’、当該他の障害物と上記基準障害物との実距離a、及び乗客の目と上記基準障害物との実距離cは既知であるので、この他の障害物を根拠とした場合の上記乗客の目と上記基準障害物との可視化距離c’は、上記式c’=c×a’/aにより求めることができる。
【0082】
上記他の障害物の数が少なくとも2つであれば、上記モデリングユニット604は、少なくとも2つの他の障害物を根拠とする場合、得られた上記乗客の目と上記基準障害物との少なくとも2つの可視化距離を加重平均演算して、上記乗客の目と上記基準障害物との可視化距離を得ることができる。
【0083】
なお、自動運転車両には乗客が着座しているため、障害物と乗客の目との距離を障害物と自動運転車両との距離として考えることもできる。
【0084】
ステップ2:上記基準障害物の上記目座標系における座標点と、上記乗客の目と上記基準障害物との可視化距離とを用いて、上記基準障害物の位置を確定する。
【0085】
ここで、上記モデリングユニット604は、上記基準障害物の上記目座標系における座標点に基づいて、上記基準障害物と上記乗客の目との相対的な方位関係を確定することができる。その後、上記モデリングユニット604は、上記基準障害物と上記乗客の目との相対的な方位関係を保持したまま、上記基準障害物を上記乗客の目の方向に並進させ、上記基準障害物と上記乗客の目との距離が、上記乗客の目と上記基準障害物との可視化距離になると、当該位置を上記基準障害物の位置として確定することができる。
【0086】
なお、上記基準障害物を上記乗客の目の方向に並進させた後も、障害物同士の相対的な位置関係を保証するために、他の障害物を上記乗客の目の方向に相応に並進させる必要がある。
【0087】
ステップ3:上記基準障害物の位置を用いて、上記基準障害物を3次元モデリングする。
【0088】
ここで、上記モデリングユニット604は上記基準障害物の位置において、上記基準障害物を3次元モデリングすることができる。上記基準障害物を3次元モデリングした後、上記モデリングユニット604はモデリングされた基準障害物をレンダリングすることができる。
【0089】
このようにして、視覚的比例関係により、複数の他の障害物に基づいて、上記乗客の目と上記基準障害物との可視化距離を総合的に算出することができる。これにより、上記乗客の目と上記基準障害物との可視化距離をより正確かつ合理的に確定することができる。
【0090】
本実施例のいくつかの代替的な実現形態において、上記確定ユニット603は上記周囲環境を区画するように上記周囲環境から対象領域を選択することができる。一般に、区画された領域が多いほど、各領域において確定される可視化距離はより正確になる。そして、区画された領域の中から任意の領域を対象領域として選択することができる。周囲環境を区画することにより、区画された対象領域毎に領域内の障害物間の可視化距離を確定することで、可視化距離をより正確に確定することができる。
【0091】
本出願の実施例によれば、本出願はさらに電子機器及び可読記憶媒体を提供する。
【0092】
図7に示すように、本出願の実施例に係る3次元モデリング方法を実現するための電子機器のブロック図である。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、作業台、パーソナルデジタルアシスタント、サーバ、ブレード型サーバ、大型コンピュータおよびその他の適切なコンピュータ等の様々な形態のデジタルコンピュータを表す。また、電子機器は、個人デジタル処理、携帯電話、スマートフォン、ウェアラブル機器およびその他の類似するコンピューティングデバイス等の様々な形態のモバイルデバイスを表すことができる。なお、ここで示したコンポーネント、それらの接続関係、およびそれらの機能はあくまでも一例であり、ここで説明および/または要求した本出願の実現を限定することを意図するものではない。
【0093】
図7に示すように、該電子機器は、1つ又は複数のプロセッサ701、メモリ702、及び各コンポーネントを接続するためのインタフェース(高速インタフェース及び低速インタフェースを含む)を含む。各コンポーネントは、互いに異なるバスで接続されており、共通のマザーボード上に実装されていてもよいし、必要に応じて他の方式で実装されていてもよい。プロセッサは電子機器内で実行される命令を処理することができ、インタフェースに結合された表示装置等の外部入出力装置に、グラフィカルユーザインタフェース(GUI,Graphical User Interface)のグラフィック情報を表示するために命令をメモリ内またはメモリ上に格納することを含む。他の実施形態では、必要に応じて、複数のプロセッサおよび/または複数のバスおよび複数のメモリを、複数のメモリとともに使用することができる。また、複数の電子機器が接続されていてもよく、各機器は、例えば、サーバアレイ、ブレードサーバ群またはマルチプロセッサシステムなど、一部の必要な動作を提供する。
図7では、1つのプロセッサ701を例としている。
【0094】
メモリ702は、本出願が提供する非一時的コンピュータ可読記憶媒体である。ここで、前記メモリは、少なくとも1つのプロセッサが実行可能な命令を格納しており、それにより前記少なくとも1つのプロセッサに本出願が提供する3次元モデリング方法を実行させる。本出願の非一時的コンピュータ可読記憶媒体はコンピュータ命令を格納し、該コンピュータ命令はコンピュータに本出願が提供する3次元モデリング方法を実行させるために用いられる。
【0095】
メモリ702は、非一時的コンピュータ可読記憶媒体として、非一時的ソフトウェアプログラム、非一時的コンピュータ実行可能なプログラム及びモジュールを格納することに用いることができ、例えば本出願の実施例における3次元モデリング方法に対応するプログラム命令/モジュール(例えば、
図6に示す取得ユニット601、構築ユニット602、確定ユニット603、モデリングユニット604)が挙げられる。プロセッサ701は、メモリ702に格納された非一時的ソフトウェアプログラム、命令及びモジュールを実行することにより、サーバの各種機能アプリケーション及びデータ処理を実行し、すなわち上記方法の実施例における3次元モデリング方法を実現する。
【0096】
メモリ702は、オペレーティングシステム、少なくとも1つの機能に必要なアプリケーションを記憶できるプログラム記憶領域と、3次元モデリング方法を実行する電子機器の使用に応じて作成されたデータ等を記憶できるデータ記憶領域とを含み得る。また、メモリ702は高速ランダムアクセスメモリを含むことができ、また非一時的メモリ(例えば、少なくとも1つの磁気ディスク記憶装置、フラッシュメモリデバイス又はその他の非一時的ソリッドステート記憶装置)を含むことができる。いくつかの実施例において、メモリ702は任意選択でプロセッサ701と遠隔に設置されたメモリを含み、これらのリモートメモリはネットワークを介して3次元モデリング方法のための電子機器に接続することができる。上記ネットワークとしては、例えば、インターネット、企業イントラネット、ローカルエリアネットワーク、移動体通信網及びこれらの組み合わせなどが挙げられるが、それらに限定されない。
【0097】
3次元モデリング方法のための電子機器はさらに、入力装置703及び出力装置704を含み得る。プロセッサ701、メモリ702、入力装置703及び出力装置704は、バス又はその他の方式で接続されていてもよく、
図7ではバスで接続されている例を示している。
【0098】
例えばタッチパネル、キーパッド、マウス、トラックパッド、タッチパッド、ポインティングデバイス、1つまたは複数のマウスボタン、トラックボール、ジョイスティック等の入力装置703は、入力された数字や文字情報を受信でき、3次元モデリング方法のための電子機器のユーザ設定および機能制御に関するキー信号入力を生成することができる。出力装置704は表示装置、補助照明装置(例えば、LED)及び触覚フィードバック装置(例えば、振動モータ)等を含むことができる。該表示装置は、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ及びプラズマディスプレイを含むことができるが、これらに限定されない。いくつかの実施形態において、表示装置はタッチパネルであってもよい。
【0099】
ここで説明するシステム及び技術の様々な実施形態はデジタル電子回路システム、集積回路システム、特定用途向け集積回路(Application Specific Integrated Circuit,ASIC)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はそれらの組み合わせにおいて実現することができる。これらの様々な実施形態は、1つ又は複数のコンピュータプログラムに実装され、該1つ又は複数のコンピュータプログラムは少なくとも1つのプログラマブルプロセッサを含むプログラマブルシステムにおいて実行及び/又は解釈することができ、該プログラマブルプロセッサは専用又は汎用プログラマブルプロセッサであってもよく、記憶システム、少なくとも1つの入力装置及び少なくとも1つの出力装置からデータ及び命令を受信することができ、且つデータ及び命令を該記憶システム、該少なくとも1つの入力装置及び該少なくとも1つの出力装置に伝送することを含み得る。
【0100】
これらのコンピュータプログラムは、プログラム、ソフトウェア、ソフトウェアアプリケーション又はコードとも呼ばれ、プログラマブルプロセッサの機械命令を含み、且つ高度プロセス及び/又はオブジェクト指向のプログラミング言語、及び/又はアセンブリ言語/機械語を利用して実現することができる。ここで、「機械可読媒体」及び「コンピュータ可読媒体」という用語は、機械指令及び/又はデータをプログラマブルプロセッサに供給するための任意のコンピュータプログラム製品、装置、及び/又はデバイス(たとえば、磁気ディスク、光ディスク、メモリ、プログラマブルロジックデバイス(PLD))を意味し、機械可読信号である機械指令を受信する機械可読媒体を含む。「機械可読信号」という用語は、機械指令および/またはデータをプログラマブルプロセッサに供給するための任意の信号を意味する。
【0101】
ユーザとのインタラクションを提供するために、ここで説明するシステムと技術は、ユーザに情報を表示するための表示装置(例えば、陰極線管(Cathode Ray Tube,CRT)またはLCD(液晶ディスプレイ)モニタ)と、キーボード及びポインティングデバイス(例えば、マウスまたはトラックボール)とを備えるコンピュータ上で実現することができ、ユーザが該キーボード及び該ポインティングデバイスを介してコンピュータに入力を提供できる。他の種類の装置は、さらにユーザとのインタラクションを提供することに用いることができる。例えば、ユーザに提供されるフィードバックは、例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバックであるいかなる形態のセンシングフィードバックであってもよく、且つ音響入力、音声入力又は触覚入力を含むいかなる形態でもユーザからの入力を受信してもよい。
【0102】
ここで説明したシステム及び技術は、バックグラウンドコンポーネントを含むコンピューティングシステム(例えば、データサーバ)に実施されてもよく、又はミドルウェアコンポーネントを含むコンピューティングシステム(例えば、アプリケーションサーバ)に実施されてもよく、又はフロントエンドコンポーネントを含むコンピューティングシステム(例えば、グラフィカルユーザインタフェース又はウェブブラウザを有するユーザコンピュータ。ユーザは該グラフィカルユーザインタフェース又はウェブブラウザを介してここで説明したシステム及び技術の実施形態とインタラクションしてもよい)に実施されてもよく、又はこのようなバックグラウンドコンポーネント、ミドルウェアコンポーネント又はフロントエンドコンポーネントのいずれかの組み合わせを含むコンピューティングシステムに実施されてもよい。また、システムの各構成要素間は、通信ネットワーク等の任意の形態または媒体を介してデジタルデータ通信により接続されていてもよい。通信ネットワークとしては、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)及びインターネットなどを含む。
【0103】
コンピュータシステムは、クライアントとサーバとを含んでもよい。クライアントとサーバは、通常、互いに離れており、通信ネットワークを介してインタラクションを行う。クライアントとサーバとの関係は、互いにクライアント-サーバの関係を有するコンピュータプログラムをそれぞれのコンピュータ上で動作することによって生成される。
【0104】
本出願の技術によれば、まず、自動運転車両の周囲環境における障害物の車両座標系における座標点を取得し、次に上記自動運転車両に乗る乗客の目の所在位置を確定し、上記乗客の目の所在位置を座標原点として目座標系を構築し、次に上記障害物の上記車両座標系における座標点を上記目座標系における座標点に変換し、乗客の目の観察角度での上記周囲環境における障害物間の可視化距離を確定し、最後に上記障害物の上記目座標系における座標点と上記障害物との間の可視化距離に基づいて、上記周囲環境の3次元モデリングを行う。このようにして、乗客が車載スクリーンを介して見える自動運転車両の周囲環境が窓を介して見える周囲環境により近づくように、乗客の目の観察角度での周囲環境における障害物間の距離を確定することができる。
【0105】
なお、上述した様々な形態のフローを用いて、ステップを改めて並び替え、追加または削除を行うことができる。例えば、本出願に記載された各ステップは、本出願に開示された技術案の所望の結果が達成できる限り、並行して実行されてもよいし、順番に実行されてもよいし、異なる順序で実行されてもよく、本明細書はここで制限しない。
【0106】
上記具体的な実施形態は、本出願の保護範囲を限定するものではない。設計要件および他の要因に従って、様々な修正、組み合わせ、再組合、および置換を行うことができることを当業者は理解すべきである。本出願の精神および原理内で行われたあらゆる補正、同等置換および改善などは、いずれも本出願の保護範囲内に含まれるべきである。