(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-08-26
(45)【発行日】2024-09-03
(54)【発明の名称】画像生成装置、画像生成プログラムおよびシステム
(51)【国際特許分類】
G06Q 50/04 20120101AFI20240827BHJP
G06F 3/01 20060101ALI20240827BHJP
G06T 19/00 20110101ALI20240827BHJP
【FI】
G06Q50/04
G06F3/01 510
G06T19/00 A
(21)【出願番号】P 2023083994
(22)【出願日】2023-05-22
【審査請求日】2024-06-13
(31)【優先権主張番号】P 2023057999
(32)【優先日】2023-03-31
(33)【優先権主張国・地域又は機関】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】594124993
【氏名又は名称】東京貿易テクノシステム株式会社
(74)【代理人】
【識別番号】110004141
【氏名又は名称】弁理士法人紀尾井坂テーミス
(74)【代理人】
【識別番号】100148301
【氏名又は名称】竹原 尚彦
(74)【代理人】
【識別番号】100176991
【氏名又は名称】中島 由布子
(74)【代理人】
【識別番号】100217696
【氏名又は名称】川口 英行
(72)【発明者】
【氏名】倉持 幸正
(72)【発明者】
【氏名】近藤 基成
(72)【発明者】
【氏名】吉實 興二
(72)【発明者】
【氏名】川本 貴志
(72)【発明者】
【氏名】坂口 俊雅
(72)【発明者】
【氏名】鍵谷 郷
【審査官】永野 一郎
(56)【参考文献】
【文献】特開2020-149349(JP,A)
【文献】国際公開第2008/146764(WO,A1)
【文献】特開2018-5499(JP,A)
【文献】特開2022-78011(JP,A)
【文献】米国特許出願公開第2023/0052634(US,A1)
【文献】中国特許出願公開第102016565(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
G06T 19/00
G06F 3/01
(57)【特許請求の範囲】
【請求項1】
製品の3次元形状と、当該製品の状態情報と、が表示された仮想空間の画像を生成する画像生成装置であって、
前記製品の3次元形状のデータと、前記製品の状態情報と、を記憶する記憶部と、
前記仮想空間における前記製品の3次元形状と前記製品の状態情報の表示態様を設定する表示設定部と、を備え、
前記製品は、複数の部品を組み付けて構成されるアセンブリであり、
前記表示設定部は、前記仮想空間において、
前記複数の部品各々の3次元形状を組み付けて前記製品の3次元形状を表示すると共に、前記製品の3次元形状に紐づけて前記状態情報を表示させる、画像生成装置。
【請求項2】
前記製品の3次元形状のデータは、前記製品の複数の測定点における3次元座標値を含み、
前記表示設定部は、前記製品の状態情報の取得箇所を、前記3次元形状のデータの対応する測定点に紐づける、請求項1記載の画像生成装置。
【請求項3】
前記表示設定部は、前記製品の状態情報を、前記製品の3次元形状に重畳して表示させる、請求項1または2記載の画像生成装置。
【請求項4】
前記表示設定部は、前記状態情報が有する数値データをカラーマップに変換し、前記カラーマップを前記製品の3次元形状に重畳して表示させる、請求項3記載の画像生成装置
。
【請求項5】
前記表示設定部は、前記状態情報をラベルに記載して表示させる、請求項1または2記載の画像生成装置。
【請求項6】
前記表示設定部は、前記ラベルを、前記製品の3次元形状の前記状態情報の取得箇所に
、接続部を介して接続して表示させる、請求項5記載の画像生成装置。
【請求項7】
前記仮想空間の環境を設定する環境設定部を備え、
前記環境設定部は、前記仮想空間に光を照射する光源を設定することで、前記3次元形 状の表面に、前記光に対応するハイライト線を表示させる、請求項1または2記載の画像生成装置。
【請求項8】
前記環境設定部は、前記光源の設定により、前記3次元形状の表面に、縞状の光の模様、円形の光の模様、多角形状の光の模様、ドット状の光の模様、規則的なパターンの光の模様またはランダムなパターンの光の模様を形成するハイライト線を表示させる、請求項7記載の画像生成装置。
【請求項9】
製品の3次元形状と、当該製品の状態情報と、が表示された仮想空間の画像を生成する画像生成装置と、
前記画像生成装置で生成された前記仮想空間の画像を表示する画像表示装置と、を備えるシステムであって、
前記画像表示装置は、
前記仮想空間の画像を表示する表示部と、
前記表示部をユーザの身体に装着可能とする装着部と、
前記ユーザの位置および姿勢を検出するモーションセンサと、を備え、
前記画像生成装置は、
前記製品の3次元形状のデータと、前記製品の状態情報と、を記憶する記憶部と、
前記仮想空間における前記製品の3次元形状と前記製品の状態情報の表示態様を設定する表示設定部と、
前記ユーザの位置および姿勢に基づいて、前記画像として表示する前記仮想空間内の領域を決定する表示領域決定部と、を備え、
前記製品は、複数の部品を組み付けて構成されるアセンブリであり、
前記表示設定部は、前記仮想空間において、
前記複数の部品各々の3次元形状を組み付けて前記製品の3次元形状を表示すると共に、前記製品の3次元形状に紐づけて前記状態情報を表示させる、システム。
【請求項10】
コンピュータを、請求項1に記載の画像生成装置として機能させるための画像生成プログラム。
【請求項11】
前記製品を構成する部品には、異なる場所で作成される部品が含まれており、前記複数の部品各々の3次元形状データは、それぞれ作成場所で取得される、請求項1に記載の画像生成装置。
【請求項12】
前記製品を構成する部品には、異なる場所で作成される部品が含まれており、前記複数の部品各々の3次元形状データは、それぞれ作成場所で取得される、請求項9に記載の画像生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像生成装置、画像生成プログラムおよびシステムに関する。
【背景技術】
【0002】
製品に対して、開発段階や販売前、あるいは販売後のメンテナンスとして、検査や、試験検証等を行うことがある。例えば、製品が自動車である場合、外観(車体の歪み、傷等)、寸法誤差、振動、液漏れ、部品同士の干渉、熱源の温度異常等と、多岐に渡る製品の状態情報を取得する必要がある。
状態情報の取得のために、例えば、工場等に配置された製品に対して、各種のセンサや測定装置により測定を行うと共に、検査員が工場に赴いて目視で検査を行う。さらに、現場での検査とは別に、現場で取得したデータをコンピュータで後解析したり、製品の設計データに対してCAE(Computer Aided Engineering)等により様々な解析処理を行うことがある。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
このような従来の検査方法では、工場等の現場で取得された状態情報と、コンピュータ上の解析処理で取得された状態情報が個別にバラバラに管理されることになるため、製品の状態情報の管理が煩雑となり、検査や試験検証等の効率に影響を与える可能性がある。
【0005】
製品の様々な検査や、試験検証等を統合して効率的に行うことできる環境を提供することが求められている。
【課題を解決するための手段】
【0006】
本発明のある態様における画像生成装置は、
製品の3次元形状と、当該製品の状態情報と、が表示された仮想空間の画像を生成する画像生成装置であって、
前記製品の3次元形状のデータと、前記製品の状態情報と、を記憶する記憶部と、
前記仮想空間における前記製品の3次元形状と前記製品の状態情報の表示態様を設定する表示設定部と、を備え、
前記製品は、複数の部品を組み付けて構成されるアセンブリであり、
前記表示設定部は、前記仮想空間において、前記複数の部品各々の3次元形状を組み付けて前記製品の3次元形状を表示すると共に、前記製品の3次元形状に紐づけて前記状態情報を表示させる。
【発明の効果】
【0007】
本発明のある態様によれば、仮想空間上で製品の様々な検査や試験検証等を統合して効率的に行うことができる。
【図面の簡単な説明】
【0008】
【
図3】3次元形状データの一例を、テーブルとして示した図である。
【
図4】測定データの一例を、テーブルとして示した図である。
【
図5】HMDのハードウェア構成の一例を示す図である。
【
図6】情報処理装置のハードウェア構成の一例を示す図である。
【
図7】情報処理装置の、画像生成装置としての機能構成を示す図である。
【
図8】ゼブラパターンを説明する図であり、(a)は、仮想空間を側方から見た模式図であり、(b)は、仮想空間を上方から見た模式図である。
【
図11】本実施形態における情報処理装置の処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0009】
次に、本発明を実施するための形態(以下、「本実施形態」と称する。)について、図面を参照して説明する。
図1は、システム1の概要を示す図である。
図2は、システム1の構成を示す図である。
図1に示すように、システム1は、製品の検査や試験考証等を行うことができる環境である仮想空間VSを提供する。
システム1が提供する仮想空間VS内には、製品の3次元形状VPと、製品に関する状態情報SIが表示される。
ユーザU(例えば検査員U1)は、ヘッドマウントディスプレイ(Head Mount Display、以降「HMD」と表記する)6等の画像表示装置を介して仮想空間VSにアクセスし、仮想空間VSに表示された製品の3次元形状VPと状態情報SIに基づいて、製品の検査や、試験考証等を行うことができる。
【0010】
仮想空間VSに表示する製品は、複数の部品から構成されるアセンブリであっても良く、あるいはアセンブリを構成する個々の部品であっても良い。また、仮想空間VSにおいて、部品単体で表示することもでき、あるいは複数の部品を仮想空間VS内で組み付けてアセンブリの状態で表示することもできる。
例えば、
図1および
図2では、製品の一例として自動車を示している。自動車は、数多くの部品から構成されるアセンブリである。仮想空間VSでは、完成品の自動車の3次元形状VPを表示することもでき、ドア、シート、エンジン、モータ等の自動車を構成する個々の部品を表示することもできる。また、仮想空間VSにおいて複数の部品を組み付けてアセンブリすることもできる。
【0011】
図2に示すように、システム1は、3次元デジタイザ2(形状測定装置)、測定装置3、情報処理装置4(画像生成装置)、VR(Virtual Reality)プラットフォーム9、HMD6(画像表示装置)と、を備える。
VRプラットフォーム9は、不図示のサーバ装置上で動作し、サーバにアクセスするユーザのマシンに対して仮想空間を提供するサービスである。VRプラットフォーム9は、例えば、NVIDIA Omniverse等の、既存のVRプラットフォームとすることができる。
【0012】
3次元デジタイザ2および測定装置3は、例えば、製品を製造する場所や開発する場所、すなわち工場や研究所等に設置することができる。
3次元デジタイザ2は、製品の3次元形状を測定する。測定装置3は、製品に対して各種の測定を行い、測定データを取得する。測定データは、そのまま状態情報SIとして用いても良く、あるいは後記する情報処理装置4において、状態情報SIを生成するための元データとして用いることができる。
3次元デジタイザ2が測定した製品の3次元形状データと、測定装置3の測定データは、情報処理装置4に入力される。
【0013】
図2に示すように、情報処理装置4は、製品の3次元形状データと状態情報SIを用いて、仮想空間VSの画像を生成する。情報処理装置4は、例えば既存のVRプラットフォーム9を介して、仮想空間VSの画像を生成し、ヘッドマウントディスプレイに送信する。
【0014】
図1に示すように、HMD6は、ディスプレイ61(表示部)と、ディスプレイ61をユーザUの頭部に装着させる装着部62と、を有する。ディスプレイ61には、情報処理装置4から送信された仮想空間VSの画像が表示される。
さらに、HMD6には、HMD6の位置および姿勢の変化を測定するモーションセンサ66(
図5参照)が備えられている。モーションセンサ66で測定されたHMD6の位置および姿勢情報は、
図2に示すように、VRプラットフォーム9を介して情報処理装置4に送信される。
【0015】
情報処理装置4は、HMD6から受信した位置および姿勢に基づいて、仮想空間VSにおける画像の表示領域を決定する。すなわち、情報処理装置4は、HMD6を装着したユーザUの移動および姿勢変化に合わせて、仮想空間VSの中で画像に表示される領域を変化させる。
さらに、ディスプレイ61は、具体的には、隔壁で区切られた右目用ディスプレイ61aと左目用ディスプレイ61b(
図5参照)を有する。情報処理装置4はそれぞれの領域に対して、右目用の画像と左目用の画像を送信する。右目用の画像と左目用の画像は、右目と左目の間の距離に合わせて、仮想空間VS内の表示される領域がずらされている。これによって、ユーザUは仮想空間VSと、そこに表示される製品を立体的に視認することができる。
すなわち、HMD6を装着したユーザUは、自身が仮想空間VS内に存在しているように体感することができる。さらに、ユーザUは、自身が移動したり姿勢を変えたりすることで、仮想空間VS内に置かれた製品の3次元形状VPを様々な距離および方向から観察することができる。
【0016】
図3は、3次元形状データの一例を、テーブルとして示した図である。
3次元デジタイザ2は、例えば、レーザー光や白色光等の光源を用いて、非接触で製品の3次元形状を測定する装置である。
3次元デジタイザ2は、測定によって製品の3次元形状データを取得する。
図3に示すように、3次元形状データは、製品の表面上の複数の測定点における、3次元座標値(X,Y,Z)をまとめたものである。
製品が、複数の部品を組み付けて構成されるアセンブリの場合、3次元デジタイザ2は、アセンブリ全体の3次元形状データを取得しても良い。3次元デジタイザ2は、あるいは、アセンブリを構成する部品ごとに測定を行い、各部品の3次元形状データを取得しても良い。
【0017】
図4は、測定データの一例を、テーブルとして示した図である。
測定装置3は、検査項目である状態情報SIの種類に応じた装置を適宜採用することができる。測定装置3は、例えば、各種のセンサやカメラ等とすることができる。
測定装置3が製品を測定することで取得する測定データは、例えば、数値データ、画像データ、音データ等から構成される。
測定装置3および測定データの例を、以下に列挙する。
測定装置3は、例えば、製品の温度を測定する温度センサ、またはサーモグラフィとすることができる。温度センサは、測定点における温度を測定するものであり、サーモグラフィは、温度の空間分布を測定するものである。
測定装置3は、例えば、製品の振動(周波数・振幅)を測定する加速度センサとすることができる。
測定装置3は、例えば、製品を構成する部品同士の干渉(応力)や、重力による自重撓み等を測定する圧力センサとすることができる。
測定装置3は、例えば、製品の外観を撮影するカメラとすることができる。
測定装置3は、例えば、製品を動作させた際に生じる音に関するデータ、例えば、音圧(dbエネルギー)、音量(振幅)、音域(周波数)等を測定するセンサとすることができる。測定装置3は、音に関するデータと共に、音を録音しても良い。
測定装置3は、例えば、製品の内部(例えばラジエータ等)を流れる流体の速度等を測定するセンサ(ピトー管、熱線または超音波センサ)とすることができる。
測定装置3は、例えば、製品の臭気を測定する臭気センサとすることができる。
さらに、前記した3次元デジタイザ2も、製品の実寸法を測定する測定装置3の一つとして捉えることができる。
なお、製品の測定データは、測定装置3から取得されるものに限定されず、例えば工場の作業員が手作業により測定したデータとしても良い。例えば、測定データとして、作業員が製品の手触り(粗さ、滑らかさ)を段階的に評価した触感データとすることができる。
【0018】
例えば、自動車等の比較的大きな製品では、製品の箇所によって測定装置3で測定される数値に変動が生じることがある。例えば、自動車の駆動源(エンジン、モータ等)が駆動している際は、駆動源の付近は温度が高く、駆動源から遠ざかると温度が低くなるといった傾向がある。そのため、測定装置3は、製品の複数の箇所において、測定を行うことができる。この場合、
図4に示すように、測定データは、複数の測定箇所(ポイントA、ポイントB…)における数値データをまとめたものとなる。
【0019】
図5は、HMD6のハードウェア構成の一例を示す図である。
HMD6は一般的な構成のものを用いることができるため、簡単に構成を説明する。
HMD6は、ディスプレイ61、CPU63、ROM64、RAM65、モーションセンサ66および通信I/F67等を備える。
ディスプレイ61は、仮想空間VSの画像を表示する。ディスプレイ61は、具体的には、隔壁で仕切られた右目用ディスプレイ61aと左目用ディスプレイ61bを有する。
モーションセンサ66は、HMD6の鉛直方向に対する傾きと、3軸周りの回転角度及び3軸方向における移動距離を継続的に測定する。初期位置および初期姿勢からの位置及び姿勢の変化分を初期位置から加算していくことで、HMD6の位置及び姿勢を測定する。
HMD6は、通信I/F67を介してVRプラットフォーム9にアクセスし、VRプラットフォーム9を介して情報処理装置4とデータの送受信を行う。
HMD6は、情報処理装置4から仮想空間VSの画像を受信し、ディスプレイ61に表示させる。HMD6は、右目用ディスプレイ61aと左目用ディスプレイ61bのそれぞれで表示する仮想空間VSの画像を受信する。
HMD6は、情報処理装置4に対してモーションセンサ66が測定したHMD6の位置および姿勢情報を送信する。
情報処理装置4とのデータの送受信は、HMD6がVRプラットフォーム9にアクセスしている間、継続的に行われる。
【0020】
図6は、情報処理装置4のハードウェア構成の一例を示す図である。
情報処理装置4は、汎用のコンピュータから構成することができる。
図6に示すように、情報処理装置4は、CPU41(Central Processing Unit)、ROM42(Read Only Memory)、RAM43(Random Access Memory)、HDD44(Hard Disk Drive)、ディスプレイ45、入力装置46および通信I/F47を有する。
【0021】
CPU41が、ROM42またはHDD44に記憶された画像生成プログラムを読みだして実行することで、画像生成装置として機能する。なお、HDD44の代わりにSDD(Solid State Drive)を備えても良い。HDD44は、また、情報処理装置4で実行されるプログラムによって使用されるデータ等を記憶する。
【0022】
CPU41は、マウス、キーボード、タッチパネル等の入力装置46を介して、ユーザUの操作を受け付ける。CPU41は、生成したデータをディスプレイ45に出力して表示する。なお、プロセッサとしてCPU41と共にGPU(Graphics Processing Unit)等を用いても良い。なお、CPU41は、マイクを介した音声入力によってユーザUの操作を受け付けても良い。
【0023】
通信I/F47は、インターネット等のネットワークを介して、他の装置からデータを受信してCPU41へ出力し、CPU41が生成したデータを他の装置へ送信することができる。
【0024】
図7は、情報処理装置4の、画像生成装置としての機能構成を示す図である。
図7に示すように、情報処理装置4は、送受信部51、記憶部52、状態情報生成部53および画像生成部54を備える。
送受信部51は、外部の装置とのデータの送受信を行う。送受信部51は、例えば、3次元デジタイザ2から製品の3次元形状データを受信し、測定装置3から測定データを受信する。
送受信部51は、また、VRプラットフォーム9(
図2参照)を介して、HMD6とデータの送受信を行う。送受信部51は、例えば、HMD6に対して仮想空間VSの画像を送信し、またHMD6から位置および姿勢情報を受信する。
【0025】
記憶部52は、情報処理装置4の処理に必要な各種のデータを記憶する。
記憶部52は、例えば、3次元デジタイザ2で測定された製品の3次元形状データと、製品の設計時に作成された製品の3次元形状データ(以下、「設計データ」という)を記憶する。記憶部52は、例えば、測定装置3で測定された測定データが記憶する。前記したように測定データは、そのまま状態情報SIとして用いられることもある。記憶部52は、また、測定データから生成された状態情報SIも記憶する。記憶部52は、また、状態情報SIに付加されるアノテーションも記憶する。
記憶部52は、例えば、HMD6から受信する位置および姿勢情報を記憶する。
記憶部52は、例えば、仮想空間VSの環境設定情報、仮想空間VSにおける製品の3次元形状VPの表示設定情報、仮想空間VSにおける状態情報SIの表示設定情報等を記憶する。
記憶部52には、例えば、情報処理装置4の各機能構成の処理結果が、一時的に記憶される。
【0026】
状態情報生成部53は、測定装置3の測定データから状態情報SIを生成する。
前記したように、測定装置3が取得した測定データをそのまま状態情報SIとして用いることもできるが、測定データを元データとして各種の解析処理を行い、状態情報SIを生成することもできる。状態情報生成部53は、測定データに解析処理を行って状態情報SIを生成し、記憶部52に記憶させる。
状態情報生成部53は、ユーザUの操作入力に応じて、状態情報SIの生成を行う。状態情報生成部53は、例えば、状態情報SIの生成を行うためのGUI(Graphical User Interface)をディスプレイ45に表示する。ユーザUは、マウスやキーボード等の入力装置46によって操作を行い、元データとなる測定データを読み込み、生成する状態情報SIを指定する。
画像生成部54は、GUIとして、設定中の仮想空間VSのプレビューを表示することができる。プレビューには、ユーザUの入力した設定内容が逐次反映される。ユーザUは、プレビューを確認しながらスムーズに設定操作を行うことができる。
【0027】
状態情報生成部53は、例えば、3次元デジタイザ2が測定した製品の3次元形状データから、寸法誤差のデータを生成することができる。3次元デジタイザ2が測定した製品の3次元形状データは、製品の実寸法を意味するものである。状態情報生成部53は、3次元形状データの各点群と設計データの各点群の座標のずれ量から、設計データに対する寸法誤差を算出することができる。
【0028】
状態情報生成部53は、また、カメラで撮影された製品の画像情報に対して、既存の方法による画像解析処理を行い、製品の表面上の傷、歪み、孔等を状態情報SIとして検出することができる。
また、前記したように、製品が複数の部品から構成されている場合、3次元デジタイザ2で各部品の3次元形状データを個別に取得することができる。この場合、状態情報生成部53は、これらの部品を組付けた場合のシミュレーションを行い、部品同士の干渉(応力)を状態情報SIとして検出することができる。
【0029】
状態情報生成部53は、さらに、状態情報SIに対して、アノテーションを付加する処理を行うことができる。
アノテーションは、一般的には、データに関連する情報を注釈として付加することを意味する。本実施形態において、アノテーションは、例えば、寸法誤差、温度、応力等の状態情報の中から、製品の特定の箇所の情報について注釈するものである。状態情報生成部53は、例えば、状態情報SIと閾値との比較処理を行って、アノテーションを付加することができる。
閾値は、例えば、製品の品質の合否基準を示すものや、異常の判定基準を示すものを用いることができる。閾値は、予め設定して記憶部52に記憶させることができる。
【0030】
状態情報生成部53は、ユーザUの操作入力に応じて、アノテーションを付加する処理を行う。
状態情報生成部53は、状態情報SIと閾値の比較処理を行う。状態情報生成部53は、比較結果として、状態情報SIが、閾値が示す基準を満たすものでなかった場合、状態情報SIにアノテーションを付加する。状態情報生成部53は、具体的には、状態情報SIが閾値を超える場合、あるいは下回る場合にアノテーションを付加することができる。閾値は、例えば、許容範囲を示す一定の数値範囲として設定し、状態情報生成部53は、状態情報SIが許容範囲を超えている場合にアノテーションを付加することができる。
【0031】
状態情報生成部53は、例えば、各点群について算出された寸法誤差のデータを、誤差の許容範囲を示す公差(閾値)と比較することがきる。状態情報生成部53は、寸法誤差が公差を超えている測定箇所について、アノテーションを付加することができる。
なお、アノテーションとしての具体的な強調表示の態様は、後記する状態情報表示設定部57において設定することができる。そのため、状態情報SIが数値データである場合、状態情報生成部53は、例えば、状態情報SIにアノテーションを付加するフラグを追加することができる。
あるいは、状態情報生成部53が、製品の画像データから傷、歪み、孔等を検出する場合は、画像データの検出した箇所に、マーキング、矢印、強調表示等を追加することができる。
【0032】
なお、ここでは状態情報生成部53が測定データに解析処理等を行って状態情報を生成する例を説明したが、この例に限定されない。例えば、情報処理装置4において別にプログラムにより動作するソフトウェアや、情報処理装置4とは別の情報処理装置において、生成した状態情報を読み込み、記憶部52に記憶させることもできる。例えば、CAEソフトウェアにおいて作成したシミュレーションデータを読み込むことができる。シミュレーションデータは、例えば、製品の設計データであるCADデータに対する偏差、歪量、曲率、応力、振動等のデータとすることができる。
【0033】
画像生成部54は、HMD6に送信する仮想空間VSの画像を生成する。
画像生成部54は、一例として、環境設定部55、製品表示設定部56、状態情報表示設定部57、表示領域決定部58、出力部59を備える。画像生成部54は、仮想空間VSの画像を生成するための各種設定を行う。画像生成部54は、例えば、各種設定を行うためのGUI等をディスプレイ45に表示することができる。ユーザUは、マウスやキーボード等の入力装置46によって各種設定の操作を行う。ユーザUは、例えば、マウスでプルダウンメニューから所望の設定を選択し、キーボードで設定に必要な数値を入力することができる。なお、各種設定を行うためのGUIは、前記した状態情報SIの生成を行うためのGUI(Graphical User Interface)と共通のものとすることができる。すなわち、ユーザUは状態情報SIの生成と、仮想空間VSの画像を生成するための設定処理を同じ操作画面上で行うことができる。
画像生成部54は、また、GUIとして、仮想空間VSのプレビューを表示することができる。プレビューには、ユーザUの入力した設定内容が逐次反映される。ユーザUは、プレビューを確認しながらスムーズに設定操作を行うことができる。
【0034】
環境設定部55は、仮想空間VSの環境を設定する。
環境設定部55は、一例として、仮想空間VSのサイズ、形状、光源、光源から照射される光量、等を設定することができる。また、仮想空間VSを屋外に設定する場合は、天候等を設定できるようにしても良い。
また、光源の位置を調整することで、製品に特定の方向から光が当たるように調整することもできる。製品が特定の方向からの光によってハイライトされることで、製品の表面に生じている歪み等が視認できるようになるため、仮想空間VS上で、歪みチェック等を行うことができる。
【0035】
環境設定部55は、一例として、光源を制御して、様々な光の模様を形成するハイライト線を、仮想空間VS内に再現した対象物(製品)の表面に生じさせることができる。
光の模様は、いわゆるゼブラパターンと呼ばれる縞状の光の模様、円形の光の模様、多角形状の光の模様、ドット状の光の模様、規則的なパターンの光の模様、ランダムなパターンの光の模様などが例示されるが、特定の態様に限定されない。円形の光の模様や多角形状の光の模様は、図形を単体で表示しても良く、複数の図形を表示しても良い。複数の図形はそれぞれ離間させて表示しても良く、互いが重なるように表示しても良い。異なる光の模様を組み合わせて表示しても良い。
例えば、縞状の光の模様を生じさせる場合には、環境設定部55は、縞状の光を照射するように、光源を設定・制御する。
これにより、仮想空間VS内に再現した対象物の表面に、光源から照射された光が描くゼブラパターンが再現される。
【0036】
図8は、ゼブラパターンを説明する図である。
図8の(a)は、仮想空間VSを側方から見た模式図であり、
図8の(b)は、仮想空間VSを上方から見た模式図である。
図8の(b)では、製品の3次元形状VPの上面と、上面に投影されるハイライトの線(ハッチング部分)を簡略化して示している。また、一部の光源LSの位置を破線で示している。
ゼブラパターンは、一方向に延びる細長い光源LSが、互いに間隔を空けて平行に配置されたものである。これらの光源LSから光が照射された物体の表面には、縞状にハイライト線HLが投影される。
図8の(b)ではハイライト線LSを模式的に示しているが、物体の表面に歪みや傷がある場合、その箇所においてハイライト線LSに歪みやうねりが生じる。すなわち、仮想空間VSに配置された製品の3次元形状VPにゼブラパターンの光を照射することで、製品の表面に歪みや傷がないか検査することができる。
なお、図示した光源LSはあくまで模式的なものであり、ゼブラパターンを構成する光源LSの数や配置する位置は、特定の態様に限定されない。例えば、
図8の(a)では、光源LSを仮想空間VSの上方に配置する例を示したが、光源LSを、仮想空間VSの側方にも配置して、複数の方向から光を照射するようにしても良い。
現実でゼブラパターンの光を照射するためには、例えば複数の直管蛍光灯を一定間隔で平行に配置するか、光源から照射された光を、複数のスリットを有する遮光板を介して照射する必要があり、設備コストがかかる。一方、本実施形態では、環境設定により、仮想空間VSに容易にゼブラパターンを実現することができる。
図8の例では、単純な線状の光で構成されるゼブラパターンを示しているが、相似する形状でサイズが異なる複数の図形の光を同心に配置することで、ゼブラパターンを構成しても良い。
【0037】
製品表示設定部56および状態情報表示設定部57は、画像生成装置における表示設定部として機能する。
製品表示設定部56は、仮想空間VSにおける製品の3次元形状VPの表示位置および表示態様を設定する。
製品表示設定部56は、例えば、製品の3次元形状VPの、仮想空間VSにおける表示位置を設定する。製品表示設定部56は、表示位置を設定する際に、製品の3次元形状データが有する3次元座標と、仮想空間VSに設定した3次元座標との紐づけを行う。
例えば、ユーザUが、製品の3次元形状データの読み込みを選択すると、プレビューの仮想空間VS内の初期位置に、3次元形状VPが表示される。ユーザUは、マウスで3次元形状VPを選択し、ドラッグして任意の位置に移動させることができる。あるいは、ユーザUは仮想空間VS内の3次元座標をキーボードで入力することで、任意の位置に製品の3次元形状VPを表示させることができる。
なお、製品が複数の部品から構成される場合、個々の部品の3次元形状データを読み込んだうえで、各部品を画面上で移動させて組み付けることができる。
【0038】
製品表示設定部56は、例えば、製品の3次元形状VPの、仮想空間VS内における表示態様を設定する。表示態様は、例えば、各測定点の座標に配置された点群とすることができる。あるいは、表示態様は、各点群を辺と面で接続したポリゴン(メッシュ)等とすることができる。
【0039】
状態情報表示設定部57は、仮想空間VS内における製品の状態情報SIの表示位置および表示態様を設定する。
前記したように、状態情報SIは、例えば、各測定箇所で測定された数値データから構成される。このような数値データを、例えば、
図4に示すような単純なテーブルとして仮想空間VSに表示したとしても、製品の3次元形状VPにおいて状態情報SIが取得された箇所が直感的に結び付けられないため、数値データが示す傾向を直感的に把握しにくい。
【0040】
本実施形態の情報処理装置4は、仮想空間VSにおいて、状態情報SIを製品の3次元形状VPに紐づけて表示させる。これによって、検査員U1が仮想空間VSの画像を見た際に、製品と状態情報SIの関連を直感的に把握しやすい。
【0041】
状態情報表示設定部57は、状態情報SIの表示態様および表示位置を設定することで、製品の3次元形状VPに紐づけて表示させる。
状態情報表示設定部57は、ユーザUの操作入力に応じて、状態情報SIの表示態様および表示位置を設定すると共に、設定に応じた状態情報SIの画像データを生成し、仮想空間VS内に表示させる。
【0042】
状態情報表示設定部57は、状態情報SIの表示態様として、仮想空間VS内での視認性を高める画像に変換する。仮想空間VS内での視認性を高める画像として、例えば、カラーマップ、ラベル、強調表示等が挙げられる。
図9および
図10は、仮想空間VSにおける状態情報SIの表示例を示す図である。
図9は、状態情報SIの表示例として、寸法誤差のカラーマップ101およびラベル103を示している。
図9では、製品の一例として自動車のドアを示している。また、
図9では、カラーマップ101の色の違いを、種類の異なるハッチングまたはクロスハッチングで表現している。
図10では、2つの部品VPa、VPbを組み付けて構成される製品を模式的に示している。
図10は、状態情報SIの表示例として、温度のラベル103を示している。
図9は、また、状態情報SIとして、部品VPa、VPbの間に生じる干渉(応力)のアノテーションを、ラベル103および強調表示107を組み合わせて示している。
<カラーマップ>
図9に示すように、状態情報表示設定部57は、例えば、状態情報SIをカラーマップ101として表示することができる。
カラーマップ101は、寸法誤差、温度、応力などのデータの空間分布を、色階層で表示するものである。状態情報表示設定部57は、例えば、状態情報SIに含まれる、各測定箇所(点群)の数値データを全て色情報に変換することで、カラーマップ101を生成することができる。
数値データは、一定の数値範囲毎に異なる色に変換される。数値範囲と変換される色は、デフォルトの設定を適用しても良く、あるいはユーザUの操作入力により設定することもできる。
【0043】
さらに、
図9に示すように、カラーマップ101を生成する際には、数値範囲と色の対応を示すカラーバー102を近傍に表示することができる。
カラーマップ101は、製品の全体や、製品を含む空間に対して測定を行って取得される状態情報SIの表示態様として、特に好適である。
図9に示す寸法誤差の他に、サーモグラフィで測定した温度の空間分布や、製品を流れる流体の流体速度をカラーマップ101として表示することができる。
また、カラーマップの拡張版として、製品の設計データと3次元デジタイザ2が測定した実寸法のデータの変形差分をアニメーションで強調表示しても良い。これにより、検査員U1は、寸法誤差が生じた原因が把握しやすくなる。
【0044】
<ラベル>
図9および
図10に示すように、状態情報表示設定部57は、例えば、状態情報SIをラベル103として表示することができる。
ラベル103は、一般的には、製品の表面に製品の情報を記載することを意味する。本実施形態において、ラベル103は、製品の表面または製品の近傍に表示された状態情報SIを意味する。
図9および
図10の例では、ラベル103は、矩形の枠内に状態情報SIを記載したものであり、製品の近傍に表示される。ラベル103は、製品の測定箇所に対応する箇所に、引き出し線や矢印等の接続部104を介して接続されている。
【0045】
なお、ラベル103は、矩形の枠に限定されない。ラベル103は、例えば、円形や矩形以外の多角形の枠内に状態情報SIを記載したものであっても良い。また、ラベル103は、
図10の下部に示すように、枠と接続部104が一体化した吹き出しとしても良い。
ラベル103は、例えば、測定箇所の数が比較的少ない状態情報SIの表示態様として好適である。あるいは、ラベル103は、多数の測定箇所を含む状態情報SIの中で、特定の測定箇所をピックアップして表示することもできる。また、
図10に示すように、状態情報SIに付加されたアノテーションをラベル103として表示することで、検査員U1にアノテーションを注目させやすくすることができる。
【0046】
<強調表示>
強調表示107は、製品の状態情報SIに対応する特定の箇所を、他の箇所よりも目立たせるように表示するものである。強調表示107は様々な態様を含み得る。例えば、製品の状態情報SIに対応する箇所(例えば、測定箇所)の明度を他の箇所より上げる、濃い色でマーキングする、線で囲む、ハッチングを付す等することができる。あるいは、他の箇所の明度を下げたり、色を薄くしたり透明にしたりすることで、特定の箇所を目立たせることもできる。
図10では、強調表示107の一例として製品の状態情報SIの測定箇所にハッチングを付している。
図10では、例えば、部品同士の干渉が生じている箇所、すなわち状態情報SIのアノテーションを強調表示107として表示しているなお、
図10ではアノテーションをラベル103でも表示している。このように、状態情報SIを複数の表示態様(例えば、ラベル103と強調表示107)を組み合わせて表示することで、よりユーザUの目を引き付けることができる。
図10に示すように、強調表示107は、例えば、部品同士の干渉のように製品において一定の範囲を占める状態情報SIの表示態様として好適である。また、強調表示107は、製品の傷、歪み、孔等のように、小さくて視認しにくい状態情報SIを目立たせることができるため、好適である。また、アノテーションのように、検査員U1が注目すべき情報の表示態様として好適である。
【0047】
状態情報表示設定部57は、状態情報SIに含まれる各測定箇所(取得箇所)のデータを、当該測定箇所に対応する製品の測定点に紐づけて表示させる。紐づけ表示の例として、例えば、重畳表示やリンク表示を挙げることができる。
<重畳表示>
図9の例では、カラーマップ101が、製品の3次元形状VPに重畳して表示されている。また、
図10の例では、強調表示107が、製品の干渉が生じている箇所に重畳して表示されている。このように、状態情報SIを製品に重畳して表示させることで、測定箇所を製品とダイレクトに結びつけて把握することができる。
【0048】
<リンク表示>
図9および
図10の例では、ラベル103が、製品の3次元形状VPにリンク表示されている。
リンク表示とは、状態情報SIを、製品上の測定箇所との対応が明確となる形で表示することを意味する。
一例として、
図9および
図10に示すように、ラベル103を、製品の測定箇所の近傍に表示し、測定箇所とラベル103を、引き出し線や矢印等の接続部104を介して接続する。
リンク表示は、製品の測定箇所との対応を明確としつつ、製品の形状がラベル103に隠れることがないため、製品の形状と状態情報SIの双方の見やすさを保つことができる。
図9および
図10に示すように、重畳表示とリンク表示は組み合わせても良い。また、
図9および
図10では、カラーマップ101および強調表示107を重畳表示し、ラベル103をリンク表示する例を示しているが、もちろんこれらの例に限定されず、状態情報SIの表示態様と表示位置は適宜組み合わせることができる。例えば、ラベル103を製品の3次元形状VP表面に重畳表示しても良い。
【0049】
このように、状態情報SIの重畳表示またはリンク表示を行うためには、状態情報SIの測定箇所を、製品の3次元形状データ上の対応する箇所に紐づける必要がある。紐づけの方法は、状態情報SIの取得態様に応じて適宜採用することができる。
例えば、寸法誤差のデータや、温度の空間分布のデータ等の、空間計測を行う測定装置3(3次元デジタイザ2、サーモグラフィ等)から得られる状態情報SIには、測定箇所の座標情報が含まれている。このような場合は、状態情報表示設定部57は、状態情報SIの座標情報を製品の3次元形状VPの座標に対応させることで、カラーマップ101を製品に重畳させることができる。
一方、温度センサ、加速度センサ、圧力センサ、臭気センサ、音センサ等の、点計測を行うセンサから得られる状態情報SIの場合は、ユーザUが、状態情報SIを読み込む際に、センサの設置位置(測定箇所)を、製品の3次元形状データ上で指定する。これによって、
図4に示すように、測定データの、各測定箇所(ポイントA、ポイントB…)には、対応する製品の3次元形状VPのX、Y、Z座標値が記録される。そして、ポイントA、ポイントBで測定された温度の情報が、
図10に示すように、製品の3次元形状データの対応する位置に紐づけて表示される。
【0050】
ユーザUは、例えば、GUIのプレビューに表示される製品の3次元形状VPにおけるセンサの設置位置をマウスでクリックすることで、設置位置の指定を行う。状態情報表示設定部57は、クリックされた箇所の位置座標を、センサの設置位置として登録する。このように、センサの設置位置が予め登録することで、状態情報SIの測定箇所が製品の3次元形状VP上のセンサの設置位置に紐づけされる。これによって、状態情報表示設定部57は、製品における、状態情報SIが測定された箇所に強調表示107やラベル103等を重畳して表示させることができる。
【0051】
なお、空間計測で得られた状態情報SIについても、ユーザUの指定による任意の位置に表示させることができる。例えば、
図9の例では、寸法誤差のデータを、カラーマップ101だけでなくラベル103でも表示している。状態情報表示設定部57は、寸法誤差のデータの中から、ユーザUが指定した位置の座標に対応する測定箇所の数値データを抽出して、ラベル103として表示する。これによって、カラーマップ101により、製品全体の寸法誤差の傾向の分布を把握すると共に、特に注目すべき箇所については、ラベル103に記載された数値によって寸法誤差をより明確に把握することができる。
【0052】
<離隔表示>
以上説明した重畳表示やリンク表示は、状態情報SIを製品の3次元形状VPと紐づけて表示する例であるが、状態情報SIの表示態様はこれらの例に限定されない。状態情報SIは、仮想空間VS内において、製品の3次元形状VPとは離隔して表示しても良い。
図1では、離隔表示の例を示している。
状態情報表示設定部57は、例えば、仮想空間VS内に仮想ディスプレイVDを表示させ、仮想ディスプレイVD上に状態情報SIを表示させることができる。仮想ディスプレイVD上の状態情報SIの表示態様は限定されるものではない。例えば、仮想ディスプレイVDに製品の画像を表示し、状態情報SIをカラーマップ101やラベル103等で表示しても良い。あるいは状態情報SIを、単純なテーブル形式で表示しても良い。
例えば、メインの状態情報SIについては、製品の3次元形状VPに対して重畳表示やリンク表示をした上で、補足的な状態情報SIを仮想ディスプレイVD上に離隔して表示することで、様々な状態情報SIを多角的に把握することができる。
【0053】
以下に、様々な状態情報SIの表示態様の例を列挙する。
例えば、状態情報SIが製品を流れる流体の対流温度である場合は、温度分布ごとに異なる色を付与した流線を3次元形状に重畳して表示しても良い。
例えば、状態情報SIが、製品の画像データである場合、画像データを、製品の3次元形状VPのスキンとして重畳させても良い。さらに画像データから検出した傷や歪み等を、画像データ上に強調表示107として表示したり、アノテーションを付加したりすることができる。
例えば、状態情報SIが、製品の振動(周波数・振幅)である場合、振動が閾値を超えている箇所にアノテーションを付加することができる。そして、製品のアノテーションが付加された箇所について、周波数をラベル103で表示すると共に、色を赤くする等の強調表示107を行うことができる。
【0054】
例えば、状態情報SIが、製品を動作させた際に生じる音に関するデータ(音圧、音量、音域等)である場合、測定箇所の音量をラベル103として表示すると共に、音量が閾値を超える箇所にはアノテーションを付加し、色を赤くする等の強調表示107を行うことができる。あるいは、測定装置3として、音の発生場所を視覚的に表示するデバイス(Fluke ii900等)を使用した場合、得られた画像データを製品の3次元形状VPに重畳表示しても良い。
例えば、状態情報SIが、製品の内部(例えばラジエータ等)を流れる流体の速度である場合、流体の速度と方向を示す流線を、製品の3次元形状VPに重畳して表示させることができる。
例えば、状態情報SIが、製品の触感である場合、製品の粗さを示す凹凸テクスチャを製品の3次元形状VPに重畳して表示させることができる。製品の粗さが大きい箇所については、色を赤くする等の強調表示107を行うことができる。
【0055】
表示領域決定部58(
図7参照)は、HMD6から受信した位置および姿勢情報に基づいて、仮想空間VS内の画像の表示領域を決定する。
HMD6を装着したユーザUが姿勢を変えたり移動したりすると、HMD6の位置および姿勢情報に変化が生じる。表示領域決定部58は、位置および姿勢情報に変化に合わせて、表示領域を変化させる。
さらに、表示領域決定部58は、HMD6の右目用ディスプレイ61aの表示領域と、左目用ディスプレイ61bの表示領域をそれぞれ決定する。表示領域決定部58は、右目と左目の距離および角度の違いに合わせて、それぞれの表示領域を予め設定した距離をずらして決定する。これによって、ユーザUは、仮想空間VSとそこに表示される製品を立体的に視認することができる。
なお、HMD6から位置および姿勢情報が入力される前は、表示領域決定部58は、予め設定された初期位置に基づいて、表示領域を決定する。
【0056】
出力部59は、環境設定部55、製品表示設定部56、状態情報表示設定部57での設定情報を、送受信部51を介してVRプラットフォーム9に出力することで、仮想空間VSの画像を生成する。さらに、出力部59は、表示領域決定部58で決定された表示領域の情報をVRプラットフォーム9に出力することで、HMD6を装着したユーザUの動きに合わせて仮想空間VSの画像を刻々と変化させる。
【0057】
図11は、本実施形態における情報処理装置4の処理の流れを示すフローチャートである。
図11に示すように、情報処理装置4には、3次元デジタイザ2で測定された製品の3次元形状データと、測定装置3の測定データが入力される(ステップS01)。
情報処理装置4の状態情報生成部53は、ユーザUの操作に応じて、測定データから状態情報SIを生成する(ステップS02)。なお、測定データを状態情報SIとしてそのまま使用する場合は、ステップS02は省略することができる。
画像生成部54の環境設定部55は、ユーザUの操作に応じて、仮想空間VSの環境を設定する(ステップS03)。
製品表示設定部56は、ユーザUの操作に応じて、仮想空間VSにおける製品の3次元形状VPの表示位置および表示態様を設定する(ステップS04)。
状態情報表示設定部57は、仮想空間VSにおける製品の状態情報SIの表示位置および表示態様を設定する(ステップS05)。
表示領域決定部58は、仮想空間VS内の画像の表示領域を決定する(ステップS06)。HMD6の位置および姿勢情報が入力されていない状態では、表示領域決定部58は、仮想空間VS内の初期位置に表示領域を決定する。
画像生成部54は、各種設定情報を、送受信部51を介してVRプラットフォーム9に出力することで、仮想空間VSの画像を生成する(ステップS07)。
HMD6からVRプラットフォーム9を介して、HMD6の位置および姿勢情報が入力されると(ステップS08:Yes)、表示領域決定部58は、HMD6の位置および姿勢に基づいて、仮想空間VS内の画像の表示領域を再決定する(ステップS09)、画像生成部54は、決定した表示領域の情報を、送受信部51を介してVRプラットフォーム9に出力して、表示領域を変化させた仮想空間VSの画像を生成する(ステップS06)。
以降、検査中は、ステップS07~S09の処理が繰り返され、仮想空間VSの画像はリアルタイムで変化する。なお、フローチャートでは図示は省略するが、ユーザUの操作によって、各種設定情報の変更が有れば、変更内容を反映した仮想空間VSの画像が生成される。
【0058】
<システムの適用例>
以上説明した、本実施形態のシステム1の適用例を説明する。
ここでは、工場で製造された製品を、工場の遠隔地にいる検査員U1がシステム1を利用して検査する例を説明する。
例えば、製品を製造する工場のスタッフU2が、3次元デジタイザ2および各種の測定装置3(
図1参照)で製品の測定を行う。
図2に示すように、測定によって得られた製品の3次元形状データと測定データが情報処理装置4に入力される。
スタッフU2は、情報処理装置4を操作して、必要に応じて測定データから様々な解析処理を行い、状態情報SIを生成する。また、スタッフU2は、情報処理装置4を操作して、仮想空間VSの環境設定、製品の3次元形状VPの表示設定、状態情報SIの表示設定等、各種の設定処理を行う。情報処理装置4は、各種設定に基づいて仮想空間VSの画像を生成し、VRプラットフォーム9を介してHMD6に送信する。
【0059】
遠隔地にいる検査員U1は、HMD6を頭部に装着する。情報処理装置4から受信した仮想空間VSの画像がHMD6のディスプレイ61に表示される。検査員U1は、仮想空間VS内の製品の3次元形状VPと、状態情報SIに基づいて、製品の検査を行う。検査員U1は、必要に応じて移動し、姿勢を変えることで、製品の3次元形状VPと状態情報SIを様々な距離および角度から確認することができる。
【0060】
なお、VRプラットフォーム9が音声チャット機能を提供するものであれば、遠隔地の検査員U1は、工場のスタッフU2と通信機器で会話しながら検査を行うことができる。この場合、HMD6がマイク、スピーカ等を備えていても良い。また、工場のスタッフU2は、検査中にも、情報処理装置4の操作を行い、検査の進行や検査員U1の要求に応じて、仮想空間VSに表示させる状態情報SIを適宜切り替えることができる。
例えば、製品に異常発生を示すアノテーションのラベル103が表示されている場合、検査員U1は異常発生の原因を検証するために、全ての測定箇所の詳細な数値データを検証することを要望する場合がある。そのような場合、工場のスタッフU2は情報処理装置4を操作して、例えば、アノテーションの表示から、全ての測定箇所の数値データを記載したラベル103の表示に切り替えることができる。さらに、工場の設備情報も取得している場合は、仮想空間VSに工場の設備情報を表示させても良い。これによって、検査員U1は、製品に発生している異常の原因が工場の設備にあるかどうかを検証することもできる。
【0061】
さらに、システム1では、事前に取得した状態情報SIを仮想空間VSで表示するだけでなく、仮想空間VS内で新たに状態情報SIを取得しても良い。例えば、仮想空間VSの光源や天候等の環境設定を切り替え、切り替えた環境下での製品の見え方を示す画像データを、別途検査や試験考証等を行うための状態情報として取得しても良い。
情報処理装置4の状態情報生成部53が、スタッフU2の操作に応じて、取得した画像データの解析処理を行って状態情報SIを生成する。状態情報表示設定部57が、スタッフU2の操作に応じて、生成した状態情報SIを仮想空間VS内に表示させる。これによって、仮想空間VS内で行った検査の結果を、リアルタイムで確認することができる。
【0062】
例えば、
図8の(a)および
図8の(b)に示すように、光源の設定により、ゼブラパターンの光を仮想空間VS内に照射して、仮想空間VS内で外観検査を行っても良い。前記したように、ゼブラパターンの光を照射することで、仮想空間VS内の製品の3次元形状VPの表面に、ゼブラパターンに対応するハイライト線HLが投影される。前記したように、3次元形状VPの表面に傷や歪みがあれば、ハイライト線HLにうねりや歪みが生じる。検査員U1が、3次元形状VPの表面のハイライト線HLを目視して外観検査を行っても良い。あるいは、状態情報生成部53が、ハイライト線HLが投影された3次元形状VPの画像データに対して解析処理を行って、外観検査を行っても良い。なお、前記したように、仮想空間VS内には、ゼブラパターンに限定されず、光源に設定に応じて様々な光の模様を形成するハイライト線HLを投影させることができる。情報処理装置4を操作することで、異なる光の模様に即時に切り替えることができるため、様々な光源下での外観検査が可能である。
【0063】
なお、
図1では、スタッフU2と検査員U1を1名ずつ示しているが、この例に限定されず、それぞれ離れた場所にいる複数の人間が、同時に検査に参加することができる。例えば、製品を構成する部品がそれぞれ異なる工場で作られている場合、各工場で部品の3次元形状データおよび状態情報SIの取得が行われ、情報処理装置4にデータが集約される。各工場のスタッフU2が検査に参加し、検査員U1に各部品の説明を行ったり、仮想空間VSにおいて部品同士を組付けて干渉や異常がないかを検証したりすることができる。
なお、
図1では、画像表示装置の例としてHMD6を示しているが、画像表示装置はHMD6に限定されない。画像表示装置は、例えば、汎用のコンピュータやタブレット端末、モバイル端末等を用いても良い。また、多くのユーザが仮想空間VSの画像を見ることができるように、画像表示装置を大型ディスプレイや、プロジェクター等としても良い。
【0064】
本実施形態のシステム1、ここで例示した製品の検査のみに限定されず、例えば、製品の試験考証、開発会議、クライアントへのプレゼンテーション等、多岐に渡る用途に利用することができる。
【0065】
以上の通り、本実施形態に係る情報処理装置4(画像生成装置)は、例えば、以下の構成を有する。
(1)情報処理装置4は、
仮想空間内に検査対象となる製品が表示された仮想空間VSの画像を生成する。
情報処理装置4は、記憶部52と、製品表示設定部56と、状態情報表示設定部57と、を備える。
記憶部52は、製品の3次元形状のデータと、製品の状態情報SIと、を記憶する。
製品表示設定部56は、仮想空間VSにおける製品の3次元形状VPの表示態様を設定する。
状態情報表示設定部57は、仮想空間VSにおける製品の状態情報SIの表示態様を設定する。状態情報表示設定部57は、仮想空間VSにおいて、製品の3次元形状VPに紐づけて状態情報SIを表示させる。
【0066】
本実施形態によれば、仮想空間上で製品の様々な検査や試験検証等を統合して効率的に行うことができる。
従来、製品の検査や試験考証等を行うためには、例えば、工場等の現場で各種のセンサや測定装置により測定を行うと共に、検査員が工場に赴いて目視で検査を行う。さらに、現場での検査とは別に、現場で取得したデータを利用して、CAE等により様々な解析処理を行って検査をさらに行う。そのため、従来の検査方法では、工場等の現場で取得された状態情報と、コンピュータ上の解析処理で取得された状態情報が個別にバラバラに管理されており、検査や試験検証等の効率に影響を与える可能性がある。
本実施形態において、情報処理装置4が生成する画像は、仮想空間VSにおいて製品の3次元形状VPが表示され、さらに製品の3次元形状VPに紐づけられた態様で、製品の状態情報が表示されるものである。すなわち、様々な態様で得られる製品の状態情報を統合して仮想空間VSに表示することができるため、検査や試験考証等を効率良く行うことができる。
【0067】
さらに、仮想空間VSには、製品の検査を行うのに必要な状態情報SIが集約されており、状態情報SIは製品の3次元形状VPとの関連を直感的に把握しやすい態様で表示される。これによって、検査員U1は工場に赴かなくても、リモートでも製品を検査することができる。
例えば、自動車等の製品は、構成部品ごとに製造する工場が異なることもある。このような場合には、複数の工場に検査員が赴く必要があり、検査員を配置するための人的コストが増加し、検査に要する時間も増大する。本実施形態では、仮想空間VSにおいて検査員U1が検査を行うことができるため、人的コストや検査時間を低減することができる。
【0068】
(2)製品の3次元形状のデータは、製品の複数の測定点における3次元座標値を含む。
状態情報表示設定部57は、製品の状態情報SIの測定箇所(取得箇所)を、3次元形状データの対応する測定点に紐づけする。
【0069】
例えば、状態情報SIが、寸法誤差のように測定箇所の3次元座標値が含むものであれば、状態情報SIの3次元座標値をそのまま3次元形状データの3次元座標値に紐づけすることができる。状態情報SIに測定箇所の3次元座標値が含まれない場合は、ユーザUが測定箇所と3次元形状データの測定点の対応を指定することで、紐づけを行うことができる。
これによって、状態情報SIの重畳表示やリンク表示を容易に行うことができ、ユーザUの利便性を高めることができる。
【0070】
(3)状態情報表示設定部57は、製品の状態情報SIを、製品の3次元形状VPに重畳して表示させる。
【0071】
状態情報SIを、製品の3次元形状VPに重畳して表示することで、状態情報SIを3次元形状と紐づけて把握することが容易となる。
【0072】
(4)状態情報表示設定部57は、状態情報SIが有する数値データをカラーマップ101に変換し、カラーマップ101を製品の3次元形状VPに重畳して表示することができる。
【0073】
状態情報SIは、例えば、測定箇所ごとの数値データから構成されるが、数値データを単純なテーブル形式で表示しても、数値データが示す傾向や重要な数値データを直感的に把握しにくい。状態情報表示設定部57は、状態情報SIをカラーマップ101に変換して仮想空間VS内で表示する。カラーマップ101は、状態情報SIの数値データの傾向が色で示されるため、状態情報SIが直感的に把握しやすくなる。そして、カラーマップ101を製品の3次元形状VPに重畳して表示することで、状態情報SIと製品の3次元形状VPの各箇所との関連が把握しやすくなる。
【0074】
(5)状態情報表示設定部57は、状態情報SIをラベル103に記載して表示する。
【0075】
ラベル103を、例えば製品の3次元形状VPに重畳表示したり、リンク表示したりすることで、ラベル103に記載された数値データと製品の測定箇所との関連が把握しやすくなる。
【0076】
(6)状態情報表示設定部57は、製品の状態情報SIを、製品の3次元形状VPの状態情報の測定箇所に、矢印や引き出し線等の接続部104を介して接続して、リンク表示させる。
【0077】
状態情報SIを、製品の3次元形状VPに、矢印や引き出し線等の接続部104を介して接続して表示することで、状態情報SIを3次元形状と結びつけて把握することが容易となる。
【0078】
(7)情報処理装置4は、仮想空間VSの環境を設定する環境設定部55を備える。
環境設定部55は、仮想空間VSに光を照射する光源LSを設定することで、3次元形状VPの表面に、光に対応するハイライト線HLを表示させる。
【0079】
これによって、仮想空間VS内で、様々な光源下での製品の見え方を確認することができる。実際の設備では、様々な光源を準備するのにコストがかるが、仮想空間VSにおいては、情報処理装置4の操作のみで様々な光源LSを実現可能であり、設備コストを削減することができ、またユーザの利便性も高めることができる。
【0080】
(8)環境設定部55は、光源LSの設定により、3次元形状VPの表面に、例えば、縞状の光の模様、円形の光の模様、多角形状の光の模様、ドット状の光の模様、規則的なパターンの光の模様またはランダムなパターンの光の模様を形成するハイライト線を表示させることができる。
なお、これらの模様は単体で表示しても良く、組み合わせて表示しても良い。
【0081】
例えば、実際の設備では、光の模様が複雑になるほど設備コストも増加するが、仮想空間VSであれば、情報処理装置4において光の模様に応じた光源LSの設定を行えば良いため、コストを削減することができる。さらに、情報処理装置4の操作で、様々な光の模様を即時に切り替えて表示することも可能である。様々な態様で製品の見え方を確認することができるため、ユーザの利便性を向上させることができる。
一例として、仮想空間VS内でゼブラパターンの光を照射することで、製品の3次元形状VPの表面にゼブラパターンの光に対応するハイライト線が投影される。これによって、製品の表面の傷や歪みの有無を検査する外観検査を、仮想空間VS内で行うことができる。
【0082】
(9)本実施形態に係るシステム1は、前記(1)~(6)に記載された情報処理装置4(画像生成装置)と、
情報処理装置4で生成された仮想空間VSの画像を表示するHMD6(画像表示装置)と、を備える。
HMD6は、
仮想空間VSの画像を表示するディスプレイ61(表示部)と、
表示部をユーザUの身体に装着可能とする装着部62と、
ユーザUの位置および姿勢を検出するモーションセンサ66と、を備える。
情報処理装置4は、ユーザUの位置および姿勢に基づいて、仮想空間VSの画像として表示する仮想空間VS内の領域を決定する表示領域決定部58を備える。
【0083】
これによって、情報処理装置4が、HMD6を装着したユーザUの動きに合わせて仮想空間VSの画像を刻々と変化させることができ、ユーザUは仮想空間VS内の製品の3次元形状VPおよび状態情報SIを様々な位置および角度から見ることができる。
【0084】
上記した効果は、情報処理装置4(画像生成装置)が実施する方法と、コンピュータを画像生成装置として機能させるための画像生成プログラムにも適用することができる。
【0085】
前記した実施形態では、HMD6がモーションセンサ66を備え、HMD6を装着したユーザUの位置および姿勢の変化に応じて仮想空間VSの表示領域を変更する例を説明したが、この例に限定されない。例えば、HMD6は、仮想空間VSの表示領域を切り替えるためのコントローラを備えていても良い。コントローラは、例えば、ユーザUが把持して操作するスティックコントローラとすることができる。これによって、例えば、ユーザUが座ったままでも、仮想空間VS内の表示領域を自由に切り替えることができる。
【0086】
また、前記した実施形態では、状態情報SIを仮想空間VS内で画像として表示する例を説明したが、この例に限定されない。例えば、状態情報SIが製品の触感を示す情報である場合、触感を再現する触覚データグローブをシステム1の一構成として採用しても良い。ユーザUが触覚データグローブを装着した状態で、仮想空間VS内の製品の3次元形状VPに触れると、触覚データグローブにより、触感が再現されるようにしても良い。
【0087】
なお、本発明は、以上説明した実施形態および変形例に限定されるものではなく、本発明の分野において通常の知識を有する者が、本発明の技術的思想内で変形することができる。
【符号の説明】
【0088】
1 システム
2 3次元デジタイザ
3 測定装置
4 情報処理装置(画像生成装置)
53 状態情報生成部
54 画像生成部
55 環境設定部
56 製品表示設定部
57 状態情報表示設定部
58 表示領域決定部
6 ヘッドマウントディスプレイ(画像表示装置)
61 ディスプレイ(表示部)
62 装着部
66 モーションセンサ
9 VRプラットフォーム
VS 仮想空間
P 製品
SI 状態情報
101 カラーマップ
103 ラベル
104 接続部
【要約】
【課題】仮想空間内で、製品の検査や試験検証を統合的に行うことが可能な環境を提供する。
【解決手段】情報処理装置4は、製品の3次元形状VPと状態情報SIとが表示された仮想空間VSの画像を生成する。情報処理装置4は、記憶部52と、製品表示設定部56と状態情報表示設定部57と、を備える。記憶部52は、製品の3次元形状のデータと、製品の状態情報SIと、を記憶する。製品表示設定部56および状態情報表示設定部57は、仮想空間VSにおける製品の3次元形状VPと製品の状態情報SIとの表示態様を設定する。状態情報表示設定部57は、仮想空間VSにおいて、製品の3次元形状VPに紐づけて状態情報SIを表示させる。
【選択図】
図1