IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

特開2024-174452情報処理装置、情報処理方法、プログラム
<>
  • 特開-情報処理装置、情報処理方法、プログラム 図1
  • 特開-情報処理装置、情報処理方法、プログラム 図2
  • 特開-情報処理装置、情報処理方法、プログラム 図3
  • 特開-情報処理装置、情報処理方法、プログラム 図4
  • 特開-情報処理装置、情報処理方法、プログラム 図5
  • 特開-情報処理装置、情報処理方法、プログラム 図6
  • 特開-情報処理装置、情報処理方法、プログラム 図7
  • 特開-情報処理装置、情報処理方法、プログラム 図8
  • 特開-情報処理装置、情報処理方法、プログラム 図9
  • 特開-情報処理装置、情報処理方法、プログラム 図10
  • 特開-情報処理装置、情報処理方法、プログラム 図11
  • 特開-情報処理装置、情報処理方法、プログラム 図12
  • 特開-情報処理装置、情報処理方法、プログラム 図13
  • 特開-情報処理装置、情報処理方法、プログラム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024174452
(43)【公開日】2024-12-17
(54)【発明の名称】情報処理装置、情報処理方法、プログラム
(51)【国際特許分類】
   G06T 19/00 20110101AFI20241210BHJP
   G06T 15/08 20110101ALI20241210BHJP
   G06T 19/20 20110101ALI20241210BHJP
【FI】
G06T19/00 A
G06T19/00 600
G06T15/08
G06T19/00 C
G06T19/20
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023092279
(22)【出願日】2023-06-05
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】武本 和樹
【テーマコード(参考)】
5B050
5B080
【Fターム(参考)】
5B050BA09
5B050CA07
5B050DA07
5B050EA06
5B050EA07
5B050EA09
5B050EA12
5B050EA13
5B050EA19
5B050FA06
5B080AA13
5B080AA17
(57)【要約】
【課題】CGモデルの内部の状態をユーザがより適切に観察できる技術を提供する。
【解決手段】情報処理装置は、第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成手段と、前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成手段と、前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御手段と、を有する。
【選択図】図1
【特許請求の範囲】
【請求項1】
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成手段と、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成手段と、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御手段と、
を有することを特徴とする情報処理装置。
【請求項2】
前記隙間領域は、ユーザにより指定された範囲内の領域であって、かつ、前記第1のCGモデルによって囲われた領域である、
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
現実空間が撮像された撮像画像と、前記仮想空間の画像とを合成した画像を生成する合成手段とをさらに有し、
前記制御手段は、前記合成手段により生成された画像を表示するように前記表示手段を制御する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項4】
前記モデル生成手段は、ボクセルグリッドを用いて、前記第1のCGモデルの形状に基づき前記隙間領域のCGモデルを生成する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項5】
前記モデル生成手段は、前記隙間領域のCGモデルを生成した後に、前記第1のCGモデルの属性情報を前記隙間領域のCGモデルの属性情報に設定する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項6】
動く物体である可動物体のCGモデルを取得する取得手段をさらに有し、
前記モデル生成手段は、前記隙間領域のCGモデルを生成した後に、前記隙間領域のCGモデルの表面と前記可動物体のCGモデルとが接触しないように、前記隙間領域のCGモデルを補正する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項7】
前記隙間領域のCGモデルのレンダリングモードを、前記隙間領域のCGモデルに設定された属性情報を用いて前記隙間領域のCGモデルのレンダリングをする第1のレンダリングモードと、前記隙間領域のCGモデルに設定された属性情報を用いずに前記隙間領域のCGモデルのレンダリングをする第2のレンダリングモードとのうちのいずれかに設定する設定手段をさらに有し、
前記画像生成手段は、前記設定手段により設定された前記レンダリングモードに従って、前記隙間領域のCGモデルのレンダリングをする、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項8】
動く物体である可動物体のCGモデルを取得する取得手段をさらに有し、
前記第2のレンダリングモードは、前記隙間領域のCGモデルの表面のうち前記可動物体のCGモデルと接触する領域をユーザが見ることが可能なように、前記隙間領域のCGモデルのレンダリングをするモードである、
ことを特徴とする請求項7に記載の情報処理装置。
【請求項9】
前記第2のレンダリングモードは、前記隙間領域のCGモデルの各辺を点線で表示するレンダリングモード、または、前記隙間領域のCGモデルのテクスチャに単色の半透明の
テクスチャを用いるレンダリングモードである、
ことを特徴とする請求項8に記載の情報処理装置。
【請求項10】
前記モデル生成手段により生成された前記隙間領域のCGモデルの形状を、ユーザの操作に応じて編集する編集手段をさらに有する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項11】
前記隙間領域のCGモデルを出力する出力手段をさらに有する、
ことを特徴とする請求項1または2に記載の情報処理装置。
【請求項12】
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成ステップと、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成ステップと、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御ステップと、
を有することを特徴とする情報処理方法。
【請求項13】
コンピュータを、請求項1または2に記載の情報処理装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、プログラムに関する。
【背景技術】
【0002】
従来、表示デバイスの動きに応じてCG(Computer Graphics)モデルを表示するシステム(仮想現実感および複合現実感などの提示システム)が存在する。このようなシステムにおいて、体験者が手に持つ物体および、現実空間で動く物体(以下、「可動物体」と呼ぶ)に対して、CGモデルを重畳する場合がある。
【0003】
例えば、大型装置の内部に人が手を入れてメンテナンスを実施するようなユースケースが考えられる。このようなユースケースにおいて、「体験者が現実で手に持つ工具」と同じ形状の工具のCGモデルが表示される場合がある。そして、大型装置のCGモデルと工具のCGモデルが周辺の部品に接触しない(十分な作業スペースが確保できている)か否かを、ユーザが観察することがある。
【0004】
特許文献1では、部品のCGモデルの接触位置を強調表示する機能が開示されている。CGモデルの設計者は、この強調表示がされた接触位置を見ることによって、工具のCGモデルと部品のCGモデルとの接触が発生しないように部品のCGモデルの位置を調整することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004-178006号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記のように、大型装置の内部をユーザが観察することは、メンテナンスにおいて重要な役割を担う。一方で、仮想空間においてCGモデルのレンダリング(描画)をして、CGモデルを表示するためには、多くの処理が必要となる。このため、仮想空間の画像の更新速度(更新レート)が低下する可能性があり、大型装置のCGモデルの内部の状態をユーザが適切に理解できない場合があった。
【0007】
そこで、本発明は、CGモデルの内部の状態をユーザがより適切に観察できる技術の提供を目的とする。
【課題を解決するための手段】
【0008】
本発明の1つの態様は、
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成手段と、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成手段と、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御手段と、
を有することを特徴とする情報処理装置である。
【0009】
本発明の1つの態様は、
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成ステップと、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成ステップと、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御ステップと、
を有することを特徴とする情報処理方法である。
【発明の効果】
【0010】
本発明によれば、CGモデルの内部の状態をユーザがより適切に観察できる。
【図面の簡単な説明】
【0011】
図1】実施形態1に係る画像生成装置のブロック図である。
図2】実施形態1に係る抽出部の内部構成図である。
図3】実施形態1に係る画像生成装置の処理のフローチャートである。
図4】実施形態1に係る隙間領域のモデルの生成処理のフローチャートである。
図5】実施形態1に係る仮想画像の生成処理のフローチャートである。
図6】実施形態3に係る隙間領域のモデルの編集処理のフローチャートである。
図7】実施形態1に係る抽出部の処理を説明する図である。
図8】接触領域を説明する図である。
図9】実施形態1に係る画像生成装置のハードウェア構成を示す図である。
図10】仮想検証の様子を示す図である。
図11】実施形態2に係る画像生成装置のブロック図である。
図12】実施形態2に係る画像生成装置の処理のフローチャートである。
図13】実施形態3に係る画像生成装置のブロック図である。
図14】実施形態3に係る画像生成装置の処理のフローチャートである。
【発明を実施するための形態】
【0012】
以下に、本発明の実施の形態を、添付の図面に基づいて詳細に説明する。
【0013】
<実施形態1>
図9のハードウェア構成図を参照して、実施形態1に係る画像生成装置(情報処理装置;表示制御装置)100のハードウェア構成および処理について説明する。
【0014】
図9に示すように、画像生成装置100は、CPU901、ROM902、I/F903、記憶媒体ドライブ905、外部記憶装置906、RAM907、マウス908、キーボード909、バス910、モニター911を有する。また、画像生成装置100は、撮像部103および表示部110を有するHMD10と接続する。撮像部103および表示部110については後述する。
【0015】
CPU901は、画像生成装置100の各構成を制御する制御部である。ROM902は、CPU901が実行するためのプログラムなどを非一時的に格納するROM(Read Only Memory)である。I/F903は、撮像部103とバス910とを接続するインターフェースである。記憶媒体ドライブ905は、記憶媒体(画像生成装置100に接続可能な記憶媒体)に対して読み書きを行う装置である。
【0016】
外部記憶装置906は、各種情報を格納可能な装置である。RAM907は、CPU901の作業用の領域を提供するRAM(Random Access Memory)である。マウス908およびキーボード909は、ユーザが指示を入力するための操作部材である。バス910は、画像生成装置100の各構成間を接続する。モニター911は、各種画像を表示する。
【0017】
図10は、仮想空間における検証(以下、「仮想検証」と呼ぶ)の様子を示す。図10では、作業者1010は、HMD(ヘッドマウントディスプレイ)10を頭部に装着しているユーザである。作業者1010は、作業に用いる可動物体としてレンチ1020を手に持っている。そして、作業者1010は、仮想空間において、装置700の内部に入り込んで、仮想検証を行っている。このとき、作業者1010、HMD10、レンチ1020は、仮想空間のみならず、現実空間においても存在する。
【0018】
一般的に、CADモデルから生成されたCGモデルは、ポリゴン数およびノード数が多い。このため、作業者1010がCGモデルを観察(操作)する際に、画像(映像;動画)の生成(表示更新)のフレームレートが低下する傾向にある。一般的には、30フレーム/秒以上の画像が生成できれば、HMD10を使った体験が確実に可能である。しかし、CGモデルのポリゴン数およびノード数が多い場合には、例えば、画像を生成する速度が5~10フレーム/秒まで低下するため、作業者1010による仮想検証が実現(再現)困難になる。そこで、実施形態1では、或るCGモデルのレンダリングを行う前に、作業に必要な情報のみを抽出することによって、少ないポリゴン数で表現されたCGモデルを用いて仮想検証を実現する方法を示す。
【0019】
図1は、HMD10に表示する仮想空間の画像(以下、「仮想画像」と呼ぶ)を生成する画像生成装置100のブロック図を示す。画像生成装置100は、記憶部150、仮想画像生成部160、抽出部180、推定部190、位置姿勢推定部195を有する。
【0020】
記憶部150は、画像生成装置100を実行するために必要な情報を管理する。例えば、記憶部150は、RAM907から読み出した情報を、他の機能ブロックに送信する。また、記憶部150は、他の機能ブロックの処理結果の情報を受け取って、受け取った処理結果の情報をRAM907に書き込む。
【0021】
例えば、記憶部150は、CGモデル情報、仮想カメラの位置姿勢の情報、可動物体の位置姿勢の情報、仮想カメラパラメータ、隙間領域モデル情報、必要領域情報、および仮想画像を格納(保持)する。
【0022】
ここで、CGモデル情報は、CGモデルの独自のモデル座標系の3次元ポリゴンの頂点位置とともに、エッジ情報、およびテクスチャ情報(表面の色および模様などの情報)を含む。また、CGモデル情報は、図10に示すように、「装置700のCGモデル」の情報と「可動物体であるレンチ1020のCGモデル」の情報を含む。
【0023】
仮想カメラの位置姿勢の情報は、「基準座標系における仮想カメラの位置と姿勢」を表すパラメータである。ここで、仮想カメラとは、仮想空間を撮像するカメラ(撮像装置)である。仮想カメラは、HMD10の撮像部103(例えば、右眼用の画像を取得する撮像素子と左目用の画像を取得する撮像素子とを含む撮像部)の仮想オブジェクトである。また、基準座標系は、仮想空間における任意の基準の座標系であってよい。
【0024】
可動物体の位置姿勢の情報は、基準座標系における可動物体の位置と姿勢を表すパラメータである。仮想カメラパラメータは、主点位置、焦点距離、および左右の撮像素子(レンズ)の相対位置姿勢などを表すパラメータである。
【0025】
隙間領域モデル情報は、抽出部180により生成された「隙間領域720のCGモデル」に関する情報を含む(図7C参照)。隙間領域モデル情報は、例えば、隙間領域720のCGモデルの3次元ポリゴンの頂点位置、エッジ情報、およびテクスチャ情報(表面の色および模様などの情報)を含む。「隙間領域」は、作業者1010によって指定された必要領域(仮想検証において必要な領域)のうち、或るCGモデルによって囲まれる空間
(例えば、上下左右前後の方向の6方向のうち少なくとも3方向において囲まれている空間)の領域である。なお、「隙間領域」とは、作業者1010により指定された範囲内であるか否かに関わらず、或るCGモデルによって囲まれる空間の領域であってもよい。
【0026】
必要領域情報は、上記の必要領域(3次元領域)を画定する情報である。必要領域情報は、例えば、必要領域を表す直方体の頂点の3次元座標の情報を格納する。なお、必要領域情報は、作業者1010が事前に登録しておく。必要領域情報は、隙間領域720のCGモデルの生成時に、抽出部180により利用される。例えば、図7Aにおいて破線が示す必要領域705は、作業者1010が指定した領域である。
【0027】
なお、記憶部150は、利用するコンテンツに応じて、上記以外の他の情報を有していたり、上記の情報の一部を有していなくてもよい。
【0028】
抽出部180は、ポリゴン数またはノード数が多いCGモデル(記憶部150に格納された装置700のCGモデルなど)の情報量を軽量化するために、当該CGモデルのうち、仮想検証に必要な隙間領域720のみを抽出する。言い換えると、抽出部180は、モデル生成部として、或るCGモデルに基づき隙間領域720のCGモデルを生成する。
【0029】
実施形態1では、図10に示すように、仮想空間において、作業者1010が装置700の内部の空間に頭部と手を入れて作業するユースケースを説明する。このユースケースでは、「仮想検証において必要な領域」は、「作業者1010の手および頭部に接する可能性がある領域」のみであってよい。なお、実施形態1は、「装置700の隙間領域720を抽出する場合」に限定されるものではなく、「装置700の部品に囲まれた内部領域を取り扱う場合」であっても適用可能である。
【0030】
推定部190は、現実空間におけるHMD10(表示部110)の位置姿勢を推定する。例えば、「HMD10の表面に設けられた複数のLED」を観測する外部カメラが現実空間に設置されている場合がある。この場合には、推定部190は、外部カメラが取得した画像における複数のLEDの座標に基づき、HMD10の位置姿勢を推定できる。
【0031】
位置姿勢推定部195は、現実空間における可動物体の位置姿勢を推定する。例えば、「可動物体であるレンチ1020の表面に設けられた複数のLED」を観測する外部カメラが現実空間に設置されている場合がある。この場合には、位置姿勢推定部195は、外部カメラが取得した画像における複数のLEDの画像の座標に基づき、レンチ1020の位置姿勢を推定できる。
【0032】
仮想画像生成部160は、記憶部150に格納されている隙間領域モデル情報、CGモデル情報、仮想カメラの位置姿勢の情報、可動物体の位置姿勢の情報、および、仮想カメラパラメータに基づき、仮想画像を生成する(仮想画像のレンダリングをする)。より具体的には、仮想画像生成部160は、仮想カメラパラメータに従った画質で仮想カメラが撮影した隙間領域720のCGモデルを表現するように、隙間領域モデル情報を参照して、隙間領域720のCGモデルのレンダリング(描画)をする。仮想画像生成部160は、仮想カメラパラメータに従った画質で仮想カメラが撮影した可動物体のCGモデルを表現するように、CGモデル情報のうちの可動物体の情報と可動物体の位置姿勢の情報に基づき、可動物体のCGモデルのレンダリングをする。
【0033】
仮想画像生成部160は、生成した仮想画像を記憶部150に送信する。
【0034】
なお、従来では、装置700のCGモデルのレンダリング(描画)が行われるため、レンダリングの処理速度が遅く、5~10フレーム/秒で仮想画像が生成される。しかし、
実施形態1では、仮想画像生成部160は、装置700のCGモデルのレンダリングをせずに、図7Cに示すように、隙間領域720のCGモデルのレンダリングを行う。このことで、仮想画像生成部160は、従来よりも速い更新速度で仮想画像を生成することができる。
【0035】
また、仮想画像生成部160は、隙間領域720のCGモデルの表面と、可動物体であるレンチ1020のCGモデルとの接触を判定する。仮想画像生成部160は、接触が発生した領域の形状情報を接触領域の形状情報として取得する。仮想画像生成部160は、接触領域の形状情報を、隙間領域720のCGモデルの一部(または、付随情報)として記録する。
【0036】
図8Aは、仮想画像生成部160が生成した仮想画像を示す。図8Bに示す接触領域810は、作業者1010が仮想検証を行っている場合に、装置700のCGモデル(隙間領域720のCGモデルの表面)とレンチ1020のCGモデルとが接触した領域を示している。なお、接触領域810は、隙間領域720のCGモデルの表面とレンチ1020のCGモデルとの接触領域であってもよいし、レンチ1020のCGモデルのうち隙間領域720のCGモデルに含まれていない領域であってもよい。
【0037】
なお、仮想画像生成部160は、隙間領域720のCGモデルのみのレンダリングをしてもよいし、装置700のCGモデルの部品または部品の一部のレンダリングをさらにしてもよい。
【0038】
表示部110は、作業者1010が装着しているHMD10に組み込まれている。表示部110は、記憶部150に格納されている仮想画像を読み出して、仮想画像を表示する。表示部110は、左右の両方の目に対応した1つの仮想画像を表示(提示)してもよいし、左右の目それぞれに異なる仮想画像を表示してもよい。
【0039】
図2は、抽出部180の内部構成図である。抽出部180は、ボクセルグリッド設定部210、メッシュ生成部230、属性情報設定部240を有する。
【0040】
ボクセルグリッド設定部210は、記憶部150に格納されている必要領域情報が示す直方体領域に基づき、ボクセルグリッド(ボクセルの格子)を設定する。具体的には、ボクセルグリッド設定部210は、ボクセルグリッド設定部210は、1辺の長さが所定の長さである複数のボクセル(立方体)に直方体領域を分割できるようなボクセルグリッドを設定する。図7Bに、ボクセルグリッド710の例を示す。なお、ボクセルの1辺のサイズに応じて、3次元モデルのメッシュ(ポリゴンメッシュ)のポリゴン数が決定されるため、レンダリング時のリソースに応じて当該サイズが設定されることが望ましい。「メッシュ」とは、オブジェクトの3次元形状を表現するための形態の一つである。また、仮想検証時のCGモデルの形状の再現度を向上させたい場合には、ボクセルの1辺のサイズを小さく設定することにより、再現度が調整できる。なお、設定されたボクセルグリッドの情報は、メッシュ生成部230に送信される。
【0041】
メッシュ生成部230は、装置700のCGモデルのうち、ボクセルグリッド710の領域に含まれる範囲の頂点位置とエッジ情報とを参照して、隙間領域720のCGモデルを生成する。例えば、メッシュ生成部230は、各ボクセルの位置から装置700のCGモデルの3次元の頂点位置を検出して、その3次元の頂点位置とエッジ情報によって定義できるような隙間領域720のCGモデルのメッシュを生成する。図7Cは、メッシュモデルである隙間領域720のCGモデルを示す。
【0042】
なお、装置700のCGモデルのポリゴン数が非常に大きい(所定の閾値を超えている
)場合がある。この場合には、メッシュ生成部230は、装置700のCGモデルのポリゴンの全ての頂点位置のうち、各ボクセル内において均等に配置された各サンプリング点に一番距離が近い頂点位置(およびエッジ情報)のみを参照してもよい。
【0043】
実施形態1には、ボクセルグリッドを使ったメッシュ生成方法に限らず、装置700のCGモデルに基づき隙間領域720のCGモデルを生成する任意の方法が適用可能である。例えば、メッシュ生成方法に、マーチングキューブ法を使ってもよい。例えば、各ボクセルの8頂点それぞれに、装置700のCGモデルの内部であることを示す「0」の属性、または装置700のCGモデルの外部であることを示す「1」の属性を持たせる。そして、あらかじめ設定された15種類のメッシュ形状パターンのうち、各ボクセルの8頂点の属性に応じた1つが、当該ボクセルにおけるCGモデルのメッシュ形状として自動的に選択される。選択されたメッシュ形状を各ボクセルに割り当てることで、自動的にCGモデルの表面形状に適したメッシュモデルが生成できる。
【0044】
また、メッシュ生成部230は、装置700のCGモデルの3次元の頂点位置ではなく、「装置700から離れるよう(隙間領域側)に当該頂点位置から一定の距離をシフトした位置」により定義される隙間領域720のCGモデルのメッシュを生成してもよい。このように、装置700のCGモデルの表面から一定距離の場所に隙間領域720のCGモデルを生成することで、仮想検証時に接触を判定する場合に、一定のゆとり(クリアランス)を設けて検証することができる。
【0045】
属性情報設定部240は、「装置700のCGモデルに設定されていた属性情報」を、「メッシュ生成部230により生成された隙間領域720のCGモデルのメッシュの属性情報」に複製する。例えば、属性情報設定部240は、隙間領域720のCGモデルのポリゴンの第1の頂点に一番近い「装置700のCGモデルのポリゴンの頂点」を選択する。属性情報設定部240は、選択されたポリゴンの頂点に設定された属性情報(テクスチャのUV座標および、ポリゴン頂点のα値など)を、第1の頂点の属性情報に複製する。
【0046】
このように、属性情報設定部240は、装置700のCGモデルの属性情報を隙間領域720のCGモデルの属性情報に複製する。このことにより、HMD10の表示部110に表示される仮想画像は、装置700のCGモデルのレンダリングをした仮想画像のように見える。
【0047】
上述のように、抽出部180は、ポリゴン数およびノード数の多い装置700のCGモデルから仮想検証に必要な領域を抽出することにより、レンダリングの対象となる情報量が少ないメッシュを取得できる。ここでは、作業者1010が必要領域として3次元領域を指定するだけで、自動的にメッシュが出力される。このため、例えば、仮想検証において表示したいCGモデルの各部品を、作業者1010が個別に選ぶような場合に比べて、作業者1010の作業の時間を短くすることも可能である。また、作業者1010は、ボクセルグリッドのボクセルのサイズをパラメータとして選択(入力)することにより、仮想画像のレンダリングの更新速度を30フレーム/秒以上にするような調整も可能である。
【0048】
図3のフローチャートを参照して、実施形態1に係る画像生成装置100の全体処理の詳細を示す。
【0049】
ステップS310では、抽出部180は、装置700のCGモデルとレンチ1020のCGモデルを、記憶部150から読み出す。
【0050】
ステップS320では、抽出部180は、装置700のCGモデルと必要領域情報とに
基づき、隙間領域720のCGモデルを生成する。ステップS320の処理の詳細については後述する。
【0051】
ステップS340では、仮想画像生成部160は、レンダリングに必要な仮想カメラパラメータを記憶部150から読み出す。
【0052】
ステップS350では、画像生成装置100は、隙間領域720のCGモデルおよび仮想カメラパラメータなどに基づき、仮想画像を生成する。画像生成装置100は、表示部110に仮想画像を送信する。その後、表示部110は、仮想画像を表示する。ステップS350の処理の詳細は後述する。
【0053】
ステップS360では、記憶部150は、作業者1010から終了指示が行われたか否かを判定する。終了指示が行われていないと判定された場合には、ステップS350に戻る。終了指示が行われたと判定された場合には、本フローチャートの処理が終了する。
【0054】
図4のフローチャートは、隙間領域720のCGモデルを生成する処理(ステップS320の処理)の詳細を示す。
【0055】
ステップS410では、ボクセルグリッド設定部210は、記憶部150に格納されている必要領域情報の直方体領域に基づき、ボクセルグリッドを設定する。
【0056】
ステップS420では、メッシュ生成部230は、ボクセルグリッドの領域に含まれる装置700の範囲のCGモデルの情報(頂点位置の情報とエッジ情報など)に基づき、隙間領域720のCGモデルを生成する。
【0057】
ステップS430では、属性情報設定部240は、装置700のCGモデルに設定されていた属性情報を、隙間領域720のCGモデルの属性情報に複製(設定)する。つまり、属性情報設定部240は、装置700のCGモデルに設定されていた属性情報を、隙間領域720のCGモデルの属性情報としても用いる。
【0058】
図5のフローチャートは、仮想画像を生成する処理(ステップS350の処理)の詳細を示す。
【0059】
ステップS510では、推定部190は、現実空間におけるHMD10の表示部110の位置姿勢を推定する。また、推定部190は、表示部110の位置姿勢に基づき、仮想カメラの位置姿勢を決定する。
【0060】
ステップS520では、位置姿勢推定部195は、現実空間における可動物体であるレンチ1020の位置姿勢を推定する。また、位置姿勢推定部195は、現実空間におけるレンチ1020の位置姿勢に基づき、仮想空間におけるレンチ1020のCGモデルの位置姿勢を決定する。
【0061】
ステップS530では、仮想画像生成部160は、隙間領域720のCGモデルとレンチ1020のCGモデルとのレンダリングを行うことによって、仮想画像を生成する。このとき、仮想画像生成部160は、隙間領域720のCGモデル、CGモデル情報、仮想カメラの位置姿勢、レンチ1020の位置姿勢、および仮想カメラパラメータに基づき、これらの処理を実行する。
【0062】
ステップS540では、仮想画像生成部160は、表示部110に仮想画像を送信する。表示部110は、仮想画像を取得すると、その仮想画像を表示する。このため、仮想画
像生成部160は、仮想画像を表示するように表示部110を制御している。
【0063】
実施形態1によれば、画像生成装置100は、隙間領域720のCGモデルのレンダリングを、短時間で実現できる。このため、作業者1010は、適切な更新速度で表示される隙間領域720のCGモデルを見ることによって、装置700のCGモデルの内部の状態を適切に観察することができる。
【0064】
<実施形態2>
実施形態1では、隙間領域720のCGモデルの仮想画像をHMD10に提示する方法を説明した。一方で、複合現実空間を提示するためのHMD(ビデオシースルーHMDまたは光学シースルーHMD)を用いることもできる。
【0065】
実施形態2では、HMD10としてビデオシースルーHMDを用いる場合について説明する。実施形態2では、さらに隙間領域720のCGモデルのレンダリングモードの設定についても説明する。
【0066】
図11は、実施形態2に係る画像生成装置100のブロック図を示す。実施形態2では、実施形態1と同じ機能を有する機能部には、同じ番号を付与している。実施形態2において実施形態1と同じ機能部については説明を省略する。HMD10は、撮像部103、入力部104、表示部110を有する。画像生成装置100は、実施形態1に係る構成に加えて、取得部105、設定部155、合成部170を有する。
【0067】
撮像部103は、HMD10を装着する作業者1010の眼の前(視線方向の位置)に配置されたカメラである。撮像部103は、「HMD10を装着しない場合に作業者1010の眼から見える現実空間」を撮像する。撮像部103は、HMD10の左右の表示部にそれぞれ画像を提示できるようにステレオカメラで構成されていてもよい。撮像部103は、単眼のカメラであってもよい。また、撮像部103は、カラー画像を取得するカラーカメラであってもよいし、モノクロ画像を取得するモノクロカメラであってもよい。
【0068】
入力部104は、キーボードまたはマウスなどの操作部材(入力デバイス)である。設定部155は、入力部104への作業者1010の操作に応じて、レンダリングモード(隙間領域720のCGモデルのレンダリング方法を切り替えるためのモード)を設定する(切り替える)。なお、入力部104は、画像生成装置100に含まれるキーボード909またはマウス908などであってもよい。
【0069】
取得部105は、撮像部103によって現実空間を撮影したカメラ画像(撮像画像)を取得して、カメラ画像をRAM907に保持する。また、取得部105は、取得したカメラ画像を記憶部150に出力する。
【0070】
記憶部150は、実施形態1において管理していた情報に加えて、カメラ画像、カメラパラメータ、およびレンダリングモードの情報を有する。カメラパラメータは、撮像部103のパラメータである。カメラパラメータは、撮像部103の主点位置、焦点距離、およびレンズ歪み補正パラメータなどを表すパラメータである。カメラパラメータは、撮像部103が左右の2つの撮像素子を有する場合には、左右の撮像素子の相対的な位置姿勢のパラメータを有していてもよい。また、レンダリングモードの情報は、隙間領域720のCGモデルのレンダリングモード(表示属性)を決定するフラグを含む。
【0071】
仮想画像生成部160は、実施形態1で参照していた記憶部150が格納する情報と、レンダリングモードの情報とを参照して、隙間領域720のCGモデルのレンダリングをする。このことによって、仮想画像生成部160は、仮想画像を生成する。例えば、レン
ダリングモードが「検証モード」に設定されている場合には、仮想画像生成部160は、実施形態1と同様に、隙間領域720のCGモデルのレンダリングをする。つまり、仮想画像生成部160は、隙間領域720のCGモデルに設定された属性情報(=装置700のCGモデルの属性情報)に基づき、隙間領域720のCGモデルのレンダリングをする。
【0072】
一方で、レンダリングモードが「接触チェックモード」である場合には、仮想画像生成部160は、隙間領域720のCGモデルに設定された属性ではなく、「俯瞰した視点から接触領域810が見えやすい属性」をレンダリングに用いる(図8B参照)。例えば、レンダリングモードが「接触チェックモード」である場合には、作業者1010(仮想カメラ)から接触領域810の全体が見えるように、隙間領域720のCGモデルのレンダリングが行われる。例えば、仮想画像生成部160は、隙間領域720のCGモデルの各辺のみを点線で(または、3次元頂点を点群で)表示する属性、または、単色の半透明のテクスチャで隙間領域720のCGモデルを表現する属性を用いる。これによって、仮想画像生成部160は、作業者1010が俯瞰したときに、接触領域810を観察しやすいように、仮想画像を生成する。
【0073】
合成部170は、記憶部150に格納されている仮想画像とカメラ画像を合成する。合成した画像は、表示部110に表示される。作業者1010は、隙間領域がカメラ画像に合成されている画像を視認することができる。
【0074】
図12は、実施形態2に係る画像生成装置100の処理の詳細を示すフローチャートである。実施形態1と同じステップには同じ番号を付与しており、そのステップの処理の説明は省略する。
【0075】
ステップS1200では、取得部105は、撮像部103からカメラ画像を取得して、カメラ画像を記憶部150に格納する。
【0076】
ステップS1210では、仮想画像生成部160は、レンダリングモードに応じて、実施形態1のステップS530の処理と同様の処理によって隙間領域720のCGモデルのレンダリングをする。これによって、仮想画像生成部160は、隙間領域720のCGモデルを含む仮想画像を生成する。
【0077】
ステップS1220では、合成部170は、仮想画像とカメラ画像を合成して、合成画像を生成する。
【0078】
ステップS1230では、合成部170は、合成画像を表示部110に送信することによって、合成画像を表示部110に表示する。
【0079】
実施形態2によれば、複合現実空間を提示するHMDであっても、更新速度の速い隙間領域720のCGモデルが表示できる。このため、作業者1010は、隙間領域720のCGモデルを見ることによって、装置700のCGモデルの内部の状態を適切に観察することができる。
【0080】
<実施形態3>
実施形態3では、画像生成装置100は、実施形態2の構成に、編集部185と出力部1310をさらに有する。実施形態3では、画像生成装置100は、作業者1010の仮想検証の結果を編集して、装置700のCGモデルの設計者にフィードバックする。
【0081】
図13は、実施形態3に係る画像生成装置100を実現するためのブロック図を示す。
実施形態2と同じ機能を実現する機能部は同じ番号を付与している。図13における実施形態2と同じ機能部については説明を省略する。
【0082】
編集部185は、隙間領域720のCGモデルの形状の編集用のインターフェース(編集用インターフェース)を提供する。作業者1010は、編集用インターフェースを用いることによって、表示部110に表示された隙間領域720のCGモデルを観察しながら、隙間領域720のCGモデルの形状を編集(変更)することができる。また、編集部185により編集された隙間領域720のCGモデルは、編集終了後に記憶部150に送信される。さらに、記憶部150に格納されている隙間領域720のCGモデルが更新される。編集部185は、隙間領域720のCGモデルの編集モードに含まれる複数のモードのうちのいずれかを作業者1010に選択させるように、複数の選択肢を表示部110に表示してもよい。
【0083】
また、あらかじめキーボード909の特定のキーにモードが割り当てられており、特定のキーが押されることで、モードが切り替わってもよい。編集モードは、例えば、「補正モード」(削除モード)と「確認モード」の2モードを含む。なお、必要に応じて、「元に戻すコマンド」と「確定コマンド」の入力によって編集状態が管理されていてもよい。それぞれの処理の詳細については、後述する。
【0084】
出力部1310は、外部のCADソフトに出力するためのデータフォーマットに適用するように、隙間領域720のCGモデル(編集部185で編集された隙間領域720のCGモデル)を変換する。出力部1310は、変換した隙間領域720のCGモデルを出力する。出力部1310から出力される隙間領域720のCGモデルは、CADソフト側で装置700のCGモデルと同じ座標系で描画される。このため、隙間領域720のCGモデルと装置700のCGモデルとの差異を設計者が観察することができる。設計者は、隙間領域720のCGモデルと装置700のCGモデルの差異を確認することで、装置700のCGモデルの修正箇所を正確に把握することができる。このため、作業者1010と設計者のコミュニケーションのミスの可能性を低減できる。
【0085】
なお、隙間領域720のCGモデルのうち編集された領域をCADソフトで明示するために、隙間領域720のCGモデルのうち編集された領域が強調表示されてもよい(例えば、色を変更してもよい)。また、隙間領域720のCGモデルの編集された領域に、編集内容を表す文字情報(アノテーション)が付与されてもよい。
【0086】
図14は、実施形態3に係る画像生成装置100の処理の詳細を示すフローチャートである。図14では、実施形態2と同じステップは同じ番号が付与されており、以降の説明を省略する。
【0087】
ステップS1400では、記憶部150は、作業者1010から編集モードを実行する指示が行われたか否かを判定する。編集モードを実行する指示が行われたと判定された場合には、ステップS1410に進む。編集モードを実行する指示が行われていないと判定された場合には、ステップS1210に進む。
【0088】
ステップS1410では、編集部185は、隙間領域720のCGモデルの形状を編集する。なお、「表示部110に表示された隙間領域720のCGモデルを観察している作業者1010」が行った操作に応じて、編集部185は、隙間領域720のCGモデルの形状を編集する。編集部185は、隙間領域720のCGモデルの形状の編集が完了した時点で、出力部1310に隙間領域720のCGモデルを出力する。
【0089】
図6は、ステップS1410の処理(隙間領域720のCGモデルの編集処理)の詳細
を示すフローチャートである。なお、ステップS1410の処理は、編集モードに設定されている間、繰り返し実行される。そして、編集モードから他のモードに変更されると、ステップS1410からステップS1210に進む。編集モードのうち確定モードに設定されると、ステップS1410からステップS1210に進んでもよい。
【0090】
ステップS610では、編集部185は、「編集モードにおける複数の選択肢のいずれかの選択を促す表示アイテム」を表示部110に表示する。複数の選択肢は、例えば、「補正モード」、「元に戻すコマンド」、および「確定コマンド」の選択肢を含む。作業者1010は、表示された複数の選択肢のいずれかを、マウス908で選択してもよいし、キーボード909のキーを用いて選択してもよい。また、頭部の位置姿勢に応じた3次元カーソルが表示部110に提示されて、作業者1010は、頭部の位置姿勢を変更して、複数の選択肢のいずれかを選択してもよい。また、手の位置を検出する装置(Ultraleap社のLeapMotionなど)が用いられる場合には、作業者1010は、手の位置を用いて複数の選択肢のいずれかを選択してもよい。
【0091】
ステップS620では、編集部185は、「補正モード」が選択されたか否かを判定する。「補正モード」が選択されたと判定された場合には、ステップS650に進む。補正モードが選択されていないと判定された場合には、ステップS630に進む。
【0092】
ステップS630では、編集部185は、元に戻すコマンドが選択されたか否かを判定する。元に戻すコマンドが選択されたと判定された場合には、ステップS660に進む。元に戻すコマンドが選択されていないと判定された場合には、ステップS640に進む。
【0093】
ステップS640では、編集部185は、確定コマンドが選択されたか否かを判定する。確定コマンドが選択されたと判定された場合には、ステップS670に進む。確定コマンドが選択されていないと判定された場合には、本フローチャートの処理が終了する。
【0094】
ステップS650では、編集部185は、「補正モード」として動作して、隙間領域720のCGモデルの表面とレンチ1020のCGモデルとが接触しないように、隙間領域720のCGモデルを補正する。まず、編集部185は、隙間領域720のCGモデルの表面とレンチ1020のCGモデルとの接触領域810を検知する。そして、編集部185は、接触領域810を含む領域を有するように、隙間領域720のCGモデルの形状を補正する。例えば、編集部185は、接触領域810に隣接する隙間領域720のCGモデルのポリゴン3次元頂点を、接触が発生しない方向に一定量だけ平行移動する。すなわち、編集部185は、装置700のCGモデルの一部を削るように、隙間領域720のCGモデルのポリゴン頂点を移動させる。編集部185は、平行移動の処理において、接触領域810の輪郭部分へ向かう平行移動量を小さく設定し、接触領域810の中央部に近づくにつれてその部分へ向かう平行移動量を大きくしてもよい。接触領域810の輪郭部分と中央部分で平行移動の距離を変更することで、実際の接触発生時の浸食量を近似することができる。
【0095】
図8Bおよび図8Cを用いて、ステップS650の処理の一例を説明する。図8Bおよび図8Cでは、隙間領域720は、装置700のCGモデルに囲われた領域である。図8Bでは、隙間領域720のCGモデルに接触領域810が記録されている。この状態で補正モードが選択された場合には、編集部185は、隙間領域720のCGモデルの3次元頂点を移動する。図8Cは、隙間領域720のCGモデルの3次元頂点が移動した後の様子を示す。図8Cでは、隙間領域720のCGモデルは、接触領域810を含む領域820を有する。なお、編集部185は、移動させた3次元頂点それぞれの移動量を記憶しておき、元に戻すコマンドが実行されたときに、編集前の形状の隙間領域720のCGモデルに戻せるように準備してもよい。また、ステップS650における隙間領域720のC
Gモデルの編集(補正)は、ユーザの操作の種類および操作量に応じて、ユーザが自由に実現できてもよい。
【0096】
ステップS660では、編集部185は、直前の補正モードの処理を取り消すように、隙間領域720のCGモデルの3次元頂点の平行移動を戻す。3次元頂点の平行移動を戻す場合には、編集部185は、ステップS650で記録していた3次元頂点ごとの移動量を参照する。
【0097】
ステップS670では、編集部185は、「確認モード」に設定して、現状の隙間領域720のCGモデルを出力部1310に出力する。
【0098】
以上により、実施形態3に係る画像生成装置100は、隙間領域720のCGモデルの編集を行い、形状が編集された隙間領域720のCGモデルを設計者のCADソフトに出力する。このことで、設計者は、隙間領域720のCGモデルの形状などの状態を容易に把握できる。
【0099】
なお、編集部185は、隙間領域720のCGモデルの形状を編集可能(変更可能)であるとしたが、隙間領域720のCGモデルのサイズまたは属性も編集可能であってもよい。または、編集部185は、ユーザ操作に応じて、隙間領域720のCGモデルの位置および姿勢を編集可能(隙間領域720のCGモデルの移動および回転が可能)であってもよい。
【0100】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
【0101】
また、上記において、「AがB以上の場合にはステップS1に進み、AがBよりも小さい(低い)場合にはステップS2に進む」は、「AがBよりも大きい(高い)場合にはステップS1に進み、AがB以下の場合にはステップS2に進む」と読み替えてもよい。逆に、「AがBよりも大きい(高い)場合にはステップS1に進み、AがB以下の場合にはステップS2に進む」は、「AがB以上の場合にはステップS1に進み、AがBよりも小さい(低い)場合にはステップS2に進む」と読み替えてもよい。このため、矛盾が生じない限り、「A以上」は、「Aよりも大きい(高い;長い;多い)」と読み替えてよく、「A以下」は、「Aよりも小さい(低い;短い;少ない)」と読み替えてもよい。そして、「Aよりも大きい(高い;長い;多い)」は、「A以上」と読み替えてもよく、「Aよりも小さい(低い;短い;少ない)」は「A以下」と読み替えてもよい。
【0102】
なお、上記の各実施形態(各変形例)の各機能部は、個別のハードウェアであってもよいし、そうでなくてもよい。2つ以上の機能部の機能が、共通のハードウェアによって実現されてもよい。1つの機能部の複数の機能のそれぞれが、個別のハードウェアによって実現されてもよい。1つの機能部の2つ以上の機能が、共通のハードウェアによって実現されてもよい。また、各機能部は、ASIC、FPGA、DSPなどのハードウェアによって実現されてもよいし、そうでなくてもよい。例えば、装置が、プロセッサと、制御プログラムが格納されたメモリ(記憶媒体)とを有していてもよい。そして、装置が有する少なくとも一部の機能部の機能が、プロセッサがメモリから制御プログラムを読み出して実行することにより実現されてもよい。
【0103】
(その他の実施形態)
本発明は、上記の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにお
ける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0104】
上記の実施形態の開示は、以下の構成、方法、およびプログラムを含む。
(構成1)
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成手段と、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成手段と、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御手段と、
を有することを特徴とする情報処理装置。
(構成2)
前記隙間領域は、ユーザにより指定された範囲内の領域であって、かつ、前記第1のCGモデルによって囲われた領域である、
ことを特徴とする構成1に記載の情報処理装置。
(構成3)
現実空間が撮像された撮像画像と、前記仮想空間の画像とを合成した画像を生成する合成手段とをさらに有し、
前記制御手段は、前記合成手段により生成された画像を表示するように前記表示手段を制御する、
ことを特徴とする構成1または2に記載の情報処理装置。
(構成4)
前記モデル生成手段は、ボクセルグリッドを用いて、前記第1のCGモデルの形状に基づき前記隙間領域のCGモデルを生成する、
ことを特徴とする構成1から3のいずれかに記載の情報処理装置。
(構成5)
前記モデル生成手段は、前記隙間領域のCGモデルを生成した後に、前記第1のCGモデルの属性情報を前記隙間領域のCGモデルの属性情報に設定する、
ことを特徴とする構成1から4のいずれかに記載の情報処理装置。
(構成6)
動く物体である可動物体のCGモデルを取得する取得手段をさらに有し、
前記モデル生成手段は、前記隙間領域のCGモデルを生成した後に、前記隙間領域のCGモデルの表面と前記可動物体のCGモデルとが接触しないように、前記隙間領域のCGモデルを補正する、
ことを特徴とする構成1から5のいずれかに記載の情報処理装置。
(構成7)
前記隙間領域のCGモデルのレンダリングモードを、前記隙間領域のCGモデルに設定された属性情報を用いて前記隙間領域のCGモデルのレンダリングをする第1のレンダリングモードと、前記隙間領域のCGモデルに設定された属性情報を用いずに前記隙間領域のCGモデルのレンダリングをする第2のレンダリングモードとのうちのいずれかに設定する設定手段をさらに有し、
前記画像生成手段は、前記設定手段により設定された前記レンダリングモードに従って、前記隙間領域のCGモデルのレンダリングをする、
ことを特徴とする構成1から5のいずれかに記載の情報処理装置。
(構成8)
動く物体である可動物体のCGモデルを取得する取得手段をさらに有し、
前記第2のレンダリングモードは、前記隙間領域のCGモデルの表面のうち前記可動物体のCGモデルと接触する領域をユーザが見ることが可能なように、前記隙間領域のCGモデルのレンダリングをするモードである、
ことを特徴とする構成7に記載の情報処理装置。
(構成9)
前記第2のレンダリングモードは、前記隙間領域のCGモデルの各辺を点線で表示するレンダリングモード、または、前記隙間領域のCGモデルのテクスチャに単色の半透明のテクスチャを用いるレンダリングモードである、
ことを特徴とする構成8に記載の情報処理装置。
(構成10)
前記モデル生成手段により生成された前記隙間領域のCGモデルの形状を、ユーザの操作に応じて編集する編集手段をさらに有する、
ことを特徴とする構成1から9のいずれかに記載の情報処理装置。
(構成11)
前記隙間領域のCGモデルを出力する出力手段をさらに有する、
ことを特徴とする構成1から10のいずれかに記載の情報処理装置。
(方法)
第1のCGモデルによって囲われた領域である隙間領域のCGモデルを、前記第1のCGモデルに基づき生成するモデル生成ステップと、
前記第1のCGモデルのレンダリングをすることなく、前記隙間領域のCGモデルのレンダリングをすることによって、仮想空間の画像を生成する画像生成ステップと、
前記仮想空間の画像に基づく画像を表示するように表示手段を制御する制御ステップと、
を有することを特徴とする情報処理方法。
(プログラム)
コンピュータを、構成1から11のいずれかに記載の情報処理装置の各手段として機能させるためのプログラム。
【符号の説明】
【0105】
100:画像生成装置(情報処理装置)、
180:抽出部(モデル生成部)、
160:仮想画像生成部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14