IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ギャラクシーズの特許一覧

特開2022-138847三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム
<>
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図1
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図2
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図3
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図4
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図5
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図6
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図7
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図8
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図9
  • 特開-三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022138847
(43)【公開日】2022-09-26
(54)【発明の名称】三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システム
(51)【国際特許分類】
   G06T 17/20 20060101AFI20220915BHJP
   G06T 7/55 20170101ALI20220915BHJP
【FI】
G06T17/20 500
G06T7/55
【審査請求】有
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2021038955
(22)【出願日】2021-03-11
(71)【出願人】
【識別番号】520124637
【氏名又は名称】株式会社ギャラクシーズ
(74)【代理人】
【識別番号】100166006
【弁理士】
【氏名又は名称】泉 通博
(74)【代理人】
【識別番号】100154070
【弁理士】
【氏名又は名称】久恒 京範
(74)【代理人】
【識別番号】100153280
【弁理士】
【氏名又は名称】寺川 賢祐
(72)【発明者】
【氏名】内山 泰伸
(72)【発明者】
【氏名】松村 英晃
【テーマコード(参考)】
5B080
5L096
【Fターム(参考)】
5B080AA14
5B080AA19
5B080BA07
5B080DA06
5B080FA02
5B080GA22
5L096AA02
5L096CA05
5L096EA23
5L096EA26
5L096FA05
5L096FA69
5L096HA08
(57)【要約】
【課題】三次元モデルの精細度を向上させる。
【解決手段】三次元グラフィックスデータ作成方法は、複数のサブ画像領域を有する特徴画像を被写体に投影している間に、複数の撮像装置2により被写体を撮影することにより複数の特徴撮像画像データを作成するステップと、複数の特徴撮像画像データに共通に含まれる複数のマッチング領域の位置に基づいて、複数の位置の座標を特定するステップと、複数の位置のいずれかの座標に関連付けられた複数のメッシュを作成するステップと、特徴画像を被写体に投影していない状態で複数の撮像装置2が被写体を撮影することにより複数の被写体撮像画像データを作成するステップと、複数の被写体撮像画像データにおける複数のメッシュそれぞれの位置に対応する画像データを切り出すステップと、メッシュに画像データをテクスチャデータとして割り当てることにより三次元グラフィックスデータを作成するステップと、を有する。
【選択図】図2
【特許請求の範囲】
【請求項1】
それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置により前記被写体を撮影することにより複数の特徴撮像画像データを作成するステップと、
前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定するステップと、
特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するステップと、
前記特徴画像を前記被写体に投影していない状態で前記複数の撮像装置により被写体を撮影することにより複数の被写体撮像画像データを作成するステップと、
前記複数の被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出すステップと、
前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成するステップと、
を有する三次元グラフィックスデータ作成方法。
【請求項2】
前記三次元空間における座標を特定するステップにおいて、(1)前記複数の特徴撮像画像データのうち第1特徴撮像画像データに含まれる第1マッチング領域の前記第1特徴撮像画像データにおける位置と、前記第1マッチング領域における前記複数のサブ画像領域のパターンと一致するパターンの前記複数のサブ画像領域を含む、前記第1特徴撮像画像データと異なる第2特徴撮像画像データに含まれる第2マッチング領域の前記第2特徴撮像画像データにおける位置との関係と、(2)前記複数の撮像装置の位置関係と、に基づいて、前記複数のマッチング領域の三次元空間における座標を特定する、
請求項1に記載の三次元グラフィックスデータ作成方法。
【請求項3】
前記三次元空間における座標を特定するステップの前に、前記複数の特徴撮像画像データにおいて隣接する画素の画素値の差が閾値以上である複数の画素に囲まれた複数の同等画素値領域の前記複数の特徴撮像画像データそれぞれにおける位置を特定することにより、前記複数の撮像装置の前記三次元空間における位置及び姿勢を特定するステップをさらに有し、
前記三次元空間における座標を特定するステップにおいて、特定した前記複数の撮像装置の位置又は姿勢の少なくともいずれかにさらに基づいて、前記複数のマッチング領域の三次元空間における座標を特定する、
請求項1又は2に記載の三次元グラフィックスデータ作成方法。
【請求項4】
前記特徴画像は、それぞれ複数の前記サブ画像領域により構成される複数の図形であって、隣接する他の図形と画素値が前記閾値以上変化する複数の図形を含み、
前記複数の撮像装置の位置及び姿勢を特定するステップにおいて、前記複数の図形に対応する前記複数の同等画素値領域の輪郭線上の少なくとも一部の画素の前記複数の特徴撮像画像データそれぞれにおける位置を特定することにより、前記複数の撮像装置の位置及び姿勢を特定する、
請求項3に記載の三次元グラフィックスデータ作成方法。
【請求項5】
前記特徴撮像画像データを作成するステップの前に、前記複数のメッシュの大きさの設定を受け付けるステップをさらに有し、
前記特徴撮像画像データを作成するステップにおいて、設定された前記メッシュの大きさに応じた前記特徴パターンを有する前記特徴画像を前記被写体に投影する、
請求項1又は4に記載の三次元グラフィックスデータ作成方法。
【請求項6】
前記特徴撮像画像データを作成するステップにおいて、複数の方向から前記特徴画像を前記被写体に投影する、
請求項1から5のいずれか一項に記載の三次元グラフィックスデータ作成方法。
【請求項7】
前記特徴撮像画像データを作成するステップの前に、前記被写体の位置を検出するステップをさらに有し、
前記特徴撮像画像データを作成するステップにおいて、検出した前記被写体の位置に基づいて前記特徴画像を投影する、
請求項1から6のいずれか一項に記載の三次元グラフィックスデータ作成方法。
【請求項8】
前記特徴撮像画像データを作成するステップの前に、前記被写体の位置の設定を受け付けるステップをさらに有し、
前記特徴撮像画像データを作成するステップにおいて、設定された前記被写体の位置に基づいて前記特徴画像を投影する、
請求項1から6のいずれか一項に記載の三次元グラフィックスデータ作成方法。
【請求項9】
コンピュータに、
それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置により前記被写体を撮影することにより作成した複数の特徴撮像画像データを取得するステップと、
前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定するステップと、
特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するステップと、
前記特徴画像を前記被写体に投影していない状態で前記複数の撮像装置により被写体を撮影することにより作成した複数の被写体撮像画像データを取得するステップと、
前記複数の被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出すステップと、
前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成するステップと、
を実行させるためのプログラム。
【請求項10】
それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影する投影装置と、前記被写体を撮影する複数の撮像装置と、前記複数の撮像装置が前記被写体を撮影することにより生成した複数の特徴撮像画像データに基づいて三次元グラフィックスデータを作成する三次元グラフィックスデータ作成装置と、を備え、
前記投影装置は、
前記被写体に前記特徴画像を投影する投影部を有し、
前記複数の撮像装置それぞれは、
前記特徴画像が投影された前記被写体を撮影した特徴撮像画像データ、及び前記特徴画像が投影されていない前記被写体を撮影した被写体撮像画像データを生成する画像生成部と、
前記特徴撮像画像データ及び前記被写体撮像画像データを前記三次元グラフィックスデータ作成装置に送信する送信制御部と、
を有し、
前記三次元グラフィックスデータ作成装置は、
前記特徴撮像画像データ及び前記被写体撮像画像データを取得する画像取得部と、
前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定し、特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するメッシュ作成部と、
複数の前記被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出す切出部と、
前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成する作成部と、
を有する三次元グラフィックスデータ作成システム。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、三次元グラフィックスデータ作成方法、プログラム及び三次元グラフィックスデータ作成システムに関する。
【背景技術】
【0002】
従来、複数の撮像画像に基づいて物体の三次元モデルを生成する画像処理方法が知られている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4687449号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の画像処理方法においては、撮像画像に含まれる物体の表面の角度に基づいて分割した多角形の領域それぞれにテクスチャを貼り付けることにより、三次元モデルが作成される。この場合、例えば人の頬のように画素値の変化が少ない画像領域においては、テクスチャを貼り付ける複数の多角形それぞれの大きさを十分に小さくすることができない。その結果、高精細な三次元モデルを作成することができないという問題があった。
【0005】
そこで、本発明はこれらの点に鑑みてなされたものであり、三次元モデルの精細度を向上させることを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の態様に係る三次元グラフィックスデータ作成方法は、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置により前記被写体を撮影することにより複数の特徴撮像画像データを作成するステップと、前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定するステップと、特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するステップと、前記特徴画像を前記被写体に投影していない状態で前記複数の撮像装置により被写体を撮影することにより複数の被写体撮像画像データを作成するステップと、前記複数の被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出すステップと、前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成するステップと、を有する。
【0007】
前記三次元空間における座標を特定するステップにおいて、(1)前記複数の特徴撮像画像データのうち第1特徴撮像画像データに含まれる第1マッチング領域の前記第1特徴撮像画像データにおける位置と、前記第1マッチング領域における前記複数のサブ画像領域のパターンと一致するパターンの前記複数のサブ画像領域を含む、前記第1特徴撮像画像データと異なる第2特徴撮像画像データに含まれる第2マッチング領域の前記第2特徴撮像画像データにおける位置との関係と、(2)前記複数の撮像装置の位置関係と、に基づいて、前記複数のマッチング領域の三次元空間における座標を特定してもよい。
【0008】
前記三次元空間における座標を特定するステップの前に、前記複数の特徴撮像画像データにおいて隣接する画素の画素値の差が閾値以上である複数の画素に囲まれた複数の同等画素値領域の前記複数の特徴撮像画像データそれぞれにおける位置を特定することにより、前記複数の撮像装置の前記三次元空間における位置及び姿勢を特定するステップをさらに有し、前記三次元空間における座標を特定するステップにおいて、特定した前記複数の撮像装置の位置又は姿勢の少なくともいずれかにさらに基づいて、前記複数のマッチング領域の三次元空間における座標を特定してもよい。
【0009】
前記特徴画像は、それぞれ複数の前記サブ画像領域により構成される複数の図形であって、隣接する他の図形と画素値が前記閾値以上変化する複数の図形を含み、前記複数の撮像装置の位置及び姿勢を特定するステップにおいて、前記複数の図形に対応する前記複数の同等画素値領域の輪郭線上の少なくとも一部の画素の前記複数の特徴撮像画像データそれぞれにおける位置を特定することにより、前記複数の撮像装置の位置及び姿勢を特定してもよい。
【0010】
前記特徴撮像画像データを作成するステップの前に、前記複数のメッシュの大きさの設定を受け付けるステップをさらに有し、前記特徴撮像画像データを作成するステップにおいて、設定された前記メッシュの大きさに応じた前記特徴パターンを有する前記特徴画像を前記被写体に投影してもよい。
【0011】
前記特徴撮像画像データを作成するステップにおいて、複数の方向から前記特徴画像を前記被写体に投影してもよい。
【0012】
前記特徴撮像画像データを作成するステップの前に、前記被写体の位置を検出するステップをさらに有し、前記特徴撮像画像データを作成するステップにおいて、検出した前記被写体の位置に基づいて前記特徴画像を投影してもよい。
【0013】
前記特徴撮像画像データを作成するステップの前に、前記被写体の位置の設定を受け付けるステップをさらに有し、前記特徴撮像画像データを作成するステップにおいて、設定された前記被写体の位置に基づいて前記特徴画像を投影してもよい。
【0014】
本発明の第2の態様に係るプログラムは、コンピュータに、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置により前記被写体を撮影することにより作成した複数の特徴撮像画像データを取得するステップと、前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定するステップと、特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するステップと、前記特徴画像を前記被写体に投影していない状態で前記複数の撮像装置により被写体を撮影することにより作成した複数の被写体撮像画像データを取得するステップと、前記複数の被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出すステップと、前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成するステップと、を実行させる。
【0015】
本発明の第3の態様に係る三次元グラフィックスデータ作成システムは、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影する投影装置と、前記被写体を撮影する複数の撮像装置と、前記複数の撮像装置が前記被写体を撮影することにより生成した複数の特徴撮像画像データに基づいて三次元グラフィックスデータを作成する三次元グラフィックスデータ作成装置と、を備え、前記投影装置は、前記被写体に前記特徴画像を投影する投影部を有し、前記複数の撮像装置それぞれは、前記特徴画像が投影された前記被写体を撮影した特徴撮像画像データ、及び前記特徴画像が投影されていない前記被写体を撮影した被写体撮像画像データを生成する画像生成部と、前記特徴撮像画像データ及び前記被写体撮像画像データを前記三次元グラフィックスデータ作成装置に送信する送信制御部と、を有し、前記三次元グラフィックスデータ作成装置は、前記特徴撮像画像データ及び前記被写体撮像画像データを取得する画像取得部と、前記複数の特徴撮像画像データに共通に含まれる、1つの前記サブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、前記被写体における前記複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定し、特定した前記複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するメッシュ作成部と、複数の前記被写体撮像画像データにおける前記複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出す切出部と、前記複数のメッシュそれぞれに、対応する前記テクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成する作成部と、を有する。
【発明の効果】
【0016】
本発明によれば、三次元モデルの精細度を向上させるという効果を奏する。
【図面の簡単な説明】
【0017】
図1】三次元グラフィックスデータ作成システムSの構成を示す図である。
図2】三次元グラフィックスデータ作成方法のフローチャートである。
図3】投影装置1が被写体に投影する特徴画像を説明するための図である。
図4】三次元グラフィックスデータ作成方法により作成したリンゴAの三次元モデルを説明するための図である。
図5図4(c)に示す複数のメッシュを拡大した図である。
図6図4(d)に示す画像を拡大した図である。
図7】投影装置1の構成を示す図である。
図8】撮像装置2の構成を示す図である。
図9】三次元グラフィックスデータ作成装置3の構成を示す図である。
図10】三次元グラフィックスデータ作成システムSの動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0018】
[三次元グラフィックスデータ作成システムSの概要]
図1は、三次元グラフィックスデータ作成システムSの構成を示す図である。三次元グラフィックスデータ作成システムSは、複数の投影装置1(1a、1b)と、複数の撮像装置2(2a~2d)と、三次元グラフィックスデータ作成装置3と、を備える。三次元グラフィックスデータ作成装置3は、例えばHDMI(High Definition Multimedia Interface)(登録商標)ケーブル又はUSB(Universal Serial Bus)ケーブルを介して撮像装置2と接続されている。三次元グラフィックスデータ作成装置3は、例えば有線LAN(Local Area Network)又は無線LAN等のネットワークを介して撮像装置2と接続されていてもよい。
【0019】
三次元グラフィックスデータ作成システムSは、物体の三次元グラフィックスデータ(以下、「三次元モデルデータ」という場合がある。)を作成するためのシステムである。物体は、人又は動物等の生物を含む。以下の説明においては、三次元グラフィックスデータ作成システムSが、リンゴAの三次元モデルデータを作成する場合を例示する。
【0020】
投影装置1は、例えばプロジェクタである。図1に示すように、投影装置1は、特徴画像をリンゴAに投影する。特徴画像は、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する画像である。特徴画像は、例えば複数の異なる形状のサブ画像領域を含む。特徴画像が有するそれぞれのサブ画像領域の形状若しくは面積、又は特徴画像が有するサブ画像領域の数の少なくともいずれかは、作成する三次元モデルデータにおいて求められるメッシュの大きさに基づいて決定されている。サブ画像領域及び特徴パターンの詳細は後述する。複数の投影装置1は、例えばリンゴAを中心として左右方向360度、上方向90度の範囲に特徴画像を投影する。
【0021】
撮像装置2は、例えばRGBカメラである。図1に示すように、撮像装置2は、被写体であるリンゴAを撮影する。複数の撮像装置2は、例えばリンゴAを中心として左右方向360度、上方向90度の範囲を撮影する。複数の撮像装置2それぞれは、投影装置1が特徴画像をリンゴAに投影した状態においてリンゴAを撮影した特徴撮像画像データと、投影装置1が特徴画像をリンゴAに投影していない状態においてリンゴAを撮影した被写体撮像画像データとを生成する。複数の撮像装置2それぞれは、特徴撮像画像データ及び被写体撮像画像データを三次元グラフィックスデータ作成装置3に送信する。
【0022】
三次元グラフィックスデータ作成装置3は、例えばコンピュータである。三次元グラフィックスデータ作成装置3は、単一のコンピュータでもよいし、例えばクラウド型サーバのように複数のコンピュータで構成されていてもよい。三次元グラフィックスデータ作成装置3は、撮像装置2が撮影した撮像画像に基づいて三次元モデルデータを作成する。以下、三次元グラフィックスデータ作成装置3が実行する三次元グラフィックスデータ作成方法の概要を説明する。
【0023】
[三次元グラフィックスデータ作成方法のフローチャート]
図2は、三次元グラフィックスデータ作成方法のフローチャートである。図3は、投影装置1が被写体に投影する特徴画像を説明するための図である。図4は、三次元グラフィックスデータ作成方法により作成したリンゴAの三次元モデルを説明するための図である。
【0024】
図3(a)は、特徴画像に含まれるサブ画像領域の例を示す図である。図3(a)においてはサブ画像領域が正方形である場合を例示しているが、サブ画像領域の形状は任意である。サブ画像領域は、投影装置1が投影する画像の1画素の領域であってもよく、複数の画素に相当する領域であってもよい。
【0025】
図3(b)は、特徴画像の一例を示す図であり、特徴画像が有する特徴パターンを説明するための図である。図3(c)は、図3(b)に示す特徴画像の一部の領域である領域C2を拡大した図である。
【0026】
図4(a)は、被写体であるリンゴAに特徴画像を投影した図である。図4(b)は、特徴画像を投影していないリンゴAの図である。図4(c)は、三次元グラフィックスデータ作成方法により作成したリンゴAのメッシュを示す図である。図4(d)は、図4(c)に示すメッシュにテクスチャを割り当てた図である。
【0027】
以下、図2に示すフローチャートに沿って、三次元グラフィックスデータ作成方法の手順を説明する。S11において、投影装置1は、特徴画像を被写体に投影する。特徴画像は、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する画像である。特徴パターンは、複数のサブ画像領域の組み合わせにより定まる模様である。サブ画像領域は、1つの画素又は画素値が同じ若しくは一定の範囲にある複数の画素により構成された領域である。
【0028】
サブ画像領域は、例えば図3(a)に示す複数の領域B(B1~B3)それぞれである。図3(a)は、黒色の画素で構成されたサブ画像領域である領域B1、濃い灰色の画素で構成されたサブ画像領域である領域B2及び薄い灰色の画素で構成されたサブ画像領域である領域B3を示している。複数のサブ画像領域それぞれの形状は、図3(a)に示す領域Bの形状と異なっていてもよい。
【0029】
特徴パターンは、例えば図3(b)に示す特徴画像のように、複数の領域Bの組み合わせにより定まる模様である。例えば、特徴画像の一部の領域である領域C1は、複数の領域B3を組み合わせた領域である。
【0030】
特徴画像は、例えば、特徴画像を利用して作成される複数のメッシュそれぞれが所定の大きさ以下になるような特徴パターンを有してもよい。所定の大きさは、例えば被写体の領域のうち、画素値の組み合わせの変化が多い領域におけるメッシュの大きさ、又は作成するべき三次元グラフィックスデータの要求仕様において設定された大きさである。画素値の組み合わせの変化が多い領域は、例えば図4(a)に示す領域R1である。
【0031】
投影装置1は、例えば図4(a)に示す領域P1及び領域P2のように、被写体の撮像画像における被写体の面積に対して、作成する三次元モデルデータのメッシュの大きさに基づいて定められた面積(例えば被写体の面積の10分の1以下の面積)の複数のマッチング領域により構成される特徴画像を被写体であるリンゴAに投影する。マッチング領域は、サブ画像領域よりも広い領域であり、同じ画素値又は一定の範囲にある画素値の複数のサブ画像領域により構成された領域である。特徴画像におけるマッチング領域は、例えば図3(b)に示す領域C2である。
【0032】
投影装置1は、例えば図4(a)に示す領域R2のように画素値の組み合わせの変化が少ない領域であっても、領域R1におけるメッシュの大きさ以下のメッシュを作成するために複数のマッチング領域を有する特徴画像を投影する。複数の投影装置1は、例えば図1に示すように、複数の方向から特徴画像を被写体に投影する。複数の投影装置1それぞれが投影する特徴画像は、同じ特徴パターンを有する特徴画像でもよいし異なる特徴パターンを有する特徴画像でもよい。
【0033】
S12においては、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を投影装置1が被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置2により被写体を撮影することにより複数の特徴撮像画像データを作成する。特徴撮像画像データは、例えば図4(a)に示す画像である。複数の撮像装置2は、例えば図1に示すように、複数の方向から被写体を撮影する。複数の撮像装置2は、複数の特徴撮像画像データを三次元グラフィックスデータ作成装置3に送信する。
【0034】
S13においては、特徴画像を被写体に投影していない状態で複数の撮像装置2により被写体を撮影することにより複数の被写体撮像画像データを作成する。S13において、投影装置1は、特徴画像の投影を停止する。続いて、複数の撮像装置2は、特徴画像が投影されていない状態である被写体を撮影する。複数の撮像装置2は、被写体を撮影して生成した被写体撮像画像データを三次元グラフィックスデータ作成装置3に送信する。このように、特徴撮像画像データを作成する動作と被写体撮像画像データを作成する動作とを連続して実行することで、撮像装置2は、例えば人又は動物のように動きがある被写体であっても特徴撮像画像データに対応する被写体撮像画像データを作成することができる。
【0035】
S14において、三次元グラフィックスデータ作成装置3は、複数の特徴撮像画像データに共通に含まれる、1つのサブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、被写体における複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定する。
【0036】
三次元グラフィックスデータ作成装置3は、例えば(1)複数の特徴撮像画像データのうち第1特徴撮像画像データに含まれる第1マッチング領域の第1特徴撮像画像データにおける位置と、第1マッチング領域における複数のサブ画像領域のパターンと一致するパターンの複数のサブ画像領域を含む、第1特徴撮像画像データと異なる第2特徴撮像画像データに含まれる第2マッチング領域の第2特徴撮像画像データにおける位置との関係と、(2)複数の撮像装置の位置関係と、に基づいて、複数のマッチング領域の三次元空間における座標を特定する。複数の撮像装置の位置関係は、複数の撮像装置それぞれの姿勢の関係(すなわち撮像する際の光軸の向きの関係)を含んでいてもよい。姿勢の関係は、例えば1台の撮像装置2の光軸の向きを基準とする、光軸の向きにより表される。
【0037】
具体的には、三次元グラフィックスデータ作成装置3は、撮像装置2aが撮像した第1特徴撮像画像データに含まれる領域P1(第1マッチング領域)の位置と、撮像装置2bが撮像した第2特徴撮像画像データに含まれる領域P1(第2マッチング領域)の位置と、撮像装置2a及び撮像装置2bの位置関係と、に基づいて、三次元空間における領域P1の座標を特定する。このように三次元グラフィックスデータ作成装置3が動作することで、三次元グラフィックスデータ作成装置3は、被写体に含まれる複数の領域それぞれの位置を高い精度で特定することができる。
【0038】
三次元グラフィックスデータ作成装置3は、S14の動作の前に、複数の特徴撮像画像データにおいて隣接する画素の画素値の差が閾値以上である複数の画素に囲まれた複数の同等画素値領域の複数の特徴撮像画像データそれぞれにおける位置を特定することにより、複数の撮像装置2の三次元空間における位置及び姿勢を特定してもよい。同等画素値領域は、例えば図3(c)に示す正方形の領域C3である。閾値は、例えば色相、明度、彩度のうち少なくとも1つが異なるが、同じ色と判定しても差し支えない範囲の最大値である。
【0039】
投影装置1が被写体に照射した特徴画像は、被写体の色、被写体を撮影する部屋の照明、及び投影装置1の色再現性等により、同じ画素値で構成した領域であっても画素値のばらつきが発生する場合がある。例えば図3(c)に示す領域C3のように、図3(a)に示す領域B2と同じ画素値の画素と、領域B2に含まれる画素よりも濃い灰色の画素とが含まれる場合がある。
【0040】
これに対して、三次元グラフィックスデータ作成装置3は、領域C3に含まれる複数の画素それぞれの画素値の差が閾値未満であると判定することにより、領域C3が複数の画素値の複数の画素で構成された領域であっても、同等画素値領域であると特定する。一方、三次元グラフィックスデータ作成装置3は、領域C3の外側の画素の画素値と領域C3の画素の画素値との差が閾値以上であると判定することにより、領域C3の外側の領域は、同等画素値領域ではないと特定する。このように三次元グラフィックスデータ作成装置3が動作することで、三次元グラフィックスデータ作成装置3は、同じ画素値で構成した領域を高い精度で特定できるため、撮像装置の位置又は姿勢を高い精度で特定することができる。
【0041】
三次元グラフィックスデータ作成装置3は、特徴画像がそれぞれ複数のサブ画像領域により構成される複数の図形であって、隣接する他の図形と画素値が閾値以上変化する複数の図形を含むことに基づいて、複数の図形に対応する複数の同等画素値領域の輪郭線上の少なくとも一部の画素の複数の特徴撮像画像データそれぞれにおける位置を特定することにより、複数の撮像装置の位置及び姿勢を特定してもよい。
【0042】
三次元グラフィックスデータ作成装置3は、例えば複数の撮像装置2が撮像した複数の特徴撮像画像データそれぞれにおいて、領域C3を示す破線の一部である画素C4の位置を特定することにより、複数の撮像装置2の位置及び姿勢を特定してもよい。三次元グラフィックスデータ作成装置3は、特定した複数の撮像装置2の位置又は姿勢の少なくともいずれかにさらに基づいて、複数のマッチング領域の三次元空間における座標を特定する。
【0043】
このように三次元グラフィックスデータ作成装置3が動作することで、三次元グラフィックスデータ作成装置3は、図形の形状の特徴に基づいて特定する位置を容易に決定できるとともに、図形の形状の特徴に基づいた位置を高い精度で特定することができる。
【0044】
S15において、三次元グラフィックスデータ作成装置3は、特定した複数の位置である特徴点のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成する。特徴点は、例えばメッシュの頂点を導出するために用いられる。特徴点は、例えば複数の特徴撮像画像データにおいて、特徴画像に含まれる3つ以上のサブ画像領域が接続されている点、又はサブ画像領域それぞれの頂点である。三次元グラフィックスデータ作成装置3は、特定した複数の特徴点に基づいて複数のメッシュを作成する。
【0045】
具体的には、三次元グラフィックスデータ作成装置3は、特徴撮像画像データにおいて、図4(a)に示す領域P1又は領域P2のような複数のマッチング領域の位置を検出する。三次元グラフィックスデータ作成装置3は、特定した複数の特徴点に基づいて導出した頂点を直線で接続することにより、例えば図4(c)に示すような三角形の複数のメッシュを作成する。
【0046】
三次元グラフィックスデータ作成装置3は、例えば複数の特徴撮像画像データにおいて複数の特徴撮像画像データそれぞれに含まれる複数のマッチング領域それぞれが投影されている位置を検出する。三次元グラフィックスデータ作成装置3は、複数の特徴撮像画像データにおいて、同じマッチング領域の位置を検出したと判定した場合、当該マッチング領域の頂点が同一の特徴点に対応すると特定する。三次元グラフィックスデータ作成装置3は、複数の特徴撮像画像データに基づいて、被写体において三次元モデルデータを作成するべき領域の全ての面に対応する複数のメッシュを作成する。
【0047】
図5は、図4(c)に示す複数のメッシュを拡大した図である。図5に示すように、リンゴAの表面の画素値の組み合わせの変化が少ない領域(例えば図4(a)に示す領域R2に対応する領域)においても、十分に細かいメッシュが作成されていることを確認できる。
【0048】
このように三次元グラフィックスデータ作成装置3が特徴画像を被写体に投射した状態で撮影した特徴撮像画像データを用いてメッシュを作成することで、三次元グラフィックスデータ作成装置3は、例えばリンゴAのように表面の傾斜角度の変化が少ない被写体であってもメッシュの大きさを十分に小さくすることができる。その結果、高精細な三次元モデルを生成するための所定の大きさ以下の複数のメッシュを作成することができる。
【0049】
S16において、三次元グラフィックスデータ作成装置3は、複数の被写体撮像画像データにおける複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出す。被写体撮像画像データは、例えば図4(b)に示す画像である。三次元グラフィックスデータ作成装置3は、例えば図4(c)に示す複数のメッシュそれぞれの位置に対応するテクスチャデータを、図4(b)に示すような複数の被写体撮像画像データから切り出すことにより作成する。
【0050】
S17において、三次元グラフィックスデータ作成装置3は、複数のメッシュそれぞれに、対応するテクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成する。複数のメッシュそれぞれに、対応するテクスチャデータが示すテクスチャを割り当てた画像は、例えば図4(d)に示す画像である。三次元グラフィックスデータ作成装置3は、複数のメッシュそれぞれの位置に対応するテクスチャデータを割り当てた後に複数のメッシュそれぞれの境界線を非表示にすることにより、三次元モデルデータを作成する。
【0051】
図6は、図3(d)に示す画像を拡大した図である。図6に示すように、三次元グラフィックスデータ作成装置3が作成した三次元モデルデータは、画素値の組み合わせの変化が少ない位置(例えば図4(a)に示す領域R1に対応する領域)であってもリンゴAの立体感を表現する。そして、特徴画像を投影していない状態で撮影した被写体撮像画像データに基づいてテクスチャデータを作成することで、三次元グラフィックスデータ作成装置3は、特徴画像が写っていない被写体の三次元モデルデータを作成する。
【0052】
このように三次元グラフィックスデータ作成装置3が複数の特徴撮像画像データを用いて作成した複数のメッシュに、複数の被写体撮像画像データを用いて作成した複数のテクスチャを割り当てることで、三次元グラフィックスデータ作成装置3は、例えばリンゴAのように、表面の特徴となる模様が少ないことにより画素値の組み合わせの変化が少ない被写体であっても高精細な三次元モデルを作成できる。
【0053】
なお、三次元グラフィックスデータ作成システムSは、S11における投影装置1が特徴画像を投影する動作、及びS12における撮像装置2が特徴撮像画像データを作成する動作と、S13における撮像装置2が被写体撮像画像データを作成する動作とを入れ替えて実行してもよい。すなわち、三次元グラフィックスデータ作成システムSは、被写体撮像画像データを作成した後に特徴撮像画像データを作成してもよい。
【0054】
[投影装置1の構成]
図7は、投影装置1の構成を示す図である。投影装置1は、記憶部11と、操作部12と、設定部13と、投影部14と、を有する。記憶部11は、ROM(Read Only Memory)、RAM(Random Access Memory)及びSSD(Solid State Drive)等の記憶媒体を有する。記憶部11は、投影装置1が被写体に投影するための複数の特徴画像を記憶している。複数の特徴画像は、それぞれ異なる特徴パターンを有する。複数の特徴画像は、例えばサブ画像領域の数、又は複数の特徴画像それぞれが有する複数のサブ画像領域それぞれの形状若しくは大きさが、それぞれ異なる。
【0055】
操作部12は、例えばユーザから入力操作を受け付けるためのタッチパネル又は複数の釦である。操作部12は、例えば投影装置1を起動又は停止するための操作、特徴画像を投影する領域を設定するための操作、及びメッシュの大きさを設定するための操作を受け付ける。
【0056】
設定部13は、操作部12が受け付けたユーザの操作に基づいて投影部14に特徴画像を投影するための設定をする。設定部13は、例えばユーザが設定したメッシュの大きさに対応する特徴パターンを有する特徴画像を投影部14が投影するように投影部14に設定する。設定部13は、例えばユーザが設定した特徴画像を投影する領域に投影部14が特徴画像を投影するように投影部14に設定する。
【0057】
投影部14は、被写体に特徴画像を投影する。投影部14は、例えば設定部13が設定したメッシュの大きさに対応する特徴パターンを有する特徴画像を記憶部11から取得する。投影部14は、設定部13が設定した特徴画像を投影する領域に記憶部11から取得した特徴画像を投影する。
【0058】
[撮像装置2の構成]
図8は、撮像装置2の構成を示す図である。撮像装置2は、撮像部21と、通信部22と、記憶部23と、制御部24と、を有する。制御部24は、画像生成部241と、送信制御部242と、を有する。
【0059】
撮像部21は、被写体を撮影する撮像素子を含む。撮像部21は、被写体を撮影した撮像画像を画像生成部241に送信する。通信部22は、例えば撮影して生成した撮像画像データを三次元グラフィックスデータ作成装置3に出力するための送信デバイスを含む。通信部22は、例えばHDMIトランスミッタ又はUSBコントローラである。通信部22は、例えばLANコントローラ又は無線LANコントローラであってもよい。
【0060】
記憶部23は、ROM、RAM、及びSSD等の記憶媒体を有する。記憶部23は、制御部24が実行するプログラムを記憶している。制御部24は、例えばCPU(Central Processing Unit)である。制御部24は、記憶部23に記憶されているプログラムを実行することにより、画像生成部241及び送信制御部242として機能する。
【0061】
画像生成部241は、撮像部21が撮影した撮像画像により撮像画像データを生成する。画像生成部241は、特徴画像が投影された被写体を撮影した特徴撮像画像データ、及び特徴画像が投影されていない被写体を撮影した被写体撮像画像データを生成する。送信制御部242は、特徴撮像画像データ及び被写体撮像画像データを三次元グラフィックスデータ作成装置に送信する。
【0062】
[三次元グラフィックスデータ作成装置3の構成]
図9は、三次元グラフィックスデータ作成装置3の構成を示す図である。三次元グラフィックスデータ作成装置3は、通信部31と、表示制御部32と、記憶部33と、制御部34と、を有する。制御部34は、画像取得部341と、メッシュ作成部342と、切出部343と、作成部344と、を有する。図9においては、三次元グラフィックスデータ作成装置3が作成した三次元モデルデータを表示するための表示装置4も示されている。
【0063】
通信部31は、例えば撮像装置2が出力した特徴撮像画像データ及び被写体撮像画像データを取得するための受信デバイスを含む。通信部31は、例えばHDMIレシーバ又はUSBコントローラである。通信部31は、例えばLANコントローラ又は無線LANコントローラであってもよい。表示制御部32は、作成部344が作成した三次元モデルデータが示す三次元モデルを表示装置4に表示させる。表示制御部32は、例えば特徴撮像画像データ、被写体撮像画像データ、テクスチャデータが示すテクスチャ、又はメッシュの少なくともいずれかを表示装置4に表示させてもよい。
【0064】
記憶部33は、ROM、RAM、及びSSD等の記憶媒体を有する。記憶部33は、制御部34が実行するプログラムを記憶している。制御部34は、例えばCPUである。制御部34は、記憶部33に記憶されているプログラムを実行することにより、画像取得部341、メッシュ作成部342、切出部343及び作成部344として機能する。
【0065】
画像取得部341は、撮像装置2が生成した特徴撮像画像データ及び被写体撮像画像データを取得する。メッシュ作成部342は、特定した複数の位置である特徴点のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成する。メッシュ作成部342は、例えば複数の特徴撮像画像データに共通に含まれる、1つのサブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、被写体における複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定し、特定した複数の位置うち少なくともいずれかの座標に関連付けられた複数のメッシュを作成する。
【0066】
切出部343は、テクスチャデータを生成する。切出部343は、複数の被写体撮像画像データにおける複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出す。作成部344は、被写体の三次元グラフィックスデータを作成する。作成部344は、複数のメッシュそれぞれに、対応するテクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成する。
【0067】
[三次元グラフィックスデータ作成システムSのフローチャート]
図10は、三次元グラフィックスデータ作成システムSの動作の一例を示すフローチャートである。図10に示すフローチャートは、特徴画像を投影する被写体の位置とメッシュの大きさとを決定した後に被写体を撮影することにより被写体の三次元モデルデータを生成する動作の一例を示している。
【0068】
最初に、三次元グラフィックスデータ作成システムSは、被写体の位置を特定する(S21)。三次元グラフィックスデータ作成システムSは、例えば撮像装置2が被写体を撮影して被写体の位置を検出することにより被写体の位置を特定する。特定した被写体の位置は、投影装置1に設定される。特定した被写体の位置は、例えばLAN等のネットワーク(不図示)を介して撮像装置2から投影装置1に設定される。特定した被写体の位置は、例えばユーザが、投影装置1が有する操作部12を操作することにより設定した被写体の位置の設定を受け付けることにより設定されてもよい。
【0069】
投影装置1は、複数のメッシュの大きさの設定を受け付ける(S22)。投影装置1が有する設定部13は、記憶部11に記憶されている複数の特徴画像のうち、ユーザが操作部12を操作することにより設定したメッシュの大きさの設定に対応する特徴画像を特定し、投影装置1が有する投影部14に通知する。
【0070】
投影装置1は、特徴画像を投影する(S23)。投影装置1は、S21において撮像装置2が検出した被写体の位置に基づいて特徴画像を投影する。投影装置1は、S21においてユーザに設定された被写体の位置に基づいて特徴画像を投影してもよい。投影装置1は、S22において設定されたメッシュの大きさに応じた特徴パターンを有する特徴画像を被写体に投影する。投影装置1が有する投影部14は、S22において設定部13が特定した特徴画像を投影する。
【0071】
撮像装置2は、特徴画像を投影された被写体を撮影することにより特徴撮像画像データを作成する(S24)。撮像装置2は、作成した特徴撮像画像データを三次元グラフィックスデータ作成装置3に送信する。三次元グラフィックスデータ作成装置3が有する画像取得部341は、複数の撮像装置2が出力した複数の特徴撮像画像データを取得する。
【0072】
投影装置1は、特徴画像の投影を停止する。撮像装置2は、投影装置1が特徴画像の投影を停止した後に被写体を撮影することにより被写体撮像画像データを作成する(S25)。撮像装置2は、作成した被写体撮像画像データを三次元グラフィックスデータ作成装置3に送信する。画像取得部341は、複数の撮像装置2が出力した複数の被写体撮像画像データを取得する。
【0073】
三次元グラフィックスデータ作成装置3が有するメッシュ作成部342は、複数の特徴撮像画像データに基づいて三次元空間における座標を特定する(S26)。メッシュ作成部342は、例えば複数の特徴撮像画像データに共通に含まれる、1つのサブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、被写体における複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定する。
【0074】
メッシュ作成部342は、特定した複数の位置である複数の特徴点の座標に関連付けられた複数のメッシュを作成する(S27)。
【0075】
三次元グラフィックスデータ作成装置3が有する切出部343は、S27においてメッシュ作成部342が作成した複数のメッシュと、S25において画像取得部341が取得した複数の被写体撮像画像データとに基づいてテクスチャデータを生成する。切出部343は、複数の被写体撮像画像データにおける複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出す(S28)。
【0076】
三次元グラフィックスデータ作成装置3が有する作成部344は、テクスチャデータが示すテクスチャを複数のメッシュそれぞれに割り当てることにより、三次元グラフィックスデータを作成する(S29)。なお、三次元グラフィックスデータ作成システムSは、被写体撮像画像データを作成する処理(S25)を、特徴画像を投影する処理(S23)の前に実行してもよい。
【0077】
[三次元グラフィックスデータ作成方法の効果]
以上説明したとおり、三次元グラフィックスデータ作成方法は、それぞれ画素値が異なる複数のサブ画像領域を有する特徴パターンを有する特徴画像を被写体に投影している間に、複数の異なる位置に設けられた複数の撮像装置2により被写体を撮影することにより複数の特徴撮像画像データを作成するステップと、複数の特徴撮像画像データに共通に含まれる、1つのサブ画像領域よりも広い複数のマッチング領域の位置の関係に基づいて、被写体における複数のマッチング領域に対応する複数の位置の三次元空間における座標を特定するステップと、特定した複数の位置のうち少なくともいずれかの座標に関連付けられた複数のメッシュを作成するステップと、特徴画像を被写体に投影していない状態で複数の撮像装置2により被写体を撮影することにより複数の被写体撮像画像データを作成するステップと、複数の被写体撮像画像データにおける複数のメッシュそれぞれの位置に対応する複数の領域の画像データを複数のテクスチャデータとして切り出すステップと、複数のメッシュそれぞれに、対応するテクスチャデータが示すテクスチャを割り当てることにより三次元グラフィックスデータを作成するステップと、を有する。
【0078】
このような手順で三次元グラフィックスデータを作成することで、被写体の表面の模様が少ないことにより画素値の組み合わせの変化が少ない領域であってもメッシュの大きさを十分に小さくすることができるため、三次元グラフィックスデータの精細度を向上させることができる。そして、特徴画像を投影しない被写体を撮影した被写体撮像画像データを用いてテクスチャを作成することにより、特徴画像が写っていない三次元グラフィックスデータを作成することができる。
【0079】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。
【符号の説明】
【0080】
1 投影装置
2 撮像装置
3 三次元グラフィックスデータ作成装置
11 記憶部
12 操作部
13 設定部
14 投影部
21 撮像部
22 通信部
23 記憶部
24 制御部
31 通信部
32 表示制御部
33 記憶部
34 制御部
241 画像生成部
242 送信制御部
341 画像取得部
342 メッシュ作成部
343 切出部
344 作成部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10