(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-07
(45)【発行日】2024-06-17
(54)【発明の名称】撮像制御装置、評価システム、撮像制御方法及びプログラム
(51)【国際特許分類】
H04N 23/10 20230101AFI20240610BHJP
G06T 7/70 20170101ALI20240610BHJP
H04N 23/60 20230101ALI20240610BHJP
【FI】
H04N23/10
G06T7/70 B
H04N23/60
(21)【出願番号】P 2020129853
(22)【出願日】2020-07-31
【審査請求日】2023-07-12
(31)【優先権主張番号】P 2019221183
(32)【優先日】2019-12-06
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110001243
【氏名又は名称】弁理士法人谷・阿部特許事務所
(72)【発明者】
【氏名】井下 智加
【審査官】鈴木 明
(56)【参考文献】
【文献】特開2019-185730(JP,A)
【文献】国際公開第2018/079043(WO,A1)
【文献】特開2013-174441(JP,A)
【文献】特開2019-178892(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/00-23/959
G06T 7/70
(57)【特許請求の範囲】
【請求項1】
対象物体の見えの評価に用いられる色情報を取得するために、評価の基準となる基準物体を撮像する撮像手段を制御する撮像制御装置であって、
前記対象物体における評価領域の面の向きに関するデータを取得する第1取得手段と、
前記面の向きに関するデータに基づいて、前記評価領域の面の向きと、前記基準物体の面の向きと、の差が所定の閾値未満になるまで前記基準物体を撮像するよう前記撮像手段を制御し、前記差が所定の閾値未満である場合の、前記基準物体の色情報を取得する第2取得手段と、
前記基準物体の前記色情報を、前記対象物体の見えを評価する評価手段に出力する出力手段と、
を有することを特徴とする撮像制御装置。
【請求項2】
前記第2取得手段は、前記評価領域の面の向きと、前記基準物体の面の向きと、の差が前記所定の閾値未満になるまで前記基準物体の撮像と前記面の向きの比較とを含む処理を繰り返し行い、前記差が前記所定の閾値未満になった場合に前記処理を終了することを特徴とする請求項1に記載の撮像制御装置。
【請求項3】
前記第1取得手段は、前記対象物体を撮像して得られた画像データおよび前記基準物体を撮像して得られた画像データに基づいて、前記対象物体および前記基準物体の面の向きに関するデータを取得することを特徴とする請求項1又は2に記載の撮像制御装置。
【請求項4】
前記第1取得手段は、前記対象物体に対応するCADデータおよび前記基準物体に対応するCADデータに基づいて、前記対象物体および前記基準物体の面の向きに関するデータを取得し、
前記第2取得手段は、前記対象物体に対応するCADデータに基づき前記面の向きに関するデータに対応する前記対象物体を撮像して得られた画像データを取得することを特徴とする請求項1又は2に記載の撮像制御装置。
【請求項5】
前記第1取得手段は、前記対象物体および前記基準物体の一方を撮像して得られた画像データおよび前記対象物体および前記基準物体の他方に対応するCADデータに基づいて、前記対象物体および前記基準物体の面の向きに関するデータを取得し、
前記第2取得手段は、前記面の向きに関するデータに対応する前記対象物体および前記基準物体の他方を撮像して得られた画像データを取得することを特徴とする請求項1又は2に記載の撮像制御装置。
【請求項6】
前記対象物体と前記基準物体とを同じ画角内に設置して撮像して得られた画像データに対して、前記対象物体に対応する画像領域と、前記基準物体に対応する画像領域とを指定する指定手段、
をさらに有し、
前記第1取得手段は、前記対象物体に対応する画像領域を、前記対象物体を撮像して得られた画像データとし、前記基準物体に対応する画像領域を、前記基準物体を撮像して得られた画像データとする
ことを特徴とする請求項3又は5に記載の撮像制御装置。
【請求項7】
前記出力手段は、前記対象物体を撮像して得られた画像データを前記評価手段に出力することを特徴とする請求項1ないし6のいずれか一項に記載の撮像制御装置。
【請求項8】
前記対象物体および前記基準物体それぞれを撮像して得られた画像データは、前記対象物体と前記基準物体とを同じ画角内で撮像して得られた画像データであることを特徴とする請求項3ないし7のいずれか一項に記載の撮像制御装置。
【請求項9】
前記対象物体および前記基準物体それぞれの面の向きに関するデータは、前記対象物体および前記基準物体それぞれの面の法線を示すデータであることを特徴とする請求項1ないし8のいずれか一項に記載の撮像制御装置。
【請求項10】
前記対象物体の面の向きに関するデータと前記基準物体の面の向きに関するデータとを比較し、前記面の向きの差が小さい前記基準物体の面の向きを表示するための表示制御手段をさらに有することを特徴とする請求項1ないし9のいずれか一項に記載の撮像制御装置。
【請求項11】
前記第2取得手段は、前記対象物体の面の向きに関するデータと前記基準物体の面の向きに関するデータとの比較を前記対象物体の全領域に対して行い、前記面の向きの差が閾値未満となる場合に、前記基準物体を撮像して得られた画像データを取得することを特徴とする請求項1ないし10のいずれか一項に記載の撮像制御装置。
【請求項12】
物体の見えを評価する評価システムであって、
評価の対象となる対象物体を撮像して得られた画像データに基づいて、前記対象物体の面の向きに関する第1データを取得する第1取得手段と、
評価の基準となる基準物体を、前記対象物体の撮像と同じ撮像条件で撮像して得られた画像データに基づいて、前記基準物体の面の向きに関する第2データを取得し、前記第2データが示す前記基準物体の面の向きと前記第1データが示す前記対象物体の面の向きとの差が所定の閾値未満である場合に、前記基準物体を撮像して得られた画像データを保持する第2取得手段と、
前記保持された基準物体を撮像して得られた画像データに基づいて、前記対象物体の見えを評価する評価手段と、
を有することを特徴とする評価システム。
【請求項13】
コンピュータを請求項1ないし11のいずれか一項に記載の撮像制御装置の各手段として機能させるためのプログラム。
【請求項14】
対象物体の見えの評価に用いられる色情報を取得するために、評価の基準となる基準物体を撮像する撮像手段を制御する撮像制御方法であって、
前記対象物体における評価領域の面の向きに関するデータを取得する第1取得工程と、
前記面の向きに関するデータに基づいて、前記評価領域の面の向きと、前記基準物体の面の向きと、の差が所定の閾値未満になるまで前記基準物体を撮像するよう前記撮像手段を制御し、前記差が所定の閾値未満である場合の、前記基準物体の色情報を取得する第2取得工程と、
前記基準物体の前記色情報を、前記対象物体の見えを評価する評価手段に出力する出力工程と、
を有することを特徴とする撮像制御方法。
【請求項15】
物体の見えを評価するための評価方法であって、
評価の対象となる対象物体を撮像して得られた画像データに基づいて、前記対象物体の面の向きに関する第1データを取得する第1取得工程と、
評価の基準となる基準物体を、前記対象物体の撮像と同じ撮像条件で撮像して得られた画像データに基づいて、前記基準物体の面の向きに関する第2データを取得し、前記第2データが示す前記基準物体の面の向きと前記第1データが示す前記対象物体の面の向きとの差が所定の閾値未満である場合に、前記基準物体を撮像して得られた画像データを保持する第2取得工程と、
前記保持された基準物体を撮像して得られた画像データに基づいて、前記対象物体の見えを評価する評価工程と、
を有することを特徴とする評価方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体の見えを評価するための技術に関する。
【背景技術】
【0002】
従来、物体の見えの評価において、物体の形状や撮像時の照明角度などの条件を考慮した評価を行う技術が知られている。特許文献1は、基準色立体物に対して撮像時の照明条件が関連付けられた複数のプロファイルを作成し、複数のプロファイルから選択したプロファイルを用いて被写体の撮像画像の色変換を行うことを開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1においては、複数の幾何条件それぞれについて基準物を撮像し、撮像により得られた撮像画像を基に色変換に係るプロファイルを複数作成することになる。このため、物体の色評価のために行う撮像および撮像画像に対する処理にかかるコストが高いという課題がある。
【0005】
本発明は、撮像条件を考慮した対象物の見えの評価を行うための処理にかかるコストを低減するための処理を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために本発明の一形態は、対象物体の見えの評価に用いられる色情報を取得するために、評価の基準となる基準物体を撮像する撮像手段を制御する撮像制御装置であって、前記対象物体における評価領域の面の向きに関するデータを取得する第1取得手段と、前記面の向きに関するデータに基づいて、前記評価領域の面の向きと、前記基準物体の面の向きと、の差が所定の閾値未満になるまで前記基準物体を撮像するよう前記撮像手段を制御し、前記差が所定の閾値未満である場合の、前記基準物体の色情報を取得する第2取得手段と、前記基準物体の色情報を、前記対象物体の見えを評価する評価手段に出力する出力手段と、を有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、撮像条件を考慮した対象物の見えの評価を行うための処理にかかるコストを低減することができる。
【図面の簡単な説明】
【0008】
【
図3】色評価システムにおける処理を示すフローチャート
【
図4】物体の三次元形状を算出する方法を説明する図
【
図5】物体の形状データを生成する処理を示すフローチャート
【
図6】物体に貼られたマーカーに関する情報を有するメタデータの例を示す図
【
図7】基準物体の色情報を取得する処理を示すフローチャート
【
図8】物体の色評価を行う位置を指定するためのUIの例を示す図
【
図9】基準板の三次元形状を算出する方法を説明する図
【
図10】色評価システムの機能構成を示すブロック図
【
図11】色評価システムにおける処理を示すフローチャート
【
図13】色評価システムの機能構成を示すブロック図
【
図14】色評価システムにおける処理を示すフローチャート
【
図15】基準板を撮像するための処理を示すフローチャート
【
図16】基準板の三次元形状を算出する方法を説明する図
【
図17】色評価システムの機能構成を示すブロック図
【
図18】色評価システムにおける処理を示すフローチャート
【
図19】基準板を撮像するための処理を示すフローチャート
【
図21】色評価システムの機能構成を示すブロック図
【
図22】色評価システムにおける処理を示すフローチャート
【
図23】基準板を撮像するための処理を示すフローチャート
【
図24】基準板撮像画像データ保持部が保持するテーブルの例を示す図
【
図25】色評価システムの機能構成を示すブロック図
【
図26】色評価システムにおける処理を示すフローチャート
【
図27】物体と基準板とを同じ画角内で撮像する様子を説明する図
【
図28】物体のマーカー領域を指定するUIの例を示す図
【発明を実施するための形態】
【0009】
以下、図面を参照して本発明の実施形態を詳細に説明する。なお、以下の実施形態は、本発明を限定するものではない。また、本実施形態において説明されている特徴の組み合わせの総てが本発明の課題の解決に必須のものとは限らない。
【0010】
[第1実施形態]
第1実施形態は、対象物体の撮像時と同じ撮像条件(照明、撮像装置と対象物体との位置関係など)で得られる基準板の面の向きと対象物体の面の向きとの差が所定の閾値未満になった場合に基準板の撮像画像を取得する。そして、取得した撮像画像に基づいて対象物体の色評価を行う。なお、本実施形態で得られる色評価は、例えば、撮像装置のキャリブレーションや撮像対象物の色調整に用いられる。
【0011】
<色評価システムの構成>
図1(a)は、第1実施形態に係る色評価システムの構成を示す図である。本実施形態の色評価システムは、撮像制御装置1と、撮像装置2と、色評価装置3と、を有して構成される。
【0012】
撮像装置2は、レンズとCMOSなどのエリアセンサを備え、撮像した画像に基づき、R(レッド)、G(グリーン)、B(ブルー)の各8ビット、計24ビットの色値を画素ごとに有する画像データを生成する。なお、撮像装置2は、撮像対象物の色情報の2次元分布を取得できるカメラであればどのようなものであってもよく、色数やビット深度、画素数などは上述した形態に限定されない。光源5は、物体4に光を照射する。
【0013】
図1(b)は、撮像制御装置1のハードウェア構成を示すブロック図である。撮像制御装置1は、例えばコンピュータであり、CPU101、ROM102、RAM103、汎用I/F(インターフェース)104、SATA(シリアルATA)I/F105、VC(ビデオカード)106を備える。CPU101は、RAM103をワークメモリとして、ROM102、HDD(ハードディスクドライブ)17などに格納されたOS(オペレーティングシステム)や各種プログラムを実行する。また、CPU101は、システムバス107を介して各構成要素を制御する。なお、
図3などで後述するフローチャートに示す処理は、ROM102やHDD17などに格納されたプログラムコードがRAM103に展開され、CPU101によって実行される。汎用I/F104には、シリアルバス12を介して、マウスやキーボードなどの入力デバイス13やプリンタ14が接続される。SATA I/F105には、シリアルバス16を介して、HDD17や各種記録メディアの読み書きを行う汎用ドライブ18が接続される。CPU101は、HDD17や汎用ドライブ18にマウントされた各種記録メディアを、各種データの格納場所として使用する。VC106には、ディスプレイ15が接続される。CPU101は、プログラムによって提供されるUI(ユーザインターフェース)をディスプレイ15に表示し(すなわち、表示制御を行い)、入力デバイス13を介して得られたユーザの指示を表す入力情報を受信する。
【0014】
色評価装置3は、撮像制御装置1と同様の構成を有し、CPU、RAM、ROM、汎用I/F、SATA I/F、ビデオカードを有して構成される。
【0015】
なお、以上説明した撮像制御装置1と色評価装置3を1つの装置として構成することもでき、そのような装置が色評価システムあるいは色評価装置を構成する。
【0016】
<色評価システムの機能構成>
図2は、第1実施形態に係る色評価システムを構成する、主に機能要素を示すブロック図である。本実施形態の色評価システムは、
図1(a)でそれぞれ上述した、撮像制御装置1と色評価装置3を有して構成される。撮像制御装置1による機能要素は、撮像画像データ取得部201、形状データ生成部202、および撮像制御部203であり、色評価装置3による機能要素は、色評価部301および評価結果表示部302である。
【0017】
撮像画像データ取得部201は、撮像装置2で撮像された、色評価の対象となる物体4の撮像画像データを取得する。形状データ生成部202は、撮像画像データ取得部201で取得した物体4の撮像画像データに基づいて、物体4の三次元形状を表す形状データを算出する。撮像制御部203は、形状データ生成部202で算出された形状データに基づいて、撮像装置2を制御して基準物体を撮像するようにし、撮像画像データ取得部201を介して基準物体の撮像画像データを取得する。本実施形態における基準物体は、物体4と同じ素材の基準板である。
【0018】
色評価部301は、撮像装置2で撮像された物体4の撮像画像データと、撮像制御部203で撮像装置2を制御して取得した基準物体の撮像画像データと、に基づいて、物体4の表面の色を評価する。評価結果表示部302は、色評価部301による色の評価結果をディスプレイ15に表示する。すなわち、評価結果の表示制御を行う。
【0019】
<色評価システムにおける処理>
図3は、第1実施形態に係る色評価システムで実行される処理を示すフローチャートである。以下、各ステップ(工程)は符号の前にSをつけて表し、「ステップ」の記載は省略する。その他のフローチャートについても同様である。
【0020】
最初にS210で、撮像画像データ取得部201は撮像装置2が物体4を撮像して得られた撮像画像データを取得する。そして、S220で、形状データ生成部202は、撮像画像データ取得部201で取得した撮像画像データに基づき、物体4の三次元形状を表す形状データを生成する。このS220における処理の詳細は
図4、
図5(a)および(b)、
図6(a)および(b)にて後述する。
【0021】
次にS230で、撮像制御部203は、基準物体の色情報を取得する。具体的には、撮像制御部203は、撮像装置2を制御して基準物体を撮像し、その撮像で得られた撮像画像データから形状データ生成部202によって生成された基準物体の形状データを取得する。そして撮像制御部203は、物体4および基準物体の形状データに基づいて、物体4の色評価を行いたい位置(評価領域)の面の向きと基準板の面の向きとの差が所定の閾値未満となるまで撮像装置2に基準物体を撮像させる。撮像制御部203は、面の向きの差が閾値未満となった場合に撮像装置2に撮像を止めさせ、面の向きの差が閾値未満となった場合の基準物体の撮像画像データ(色情報)を取得する。この撮像では、S210で撮像画像データを取得したときと同じ撮像条件下で撮像する。S230における処理の詳細は
図7、
図8および
図9にて後述する。
【0022】
さらにS240で、色評価部301は、物体4の撮像画像データと、撮像制御部203によって取得した基準物体の撮像画像データと、に基づいて、物体4の表面の色を評価する。この評価は、その詳細が後述されるように、両データの色差などを求めそれを評価値とするものである。
【0023】
最後にS250で、評価結果表示部302は、色評価部301における色の評価結果をディスプレイ15に表示する。
【0024】
<S220の処理:形状データ生成>
この処理によって物体4の三次元形状を表す形状データを生成する。
図4は、第1実施形態に係る、物体4の三次元形状を算出する方法を説明する図である。
図4に示すように、色評価の対象となる物体4にはマーカー6が貼り付けられている。マーカー6はパターン領域41と評価領域42とが設けられている。評価領域42は、マーカー6において切り抜かれた領域である。そのため、マーカー6を物体4に貼り付けると評価領域42の部分で物体4の表面が露出する。この領域によって物体4の表面の色の評価を行うことができる。S220では、マーカー6が貼り付けられた物体4を撮像することによって得られた撮像画像データを用いて物体4の三次元形状を算出する。
【0025】
図5(a)および(b)は、第1実施形態に係る、色評価の対象となる物体4の形状データを生成する処理を示すフローチャートである。このうち、
図5(b)は、
図5(a)に示すS224の処理の詳細を示すフローチャートである。
【0026】
図5(a)において、先ず、S221で、形状データ生成部202は、撮像画像データ取得部201が取得した撮像画像データを読み込む。次に、S222で、形状データ生成部202は、マーカー6についての情報を有するメタデータを読み込む。
【0027】
図6は、このメタデータの例を示す図である。
図6の左側は、メタデータとして記録される内容を示している。領域601は、マーカー6を平面に展開したとき、つまり
図6の紙面上における、パターン領域41の中心点の三次元座標(X,Y,Z)が記録された領域である。図に示す例は、パターン領域41-11の座標が(0.0,0.0,0.0)、パターン領域41-12の座標値が(10.0,0.0,0.0)、パターン領域41-13の座標値が(20.0,0.0,0.0)、・・・であることを示している。また、図に示す例は、パターン領域41-11~パターン領域41-26の12行にわたって座標(X,Y,Z)が記録されている。上記説明から分かるように、これらの座標は、左上のパターン領域41-11の中心点を原点(0.0,0.0,0.0)とした場合の、原点との相対的な位置が記録されている。領域602は、マーカー6の画像における各パターン領域41の中心点の2次元座標(u,v)が記録されている。図に示す例は、パターン領域41-11の座標値が(100,100)、パターン領域41-12の座標が(200,100)、パターン領域41-13の座標が(300,100)、・・・であることを示している。また、図に示す例は、パターン領域41-11~41-26の12行にわたって座標(u,v)が記録されている。上記説明から分かるように、2次元座標(u,v)は、マーカー画像の画素単位の2次元座標が12行にわたって記録されている。領域603は、ポリゴン情報が記録された領域である。図に示す例のポリゴンは、4つのパターン領域41-1k、41-2k、41-2k+1、41-1k+1の各中心点を頂点として有する矩形である。そして、ポリゴン情報は、矩形を構成する各頂点の情報である。具体的に、ポリゴン情報は、各行に、反時計まわりに矩形の外周を回る順で4頂点分の、領域601の行の番号及び領域602の行番号が記録された情報である。例えば、頂点41-11、41-21、41-22、41-12の矩形の場合、頂点41-11は領域601で1行目、領域602で1行目、頂点41-21は領域601で7行目、領域602で7行目、にそれぞれ記録される。また、頂点41-22は領域601で8行目、領域602で8行目、頂点41-12は領域601で2行目、領域602で2行目、にそれぞれ記録される。これにより、この矩形は、1/1、7/7、8/8、2/2、と記録される。
【0028】
再び
図5(a)を参照すると、次のS223において、形状データ生成部202は、物体4を撮像して得られる画像データに基づいて、各パターン領域41の中心座標を算出する。具体的には、撮像画像データの画素値を2値化する。この2値化処理では、所定の閾値以上の画素値を有する画素を白、所定の閾値未満の画素値を有する画素を黒とする。2値化処理後の撮像画像において公知のキャニー法を用いてエッジ位置を抽出し、8つの近傍画素にエッジ位置がある画素を同一の輪郭とみなしてグループ化し輪郭抽出を行う。抽出した複数の輪郭グループの中から、円または楕円となる輪郭の候補を挙げる。そして、輪郭の候補として挙げられた円または楕円の輪郭によって囲まれる面積を算出し、算出した各輪郭の面積と予め設定されたパターン領域41の複数の輪郭を抽出し、各輪郭の中心座標値を算出する。また、各輪郭の中心座標値の相対的な位置関係が、領域602に記載されている座標の相対的な位置関係と一致するように各輪郭の中心座標をソートする。これにより、領域603で定義される矩形と、矩形に対応するパターン領域41の中心座標と、の対応をとることができる。
【0029】
次に、S224において、形状データ生成部202は、各パターン領域41の中心座標に基づいて、物体4の表面における法線ベクトルを算出し、算出した法線ベクトルを表す形状データを生成する。
【0030】
図5(b)は、S224の形状データ生成処理を示すフローチャートである。
【0031】
先ず、S2241で、形状データ生成部202は、メタデータから矩形の頂点の三次元座標値(X,Y,Z)を読み込む。具体的には、メタデータにおいて、領域603に示したポリゴン情報から一行分を読み取り、ポリゴン情報が示す矩形の各頂点に対応する各座標値を領域601から読み取る。次に、S2242で、形状データ生成部202は、S223で撮像画像データから算出したパターン領域41の中心座標を、S2241で読み取った矩形の各頂点に対応する座標値として読み取る。パターン領域41の中心座標の順は、S223において、領域602に記録されている座標値の順と一致するようにソートされている。そのため、S2242においては、S2241と同様に領域603に記録されている頂点の番号に対応する中心座標を抽出すればよい。
【0032】
次にS2243において、形状データ生成部202は、下記式(1)において示す、係数r11~r33からなる回転行列Rと、係数t1~t3からなる並進ベクトルtとを推定する。この処理により、矩形の平面に対する撮像装置2の位置および姿勢を算出することができる。
【0033】
【0034】
ここで、fx、fyは、撮像装置2の位置を原点とする三次元空間におけるx方向及びy方向の撮像装置2の焦点距離である。cx、czはx方向及びz方向の撮像装置2の主点位置である。fx、fy、cx、czは、予め決められた値としてHDD17おいて保持されている。また、式(1)における座標(u,v)は、S2242で読み取った撮像画像におけるパターン領域41の中心座標である。式(1)における座標(X,Y,Z)は、座標(u,v)に対応する、S2241で読み取ったメタデータに記録されている三次元座標である。sはスケーリングファクターであり、式(1)の右辺の計算によって得られる三次元ベクトルの3行目の要素が1となるように、その逆数を取った値である。以上の座標(u,v)および座標(u,v)に対応する座標(X,Y,Z)の3組以上を用いて回転行列及び並進ベクトルを推定する。
【0035】
次に、S2244において、形状データ生成部202は、撮像装置2の位置を原点とする矩形の各頂点の三次元座標(x,y,z)と、各頂点を含む平面に対する法線ベクトルとを算出する。まず、下記式(2)において、各頂点の三次元座標(x,y,z)を算出する。
【0036】
【0037】
ここで、RはS2243で算出した回転行列であり、tはS2243で算出した並進ベクトルである。座標(X,Y,Z)は、S2241で読み取ったメタデータにおける各頂点の三次元座標である。次に、形状データ生成部202は、矩形における1つの頂点の座標(x,y,z)を原点として、他の2つの頂点の座標(x,y,z)のベクトルを算出する。そして、算出した2つのベクトルの外積としてのベクトルが示す方向の単位ベクトルを、矩形の表面に対する法線ベクトルとして算出する。なお、各頂点の座標(X,Y,Z)のZ値が同じ場合は、回転行列Rの3列目のr13、r23、r33を成分とする単位ベクトルを法線ベクトルとしてもよい。
【0038】
形状データ生成部202は、上述したS2241~S2244の処理を総ての矩形領域に対して行い、撮像装置2の位置を原点とする各矩形の頂点の三次元座標(x,y,z)を取得する。得られた座標は、物体4が曲面であっても、各矩形が平面とみなせる間隔で頂点が配置されている場合であれば、物体4の三次元座標値であるとみなすことができる。
【0039】
S2245において、形状データ生成部202は、パターン領域41の中心の三次元座標(x,y,z)を決定する。上記S2241~S2244の処理によって算出した各矩形の頂点に対応するパターン領域41は、
図6に示すように隣接する矩形間で重複している。一方で、回転行列R、並進ベクトルtが矩形ごとに異なるため、パターン領域41が重複する複数の頂点に対して、頂点が属する矩形ごとに異なる頂点座標が得られている。そこで、S2245では、形状データ生成部202は、重複のために複数得られた頂点座標から、それらに対応する1つのパターン領域41に対して1つの三次元座標(x,y,z)を再計算する。具体的には、まず、各矩形において、隣接する矩形と対応するパターン領域41が重複する頂点を含み、矩形の法線ベクトルを法線とする平面を算出する。次に、重複していない頂点の座標と撮像装置2の位置である原点とを通る直線を算出し、その直線と算出した平面との交点を新たな重複しない頂点の座標とする。このように座標を再計算することによって、各矩形の法線ベクトルを維持することが可能となる。なお、重複する頂点の座標(x,y,z)の平均値を、対応するパターン領域41の中心の三次元座標値としてもよい。
【0040】
S2246において、形状データ生成部202は、矩形ごとに算出した法線ベクトルを、各画素について記録した形状データを生成する。ここでは、矩形内はすべて同じ法線ベクトルであるとして、各画素に法線ベクトル(nx,ny,nz)を記録する。なお、本実施形態における色の評価は評価領域42に対して行われるため、形状データが表す法線ベクトルは、評価領域42における画素にのみ記録されていればよい。
【0041】
<S230の処理:基準物体の色情報を取得>
S230(
図3)では、撮像制御部203は、形状データ生成部202によって生成された物体4の形状データに基づいて物体4において色評価を行いたい位置を特定し、その位置に対応する基準物体の色情報を取得する。そして、この色情報に基づいて物体4の色評価を行う。詳しくは、S210で物体4の撮像画像データを取得したときと同じ撮像条件下で基準物体の撮像を行う。このとき、物体4の形状データにおいて色評価を行いたい位置が指定されている。その後、撮像装置2は基準物体を所定の時間間隔で撮像し、指定されている位置の物体4の面の向きと、基準物体の面の向きの差が所定の閾値未満になった場合にのみ、その時の撮像画像データをメモリに保持する。撮像の間、基準物体は、人またはロボットアームなどにより面の向きが様々に変化されている。
【0042】
図7は、S230の基準物体の色情報を取得する処理を示すフローチャートである。
【0043】
先ずS231において、撮像制御部203は、物体4の形状データにおいて物体4の色評価を行いたい画素位置(u
c,v
c)の法線(n
cx,n
cy,n
cz)を取得する。画素位置(u
c,v
c)の指定は、
図8に示すUIを介したユーザの指示入力に基づいた値を用いてもよいし、予め決められた値を用いてもよい。
図8に示すUIは一例であり、
図8において画素位置(u
c,v
c)81をポインタ82によって指定する。法線(n
cx,n
cy,n
cz)は、形状データ生成部202で生成された物体4の形状データから画素位置(u
c,v
c)に対応する法線として取得する。
【0044】
S232では、撮像制御部203は撮像装置2によって基準板7を撮像するよう制御する。そして、S233で、撮像制御部203は、S232で撮像して得られた撮像画像データから撮像画像データ取得部201、形状データ生成部202を介して基準板7の形状データを取得し、基準板7の法線(nbx,nby,nbz)を算出する。
【0045】
この法線算出では、先ず、形状データ生成部202が、S232で撮像して得られた基準板7の撮像画像データに基づき基準板7の三次元形状を算出する。
図9は、第1実施形態に係る基準板7の三次元形状を算出する方法を説明する図である。
図9において、基準板7には、物体4の形状データを得るときと同様、マーカー6が貼り付けられている。マーカー6にはパターン領域41と評価領域42とが設けられている。評価領域42はマーカー6において切り抜かれた領域である。マーカー6を用いた基準板7の三次元形状の算出は、物体4の三次元形状を算出するS220(
図3)の処理と同様に形状データ生成部202が行い、各画素について法線が規定されている基準板7の形状データを生成する。本実施形態では、撮像制御部203は、形状データ生成部202で生成された基準板7の形状データを取得し、その形状データに基づき算出された評価領域42における画素ごとの法線の平均を基準板7の法線(n
bx,n
by,n
bz)とする。
【0046】
図7を再び参照すると、次にS234で、撮像制御部203は、S231で取得した物体4の法線(n
cx,n
cy,n
cz)と、S233で算出した基準板7の法線(n
bx,n
by,n
bz)を比較する。そして、比較の結果である差が所定の閾値T未満であった場合S235を実行し、差が閾値以上の場合S232へ戻り、基準板7の面の向きを変えてそれ以降の処理を繰り返す。
【0047】
S234において、物体4の法線(ncx,ncy,ncz)と、基準板7の法線(nbx,nby,nbz)の差は2つのベクトル間の角度差として式(3)を用いて算出する。
【0048】
【0049】
ここでdot(・,・)はベクトル間の内積を表す。閾値Tはあらかじめ決められた値でも良いし、別途ユーザから指定したものでも良い。本実施形態では、閾値T=1度として処理を行う。
【0050】
S235では、撮像制御部203は、以上のようにして取得される基準板7の撮像画像データをメモリに保持する。この撮像画像データには、基準板7の画素ごとに色情報が含まれている。
【0051】
<S240の処理:色評価>
S240では、色評価部301が、物体4の撮像画像データにおける評価位置(uc,vc)に対応する位置の各画素の色情報と、その評価位置と同じ法線の向きで撮像された基準板7の色情報と、に基づいて色の評価値を算出する。具体的には、先ず、下記式(4)~式(8)を用いて、XYZ値をL*a*b*値を変換する。すなわち、物体4の撮像画像データにおける色情報を(Xc,Yc,Zc)とし、基準板7の色情報を(Xb,Yb,Zb)とし、基準白色のXYZ値を(Xw,Yw,Zw)とする。基準白色のXYZ値には、予め設定されている値を用いる。そして、式(4)~式(8)を用いて(Xc,Yc,Zc)、(Xb,Yb,Zb)をそれぞれ(X,Y,Z)に代入した場合の、(L*c,a*c,b*c)、(L*b,a*b,b*b)をそれぞれ算出する。
【0052】
【0053】
【0054】
【0055】
【0056】
【0057】
算出した(L*c,a*c,b*c)、(L*b,a*b,b*b)を用いて、色差ΔE、明度差ΔL*、Δa*、Δb*、彩度差ΔCのいずれかを評価値として算出する。評価値の算出は、以下の式(9)を用いる。本実施形態では、色差ΔEを評価値とするように予め設定されているものとする。
【0058】
【0059】
なお、上述した色差ΔE、明度差ΔL*、Δa*、Δb*、彩度差ΔCを組み合わせた値を評価値としてもよい。また、ディスプレイ15に評価値の候補を表示させて、評価値をユーザに選択させてもよい。
【0060】
以上説明したように、本実施形態の色評価システムは、物体の色評価を行いたい位置の法線と、基準板の法線との差が所定の閾値未満になる条件においてのみ撮像画像を取得する。さらに、撮像画像に基づいて物体と基準板の色評価を行う。これにより、予め複数の幾何条件それぞれに対応するプロファイルを作成することなく、幾何条件を考慮した色評価を行うことが可能となる。
【0061】
[第2実施形態]
上述した第1実施形態では、物体4および基準板7に対してマーカーを貼り付けることでそれぞれの形状データを取得した。しかし、物体4の設計値やCADデータがある場合には、物体4の形状取得においてマーカーを使用しなくてもよい。第2実施形態では、上記CADデータなどによって形状が既知である物体に対し、マーカーを使用せずに形状データを取得し、それに基づいて色評価を行う。以下では、本実施形態と第1実施形態とで異なる部分を主に説明する。
【0062】
<色評価システムの機能構成>
図10は、第2実施形態に係る色評価システムの機能構成を示すブロック図である。本実施形態の色評価システムは、撮像制御装置1と色評価装置3を有し、撮像制御装置1は、撮像画像データ取得部201、形状データ生成部202、撮像制御部203、CADデータ保持部1001、パターンマッチング部1002を有する。また、色評価装置3は、色評価部301と評価結果表示部302を有する。撮像画像データ取得部201、形状データ生成部202、撮像制御部203、色評価部301、評価結果表示部302は第1実施形態と同様の要素であるためそれらの説明を省略する。
【0063】
CADデータ保持部1001は、物体4の概略形状を表すCADデータを保持している。また、パターンマッチング部1002は、撮像画像データとCADデータとに基づいてパターンマッチングを行い、物体4の形状データを生成する。
【0064】
<色評価システムにおける処理>
図11は、第2実施形態に係る色評価システムにおける処理を示すフローチャートである。S210は第1実施形態と同じ処理であるため、その説明を省略する。
【0065】
S210の後、S1020において、パターンマッチング部1002は、CADデータ保持部1001から物体4のCADデータを取得する。
図12は、第2実施形態に係る物体4のCADデータの例を説明する図である。
図12に示す例では、物体4はCADデータにおいて複数のポリゴンから構成され、CADデータにはポリゴンの各頂点の三次元座標が記録されている。パターンマッチング部1002は、このCADデータと撮像画像データとに基づいてパターンマッチングを行い、形状データを生成する。具体的には、まず、CADデータに基づいて、物体4を仮想の位置および姿勢で撮像した画像をシミュレートする。撮像画像データが表す撮像画像とシミュレートされた画像との特徴量が一致するか否かを判定する処理を、物体4の仮想の位置および姿勢を変えながら繰り返し行う。そして、特徴量が一致する仮想の位置および姿勢におけるシミュレーション結果に基づいて、物体4の三次元座標と撮像画像の各画素との対応関係を算出する。算出された対応関係に基づいて、撮像画像の各画素に対応する法線ベクトルを算出し、各画素に法線ベクトルが規定された形状データを生成する。法線ベクトルは、ポリゴンの法線を頂点の三次元座標から算出することによって得られる。基準板7の各画素について法線が規定されている形状データは、形状データ生成部202により第1実施形態と同じ処理(S220)を行うことにより生成される。
【0066】
次のS230、S240、S250は、第1実施形態と同じ処理であるため、それらの説明を省略する。
【0067】
以上説明したように、本実施形態における撮像制御装置は、CADデータに基づいて生成した形状データを用いて物体4の法線を取得し、物体の色の評価を行った。これにより、物体4に対してマーカーを使用することなく、幾何条件を考慮した色評価を行うことができる。
【0068】
[第3実施形態]
第1実施形態では、物体4及び基準板7にマーカーを張り付けて撮像して得られた撮像画像データを用いて形状データの取得を行った。第2実施形態では、一方の物体4はCADデータを用いて、他方の基準板7のみにマーカーを張り付けて撮像して得られた撮像画像データを用いて形状データの取得を行った。しかし、基準板7においても、形状が予め既知である場合はマーカーを使用しなくてもよい。第3実施形態は、基準板7の形状が既知である場合に、物体4に対してのみマーカーを使用することで物体4の色評価を行う形態に関する。以下では、本実施形態と、第1実施形態および第2実施形態と異なる部分を主に説明する。
【0069】
<色評価システムの機能構成>
図13は、第3実施形態に係る色評価システムの機能構成を示すブロック図である。本実施形態の色評価システムは、撮像制御装置1と色評価装置3を有し、撮像制御装置1は、撮像画像データ取得部201、形状データ生成部202、撮像制御部1303、CADデータ保持部1001、パターンマッチング部1002を有する。また、色評価装置3は、色評価部301、評価結果表示部302を有する。上記構成は、第2実施形態と同様であるためこれらの説明を省略する。
【0070】
撮像制御部1303は、物体4および基準板7の形状データに基づいて撮像装置2を制御して基準板7を撮像し、撮像画像データ取得部201を介して基準板7の撮像画像データを取得する。本実施形態の撮像制御部1303は、
図14などで後述されるように、CADデータ保持部1001およびパターンマッチング部1002からCADデータに基づく基準板7の三次元形状を算出する。なお、物体4の三次元形状については、撮像制御部1303は、第1実施形態と同様に形状データ生成部202から取得する。
【0071】
<色評価システムにおける処理>
図14は、第3実施形態に係る色評価システムにおける処理を示すフローチャートである。S210、S220の処理は第1実施形態と同じ処理であるため、それらの説明を省略する。
【0072】
S1330では、撮像制御部1303は、物体4および基準板7の形状データに基づき、物体4の評価領域の面の向きと基準板の面の向きとの差が所定の閾値未満となるまで撮像装置2に基準物体を撮像させる。撮像制御部1303は、面の向きの差が閾値未満となった場合に撮像装置2に撮像を止めさせ、面の向きの差が閾値未満となった場合の基準物体の撮像画像データ(色情報)を取得する。この撮像では、S210で撮像画像データを取得したときと同じ撮像条件下で撮像する。S1330の処理の詳細は
図15にて後述する。
【0073】
図14におけるS240、およびS250の処理は第1実施形態と同じ処理であるため、これらの説明を省略する。
【0074】
<S1330の処理:基準板の色情報を取得>
図15は、
図14に示すS1330の処理の詳細を示すフローチャートである。
【0075】
S231およびS232は、第1実施形態と同じ処理であるためそれらの説明を省略する。
【0076】
S1333では、撮像制御部1303は、S232で撮像された撮像画像データから、基準板7の法線(nbx,nby,nbz)を算出する。ここでは、先ず、基準板7の三次元形状を算出する。
【0077】
図16は、第3実施形態に係る基準板7の三次元形状を算出する方法を説明する図である。
図16に示すように、基準板7には対応するCADデータ8がCADデータ保持部1001に存在する。パターンマッチング部1002によるCADデータ8を用いた基準板7の三次元形状の算出は、物体4の三次元形状をCADデータから取得する第2実施形態のS1020と同様の処理である。この処理によって、各画素に法線が規定された基準板7の形状データを生成する。ここでは、生成された評価領域42における画素ごとの法線の平均を算出し、基準板7の法線(n
bx,n
by,n
bz)とする。
【0078】
S234、S235の処理は第1実施形態と同じ処理であるためそれらの説明を省略する。
【0079】
以上説明したように、本実施形態における撮像制御装置は、CADデータに基づいて生成した形状データを用いて基準板7の法線を取得し、物体4の色の評価を行う。これにより、基準板7に対してマーカーを使用することなく、幾何条件を考慮した色評価を行うことができる。
【0080】
[第4実施形態]
第1実施形態、第2実施形態、および第3実施形態では、基準板7の面を動かしながら法線の向きを変化させ、物体4の色評価を行いたい位置の法線との差が閾値未満になった場合に撮像画像を保持し、色評価を行った。しかし、基準板7の面の向きを変化させても、色評価を行いたい物体4の法線と基準板7の法線の差が閾値未満にならない場合もある。第4の実施形態は、基準板7の撮像を行う際に、物体4の色評価を行いたい位置の法線と基準板7の法線を合わせるために、基準板7の面の向きを変化させる方向を示す色評価システムに関する。以下、本実施形態が、第1実施形態、第2実施形態、および第3実施形態とで異なる部分を主に説明する。
【0081】
<色評価システムの機能構成>
図17は、第4実施形態に係る色評価システムの機能構成を示すブロック図である。本実施形態の色評価システムは、撮像制御装置1と色評価装置3を有し、撮像制御装置1は、撮像画像データ取得部201、形状データ生成部202、および撮像制御部1703を有する。また、色評価装置3は、色評価部301、評価結果表示部302を有する。
【0082】
撮像画像データ取得部201、形状データ生成部202、色評価部301、および評価結果表示部302は第1実施形態と同じであるためそれらの説明を省略する。
【0083】
撮像制御部1703は、形状データ生成部202で導出された形状データに基づいて撮像装置2を制御して基準板7を撮像し、撮像画像データ取得部201を介して撮像画像データを取得する。本実施形態の撮像制御部1703は、
図18、
図19などで後述されるように、基準板7の動かす向きをUIによって示しつつ基準板7の三次元形状を算出する。
【0084】
<色評価システムにおける処理>
図18は、第4実施形態に係る色評価システムにおける処理を示すフローチャートである。
【0085】
S210、S220の処理は、第1実施形態と同じ処理であるため、それらの説明を省略する。
【0086】
S1730では、撮像制御部1703は、撮像装置2を制御して基準板7を撮像し、その撮像で得られた撮像画像データから形状データ生成部202によって生成された基準板7の形状データを取得する。そして撮像制御部1703は、物体4および基準物体の形状データに基づいて、物体4の評価領域の面の向きと基準板の面の向きとの差が所定の閾値未満となるまで撮像装置2に基準物体を撮像させる。撮像制御部1703は、面の向きの差が閾値未満となった場合に撮像装置2に撮像を止めさせ、面の向きの差が閾値未満となった場合の基準物体の撮像画像データ(色情報)を取得する。この撮像では、S210で撮像画像データを取得したときと同じ撮像条件下で撮像する。S1730の処理の詳細は
図19にて後述する。
【0087】
S240、S250の処理は第1実施形態と同じ処理であるため、それらの説明を省略する。
【0088】
<S1730の処理:基準板の色情報を取得>
図19は、
図18に示すS1730の処理の詳細を示すフローチャートである。
【0089】
図19において、S231、S232、S233、S234、およびS235の処理は、第1実施形態と同じ処理であるためそれらの説明を省略する。
【0090】
S1736で撮像制御部1703は、S231で取得した物体4の法線(ncx,ncy,ncz)とS233で生成した基準板7の法線(nbx,nby,nbz)の角度の差が閾値T以上の場合に、基準板7の動かす向きをUIに表示してユーザに提示する。これにより、基準板7と物体4の法線との上記差を小さくする。具体的には、球面座標系における天頂角θと、方位角φにおける、物体4の法線(ncx,ncy,ncz)と基準板7の法線(nbx,nby,nbz)の角度の差を計算し、UIに天頂角θ、および方位角φ方向における差を表示する。すなわち、物体4の法線(ncx,ncy,ncz)と基準板7の法線(nbx,nby,nbz)を、下記式(10)を用いて球面座標系における天頂角θと方角φでの表現に変換する。
【0091】
【0092】
ここで、Tan-1(x,y)はy/xの逆正接を[-π,π]の範囲で返す関数である。また、球面座標系における物体4の法線と基準板7の法線の天頂角差θdと方位角差φdは、下記式(11)を用いて求めることができる。
【0093】
【0094】
この天頂角差θ
d、および方位角差φ
dをUIにて表示し、基準板7の動かす向きをユーザに提示する。
図20は、第4実施形態に係るUIの表示例を示す図である。同図に示すように、撮像している基準板7に対して天頂角方向及び方位角方向の差を数値及び矢印で表示する。
【0095】
以上説明したように、本実施形態における撮像制御装置は、基準板7を動かす向きをユーザに提示することで、物体4と同じ幾何条件となる基準板7の撮像を行う。これにより、物体4と同じ幾何条件となる基準板7の撮像画像データの取得を短時間で行うことができる。
【0096】
[第5実施形態]
第1実施形態、第2実施形態、第3実施形態、および第4実施形態では、指定された位置に対する色評価を行うものである。これに対し、第5実施形態は、位置を指定するのではなく、評価領域全体に対して色評価を行う形態に関するものである。以下、本実施形態が、第1実施形態、第2実施形態、第3実施形態、および第4実施形態とで異なる部分を主に説明する。
【0097】
<色評価システムの機能構成>
図21は、第5実施形態に係る色評価システムの機能構成を示すブロック図である。本実施形態の色評価システムは、撮像制御装置1と色評価装置3を有し、撮像制御装置1は、撮像画像データ取得部201、形状データ生成部202、撮像制御部2103、基準板撮像画像データ保持部2104を有する。また、色評価装置3は、色評価部2105、評価結果表示部302を有する。撮像データ取得部201、形状データ生成部202、および評価結果表示部302は、第1実施形態における各部と同じであるためそれらの説明を省略する。
【0098】
撮像制御部2103は、物体4および基準板7の形状データに基づいて撮像装置2を制御して基準板7の撮像を行い、撮像画像データ取得部201を介して基準板7の撮像画像データを取得する。基準板撮像画像データ保持部2104は、この撮像した基準板7の画像データを保持する。色評価部2105は、撮像装置2で撮像された物体4の撮像画像データと、撮像制御部2103によって作成された、基準板撮像画像データ保持部2104が保持する基準板7の撮像画像データに基づいて、物体4の表面の色を評価する。
【0099】
<色評価システムにおける処理>
図22は、第5実施形態に係る色評価システムにおける処理を示すフローチャートである。S210、S220、S250の処理は第1実施形態のものと同じ処理であるため、それらの説明を省略する。
【0100】
S2130で、撮像制御部2103は、基準板7の色情報を取得する。具体的には、撮像制御部2103は、物体4および基準板7の形状データに基づき、物体4の評価領域の面の向きと基準板の面の向きとの差が所定の閾値未満となるまで撮像装置2に基準物体を撮像させる。撮像制御部2103は、面の向きの差が閾値未満となった場合に撮像装置2に撮像を止めさせ、面の向きの差が閾値未満となった場合の基準物体の撮像画像データ(色情報)を取得する。この撮像では、S210で撮像画像データを取得したときと同じ撮像条件下で撮像する。そして、基準板撮像画像データ保持部2104は、この撮像された基準板7の撮像画像データを保持する。S2130における処理の詳細は
図23にて後述する。
【0101】
S2140で、色評価部2105は、撮像装置2で撮像された物体4の撮像画像データと、撮像制御部2103で撮像装置2を制御して取得し、基準板撮像画像データ保持部2104が保持する基準板7の撮像画像データとに基づき、物体4の表面の色を評価する。S2140における処理の詳細は後述する。
【0102】
<S2130の処理:基準板の色情報を取得>
図23は、
図22に示すS2130の処理を示すフローチャートである。
【0103】
S2131において、撮像制御部2103は、形状データ生成部202によって導出した物体4の形状データを取得する。S232、S233の処理は第1実施形態のものと同じ処理であるためそれらの説明を省略する。
【0104】
次に、S2134において、撮像制御部2103は、S233で取得した基準板7の法線(nbx,nby,nbz)と、物体4の形状データとを比較し、法線間の差が閾値未満の場合はS2135に進み、閾値以上の場合はS232に進む。ここで、物体4の形状データは画素ごとにその法線を保持しているが、総ての画素の法線について、基準板7の法線(nbx,nby,nbz)との差を評価し、閾値未満となる画素が1画素以上ある場合にS2135に進む。
【0105】
先ずS2135で、撮像制御部2103は、撮像した基準板7の撮像画像データを基準板撮像画像データ保持部2104において保持する。
図24は、第5実施形態に係る基準板撮像画像データ保持部2104の例を示す図である。基準板撮像画像データ保持部2104は、撮像時の基準板7の法線(n
bx,n
by,n
bz)と撮像画像データ格納先の2つ組をテーブルとして保持している。
【0106】
S2136では、撮像制御部2103は、物体4における評価領域の全領域に対して法線差が閾値未満となる基準板7が基準板撮像画像データ保持部において保持されているかを判定する。そして、保持されている場合は処理を終了、保持されていない場合はS232に戻りそれ以降の処理を繰り返す。
【0107】
<S2140の処理>
以下において、色評価部2105は、物体4の撮像画像データと物体4の形状データと、基準板撮像画像データ保持部2104が保持する基準板7の撮像画像データとに基づいて、物体4の表面の色を評価する。具体的には、物体4の全画素のそれぞれに対して、物体4の面の法線と、角度差が閾値T未満となる法線を持つ基準板7の撮像画像データを基準板撮像画像データ保持部2104から取得する。そして、走査画素位置における色情報と基準板7の撮像画像データの色情報に基づいて色の評価値を算出する。色の評価値は、第1実施形態におけるS240と同様の処理によって算出する。
【0108】
以上説明したように、本実施形態に係る撮像制御装置は、物体の全領域に対して、物体と同じ面の向きとなる基準板の撮像を行う。これにより、物体の指定した位置のみではなく、全領域において、幾何条件を考慮した色評価を行うことができる。
【0109】
[第6実施形態]
第1実施形態、第2実施形態、第3実施形態、第4実施形態、および第5実施形態では、物体4と基準板7とを別々に撮像することによる物体4の色評価を行った。これに対し、第6実施形態は、物体4の近傍では照明条件がほぼ同一とみなし、物体4と基準板7とを同じ画角内に設置して撮像する形態に関するものである。以下、本実施形態が、第1実施形態、第2実施形態、第3実施形態、第4実施形態、および第5実施形態とで異なる部分を主に説明する。
【0110】
<色評価システムの機能構成>
図25は、第6実施形態に係る色評価システムの機能構成を示すブロック図である。本実施形態の色評価システムは、撮像制御装置1と色評価装置3を有し、撮像制御装置1は、撮像画像データ取得部2501、形状データ生成部2502、撮像制御部2503を有し、色評価装置3は色評価部301及び評価結果表示部302を有する。
【0111】
撮像画像データ取得部2501は、色評価の対象となる物体4に対し色評価の基準となる基準板7を近傍に配置し、撮像装置2でそれら物体4を撮像して得られた撮像画像データを取得する。形状データ生成部2502は、撮像画像データ取得2501で取得した物体4及び基準板7を撮像して得られた撮像画像データに基づいて、物体4の三次元形状を表す形状データを算出する。撮像制御部2503は、物体4および基準板7の形状データに基づいて撮像装置2を制御し、撮像画像データ取得部201を介して基準板7の撮像画像データを取得する。
【0112】
色評価部301および評価結果表示部302は第1実施形態と同様であるため説明を省略する。
【0113】
<色評価システムにおける処理>
図26は、第6実施形態に係る色評価システムで実行される処理を示すフローチャートである。
【0114】
最初にS2510で、撮像画像データ取得部2501は、撮像装置2により、物体4と近傍に配置された基準板7を同じ画角内で撮像して得られた撮像データを取得する。
次にS2520で、形状データ生成部2502は、撮像画像データ取得部2501で取得した撮像画像データに対して、物体4および基準板7のそれぞれに対応する画像領域を指定する。S2520における処理の詳細は
図27、
図28を用いて後述する。
S2530で、形状データ生成部2502は、S2520で指定された物体4に対応する画像領域内におけるマーカーに基づいて物体4の形状データを生成する。形状データの生成は第1実施形態のS220と同様であるため説明を省略する。
【0115】
次にS2540で、撮像制御部2503は、撮像装置2を制御し、その撮像で得られた撮像画像データから形状データ生成部2502によって生成された基準板7の形状データを取得する。そして撮像制御部2503は、物体4および基準板7の形状データに基づいて、物体4の色評価を行いたい位置と面の向きが一致するまで撮像装置2を制御して物体4の近傍にある基準板7を撮像する。具体的にはS2520において、形状データ生成部2502は指定された物体4の画像領域以外におけるマーカーに基づいて基準板7の形状データを算出する。また、撮像制御部2503は、物体4の色評価位置の法線と基準板7の法線の差が閾値以下である場合に撮像装置2により撮像を行う。形状データの算出や撮像装置2の制御方法については第1実施形態のS230と同様であるため説明を省略する。
【0116】
S310及びS320は第1実施形態と同様であるため説明を省略する。
【0117】
<S2520の処理:形状データを作成するために用いる画像領域の指定>
S2520で、形状データ生成部2502は、撮像画像データ取得部2501で取得した撮像データに対して、物体4に対応する画像領域を指定する。
図27は、第6実施形態に係る物体4及び基準板を7近傍に配置して撮像する様子を示す。色評価の対象となる物体4及び基準板7が近傍に配置され、それぞれにマーカー6が貼り付けられている。マーカー6はパターン領域41と評価領域42とが設けられており、評価領域42によって物体4の表面の色評価を行う。
図27の物体配置で撮像して得られた撮像画像には物体4と基準板7を含むため、物体4の形状データ生成に用いる物体4に対応するマーカーの領域指定が必要となる。
図28に示すのは、S2510で撮像画像データ取得部2501が取得した撮像画像データに対して、物体4の三次元形状を算出するための画像領域を指定するUI例である。表示されている撮像画像に対し、物体4のマーカー領域2801を指定し、物体4の三次元形状算出に用いる領域とする。同様に、基準板7についても基準板7に対応するマーカーの領域指定を行う。
【0118】
以上説明したように、本実施形態における撮像制御装置1は、物体4の近傍に配置した基準板7の向きに基づいて物体4の色の評価を行う。これにより、色評価の度に物体4と基準板7との入れ替えを行う必要がなくなり、基準板7を物体4の近傍に配置する単純な撮像構成で色評価を行える。
【0119】
[変形例]
上述した実施形態においては、マーカーが貼り付けられた物体4と基準板7の少なくとも一方の撮像画像を用いて形状データを取得する例を説明したが、どちらもCADデータから形状データを取得するようにしてもよい。この場合の構成は、
図10、13に示す構成から撮像画像から形状データを生成するための形状データ生成部202を省き、物体4および基準板7の形状データがパターンマッチング部1002から出力される構成となる。
【0120】
また、上述した実施形態においては、物体と基準板の幾何条件を考慮した色評価システムないし色評価装置について説明したが、物体と基準板の幾何条件を合わせた見えの評価が必要となる場合にも上述した実施形態を適用することができる。例えば、基準板と比較した物体のテクスチャ評価など、色評価装置をテクスチャ評価装置に置き換えても良い。ここでは、これらの評価装置を見えの評価装置という。
【0121】
また、上述した実施形態においては物体4と基準板7の撮像条件として、同じ空間における照明を利用することを想定しているが、他の部屋に同一の照明を設定し、物体4と基準板7を別々の部屋で撮像しても良い。その場合、空間内における物体4と撮像装置2の配置を同一条件にし、あらかじめ撮像装置間の色合わせを行っておけばよい。
また、上述した実施形態における撮像制御部は、物体4の評価領域の面の向きと基準板の面の向きとの差が所定の閾値未満となった場合に撮像装置2に撮像を止めさせたが、面の向きの差が所定の閾値未満となっても撮像を停止しなくてもよい。この場合、面の向きの差が閾値未満となった場合の基準物体の色情報が取得できたことをユーザに通知するために、ディスプレイ15に表示を行ってもよい。
【0122】
また、第6実施形態において、物体4の形状算出を行う領域をユーザから指定したが、物体4と基準板7のマーカーに異なる色や形状を用いることにより、自動で物体と基準板7の区別を行えるようにしてもよい。
【0123】
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムをネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0124】
また、上述した各処理部のうち、形状データ生成部202、色評価部301等の処理については、その代わりとして、機械学習された学習済みモデルを代わりに用いて処理しても良い。その場合には、例えば、その処理部への入力データと出力データとの組合せを学習データとして複数個準備し、それらから機械学習によって知識を獲得し、獲得した知識に基づいて入力データに対する出力データを結果として出力する学習済みモデルを生成する。学習済みモデルは、例えばニューラルネットワークモデルで構成可能である。そして、その学習済みモデルは、上記各部と同等の処理をするためのプログラムとして、CPUあるいはGPUなどと協働で動作することにより、前記処理部の処理を行う。なお、上記学習済みモデルは、必要に応じて一定の処理後に更新しても良い。
【0125】
例えば、形状データ生成部202の場合、その入力は色評価の対象となる物体4の撮像画像データであり、出力は形状データである。機械学習では、入力データとしての物体4の撮像画像データにおける複数の評価領域の法線の分布に対する、実際の物体の形状(例えばCADデータによる形状)を教師データとして用いることができる。また、色評価部301の場合、入力は物体4の撮像画像データにおける色情報と、物体の法線との差が所定閾値未満の法線を持つ基準板7の撮像画像データにおける色情報であり、出力は色評価結果、例えば色差である。この場合、機械学習では、物体4の撮像画像データにおける色情報と基準板7の撮像画像データにおける色情報に対して、実際に測定される色差を教師データとして用いることができる。
【符号の説明】
【0126】
1 撮像制御装置
201 撮像画像データ取得部
202 形状データ生成部
203 撮像制御部
1303 撮像制御部
1703 撮像制御部
2103 撮像制御部
2501 撮像画像データ取得部
2502 形状データ生成部
2503 撮像制御部