(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-09-26
(54)【発明の名称】候補画像と参照画像とのマッチング方法
(51)【国際特許分類】
G06T 7/33 20170101AFI20240918BHJP
G06T 7/70 20170101ALI20240918BHJP
【FI】
G06T7/33
G06T7/70 A
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024513743
(86)(22)【出願日】2022-08-31
(85)【翻訳文提出日】2024-04-12
(86)【国際出願番号】 EP2022074254
(87)【国際公開番号】W WO2023031305
(87)【国際公開日】2023-03-09
(32)【優先日】2021-09-01
(33)【優先権主張国・地域又は機関】FR
(81)【指定国・地域】
(71)【出願人】
【識別番号】518184498
【氏名又は名称】ケルクエスト
(74)【代理人】
【識別番号】110001173
【氏名又は名称】弁理士法人川口國際特許事務所
(72)【発明者】
【氏名】ブータン,ヤン
(72)【発明者】
【氏名】ロセ,ガエル
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096EA03
5L096EA15
5L096EA16
5L096FA06
5L096FA09
5L096FA34
5L096FA52
5L096FA59
5L096FA67
5L096FA69
5L096GA32
5L096GA40
5L096GA51
5L096JA03
5L096MA07
(57)【要約】
候補画像(Ican)の少なくとも一部を少なくとも1つの参照画像と相関させる方法であって、
a)少なくとも、リレーショナル記述子(Desc1、Desc2、Desc3、...、DescN)の番号付きリスト、画像に適用してこれらの画像の記述子を特定するための少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリ(R)を作成するステップと、
b)各参照画像について、参照画像内の、ステップa)で作成されたリレーショナルレポジトリと両立するリレーショナルレポジトリからのリレーショナル記述子と類似する参照画像の記述子の、参照注目点と呼ばれる位置を含む参照リスト(L1、L2、...、Lk)であって、この両立するリレーショナルレポジトリの順序に基づいて番号付けされる参照リストを作成するステップと、
c)候補画像において、ステップa)で作成されたリレーショナルレポジトリの各記述子計算モードに沿って計算された候補画像の記述子を特定し、候補画像内のこれらの記述子の各々の位置を特定するステップと、
d)候補画像の各記述子とステップa)で作成されたリレーショナルレポジトリの各リレーショナル記述子との間の、ステップa)で作成されたリレーショナルレポジトリの特定モードに沿って特定される類似度を特定するステップと、
e)候補画像内の、ステップa)で作成されたリレーショナルレポジトリのリレーショナル記述子との最も高い類似性を示す候補画像の記述子の、候補注目点と呼ばれる位置を含む候補リストであって、このリレーショナルレポジトリの順序に基づいて番号付けされる候補リストを特定するステップと、
f)候補リストを各参照リストに関して、候補及び参照リストの順序に基づいて処理するステップと、
を含む方法。
【特許請求の範囲】
【請求項1】
候補画像(Ican)の少なくとも一部を少なくとも1つの参照画像(
【数1】
)と相関させる方法であって、
a)少なくとも、リレーショナル記述子(Desc1、Desc2、Desc3、...、DescN)の番号付きリスト、前記候補画像に適用してこの候補画像の記述子を特定するための少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリ(R)を作成するステップと、
b)各参照画像(
【数2】
)について、前記参照画像(
【数3】
)内の、前記リレーショナルレポジトリ(R)と両立するリレーショナルレポジトリからのリレーショナル記述子(Desc1’、Desc2’、Desc3’、...、DescN’)と類似する前記参照画像の記述子の、参照注目点と呼ばれる位置を含む参照リスト(L1、L2、...、L5、...、Lk)であって、この両立するリレーショナルレポジトリの順序(1、2、3、...、N’)に基づいて番号付けされる参照リスト(L1、L2、...、L5、...、Lk)を作成するステップと、
c)前記候補画像(Ican)において、ステップa)で作成された前記リレーショナルレポジトリ(R)の各記述子計算モードに沿って計算された前記候補画像の記述子を特定し、前記候補画像(Ican)内のこれらの記述子の各々の位置を特定するステップと、
d)前記候補画像(Ican)の各記述子とステップa)で作成された前記リレーショナルレポジトリ(R)の各リレーショナル記述子(Desc1、Desc2、Desc3、...、DescN)との間の、ステップa)で作成された前記リレーショナルレポジトリ(R)の前記特定モードに沿って特定される類似度を特定するステップと、
e)前記候補画像(Ican)内の、ステップa)で作成された前記リレーショナルレポジトリ(R)の前記リレーショナル記述子(Desc1、Desc2、Desc3、...、DescN)との最も高い類似性を示す前記候補画像の前記記述子の、候補注目点と呼ばれる位置を含む候補リスト(Lc)であって、このリレーショナルレポジトリ(R)の前記順序(1、2、3、...、N)に基づいて番号付けされる候補リスト(Lc)を特定するステップと、
f)前記候補リスト(Lc)を各参照リスト(L1、L2、...、L5、...、Lk)に関して、前記候補及び参照リストの順序に基づいて処理するステップと、
を含む相関方法。
【請求項2】
ステップb)で作成される各参照リスト(L1、L2、...、L5、...、Lk)は、ステップa)で作成された前記リレーショナルレポジトリ(R)と両立する同一の1つのリレーショナルレポジトリに基づいて事前に確立されている、請求項1に記載の相関方法。
【請求項3】
ステップa)で作成された前記リレーショナルレポジトリ(R)は各参照リスト(L1、L2、...、L5、...、Lk)を確立するために使用された前記リレーショナルレポジトリと同じである、請求項2に記載の相関方法。
【請求項4】
ステップf)の前記処理は、前記候補リスト(Lc)をコンピュータ又は自動操作に使用可能な形態、好ましくは対応する前記参照リスト(L1、L2、...、L5、...、Lk)のそれと同様の形態で登録することを含む、請求項1~3の何れか1項に記載の相関方法。
【請求項5】
ステップf)の前記処理は、前記候補リストと各参照リストとの間の相同の注目点の存在を特定するステップを含む、請求項1~4の何れか1項に記載の相関方法。
【請求項6】
ステップf)の前記処理は、各参照リスト(L1、L2、...、L5、...、Lk)内の前記参照注目点及び前記候補注目点の統計解析を含む、請求項1~5の何れか1項に記載の相関方法。
【請求項7】
前記注目点はm個の成分を持つ座標により定義され、前記統計解析は、各々が前記注目点の同一のランクの前記座標又は座標グループにより形成される集合について実行される、請求項6に記載の相関方法。
【請求項8】
各々が前記候補注目点の同一のランクの前記座標又は座標グループにより形成される前記集合は、各々が前記参照注目点の同一のランクの前記座標又は座標グループにより形成される前記集合に関する類似性基準に沿って分類される、請求項7に記載の相関方法。
【請求項9】
ステップf)の前記処理は、前記候補リスト(Lc)の前記候補注目点を各参照リスト(L1、L2、...、L5、...、Lk)の中の前記相同の参照注目点とマッチさせることを含む幾何解析を含む、請求項5~8の何れか1項に記載の相関方法。
【請求項10】
前記マッチングの後に、前記候補リスト(Lc)内の前記注目点を定義する前記座標を各参照リスト(L1、L2、...、L5、...、Lk)内の前記相同の注目点を定義する前記座標に関連付ける少なくとも1つの幾何変換を特定することが続く、請求項9に記載の相関方法。
【請求項11】
前記幾何変換は、前記幾何変換のうちのどれが最善かを選択するように、事前に確立された品質基準に沿って分類される、請求項10に記載の相関方法。
【請求項12】
ステップf)で求められる各幾何変換は、前記候補リストと前記参照リストとの間の直接幾何変換である、請求項10又は11に記載の相関方法。
【請求項13】
求められる各幾何変換は、前記候補リスト(Lc)内の前記座標と前記参照リスト(L1、L2、...、L5、...、Lk)内の前記座標との間の、前記候補画像とも各参照画像とも異なる何れかの中間画像における、ステップa)で作成された前記リレーショナルレポジトリ(R)と両立するリレーショナルレポジトリからの計算モードに沿って特定された、この両立可能なリレーショナルレポジトリの前記リレーショナル記述子と類似する前記中間画像の記述子の位置の座標を含む少なくとも1つの中間リストを介した幾何変換の連続の結果である、請求項10又は11に記載の相関方法。
【請求項14】
前記候補画像(Ican)と対応する前記参照画像(
【数4】
)との相互のレジストレーションを行うために、特定された前記最善の幾何変換を適用するようになされる、請求項11~13の何れか1項に記載の相関方法。
【請求項15】
前記候補画像(Ican)は所定のクラスに属することを特定するステップを含む、請求項8又は10に記載の相関方法。
【請求項16】
前記候補画像(Ican)のユニタリ認識のステップを含む、請求項15に記載の相関方法。
【請求項17】
前記候補画像(Ican)の前記ユニタリ認識のステップは、他の参照画像(
【数5】
)及び/又は他のリレーショナルレポジトリ(R)でステップa)~f)を繰り返すことを含む、請求項16に記載の相関方法。
【請求項18】
ステップa)~f)の各イテレーションは、前記候補画像(Ican)の当初相関させられた部分の総表面積と比較して縮小された表面積を有する前記候補画像(Ican)の注目領域に対して実行される、請求項17に記載の相関方法。
【請求項19】
各参照画像(
【数6】
)は、有形被写体の同一のクラスに属する少なくとも2つの異なる有形被写体を表す構成画像である、請求項15~18の何れか1項に記載の相関方法。
【請求項20】
前記リレーショナルレポジトリ(R)又は前記両立するリレーショナルレポジトリの前記番号付きリストに含まれる前記リレーショナル記述子((Desc1、Desc2、Desc3、...、DescN)、(Desc1’、Desc2’、Desc3’、...、DescN’))は少なくとも1つの共通の特徴を有する記述子のサブセットを形成するようにカテゴリによりグループ分けされる、請求項1~19の何れか1項に記載の相関方法。
【請求項21】
前記リレーショナルレポジトリ(R)又は前記両立するリレーショナルレポジトリのリレーショナル記述子((Desc1、Desc2、Desc3、...、DescN)、(Desc1’、Desc2’、Desc3’、...、DescN’))の前記番号付きリストは複雑なレポジトリ画像から生じる、請求項1~20の何れか1項に記載の相関方法。
【請求項22】
前記リレーショナルレポジトリ(R)又は前記両立するリレーショナルレポジトリのリレーショナル記述子((Desc1、Desc2、Desc3、...、DescN)、(Desc1’、Desc2’、Desc3’、...、DescN’))の前記番号付きリストは、ステップb)で作成された前記参照リスト(L1、L2、...、L5、...、Lk)に基づいて、前記参照画像(
【数7】
)の前記記述子の各々に対応する前記注目点の分布が参照画像(
【数8】
)ごとにできるだけ離れるように最適化される、請求項1~21の何れか1項に記載の相関方法。
【請求項23】
前記リレーショナルレポジトリ(R)又は前記両立するリレーショナルレポジトリのリレーショナル記述子((Desc1、Desc2、Desc3、...、DescN)、(Desc1’、Desc2’、Desc3’、...、DescN’))の前記番号付きリストは、ステップb)で作成された前記参照リスト(L1、L2、...、L5、...、Lk)に基づいて、前記参照画像の前記記述子の1つに対応する各注目点が各参照画像(
【数9】
)の中で局所的に分布するように最適化される、請求項1~22の何れか1項に記載の相関方法。
【請求項24】
候補画像(Ican)は複数の参照画像(
【数10】
)と相関させられることを特徴とする、請求項1~23の何れか1項に記載の方法。
【請求項25】
請求項15~19の何れか1項に記載の相関方法の、デジタルコンテンツのデジタル集合を確立することを目的として経路上の各種の要素を認識するための使用であって、前記参照画像は前記経路上で認識されることになる前記要素に基づいて選択される使用。
【請求項26】
前記要素の前記認識の前に、各要素に関連付けられる前記デジタルコンテンツをメモリに記録するようになされる、請求項25に記載の使用。
【請求項27】
前記要素の前記認識の後に、前記要素のオーナシップへのアクセス及び/若しくは移転、並びに/又は暗号トークンの作成、並びに/又は前記要素に関連付けられる暗号トークンへのアクセスをメモリ又はレジスタに記録するようになされる、請求項25又は26に記載の使用。
【請求項28】
前記要素の前記認識の前に、ユーザ及び/又は前記候補画像の生成に使用された機器を認識するステップが行われるようになされる、請求項25~27の何れか1項に記載の使用。
【請求項29】
参照画像(
【数11】
)から参照リスト(L1、L2、...、L5、...、Lk)を作成する方法であって、
- 少なくとも、リレーショナル記述子(Desc1’、Desc2’、Desc3’、...、DescN’)の番号付きリスト、前記参照画像(
【数12】
)に適用してこの画像の記述子を特定する少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリを作成するステップと、
- 前記リレーショナルレポジトリの各記述子計算モードに沿って計算された、前記参照画像の記述子を特定し、前記参照画像におけるこれらの記述子の各々の位置を特定するステップと、
- 前記リレーショナルレポジトリの前記特定モードに沿って特定された、前記参照画像の各記述子と前記リレーショナルレポジトリの各リレーショナル記述子との間の類似度を特定するステップと、
- 前記参照画像(
【数13】
)において、対応する前記リレーショナル記述子(Desc1’、Desc2’、Desc3’、...、DescN’)との最も高い類似性を示し、前記リレーショナルレポジトリの順序に基づいて番号付けされる前記参照画像の各記述子の、参照注目点と呼ばれる位置を含む参照リストを特定するステップと、
を含む方法。
【請求項30】
参照リストの集合が、請求項29の前記特定ステップを相互に両立可能なリレーショナルレポジトリの作成に基づいて繰り返すことによって作成される、請求項29に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の相関に関し、より詳しくは、少なくとも1つの参照画像と少なくとも一部の候補画像の、それをこの参照画像と比較すること、又は突き合わせることを目的とした相関に関する。本発明は、より詳しくは、画像又は点レジストレーションの技術分野に関し、有形対象物(例えば物体)の、特に有形対象物が所定の有形対象物の分類に属するか否かを評価するための認識に関する。実践において、本発明は、候補画像の少なくとも一部を少なくとも1つの参照画像と相関させる方法に関する。本発明はまた、複数の参照画像から参照リストセットを、特に本発明による相関方法を実行することを目的として作成する方法にも関する。
【背景技術】
【0002】
各種の画像レジストレーション方法が知られており、これらは比較可能な性質の2つの画像を直接比較して、これらを相互により近付けるか、さらにはそれらを重ね合わせる。これらの広く普及しているレジストレーション方法のうちの幾つかは、比較対象の2つの画像の中で、注目点及びそれに関連付けられる局所記述子を直接且つ個別に特定して、前記局所記述子を連続的にマッチさせるように試み、したがって画像間の相同の注目点。最後に、これら2つの画像をリンクさせる最適な幾何変換があるか否かを探し、適用可能であればそれを2つのうちの一方に適用して、画像同士の有効なレジストレーションを行う。
【0003】
画像解析及び、有形被写体の画像の要素の値の、類似の有形被写体の(同一、又は同じモデルの)画像のそれらとの前記画像間の一致局所属性(テクスチャ、色等)の全体分布に基づく直接比較に基づく幾つかの物体認識方法もまた知られている。
【0004】
それゆえ、これらの既存の方法はまず、画像の各々を適切に説明する記述子を識別し、その後、各画像内で、これらの記述子に対応する注目点を体系的且つ個別に計算する。その結果、記述子と注目点をマッチさせる特定の追加のステップが必要となり、これは計算の点で負担が大きく、時間と資源の点で不利である。
【0005】
これらの既知のレジストレーション及び認識方法にはしたがって、その実装に関して、特に効率、計算速度、具体的なケースの適応性の点での限界が見られる。さらに、これらの既知の方法は(所望の目的に対して)適切な注目点を適切でない注目点から区別することにおいて優れておらず、すなわちこれらの既知の方法は、その信号対ノイズ比が高い。実際、これらの方法は一般に低速であり、計算資源の点であまり経済的でなく、これは、それらが異なる画像集合を相関させること、これらのレジストレーションを行うこと、及び/又はその認識、又は所定の分類に応じたその分類を目的としてそれらを比較することにおいてあまり適当ではないことを意味する。これらの方法は、精度の高い認識パフォーマンスが期待される時に直ちに、スマートフォン等の移動体端末でリアルタイムで実行することが依然として非常に難しい。
【発明の概要】
【発明が解決しようとする課題】
【0006】
したがって、画像間の相関を容易にし、そのパフォーマンスを向上させて、新たな用途を可能にすることが実際に求められている。本発明は、この目的の実現を提案する。
【課題を解決するための手段】
【0007】
本発明はそれゆえ、候補画像の少なくとも一部を少なくとも1つの参照画像と相関させる方法に関し、これは、
a)少なくとも、リレーショナル記述子の番号付きリスト、画像に適用してこれらの画像の記述子を特定するための少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリを作成するステップと、
b)各参照画像について、参照画像内の、ステップa)で作成されたものと両立するリレーショナルレポジトリからのリレーショナル記述子と類似する参照画像の記述子の、注目点と呼ばれる位置を含む参照リストであって、この両立するリレーショナルレポジトリの順序に基づいて番号付けされる参照リストを作成するステップと、
c)候補画像において、ステップa)で作成されたリレーショナルレポジトリの各記述子計算モードに沿って計算された候補画像の記述子を特定し、候補画像内のこれらの記述子の各々の位置を特定するステップと、
d)候補画像の各記述子とリレーショナルレポジトリの各リレーショナル記述子との間の、ステップa)で作成されたリレーショナルレポジトリの特定モードに沿って特定される類似度を特定するステップと、
e)候補画像内の、ステップa)で作成されたリレーショナルレポジトリのリレーショナル記述子と最も高い類似性を示す候補画像の記述子の、候補注目点と呼ばれる位置を含む候補リストであって、このリレーショナルレポジトリの順序に基づいて番号付けされる候補リストを特定するステップと、
f)候補リストを各参照リストに関して、候補及び参照リストの順序に基づいて処理するステップと、
を含む。
【0008】
本発明の意味において、ステップは必ずしもこれらが記載された逐次的順序で実行されなくてもよく、これらは特に反対の順序で、又は同時に行われてもよい点に留意すべきである。それとは逆に、少なくとも各画像記述子について、ステップc)はステップd)の前に実行され、ステップd)はステップe)の前に実行されるべきであることが重要であり、これらのステップは各種の画像記述子と同時に、及び並行して実行可能である。しかしながら、ステップc)~e)は必ずしも連続するとはかぎらず、なぜなら、中間ステップ、例えばステップb)が勿論これらのステップc)~e)の間に介在し得るからである。最後に、ステップf)は必然的に、ステップe)で提供される候補リストの作成及びステップb)で提供される少なくとも1つの参照リストの作成の後となる。
【0009】
本発明の意味において、「画像」とは、候補画像か参照画像かを問わず、その用語の一般的意味におけるあらゆる種類の画像を意味し、写真に匹敵する画像のみではないと理解されたい。換言すれば、画像は、可視光放射照射の対象となる認証領域から得られる光学画像の唯一の意味に限定されず、それとは逆に、何れの種類の物理的作用により得られてもよく、その中では特に、超音波、遠赤外線、テラヘルツ放射、X線又はガンマ線、X線又はレーザトモグラフィ、X線撮影、磁気共鳴が挙げられ得るが、このリストは限定的又は網羅的ではない。それゆえ、本発明の意味において、画像は例えば有形被写体の自然のシーンのあらゆる手段による刺激の結果の記録である。この記録はすると、自然画像と呼ばれてもよい。この記録は1次元とすることができ、これは例えば1つの信号の経時的な、若しくは線に沿った変動の記録に対応するか、又はセンサラインの値の記録に対応する。この記録はまた、写真の場合のように2次元とすることができ、これはハーフトーン、グレイスケール、又はカラーで記録され得る。本発明の意味において、「画像」とはしたがって、1D信号、2D若しくは3Dグレイスケール若しくはカラー画像、又はnD(n次元)信号、例えばハイパスペクトル若しくはRGB-D信号であり得る。本発明の意味において、「画像」は、1回の取得の結果であり得るか、ストリームから抽出され得る。それゆえ、本発明の範囲内で、「画像」はビデオストリームから抽出され得る。1つの実施モードでは、画像はデジタル形式で保存され得る。それに加えて、本発明による方法で実現される画像は、特に同一のシーン内の複数の有形被写体又は同一のパターンの繰返しを含む場合に、事前にセグメント化された画像であり得る。勿論、画像は必ずしも自然でなくてもよく、合成であり得、すなわちこれは人間のオペレータの支援の有無を問わず、コンピュータ処理により生成され得る。本発明の範囲内で、自然画像及び合成画像は共通の特徴を有し、それによってこれらは同一の処理の一部として処理されることを目的とした同一のデジタル又はアナログ記録フォーマットである。画像を改良するための光学及び/又はデジタルプリプロセス動作もそれらに適用して、例えばよりよい信号対ノイズ比を実現することが可能である。それゆえ、例えば、より良い観察スケールを選択するための光学ズーム(可変焦点距離を持つデバイス)及び/若しくはデジタルズーム、合焦不良若しくは動きを排除するための画像デコンボリューション、中間周波数の詳細を選択する/優先するためのバンドパスフィルタ処理、又はコントラストを強調するためのコントラスト増強を適用することが可能である。
【0010】
画像は、それが方法の実行前にわかっている場合に「参照」画像と呼ばれる。参照画像は好ましくは、方法が実行される前に撮られたスナップショットから得られる。参照画像は合成画像、すなわち、例えば有形被写体若しくは有形シーンから構成された画像又は、純粋なコンピュータ合成プロセスから得られた画像、又はこれら2つの実施形態を組み合わせた画像でもあり得る。参照画像は、本発明による方法の実行の中で優先的に選択されるパラメータの一部を形成する。参照画像は信頼できる第三者により記録され、又はさらには認証される。
【0011】
画像は、それが参照画像とのその局所相関の度合いを問うために作成される場合に「候補」画像と呼ばれる。候補画像は好ましくは、それが有形被写体の、又は1つ以上の有形被写体を含むシーンの刺激から得られる信号の取得の結果であるという点で自然画像である。候補画像は一般に、ただしこれに限定されないが、本発明による方法が実行される直前に行われた撮影から得られる。
【0012】
好ましくは、候補画像とそれが(本発明による方法によって)相関させられる1つ又は複数の参照画像は、同一の物理的作用(例えば、画像が全体に拡散する可視光における有形被写体の写真から得られた場合の可視光放射を受けること)から得られる。
【0013】
本発明の意味において、「記述子」は、画像の特定の局所特性を要約するためのコンピュータ又はデジタルオブジェクト、データ構造である。それゆえ、画像に適用される場合、記述子は画像内のその位置に、すなわち記述子により定義される、又は記述子に対応する特徴を有する画像の位置又は領域に関連付けられる。本発明の範囲内で、この位置はまた「位置」、特徴点、又は着目点とも呼ばれる。記述子は異なる性質及び/又は形態であり得る。写真又は2次元カラー画像のシーンの中の画像の場合、記述子は、例えば角部、垂直若しくは水平線、又は文字等の幾何学的性質、例えば輝度勾配の極大値若しくは局所コントラスト等の比色定量的性質、又は分光的性質のものであり得、このリストは網羅的ではない。記述子はまた、性質が変化してもよく、すなわち機械学習プロセスの結果であるか、又は特定の内容で本発明の方法を実行するために構成され得る。記述子は、行列(ベクトル、パッチ等)又はグラフ(プレーナ若しくはそれ以外、多進木又はそれ以外等)、又は他のあらゆるデータ構造、例えば値若しくは数であり得る。
【0014】
本発明の範囲内で、記述子はまた、画像の構成データに適用されると、記述子に対応するデータ構造を通じて前記画像内の関係する所定の特徴を説明することを可能にする計算モードの結果も指す。記述子計算モードの例は、HARRIS、SIFT、SURF、ORB、KAZE、RGB、VGG-16であり、これによって例えば角部、各種の特徴を有する不変要素、及び色を探すことが可能となる。したがって、記述子により、画像の所与の点とその隣接部を、1つ以上の選択又は学習された特徴に沿って、例えば局所テクスチャ若しくはコントラスト、ある形状、色、その強度、若しくは色勾配の存在、画像のコンポーネントの勾配の向きの局所的分布、又は他の多くの特徴に基づいて分類することが可能となる。画像記述子計算モードは、画像の点に適用されると、それによって、記述子により表される局所的特徴が十分な程度に本来的に存在する何れの着目点も、すなわち実践においては、計算モードから得られた記述子の関連性の度合いが十分に高い点も抽出することが可能となる。着目点又は特徴点の集合は通常、画像の内容の本来的な表現を構成する。
【0015】
実践において、画像記述子計算モードにより、画像中の記述子の着目点に関連付けられる座標を、例えば2次元若しくは3次元空間、デカルト、極、又は円柱座標に関する選択された座標系で定義することも可能となる。
【0016】
本発明の意味において、「リレーショナルレポジトリ」とは、画像の相関を可能にする、少なくとも、
-「リレーショナル」記述子と呼ばれるものの番号付きリストと、
-番号付きリストの中の各リレーショナル記述子について、ある画像に適用されて、この画像の記述子を特定する少なくとも1つの計算モードと、前記リレーショナル記述子とこのリレーショナル記述子に関連付けられる画像記述子の各々との間の類似度を特定するためのモード
を含むコンピュータ又はデジタルオブジェクト集合を意味すると理解されたい。
【0017】
リレーショナルレポジトリは、本発明による方法の実行の演繹的に選択された(すなわち、上流の)パラメータの一部を形成する。
【0018】
ここでは2種類の記述子が使用され、すなわち、一方の、リレーショナル記述子に含まれるリストの中から選択され、番号付けされる「リレーショナル記述子」と、他方の、参照及び候補画像の、これらの画像の各々にそれぞれ適用される1つ以上の計算モードの結果として得られる「記述子」である。
【0019】
リレーショナル記述子は、その時々に明確に構成されるものか、候補及び参照画像とは異なる何れかの画像に適用された計算モードの結果の何れでもあり得る。リレーショナルレポジトリの番号付きリスト中のリレーショナル記述子は、異なる性質及び/又は形態であり得る。リレーショナル記述子は、何れの場合も、本発明による方法が実行される前にわかっている。
【0020】
参照又は候補画像の記述子は、それらとしては、リレーショナル記述子に関連付けられる1つ以上の計算モードの結果である。実践において、リレーショナルレポジトリのリレーショナル記述子に最も類似する記述子がこれらの計算結果から選択される。この選択により、対応する参照又は候補画像の中で、選択された記述子に関連付けられる着目点に対応する、「注目点」と呼ばれる位置の集合が識別されることになる。本発明の意味において、画像のある着目又は特徴点はしたがって、この画像記述について、記述子に関連付けられる1つ以上の所望の特徴がリレーショナル記述子のうちの1つに関連付けられる1つ以上の特徴との十分な類似度を有する場合に、この画像の「注目点」と呼ばれる。画像の同一の点は、本発明による方法の実行中に各種の記述子に関する注目点として複数回検出される可能性があり得る。それゆえ、本発明の意味において、参照画像の、又は候補画像の記述子はこれらのそれぞれの画像の注目点を検出する手段を構成し、この注目点は画像全体の内容を表すものとされるのではく、その座標により形成されるnテュープルを通じて、検討対象の候補画像を、リレーショナルレポジトリを介して参照画像と相関させるのに寄与する。該当する場合、このような注目点の検出は、複数のスケールで、各種の画像解像度で、及びカメラの姿勢、照明の変化、又は画像取得中のノイズ捕捉に関係なく不変的に実行され得る。
【0021】
それゆえ、リレーショナルレポジトリの番号付きリスト内の検討対象の何れのリレーショナル記述子についても、候補画像中の注目点は、この検討対象画像の中でこのようなリレーショナル記述子に関連付けられる計算モードを適用して、画像内の計算モードの適用点に応じて候補画像の記述子を特定することによって検出される。換言すれば、リレーショナルレポジトリの番号付きリストの中の各構成リレーショナル記述子について、画像中でこのリレーショナル記述子に関連付けられる計算モードを適用することにより、一方で、この画像がこの画像の、局所的且つロバストで、リレーショナル記述子のそれと類似する性質及び形態の少なくとも1つの記述子を含むか否かを特定すること、及び他方で、この記述子の位置を特定することが可能となる。勿論、画像がリレーショナル記述子に関連付けられる計算モードから得られる複数の記述子を有することは完全に想定可能であり、この場合、複数の注目点が検出される。
【0022】
少なくとも1つの記述子がリレーショナル記述子に関連付けられる計算モードから得られる場合、この記述子は「一時的」と言われる。すると、リレーショナル記述子と、計算により得られた各一時的記述子との相似性(類似性)は、一般に計算によって比較される。このために、本発明はリレーショナル及び一時的記述子間の類似度を特定できるようにする。好ましくは、記述子間の類似度は、比較された記述子が類似していると考えられるように、一定の最小閾値より大きいか、それと同等であるべきである。記述子が類似しているとき時のみ、その点は注目点として保持される。口語的に言えば、また簡潔にするために、リレーショナル記述子が解析画像中で注目点において「みつかった」、又は解析画像の中で注目点がこのリレーショナル記述子に「関連付けられる」と言われる。また、例えばこの類似度に沿って一時記述子を分類し、同一のリレーショナル記述子のためにそれらのうちの幾つかを保持することも可能であるが、この場合、選択された閾値程度より高い類似度を示すものだけが保持される。
【0023】
例えば、2つの記述子間の類似度を特定するための1つの考え得るモードは、各記述子を表すデータ構造間の距離を測定することである。この場合、類似度は測定された距離の値であり、類似度の測定値は選択された類似性計算、例えばハミング距離、マハラノビス距離、レーベンシュタイン距離、又はハウスドルフ距離の計算の性質に対応する。
【0024】
例えば、リレーショナル記述子が特定の赤グラデーションを説明する比色定量的性質の記述子である場合、候補画像に適用されることになる関連の計算モードはRGB計算モードとして選択され得る。この計算モードの結果、画像の少なくとも1つの点において、それ自体が特定の赤グラデーション値を伝えることになる一時的記述子が得られた場合、実際の赤グラデーション値同士を例えば差分法によって比較すべきであり、得られた結果を一定の閾値と比較して、記述子が類似しているか否かを特定すべきである。
【0025】
幾つかのリレーショナル記述子がある画像の中に関連する注目点がまったくない珍しいケースでは、リレーショナル及び一時的記述子間の(選択された閾値による)類似度が過剰に低い場合、又は選択された画像のある領域内の一時的記述子の関連性の度合いが過剰に低い場合、特別な処理を適用して、例えばリストの問題のランクに特定の状態を規定すること(decreeing)によって候補及び/又は参照リストを構成して比較できるようにしなければならない。口語的に言えば、また簡潔にするために、すると、解析画像中にリレーショナル記述子がみつからないと言われる。
【0026】
それゆえ、リレーショナルレポジトリの番号付きリスト中の各構成リレーショナル記述子について、前記リレーショナル記述子と検討対象の画像中の計算による一時的記述子の各々との間の真値に対応する類似度の測定値を適用することによって、これらの一時的記述子を相互に関して分類し、解析画像中の所望の類似度にしたがって、検討対象のリレーショナル記述子がみつかる1つ以上の注目点があれば、それを特定することが可能となる。
【0027】
候補画像及び各参照画像について得られた注目点はすると、それぞれ「候補」リスト又は「参照」リストと呼ばれるリストに保持される。換言すれば、ステップb)で作成された参照リストの各々とステップc)で特定された候補リストは、リレーショナルレポジトリのリレーショナル記述子を用いて得られる。新しい候補リストは一般に、本発明の意味において新しい候補画像が実装されるたびに生成される。
【0028】
実践において、したがって、参照リストの各々と候補リストは、対応する画像中の、リレーショナルレポジトリのリレーショナル記述子の各々がみつかる注目点の座標を含む。番号付きリストのリレーショナル記述子が画像の少なくとも1つにおいてみつからない場合、この画像の中にそれに関連付けられる注目点はなく、これは、対応するリスト内にそれに関連付けられる座標がないことを意味する。他方で、リレーショナル記述子が画像中の複数の注目点でみつかる場合、リストはこれらの複数の注目点の座標の各々を含む。好ましくは、あるリレーショナル記述子に関連付けられ得る注目点の数は必要に応じて、例えば1、2、3又は4以上に限定される。すると、それはリスト内に保持される問題のリレーショナル記述子との類似度が最も高い一時的記述子に関連付けられる注目点となる。
【0029】
したがって、本発明によれば、画像又は画像の部分を「相関させる」とは、各画像又は画像の一部の中で、所定の局所特徴による注目点の位置(これらは各リレーショナルレポジトリのリレーショナル記述子により与えられる)を識別し、記述子計算モードと、全てが各リレーショナルレポジトリを形成する記述子間の類似度の測定値を使用することと理解されたい。したがって、候補リストと参照リストの各々を相関させ、その結果、候補画像を参照画像の各々と相関させることを可能にするのは、リレーショナルレポジトリ(又は、リレーショナルレポジトリとあるものから別のものへと変化させるための関係の知識)である。本発明の意味において、画像のマッチングはそれゆえ、画像の特定の相関である。本発明の意味において、候補画像と参照画像との相関はしたがって、候補リストを特定し、それを参照リストと比較するステップの終了時に、リレーショナルレポジトリの番号付きリスト内のリレーショナル記述子に基づいて行われると考えられる。
【0030】
好ましくは、候補画像は複数の参照画像に連続的に又は並行して相関させられる。
【0031】
リレーショナルレポジトリのリストは、リスト内の各リレーショナル記述子の位置(又はランク)がわかっているという点で「番号付き」である。例えば、各リレーショナル記述子にリスト内のその位置に基づいて番号を割り当てることが可能である。
【0032】
各参照リストの、及び候補リストの順序は、リレーショナルレポジトリのリレーショナル記述子のリストの順序に基づいて確立される。これは、順序はこれらのリスト全部の間で異なり得るが、1つの順序から別の順序に変えるための関係がわかっていることを意味する。ここで好ましい1つの特定のケースは、各参照リストの、及び候補リストの順序がリレーショナルレポジトリのリレーショナル記述子のリストの順序に沿って確立される、すなわち順序の全てがラングごとに同じであるケースである。
【0033】
それゆえ、リレーショナル記述子のリストの順序は、候補画像を参照画像と相関させるために変化しないままであることが好ましい。リレーショナル記述子の同一の番号付きリストを使って2つの異なる画像を相関させることによって、暗に、2つのリストの各々において、これらの画像から得られる注目点の順序が同一となる(この順序は、リレーショナル記述子の前記番号付きリストによって直接又は間接に制約される)。この同じ、又は少なくとも既知の順序によって、後で説明するように、前記画像間の相同の注目点のペアリングが可能であることによる画像の相関又は、前記画像から得られるデータの相同クラスタの特定が容易になる。順序が「間接に制約される」と考えられるのは、例えば異なるが両立する2つのリレーショナルレポジトリが候補画像と参照画像の解析に使用され、それによって参照リストに関連付けられる順序と候補リストに関連付けられる順序は異なり得るが、1つの順序(例えば候補リストのそれ)を他の順序(例えば参照リストのそれ)に変えるための関係がわかっている場合である。この関係は特に、リレーショナルレポジトリが相互に両立可能であるために存在し、これは以下の説明から明らかとなるであろう。反対に、順序が「直接制約される」のは、例えば同一のリレーショナルレポジトリが各候補及び参照リストを確立するために使用される場合、又は異なるが両立する2つのリレーショナルレポジトリが使用さるが、これらのリレーショナルレポジトリ間の違いがそれらがそれぞれ含むリレーショナル記述子の順序に関係しない場合である。
【0034】
それゆえ、本発明による画像相関方法により、リレーショナルレポジトリのリスト内で番号付けされたリレーショナル記述子の選択により制約される参照リストと候補リストを特定することによって、これらの画像中の相同の注目点の高速連続ペアリングが可能となる。
【0035】
したがって、本発明は画像上で実行される他の何れのその後の処理動作よりも前に点及びデジタル画像を相関させるための新規の方式を提案する。この新規の方式により、多数の参照画像間の画像レジストレーション、物体認識、及びその分類に使用される既存の方法のパフォーマンスが向上する。
【0036】
本発明による方法では、特にリレーショナルレポジトリにより、相互につながりがなく、大きく異なる内容を含む異なる画像、例えば宝石製品を示す画像と景色や台所用品を示す画像を相関させることと、より似通った画像、例えば同一ブランドの製品の2つのモデルを相関させることの両方が可能となる。
【0037】
リレーショナルレポジトリの使用により、本発明の方法は高い計算速度を実現するのと同時に、必要な計算資源を減らすことができる。したがって、本発明による方法により、移動体端末の使用やビデオストリーム上を含み、リアルタイムでの演繹的レジストレーション、認識、及び分類タスクの実行が可能となる。
【0038】
本発明による方法によって、選択された実装に応じて資源を最適化することによって、例えば第一のイテレーションではリレーショナルレポジトリの一部を部分的に使用し、その後のシーケンスで前記リレーショナルレポジトリの全部又は他の部分を使用することによって極端な計算方法(例えば、大規模なブルートフォース、大量のデータに対する)が回避される。
【0039】
好ましくは、本発明による方法は、参照リストの計算と候補リストの計算を分離するように実行される。好ましくは、参照リストは実際、方法が候補画像に対して実行される前に、本発明により参照リストの集合を作成する方法である本発明の他の方法にしたがって作成される。換言すれば、好ましくは、参照画像は本発明による方法が実行される前にリレーショナルレポジトリの観点から解析されており、それによって対応する参照リストは本発明による方法が実行される前及び候補画像が解析される前にわかっている。それゆえ、本発明による相関方法のステップb)で、事前に確立された参照リストを呼び出すだけでよく、参照画像そのものを呼び出さなくてよい。これによって、過去に保存されたデータ、ここではリレーショナルレポジトリを使って計算された注目点の候補のn-テュープルから形成される参照リストの使用を優先させることによって、リアルタイムで扱われる情報の利用を限定することができる。これは、候補画像をこの参照画像と相関させるときに、この時点での計算の削減と短い応答時間を可能にすることによって、さらに時間を節約することにつながる。
【0040】
本発明による計算はしたがって、既知の方法の計算時間と比較して速い。この利点は、方法がビデオシーケンスからの連続画像を解析するために実行される場合、さらに顕著となる。
【0041】
本発明による相関方法の他の有利な特徴を以下に記す。
【0042】
本発明による方法は、好ましくは自律的に、又は参照画像及び候補画像に関して最適化された方法で選択されたリレーショナルレポジトリを使用する。この最適化は、自動的に、若しくは人間により、又はさらには両方の方式を組み合わせることにより(速度と精度は自動的部分、経験値と意味については人間の部分)実行され得る。
【0043】
リレーショナルレポジトリは、それに含まれるリレーショナル記述子の番号付きリストが候補画像又は参照画像の各々の事前解析を行わずに選択される場合に「自律的」と言われる。自律的リレーショナルレポジトリにより、2つの画像の相関とこれらの画像のそれぞれの内容を分離することが可能となる。リレーショナルレポジトリは、それが、参照及び候補画像がわかっていなくても、リレーショナル記述子であって、前記リレーショナル記述子に関連付けられる局所特徴を識別し、位置特定することを可能にするリレーショナル記述子を事前に定義する場合に「間接レポジトリ」と言われる。
【0044】
リレーショナルレポジトリは、それが参照画像間を、及び/又はある、若しくは予想される候補画像ファミリについて区別する適切な能力に沿って選択される場合に「最適化された」と言われる。リレーショナルレポジトリはそれゆえ、参照画像のポピュレーション又はさらには検討される候補画像の種類に関しても容易に変更又は最適化され得る。この最適化が可能であるのは、本発明によれば、リレーショナルレポジトリのリレーショナル記述子のリストが個別に取り出した各画像の全体的な情報内容の妥当な説明を行うことを目的としているのではなく、演繹的に(方法の実行の上流で)定義される特徴を、それぞれ最適化された方法で、各リレーショナル記述子によって位置特定すること、すなわち1つ以上の対応する注目点と、最終的にはこれらの注目点に関連付けられる番号付きの座標セットを特定することを目的としているからである。本発明による方法によれば、それゆえ、演繹的に選択されたリレーショナル記述子の性質を混ぜ合わせ、候補画像を認識する、又はさらにはこの画像を認証する能力、候補画像がある画像ファミリに属すると特定する能力、及び、さらに延長して、画像中に存在する有形被写体を認証し、及び/又はこの有形被写体が有形被写体のあるファミリ若しくはカテゴリに属することを特定し、さらにはこれらの様々なタスクを連続的に実行する能力を使用ケースに合わせて調整することが容易に可能となる。
【0045】
特に、リレーショナルレポジトリはあるタスクについて最適化され得る。これは、企図されるタスクが画像同士のレジストレーションか、画像若しくは画像中に現れる有形被写体の認識か、比較か、又は画像の分類であるかで異なり得る。
【0046】
リレーショナルレポジトリのリレーショナル記述子はまた、繰返し性及び安定性基準に沿って選択され得る。例えば、繰返し可能なリレーショナルレポジトリが複数回使用されてある画像に基づく番号付きリストが特定される場合、それによって得られるリストは毎回同じである。同様に、例えば、同一の安定なリレーショナルレポジトリが複数回使用されて、共通の点を有する複数の異なる画像に基づく番号付きリストが特定される場合、得られたリストから特定の類似性が現れる。
【0047】
1つの実施形態において、リレーショナルレポジトリは学習プロセスによって最適化される。この学習プロセスは、検討対象の使用ケースにおいて期待されるパフォーマンスを提供するために何れの適切な性質のものでもよく、例えば遺伝的アルゴリズム又はニューラルネットワークに基づく。この学習プロセスは、人間の支援の有無を問わず自動的に実行され得る。
【0048】
本発明による方法の1つの有利な特徴によれば、リレーショナルレポジトリのリレーショナル記述子の番号付きリストは少なくとも、ステップb)において作成された参照リストに基づいて最適化され、それによって各リレーショナル記述子に関連付けられるそれぞれの注目点の座標は参照画像によって異なる。換言すれば、番号付きリストは、参照画像ごとに異なる座標の注目点においてリレーショナル記述子がみつかるという点で、できるだけうまく参照画像を相互に区別することを可能にするリレーショナル記述子だけを保持するように最適化される。
【0049】
他の特徴によれば、リレーショナルレポジトリのリレーショナル記述子の番号付きリストは、ステップb)で作成された参照リストに基づいて最適化され、それによって参照画像中のリレーショナル記述子の各々に対応する注目点の分布は、参照画像ごとにできるだけ離れている。
【0050】
他の特徴によれば、リレーショナル記述子の番号付きリストは、ステップb)で作成された参照リストに基づいて最適化され、それによって参照画像中のリレーショナル記述子のうちの1つに関連付けられる各注目点は各参照画像中で局所的に分布する。実践において、これは、リレーショナル記述子が各々、参照画像中の1つのそれぞれの異なる注目点でみつかることを意味する。
【0051】
本発明による方法の1つの有利な特徴によれば、リレーショナルレポジトリのリレーショナル記述子の番号付きリストは少なくとも、ステップb)で作成された参照リストに基づいて最適化され、それによって各参照画像内の注目点が均等に分布する。「均等に分布」とは、様々な参照画像においてこれらの点がランダムに、比較的均一に分布することを意味すると理解されたい。
【0052】
本発明の意味において、好ましくは、第一のリレーショナルレポジトリが参照リストをある参照画像に基づいて確立するために使用され、第一とは異なる別のリレーショナルレポジトリが候補リストを候補画像に基づいて候補リストを確立するために使用されることが想定されるが、ただし、これらのリレーショナルレポジトリが相互に両立可能なままであり、それによって候補画像がある参照画像と相関させられる際に1つのリレーショナルレポジトリから他のリレーショナルレポジトリに変更することが可能となることが条件である。2つのリレーショナルレポジトリは、これらが、それぞれ同じベンチマーク画像と共に使用された後で、選択された類似性基準(又は選択された類似度測定値)に沿って同様の注目点リストを生じさせるときに、相互に両立可能であると考えられる。前述のように、この場合も、類似度の測定は、例えばリスト間の距離を(選択された計算モードを使って)計算すること及び、得られた値を選択された閾値と比較することと同等である。変形型として、2つのリレーショナルレポジトリは、一方で第一のリレーショナルレポジトリが注目点の第一及び第二のリストを第一及び第二の画像に基づいてそれぞれ特定するために使用され、第二のレポジトリが注目点の第三及び第四のリストを前記第一及び第二の画像に基づいてそれぞれ特定するために使用され、他方で、注目点の第一及び第二のリスト間に第一の関係があり、注目点の第三及び第四のリスト間に、選択された類似性基準に沿って、第一の関係に似た関係があるときにも、相互に両立可能であると考えられる。リスト間の関係は例えば、リストの統計解析及び/又は幾何学的解析から生じる。
【0053】
本発明の意味内で作成される2つのリレーショナルレポジトリ(一方は候補画像を解析し、他方は参照画像を解析する)は、相互に両立可能でありながら、例えば以下の点で異なる:
1/リレーショナル記述子の番号付きリストが両方のリレーショナルレポジトリにおいて同じであるため、計算モード及び/又は類似度の測定は少なくとも1つのリレーショナル記述子について異なり、類似度の測定値は計算モード及び前記リレーショナル記述子と両立可能なままである、又は
2/各リレーショナルレポジトリで使用されるリレーショナル記述子の番号付きリストは同じカーディナル値のものであり、リレーショナル記述子データ構造に関して、項ごとに、又は全体として非常に類似している(同じではない)、又は
3/各リレーショナルレポジトリの中で使用されるリレーショナル記述子の番号付きリストは同じカーディナル値のものであるが、リレーショナル記述子データ構造の観点から項ごとに大きく異なり、順序とランクはリスト同士で両立可能なままである、又は
4/各リレーショナルレポジトリの中で使用されるリレーショナル記述子の番号付きリストは異なるカーディナル値のものであるが、多数の共通のリレーショナル記述子(すなわち、ここでは同じもの)を含み、各リレーショナル記述子のランクは各リレーショナルレポジトリの中で分かっている。
【0054】
勿論、候補画像を解析するために使用されるリレーショナルレポジトリに関して(以上又は以下で)述べられる有利な特徴の全ては、参照画像を解析するために使用される1つ以上の両立可能なリレーショナルレポジトリにも適用される。
【0055】
異なるリレーショナルレポジトリが本発明の方法の中で実装される個々の画像について、これが参照画像か候補画像かを問わず使用されることも想定できるが、この場合、作成されるリレーショナルレポジトリのすべてが相互に両立可能であり、すなわちこれらがこの方法の使用を可能にする少なくとも1つの共通項を有することが条件となる。
【0056】
説明を明瞭にするために、発明者らは、実装の最も単純な一般的ケース、すなわち同一のリレーショナルレポジトリが全ての画像について実装されるケースに絞りたいと考えるが、読者には、上述の意味内での異なるリレーショナルレポジトリの作成の可能性も念頭に置いていただきたい。それゆえ、本発明による方法の1つの有利な特徴によれば、ステップb)で作成された各参照リストが、ステップa)で作成された、おそらくそれとは異なるリレーショナルレポジトリ(候補リストを確立するために使用される)と両立する同一の単独のリレーショナルレポジトリに基づいて事前に確立されていることも想定される。他方で、本発明による方法の他の有利な特徴によれば、ステップa)において作成されたリレーショナルレポジトリ(候補リストを確立するために使用される)が各参照リストを確立するために使用されるリレーショナルレポジトリと同じであることが想定される(これは、後述するケースである)。
【0057】
留意すべき点として、リレーショナルレポジトリは、リレーショナル記述子の番号付きリストに加えて、また、各リレーショナル記述に関して、一時的記述子のための選択された計算モード及びそれらの類似度の測定値に加えて、候補画像の中、おそらく各参照画像の中で各リレーショナル記述子がみつかり得る注目点の最大数(例えば、1、2、又は3等)等の追加データを含み得る。より正確には、すでに説明したように、あるリレーショナル記述子に関連付けられる計算モードから得られた記述子を分類することにより、問題のリレーショナル記述子との類似度が、前記類似度の測定値に沿って最も高い1つ又は複数の一時的記述子に関連付けられるm個の点の候補を保持することが可能となり、これらm個の点は実際にはm個の「注目点」となる。リレーショナルレポジトリの番号付きリスト内の何れのリレーショナル記述子についても、m個の注目点はそれゆえ、本発明の意味内の画像において検出され得て、mは、一般的に、1以上の整数である。整数mが厳格に1より大きい場合、それは前記リレーショナルレポジトリのリレーショナル記述子に関連付けられるリレーショナルレポジトリのパラメータの一部を形成することが想定される。
【0058】
リレーショナルレポジトリはまた、特定の点であって、候補画像の中、及びおそらく参照画像の中で、どのリレーショナル記述子がこの点を最もよく説明するかを見つけるために計算モードが適用されることになる特定の点の座標も含み得る。
【0059】
リレーショナルレポジトリは、リレーショナル記述子の番号付きリストに加えて、また、各リレーショナル記述子について、一時的記述子のための選択された計算モード及びそれらの類似度の測定値に加えて、本発明の意味を変えずに他の何れの種類の追加データも含み得る。
【0060】
さらに、リレーショナルレポジトリのリレーショナル記述子の番号付きリストの中のあるランクにおいて、このランクのリレーショナル記述子に関連付けられる1つだけでなく複数の異なる計算モードを考えることも完全に想定可能である。候補画像及び参照画像、及び/又は各種の参照画像に適用される計算モードはそれゆえ、同一のあるリレーショナル記述子について必ずしも同じであるとはかぎらない。これが当てはまる場合、この計算モードが適用されることが想定されるその1つ以上の画像は、リレーショナルレポジトリ内の追加のパラメータの中で示される。
【0061】
本発明による方法の他の有利な特徴によれば、リレーショナルレポジトリはリレーショナル記述子の分類、すなわち少なくとも1つの共通の特徴を説明するリレーショナル記述子のサブセットを形成するためのカテゴリへのそのグループ分けを含み得る。例えば、リレーショナルレポジトリは、画像内の輪郭、色、又はテクスチャの特徴をそれぞれ説明するリレーショナル記述子をまとめる。
【0062】
1つの実施形態において、リレーショナルレポジトリは、合成画像でも自然画像でもよい1つ以上の「レポジトリ画像」から情報を抽出することによって得られる。
【0063】
画像がレポジトリ画像として選択されるようにするためには、それが情報の点で特定の特徴を有していなければならない。本発明者らはこれまでに、情報の点で豊富さ(様々な局所的特徴及び異なるスケールのもの)を含み、テクスチャ又はマイクロテクスチャの領域分割と結合され、異なる輪郭と特定のエントロピを有する画像がおそらく、レジストリ画像となるのに好適な候補であることを特定した。すると、リレーショナル記述子の番号付きリストは、「視覚的に複雑な」レポジトリから得られると言われる。視覚的に複雑な画像の中で、隣接するタイルのピクセルは相互に無相関とされ、タイルの分布は情報に富むが非常にランダムであり、これは、異なる記述子がこの画像の各領域を識別し得ることを意味する。参照画像としての役割を果たすことのできる自然画像の種類の一例は、本発明に添付の図面に示されている(群葉の中のイグアナ)。他方で、リレーショナル記述子の特定にとって理想的でない、又は適さない画像の一例はバーリンノイズ画像である。レポジトリ画像は、候補画像及び各参照画像とは異なる。
【0064】
また、リレーショナルレポジトリの番号付きリストに含まれるリレーショナル記述子が別の、異なるものであることも想定される。実践において、これは、これらが可付番であり、番号付きリスト内に2つの同じリレーショナル記述子がないことを意味する。
【0065】
本発明による方法の他の有利な特徴によれば、リレーショナルレポジトリの番号付きリストに含まれるリレーショナル記述子は、所定の類似度の測定値の意味で相互に均等に分布されるベクトルである。このような構成は特に、「k-近傍」法を使って実現され得る。
【0066】
本発明の1つの有利な特徴によれば、各参照リストは好ましくは、後の使用のために保存される。これはまた、候補画像との2つの実装間で変更及び最適化され得る。
【0067】
本発明による方法の1つの有利な特徴によれば、候補リストは後の処理又は使用のために保存され得る。特に、ステップf)の処理は、コンピュータによる、又は自動操作に使用できる形態、好ましくは対応する参照リストのそれと似た形態で候補リストを記録することを含み得る。好ましくは、参照リストは、参照注目点の特定された座標系による各注目点の座標の記録を含む。すると、候補リストは同じ座標系による候補注目点の座標の記録を含む。座標系の中では、2次元又は3次元空間に関して、特にデカルト座標系及び極又は円柱座標系が挙げられ得る。
【0068】
本径型として、又はそれに加えて、ステップf)の処理は、候補リストと各参照リストを、全てリレーショナル記述子の同一の番号付きリストに基づいて特定される、コンピュータ又は自動処理により使用可能な形態でまとめることを含み得る。
【0069】
本発明による方法の他の特徴によれば、また、方法の残りの部分を容易にするために、候補及び参照リストにはリレーショナル記述子の番号付きリスト上でインデックスが付けられ、すなわち、これらの参照及び候補リストは、リレーショナル記述子及び/又はそれが番号付きリスト内で位置付けられるランクを識別する手段を含み、どのリレーショナル記述子が問題の注目点の座標のもとになっているかがわかるようにされる。このような識別手段は例えば、リレーショナル記述子自体のインディケータであり得る。変形型として、識別手段は、リレーショナルレポジトリの番号付きリストの中のリレーショナル記述子のランクに対応する番号であり得る。他の変形型として、識別手段は、参照及び候補リストをリレーショナル記述子の番号付きリストと同じ順序に番号付けすることを含み得る。
【0070】
ステップf)で、候補リストの処理はより高度なコンピュータ又は自動動作を含み得て、これは例えば候補リストを参照リストとマッチさせること、参照画像に関する候補画像のレジストレーションを行うこと、ユニタリ認識のために画像間のリレーショナル署名を計算することである。
【0071】
本発明の他の特徴によれば、ステップf)の処理は、候補リストと各参照リスト間の相同の注目点の存在を特定するステップを含む。「相同の注目点」とは、それぞれ参照画像の記述子に、及び候補画像の記述子に関連付けられ、どちらもリレーショナルレポジトリの同一のリレーショナル記述子と類似する(同一のリレーショナルレポジトリが各参照画像及び候補画像の解析に使用される場合)注目点を意味すると理解すべきである。「類似の」とは、言葉通り、記述子間の類似度が、選択された類似性基準に沿って高いことを意味すると理解されたい。それゆえ、候補注目点は、これらの点の記述子がどちらも対応するリレーショナルレポジトリの同じリレーショナル記述子と類似している場合に、参照注目点と相同である。さらに換言すれば、2つの点は、これらが同じリレーショナル記述子により同じ順序の類似度で説明される場合に(画像ごとに)相同である。2つの注目点はそれゆえ、一方が候補画像からのもの、他方が参照画像からのものであり、それらの一時的記述子が十分な程度の関連性と、リレーショナルレポジトリ中の関連するレーショナル記述子に関して同じ順序の類似度を有する場合に相同である。勿論、2つの相同の注目点は、候補画像と参照画像において必ずしも同じ座標を有するとはかぎらない。
【0072】
各参照画像と候補画像を解析するために使用されるリレーショナルレポジトリが異なるが両立可能であるとき、注目点は例えば、これらがリストの各々において同じランクに、又は対応するランクに位置付けられているときに相同と考えられ得る。
【0073】
画像間に相同の注目点がある場合、これらの相同の注目点の座標をペアの形態でグループ分けすることが想定可能である。番号付きリストの中の同一のリレーショナル記述子が画像のうちの少なくとも1つにおいて複数の注目点に関連付けられる場合、このリレーショナル記述子のための複数の座標ペアを生成して、相同の注目点の考え得る組合せの全部又は一部をカバーすることが想定可能である。留意すべき点として、各座標ペアの中で、座標の一方は候補画像のリレーショナル記述子の注目点に対応し、座標のもう一方は参照画像のリレーショナル記述子の注目点に対応する。
【0074】
リレーショナルレポジトリに含まれるリレーショナル記述子のリストの番号付けされた性質は、参照及び候補リスト内の相同の注目点のもとになるリレーショナル記述子を素早く識別するために有利である。
【0075】
リストの各々、すなわち候補リスト又は参照リストは、それらに含まれる操作が容易なデータ(座標)を解析することによって統計的観点から、又は注目点を解析することにより幾何学的観点から解析され得る。
【0076】
それゆえ、本発明による方法のまた別の特徴によれば、ステップf)の処理は、すでに述べた処理動作に加えて、又はその代わりとして、参照注目点及び候補注目点の統計解析を含む。
【0077】
例えば、統計解析は、各候補又は参照リスト内の座標間及び/又は候補及び参照リスト間の統計計算を含む。
【0078】
画像の相関はすると、例えば候補リスト内の注目点の座標と参照リスト内の相同の注目点の座標との間の数学的関係と、リストごとに全ての相同の注目点について確立された全ての数学的関係に対する統計計算を含む。例えば、再び、統計解析はまた、リストの一方の注目点ともう一方のリストの注目点を比較して、番号付きリストの幾つかの記述子が候補リスト内の何れの注目点のもとにもならず、参照リストの少なくとも1つの注目点のもとになるか、又はその逆かを確認することも含み得る。
【0079】
より正確には、ステップf)の処理が統計解析を含むこの変形型によれば、注目点はm個の成分の座標により定義され、統計解析は各々が注目点の同一のランクの座標又は座標グループにより形成される集合について実行される。それゆえ、解析されたリストの中の同じ1つ以上のランクに位置付けられたリストの座標(又は座標グループ)は、統計的観点から処理される。この統計処理により、候補及び参照リストの各々におけるデータクラスタを生じさせる。「データクラスタ」とは、選択された基準によってグループ分けされたデータパケットの形態の統計解析の結果を意味すると理解されたい。例えば、クラスタは注目点を候補又は参照画像内のそれらの地理的位置に基づいてまとめ得る。クラスタの他の例は、画像の同一の領域的テクスチャに属する注目点のグループ分けであり得る。クラスタの他の例は、候補画像及び/又は参照画像中の注目点を持たない記述子の集合である。
【0080】
好ましくは、各々が候補注目点の同一のランクの座標又は座標グループにより形成される(クラスタの)集合は、各々が参照注目点の同一のランクの座標又は座標グループにより形成される集合に関する類似性基準に沿って分類される。この分類により、候補画像と参照画像との間の相似性を評価することができる。画像間の相似性は、リスト間の相似性及び画像の中に示される有形被写体間の相似性を含む。
【0081】
それによればステップf)の処理が統計解析を含むこの実施形態は、候補画像と参照画像が同一の視角から同様の倍率で、例えば十字マークを利用して撮影された画像である場合に特に有利である。すると、画像は擬似レジストレーション又は予備レジストレーションが行われたと言われ、これらは統計解析を通じて有効に相関させることができる。この実施形態のより正確な例は、参照画像内のリレーショナル記述子に関連付けられる注目点と候補画像内のこの同じリレーショナル記述子に関連付けられる注目点との間の距離を計算すること、すなわち2つの相同の注目点の座標間の距離を計算することである。
【0082】
本発明による方法の他の有利な特徴によれば、ステップf)の処理は、すでに述べた処理動作に加えて、又はその代わりとして、候補リスト内の候補注目点を各参照リスト内の相同の参照注目点とマッチさせることを含む幾何学的解析を含む。同一のリレーショナル記述子について、注目点の複数の座標がリスト、すなわちそれぞれ候補又は参照リスト内で関連付けられる場合、全ての考え得る組合せから最もマッチするものを特定することが有利であり得る。
【0083】
ステップf)の処理のこの変形型によれば、マッチングの後に、候補リスト内の注目点を定義する座標を各参照リスト内の相同の注目点を定義する座標に関連付ける少なくとも1つの幾何変換が特定される。
【0084】
この変形型によれば、マッチングは、候補リスト内の注目点の座標を参照リストのうちの1つの中の相同の注目点の座標に関連付ける少なくとも1つの幾何変換を特定することを含む。この動作は候補リストと参照リストのうちの1つとの間の相同の注目点の各ペアについて繰り返され得て、それゆえ、候補画像をこの参照画像と整合させる試みの中で複数の幾何変換を特定し、これらを比較してそれらのうちの最善のものを特定することが可能となる。この動作はまた、参照リストの各々についても繰り返され得て、それゆえ、候補画像をそれぞれ参照画像の各々と整合させる試みの中で複数の幾何変換を特定し、これらを比較してそれらのうちの最善のものを特定することが可能である。
【0085】
これらの幾何変換は、候補画像とこの参照画像を相関させるための最善のものを選択するように、1つ以上の所定の品質基準に沿って分類され得る。
【0086】
ある幾何変換がその他よりよいか否かを特定するための品質基準は例えば以下のとおりである:変換された画像と標的画像(例えば、それぞれ候補画像と参照画像)との間の最小二乗誤差、相互に相同の注目点の数、少なくとも候補画像のある数の注目点を参照画像の相同の注目点の周囲の、所定の表面積(できるだけ小さい)の領域に送ること。例えば、小さい領域の中の点が求められるが、それが(候補画像の)相同の注目点とマッチすることが求められる(参照画像内の)理論的な相同の注目点の周囲の特定の許容半径を認めることができる。実践において、例えば、各々がそれぞれの相同の注目点の周囲のできるだけ小さい許容半径内にあるマッチする相同の注目点の数が多いほど、品質基準はより高いと考えられ得る。
【0087】
求められる幾何変換は例えば、剛体変換(並進及び/又は回転及び/又はスケール変更)、同形意義性、又は他のあらゆる(剛体又は非剛体)point-to-point幾何変換の形態をとり得る。
【0088】
候補画像と参照画像との間に幾何変換がないことも想定され、この場合、これら2つの画像は相互から遠すぎて、レジストレーション又は比較を行えないと考えられ、これは、これらを相関させる唯一の利点が、これらの間にいかなるリンクもないことが確認されることであることを意味する。
【0089】
それによればステップf)の処理が幾何学解析を含む実施形態は、それによればその処理が統計解析を含む上述の実施形態とは両立しない。幾何学解析は、参照画像と候補画像に擬似レジストレーションが行われていない、すなわちこれらがいかなる予防策もなく撮影された、つまり候補画像が1つ以上の参照画像の捕捉を再現しようとせずに撮影された場合に好ましい。
【0090】
勿論、特定すべき幾何変換は、候補画像と相関させることが望まれる参照画像と同じ数だけある。これらの幾何変換はまた、どの幾何変換が最善であるかを選択するように、事前に確立された品質基準に沿って分類され得る。
【0091】
換言すれば、参照画像のうちの1つは、例えばその将来のレジストレーション又は候補画像の中にある有形被写体の将来の認識にとって、この参照画像に関する候補画像を相関させるための最も確実な幾何変換に到達できる。
【0092】
本発明による方法の1つの有利な特徴によれば、ステップf)において求められる各幾何変換は、候補リストと各参照リスト間の直接幾何変換である。
【0093】
それゆえ、求められるのは、候補リストの中の注目点のうちの1つの座標を各参照リスト内の相同の注目点の座標の上に、又はできるだけ近くに置き、最大数の相同の注目点についてそのように行うことを可能にする幾何変換である。換言すれば、幾何変換は相同の注目点の各ペア内の座標をできるだけうまくマッチさせなければならない。
【0094】
本発明による方法の他の考え得る特徴によれば、求められる各幾何変換は、候補リストと参照リストとの間の間接的な幾何変換である。このような間接幾何変換は、候補リスト内の座標と参照リスト内の座標との間の、候補画像とも各参照画像とも異なる何れかの中間画像における、リレーショナルレポジトリの計算モードに沿って特定された、リレーショナル記述子と同様のこの中間画像の記述子の位置の座標を含む少なくとも1つの中間リストを介した連続的幾何変換の結果である。
【0095】
簡潔に言えば、間接幾何変換は、
- 候補リストと中間リストとの間の第一の直接幾何変換であって、中間リストはその中間画像の中の、リレーショナルレポジトリの番号付きリストの中のリレーショナル記述子に関連付けられる何れかの注目点の座標を含む、第一の直接幾何変換と、
-参照リストと中間リストとの間の第二の直接幾何変換
を含む。
【0096】
本発明による方法の1つの有利な特徴によれば、候補画像の参照画像に関するレジストレーションを行うために最善の幾何変換を候補画像に適用するようになされる。換言すれば、最善の幾何変換を適用することにより、この最善の幾何変換に関連付けられる参照画像に関する個の候補画像のレジストレーションを行うことが可能となる。
【0097】
レジストレーションとは、画像若しくは画像の一部又はこれらの画像から抽出された情報のマッチングに基づく、これらの画像、画像の部分、又はこれらの画像から抽出された情報に含まれるそれぞれの情報を比較し、重ね合わせ、又はさらには組み合わせることを可能にする技術である。
【0098】
本発明による方法の他の有利な特徴によれば、候補画像が所定のクラスに属することを特定するステップを実行するようになされる。このステップは一般に、候補画像から参照画像に変更することを可能にする幾何変換を特定することを含む処理に従うか、又は、代替的に、一般に統計解析ステップに従う。
【0099】
メンバシップクラスはそれぞれ、選択されたメンバシップ基準の意味において最も近い参照リスト、又は参照画像、又は参照画像の中に示される有形被写体により表される。メンバシップクラスはそれゆえ、そのクラスの様々な特徴により定義される。クラス内のメンバシップを特定するのは、これらの特徴の各々又は全部との類似性であり、これらはここでは「メンバシップ基準」と呼ばれる。それゆえ、あるクラスの中でメンバシップの基準をチェックすることは、例えば、選択された特徴に関して、候補リストと各参照リストとの間の距離を評価することからなり得る。例えば、メンバシップ基準は、候補リストから参照リストに到達するのための1つ以上の最短距離について検証されると考えられ得る。このリスト間距離は、定義された容認閾値と共に使用され得る。これは、評価された距離を所定の容認閾値と比較することと同等である。容認閾値を超えると、その候補リストは参照リストに対応するメンバシップクラスに属さず、それより低ければ、それはこのクラスに属する。
【0100】
候補リスト(又は候補画像若しくは候補画像の中に示される有形被写体)が何れの所定のクラスにも属さないことは十分に想定可能である。
【0101】
「クラス」とは、参照リストの、又は参照画像の、或いは参照画像に示される有形被写体の特徴的特性の集合を意味すると理解されたい。クラスは1つ以上の要素を含み得る(例えば、そのユニットシリアル番号(個々の要素について1つ)により識別される特定の製品のクラス、同一モデルのシリーズ製品のクラス(多数の構成要素)、同一ブランドの製品のクラス、組立製品の構成コンポーネントのクラス、等)。1つのメンバしか含まないクラスは認証のために作成され得る。すると、ユニタリクラスが参照される。クラスは、名前が付けられ、及び/又は人若しくは組織(例えば、人又は組織により定義されたデータに属する有形被写体のクラス)に、或いはさらには他のクラスに関連付けられ得る。クラスは再構成可能であり得、リレーショナルレポジトリの選択に依存し得る。クラスの特徴的特性は勿論、幾分明確であり得る。クラス自体はサブクラスに分割され得て、これらは共通部分を持つ、又は持たず、そのクラスに含まれ、各サブクラスはそのクラスの要素の幾つかのみを含む。各クラスはそれゆえ、多少広範な集合であり、様々なサブクラスを含み得る。クラスは後に再構成可能であり得、この場合、再構成されたクラスは新しいクラスと考えられるが、おそらく同じ特徴、特に同じ名前を有し得る。
【0102】
本発明による方法の1つの有利な特徴によれば、参照画像の少なくとも幾つかを、有形被写体の同一のクラスに属する少なくとも2つの異なる有形被写体を表す構成画像とすることが想定可能である。
【0103】
構成画像は例えば、例えば同一のクラスの2つの有形被写体を表す2つの画像のレジストレーション後の重ね合わせから、又はこれら2つの画像に共通する部分だけを残すようにするための異なる部分の除去から得られる。同じクラスに属する複数の異なる被写体を表す構成画像を使用することにより、各被写体の特定の特徴を取り除き、全ての被写体に共通する特色だけを残すようにすることが可能となる。換言すれば、使用される構成参照画像により、単独の被写体の各画像内に存在するノイズを平滑化することが可能となる。本発明による方法の1つの有利な特徴によれば、参照画像の少なくとも幾つかを、有形被写体の異なるクラスに属する少なくとも2つの異なる有形被写体を表す構成画像とすることも想定可能である。
【0104】
それゆえ、各参照画像がそれぞれ有形被写体のクラスを表す場合、候補リストの、又は候補画像の処理を使って、候補画像に示される候補被写体のメンバシップを対応する参照画像により示される有形被写体のクラスに分類することが想定可能である。
【0105】
実践において、各幾何変換のためにスコアが規定され得て、それによって所定の基準に基づいて候補画像から参照画像のうちの1つに変更することが可能となる。獲得したスコアによって、参照画像と候補画像との相似性の最初の考えが得られる。画像間の相似性は、リスト間の相似性及び/又は画像内に示される有形被写体間の相似性を含む。
【0106】
本発明による方法の他の有利な特徴によれば、候補画像のユニタリ認識のステップが実行され得る。
【0107】
好ましくは、このユニタリ認識ステップはレジストレーションステップに続く。特に、レジストレーションに続くユニタリ認識ステップが、文献、国際出願第2017198950号に記載のような、2つの候補及び参照画像間のリレーショナルフィンガプリントの特定方法を含むことが想定可能である。
【0108】
変異型として、レジストレーションに続くユニタリ認識ステップがレジストレーションの行われた候補画像と各参照画像との間の点の差分をとるステップを含むことも想定可能である。
【0109】
変形型として、また本発明による方法の1つの有利な特徴によれば、候補画像のユニタリ認識のステップは、リレーショナル記述子の他の番号付きリスト並びに/又は他の計算モード及び/若しくは類似度を特定するための他のモードを含む他の参照画像及び/又は他のリレーショナルレポジトリについて、ステップa)~f)を繰り返すことを含む。
【0110】
それゆえ、候補画像と参照画像との間の第一のクラスリンクを確立した後に、候補画像内に示される有形被写体が属するサブクラスを、前述の各種の有利な特徴による方法のステップa)及びf)を再び繰り返すことによって明確にすることが可能である。このイテレーションは、他の画像及び/又は他のリレーショナルレポジトリを取り上げることによって行われる。このイテレーションにより、候補画像に示される有形被写体の認識をさらに改善して、最終的に有形被写体のユニタリ認識を実現することが可能である。
【0111】
本発明による方法の1つの有利な特徴によれば、ステップa)~f)の各イテレーションが、候補画像の当初相関させられた部分の総表面積と比較して縮小された表面積を有する候補画像の注目領域上で実行されることが想定可能である。
【0112】
この特徴により、第一のレジストレーションが行われた後、候補画像に示される有形被写体の特定のあり得る詳細に焦点を当てることができる。
【0113】
本発明はまた、経路上の各種の要素を認識するための上述の相関方法の、デジタルコンテンツのデジタル集合を確立することを目的とした使用にも関し、前記参照画像は経路で認識されるべき要素に基づいて選択される。
【0114】
より正確には、この使用によれば、各種の要素、すなわち、有形被写体又は同一の有形被写体の一部のメンバシップクラス(ユニタリ又はそうでない)は連続的に認識される。認識される各種の要素は例えば、梱包箱の各面、腕時計の各構成要素であり得る。方法のこの使用において、参照画像はすると、所望のメンバシップクラスに基づいて選択される。方法のこの使用によれば、それゆえ、ユーザの経路(経時性及び/又は周辺空間の意味で)を辿ることができる。この経路は、選択により、課され得る、すなわち、まずある要素を認識しなければ他の要素を認識できないか、又はフリーである、すなわち経路全体又は一部のみにわたり何れの順序で各種の要素を認識できるか、さらには少なくとも1つの要素が複数回認識され得る。
【0115】
この使用によれば、認識された各要素は、オブジェクトに直接関係するか、それに関係しない選択されたデジタルコンテンツに関連付けられる。例えば、デジタルコンテンツは要素の所有者、及び/又はその要素を認識したユーザのためのメッセージ、及び/又はブロックチェーンプロセス等のコンピュータプロセスで使用可能な暗号トークンを含み得る。
【0116】
それゆえ、経路に沿って認識される各種の要素により、上述の事前に確立されたデジタルコンテンツか、要素自体のデジタル集合に関連付けられ得る集合が得られる。集合の一部を形成するデータは例えば、有形被写体又は認識された有形被写体の一部、この被写体のメンバシップクラス、この被写体に関連付けられるデジタルコンテンツ、この被写体に関連付けられる暗号トークン等である。
【0117】
1つの好ましい使用によれば、各要素の連続的認識は、各要素に関連付けられる(静的又は動的)デジタルコンテンツへのアクセスをトリガし得て、経路上で遭遇したデジタルコンテンツの全てが組み合わせられてデジタルコンテンツの集合とされ得る。デジタルコンテンツのこの集合は、有利な点として、ブロックチェーンに保存された暗号トークンによって管理され得て、これは非代替性トークン(NFT)と呼ばれる。この特定の実装より、集合の、したがってこれらの集合の構成要素のオーナシップを高い信頼性で安全に管理することができる。この実装によればまた、オーナシップの移転を自動的に安全に追跡することも可能となる。
【0118】
この使用の1つの有利な特徴によれば、要素の認識の前に、各要素に関連付けられるデジタルコンテンツをメモリに記録するようになされる。
【0119】
この使用の他の有利な特徴によれば、要素の認識の後に、要素のオーナシップのアクセス及び/若しくは移転、及び/又は暗号トークンの作成、及び/又はメモリ若しくはレジスタ(例えば、ブロックチェーン)内の要素に関連付けられる暗号トークンのアクセスを記録するようになされる。
【0120】
この使用の他の有利な特徴によれば、ユーザ及び/又は候補画像を生成するために使用される機器を認識するステップが要素の認識の前に行われるようになされる。
【0121】
本発明はまた、参照リストを作成する方法にも関し、これは、
-少なくとも、リレーショナル記述子の順番付きリスト、参照画像に適用されてこの画像の記述子を特定する少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリを作成するステップと、
-リレーショナルレポジトリの各記述子計算モードに沿って計算される参照画像の記述子を特定し、参照画像におけるこれらの記述子の各々の位置を特定するステップと、
-リレーショナルレポジトリの特定モードに沿って特定される、参照画像の各記述子とリレーショナルレポジトリの各リレーショナル記述子との間の類似度を特定するステップと、
-対応するリレーショナル記述子との最も高い類似性を示し、リレーショナルレポジトリの順序に基づいて番号付けられる参照画像の各記述子の、参照画像における参照注目点と呼ばれる位置を含む参照リストを特定するステップと、
を含む。
【0122】
この方法により、少なくとも1つの参照リスト、好ましくは参照リストのバンクを、本発明による相関方法の実行の前に確立し、それによって候補画像と相関させる方法を実行する際に大幅な時間削減を実現させることが可能となる。
【0123】
この方法は、本発明による相関方法のステップc)~e)と非常に似ているが、候補画像の代わりに参照画像が使用されることと、使用されるリレーショナルレポジトリが候補画像の確立に使用されるリレーショナルレポジトリと、それが候補リストの確立に使用されたものと両立可能であることを条件として、必ずしも同じであるとはかぎらない点が異なる。とは言え、リレーショナルレポジトリは同じであることが好ましい。
【0124】
この作成方法の1つの有利な特徴によれば、参照リストの集合は、相互に両立可能なリレーショナルレポジトリの作成に基づく、好ましくは同一の1つのリレーショナルレポジトリに基づく特定ステップを繰り返すことによって作成される。
【0125】
この方法は、有利な態様として、計算及び参照リストとの比較を実行するための「クラウド」環境と呼ばれるものを介した分散型計算モードで実行され得て、これは、有利な点として、この同じクラウド内に保存することもできる。この方法は、有利な態様として、スマートフォンを使ってこの環境に接続し、候補画像又は、これらの候補画像に対して行われた計算結果を転送し得る。同様に、この方法は、ブロックチェーンを広範に使用して、使用されるデジタルデータのセキュリティを強化し得る。
【0126】
勿論、本発明による各方法の様々な特徴、変形型、及び実施形態は、これらが矛盾せず、相互に排他的でないかぎり、各種の組合せで相互に関連付けられ得る。
【0127】
さらに、本発明の各種の他の特徴は、本発明の非限定的な実施形態を図解する下記のような図面に関して行わる以下の説明から明らかとなるであろう。
【図面の簡単な説明】
【0128】
【
図1】本発明による相関方法で使用されるリレーショナルレポジトリの概略図である。
【
図2】本発明による相関方法の特定のステップの概略図である。
【
図3】本発明による相関方法の1つの例示的な相関(ステップf)の概略図である。
【
図4】本発明による相関方法の他の例示的な相関(ステップf)の概略図である。
【
図5】相関方法の、及び本発明による相関方法の、画像を用いた表現である。
【発明を実施するための形態】
【0129】
これらの図中、各種の変形型又は例に共通の構造的及び/又は機能的要素には同じ参照番号が付されていることに留意されたい。
【0130】
図2は、本発明による、候補画像Icanの少なくとも一部を少なくとも1つの参照画像と相関させる方法の主要ステップを示す。
【0131】
この方法によれば、以下のステップを実行するようになされる:
a)少なくとも、リレーショナル記述子の順番付きリスト、画像に適用されてこの画像の記述子を特定する少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリを作成するステップと、
b)各参照画像について、参照画像の中の、ステップa)で作成されたリレーショナルレポジトリと両立するリレーショナルレポジトリからのリレーショナル記述子と類似する参照画像の記述子の、参照注目点と呼ばれる位置を含む参照リストであって、この両立可能なリレーショナルレポジトリの順序に基づいて番号付けされる参照リストを作成するステップと、
c)候補画像の中で、ステップa)で作成されたリレーショナルレポジトリの各記述子計算モードに沿って計算された候補画像の記述子を特定し、候補画像におけるこれらの記述子の各々の位置を特定するステップと、
d)ステップa)で作成されたリレーショナルレポジトリの特定モードに沿って特定された、候補画像の各記述子とこのリレーショナルレポジトリの各リレーショナル記述子との間の類似度を特定するステップと、
e)候補画像において、ステップa)で作成されたリレーショナルレポジトリのリレーショナル記述子との最も高い類似性を示す候補画像の記述子の、候補注目点と呼ばれる位置を含む候補リストであって、このリレーショナルレポジトリの順序に基づいて番号付けされる候補リストを特定するステップと、
f)候補リストを各参照リストに関して、候補及び参照リストの順序に基づいて処理するステップと、
を含む。
【0132】
この相関方法は、プロセッサ等のコンピュータ媒体を使って実行される。
【0133】
したがって、
図2に示されるように、まず事前に確立されたリレーショナルレポジトリRを作成するようになされる(ステップa)。
【0134】
このリレーショナルレポジトリRは
図1に示されている。これは、リレーショナル記述子の番号付きリストDesc1、Desc2、Desc3、...、DescNを、これらのリレーショナル記述子の各々に関連付けられる計算モード及び類似度を特定するモードと共に含む。順序は、参照番号1、2、3、...、Nで与えられ、
図1の破線の枠により表されている。
【0135】
リレーショナル記述子に関連付けられる計算モードは、画像に適用されることが意図され、その結果、その画像の1つ以上の特徴点にある画像の関係する所定の特性を説明するこの画像の局所記述子が得られる。この局所記述子は、画像の「一時的記述子」と呼ばれる。
【0136】
2つの記述子間の類似度を特定するモードにより、リレーショナル記述子とこのリレーショナル記述子に関連付けられる計算モードから得られる一時的記述子との間の類似性を比較することが可能となる。類似度が高いほど、比較された記述子はより類似している。例えば、類似度を特定する1つの考え得るモードは、選択された類似性基準に沿った、ハミング距離、マハラノビス距離、レーベンシュタイン距離、又はハウスドルフ距離等の距離の測定である。換言すれば、類似度は測定された距離の値であり、類似性基準は、選択された類似性計算の性質(例えば、ハミング距離、マハラノビス距離、レーベンシュタイン距離、又はハウスドルフ距離の計算)である。
【0137】
好ましくは、比較されるリレーショナル及び一時的記述子は、特定モードにより得られた類似度が一定の最低閾値より高いか、それと等しい場合、類似していると考えられる。
【0138】
一般に、リレーショナル記述子に関連付けられる計算モードはリレーショナル記述子ごとに同じでも異なっていてもよく、2つの記述子間の類似度を特定するためのモードもまた、それ自体、リレーショナル記述子ごとに同じでも異なっていてもよいと考えられる。それゆえ、リレーショナルレポジトリRの中には、最大で、リレーショナル記述子と同じ数の計算モード及び類似度特定モードがあり得る。
【0139】
図示されていない1つの特定のケースにおいて、リレーショナル記述子の全てに関連付けられる同じ計算モードが使用され、同じ類似度特定モードが使用される。この特定のケースでは、1つの計算モードと1つの類似度特定モードがある。
【0140】
図2に示されるように、すると、解析することが望まれる候補画像Icanにおいてリレーショナル記述子がみつかる注目点の、ここでは座標の形態の位置をリストアップする、候補リストLcと呼ばれるリストを特定することを目的として、
図1に示されるリレーショナルレポジトリRを使用するようになされる(ステップc~e)。
【0141】
候補画像Icanは例えば、携帯電話のカメラを使って撮影された写真である。この画像は例えば、メモリに記録される。
【0142】
より正確には、ステップc)で候補画像の記述子が特定される。このために、リレーショナルレポジトリの計算モードは候補画像に適用されて、候補画像の記述子が特定され、これはこの段階で「一時的記述子」と呼ばれる。この同じステップで、候補画像の中の一時的記述子の位置も特定され、これらの位置は例えば、一時的記述子を特定するために用いられたものと同じ計算を通じて得られる。
【0143】
すると、ステップd)で、みつかった各一時的記述子と使用された計算モードに関連付けられるリレーショナル記述子との間(各リレーショナル記述子がそれ自体のリレーショナル記述子に関連付けられる場合)の、又はみつかった各一時的記述子とリレーショナルレポジトリの各リレーショナル記述子との間(全てのリレーショナル記述子について1つの計算モードを使用する場合)の類似度が推定される。好ましくは、このステップで、一時的記述子は、個別に取り上げられる各リレーショナル記述子とのそれらの類似度に基づいて分類され、それによって各リレーショナル記述子について保持されるべき1つ以上の最も類似した一時的記述子をみつけることができるようにされる。
【0144】
2つの一時的及びリレーショナル記述子が類似していると考えられる場合、一時的記述子のある解析画像の特徴点は、このリレーショナル記述子のための、この画像の注目点として保持される。すると、リレーショナル記述子は解析画像の中の注目点において「みつかった」と考えられる。
図2に示されるように、候補画像Icanの複数の異なる注目点でリレーショナル記述子のうちの少なくとも1つをみつけることは十分に想定可能である。例えば、リレーショナルレポジトリRの第一のリレーショナル記述子Desc1は候補画像Icanの3つの異なる注目点、すなわち(x
1,y
1)
c、(x’
1,y’
1)
c、及び(x’’
1,y’’
1)
cにおいてみつかり、第二のリレーショナル記述子Desc2は候補画像Icanの2つの異なる注目点、すなわち(x
2,y
2)
c及び(x’
2,y’
2)
cでみつかり、第三のリレーショナル記述子Desc3は候補画像Icanの1つの注目点(x
3,y
3)
cでみつかり、第nのリレーショナル記述子DescNは候補画像Icanの2つの異なる注目点、すなわち(x
N,y
N)
c及び(x’
N,y’
N)
cでみつかる。
【0145】
ステップe)で、各注目点の位置、すなわちここでは各注目点の座標は、候補リストLcに組み込まれる。この組み込みは、リレーショナルレポジトリの番号付きリストの中で与えられるリレーショナル記述子の順序に基づいて実行され、すなわち、候補リストLcの順序と参照記述子のリストの順序との関係がわかっている。特に、ここでは、候補リストはリレーショナル記述子のリストの順序で、すなわち、リレーショナルレポジトリRの番号付けリストの中で与えられたリレーショナル記述子の順序に合わせて番号付けされる。この順序は、候補リスト及び番号付きリストの中の破線の枠により表されている。
【0146】
図2に示されるように、その後、候補画像Icanについて得られた候補リストLcを少なくとも1つの参照リストL1、L2、L3と相関させるようになされる。
【0147】
好ましくは、各参照リストL1、L2、L3は参照画像
【数1】
から、候補リストLcを取得するための上述のものと同じ原理にしたがって得られるが、異なる点として、使用されるリレーショナルレポジトリは、候補リストLcを確立するために使用されるリレーショナルレポジトリと両立したままであるかぎり、候補リストLcを取得するために使用されるものとは異なり得る。ここで、簡素化するために、参照リストL1、L2、L3及び候補リストLcを確立するために使用されるリレーショナルレポジトリは同じであると考える。
【0148】
参照リストL1、L2、L3は好ましくは、本発明による相関方法が実行される前に取得される。それゆえ、本発明による相関方法(ステップb)では事前に確立された参照リストL1、L3、L3を呼び出す(又は作成する)だけでよい。
【0149】
より正確には、各参照リストL1、L2、L3を確立するために、本発明にしたがって参照画像
【数2】
から参照リストを作成する方法が実行される。
【0150】
この作成方法によれば、以下のステップが実行される:
-少なくとも、リレーショナル記述子Desc1’、Desc2’、Desc3’、...、DescN’の番号付きリスト、参照画像に適用してこの画像の記述子を特定する少なくとも1つの計算モード、及び2つの記述子間の類似度を特定するためのモードを含むリレーショナルレポジトリを作成するステップと、
-リレーショナルレポジトリの各記述子計算モードに沿って計算された、参照画像の記述子を特定し、参照画像におけるこれらの記述子の各々の位置を特定するステップと、
-リレーショナルレポジトリの特定モードに沿って特定された、参照画像の各記述子とリレーショナルレポジトリの各リレーショナル記述子Desc1’、Desc2’、Desc3’、...、DescN’との間の類似度を特定するステップと、
-参照画像において、対応するリレーショナル記述子Desc1’、Desc2’、Desc3’、...、DescN’との最も高い類似性を示し、リレーショナルレポジトリの順序に基づいて番号付けされる参照画像の各記述子の、参照注目点と呼ばれる位置を含む参照リストを特定するステップ。
【0151】
この作成方法において、使用されるリレーショナルレポジトリRは相関方法で使用されるものと同じであり、それによって記述子Desc1’、Desc2’、Desc3’、...、DescN’のリストは記述子Desc1、Desc2、Desc3、...、DescNのリストと同じである。
【0152】
参照リストはリレーショナルレポジトリのリレーショナル記述子の順序に基づいて番号付けされると考えられ、これは、リレーショナルリストの順序とリレーショナル記述子のリストの順序との関係がわかっているからである。ここで実装される1つの特定のケースは、参照リストの順序がリレーショナル記述子の順序と同じである、すなわち参照リストがリレーショナル記述子のリストの順序に基づいて番号付けされると考えることである。
【0153】
使用される参照画像は例えば(好ましくは)候補画像Icanを取得するために使用されるものと同じ動作から、すなわちここではカメラから取得される。
【0154】
参照リストL1、L2、...Lkが得られたら、これらはしたがって本発明による相関方法のステップb)で作成される。
【0155】
図3及び4は、候補リストLcと参照リストL1、L2、L3との相関の2種類の例、すなわち統計計算を使用する相関と幾何変換を特定することによる相関を示す。
【0156】
例示的相関の何れかを問わず、候補リストと参照リストの各々との間の相同の注目点を識別することから始めることが好ましい。実践において、相同の注目点はこのリストの中で容易に識別でき、これは、これらのリストがリレーショナルレポジトリのリレーショナル記述子のリストの順序に基づいて番号付けされているからである。したがって、相同の注目点はそれぞれのリストの中の同じランクに位置付けられる座標により表される。それゆえ、ランク1に位置付けられる座標、すなわちリレーショナル記述子Desc1がみつかるものは全て、本発明の意味における相同の注目点の座標であり、同じことがそれに続く1つ以上のランク2、3、及びNにある座標にも当てはまる。したがって、相同の注目点を識別することは、ある意味において、候補リストと参照リストの中の同じランクにある破線の枠をマッチさせることと同等であり、候補画像Icanの中で(又は参照画像
【数3】
の少なくとも1つにおいて)番号付きリストの中のリレーショナル記述子のうちの1つに関連付けられる注目点がない場合、候補リスト(又は、参照リストの少なくとも1つ)は空のままのランクを含むと理解されたい。
【0157】
統計計算(
図3に示される)によって、ランクごとに、候補リスト内に記録された相同点の座標を解析し、参照リストに記録されたものとランクごとに比較することが可能となる。
【0158】
幾何変換(
図4に示す)は、候補リスト内の各注目点を参照リスト内の相同の注目点の上に位置付けなおすことを試みる。例えば、幾何変換は同形異義性の形態をとり得るが、それが唯一の想定可能な幾何変換ではない。幾何変換は特に、並進及び/又は回転及び/又はスケールの変更を含み得る。
【0159】
図5は、本発明による相関及び参照リスト作成方法を示す。
【0160】
この図において、リレーショナルレポジトリRは複雑なレポジトリ画像から得られており、そこからリレーショナル記述子Desc1、Desc2、Desc3、...、DescNが抽出される。より詳しくは、選択された計算モード、ここではAccelerated KAZE(又はA-Kaze)モードがレポジトリ画像に適用され(
図5の矢印F1)、その結果、レポジトリ画像を適切に記述するリレーショナル記述子が得られる。レポジトリ画像はここでは群葉の中のイグアナを示している。このレポジトリ画像は、隣接するタイルのピクセルが相互に無相関であり、タイルの分布が非常にランダムでありながら、情報に富むという点で視覚的に複雑であり、これは、異なるリレーショナル記述子がこの画像の各領域を識別することを意味する。
【0161】
リレーショナルレポジトリに含まれる計算モードはここでは、レポジトリ画像からリレーショナル記述子を特定するために使用される計算モードと同じである。
【0162】
図示されていない1つの変形型によれば、リレーショナルレポジトリのリレーショナル記述子を、レポジトリ画像から前記リレーショナル記述子を抽出せずに、一から構成することも全く想定可能である。
【0163】
リレーショナルレポジトリRが確立されたところで、参照リストL1、L2、...、L5の作成方法が実行される(
図5の矢印F2)。この例では、作成方法は5つの参照画像
【数4】
に基づいて実行され、そこにリレーショナルレポジトリの計算モードが適用される(矢印F2)。参照画像は各々、有形被写体のクラスを表す。より詳しくは、第一の参照画像
【数5】
は第一の腕時計のモデルを表し、第二の参照画像
【数6】
は使い捨てカップのクラスを表し、第三の参照画像
【数7】
は第二の腕時計のモデルを表し、第四の参照画像
【数8】
は第三の腕時計のモデルを表し、第五の参照画像
【数9】
は郵便切手のクラスを表す。
【0164】
計算方法を適用することによって、各リレーショナル記述子Desc1、Desc2、Desc3、...DescNが各参照画像
【数10】
の中でみつかる注目点の座標を特定することが可能となる。注目点は、処理された参照画像の中の青い点で表される。
【0165】
すると、それぞれの参照画像
【数11】
の注目点の座標は参照リストの中のそれぞれの参照リストL1、L2、...、L5に記録される。リレーショナルリストの中で、リレーショナルレポジトリRのリレーショナル記述子Desc1、Desc2、Desc3、DescNの番号付きリストの順序(1、2、3、...、N)に適合される。
【0166】
次に、相関方法が実行される(矢印F4)。特に、候補画像Icanが撮影されるか読み出される。すると、リレーショナルレポジトリRの計算モード(矢印F5)がこの候補画像Icanに適用され、そこから、リレーショナルレポジトリのリレーショナル記述子がみつかる注目点が抽出される。これは、相関方法の前述のステップc)~e)を実行することと同等である。
【0167】
次に、候補画像Icanの注目点の座標が候補リストLcに記録される。候補リストLcでは、リレーショナルレポジトリRのリレーショナル記述子Desc1、Desc2、Dec3、DescNの番号付きリストの順序(1、2、3、...、N)に適合される。候補リストLcは、コンピュータ又は自動操作に使用できる形態、好ましくは参照リストL1、L2、...、L5のそれと同様の形態で記録される。
【0168】
最後に、候補リストLcが各参照リストL1、L2、...、L5と相関させられる(矢印F6)。ここで、相関は、候補リストLc内の注目点を各参照リストL1、L2、...、L5内の相同の注目点とペアにすることと、その後、相同の注目点とマッチさせるための最善の幾何変換を特定することである。
【0169】
ここで、最善幾何変換は、候補画像Icanの回転とスケーリングである。すると、この最善の幾何変換を特定することによって、候補画像が参照画像
【数12】
により表されるクラスのうちの1つに属することを特定することが可能となる。この場合、候補画像は、第三の参照画像
【数13】
により表されるクラスに属する。幾何変換を適用することによって、候補画像Icanと参照画像
【数14】
とのレジストレーションが可能となる。
【0170】
すると、本発明による相関及び作成方法を、その他の参照画像及び/又は他のリレーショナルレポジトリで繰り返すことも全く想定可能である。
【0171】
それゆえ、候補画像Icanと第三の参照画像
【数15】
との間の第一のクラスリンクを確立した後で、候補画像Icanの中に示される有形被写体が属するサブクラスを、一方で参照リストを作成して、第三の画像により表されるクラスに属し、このクラスのサブクラスを表す新しい画像からの新しいリストを確立する方法と、他方で、本発明による相関方法を繰り返すことによって明示することが可能である。このイテレーションは、ここで、同じリレーショナルレポジトリRを取り上げることによって実行されるが、それを変えることも全く想定可能であろう。このイテレーションにより、候補画像の中に示される有形被写体のクラスの認識を改善することができる。それゆえ、本発明による方法をさらに繰り返すことにより、有形被写体のユニタリ認識が可能となる。
【0172】
示されていないが、このイテレーションを、候補画像の、候補画像の当初相関された部分の総表面積と比較して縮小された表面積を有する注目領域に対して実行することは全く想定可能である。
【0173】
同じく示されていないが、本発明による相関方法を使って、オブジェクトのデジタル集合を確立することを目的として事前に確立した経路上の様々な有形被写体を認識することが有利であり、前記参照画像は前記事前に確立された経路に基づいて選択される。
【国際調査報告】