(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0022】
更に、図面では、幾つかの図面を通して同様の部分又は対応する部分が同様の参照文字によって指定される。
【0023】
本発明は、視覚的な送信と、繰り返し更新される情報の受信に関する。視覚的な送信を実行するシステムの基本的な設定には、転送すべき情報を表示するディスプレイ機器と、ディスプレイ機器から転送すべき情報を受信する又は読み出すための幾つかの画像又はモーションビデオキャプチャ装置とが含まれる。幾つかの実施形態によれば、
図1を参照すると、ディスプレイ機器10は、ディスプレイ12を有する電子機器、例えば携帯電話、携帯情報端末、タブレット、腕時計、ディスプレイを有するコンピュータ、又は妥当な大きさのディスプレイを有するその他いずれかの電子機器である。幾つかの実施形態では、モーションビデオキャプチャ機器14はデジタルビデオカメラであり、幾つかの実施形態ではカメラはスピーカー16に接続されうる。ディスプレイ機器10とデジタルビデオカメラ14とを使用した視覚的な送信における1つの問題は、ディスプレイが新たな情報で更新される期間中に、デジタルビデオカメラ14がディスプレイ12の画像をキャプチャすることである。上記状況において、キャプチャしたビデオフレームには、幾つかの新たな情報と幾つかの古い情報が含まれる、すなわち情報は最終的なものではない、あるいは破損している。情報がグラフィカルコード、すなわち情報を表すパターンを使用して表示された場合、情報を正確にデコードするためにおそらくグラフィカルコード全体をキャプチャしなければならないだろう。従って、ディスプレイ12上の情報の更新中にビデオフレームがキャプチャされた場合、デジタルビデオカメラ側で情報を正確にデコードすることができない。
【0024】
デジタルビデオカメラ14がディスプレイ機器10のグラフィック表示の更新が原因で破損した情報を含むビデオフレームをキャプチャするこの問題は、デジタルビデオカメラ14が同期していないために、デジタルビデオカメラ14がディスプレイ機器10に提示される完全に更新されたグラフィック情報のみをキャプチャした場合に、起こりうる。しかしながら、機器を同期させることと、機器を同期したまま維持することは簡単ではない。具体的には、この問題は、送信すべき情報が繰り返し更新されるため、破損した情報を含む画像フレームをキャプチャする危険性が高まる用途において明らかである。
【0025】
完全に更新されていない情報のグラフィック表示をキャプチャする問題は、繰返し更新される情報の少なくとも1つのグラフィック表示を常時ディスプレイに提示することによって、更新された情報の少なくとも1つのグラフィック表示をキャプチャすることができるようになっているディスプレイ機器を含む本発明の実施形態において対処される。用途の例は、カメラ設定、カメラの位置づけ、音声設定等であり、データの例は位置検出機器の地理的位置、測定機器の方向又は軸受、測定機器の回転又はピッチの度合い、マイクロホンでキャプチャされた音量レベル等であってよい。ディスプレイ機器10には、位置検出機器、測定機器、及び/又はマイクロホンが含まれ得る。
【0026】
図2のフロー図は、この目的を達成する実施形態のプロセスを記載したものである。このプロセスはディスプレイ機器10において実施されうる。転送プロセスS500は、第1のセットの情報を受信するステップS502を含む。次に、この情報に基づいて、視覚的送信のためにこの情報を表示するように、
情報担持パターンが生成されるS504。生成されたパターンは次に、ディスプレイ機器10のディスプレイ12に第1の色で表示されるS506。この情報は、用途に要求される解像度に依存する所定の周波数で繰り返し更新されうる。この解像度は、例えば音声又は他のタイムクリティカルなデータを表すときに、データセンサ情報を情報受信機器へ実況中継的に、また高品質のデータを得るのに十分な時間単位ごとのサンプルポイントで供給するために必要でありうる。幾つかの用途において、例えばグラフィックパターンに提示されたデータがカメラによってキャプチャされた画像の残り部分と関連付けされる時、あるいはディスプレイのキャプチャされた画像フレームにおける位置が、グラフィックパターンを介したデータとして転送された位置に関連付けされる状況では、待ち時間がより重要である。待ち時間は、ディスプレイの応答時間、及びカメラが画像フレームのサンプリングをするのにかかる時間によって変化しうる。更新された情報は、代替的に又は補完的に、ディスプレイ機器10へ情報を供給する位置づけ機器の動き、キャプチャした音の変化、ディスプレイ機器10、又は別々のコンパス機器の方向の変化、加速度センサからのセンサ入力の変化等に応じて更新されうる。更新された情報が受信されS508、この受信した更新情報に基づいて
情報担持パターンが生成されるS510。
この情報担持パターンはその後、第2の色でディスプレイ12に表示される。第1の色の
情報担持パターンがディスプレイ12にまだ提示されているときに第2の色の
情報担持パターンが表示されるため、第1の色及び第2の色の
情報担持パターンが同時にディスプレイ12に提示される。
【0027】
その後プロセスは継続し、別の更新情報が受信されるS514。新たな
情報担持パターンが、受信された更新情報から生成されS516、第1の色で現在表示されている
情報担持パターンが、これもまた第1の色で表示されるこの新たな
情報担持パターンに置き換えられるS518。次に、更に別の情報の更新が受信されS520、新たな
情報担持パターンがこの情報の更新から生成されるS522。この
情報担持パターンは第2の色で表示され、前に表示された第2の色の
情報担持パターンと置き換えられるS524。次にプロセスはS514に戻り、再びステップS514からS524までが実施され、これにより新たな更新情報が繰り返し受信され、更新情報から
情報担持パターンが生成され、それぞれ交互に第1と第2の色で表示される。このプロセスは、ユーザ、タイマー、又は実行を妨げる別のプロセスによって停止されるまで、何度も何度も繰り返される。
【0028】
情報担持パターンは、カメラ14を使用して読み取られデコードされうる任意のグラフィックコードであってよい。
情報担持パターンの例は、バーコード、QRコード、印刷された文字等である。例えばバーコード等の一次元グラフィックコードに対する、例えばQRコード等の二次元グラフィックコードに伴う利点は、二次元グラフィックコードの方が一次元グラフィックコードよりも高い情報密度、すなわち表面単位ごとにより多くのデータが可能になることである。
【0029】
図2に関連して記載されるプロセスでは
、情報担持第1パターンは第1の色で表示され、
情報担持第2パターンは第2の色で同じディスプレイ上に同時に表示される。
情報担持パターンのうちの1つを更新中に、ディスプレイ機器10に他の
情報担持パターンが静的に表示される。これにより、最新の完全に更新された情報を常時読むことが可能になる。
【0030】
図3a及び3bにそれぞれ、
情報担持第1パターン550と、
情報担持第2パターン552の例を示す。本発明の実施形態によれば、2つの
情報担持パターンを同時に表示することを可能にする、あるいは他のパターンが更新されている間に、
情報担持パターンのうちの1つを静的パターンとして少なくとも表示することを可能にするために、各々独特の色を有する2つの
情報担持パターン550、552を互いに組み合せる、又は織り込む。点線で示す
図3a及び3bの、
情報担持パターン550、552の部分553に対応する2つの
情報担持パターン550、552を織り込む1つの方法を、
図4に示す。2つのパターンを互いに区別するのに使用される色はそれぞれ、緑色及び赤色であってよい。しかしながら、当業者は他の色が使用されうることを認識する。
【0031】
図4に示す2つの異なる色の
情報担持パターンを織り込むことにより、2つのパターンを各々、ディスプレイ面積の大部分に表示することが可能になり、これにより2つのパターンが隣り合わせに位置づけされた場合よりも情報担持パターンの解像度を高めることが可能になる。従って、この構成により、各送信に更に多くの情報を含むことが可能になる。2つの
情報担持パターン550、552の織り込みは、各情報担持グラフィック要素、例えばこの情報位置のステータスによって普通白又は黒で色づけされた各四角形に対応するQRコードにおける情報の位置554等を、より小さいエリアに細かく分けることによって形成される。
図4では、図示した情報の各位置は、情報の位置554を表す四角形内の小さい四角形として提示される各々16の小さいエリアに細かく分けられる。情報担持パターン550、552の異なる色は、
図4の異なる陰影によって示される。垂直の陰影パターンを有するサブエリア556等のサブエリアは、例えば緑等の第1の色を表し得、斜めの陰影パターンを有するサブエリア558等のサブエリアは、例えば赤色等の第2の色を表し得る。情報の位置554を表す同数のサブエリアはそれぞれ第1の色と第2の色とを表していてよく、
図4に示すように、情報の位置554に代替的に配置されうる。従って、
図3a及び3bに示す別々の情報パターンからの各部分553を有する
図4に示す
組み合わされた情報担持パターンは結果的に、各
情報担持パターンの対応する位置が白である場合は情報の位置554は全て白であり、各
情報担持パターンの対応する位置から生じる両方の色のサブエリアを含む情報の位置554は黒であり、第1の色のサブエリアと
図3aの第1の色の情報パターンの対応する位置を示す白いサブエリアとを含む情報位置554は黒であり、
図3bの第2の色の情報パターンの対応する位置は白であり、第2の色のサブエリアと白いサブエリアとを含む情報の位置554は、
図3bの第2の色の情報パターンの対応する位置が黒であり、
図3bの第2の色の情報パターンの対応する位置が白であることを示す。
【0032】
ここで、本発明の実施形態による情報受信プロセスS600全体のフロー図を示す
図5を参照する。このプロセスは、モーションビデオカメラ、又は処理装置とモーションビデオカメラを備えるシステムにおいて実施される。モーションビデオカメラは、モーションビデオカメラの画像センサによってキャプチャされたモーションビデオフレームを記録しているS602。
情報担持パターンを識別するために、記録された画像フレームが解析されるS604。
情報担持パターンの識別は、当業者に周知の方法で実施され、使用されるグラフィックコードの種類によって変化しうる。識別された
情報担持パターンにおいて、第1の色を有する情報の位置が識別され、抽出されて
情報担持第1パターンが形成されるS606。この第1の色の
情報担持パターンは次にデコードされS610、このデコードされた情報が破損していない場合S612、プロセスは、現在転送された情報の受信先であるアプリケーションに従ってデコードされた破損していない情報を管理することによって継続するS618。アプリケーションとは、システムにおいて実行されるコンピュータプログラムである。上述したように、上記アプリケーションは例えばカメラ位置づけアプリケーション、カメラ設定アプリケーション、音声構成アプリケーション等であってよい。次に、送信された情報が適切な受信先に伝達されると、プロセスはステップS602に戻り、デコードするために新たな画像が記録される。
【0033】
しかしながら、ステップS610においてデコードされた情報が破損したと判断された場合S612、第2の色を有する
情報担持パターンの情報位置が識別され、抽出されて
情報担持第2パターンが形成される。この第2の色の
情報担持パターンは次にデコードされS616、このデコードされた破損していない情報は、現在転送された情報の受信先のアプリケーションに従って管理されS618、プロセスはS602に戻る。
【0034】
本発明の実施形態をシステムに使用して、以下に更に詳細に記載される固定調査及び/又は監視カメラの位置を決定することができる。以下の説明にも、上述した
情報担持パターンに何が含まれるか、また
情報担持パターン自体の更なる使用を示す実施例を記す。カメラは、可動でないという意味で固定である、すなわち、カメラはある場所から別の場所へ定期的に動かない。カメラはしかしながら、PTZカメラ、すなわちパン及びチルトが可能なカメラであってもよい。
【0035】
一実施形態によれば、
図6を参照すると、ディスプレイ12を有するモバイル機器10が、少なくともモバイル機器10の地理的位置を示す情報を含むQRコードを生成するように動作する。QRコード以外の他のグラフィカルコード、例えばいずれかの二次元グラフィカルコード、いずれかの一次元グラフィカルコード、標準文字等も当然ながら使用することができるが、本発明を理解しやすくするために、本書の他の部分全体の実施例においてQRコードが使用される。あるいは、一時的なコード化、例えば、ディスプレイ上の一又は複数の位置の輝度の変化を使用した情報の転送を使用することができる。しかしながら、一時的なコード化が、幾つかの二次元グラフィカルコードに関する全ての利点を呈するとは限らない。モバイル機器は、携帯電話、ポータブルGPS、タブレットコンピュータ、又は実施形態間で異なり、以下に全て記載するディスプレイと、必要とされる機能的構成要素を有する他の何らかの機器であってよい。モバイル機器10のディスプレイ12にQRコードが表示され、カメラがモバイル機器のディスプレイに提示されたQRコードの画像をキャプチャし検出するために、監視システムの監視カメラ14にモバイル機器10のディスプレイが示される、すなわちモバイル機器のディスプレイは一時的に光入力、例えば監視カメラのレンズに向くように配置される。次にQRコードがデコードされ、監視カメラはコードに付与された位置情報でタグ付けされる、すなわち地理的位置情報がカメラに記憶され、カメラの位置として識別される、又はこの特定のカメラの位置として記憶される中央サーバに記憶される。
【0036】
図7は、モバイル機器10のディスプレイ12に提示されたQRコード22の例を示し、図面のQRコード22は本発明による情報を含まないが、QRコード22が監視カメラ14及び/又は監視システムに依存しうる幾つかの追加のパラメータを説明するために含めた例である。一実施形態では、QRコード22は位置に加えて、QRコード22のディスプレイ固有の空間情報を含みうる。このディスプレイ固有の空間情報は、ディスプレイ12に提示されるQRコード22の実際のサイズ又は実際の距離に関するものでありうる。例えば、ディスプレイ固有の空間情報は、QRコード22の2つの角の間の距離LQを表していてよく、これはQRコード22における位置表示器Pの幅WP又は高さHPを表しうる。監視カメラ14又はシステムによってこのディスプレイ固有の空間情報を使用して、監視カメラ14とモバイル機器10との間の距離を計算することができる。この計算された距離を次に、監視カメラ14の実際の地理的位置により厳密に対応するように、監視カメラにおいて受信されるモバイル機器10の地理的位置を調節するために用いることができる。ディスプレイ固有の空間情報を使用して、以下に説明する更なる調節及び計算を行うことができる。
【0037】
更に、QRコード22は、モバイル機器10が面している水平方向に関する情報を含みうる。方向は、コンパスで使用されるように、北に対する度合いで示すことができ、この水平方向は、モバイル機器10に含まれる電子コンパスによって生成されうる。水平方向は、監視カメラ14のパン角又は方向として見ることができる。加えて、QRコード22は、モバイル機器10が面している垂直方向、すなわち傾斜角に関する情報を含みうる。この傾斜角は、モバイル機器10の傾斜センサによって生成されうる。
【0038】
モバイル機器10によって提示されるパン方向及び/又は傾斜方向は、特にモバイル機器10のディスプレイ12が監視カメラ14の光軸に対して直角の平面にほぼ保持されている場合、監視カメラの実際のパン方向及び傾斜方向と近似すると想定されうる。この場合、モバイル機器10の裏面は、監視カメラ14と同じ方向に向くようになっている。ユーザが、モバイル機器10のディスプレイ12をディスプレイに対してほぼ直角に保持しやすくするために、監視カメラ14はモバイル機器10のディスプレイ12上のパターンを検出し、ディスプレイ12に提示されたパターンの直線がほぼ直線としてキャプチャされているか、あるいはディスプレイ12上に提示された同じサイズを有するグラフィック特徴が本当に同じサイズの特徴としてキャプチャされているかをチェックしうる。監視カメラ14は、モバイル機器10のディスプレイ12が光軸に対してほぼ直角であることを監視カメラ14が識別した時に、合図しうる、又は光源に光を放射させうる。QRコード22又は使用される他の何らかのコードを、この種の参照パターンとして使用可能である。更に、QRコード22のパターンが正しい位置にある時に監視カメラ14が真方向をキャプチャすることができるように、モバイル機器10の変化する方向を含むために、QRコード22が頻繁に変化しうる。
【0039】
あるいは、監視カメラ14はQRコード22を表すパターンをキャプチャし、次に光軸と、QRコード22で定められた方向との間のずれを計算する。この計算は、監視カメラ14によってキャプチャされたパターンの射影ひずみに基づくものであってよい。上記計算の実施例を以下に提示する。
【0040】
別の実施形態では、QRコード22はロール角を含みうる。本願の説明において、ロール角は、モバイル機器10がディスプレイ12に対して直角の軸周囲で回転して、ディスプレイの底部又は上部エッジを水平面、すなわち現実世界の水平面に持ってくるべき角度と解釈されるべきである。監視カメラ14において、ロール角は、監視カメラ14がそれ自体の光軸周囲で回転して、キャプチャされた画像の底部又は上部エッジを水平面、すなわち現実世界の水平面に持ってくるべき角度と同様に定義される。モバイル機器10のロール角は、ジャイロと組み合わされた幾つかの実施形態において加速度センサを用いることによって検出することができ、ディスプレイ12のQRコード22に提示される。この情報は次に監視カメラ14によって使用され、監視カメラ14のロール角が計算されうる。
【0041】
更に、一実施形態では、QRコード22は、位置データと潜在的な他の適用可能なデータを監視カメラ14と監視システムへ供給するように認定されたモバイル機器10として、モバイル機器10を認定する暗号コードを含む。暗号コードは、公開鍵暗号、対称鍵暗号、又は他の何らかの暗号カテゴリを使用して実装されうる。様々な暗号作成法のカテゴリには、複数の周知の実装態様が存在する。
【0042】
QRコード22を介した位置データと潜在的な他のデータの転送の開始は、監視カメラ14にQRコード22検出プロセスを頻繁に実行させることによって達成される。このように、監視カメラ14は常に、QRコード22を介して座標及び他のデータを受信するような態勢でいる。1つの不利点は、識別するQRコード22がない時に長期間システムリソースが無駄になるということでありうる。従って、この方法はおそらく、QRコードが他の目的のためにも使用されるシステムにおいて使用され、この他の目的のためのQRコードの使用は、QRコード検出プロセスを頻繁に実行するシステムリソースの使用に無理な負担がかからないような高い頻度で実行される。QRコードを検出するプロセスを実行する頻度は、用途によって変化しうる。しかしながら、検出のために人が30秒を超えて待つ必要がないようにしなければならない。監視カメラ14がQRコードを検出したときに、監視カメラ14の幾つかの表示器、音又は光が、QRコード22が検出され、その処理が開始された、あるいは終了したことを、モバイル機器10を制御している人に知らせるべきである。
【0043】
あるいは、QRコード検出期間は、監視ネットワークを制御するように認定された機器からのネットワークを介した信号によって開始される。監視システムの監視カメラ14の全て、あるいはサブセットが、その期間中に所定の間隔を置いてQR検出プロセスを実行するように、システムを構成してもよい。好ましくは、プロセスは、監視カメラ14にモバイル機器を見せているユーザが、コードが検出される前に気に障るほどのいかなる待ち時間にも気づかないほどしばしば実行されるべきである。検出プロセスが頻繁に実行されるQRコード検出期間は、全て監視システムの拡張範囲によって特定の長さ、例えば1時間又は30分等に設定することができる。あるいは、監視ネットワークを制御するように認定された同じ機器から、又はこれもまた認定された別の機器から信号を送ることによって、QRコード検出期間を手動で終了させることができる。
【0044】
上述の実施形態のいずれかにより、監視カメラ14へ供給される情報は、多くの目的で監視カメラ14によって、又は監視システムによって使用されうる。例えば、位置及び方向情報を使用して、マップ又は建築計画において監視カメラ14を正確に位置づけすることができる。この位置を使用して、監視カメラ14を正しい位置に描写することができる。監視カメラ14によって監視されるエリアの数値表示を描写するためにパン方向を使用することができ、このエリアの計算は、カメラによって使用される焦点距離を考慮することによって、より精度の高いものとなり得る。
【0045】
斜めの水平線及び射影ひずみを除去するためにキャプチャされた画像を電子的に調節するため、監視カメラ14のロール角、及び監視カメラ14のチルト角が使用されうる。
【0046】
更に、監視カメラ14間での追跡物体の引継ぎ、又は監視されていないエリアの識別を促進するために、監視カメラ14の位置及びパン方向を監視システムに使用しうる。
【0047】
本発明の一実施形態によれば、監視カメラ14の位置を決定するプロセスは、モバイル機器10を持っている人が監視カメラ14に向くこと、又はモバイル機器10が配備された輸送体を監視カメラ14に向けることを含む。モバイル機器10が監視カメラ14によってディスプレイ12がキャプチャされる位置にある場合、
図8及び9にそれぞれ参照しながら以下に説明するプロセスは、監視カメラ14の位置を決定する一例を提示するものである。ここで、モバイル機器10が位置センサから地理的座標を読み取っている(S302)
図8を参照する。機器10に電源が入ると連続的にモバイル機器10によってこの地理的座標の読み取りが実施され、この読み取りは機器10のユーザがプロセスを含むアプリケーションを開始したことに応じて開始しうる、また監視カメラ14の位置を決定するのにモバイル機器10が使用されることに関連して開始されうる。全ての実施形態においてではないが、利用可能であれば、ディスプレイ12又はモバイル機器10の裏面が向いている方向が方向センサから読み取られ(S304)、チルト方向がチルトセンサから読み取られ(S306)、ロール方向がロールセンサから読み取られる(S308)。同じセンサから、チルト方向及びロール方向に使用されるデータが読み取られうる。次に、センサから読み取られた少なくとも1つのデータポストを含むメッセージが、モバイル機器10において生成される(S310)。モバイル機器10に記憶された所定の認証コード、又はユーザによって入力された認証コードもまた、メッセージに含まれる。更に、
図7に関して説明したように、ディスプレイ固有の空間情報もメッセージに含まれうる。メッセージが生成されると、メッセージはQRコード22に符号化され(S312)、次にモバイル機器10のディスプレイ12に表示される(S314)。このプロセスは次に、潜在的に更新されたセンサデータを含む新たなQRコード22を表示するために新たなセンサデータを読み取るため、S302へ戻る。
【0048】
ここで、監視カメラとしての動作の一部として、監視カメラ14が所定の速さで連続的に画像をキャプチャしている
図9を参照する(ステップ402)。現在キャプチャされている画像が次に、QRコード22についてチェックされる(S404)。QRコード22が見つからない(S406)場合、プロセスはS404へ戻り、後にキャプチャされた画像がQRコード22についてチェックされる。キャプチャされた画像においてQRコード22が見つかるまで、これが繰り返される。引続きキャプチャされる各画像が、必ずしもQRコード22についてチェックされるわけではない。QRコード22が見つかると、QRコード22は監視カメラ14によって処理されうる形態に翻訳され又はデコードされる(S408)。結果的に得られたメッセージが次に、有効な認証コードについてチェックされる(S410)。有効な認証コードがない(S412)場合、プロセスはS404へ戻り、ここで新たな画像がQRコード22についてチェックされる。しかしながら、認証コードが有効である場合、メッセージは認定されたセンサデータを含み、このセンサデータが抽出される(S414)。抽出されたセンサデータポストは次に、監視カメラ14に記憶され(S416)、そのまま使用される、あるいはセンサデータを、QRコード22に含まれるディスプレイ固有の空間情報と組み合わされたキャプチャされたQRコード22の画像の解析から結果的に得られたデータと組み合わせることによって更に精度を上げて使用される。その後、それ自体のおおよその位置情報、例えば地理的座標、水平方向、垂直方向及び/又はロール方向が監視カメラ14に記憶され、プロセスが終了する。
【0049】
ここで、
図10を参照しながら、本発明のプロセスを実施することが可能なモバイル機器10の一実施形態を説明する。モバイル機器は、カラーディスプレイ12、モバイル機器10の機能を定義するコードを実行するようになっている処理装置102、揮発性メモリ104、非揮発性メモリ106、ディスプレイ12にモバイル機器10の情報を提示するためにモバイル機器10の他の部分と連結するディスプレイドライバ108、モバイル機器にデータを手動で入力するための入力手段110、幾つかの地上位置づけサービスにアクセスすることによってモバイル機器の地理的位置を取得するGPS受信機112、モバイル機器10が向いている方向を提供するコンパス114、及び単一のセンサであってよいが、2つの別々のセンサであってもよいチルト及びロールセンサ116を含む。更に、この実施形態によるモバイル機器10は、処理装置102によって実行されるべきプログラムモジュールとして実装されるQRコード生成器118と、これもまた処理装置102によって実行されるべきプログラムモジュールとしても実装されるメッセージ生成器120とを含む。
【0050】
チルト及びロールセンサ116は、少なくともこれらの角度又は方向を検出するようになっている複数の加速度センサを含むモジュールであってよい。しかしながら、チルト及びロールセンサ116はまた、例えば1つは前後の傾き、すなわちチルト用であり、1つは左右の傾き、すなわちロール用である2つのチルトセンサであってもよい。
【0051】
ここで、本発明のプロセスを実施することが可能な監視カメラ14の一実施形態を、
図11を参照しながら説明する。監視カメラ14は、いずれかの普通の監視及び/又は調査カメラであってよい。本発明は、所定のエリアを監視する又は調査する固定カメラに有利に適用される。従って、監視カメラ14は、例えばレンズ202、画像センサ204、画像プロセッサ206、中央処理装置208、揮発性メモリ210、及び非揮発性メモリ212等の標準の監視カメラの特徴を含む。加えて、監視カメラ14はネットワーク化された監視カメラであってよく、この場合、監視カメラ14は物理及び論理ネットワークインターフェース214を含む。更に、本発明の一実施形態の監視カメラ14は、QRコードデコーダ216、位置設定モジュール218、広範囲のパン方向設定モジュール220、及び広範囲のチルト及びロール設定モジュール222とを含む。
【0052】
QRコードデコーダ216は、QRコードを表すグラフィックスを処理して、モバイル機器10においてQRコード22に符号化されたメッセージを再作成するようになっており、この処理は、当業者に周知のアルゴリズムによって実施される。別のグラフィック表示が使用される用途では、代わりにデコーダがこれらのグラフィック表示に適合される。例えば、コードがモバイル機器のディスプレイに提示された標準文字である場合は代わりに、光学式文字認識(OCR)ベースのデコーダが実装され、コードがバーコードである場合、バーコードデコーダが代わりに実装される。
【0053】
位置設定モジュール218は、後に使用するため、及び/又は中央サーバへ送るために、監視カメラ14の位置を記憶するようになっている。QRコード22、及びキャプチャされたQRコード22の画像において測定された特徴に含まれるディスプレイ固有の空間情報から計算された追加のデータを考慮することによって、監視カメラ14の位置の精度が上がった場合に、位置づけモジュール218においても上記のような精度の高い計算が実施されうる。
【0054】
広範囲のパン方向設定モジュール220は、後に使用するため、及び/又は中央サーバへ送るために、監視カメラ14の視野方向を表すコンパス方向を監視カメラ14に記憶させるようになっている。QRコード22、及びキャプチャされたQRコード22の画像において測定された特徴に含まれるディスプレイ固有の空間情報から計算された追加のデータを考慮することによって、監視カメラ14のパン方向の精度が上がった場合に、広範囲のパン方向設定モジュール220においても上記のような精度の高い計算が実施されうる。
【0055】
広範囲のチルト及びロール設定モジュール222は、後に使用するため、及び/又は中央サーバへ送るための監視カメラ14のカメラのチルトを表す値、及び監視カメラ14のロールを表す値を記憶するようになっている。QRコード22、及びキャプチャされたQRコード22の画像において測定された特徴に含まれるディスプレイ固有の空間情報から計算された追加のデータを考慮することによって、監視カメラ14のチルト及び/又はロールの精度が上がった場合に、広範囲のチルト及びロール設定モジュール222においても上記のような精度の高い計算が実施されうる。
【0056】
監視カメラにはまた、監視カメラ14の光学系202の現在の焦点距離に関するデータを提供するようになっている、焦点距離検出器224も含まれうる。焦点距離検出器224は、ステップモータ、又はカメラのズーム機能を制御している他の何らかの制御システムからの位置信号として実装されうる、あるいは、キャプチャされた画像データを解析する監視カメラの処理装置で実行される画像を解析する方法の実装態様であってよい。更に、焦点距離を変えることが出来ないシステムにおいては、計算に使用するために焦点距離の値が監視カメラに記憶されうる。
【0057】
画像プロセッサ206において、QRコードがキャプチャされた画像に存在するか否かの検出が実施されうる。モバイル機器10又は監視カメラ14の前のフロー図及び他の機能に記載されたプロセスは、それぞれの機器の処理装置、例えばモバイル機器10の処理装置102、監視カメラ14の中央処理装置208において実行されるプログラムコードとして実装しうる、又はこれらのプロセス又は機能は、論理回路を使用して実装しうる。
【0058】
一実施形態によれば、監視カメラ14は、上述したように取得された任意の位置及び方向データが更なる使用又は処理のために送られうる中央サーバ20を含むネットワークに接続される。上記ネットワーク化されたシステムは、これもまた本発明を実行する追加の監視カメラ16を含みうる。カメラの位置及び方向に関するデータを使用して、計画上の正確な位置に特定の監視カメラの姿を描き出し、カメラと、カメラの視野の表示を、それが取り付けられた方向に向けることができる。
【0059】
上述したように、QRコードのサイズ及び形状の情報、又はモバイル機器に表示された他のパターンを使用して、モバイル機器の位置及び方向に基づいて、カメラの位置及び方向のさらに詳細な決定値が計算されうる。例えば、現実世界での3D座標と、カメラの3D座標との間の関係を表すホモグラフィが使用されうる。
【0060】
モバイル機器の地理的座標が決定され、QRコードをキャプチャすることによってこの地理的座標が利用可能であり、QRコードのサイズ及び形状の情報もまたQRコードに含まれる場合、モバイル機器とカメラの位置と方位との関係が決定されうる。従って、カメラとモバイル機器との間の位置及び方向の差を決定するために、それ自体周知であるカメラ較正手順の原理を使用することによって、またこれらの差を使用して、モバイル機器の位置及び方向からカメラの位置及び方向を決定することによって、より正確にカメラの位置を決定することができる。
【0061】
QRコードのサイズ及び形状の情報が得られれば、QRコード自体の座標系におけるQRコードのポイントの位置(例えば角又は位置インジケータ)が分かる。QRコードの画像のポイントと、モバイル機器に表示されたQRコードの対応するポイントとを一致させることによって、座標の対が得られる。上記対の座標間の関係を、以下の公式で表すことができる。
(x
i、y
i)→(X
i、Y
i、Z
i)
上記式において、(x
i、y
i)は画像の2D座標を示し、(X
i、Y
i、Z
i)は現実世界の3D座標を示す。
【0062】
現実世界のポイント、例えば表示されたQRコードのポイント、及び画像のポイント、例えばカメラによってキャプチャされたQRコードのポイントは、同次ベクトルによって提示されうる。
図12を参照すると、その中心射影は線形変換であり、以下のように表すことができる。
上記式において、fはカメラの焦点距離であり、(x
i、y
i、f)は画像のポイントの3D座標を示し、(x
s、y
s、z
s)はシーンにおける対応するポイントの3D座標を示す。
【0063】
ここに提示された計算は、現在の焦点距離が予め分かっていなくても実施することができるが、焦点距離がすでに分かっていれば計算はより速くなる。現在の焦点距離を取得する方法の幾つかの実施例を、本書において後に記載する。
【0064】
(x
0、y
0)で示される画像中心と、距離から画素へのスケーリングのための倍率を使用して、kxとkyで示される距離から画素への変換を行うことができる。以下の2つの方程式において、x
pix及びy
pixは画素で測られる座標を示す。
【0065】
上記の長さで表される方程式と同様に、画素で表される以下の方程式を使用することができる。
ここで、画素で表される焦点距離と見なされうる下記が成り立つ。
【0066】
画素の座標は、次のように表すことができる。
【0067】
スキューパラメータSを加えると、再配列は次のように行われ得る。
【0068】
3×3上三角行列Kは、較正行列と称される。行列Kのパラメータは、カメラの固有パラメータを含み、変換工程において重要な入力である。
【0069】
図13及び14を参照すると、画像座標系のシーンポイント(x
s、y
s、z
s)と、現実世界座標系のシーンポイント(X
s、Y
s、Z
s)との間の関係は、並進ベクトルCO=Tを、画像座標系の開始ポイントから現実世界座標系の開始ポイントまで現実世界座標系におけるポイントMを示すベクトルへ加えることによって、取得することができる。
【0070】
同次座標を使用すると、これは以下のようになりうる。
【0071】
あるいはこれを、下記のように表すことができる。
【0072】
は、世界座標系で表されるベクトルOCである。Tの代わりに
を使用することにより、以下の方程式を設定することができる。
【0073】
カメラの射影行列及び座標変換行列を、1つの行列Pに組み合わせることができる。
から、下記が得られる。
これは以下のように表すことができる。
又は
x=PX
【0075】
この行列Pは自由度11を有し、そのうちの5は較正三角行列Kから、3はRから、そして3は
からである。Pは3×4行列であり、左3×3部分行列KRは非特異であることが挙げられる。シーンポイント、及び画像における対応するポイントとを使用して、Pを推定することができる。較正行列Kがすでに分かっている場合、この推定は大幅に簡略化される。しかしながら、十分な数の対のポイントを使用すれば、較正行列がまだ分かっていなくても、Pを推定することができる。
【0076】
カメラの並進を決定するためには、シーンにおけるCの同次座標を見つけなければならない。Cは、行列Pのヌルベクトルであり、従って下記が成り立つ。
【0077】
特異値分解を使用して、PのヌルベクトルCを得ることができる。
【0078】
更に、カメラの方位及び固有パラメータが得ることができる。ここで、Pの左3×3部分行列Mは、M=KRの形式であることに留意しうる。Kは上三角行列であり、Rは直交行列である。非特異な行列Mは、RQ因数分解を使用してK及びRの積に分解されうる。上ですでに述べたように、較正マトリクスKがすでに分かっている、すなわちカメラは較正されている場合、計算は簡略化される。
【0079】
行列Pは、世界座標系の3DポイントX
iと、画像のX
iの対応する画像x
iを取って、全てのiに対してx
i=PX
iとすることによって計算可能である。この行列Pを次に使用して、P行列から計算されたパラメータによって調節される、モバイル機器に表示されたQRコードに規定されたモバイル機器の位置に基づいて、カメラの位置及び方位を計算することができる。現実世界座標、すなわちカメラによってキャプチャされた画像面の外の三次元世界に関する座標のQRコードに対するカメラの位置は、行列Cに付与され、現実世界座標系の三軸に対するカメラの方位、すなわち三軸の視野におけるカメラの回転は、行列Rに付与される。
【0080】
上記の計算は、例えばOpenCV、又はMatlabのCamera Calibration Toolboxで利用可能なソフトウェアコードを使用して実施可能である。
【0081】
システム、すなわちレンズの焦点距離を、上記のPマトリクスから抽出することができる。しかしながら、計算速度を上げて、上記のマトリクスを解くのに必要な処理力を抑えるために、焦点距離を前もって付与することができる。この場合、例えば固定焦点距離レンズを有するシステムにおいて焦点距離を予めセットすることができる、あるいは打ち込むことができる。あるいは、監視カメラは、自動で焦点距離を決定する方法を使用しうる。使用中のレンズの焦点距離を識別するように構成された方法は、たくさんある。上記方法の一実施例は、
図15を参照して以下の方程式に提示される近似値を用いる。
【0082】
方程式において、h
1は例えば
図7のグラフィカルコードの距離LQ等の高さHを有する物体のキャプチャされた高さ、又はモバイル機器全体の高さである。L
1はカメラから物体までの距離であり、fは使用中のレンズの焦点距離である。焦点距離fは、画像センサ上でキャプチャされた物体の高さh
1が、カメラから第1の距離L
1においてカメラによって決定された場合、画像センサ上でキャプチャされた物体の高さh
2が、第2の距離L
2においてカメラによって決定される(
図16参照)。
【0083】
これを達成するために、以下にdで示される、キャプチャされた2つの物体画像間で移動した距離が測定される、あるいは推定される。
d=L
1−L
2
【0084】
物体の本当の高さは、同じく位置とは無関係であり、以下の結果となる。
及び
h
1L
1=h
2L
2=h
2(L
1−d)
【0086】
上記式の結果、以下の焦点距離の方程式が成り立つ。
【0087】
従って、2つの異なるキャプチャした瞬間においてグラフィカルコード間の所定距離で2つのグラフィカルコードの画像をキャプチャすることによって、カメラは焦点距離を計算することができる。
【0088】
他の実施形態では、モバイル機器を監視カメラ14に接触させながら保持することによって、監視カメラ14の位置を決定することができる。モバイル機器10が監視カメラ14とほぼ同じ地理的位置に位置づけされるようにモバイル機器10をレンズの前で保持してもよく、モバイル機器10の前又は後ろが監視カメラ14のレンズの外側リムと同一平面上に保持された場合に、モバイル機器10の方向と監視カメラ14の方向はほぼ対応するようになる。更に、監視カメラ14のロール角をモバイル機器10のロール角にほぼ対応するようにするためには、モバイル機器10を保持しているユーザが、携帯電話機のほぼ直線的なエッジが監視カメラ14のほぼ直線的な特徴と視覚的に合致するまでモバイル機器10のロール角を変えることができる、例えばユーザは、モバイル機器の上方エッジが監視カメラ14の上方エッジ又は表面と平行するように保持することを目標にしうる。モバイル機器10が上述したように適所に保持されると、ユーザはモバイル機器10によって検出される地理的位置、方向、及びロール角のいずれか1つ、又はいずれかの組み合わせを少なくとも一時的に記憶するプロセスをトリガすることになる。この記憶プロセスは、ユーザがモバイル機器10のボタンを押すことによって、又は他の何らかの可能なトリガ動作を行うことによって、トリガされうる。モバイル機器10は上述したように、モバイル機器のディスプレイ12に表示するためのグラフィカルコード22を生成する。グラフィカルコード22は、例えば地理的位置、方向、及び/又はロール角等の少なくとも幾つかの記憶されたデータを含む。本書で前述したように、グラフィカルコードはQRコードであってよい。モバイル機器10は、モバイル機器10のディスプレイが監視カメラ14自体によってキャプチャ可能となる監視カメラ14のレンズから、ある距離だけ移動する。次に、監視カメラはグラフィカルコードをデコードし、グラフィカルコードに符号化された特徴によって、それ自体の地理的位置、視野方向、及び/又はロール角を決定しうる。
【0089】
ロール角はこの設定では動的であってよい、すなわちモバイル機器10が位置データの他の部分を記憶するためにトリガされた時に、ロール角がキャプチャされた値に固定されない。次に、監視カメラ14は前述したように、ロール角のデータ、従ってQRコードが頻繁に更新される、ロール角のデータ上において動作しうる。
【0090】
その他の実施形態では、監視カメラ14を設置している、又は修理している人がキャプチャされた画像の水平レベルを得やすくなるように上述のプロセスを使用することができる。モバイル機器10は、上記いずれかの実施形態に記載されるカメラの前に保持される。モバイル機器のディスプレイ12に提示されるグラフィカルコードは、モバイル機器10のロール角に関連する情報を少なくとも用いて頻繁に更新される。カメラは、グラフィカルコードのキャプチャされた画像と、グラフィカルコードに含まれるデコードされた情報とに基づいて、カメラ自体のロール角を計算する、すなわち監視カメラは、キャプチャされた画像と、モバイル機器10から提供された情報とに基づいて、カメラ自体のロール角を計算する。結果的に得られた監視カメラのロール角は次に、例えば監視カメラ自体によって、又はカメラに接続されたネットワークにおける計算手段によって評価され、ロール角が許容範囲にあるか否かを示すために監視カメラ14によって生成される音又は光が制御される。音又は光は、ロール角が許容範囲内であるか、あるいは許容範囲外かのいずれかを示すために生成されうる。
【0091】
上記実装態様を理解しやすくするために、一実施例を提示する。モバイル機器は、カメラによってグラフィカルコードがキャプチャされうるようにグラフィカルコードを示すために監視カメラ14の前に保持される。監視カメラの光軸周囲で、及び水平に対してカメラに角度がついている場合、光を放射させるための発光ダイオード(LED)が起動される。カメラを設置している、又は修理している人は次に、LEDが光の放射を停止するまで光軸周囲でカメラを回し、これによりロール角が許容範囲内にあることが示されうる。
【0092】
カメラの位置を決定する際に高い精度が所望される場合は、モバイル機器がカメラの前であちこち移動するときに、モバイル機器に表示されたQRコード又はその他のパターンを更新する必要がある。しかしながら、カメラが画像をキャプチャするフレームレートが必ずしもモバイル機器のディスプレイの更新頻度と同期しているわけではないため、これにより不完全な又は半端なQRコードをキャプチャする危険性が発生する。モバイル機器のディスプレイを更新している時点でキャプチャされた画像には、古いQRコードと新たなQRコードの混ざったものが含まれ得る。不完全なQRコードをキャプチャする問題を減らすためには、ディスプレイ上のパターンがカメラのフレームレートよりも少ない毎秒回数で更新されるように、モバイル機器のディスプレイの更新頻度を減らしてもよい。例えば、ディスプレイは、カメラによってキャプチャされた2つまたは3つのフレームに対応する間隔を置いて更新されうる。しかし、これによりカメラ位置の決定精度を低下させるような待ち時間が追加され、これはまた、QRコード画像の複製が不必要に処理されることも暗に示される。
【0093】
代わりに、不完全なQRコードをキャプチャする危険性は、上述したようにカメラとディスプレイの異なる色チャンネルの利点を活用することによって、減らすことができる。QRコードが更新される際に、最初は緑色チャネルでのみ更新され、赤色及び青色チャネルではまだ前のQRコードが示される。次の時点でQRコードが更新される際、赤色及び青色チャネルが更新されるが、緑色チャネルでは前と同じQRコードが表示される。従って、ディスプレイは2つのQRコードを同時に表示し、1つ又は2つの色チャネルには、モバイル機器の最新の決定された位置に対応するQRコードが表示され、1つ又は2つの他の色チャネルにはモバイル機器の前に決定された位置に対応するQRコードが表示される。更新を3つのステッププロセスとして実施することも可能であり、最初に色チャネルのうちの1つ(例えば赤色)を更新し、次に別の色チャネル(例えば緑色)を更新し、最後に残りの色チャネル(例えば青色)を更新する。QRコードの地理的位置への変換はカメラ1において実施される、又は適用される場合、1度に2つの色チャネルが変換される。もしキャプチャされた画像の色チャネルが不完全な又は混ざり合ったQRコードを含む時は、他の色チャネル又は複数の色チャネルを使用してカメラの位置を決定してもよい。QRコードはカメラによってキャプチャされた各画像に1度だけ位置させるだけでよく、それから2回(又は更新が分割される色チャネルの数によって3回)、すなわち適用可能な色チャネルごとに1回デコードされる、又は位置に変換される。
【0094】
当業者は、上記更新方法がQRコードに限定されず、前述したようなあらゆる種類のパターンでも使用可能であることを認識するだろう。この方法はまた、RGB(赤、緑、青)色空間に限定されず、手元のモバイル機器のディスプレイ及びカメラの組み合わせによって使用されるいずれかの色空間で使用可能である。
【0095】
代替的な実施形態では、本書に記載されるように、情報の送信において異なる色のグラフィカルコードを使用した視覚的送信を、
図1の拡声器によって示すように、オーディオ較正システム及びプロセスにおいても使用可能である。拡声器16に電子音声信号を生成するシステムの設定を較正するために、拡声器16を用いることによって音声の生成を制御する処理装置に接続されたモーションビデオカメラ14と拡声器16の配置が使用されうる。
【0096】
ディスプレイ機器10のマイクロホン、又はディスプレイ10に接続されたマイクロホンは、マイクロホンの位置で音声を記録し、登録された音声を解析し、ディスプレイ機器10のディスプレイ12に記録された音声に関する情報を連続的に提示する。モーションビデオカメラ14は、前述したように、ディスプレイ機器12のモーションビデオをキャプチャし、
情報担持パターンがデコードされる。
情報担持パターンを介して送信された情報は次に、拡声器のパラメータを設定するのに使用されうる。
情報担持パターンを介して送信されうる、記録された音声に関する情報は、所定の期間にわたって検出された音レベルの平均値であってよく、平均値は頻繁に更新される場合があり、データはある期間にわたって記録された音波等を表す。音声システムはこの情報を使用して、音声信号の適切な増幅レベルを設定することができる。EP3018917号明細書に、上記音声システムの一実施例が開示されている。