IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 古野電気株式会社の特許一覧

<>
  • 特許-拡張現実に基づく潮流表示装置 図1
  • 特許-拡張現実に基づく潮流表示装置 図2
  • 特許-拡張現実に基づく潮流表示装置 図3
  • 特許-拡張現実に基づく潮流表示装置 図4
  • 特許-拡張現実に基づく潮流表示装置 図5
  • 特許-拡張現実に基づく潮流表示装置 図6
  • 特許-拡張現実に基づく潮流表示装置 図7
  • 特許-拡張現実に基づく潮流表示装置 図8
  • 特許-拡張現実に基づく潮流表示装置 図9
  • 特許-拡張現実に基づく潮流表示装置 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-05
(45)【発行日】2024-02-14
(54)【発明の名称】拡張現実に基づく潮流表示装置
(51)【国際特許分類】
   G06T 19/00 20110101AFI20240206BHJP
   G08G 3/00 20060101ALI20240206BHJP
【FI】
G06T19/00 600
G08G3/00 A
【請求項の数】 23
(21)【出願番号】P 2021081346
(22)【出願日】2021-05-13
(65)【公開番号】P2022127558
(43)【公開日】2022-08-31
【審査請求日】2022-04-11
(31)【優先権主張番号】21158107.9
(32)【優先日】2021-02-19
(33)【優先権主張国・地域又は機関】EP
(73)【特許権者】
【識別番号】000166247
【氏名又は名称】古野電気株式会社
(72)【発明者】
【氏名】西山 浩二
【審査官】中田 剛史
(56)【参考文献】
【文献】国際公開第2018/216535(WO,A1)
【文献】米国特許出願公開第2014/0240313(US,A1)
【文献】特開平07-248727(JP,A)
【文献】Eduard Wisering, 外5名,Augmented Reality Visualization for Sailboats(ARVS),2015 International Conference on Cyberworlds,IEEE,2015年,p.61-68
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00
G08G 3/00
(57)【特許請求の範囲】
【請求項1】
表示画面に表示される画像に潮流情報を重畳するARベースの潮流表示装置であって、
水面上にある移動体に取り付けられ、画像を表示する表示画面に撮像した画像の画像データを出力する画像センサの位置及び方位を含む画像センサ情報を受信する画像センサ情報入力部と、
前記移動体を含む領域のチャートを示すチャート情報を受信するチャート情報入力部と、
前記移動体の外部にある通信装置から潮流の位置を含む潮流情報を受信する潮流情報入力部と、
前記画像センサの視野内に位置する一つ以上の潮流を選定する潮流選定部と、
選定された前記潮流毎に、前記潮流情報と前記画像センサ情報とに基づいて、前記表示画面に表示される画像上の位置に対応する表示位置を算出する位置算出部と、
を備え、
前記潮流選定部は、前記画像センサ情報に基づいて、前記チャート上にあって前記画像センサの方位に基準軸を有するサブ領域を設定し、前記潮流情報に基づいて前記サブ領域内に位置する潮流を選定する、
ARベースの潮流表示装置。
【請求項2】
請求項1に記載のARベースの潮流表示装置であって、さらに、
前記画像センサによって撮像される画像を受信し、前記表示画面に表示する画像データを出力する画像情報入力部と、
前記画像上の各前記表示位置に対応する潮流のシンボルを生成し該シンボルを前記画像データに重畳する潮流情報重畳部と
を備えるARベースの潮流表示装置。
【請求項3】
前記シンボルは、前記表示画面における対応する潮流の表示位置を示すマーカーの形状である、
請求項2に記載のARベースの潮流表示装置。
【請求項4】
請求項2又は請求項3に記載のARベースの潮流表示装置であって、
前記位置算出部は、前記画像センサの位置及び方位に基づいて、前記潮流の前記チャート上の座標の位置を前記サブ領域内のローカル座標上の位置に変換するローカル座標変換部を備える、
ARベースの潮流表示装置。
【請求項5】
請求項4に記載のARベースの潮流表示装置であって、
前記位置算出部は、さらに、前記画像センサ情報に基づいて、前記潮流の前記ローカル座標上の位置を前記表示画面の座標上の位置に変換する表示座標変換部を備える、
ARベースの潮流表示装置。
【請求項6】
請求項5に記載のARベースの潮流表示装置であって、
前記ローカル座標変換部は、選定された潮流毎の方向及び速度が入力され、前記画像センサの位置及び方位に基づいて前記サブ領域における前記選定された潮流毎に係る方向及び速度を決定し、
前記表示座標変換部は、前記サブ領域における前記選定された潮流毎の方向及び速度が入力され、水面Wからの前記画像センサの高さh、俯角α及び画角βに基づいて、前記表示画面に表示される前記選定された潮流毎の方向を算出する、
ARベースの潮流表示装置。
【請求項7】
請求項6に記載のARベースの潮流表示装置であって、
前記潮流情報重畳部は、さらに、前記表示画面上の前記選定された潮流毎の表示位置における、対応する潮流の方向及び速度の少なくともいずれかを示すシンボルを生成し、各シンボルを前記表示画面に出力する、
ARベースの潮流表示装置。
【請求項8】
請求項7に記載のARベースの潮流表示装置であって、
前記潮流情報重畳部は、さらに、前記選定された潮流毎の方向及び流速を示すシンボルを前記表示画面上のサブ画面又は前記表示画面外の外部表示画面の少なくとも一方に表示する
ARベースの潮流表示装置。
【請求項9】
請求項8に記載のARベースの潮流表示装置であって、
前記潮流情報重畳部は、さらに、前記表示画面に表示されるシンボルの画像上の長さ、太さ、色を含む各シンボルの特性が、対応する前記潮流の速度によって変化させる
ARベースの潮流表示装置。
【請求項10】
請求項7乃至請求項9のいずれかの請求項に記載のARベースの潮流表示装置であって、
前記潮流情報重畳部は、さらに、選定された潮流毎の深度によりそれぞれ前記シンボルを生成し、該シンボルを表示するARベースの潮流表示装置。
【請求項11】
請求項3に記載のARベースの潮流表示装置であって、
前記潮流情報重畳部は、さらに、前記表示画面に表示される潮流の将来の位置を示す予測位置に対応する前記シンボルを生成し、該シンボルを前記表示画面に表示される前記画像に重畳して表示する、ARベースの潮流表示装置。
【請求項12】
表示画面に表示される画像に潮流情報を重畳するARナビゲーションシステムであって、
水面上にある移動体に取り付けられ、視野内にある画像を撮像して動画像又は静止画像を含む画像データを出力する画像センサと、
前記移動体を含む領域のチャートを示すチャート情報を受信するチャート情報入力部と、
前記画像データに基づいて、表示画面に前記画像を表示する表示部と、
前記画像に潮流情報を重畳表示する潮流情報表示部と、
を備え、前記潮流情報表示部は、
前記画像センサの位置及び方位を含む画像センサ情報を受信する画像センサ情報入力部と、
前記移動体の外部にある通信装置から潮流の位置を含む潮流情報を取得する潮流情報入力部と、
前記画像センサの視野内に位置する一つ以上の潮流を選定する潮流選定部と、
選定された前記潮流毎に、前記潮流情報と前記画像センサ情報とに基づいて、前記表示画面に表示される画像上の位置に対応する表示位置を算出する位置算出部と、
選定された前記潮流毎に、前記表示位置を示すシンボルを生成し前記表示部に出力する潮流情報重畳部と、
前記画像センサ情報に基づいて、前記チャート上にあって前記画像センサの方位に基準軸を有するサブ領域を設定し、前記潮流情報に基づいて前記サブ領域内に位置する潮流を選定し、前記チャート上の対応する位置を示すサブ領域潮流情報表示部と、
を備える、ARナビゲーションシステム。
【請求項13】
請求項12に記載のARナビゲーションシステムであって、
前記位置算出部は、前記画像センサの位置及び方位に基づいて、前記潮流の前記チャート上の座標の位置を前記サブ領域内のローカル座標上の位置に変換するローカル座標変換部を備える、
ARナビゲーションシステム。
【請求項14】
請求項13に記載のARナビゲーションシステムであって、
前記位置算出部は、さらに、前記画像センサ情報に基づいて、前記潮流の前記ローカル座標上の位置を前記表示画面の座標上の位置に変換する表示座標変換部を備える、
ARナビゲーションシステム。
【請求項15】
請求項14に記載のARナビゲーションシステムであって、
前記ローカル座標変換部は、選定された潮流毎の方向及び速度が入力され、前記画像センサの位置及び方位に基づいて前記サブ領域における前記選定された潮流毎に係る方向及び速度を決定し、
前記表示座標変換部は、前記サブ領域における前記選定された潮流毎の方向及び速度が入力され、水面Wからの前記画像センサの高さh、俯角α及び画角βに基づいて、前記表示画面に表示される前記選定された潮流毎の方向を算出する、
ARナビゲーションシステム。
【請求項16】
請求項15に記載のARナビゲーションシステムであって、
前記潮流情報重畳部は、さらに、前記表示画面上の前記選定された潮流毎の表示位置における対応する潮流の方向及び速度の少なくともいずれかを示すシンボルを生成し、各シンボルを前記表示画面に出力する、
ARナビゲーションシステム。
【請求項17】
請求項16に記載のARナビゲーションシステムであって、
前記潮流情報重畳部は、さらに、前記選定された潮流毎の方向及び流速を示すシンボルを前記表示画面上のサブ画面又は前記表示画面外の外部表示画面の少なくとも一方に表示する
ARナビゲーションシステム。
【請求項18】
請求項17に記載のARナビゲーションシステムであって、
前記潮流情報重畳部は、さらに、前記表示画面に表示されるシンボルの画像上の長さ、太さ、色を含む各シンボルの特性が、対応する前記潮流の速度によって変化させる
ARナビゲーションシステム。
【請求項19】
請求項16乃至請求項18のいずれかの請求項に記載のARナビゲーションシステムであって、
前記潮流情報重畳部は、さらに、選定された潮流毎の深度によりそれぞれ前記シンボルを生成し、該シンボルを表示するARナビゲーションシステム。
【請求項20】
請求項19に記載のARナビゲーションシステムであって、
前記潮流情報重畳部は、さらに、前記表示画面に表示される潮流の将来の位置を示す予測位置に対応する前記シンボルを生成し、該シンボルを前記表示画面に表示される前記画像に重畳して表示する、ARナビゲーションシステム。
【請求項21】
表示画面に潮流情報を重畳する表示するARベースの潮流表示方法であって、
水面上にある移動体に取り付けられた画像センサによって撮像される画像を受信し、
前記移動体を含む領域のチャートを示すチャート情報を受信し、
前記表示画面に表示する画像データを出力し、
前記画像センサの位置及び方位を含む画像センサ情報を受信し、
前記移動体の外部にある通信装置から潮流の位置を含む潮流情報を受信し、
前記画像センサの視野内に位置する一つ以上の潮流を選定し、
選定された前記潮流毎に、前記潮流情報と前記画像センサ情報とに基づいて、前記表示画面に表示される画像上の位置に対応する表示位置を算出し、
選定された前記潮流毎に、前記表示位置を示すシンボルを生成し前記画像に重畳表示し、
前記画像センサ情報に基づいて、前記チャート上にあって前記画像センサの方位に基準軸を有するサブ領域を設定し、前記潮流情報に基づいて前記サブ領域内に位置する潮流を選定して前記チャート上の対応する位置を示す
ARベースの潮流表示方法。
【請求項22】
請求項21記載のARベースの潮流表示方法であって、
前記潮流情報と、前記画像センサの位置及び方位に基づいて、前記サブ領域における前記選定された潮流毎に係る方向及び速度を決定し、
前記サブ領域内に位置する潮流毎に該潮流の方向と速度を表示する
ARベースの潮流表示方法。
【請求項23】
表示画面に潮流情報を重畳する表示するARベースの潮流表示を実行させるプログラムであって、コンピュータによって実行されると、
該コンピュータに、画像センサによって捕捉された画像に基づく画像データを受信させて記憶させ、
水面上の移動体に取り付けられた画像センサの位置及び方位を含む画像センサ情報を受信させて記憶させ、
前記移動体を含む領域のチャートを受信して記憶させ、チャート上の1つ以上の位置に関する潮流情報を受信して記憶させ、
前記画像センサ情報に基づいてチャートの領域内のサブ領域を決定し、該サブ領域内に位置する1つ以上の潮流を選択し、
該潮流の前記潮流情報及び前記画像センサ情報に基づいて表示画面上の選定された潮流毎の表示位置を計算し、
前記表示位置に対応する選定された前記潮流のシンボルを生成し、
前記画像データに基づいて、前記表示画面に表示された前記画像上の各前記表示位置に前記各シンボルを重ね合わせる、
コンピュータ実行可能なプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、主に拡張現実(Augmented Reality)に基づく潮流表示装置に関し、より具体的には、主として船舶の航行のための画像に拡張現実により潮流情報を重畳する装置に関する。
【背景技術】
【0002】
潮流は船舶の航行に影響を及ぼすことが知られている。船長、乗組員その他の船舶に乗り組んでいる航海要員は、それぞれの潮流がいつ、どのように船舶の針路に影響を及ぼすかがわからないことがある。例えば、潮流が船舶によって遭遇する可能性があるか、又は状況が異なる可能性がある水域では、潮流の位置、方向及び/又は速度は、船舶航行職員にとって未知である可能性があり、その結果、船舶航行職員は、そのような水域にいる船舶が必ずしも最適ではない移動経路を選択し、あるいは選択することを余儀なくされる怖れもある。
これらの潮流は、船舶航行に必要な時間のみならず燃料費用にも大きくかかわっており、潮流の状態を船員が的確に知ることは環境保護の観点からも重要である。保全の緋それが激しいものであることにより、あるいは船舶が長期間にわたって潮流の影響を受けることによって、船舶の構造又は運航性能、あるいは双方に対して悪影響を及ぼすことがあり安全航行の観点からも潮流を的確に把握することは重要である。
【0003】
船舶の航行を支援するためのシステムが過去にいくつか開発されている。通常、所定の地域のチャート(いわゆる海図と呼ばれるものであり、陸地部分を含む場合もある。)とその地域内の各地点の潮流を示すチャートは、外部のサーバから通信手段を介して提供される。
潮流を示す情報には、一般に、計測位置と、その計測位置における潮流の方向及び速度が含まれる。この海域を航行する船舶は、衛星通信等の通信手段を用いて潮流の情報を得ることができる。得られた情報は、船舶の航行モニタに表示され、船舶の航路を決定するのに役立つ。しかしながら、これらのシステムの多くは、船舶の周囲に関連する様々なパラメータを感知するために、主に搭載機器に依存している。それにもかかわらず、このような船上装置を用いて潮流などの状況を検出又は測定することは複雑で困難であり、ときには不可能なこともある。また、検出等は自船周辺に限られ、検出対象の位置が自船から離れるにしたがって精度も低下せざるをえない。
【0004】
従来の拡張現実(AR:Augmented Reality)を用いたナビゲーションシステム、例えば、特開2019-121876号公報に開示されるシステムでは、画像センサ(画像センサ)で撮像した画像情報と、レーダ等のセンサで撮像した情報に基づいて取得した陸上の移動車両の情報とを重畳して表示することができる。
【0005】
ところが、従来のARナビゲーションシステムでは、潮流情報を自船のセンサではなく通信装置を介して外部から取得するため、潮流情報を表示することが困難である。自船以外から提供された潮流情報をAR表示画面に表示できるARベースのナビゲーションシステムは存在しない。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2019-121876号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
以上の理由から、船舶の航行を支援するために潮流及びその船舶への潜在的な影響を考慮したシステム及び方法が求められる。本発明が解決しようとする課題は、拡張現実に基づく潮流表示装置に関し、より具体的には、船舶の航行のための画像に潮流情報を重畳する装置、方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0008】
本発明のARベースの潮流表示装置は、上記課題を解決するために、表示画面に表示される画像に潮流情報を重畳する潮流表示装置であって、水面上にある移動体に取り付けられ、画像を表示する表示画面に撮像した画像の画像データを出力する画像センサの位置及び方位を含む画像センサ情報を受信する画像センサ情報入力部と、移動体の外部にある通信装置から潮流の位置を含む潮流情報を受信する潮流情報入力部と、画像センサの視野内に位置する一つ以上の潮流を選定する潮流選定部と、選定された潮流毎に、潮流情報と画像センサ情報とに基づいて、表示画面に表示される画像上の位置に対応する表示位置を算出する位置算出部と、選定された潮流毎に、表示位置を示すシンボルを生成し表示画面に出力する潮流情報重畳部と、を備えている。
【0009】
さらに、画像センサによって撮像される画像を受信し、表示画面に表示する画像データを出力する画像情報入力部と、画像上の各表示位置に対応する潮流のシンボルを重畳する潮流情報重畳部とを備える構成にしてもよい。シンボルは、表示画面における対応する潮流の表示位置を示すマーカーの形状であり、潮流をリアルに表すように表示することができる。
【0010】
本発明のARベースの潮流表示装置では、さらに、移動体を含む領域のチャートを示すチャート情報を受信するチャート情報入力部を備え、潮流選定部は、画像センサ情報に基づいてチャート上にあって画像センサの方位に基準軸を有するサブ領域を設定し、潮流情報に基づいてサブ領域内に位置する潮流を選定するように構成できる。
【0011】
上記のARベースの潮流表示装置において、位置算出部は、画像センサの位置及び方位に基づいて、潮流の前記チャート上の座標の位置をサブ領域内のローカル座標上の位置に変換するローカル座標変換部を備えるように構成できる。
【0012】
ここで、位置算出部は、さらに、画像センサ情報に基づいて潮流のローカル座標上の位置を表示画面の座標上の位置に変換する表示座標変換部を備えるように構成することができる。また、ローカル座標変換部は、選定された潮流毎の方向及び速度が入力され、画像センサの位置及び方位に基づいてサブ領域における選定された潮流毎に係る方向及び速度を決定し、表示座標変換部は、サブ領域における選定された潮流毎の方向及び速度が入力され、水面Wからの画像センサの高さh、俯角α及び画角βに基づいて、表示画面に表示される選定された潮流毎の方向を算出する。
【0013】
潮流情報重畳部は、さらに、表示画面上の前記選定された潮流毎の表示位置における対応する潮流の方向及び速度の少なくともいずれかを示すシンボルを生成し、各シンボルを表示画面に出力する。
【0014】
潮流情報重畳部は、さらに、選定された潮流毎の方向及び流速を示すシンボルを表示画面上のサブ画面又は表示画面外の外部表示画面の少なくとも一方に表示するようにしてもよい。ここで、潮流情報重畳部は、さらに、表示画面に表示されるシンボルの画像上の長さ、太さ、色を含む各シンボルの特性が、対応する潮流の速度によって変化させるように構成してもよい。
【0015】
潮流情報重畳部は、さらに、選定された潮流毎の深度によりそれぞれ前記シンボルを生成し、該シンボルを表示させてもよい。潮流情報重畳部は、さらに、表示画面に表示される潮流の将来の位置を示す予測位置に対応する前記シンボルを生成し、該シンボルを表示画面に表示される画像に重畳して表示させてもよい。
【0016】
以上の構成を、表示画面に表示される画像に潮流情報を重畳するARナビゲーションシステムとして構成することもできる。すなわち、本発明のARナビゲーションシステムは水面上にある移動体に取り付けられ、視野内にある画像を撮像して動画又は静止画像を含む画像データを出力する画像センサと、画像データに基づいて表示画面に前記画像を表示する表示部と、移動体の外部にある通信装置から潮流の位置を含む潮流情報を取得して、画像に重畳表示する潮流情報重畳部とを備え、潮流情報重畳部は、画像センサの位置及び方位を含む画像センサ情報を受信する画像センサ情報入力部と、移動体の外部にある通信装置から潮流の位置を含む潮流情報を受信する潮流情報入力部と、画像センサの視野内に位置する一つ以上の潮流を選定する潮流選定部と、選定された潮流毎に潮流情報と画像センサ情報とに基づいて、表示画面に表示される画像上の位置に対応する表示位置を算出する位置算出部と、選定された潮流毎に、表示位置を示すシンボルを生成し表示部に出力する潮流情報重畳部とを備えている。
【0017】
ARナビゲーションシステムでは、さらに、移動体を含む領域のチャートを示すチャート情報を受信するチャート情報入力部を備え、潮流選定部は前記画像センサ情報に基づいてチャート上にあって画像センサの方位に基準軸を有するサブ領域を設定し、潮流情報に基づいて前記サブ領域内に位置する潮流を選定するようにしてもよい。
【0018】
また、位置算出部は、画像センサの位置及び方位に基づいて潮流のチャート上の座標の位置をサブ領域内のローカル座標上の位置に変換するローカル座標変換部を備えるようにしてもよい。位置算出部は、さらに、画像センサ情報に基づいて潮流のローカル座標上の位置を表示画面の座標上の位置に変換する表示座標変換部を備えるようにしてもよい。
【0019】
ローカル座標変換部は、選定された潮流毎の方向及び速度が入力されるようにし、画像センサの位置及び方位に基づいてサブ領域における選定された潮流毎に係る方向及び速度を決定し、表示座標変換部はサブ領域における選定された潮流毎の方向及び速度が入力されるようにし、水面Wからの画像センサの高さh、俯角α及び画角βに基づいて表示画面に表示される選定された潮流毎の方向を算出するようにしてもよい。
【0020】
潮流情報重畳部は、さらに、表示画面上の前記選定された潮流毎の表示位置における対応する潮流の方向及び速度の少なくともいずれかを示すシンボルを生成し各シンボルを表示画面に出力する、あるいは、さらに、選定された潮流毎の方向及び流速を示すシンボルを表示画面上のサブ画面又は表示画面外の外部表示画面の少なくとも一方に表示するようにしてもよい。潮流情報重畳部は、さらに、表示画面に表示されるシンボルの画像上の長さ、太さ、色を含む各シンボルの特性が、対応する潮流の速度によって変化させてもよい。
【0021】
さらに、潮流情報重畳部は、さらに、選定された潮流毎の深度によりそれぞれシンボルを生成し、該シンボルを表示するようにしてもよい。潮流情報重畳部は、さらに、表示画面に表示される潮流の将来の位置を示す予測位置に対応するシンボルを生成し、該シンボルを表示画面に表示される画像に重畳して表示するようにしてもよい。
【0022】
また本発明のARベースの潮流表示方法によれば、水面上にある移動体に取り付けられ、画像センサによって撮像される画像を受信し、表示画面に表示する画像データを出力し、画像センサの位置及び方位を含む画像センサ情報を受信し、移動体の外部にある通信装置から潮流の位置を含む潮流情報を受信し、画像センサの視野内に位置する一つ以上の潮流を選定し、選定された前記潮流毎に潮流情報と画像センサ情報とに基づいて、表示画面に表示される画像上の位置に対応する表示位置を算出し、選定された潮流毎に、表示位置を示すシンボルを生成し前記画像に重畳表示する方法が提供される。ここで、移動体を含む領域のチャートを示すチャート情報を受信し、画像センサ情報に基づいてチャート上にあって画像センサの方位に基準軸を有するサブ領域を設定し、潮流情報に基づいてサブ領域内に位置する潮流を選定するようにしてもよい。
【0023】
本発明のARベースの潮流表示プログラムによれば、コンピュータによって実行されると、コンピュータに、画像センサによって捕捉された画像に基づく画像データを受信させて記憶させ、水面上の移動体に取り付けられた画像センサの位置及び方位を含む画像センサ情報を受信させて記憶させ、移動体を含む領域のチャートを受信して記憶させ、チャート上の1つ以上の位置に関する潮流情報を受信して記憶させ、画像センサ情報に基づいてチャートの領域内のサブ領域を決定し、サブ領域内に位置する1つ以上の潮流を選択し、潮流情報及び画像センサ情報に基づいて表示画面上の選定された潮流毎の表示位置を計算し、各表示位置に対応する選定された潮流のシンボルを生成する、コンピュータ実行可能な命令を記憶した、一時的ではないコンピュータ可読媒体が提供される、画像データに基づいて、表示画面に表示された画像上の各表示位置に各シンボルを重ね合わせるプログラムが提供される。
【発明の効果】
【0024】
本発明の表示装置、表示方法、表示プログラムによれば、自船以外から提供される潮流情報を画像センサで海面上の潮流の状態を視覚的に捉え、潮流の位置と方向を画像センサ映像の海面方位と位置に合わせ、拡張現実(AR)表示することができる。
【図面の簡単な説明】
【0025】
本主題の図示された実施形態は、図面を参照することによって最もよく理解することができる。ここで、同様の部分は全体を通して同様の数字で示される。以下の説明は、一例としてのみ意図されており、本明細書に請求される主題と一致するデバイス、システム、方法、及びプログラムの特定の選定された実施形態を単に例示するものである。
図1】本発明の一実施形態に係る画像センサを移動体に取り付けた拡張現実感(AR)型潮流表示装置の全体構成を示すブロック図である。
図2】移動体を含む領域と、その中のサブ領域とを示す図である。
図3】画像センサによって撮像された画像への潮流情報の重畳を示す図である。
図4】画像センサの水面からの高さ、画像センサの俯角、画像センサの視野角を示す側面図である。
図5図1のARベース潮流表示装置の位置算出部の各部を示すブロック図である。
図6】画像センサによって撮像された画像とその画像に重畳されるシンボルとを示す図と、さらに画像に当該シンボルを重畳して生成された重畳画像を示す。
図7】画像センサによって生成された画像に重畳するための3次元的に変換されたシンボルの生成を示す。
図8】1つ以上の潮流の位置を示す重畳画像と、それぞれの潮流の方向を示すサブ画面とを表示する表示画面である。
図9】潮流の位置を示す重畳画像を表示する表示画面と、潮流の向きを示す外部表示画面とを示している。
図10】本開示の一実施形態による、表示画面に表示された画像に潮流情報を重畳する方法を示すフローチャートである。
【発明を実施するための形態】
【0026】
ここでは、装置例について説明する。本明細書に提示される主題の本質又は範囲から逸脱することなく、他の例示的な実施形態又は特徴をさらに利用し、他の変更を行ってもよい。以下の詳細な説明では、その一部を構成する添付図面を参照する。
【0027】
本明細書に記載される例示的な実施形態は、これに限定されるものではない。本明細書に一般的に記載され、図面に例示されている本開示の態様は、本明細書で明示的に意図されているように、多種多様な異なる構成で配列され、置換され、結合され、分離され、設計され得ることは容易に理解されるであろう。
【0028】
最初に一実施形態の潮流表示装置の構成について、図1を参照して説明する。図1は、本発明の一実施形態に係る画像センサ10を移動体11に取り付けた拡張現実(AR)型潮流表示装置1の全体構成を示すブロック図である。図2は、移動体11を含む領域201のチャート200と、チャート200における移動体11の進行方向に対して基準軸を有するサブ領域203とを示す。図3は、画像センサ10によって捕捉された画像上に潮流情報を重ね合わせることを示す。
【0029】
次に、主として図1を参照して、画像センサ10を、移動体11(以下、船舶を例にして一実施形態を説明するので、船舶11という。)に取り付け、表示装置1に電気的に接続することができる。
【0030】
本実施形態の潮流表示装置1は、後述するように、船舶11に搭載され、船舶用計器として画像センサ10に電気的に接続されている。
【0031】
画像センサ10は、例えば、船舶11の周囲の近傍又は少なくとも一部の周囲の水面Wを撮像する制限視野角又は広角ビデオ画像センサにより構成してもよい。この画像センサ10は、リアルタイムに撮像結果である映像データ(画像データ)を生成し表示画面17に出力するライブ出力機能を有していてもよい。図1に示すように、画像センサ10は、撮像方向が概ね船体前方の水面Wに向くように、船舶11内に設置すればよい。
【0032】
画像センサ10は、回転機構(図示されない)を介して船舶11に取り付けることができるので、表示装置1から向きと俯角を指示する信号を入力することにより、船舶11の船体を基準にして撮像方向を所定の角度範囲で変更することができる。また、波浪等により船舶11の喫水や姿勢が変化することがあるので、画像センサ10の水面Wに対する高さhが変化することがある。
【0033】
ARベースの潮流表示装置1は、特に、画像センサ10の位置及び方位に基づいて、ARを用いて船舶11の周囲の状況を表す画像を生成するために、表示画面17に通信可能な状態で接続されてもよい。
【0034】
表示画面17は、例えば、船舶11を操作する船舶運航者が参照する航行補助装置の一部を構成する表示画面として構成することができる。ただし、表示画面17は、上記構成に限定されるものではなく、例えば、船舶11から周囲の状況を監視する船舶運航者が携帯する携帯型コンピュータの表示画面、船舶11の船室内で乗客が見るための表示画面、あるいは、乗客が装着するウェアラブルガラス等のヘッドマウントディスプレイの表示部であってもよい。
本開示の実施形態では、画像センサ10及び表示画面17は、表示装置1の外部にある。本開示の別の実施形態では、画像センサ10及び表示画面17は、表示装置1の不可欠な部分である。それに加え、任意選択的に、画像センサ10、表示画面17、及びARベース潮流表示装置1は、共に、ユーザが船舶11を航海することを容易にするためのARベースのナビゲーションシステムを構成することもできる。
【0035】
ARベースの潮流表示装置1はまた、本開示と一致する様々な機能を実行するためにユーザが操作することができるキーボード及びマウスを含むが、これらに限定されず、様々な周辺装置に接続されてもよい。例えば、ユーザは、キーボード及び/又はマウスやタッチパネルを操作することにより、画像の生成について、ARベースの潮流表示装置1及び画像センサ10に種々の指示を与えることができる。この指示には、画像センサ10の向きと俯角に関する操作、各種情報の表示/非表示の設定、撮像する視点の設定などが含まれる。
【0036】
次に、ARベースの潮流表示装置1の構成について、これも図1を中心に参照して詳細に説明する。ARベースの潮流表示装置1は、画像センサ情報入力部12と、チャート情報入力部13と、潮流情報入力部14と、処理回路15と、画像情報入力部16とを備える。画像情報入力部16は、画像センサ10によって撮像された画像を受信し、その画像データを表示画面17に出力するように構成されている。
【0037】
また、画像センサ情報入力部12は、グローバル地形図の基準軸に対する画像センサ10の位置及び方位を含む画像センサ情報を受信して記憶するように構成されており、図4に示すように、画像センサ10の水面Wからの高さh、画像センサ10の俯角(α)及び画像センサ10の画角(視野角)(β)をさらに含む画像センサ情報であってもよい。画像センサ10は、船舶11に固定的に取り付けられており、それゆえ、チャート200上の画像センサ10の位置は、チャート200における船舶11の位置と同じであるとの前提で、船舶11の方位方向を使用して画像センサ10の方位方向が決定される。逆もまた同様である。
【0038】
図1に戻って、チャート情報入力部13は、予め記憶されている電子チャート情報に基づいて、船舶11を含むチャート200の領域201を受信して記憶するように構成されている。
【0039】
潮流情報入力部14は、例えば、陸上局、全地球航法衛星システム(GNSS)受信機、電子チャート表示情報システム(ECDIS)、自動識別システム(AIS)受信機、レーダ装置等の外部通信装置から水面上の潮流の位置(W)を含む潮流情報を受信して記憶するように構成されている。潮流情報は、潮流の方向及び速度をさらに含むよう構成してもよい。潮流情報入力部14は、一般に、船舶11を含む領域201の潮流の潮流情報を記憶するように構成されている。潮流情報入力部14は、チャート200の基準軸に対する潮流情報を記憶するように構成されており、潮流情報入力部14は、領域201における潮流のチャートとグローバル座標を記憶するように構成されている。
【0040】
図1図2、及び図3の各図を参照して説明する。図1に示す処理回路15は、潮流情報に基づいて画像センサ10の視野内に位置する一つ以上の潮流204、205(図2を参照)を選択する潮流選定部151と、潮流情報及び画像センサ情報に基づいて表示画面17上の選定された潮流毎204、205の対応する表示位置を算出する位置算出部152と、表示画面17に表示された画像206上の選定された潮流204、205毎に各潮流204、205の位置を示すシンボル204a、205aを生成する153とを含んでいる。
潮流選定部151は、画像センサ10が捕捉可能な画像の領域に基づいて処理回路15が設定する。図3に示されるように、各シンボル204a、205aは、画像206上の対応する潮流204、205の位置を示す円形マーカーの形状に構成されている。シンボル204a及び205aは円形マーカーであることが示されているが、シンボル204a及び205aは、表示画面17上に表示された画像206上のそれぞれの潮流の位置を示す楕円マーカー又は正方形マーカーのような他の構成を含んでもよい。
【0041】
潮流情報重畳部153は、204a、205aを表示画面17に出力し、画像センサ10により撮像された画像206に204a、205aを重畳して表示することにより、潮流204、205の海面に対する位置を視覚的に分かりやすく表示する。
【0042】
本開示の文脈において、処理回路15は、プロセッサ、コンピュータ、マイクロコントローラ、又は、操作パネル及びメモリなどの様々なコンポーネントの動作を制御する他の回路を含む。処理回路15、ソフトウェア、ファームウェア、及び/又は他の命令を実行することができ、それらは、例えば、揮発性又は不揮発性メモリに記憶されるか、又は他の方法で処理回路15に提供される。
【0043】
続いて、図1図2、及び図3の各図を参照して潮流の選択について説明する。潮流選定部151は、画像センサ情報入力部12、チャート情報入力部13、潮流情報入力部14からそれぞれ撮像センサ情報、チャート情報、潮流情報を受信する。潮流選定部151は、サブ領域203に位置する、すなわち、画像センサ10の視野角(β)に位置する一つ以上の潮流204、205を選択する。具体的には、潮流選定部151は、船舶11を取り囲む領域201のチャート200を受け取り、画像センサ10の位置及び方位に基づいてサブ領域203を決定し、潮流情報に基づいてサブ領域203内の第1潮流204及び第2潮流205を選択する。
【0044】
ここでは二つの選定された潮流が示されているが、潮流選定部151が二つ以上又はそれ以下の潮流を選択してもよい。
【0045】
続いて、図4を参照して、位置算出について説明する。位置算出部152は、画像センサ情報及び潮流情報に基づいて表示画面17に表示すべき選定された潮流毎204、205の位置を算出する。具体的には、位置算出部152は、表示画面17に表示するための第1潮流204、第2潮流205のそれぞれの表示座標を算出するように構成されている。
【0046】
位置算出部152の構成について、図5を中心に参照して詳細に説明する。位置算出部152は、選定された第1、第2各潮流204、205のチャート座標を受け取り画像センサ10の位置及び方位に基づいて対応するローカル座標に変換するローカル座標変換部402を含む。本開示において、チャート座標は、チャート200上の位置であり、ローカル座標は、サブ領域203における基準軸202に対する船舶11の進行方向に対する位置である。
【0047】
また、位置算出部152は、選定された第1、第2各潮流204、205のローカル座標を、図4に示す画像センサ10の水面Wからの高さ(h)と、画像センサ10の俯角(α)及び画角(β)とに基づいて、対応する表示座標に変換する表示座標変換部404を備える。本開示の文脈において、表示座標は、表示画面17上の表示位置に対応する。これにより、位置算出部152は、チャート200における潮流204、205のチャート座標を受け取り、表示画面17に表示するための対応する表示座標を生成する。
【0048】
さらに、オプションとして、ローカル座標変換部402は、潮流選定部151から選定された第1、第2各潮流204及び205の方向及び速度を受け取り、画像センサ10の位置及び方位に基づいて、サブ領域203内の第1、第2各潮流204及び205に関連する方向及び速度を決定するようにしてもよい。
図2を参照して図示されるように、チャート200における第1、第2各潮流204及び205の方向は、グローバル基準軸に対してであり、サブ領域203における潮流204及び205の方向は、船舶11の進行方向に対して基準軸202に対してである。
【0049】
表示座標変換部404は、サブ領域203における選定された第1、第2各潮流204、205の方向及び速度に基づいて、例えば、数学的及び/又はグラフィカルな変換を用いて、水面Wからの画像センサ10の高さh、俯角α、及び画像センサ10の画角βに基づいて、表示画面17における選定された潮流毎204、205の方向及び速度を算出する。これにより、位置算出部152は、チャート200に対する潮流204、205の向きを入力し、第1、第2各潮流204、205の向き情報を生成して表示画面17に表示する。
【0050】
次に、潮流方向を示すシンボルの生成と重畳について、図1及び図6を参照して説明する。153は、位置算出部152で生成された情報に基づいて、表示画面17に表示された画像502上の各潮流の位置及び方向を示すシンボル505b、507bを生成する。153は、さらに画像502に505b、507bを重畳して重畳画像504における各潮流の位置及び方向を示す重畳画像504を生成する。なお、505b、507bは、例えば、対応する潮流の方向を示す矢印の形状であってもよい。
【0051】
さらに、重畳画像504における矢印の長さ、矢印の厚さ、及び矢印の色を、対応する潮流の流速に基づいて変化させるようにしてもよい。例えば、画像上の弱い(遅い)潮流を示すために、短い又は薄いサイズの矢印を使用することができる。さらに、そのような矢印は、画像502に重ね合わせるために緑色又は黄色を使用して描画されてもよい。あるいは、画像上に強い(高速の)潮流を示すために、長い又は太いサイズの矢印を画像502上に重ねてもよい。さらに、任意選択的に、長い或いは太いサイズの矢印を、例えば、赤色を用いて画像502上にグラフィック表示することができる。さらに、潮流情報重畳部153は、それぞれの潮流の深さに基づいて、505b、507bというシンボルを生成してもよい。
【0052】
なお、上述した各シンボルの説明において、各シンボル505b、507bの特徴は、特定の形状、大きさ、色に限定されるものではない。これらの特性、すなわち、形状、サイズ、及び色は、1つ以上の海事規則要件及び/又は他のアプリケーション固有の要件に適合するように変化させることができる。
【0053】
さらに、画像505にシンボル505b、507bを重ねて表示する際に、方向や速度の集計を含む追加情報506を同時に表示することで表示画面17の限られた表示領域を有効に利用することができる。必要に応じて、シンボル505b及び507bの位置は、必要に応じて変更するか、又は重畳画像504から除去して、重畳画像504に関する図形がシンボル505b及び507bによってできる限り隠れるようにし、あるいは隠れないようにしてもよい。
【0054】
また、153は、画像センサ10の俯角αに基づいて、水面Wに平行なイメージで潮流の向きと速度を示すシンボル505b、507bをそれぞれ生成する。図7に示すように、シンボル505b及び507bは、二次元シンボル505c及び507cの対応する三次元シンボル505b及び507bへのそれぞれの変換に基づいて、水面Wに平行なイメージに生成され得る。
【0055】
シンボル505b、507bは、画像センサ10の俯角αに応じて傾斜するように表示してもよい。このように表示することにより、水面Wに関する図形を画像センサ10から取得することができ、例えば船体及び画像センサ10が水面Wに対して傾斜している場合であっても、ユーザが視覚的に周囲の状況を把握したり、必要に応じてシンボル505b及び507bを重ねて表示したりすることができる。
【0056】
図8は、一以上の潮流の位置を示す重畳画像510を表示する表示画面508と、重畳画像510に位置が示されている潮流の方向を示すサブ画面512とを示している。サブ画面512は、船舶11の進行方向に対して基準軸を有する。
【0057】
重畳画像510は、画像センサ10によって捕捉された画像上の一つ以上の潮流の位置を示すシンボル514a及び516a(シンボル204a及び205aに類似)を含む。サブ画面512には、重畳画像510のシンボル514a及び516aに対応する潮流の向きを示す二次元のシンボル514c、516c(シンボル505c及び507cに類似)が表示される。シンボル514a、516a、514c及び516cは、潮流情報重畳部153により生成される。重畳画像510とサブ画面512とは、時間的に互いに同期している。重畳画像510の変化は、サブ画面512にも反映される。
【0058】
図9は、一以上の潮流の位置を示す重畳画像510を表示する表示画面508と、重畳画像510に位置が示されている潮流の方向を示す外部表示画面518とを示している。外部表示画面518は、例えば船舶といった船舶11の進行方向に対して基準軸を有する。
【0059】
重畳画像510は、画像センサ10によって撮像された画像上の一以上の潮流の位置を示すシンボル514a、516a(シンボル204a及び205aに類似)を含む。外部表示画面518には、重畳画像510のシンボル514a、516aに対応する潮流の向きを示す二次元シンボル514c、516c(シンボル204c及び205cに類似)が表示される。シンボル514a、516a、514c、516cは潮流情報重畳部153により生成される。表示画面508及び外部表示画面518に表示されるコンテンツは、互いに同期している。
【0060】
さらに、任意選択的に、位置算出部152は、画像センサによって捕捉された画像上に表示された一つ以上の潮流の将来の位置を予測してもよい。したがってこの場合、153は、将来の予測位置に対応するシンボルを生成し、生成したシンボルを画像に重畳して表示画面17に表示するようにしてもよい。
【0061】
表示装置1に接続される船舶計器(付加表示情報の情報源)は、図1に記載されるものに限定されず、他の船舶計器を含んでもよい。
【0062】
また、本開示は、海上を航行する船舶のみならず、例えば、海、湖、川等を航行可能な任意の水面移動体にも適用可能である。
【0063】
続いて、潮流表示方法の一実施形態について説明する。図10は、本開示の一実施形態による、表示画面17に表示された画像に潮流情報を重畳する方法を示すフローチャートである。
【0064】
ステップ602では、画像センサ10によって撮像された画像に基づく画像データが、画像情報入力部16によって受信され記憶される。
【0065】
ステップ604では、船舶11に取り付けられた画像センサ10の水面(W)上での位置及び方位を含む画像センサ情報を受信し、画像センサ情報入力部12に記憶する。
【0066】
ステップ606では、船舶11を含む領域201のチャート200を示すチャート情報を受信し、チャート情報入力部13に記憶する。
【0067】
ステップ608では、チャート200中の一つ以上の位置に関する潮流情報を受信し、潮流情報入力部14に記憶する。
【0068】
ステップ610では、潮流選定部151は、画像センサ情報に基づいてチャート200の領域201内のサブ領域203を決定する。
【0069】
ステップ612において、潮流選定部151は、潮流情報に基づいてサブ領域203に位置する一つ以上の潮流204、205を選択する。
【0070】
ステップ614において、位置算出部152は、潮流情報と画像センサ情報とに基づいて、選定された潮流毎の表示画面17における表示位置を算出する。
【0071】
ステップ616において、潮流情報重畳部153は、各表示位置に対応する選択潮流毎のシンボルを生成する。
【0072】
ステップ618では、潮流情報重畳部153は、画像データに基づいて、表示画面17に表示された画像上の各表示位置に各シンボルを重畳する。
【0073】
以上が本発明の実施形態の例示であるが、すべての目的又は効果、利点が、本明細書に記載される任意の特定の実施形態に従って達成され得るわけではない。したがって、例えば、当業者は、特定の実施形態が、本明細書で教示又は示唆されるような他の目的又は効果/利点を必ずしも達成することなく、本明細書で教示されることを理解するであろう。1つ以上の効果或いは利点を達成又は最適化するように構成されていることが必要である。
【0074】
本明細書に記載されるすべてのプロセスは、1つ以上のコンピュータ又はプロセッサを含み、完全に自動化され得るコンピューティングシステムによって実行されるソフトウェアコードモジュールによって具現化され得る。コードモジュールは、任意のタイプの非一過性コンピュータ可読媒体又は他のコンピュータ記憶装置に記憶することができる。一部又は全ての方法は、専用のコンピュータ・ハードウェア内で具体化され得る。
【0075】
本開示から明らかなように、本明細書に記載したもの以外にも多くの変形がある。例えば、実施形態に依存して、本明細書に記載されたアルゴリズムのいずれかの特定のアクション、イベント、又は機能は、異なるシーケンスで実行されてもよく、追加されてもよく、併合されてもよく、又は完全に除外されてもよい。(たとえば、説明されているすべてのアクション又はイベントがアルゴリズムの実行に必要なわけではありません。)
さらに、特定の実施形態では、動作又はイベントは、例えば、マルチスレッド処理、割り込み処理、又は複数のプロセッサ又はプロセッサコアを介して、又は他の並列アーキテクチャ上で、順次ではなく並列で実行される。できます。さらに、異なるタスク又はプロセスは、一緒に動作することができる異なるマシン及び/又はコンピューティングシステムによって実行することができる。
【0076】
本明細書に開示された実施形態に関連して説明された様々な例示的論理ブロック及びモジュールは、プロセッサなどのマシンによって実施又は実行され得る。プロセッサは、マイクロプロセッサであってもよいが、代わりに、プロセッサは、コントローラ、マイクロコントローラ、状態マシン、又はそれらの組み合わせであってもよい。プロセッサは、コンピュータ実行可能命令を処理するように構成された電気回路を含むことができる。別の実施形態では、プロセッサは、コンピュータ実行可能命令を処理することなく論理演算を実行する特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、又は他のプログラマブルデバイスを含む。プロセッサはまた、デジタル信号プロセッサ(デジタル信号処理装置)及びマイクロプロセッサの組み合わせ、複数のマイクロプロセッサ、DSPコアと組み合わせた1つ以上のマイクロプロセッサ、又はそれらの任意の他のものなどのコンピューティングデバイスの組み合わせであってもよい。このような構成として実装できます。本明細書では主にデジタル技術に関して説明するが、プロセッサは主にアナログデバイスを含んでもよい。例えば、本明細書に記載される信号処理アルゴリズムのいくつか又はすべては、アナログ回路又は混合アナログ及びデジタル回路によって実施することができる。コンピューティング環境には、マイクロプロセッサ、メインフレーム・コンピュータ、デジタル信号プロセッサ、ポータブル・コンピューティング・デバイス、デバイス・コントローラ、又はデバイス内のコンピューティング・エンジンに基づく任意のタイプのコンピュータ・システムが含まれるが、これらに限定されない。
【0077】
本明細書に記載され、かつ/又は添付の図面に示されるフロー図における任意のプロセス記述、要素又はブロックは、プロセスにおける特定の論理機能又は要素を実装するための1つ以上の実行可能な命令である。を含む、モジュール、セグメント、又はコードの一部を潜在的に表していると理解する必要があります。代替的な実施形態は、本明細書に記載された実施形態の範囲内に含まれ、ここで、要素又は機能は、当業者に理解されるように、関与する機能性に応じて実質的である。
【0078】
特段の記載がない限り、「1」のような数字は、一般に、1つ以上の記載項目を含むものと解釈されるべきである。したがって、「するように構成された一つの装置」などの用語は、1つ以上のリストされたデバイスを含むことを意図している。このような列挙された装置のうちの1つ以上は、記載された引用を実行するように集合的に構成することもできる。例えば、「以下のA、B、Cを実行するように構成されたプロセッサ」は、Aを実行するように構成された第1のプロセッサ、及びBとCを実行するように構成された第2のプロセッサと解釈できる。さらに、導入された例の具体的な数の列挙が明示的に列挙される場合であっても、そのような列挙が典型的には少なくとも列挙された数であることを意味する。「2つの列挙」の単なる列挙は、少なくとも2つの列挙又は2つ以上の列挙を意味するものと解釈されるべきである。
【0079】
上述の実施形態に多くの修正及び修正を加えることができ、それらの要素は、他の許容可能な例の中にあるものとして理解されるべきである。このようなすべての変更及び修正は、本開示の範囲内に含まれることが意図され、以下の特許請求の範囲によって保護される。
【符号の説明】
【0080】
1 潮流表示装置
10 画像センサ(カメラ、イメージセンサ)
11 船舶(移動体)
12 画像センサ情報入力部
13 チャート情報入力部
14 潮流情報入力部
15 処理回路
16 画像情報入力部
17 表示画面
W 水面
151 潮流選定部
152 位置算出部
153 潮流情報重畳部
200 チャート
201 移動体を含む領域
202 サブ領域の基準軸
203 サブ領域
204 潮流
205 別の潮流
204a 一の潮流の位置を示すシンボル
205a 別の潮流の位置を示すシンボル
206、502 画像センサによって撮像された画像
402 ローカル座標変換部
404 表示座標変換部
504 重畳画像
505b 潮流の方向を示すシンボル
505c 一の潮流の方向を示す二次元シンボル
506 追加情報
507b 別の潮流の方向を示すシンボル
507c 別の潮流の方向を示す二次元シンボル
508 表示画面
510 重畳画像
512 サブ画面
514a 潮流の位置を示すシンボル
514c 潮流の方向を示すシンボル
516a 別の潮流の位置を示すシンボル
516c 潮流の方向を示すシンボル
518 外部表示画面
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10