(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022095367
(43)【公開日】2022-06-28
(54)【発明の名称】構造物管理支援装置および構造物管理支援システム
(51)【国際特許分類】
G06Q 10/00 20120101AFI20220621BHJP
【FI】
G06Q10/00 300
G06Q10/00
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2020208647
(22)【出願日】2020-12-16
(71)【出願人】
【識別番号】501335841
【氏名又は名称】株式会社エム・ソフト
(71)【出願人】
【識別番号】513220562
【氏名又は名称】首都高技術株式会社
(74)【代理人】
【識別番号】100112689
【弁理士】
【氏名又は名称】佐原 雅史
(74)【代理人】
【識別番号】100128934
【弁理士】
【氏名又は名称】横田 一樹
(72)【発明者】
【氏名】宗宮 優一
(72)【発明者】
【氏名】代永 英明
(72)【発明者】
【氏名】田島 裕也
(72)【発明者】
【氏名】塙 人
(72)【発明者】
【氏名】小宮 和貴
(72)【発明者】
【氏名】浅野 隆弥
(72)【発明者】
【氏名】永田 佳文
(72)【発明者】
【氏名】得能 智昭
(72)【発明者】
【氏名】亀岡 誠
【テーマコード(参考)】
5L049
【Fターム(参考)】
5L049AA20
(57)【要約】
【課題】 3次元形状データを用いて構造物の管理を行う場合に、使用者の3次元位置情報に応じた仮想的な視野の客観的・事後的な把握を可能にする構造物管理支援装置および構造物管理支援システムを提供する。
【解決手段】 構造物管理支援装置10は、構造物の3次元形状データを表示可能な表示手段13と、記憶手段14と、3次元形状データを、使用者の3次元位置情報に応じた一人称視野映像VFで表示手段13に表示させる視野制御手段21と、一人称視野映像VFの経時変化を記憶手段14に記憶する視点履歴記録手段22と、を有する。
【選択図】
図9
【特許請求の範囲】
【請求項1】
構造物の3次元形状データを表示可能な表示手段と、
記憶手段と、
計算機と、を備え、
前記計算機は、
前記3次元形状データを、使用者の3次元位置情報に応じた映像(以下、「一人称視野映像」という)で前記表示手段に表示させる視野制御手段と、
前記一人称視野映像の経時変化を意味する経時変化情報を前記記憶手段に記憶する視点履歴記録手段と、を有する、
ことを特徴とする構造物管理支援装置。
【請求項2】
前記視野制御手段は、使用者毎に個別に前記一人称視野映像を対応づける使用者管理を行う、
ことを特徴とする請求項1に記載の構造物管理支援装置。
【請求項3】
前記視野制御手段は、前記一人称視野映像における前記使用者が注視可能な範囲を意味する注視範囲の表示を行う、
ことを特徴とする請求項1または請求項2に記載の構造物管理支援装置。
【請求項4】
前記一人称視野映像及び/又は前記経時変化情報に電子署名を付与する電子署名付与手段を有する、
ことを特徴とする請求項1から請求項3のいずれかに記載の構造物管理支援装置。
【請求項5】
前記構造物に関連する情報を、前記3次元形状データに対応付けて前記記憶手段に記憶する情報付与手段を有する、
ことを特徴とする請求項1から請求項4のいずれかに記載の構造物管理支援装置。
【請求項6】
前記情報を入力可能な入力手段を有する、
ことを特徴とする1から請求項5のいずれかに記載の構造物管理支援装置。
【請求項7】
請求項1から請求項6のいずれかに記載の構造物管理支援装置を複数備え、
前記3次元形状データが格納されるサーバと、
複数の構造物管理支援装置と前記サーバとを接続する通信回線と、を有し、
前記複数の前記構造物管理支援装置において前記3次元形状データを共有可能とした、
ことを特徴とする構造物管理支援システム。
【請求項8】
前記3次元形状データの任意の対象領域を測量して測量情報を生成する測量手段と、
前記測量情報を参照して前記対象領域に係る作業関連数量を見積もる見積手段と、
前記作業関連数量に対して複数の使用者による電子署名を付与する他の電子署名付与手段を有する、
ことを特徴とする請求項7に記載の構造物管理支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は構造物管理支援装置および構造物管理支援システムに関する。
【背景技術】
【0002】
従来、社会インフラのメンテナンス業務においては、担当者が対象となる現場に赴くことが常識であった。しかしながら、点検業務については、日本全国に点在する社会インフラに対する熟練の点検技術者の数は限られており、技術力の低い点検技術者が担当せざるを得ない場合も多い。例えば、図面や写真を用いまた口頭などにより熟練の点検技術者からの指導を受けたとしても、点検の見落としや点検結果のバラつきなどは避けられず、点検品質の向上には限界がある。
【0003】
一方、ヘッドマウントディスプレイ(HMD:Head Mounted Display)などの視認エリアに仮想3次元空間を表示し、高所、閉所などの特殊空間や危険な場所など現実では経験することが難しい空間における環境や状況を的確に再現することができるシステムが開発されており(例えば、特許文献1参照。)、建設・建築業界等においても安全教育や点検作業などの疑似体験の目的でこのような技術の応用が進んでいる。
【0004】
例えば、熟練の点検技術者のHMDに本人が見ているかのような、所謂一人称視点(First Person View)の3次元画像(VR映像など)を表示可能とし、点検の視野範囲(HMDの視野角(理想的にはカメラの画角)の範囲)の映像を記録し、後のタイミングで経験の浅い点検技術者が当該映像を再生(共有)することで、複数の関係者(熟練の点検技術者と経験の浅い点検技術者など)が現場に赴く(集合する)ことなく、点検のシミュレーション(疑似体験)や、点検技術の承継(育成)を行うことが可能になる。
【0005】
また、設備内の点群データに基づく3次元画像をパソコンに表示し、現場及び事務所で視認可能とすることで、3次元画像(3次元データ)上における点検箇所または点検技術者の仮想的な位置を把握し、点検や保守作業を効率的に行う技術も開発されている(例えば、特許文献2参照。)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2020-061186号公報
【特許文献2】再表2019/107420号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、3次元画像(3次元データ)を用いて仮想的な視野を共有して疑似体験や、情報の共有などを行った場合であっても、現状では、各使用者が当該仮想的な視野においてどのような注視を行ったか(どのように視線を移動させ、どこに注目していたか)を(互いに)客観的に、また事後的に把握することは困難であった。
【0008】
具体的に例えば、点検・保守作業等においては、視野範囲(見えている範囲)よりも当該視野範囲のうちどこに注目していたか(注視点)が重要であるところ、例えば、熟練の点検技術者の視野範囲を再生(共有)したとしても、実際にその際の注視点(どこに着目していたか)の経時変化を客観的且つ事後的に確認することができない問題があった。
【0009】
また、例えば3次元画像(3次元データ)上における点検箇所または点検技術者の仮想的な位置は把握(認識)可能であっても、当該点検箇所に近づいた事実が認識できるのみであり、実際に当該点検箇所を、どのように注視したかを客観的に把握することはできなかった。また、3次元データ上における多数の点検箇所を複数の点検技術者で分担して点検(仮想的な点検)をするような場合においても互いの注視点を把握できないため、複数の使用者(関係者)間において点検対象・範囲の認識違いや誤解による点検の重複や点検漏れが生じる問題もあった。
【0010】
本発明は、斯かる実情に鑑み、3次元形状データを用いて構造物の管理を行う場合に、使用者の3次元位置情報に応じた仮想的な視野における注視点の客観的・事後的な把握を可能にする構造物管理支援装置および構造物管理支援システムを提供するものである。
【課題を解決するための手段】
【0011】
本発明は、構造物の3次元形状データを表示可能な表示手段と、記憶手段と、前記3次元形状データを、使用者の3次元位置情報に応じた映像(以下、「一人称視野映像」という)で前記表示手段に表示させる視野制御手段と、前記一人称視野映像の経時変化を意味する経時変化情報を前記記憶手段に記憶する視点履歴記録手段と、を有する、ことを特徴とする構造物管理支援装置に係るものである。
【0012】
また、本発明は、上記の構造物管理支援装置を複数備え、3次元形状データが格納されるサーバと、複数の構造物管理支援装置とサーバとを接続する通信回線と、を有し、複数の構造物管理支援装置において3次元形状データを共有可能とした、ことを特徴とする構造物管理支援システムに係るものである。
【発明の効果】
【0013】
本発明によれば、3次元形状データを用いて構造物の管理を行う場合に、使用者の3次元位置情報に応じた仮想的な視野における注視点の客観的・事後的な把握を可能にする構造物管理支援装置および構造物管理支援システムを提供することができる。
【図面の簡単な説明】
【0014】
【
図1】本発明の実施形態に係る構造物管理支援装置の概要を示す(A)外観図、(B)ブロック図である。
【
図2】本発明の実施形態に係る構造物管理支援装置の一部の機能の概要を示すブロック図である。
【
図3】本発明の実施形態に係る、構造物管理支援装置の表示の一例を示す図である。
【
図4】本発明の実施形態に係る、構造物管理支援装置の表示の一例を示す図である。
【
図5】本発明の実施形態に係る、構造物管理支援装置の表示の一例を示す図である。
【
図6】本発明の実施形態に係る、構造物管理支援装置の表示の一例を示す図である。
【
図7】本発明の実施形態に係る、構造物管理支援システムの(A)全体構成を示す概要図、(B)使用の態様を示す概要図である。
【
図8】本発明の実施形態に係る、構造物管理支援システムの一部の機能を示すブロック図である。
【
図9】本発明の実施形態に係る、構造物管理支援システムの表示の一例を示す概要図である。
【
図10】本発明の実施形態に係る、構造物管理支援システムの表示の一例を示す図である。
【発明を実施するための形態】
【0015】
以下、本発明の実施の形態について添付図面を参照して説明する。
【0016】
<第1実施形態/構造物管理支援装置>
図1は、本発明の第1実施形態の一例である構造物管理支援装置10の全体構成を示す図であり、
図1(A)が外観の概略図であり、同図(B)がハードウェアの構成の概略を示すブロック図である。
【0017】
図1に示すように、本実施形態の構造物管理支援装置10は例えば、制御手段11と記憶手段14(141)を有する計算機(情報処理装置)19と、表示手段13であるHMD(Head Mounted Display)を少なくとも有する。情報処理装置19は例えば、本実施形態にかかるプログラム(アプリケーションプログラム)がインストールされたまたは組み込まれたPC(パーソナルコンピュータ)である。またHMD13も記憶手段142を有する。すなわち記憶手段14には情報処理装置19の記憶手段141とHMD13の記憶手段142が含まれる。
【0018】
しかしこの構成に限らず、本実施形態の構造物管理支援装置10は制御手段11と、表示手段13と、記憶手段14などが一体的に構成された携帯可能な情報処理端末であってもよい。具体的には、本実施形態にかかるプログラム(アプリケーションプログラム)がインストールされた、または組み込まれたノート型PC、タブレット端末、スマートフォン、携帯電話、携帯情報端末(Personal Data Assistant;PDA)、ハンディ端末、GPS端末、デジタルカメラなどであってもよい(表示手段13を備える装置であればHMDでなくてもよい)。また、HMD13が制御手段11および/または記憶手段14を一体的に有する構成であってもよい。
【0019】
同図(B)を参照して本実施形態の構造物管理支援装置10は、制御手段11と、入力手段12(121、122,123)と、表示手段13と、記憶手段14(141,142)と、通信手段16(161、162、163)と、音声出力手段17と、各種センサ18と、業務支援手段20などを有する。
【0020】
制御手段11は例えば、情報処理装置(PC)19に含まれ、演算処理装置(CPU;central processing unit、MPU;microprocessor unit等))を備え、記憶手段14に記憶(インストール)されたオペレーティングシステム(OS;Operating System)、各種アプリケーションプログラム、ブラウザソフトウェアを実行することによって、以下に説明する機能を含む種々の機能を提供する。情報処理装置19は、例えばノート型パソコンやデスクトップ型パソコンであるが、情報処理装置19はウェアラブルコンピュータであってもよい。
【0021】
表示手段13は、構造物管理支援装置10の使用者(例えば点検技術者など)毎に、使用者自身が視認する画像を表示する手段であり、少なくとも現実環境の(実在の)構造物の3次元形状データを表示可能なものであり、携帯可能であることが望ましく、一例として、上記のとおりHMD13である場合を例に説明する。HMD13は、メガネ型であってもよいし、帽子型であってもよい。また、HMD13のディスプレイ方式は非透過型であってもよいし、ビデオ透過型であってもよし、光学透過型、その他の方式であってもよい。また、投影方式は、虚像投影方式、網膜投影方式、その他の方式などいずれであってもよい。HMD13は、使用者の眼前に配置されるディスプレイ131(液晶ディスプレイや有機ELディスプレイ等)の他、通信手段162や記憶手段142なども有している。
【0022】
HMD13は、構造物の3次元形状データの他に、例えば各種アプリケーションの実行結果としての画像(2次元画像および/または3次元画像)や、アイコンや、ボタン等の画像、その他画像(文字も含む)を表示可能である。なお、本明細書における「画像」には特に区別して記載しない限り、静止画像および動画像が含まれる。
【0023】
また本実施形態の3次元形状データとは、少なくとも3次元の位置情報(および数値)を有するデータをいう。3次元形状データの一例としては、3次元の走査手段(例えば3次元レーザースキャナーなど)で構造物を計測(スキャン)したデータ、スキャンデータを加工したデータ、3次元の位置情報(スキャナーからの相対的なX,Y,Z情報)をそれぞれに有する点の集合体である3次元点群データや、3次元のコンピューターグラフィックスにおける立体形状を表現するために使われる多角形の面データ(3次元画像、ポリゴンデータ)、3次元CADデータ、BIM(Building Information Modeling)で使用可能なデータなどである。
【0024】
本実施形態のHMD13は、例えばジャイロセンサ、加速度センサ、深度センサ、赤外線センサなどの各種センサ18や撮像手段(カメラ)15などを有し、3次元形状データに基づく仮想3次元空間内におけるXYZ3軸の傾きと位置情報を検出(前後左右の移動を検出)可能な構成であり、一例として、6自由度(6DoF)方式が採用される。
【0025】
記憶手段14は、この例では内蔵メモリ(メインメモリ(RAM;Random Access Memory)、ストレージ、ROM(Read Only Memory)など)であるが、外部記憶装置を含んでもよい。この例では、記憶手段14は、情報処理端末(PC)側の記憶手段141と、HMD13側の記憶手段142を含む。この場合例えば、PC側の記憶手段141には、OS、ファームウェア、ブラウザソフトウェア、各種アプリケーションプログラム、各種ドライバの他、各種データ(画像データ、テキストデータなど各種アプリケーションプログラムで処理可能なデータ、ドキュメント)、HMD13に表示する3次元形状データなどが記憶、保存される。また、HMD13側の記憶手段142は、少なくともHMD13に表示するおよび/または表示された3次元形状データが記憶、保存される。記憶手段142は、例えばUSB(Universal Serial Bus)メモリやカード型メモリ(メモリカード)などの補助記憶媒体であってもよい。
【0026】
入力手段12は、構造物管理支援装置10で扱う各種情報を入力可能な手段であり、ここでは一例として、PC19やHMD13のいずれとも別体に構成された操作手段(例えば、入力ポインタ)121、HMD13に一体的に設けられたHMD側操作手段(操作ボタン)122、HMD13に設けられた音声入力手段(マイク)123を含む。ここでは入力手段(入力ポインタ)12として、HMD13に付属する物理的なハンドコントローラを例に説明する。しかしこれに限らず、HMD13のセンサにより使用者の手と指などを認識し、画像処理を行うことで物理的なハンドコントローラを用いることなく各種操作を可能とする(HMD13の)ハンドトラッキング機能も本実施形態の入力手段12に含まれる。
【0027】
入力ポインタ121は例えば、少なくともレーザポインタで現実空間の所定位置を指し示すように3次元形状データ内の所定の部位を指し示すことが可能に構成される。例えば、HMD13は入力ポインタ121の移動をセンサで検知し、PC19は検知された移動量及び移動方向に基づきディスプレイ131に表示される3次元形状データ内の所定の部位にカーソル(ポインタ)を表示する。また、入力ポインタ121は、所望の動作を指示する(所望の機能を発揮する)ための物理的な操作ボタンおよび/またはジョグダイヤルなどが設けられていると望ましい。
【0028】
入力ポインタ121はまたフリードロー機能を有し、表示されている3次元形状データに重ねて任意の線画(手書き文字等)を入力可能である。これにより例えば、現実空間における点検作業などにおいて、橋脚等にチョークで直接メモをする作業の代替が可能となる。
【0029】
本実施形態のHMD13は、一例として、HMD13が搭載する撮像手段15やセンサ18などにより外部(現実)の空間との位置関係を取得するインサイドアウト方式を採用する。この場合例えば、撮像手段(ステレオカメラ)15や深度センサ(センサ18)で外部空間の形状を記憶した上で自身の位置を割り出す方法や、外部からの赤外線入射の時間差から位置を割り出す方法などが採用される。また、これに限らず、HMD13は、例えば、HMD13の外部に配置した撮像手段(例えば、カメラを含むセンサ)によって、HMD13や、入力手段12であるハンドコントローラの位置および角度を取得するアウトサイドイン方式であってもよい。
【0030】
通信手段16は、例えば、PC19側の通信手段161、HMD13側の通信手段162および入力ポインタ121の通信手段163を含み、互いにネットワーク(有線又は無線の通信回線)を介してデータ通信等を行なうことができる。無線のデータ通信は、例えばWi-Fi(登録商標)、Bluetooth(登録商標)、NFC(Near Field Communication)等による近距離無線通信や、例えば、LTE(Long Term Evolution)方式、3G(3rd Generation)方式、4G(4th Generation)方式、5G(5th Generation)方式、FDMA方式、TDMA方式、CDMA方式、W-CDMAの他、PHS(Personal Handyphone System)などの移動体通信網を介した種々の無線通信方式によって行われる。
【0031】
音声出力手段17は、HMD13に設けられ、他の使用者が音声入力手段123を介して送信した音声や、PC19からの音声(アラーム音やガイド音声など)を出力可能に構成される。
【0032】
上記以外にHMD13は、従来既知ものと同様の構成を有する。例えばHMD13は表示制御手段や入出力インターフェイスを有し、情報処理装置19の記憶手段141に格納され3次元形状データを受信してディスプレイ131に表示する。また、情報処理装置19および入力手段12と各種情報の送受信を行う。
【0033】
また、情報処理装置19も上記した以外に従来既知の構成、例えば表示手段(ディスプレイ)や入力手段(キーボードなど)を有している。
【0034】
なお、情報処理装置19は、使用者が携帯可能な端末(例えば、タブレット端末など)であり、HMD13は当該タブレット端末と有線または無線で通信を行う構成であってもよい。また、情報処理装置19は、HMD13に付属(内蔵)される小型コンピュータであってもよい。
【0035】
図2を参照して業務支援手段20について説明する。同図は業務支援手段20の機能を説明するブロック図である。業務支援手段20は、情報処理装置19の記憶手段14にインストールされたアプリケーションプログラムである。すなわち、情報処理装置19に業務支援プログラムがインストールされ、上述した情報処理装置19やHMD13、入力手段12などの各ハードウェアと協働することにより、構造物管理支援装置10の業務支援機能が実現する。業務支援手段20は、視野制御手段21と、視点履歴記録手段22と、情報付与手段24などを有する。
【0036】
視野制御手段21は、3次元形状データを、使用者の3次元位置情報に応じた映像(以下、「一人称視野映像VF」という)で表示手段13(ここではHMD13のディスプレイ131)に表示させる。
【0037】
ここで、「使用者の3次元位置情報」とは、使用者が携帯する表示手段13、すなわち使用者が装着するHMD13の、3次元形状データに基づく仮想3次元空間内における位置情報と、ディスプレイ131の姿勢(ディスプレイ131の向いている方向(画角の範囲))を含む情報である。
【0038】
また、「一人称視野映像VF」とは使用者本人の目線による映像(いわゆる一人称視点(FPV:First Person View)の映像)をいい、HMD13の視野角(FOV:Field of View)の範囲の映像をいう。以下、HMD13の視野角の範囲を「仮想視野範囲301」という。
【0039】
視野制御手段21によって、HMD13(のディスプレイ131)に使用者の3次元位置情報に応じた一人称視野映像VFが表示されることで、使用者はあたかも現場で対象となる構造物を視認しているかのように、疑似的に仮想3次元空間内に入り込んで当該構造物の3次元形状データを視認することができる。
【0040】
視野制御手段21は、使用者がHMD13で表示させた一人称視野映像VFと、当該使用者とを、使用者毎に個別に対応づける使用者管理制御を行う。本実施形態の建造物管理支援装置10の使用者は予め(使用開始の初回に)、使用者の個々を特定する使用者IDを用いた既知のログイン(サインイン)などの認証手段により装置(少なくともHMD13)の使用登録を行う。そして、視野制御手段21は、HMD13の使用開始に際し(例えば建造物管理支援装置10(さらにはHMD13)の電源投入後などに)使用者管理制御を行う。つまり認証手段により、正規の使用者であることを判断し、正規の使用者であることが証明された場合に、当該使用者は構造物管理支援装置10およびHMD13を利用可能となる。そしてある使用者IDによって認証された上で使用されるHMD13において表示される一人称視野映像VFは、当該使用者IDに対応する使用者の現実の視野に対応するものとされる。また、使用者管理制御では、使用者IDに、使用者の役割(例えば、作業の実行者や監督者、責任者などの業務上の役割)も対応づけ可能にする。
【0041】
また、視野制御手段21は、注視範囲表示制御を行う。ここで注視範囲表示制御とは、一人称視野映像VFを表示している場合の仮想的な注視範囲(仮想注視範囲302)の表示、およびその変更を含む制御である。仮想注視範囲302とは、仮想視野範囲301(一人称視野映像VFが表示される範囲)において、使用者が実際に注目できていると想定される範囲、使用者が実際に注視可能な範囲をいう。即ち、本構造物管理支援装置10の目的に沿って、対象物を正しく認識・把握できる範囲と表現することも可能であり、実際の人間の視野角(あるいはHMD13にシステム上設定される視野角)の範囲よりも狭い範囲に設定可能で、また、対象物との距離などによっても変動し得る。現実環境において人間が両眼の焦点を合わせてある一点(注視点)を見ている場合、その注視点を中心とするある範囲の領域は、見ることを意識して注目・注視している範囲、すなわち注視範囲といえる。そしてこの注視範囲は、注視点の周辺で頭部および視線を動かすことなく見え得る範囲(現実の人間の視野の範囲(視野範囲))に比して小さい範囲となる。この注視範囲をHMD13で表示する一人称視野映像VFにおいて再現するために、視野制御手段21は、一人称視野映像VFの中に仮想注視範囲302を示す画像を表示する。
【0042】
図3を参照して注視範囲表示制御について説明する。同図(A)はHMD13のディスプレイ131の表示領域の概要図である。同図(B)~同図(F)は使用者がHMD13にて視認する一人称視野映像VFの一例を示す概要図であり、同図(B)は、3次元形状データDで示される構造物の全体像と、使用者のHMD13の位置関係の一例を俯瞰的に(第三者の目線で)示す概要図であり、同図(C)~同図(F)はHMD13の一人称視野映像VFの表示例である。
【0043】
同図(A)に示すように、本実施形態ではディスプレイ131の表示領域全体が仮想視野範囲301となる。そして、仮想注視範囲302は、一例として、常に仮想視野範囲301の中心、詳細には水平視野角0度、且つ垂直視野角0度の点(これを以下「仮想注視点VP」という)を中心とするある面積(例えば、水平視野角X度、且つ垂直視野角Y度の範囲の面積、または仮想視野範囲301全体に対して所定割合の面積)を有する領域である。仮想注視点VPは例えば撮像手段15の光軸上の点であるが、仮想注視点VPは例えば、HMD13を装着した使用者の頭(首)の向き(位置)により決定される点であってもよい。既に述べたように仮想視野範囲301に表示される映像が一人称視野映像VFである。そして一人称視野映像VFのうち、仮想注視範囲302内で表示される映像を以下「一人称注視映像VA」という。仮想注視範囲302および仮想注視点VPは、3次元画像上に、例えば〇印や□印などのオブジェクト(画像)として表示される。
【0044】
注視範囲表示制御では、仮想注視範囲302を例えばあるデフォルトの範囲で設定してHMD13(のディスプレイ131)に表示し、さらに当該仮想注視範囲302を変更する制御を含む。仮想注視範囲302の変更の制御については後に詳述する。
【0045】
同図(B)を参照して、ここでは構造物の3次元形状データDは、一例として10個の窓Wを有する建造物である。窓W内の数字は説明の便宜上付したものであり、以下ではそれぞれ窓W(1)~窓W(10)として説明する。また、構造物の3次元形状データDはについてここでは簡易的に2次元の線画として示している。そして同図(B)に相対的な位置関係として示すようにこの3次元形状データDの窓W(5)右上方にHMD13の仮想注視点VPが存在している場合、使用者には同図(C)に示すように一人称視野映像VFが視認される。視野制御手段21は仮想注視点VPを中心とした所定の範囲として仮想注視範囲302を表示する。使用者はこの場合、窓W(5)右上方の仮想注視範囲302(その内側の一人称注視映像VA)を注視していることになる。
【0046】
同図(D)は使用者がHMD13を移動させ、すなわち視点(視線)を移動させた状態である。HMD13の移動に伴い、一人称視野映像VFは変化し、仮想注視点VPおよび仮想注視範囲302も移動する。この場合、使用者は視線を移動させて窓W(4)の中央付近を注視していることになる。同図(E)、同図(F)はさらに使用者がHMD13を移動させ、すなわち視点(視線)を窓W(3)の左下よりから窓W(10)の右下外側付近に移動させた状態である。
【0047】
このように、本実施形態の構造物管理支援装置10における、一人称視野映像VF、一人称注視映像VAおよび仮想注視点VPは、それぞれ現実環境における使用者の視野範囲で見え得る事象、注視範囲で見ている事象、注視点に対応する。
【0048】
そして、同図(C)~同図(F)に示すように、使用者の移動や頭部(HMD13)の向きおよび傾きに追従して仮想視野範囲301が経時的に変化する場合、一人称視野映像VF、一人称注視映像VAおよび仮想注視点VPも、それぞれ経時的に変化する。
【0049】
視点履歴記録手段22は、一人称視野映像VF(そのうち少なくとも一人称注視映像VA)の経時変化を随時再現(確認)可能となるように、あるいは後に再生可能となるように、一人称視野映像VFの経時変化、より詳細には一人称注視映像VAの経時変化を意味する経時変化情報を記憶手段14に記憶(記録)する。一人称視野映像VFの経時変化は、一人称注視映像VAの経時変化情報と3次元形状データに基づき再生(再現)することが可能となる。一人称注視映像VAの経時変化を以下「視点履歴TR」と称する。視点履歴TRは、例えば一人称注視映像VAの経時変化を動画として直接記録(保存)するものであってもよいし、当該動画に仮想注視範囲302および/または仮想注視点VPの表示を含むものであってもよい。
【0050】
さらに、仮想注視範囲302に含まれる一人称注視映像VAとしての3次元形状データ側に「視認された」という情報を記録していく手法も、視点履歴記録の一種に含む。例えば、使用者視認された3次元形状データについては表示態様を切り替えることで、視認されたという情報を記録する方法も視点履歴記録に含む。具体的に例えば、点群データの場合、視認された部分の点を所定の色(当初の色とは異なる色)で着色(変色)することで表示態様を変更する。そしてそのように着色(変色)された点(点群)も視点履歴TRに含まれる。この場合において、「視認された」という情報が記録された3次元形状データ(例えば、建物の外壁面のデータ)の背後に、別の3次元形状データ(例えば、柱や鉄筋などのデータ)が重畳して存在する場合がある。このように「視認された」という情報が記録された3次元形状データの背後に重畳する3次元形状データについては、2次元平面として区画される仮想注視範囲302に含まれていたとしても視認されたことにはならず、視点履歴TRには含まれない。
【0051】
図3(G)は、記録された視点履歴TRの一例を示す図であり、構造物の3次元形状データDを基準として俯瞰的に(第三者の目線として)、ある使用者の視点履歴TRを表示(再現)した概要図である。このように本実施形態では、使用者の視点履歴TRを随時記録できるため、使用者の単なる仮想視野範囲301の移動(HMD13の移動)の変化に限らず、そのうちのどの部分に特に注視していたかを客観的且つ事後的に把握することができる。
【0052】
なお、視点履歴TRは、仮想注視範囲302および/または仮想注視点VPの3次元座標の移動情報のみの記録であって一人称注視映像VAは含まなくてもよい。例えば記録した視点履歴を再生する場合に、仮想注視範囲302および/または仮想注視点VPの3次元座標の移動情報に基づき一人称注視映像VAとして生成して表示することができる。また同様に、ディスプレイ131の表示領域の範囲を一人称視野映像VFとして生成して表示することができる。また、視点履歴TRとして一人称視野映像VFも別途記憶可能としてもよい。また、視点履歴を再生する場合、一人称注視映像VAと一人称視野映像VFとを切り替えて再生可能にしてもよい。例えば点検作業のシミュレーションなどの場合、移動経路など概要のみの把握で十分な場合には、一人称注視映像VAよりも広角の一人称視野映像VFの方が、認識が容易になる場合もある。
【0053】
視野制御手段21の使用者管理制御では、使用者がHMD13で表示させた一人称視野映像VF(または一人称視野映像VFの再現(再生)を可能にする一人称注視映像VA、仮想注視範囲302や仮想注視点VPの3次元座標の移動情報)と当該使用者とを、使用者IDなどによって個々に対応づける。つまり、視点履歴TRも使用者IDなどにより使用者に個々に対応づけられる。
【0054】
視点履歴記録手段22は、例えば、視点履歴TRを周期的なタイミングで情報処理装置19に送信するため、一時的にHMD13の記憶手段141に記録する。あるいは、使用者による任意のタイミングで(必要に応じて)情報処理装置19に送信(または手動による複製、移動など)が可能となるように、HMD13の記憶手段142に視点履歴TRを保存(蓄積)可能とするものであってもよい。
【0055】
視点履歴記録手段22は、例えば使用者による入力手段12の操作により(例えば、入力ポインタ121、HMD側操作ボタン122などの適宜の操作により、あるいは使用者による音声入力手段(マイク)123を介した音声入力などにより)任意のタイミングで視点履歴TRの記録を開始し、終了する。視点履歴記録手段22は、視点履歴TRの記録の開始から終了までの期間(記録期間)、連続して視点履歴TRを記録する(仮想注視範囲302の〇印が連続して線状に記録される)構成であってもよいし、例えば記録期間において仮想注視点VPが一定時間(例えば数秒)移動しなかった場合に点検に相応する注視があったとして、その位置の仮想注視範囲302を視点履歴TRに記録するようにしてもよい。これにより注視(点検など)に当たらない不要な視線な移動の記録を除外することができる。また、視点履歴記録手段22は、使用者による入力手段12の操作毎に視点履歴TRを記録する(例えばボタンを押した場合に記録し、離した場合に記録をしない)ようにしてもよい。使用者は記録したい任意の位置で入力手段12を操作する。これによりポイント的に視点履歴TRを残すことができ、これによっても不要な視線の移動の記録を排除することができる。
【0056】
また、業務支援手段20は、電子署名付与手段23を有する。電子署名付与手段23は、例えば一人称視野映像VF及び/又は経時変化情報(例えば、視点履歴TR)に対して電子的な徴証である電子署名を付与する手段である。電子署名付与手段23は、また電子署名に署名をした者が本人であることを証明する、認証局が発行した電子証明書を添付する。電子証明書は、認証局(CA:Certification Authority)が発行し、公開鍵暗号基盤(PKI:Public Key infrastructure)と呼ばれる暗号技術により本人性を証明する。つまり電子署名付与手段23は電子証明書を使って、電子署名を付与し、HMD13の使用者を特定する。これにより、当該HMD13で記録された視点履歴TRがHMD13の使用者の一人称注視映像VAまたは一人称視野映像VFとして表示されたものであることおよび、電子署名時点から視点履歴TRが改ざんされていないことが証明される。
【0057】
電子署名付与手段23は、さらにタイムスタンプを付与可能にすると好適である。これにより、HMD13やPC19などで設定される時刻とは別に、電子署名の時刻が間違いのない正しい時刻であるということを証明できる。すなわち、使用者の操作により電子署名付与手段23が例えば視点履歴TRに当該使用者の電子署名、およびタイムスタンプを付与することで、当該視点履歴TRがHMD13の使用者の一人称注視映像VAまたは一人称視野映像VFとして表示されたものであることおよび、電子署名時点から当該視点履歴TRが改ざんされていないこと、タイムスタンプの時刻に当該視点履歴TRが存在していること、タイムスタンプの時刻以降も当該視点履歴TRが改ざんされていないことが証明可能となる。
【0058】
既に述べたように、視野制御手段21の使用者管理制御では、使用者がHMD13で表示させた視点履歴TRと当該使用者とを、使用者IDなどにより個々に対応づけ、また、使用者の役割(例えば、作業の実行者や監督者、責任者などの業務上の役割)も例えば使用者IDにより使用者毎に対応づける。
【0059】
つまり使用者管理を行い、かつ視点履歴TRに電子署名(電子証明書添付)およびタイムスタンプを付与可能とすることで、ある業務上の役割を有する特定の使用者と、当該使用者による視点履歴TRとを1対1で紐づけるとともに、これらの本人証明と非改ざん証明が可能となる。これにより、例えば、使用者である点検責任者がHMD13に表示させた視点履歴TRは、点検責任者によるものであり、且つ改ざんされていないものとなる。これにより、視点履歴TRは、仮想3次元空間において、具体的には実際の構造物をスキャンした3次元形状データの上で現実の点検と同等の点検が実行されたという点検の記録(点検の成果物)とすることも可能となる。
【0060】
電子署名付与手段23は、例えば使用者による入力手段12の操作により(例えば、入力ポインタ121、HMD側操作ボタン122などの適宜の操作により、あるいは使用者による音声入力手段(マイク)123を介した音声入力などにより)電子署名/およびまたはタイムスタンプを視点履歴TRに付与する。
【0061】
例えば、電子署名付与手段23は、視点履歴TR記録の終了時に(終了の指示に伴い)、電子署名および/またはタイムスタンプを付与するか否かのメニュー等をHMD13のディスプレイ131に表示、あるいは音声出力するなどし、使用者による操作を促すようにするとより好適である。
【0062】
電子署名付与手段23は、視点履歴TRおよび一人称視野映像VFのいずれにも電子証明を付与することができる。
【0063】
情報付与手段24は、使用者による情報付与操作(マーク付与操作および情報入力操作)に応じて、構造物に関連する情報を3次元形状データに対応付けて記憶手段14(141,142)に記憶する。
【0064】
詳細には、情報付与手段24は、使用者によるマーク付与操作に応じて、HMD13のディスプレイ131に表示中の一人称視野映像に重ねて、オブジェクト画像(以下これを「マーク画像M」という。)を表示する(
図3(F)参照)。具体的に、マーク付与操作は例えば使用者による入力ポインタ121の操作であり、入力ポインタ121が指し示す一人称視野映像に重ねてマーク画像Mを表示するとともに、当該マーク画像Mの仮想3次元空間における3次元座標を取得し、マーク画像M(の画像データ)と、マーク画像Mに固有の識別番号(マーク識別番号MID)と、マーク画像Mの仮想3次元空間内の3次元位置情報とをマーク識別番号MIDをキーにした1つの情報群(データユニット)として、記憶手段14に記憶(例えば、データベース等に登録)する。
【0065】
マーク付与操作はまた、HMD側操作ボタン122などの適宜の操作や、使用者による音声入力手段(マイク)123を介した音声入力などでもよく、これらの操作が行われたときの使用者の例えば注視点の3次元座標上にマーク画像Mを付与するものであってもよい。
【0066】
構造物に関連する情報(以下、「構造物関連情報」という。)は、構造物に関連する、例えば、写真・ビデオなどの撮像(静止画像、動画像)データ、文字データ(テキストデータ、文章作成ソフトウェアで作成された文書データ、表計算ソフトウェアで作成された表形式のデータなど)、音声データ、電子署名、その他のデータである。構造物関連情報の具体例としては、例えば、点検記録、作業指示書、マニュアル、複数の関係者間で共有する各種書類、押印の代替となる電子印鑑、使用者を特定するためのID(サイン、マーク)、入力ポインタ121によるフリードロー機能により入力されたデータ(手書き文字)などである。
【0067】
なお、ここでは一例としてマーク画像Mは所定のオブジェクト画像(ピンマークや〇印など)を表示する例を示しているが、例えばマーク画像Mに入力ポインタ121のカーソルを移動させると、当該マーク画像Mに対応づけられている構造物関連情報の一覧またはサムネイルを表示するようにするとよい。また、マーク画像Mとして(所定のオブジェクト画像を表示せず)当該マーク画像Mに対応づけられている構造物関連情報を、例えばサムネイル(または一覧)で直接表示するようにしてもよい。
【0068】
情報付与手段24は、また既に付与されたマーク画像Mに対して使用者による情報入力操作を受け付ける。情報入力操作は例えば、マーク画像Mを指し示す入力手段12(入力ポインタ121、HMD側操作ボタン122、音声入力手段(マイク)123)による操作であり、操作方法はマーク付与操作と同様である。情報付与手段24は、使用者による情報入力操作が行われた場合、構造物関連情報の入力を受け付け、マーク識別番号MIDをキーとして入力された構造物関連情報をマーク識別番号MIDに対応する情報群(データユニット)に追加登録する。つまり、本実施形態のマーク画像Mは、仮想3次元空間における位置座標(3次元座標)を有し、構造物関連情報を保持可能な情報保持手段(フォルダ)といえる。また、マーク画像Mと対応付けられる(保持される)構造物関連情報も仮想3次元空間における位置座標(3次元座標)を有するといえる。なお、電子署名付与手段23は、構造物関連情報についても電子証明を付与することができる。
【0069】
構造物管理支援装置10は、記憶手段14に記憶した3次元形状データ(対応付けられている構造物関連情報を含む)や視点履歴TRを含む各種情報を、例えば、通信手段16を介して各種情報を送信し、あるいは外部補助メモリを介して各種情報を複製等して、外部装置(別途の情報処理装置やプリンタなど)に出力可能である。
【0070】
また、構造物管理支援装置10は、外部装置との間でデータユニットを送受信可能である。外部装置とは他の構造物管理支援装置10やその他の装置であり、データユニットとは、他の構造物管理支援装置10で作成した3次元形状データ(対応付けられている構造物関連情報を含む)や視点履歴TRを含む各種情報、または他の装置で作成した3次元形状データ(対応付けられている構造物関連情報を含む)を含む各種情報である。これにより、構造物管理支援装置10は例えば外部装置から通信手段16を介してデータユニットをインポートし、表示手段13に表示可能である。
【0071】
<仮想注視範囲の表示と変更>
図4および
図5を参照して仮想注視範囲302について更に説明する。視野制御手段21は、構造物管理支援装置10の使用環境(使用状況)、使用状態、使用目的、使用者の能力、あるいは使用者の操作等に応じて、仮想注視範囲302を適宜の範囲の初期値として設定し、また変更可能である。
【0072】
図4は、HMD13のディスプレイ131の表示の一例である。一例として、同図(A)、同図(B)は
図3に示した構造物の3次元形状データを視認している場合である。仮想注視範囲302は例えば使用開始時には初期値として、面積比率として仮想視野範囲301全体の所定割合(例えば20%など)の領域として設定される(同図(A))。また、3次元形状データは数値をもったデータであるため、例えば、使用者の位置(仮想3次元空間内の位置)から所定距離の所定数値範囲の領域(例えば使用者から10m先の半径2mの円内の領域など)として設定してもよく、例えば人間の一般的な視野角(またはHMD13のシステム上設定される視野角)よりも狭い角度範囲の領域として設定しても良い。仮想注視範囲302の初期値は、例えば、構造物管理支援装置10の使用状態(使用環境)、使用目的など、視覚および視認に影響する各種要因に応じて適宜の値が選択される。
【0073】
使用状態(使用環境)とは例えば、HMD13を使用する際の構造物画像Xまでの距離(どの程度まで近づけるか)、HMD13を装着する使用者の仮想3次元空間内での移動速度(例えば、点検を行う場合、仮想的に徒歩での移動か作業車による移動か)などである。また使用目的とは例えば点検の目的(近接点検、定期点検、問題が生じた場合の点検など)、疑似体験用途などであり、使用者の能力とは例えば点検の場合には点検の熟練度や、視力等の身体的能力などである。
【0074】
視野制御手段21は、設定された仮想注視範囲302の初期値を、上記各要因に応じて自動で変更し、あるいは使用者の手動による変更を受け付ける。例えば、
図4(B)は、同図(A)と同じ仮想視野範囲301において、仮想注視範囲302が拡大された状態を示す。
【0075】
また、上述したように仮想注視範囲302は、視野角より狭い角度範囲の固定値として制御する(仮想視野範囲301(またはディスプレイ131、一人称視野映像VF))に対する相対的なサイズ(占有面積)が変化しないように制御する)ことも可能であるが、一方で、仮想注視範囲302は、使用者から対象物までの距離に応じて仮想視野範囲301(またはディスプレイ131、一人称視野映像VF)に対する大きさ(占有面積)を相対的に変動させるように制御してもよい。例えば、使用者の眼は、遠い対象物を見る時に認識力が低下し、更に遠くなると全く認識できない状態となる。これをHMD13上の映像で説明すると、遠い対象物は映像上に占める面積が小さくなりすぎて、視野に入っているものの注視できない状態(仮想注視範囲ゼロ)になり得る。一方、利用者の眼は、近い対象物を視る時に認識力が向上するので、広い範囲で注視できることになる。この状態を反映させた事例を同図(C)に示す。同図(C)では、同図(A)の状態よりも構造物の3次元形状データDに近接した結果、仮想視野範囲301上に占める仮想注視範囲302の面積は大きくなる。利用者の眼の認識力の向上が想定されるので、対象物のサイズと比較して、相対的に仮想注視範囲302の大きさを拡大させた状態を示す(仮想注視範囲302内において視認し得る対象物の範囲(面積)は小さくなる)。
【0076】
このため、仮想注視範囲302は例えば3次元形状データDの対象領域までの距離に応じて、すなわち対象物に近接すれば、視野角に近づく方向に拡大(仮想視野範囲301上の占有面積が拡大)し、対象物から離間すれば、視野角よりも小さくなる方向に縮小(仮想視野範囲301上の占有面積が縮小)するように自動で変更可能としてもよい。3次元形状データDは長さの情報も有しており、使用者の仮想3次元空間内の3次元位置情報に基づき、使用者から3次元形状データDの対象領域までの距離を把握できる。
【0077】
現実環境における構造物の点検業務においては、例えば触診や打音検査ができる距離まで近付く近接点検(近接目視)などが義務付けられる場合もある。このような用途の代替として本実施形態の構造物管理支援装置10を使用する場合、近接点検(近接目視)の条件に応じて、仮想注視範囲302を設定する。具体的には視野制御手段21は例えば、3次元形状データDの対象領域までの距離が1m以下になった場合に、仮想注視範囲302を拡大する。さらに、視野制御手段21はまた、ディスプレイ131への表示開始の当初から仮想注視範囲302を表示するのではなく、所定の条件に基づき表示するようにしてもよい。つまり、近接点検の際には、例えば対象領域までの距離が1m以下になった場合に仮想注視範囲302および/または仮想注視点VPを表示するようにしてもよい。その状態で視点履歴の記録を行えば(視点履歴の記録ができたということは)近接点検の条件をクリアした状態で一人称注視映像VAを表示させたこととなる。つまり、構造物管理支援装置10による点検を現実環境の点検の代替に用いる場合、視点履歴記録手段22による視点履歴TRの記録を点検完了の成果物(証拠)とすることができる。
【0078】
なお、実際の触診による点検作業の代替として、グローブ型の3次元画像対応デバイスを利用し、仮想3次元空間内における凹凸などの触覚フィードバックを活用するようにしてもよい。
【0079】
同図(E)および同図(F)は3次元形状データD上の目的となる構造物X1、X2までの距離に応じた仮想注視範囲302の変更の一例を示す図である。例えば、現実環境における使用者の視力は、遠方ほど視認が困難となる。そこで、同図(E)に示すように対象物(例えば構造物X1)までの距離を3次元形状データDに基づき測定し、仮想注視範囲302に含まれる構造物X1が、現実環境においても視認(例えば点検などを目的とした視認)が可能な距離にある場合には、仮想注視範囲302を表示するようにしてもよい。一方、同図(F)は、現実環境において目視はできる(存在は認識できる)ものの、遠方であるため点検は不可能な距離にある構造物X2の3次元形状データDに仮想注視点VPが位置している例である。この場合は現実環境では点検は不可であるため、同図(F)に示すように仮想注視範囲302を非表示としてもよい。なお、この例では構造物X1は使用者との距離は近接しているものの、仮想注視範囲302外となっている。そして、同図(G)に示すように構造物X2については所定距離まで近接した場合に仮想注視範囲302が表示される。この場合、仮想注視範囲302が表示可能になる距離は、一般的に注視が可能となる距離、あるいは近接点検のように現実環境において定められた条件に基づき適宜決定される。また、使用者が自身の視力に応じて手動の操作により変更可能としてもよい。同図(E)~同図(G)の例では仮想注視範囲302のサイズは変更しない場合を示したが、変更可能としてもよい。例えば、同図(E)から同図(F)に遷移する間、仮想注視範囲302が徐々に縮小し、同図(F)から同図(G)に遷移する間、仮想注視範囲302が徐々に拡大するようにしてもよい。
【0080】
また、仮想注視範囲302の表示制御は、注視している時間を考慮してもよい。例えば、近接していても瞬時に仮想注視点VPが移動してしまう場合には、注視(点検)していることにならない場合もある。従って、仮想注視点VPが所定時間(数秒など)移動しない場合に仮想注視範囲302を表示するようにしてもよい。
【0081】
なお、仮想注視範囲302の形状は丸形状にかぎらず多角形状(正方形状、横長の矩形状など)であってもよい。
【0082】
図5は一人称視野映像VFおよび一人称注視映像VA(仮想注視範囲302)について更に説明するための概略図である。構造物Xの形状によっては、仮想注視範囲302にHMD13のディスプレイ131に正対しない部位が存在したり、ディスプレイ131と正対できない位置を注視する場合がある。
【0083】
例えば、同図(A)、同図(C)、同図(E)は構造物を示す3次元形状データDの例えば壁面を注視する場合であって、仮想3次元空間における使用者の仮想的な位置と構造物を示す3次元形状データの位置との関係を俯瞰する図であり、同図(A),同図(C)が上方から俯瞰する(第三者の目線で見る)概念図であり、同図(E)が側方から見た概念図である。また同図(B)は、同図(A)に対応する仮想視野範囲301と仮想注視範囲302を示す概略図、同図(D)は同図(C)に対応する仮想視野範囲301と仮想注視範囲302を示す概略図、同図(F)は同図(E)に対応する仮想視野範囲301と仮想注視範囲302を示す概略図である。またここでは仮想注視範囲302を矩形状に示している。
【0084】
この場合の構造物は、壁aと壁bによるコーナー部が生じており、使用者はコーナー部付近から構造物を注視している。詳細には、同図(A)における使用者の左目の前方の壁aは使用者と略正対するが、使用者の右目の前方の壁bは使用者に正対せず、壁aを延長しした面)に対して所定の角度で(コーナー部の外角が角度αとなるように)傾斜し、仮想注視点VPから水平方向に離れるに従って(水平視野角が大きくなるほど)壁bは使用者から遠ざかる状態である。
【0085】
視野制御手段21は、原則的に仮想注視点VPを中心として左右および上下に対象な領域(同図(A)に破線で示す)として仮想注視範囲302を設定する。しかしながら、使用者に対して(略)正対する領域(正対領域SC:壁aなどの正対面)とそうでない領域(非正対領域SN:壁bなどの非正対面)を含む構造物が仮想注視範囲302に含まれる場合、視野制御手段21は、非正対領域SNについては仮想注視範囲302変形させる(現実環境に即して一部は注視不可(困難)になるように変形させる)と望ましい。
【0086】
同図(B)では、壁bが使用者に正対しないことで、視野制御手段21は壁b側において仮想注視範囲302の垂直視野角を狭め、壁a側と非対象の台形状に仮想注視範囲302を変更している。
【0087】
同図(C)および同図(D)は、壁aと壁bによるコーナー部の角度が同図(A)同図(B)よりも鋭角になる(外角の角度β>α)場合である。現実環境においてコーナー部の外角が大きくなると、使用者に正対しない壁bの視認できる範囲(認識できる範囲)は少なくなる。このため、視野制御手段21は、非正対領域SNについては仮想注視範囲302を変形させる。またこのように変形させる場合例えば、正対領域SCに対する非正対領域SNの非正対の程度(ここでは、コーナー部の外角の角度α、β)に基づき、仮想注視範囲302を変形させるか否か、または変形させる程度を決定するとよい。例えば、非正対の程度、すなわち外角が所定の閾値Dt以下の場合(Dt≧αの場合)は仮想注視範囲302の変形量は小さく(同図(B))、外角が所定の閾値Dtよりも大きい(Dt<β)の場合は仮想注視範囲302の変形量を大きくする(同図(D))。同図(D)では、視野制御手段21は仮想注視範囲302を破線から実線のように変更し、仮想注視範囲302は壁a側のみ、初期値の1/2のサイズに変更されている。
【0088】
なお、非対象領域SNの形状は一例であり、同図(A),同図(C)に示すように鉛直方向にコーナー部が存在する形状に限らず、例えば同図(E)、同図(F)に示すように、水平方向にコーナー部が存在する形状であっても同様である。
【0089】
さらに
図5(G),同図(H)に示すように、非正対領域SNを有する構造物を注視する場合、仮想注視範囲302は使用者からの距離に応じて変更してもよい。同図(G)、同図(H)は、それぞれ
図5(A)、
図5(B)に対応する概要図である。同図(G)に破線で示すように視野制御手段21は原則として例えば破線で示す矩形の領域に仮想注視範囲302を設定する。しかしながら、例えば、壁aの点P1と壁bの点P2を比較した場合、使用者から点P1までの距離よりも、使用者から点P2までの距離の方が大きい。つまり点P2については仮想注視範囲302内であるが、実際には注視(認識)可能な距離を超える可能性もある。したがって、非正対領域SNが存在する場合には、使用者に正対する所定距離Lxを閾値とし、仮想注視範囲302は当該距離Lxまでが最大となるように変形するようにしてもよい。この場合、壁b側については距離Lxまでを視認(認識)可能とし、視野制御手段21は仮想注視範囲302を破線から実線のように変更する。
【0090】
また、視点履歴TRには、点検時の使用者と点検対象の構造物との距離(どの程度構造物に近接して点検できたかを示す距離、例えば、
図5(G)に示す距離Lx)を記録する構成であってもよい。
【0091】
図6は複雑な形状の構造物を視認する場合の他の例である。
図6は同じ形状の波型に曲折している壁を異なる位置(仮想3次元空間の位置)から視認する例である。使用者の位置(仮想三次元空間内の位置)P1,P2により、使用者に対する正対領域(正対面)SCは異なり、非正対領域(非正対面)SNの状態も異なる。このような場合、視野制御手段21は、使用者の位置に基づく正対領域(正対面)SC、および正対領域SCに対する非正対領域(非正対面)SNの非正対の程度に応じて、仮想注視範囲302内であっても使用者が視認不可であると推定される領域は非表示または塗りつぶしにするなどの変更を行うようにしてもよい。
【0092】
例えば、同図(A)は位置P3から矢印の方向に顔(HMD13)を向け、面S3に略正対するように視認している。この場合、少なくとも面S2、S4、S6は非正対領域SNでありそれぞれ面S1,S3,S5の影となり使用者には視認が困難となる。このような場合、視野制御手段21は、仮想注視領域302の面S2、S4、S6に対応する部位を非表示にする。
【0093】
また、同図(B)は位置P4から矢印の方向に顔(HMD13)を向け、面S9に略正対するように視認している。この場合、少なくとも面S10、S12、S14は非正対領域SNでありそれぞれ面S9,S11,S13の影となり使用者には視認が困難となる。このような場合、視野制御手段21は、仮想注視領域302の面S10、S12、S14に対応する部位を非表示にする。
【0094】
このように、仮想注視範囲302に表示される構造物画像X(の3次元形状データ)に、使用者に対する非正対領域SNが含まれる場合、視線管理手段21は、適宜の閾値に基づき使用者が注視不可または困難になる範囲を判断するとともに、閾値を超えた領域については仮想注視範囲302から除外するように、仮想注視範囲302を任意の形状に変化させるようにしてもよい。
【0095】
なお、当然ながら使用者が移動に伴い、例えば非正対領域が正対領域に位置するように使用者が回り込むなどした場合は、視線管理手段21は使用者の位置に応じて適宜仮想注視範囲302を変化(変形)させる。例えば、
図6の例においても非表示にした部分を再表示させる。
【0096】
このように、視野制御手段21は仮想注視範囲302(仮想注視点VP)の表示/非表示を切り替える注視制御を行う。また上記の例に限らず、現実環境では視認(あるいは確実な視認が要求される点検)が不可または困難な条件の場合には、視野制御手段21は注視制御を行い、仮想注視範囲302(仮想注視点VP)を表示しないようにしてもよい。この注視制御には、仮想注意範囲302の表示は行いつつ、その内側の一人称注視映像VAとしての3次元形状データの表示態様を切り替える制御も含む。3次元形状データの表示態様を切り替える制御とは例えば、点群データの点の着色を変化させる制御である。例えば、現実環境では視認(あるいは確実な視認が要求される点検)が不可または困難な条件の場合、視野制御手段21は例えば初期値として設定された仮想注意範囲302の表示は行いつつ、その一人称注視映像VAのうち、視認可能な点群データについては例えば赤色で着色し、仮想注意範囲302のうち視認困難とされ仮想注視範囲302の変更が必要になる領域の点群データについては白色で着色する、などの制御である。
【0097】
また、現実環境では、視認(あるいは確実な視認が要求される点検)ができないような条件の場合には、視点履歴記録手段22は視点履歴TRを記録できないようにしてもよい。
【0098】
また、現実環境では、視認(あるいは確実な視認が要求される点検)ができないような条件の場合には、電子署名付与手段23は、電子署名を付与できないようにしてもよい。
【0099】
また、仮想注視範囲302の表示/非表示は使用者の適宜の操作によって切り替え可能としてもよい。すなわち仮想注視範囲302を所定の初期値で表示せず、使用者の任意の操作に応じて視野制御手段21が表示するようにしてもよい。
【0100】
<構造物管理支援装置10の動作および使用の一例>
以下、構造物管理支援装置10の動作および使用の一例について説明する。構造物管理支援装置10は、例えば、仮想3次元空間において構造物の点検を行う場合に利用できる。
【0101】
まず、使用者である点検責任者は、構造物管理支援装置10の使用開始に先立ち、点検責任者に個別に割り当てられた使用者IDを入力手段12に入力し、構造物管理支援装置10(少なくともHMD13)の使用の認証を受ける。視野制御手段21は入力された使用者IDに基づき、正規の使用者であることを判断し、正規の使用者であることが証明されたら、当該点検責任者に対しては構造物管理支援装置10およびHMD13の利用を許可する。例えば、使用者IDには、使用者の役割(例えば、点検作業の責任者)も対応づけられている。これにより、当該点検責任者がHMD13に表示させる一人称視野映像VFは、当該点検責任者固有の映像として対応づけられる。
【0102】
点検責任者は点検すべき構造物に対応する3次元形状データDを選択し、HMD13のディスプレイ131に表示させる。そして構造物の所望の点検箇所が視認可能な位置に移動し、点検を開始する。視野制御手段21は仮想注視点VPを中心とした所定の範囲として仮想注視範囲302を表示するので、点検責任者は、仮想注視範囲302に点検予定の所望の位置が含まれるように、適宜移動する(
図3(D)~同図(F)、
図4)。視野制御手段21は例えば、点検に際して不適切な状況にある場合、すなわち点検責任者の仮想3次元空間の位置が構造物画像Xとの関係で視認できない位置であるなどの場合)、仮想注視範囲302は表示しない。
【0103】
点検を開始する際、点検責任者は例えば、入力手段12の操作により視点履歴TRの記録を開始する。視点履歴記録手段22は、当該入力手段12の操作(視点履歴記録開始操作)に基づき、例えば一人称注視映像VAの記録を開始する。点検責任者は、予定している所望の箇所について仮想注視範囲302内に表示させるように適宜移動しながら各所の点検を行う。また例えば近接点検が義務付けられている箇所など、必要な場合には点検責任者はより構造物画像Xに近接する。点検責任者の移動に応じ、視野制御手段21は、適宜仮想注視範囲302の表示/非表示を切り替えたり、その範囲の形状等を変更するなどの制御を行う。
【0104】
点検責任者は、必要に応じて3次元形状データDの所望の位置に構造物関連情報を付与できる。例えば、ある点検箇所を入力手段12(例えば入力ポインタ121)で特定し、マーク付与操作を行う。情報付与手段24は、使用者によるマーク付与操作に応じて、HMD13のディスプレイ131に表示中の一人称視野映像に重ねて、マーク画像Mを表示する(
図3(F)参照)。また、当該マーク画像Mの仮想3次元空間における3次元座標を取得し、マーク画像M(の画像データ)と、マーク識別番号MIDと、マーク画像Mの仮想3次元空間内の3次元位置情報とをマーク識別番号MIDをキーにした1つの情報群(データユニット)として、記憶手段14に記憶する。
【0105】
点検責任者はマーク画像Mが表示されたら、当該マーク画像Mに対して情報入力操作を行う。情報付与手段24は、情報入力操作が行われた場合、構造物関連情報の入力を受け付ける。点検責任者は例えば音声入力手段123を介して点検箇所に関する情報を入力する。情報付与手段24は、マーク識別番号MIDをキーとして入力された構造物関連情報をマーク識別番号MIDに対応する情報群(データユニット)に追加登録する。
【0106】
点検責任者は予定された点検を終了すると、入力手段12の操作により視点履歴TRの記録を終了する。視点履歴記録手段22は、当該入力手段12の操作(視点履歴記録終了操作)に応じて、視点履歴TRの開始から終了までの視点履歴TRが一つのデータユニットとして、点検責任者の使用者IDと紐づけられて、所定の記憶手段14(PC19またはHMD13の記憶手段14)に格納される(
図3(F)参照)。
【0107】
電子署名付与手段23は、視点履歴記録の終了時に(終了の指示に伴い)、電子署名および/またはタイムスタンプを付与するか否かのメニュー等をHMD13のディスプレイ131に表示、あるいは音声出力するなどし、使用者による操作を促す。
【0108】
点検責任者は電子署名を行い、タイムスタンプを付与する。点検責任者の使用者IDによって認証された上で使用されるHMD13において表示される一人称視野映像は、当該使用者IDに対応する使用者の現実の視野に対応するものとされる。また、視点履歴TRは、点検責任者が表示させたものであり、且つ電子署名以降且つタイムスタンプの付与以降改ざんされていないものとなる。視点履歴TRおよび点検責任者がマーク画像Mを介して付与した構造物関連情報(以下、管理情報という)は、点検時に用いた3次元形状データに関連付けて記憶手段14に記憶される。すなわち、視点履歴TRおよびマーク画像Mはいずれも3次元座標を有しているので、当該座標に基づき3次元形状データの対応する座標に関連付ける。
【0109】
管理情報は、点検責任者が3次元形状データの上で実行された点検の記録(点検の成果物)として扱うことが可能となり、現場での目視による点検の代替にすることができる。つまり、点検責任者は現場に赴くことなく任意の場所およびタイミングで、仮想的に構造物の点検を行うことができる。また仮想注視範囲302を状況に応じて変更できるので、仮想3次元空間における3次元形状データ上の点検作業でありながら、実際の点検に即した点検が可能となる。また管理情報は3次元形状データに関連付けて電子情報として保存・蓄積することができ、PC19や別途の外部装置などに送信することが可能となるので、それらを表示手段に表示させたり、印刷物として出力するなど、第三者(他の関係者等)と共用することが可能となる。
【0110】
例えば経験の浅い点検技術者が構造物関連情報を含む視点履歴TRをHMD13や他の装置(PC19や外部装置など)で再生することで点検箇所のシミュレーション(例えば点検箇所の移動順序の疑似体験)が可能となる。また特に視点履歴TR(一人称注視映像)の再生を行うことで各点検箇所において点検責任者が注視したポイントも把握可能となり、実際に同行することなく技術承継が可能となる。結果として、点検技術の向上、点検箇所の見落とし防止、点検結果のバラツキ防止などに寄与することができる。
【0111】
<第2実施形態/構造物管理支援システム>
図7から
図10を参照して、本実施形態の構造物管理支援システム50について説明する。
図7は構造物管理支援システム50の全体図であり、同図(A)がシステム構成を示す概要図であり、同図(B)がシステムの使用の態様を示す概要図である。
【0112】
図7(A)を参照して、構造物管理支援システム50は第1実施形態の構造物管理支援装置10を複数備え、上記で説明した3次元形状データが格納されるサーバ51と、複数の構造物管理支援装置10とサーバ51とを接続する通信回線52とを有する。そして通信回線52に接続する複数の構造物管理支援装置10において3次元形状データを共有可能となっている。ここで共用可能な3次元形状データには、ある構造物管理支援装置10によって記録された管理情報(視点履歴TRおよび/または構造物関連情報)を含む。またサーバ51には、3次元形状データの他、これらに対応付けられた管理情報が保持される。なお、サーバ51はクラウドサーバであってもよい。
【0113】
通信回線52は、各装置間で相互に通信可能な任意の通信網であり、有線通信の通信網であってもよいし、無線通信の通信網であってもよいし、それらの両方により構成されるようにしてもよい。また、通信回線52が、1の通信網により構成されるようにしてもよいし、複数の通信網により構成されるようにしてもよい。例えば、インターネット、公衆電話回線網、所謂3G回線、4G回線、5G回線等の無線移動体用の広域通信網、WAN(Wide Area Network)、LAN(Local Area Network)規格に準拠した通信を行う無線通信網、Bluetooth(登録商標)、Wi-Fi(登録商標)、NFC(Near Field Communication)等の近距離無線通信の通信路、赤外線通信の通信路、HDMI(登録商標)(High-Definition Multimedia Interface)やUSB(Universal Serial Bus)等の規格に準拠した有線通信の通信網等、任意の通信規格の通信網や通信路が通信回線52に含まれる構成であってもよい。
【0114】
同図(B)で示すように構造物管理支援システム50は複数の使用者で1つの3次元形状データおよびこれに対応づけられた管理情報(視点履歴TRおよび/または構造物関連情報)を共有する。具体的に例えば使用者(点検者)Aは構造物管理支援装置10Aを使用する。また別の使用者(点検者)Bは別の構造物管理試験装置10Bを使用する。ここで、各使用者A,Bの使用する構造物管理支援装置10A、10Bは、それぞれHMD13と入力手段12と情報処理装置19を含んでいる(
図1参照)。情報処理装置19が例えばPC等の場合、各構造物管理支援装置10A,10Bにそれぞれ含まれていてもよいが、1台の情報処理装置19を複数の使用者で共用し、構造物管理支援装置10AのHMD13Aおよび入力手段12Aと、構造物管理支援装置10BのHMD13Bおよび入力手段12Bがそれぞれ通信回線52を介して共用の情報処理装置19接続する構成であってもよい。また、共用の情報処理装置19の機能を、サーバ51で実現する構成であってもよい。
【0115】
一例として使用者(点検者)Aは、任意の場所およびタイミングで所望の構造物の3次元形状データをサーバ51から取得し、自身のHMD13Aに表示して点検作業を行う。点検者Aは、点検中において自身の視点履歴TRを記録し、また必要な構造物関連情報を付与し、管理情報として3次元形状データに関連付けて構造物管理支援装置10Aの記憶手段14に例えば一時的に記憶する。構造物管理支援装置10Aは任意のタイミングでまたは点検者Aの操作などに基づき、構造物管理支援装置10Aに保存された管理情報をサーバ51に送信する。
【0116】
一方他の使用者(点検者)Bは任意の場所およびタイミングでサーバ51から、例えば、予め準備された3次元形状データ(点検者Aが生成・保存した関連付けられる管理情報があればそれも含む)を取得し、自身のHMD13Bに表示させる。また、さらに別の使用者Cも任意の場所およびタイミングでサーバ51から同じ3次元形状データを取得し、自身の端末の表示手段13Cに表示させる。このようにして、ある構造物の管理(建設や修理など)の作業に関わる複数の関係者がそれぞれ現場に集合することなく、ある(1つの)構造物についての3次元形状データ(管理情報を含む)を共用できる。
【0117】
図8は、構造物管理支援システム50のシステム構成の一例を示すブロック図である。第1実施形態と同一の構成要素は同一符号で示し、その説明を省略する。
【0118】
構造物管理支援システム50の業務支援手段20は例えば、測量手段55と、見積手段56と、他の電子署名付与手段57とを更に有する。
【0119】
測量手段55は、3次元形状データの任意の対象領域を測量して測量情報を生成する手段である。対象領域は、構造物に関して何等かの作業を行う領域であり、例えば、点検者による構造物の点検により発見されるなどした修理や補修が必要な領域である。対象領域は1または複数の関係者(本実施形態における構造物管理支援装置10の使用者)によって3次元形状データ上に設定される。測量手段55はそのように特定された対象領域の形状を測量する。具体的に例えば、構造物の一部にコンクリートの破損や亀裂などが生じておりその補修・修繕を行う場合、対象領域はコンクリートの破損や亀裂などを含む所定の領域であり、測量手段55は設定された対象領域の形状に基づきその補修・修繕のためのコンクリートの斫り量を測量する。
【0120】
使用者は、まず入力手段12(例えば、入力ポインタ121)により、3次元形状データ上の測量範囲を指定する。3次元形状データは現実のスケールを保持しており、測量手段55は指定された測量範囲、および測量範囲内における作業範囲や変状箇所の長さ、面積、体積を計測することができる。測量手段55による計測結果の数値は、PC19によって3次元形状データに重畳するように可視化され、HMD13(ディスプレイ131)で閲覧可能となる。また、測量手段55による計測結果は、構造物関連情報として3次元形状データに付与して記録可能であり、関係者(他の使用者)と共有可能となる。
【0121】
見積手段56は、測量手段55が生成した測量情報を参照し、対象領域に係る作業関連数量を見積もる手段である。作業関連数量とは例えば、作業(例えば補修・修繕作業の)工数、作業に係る材料の種類とその分量、作業に係る費用(材料費および工賃)などの数量である。
【0122】
サーバ51は、測量手段55および見積手段56が利用する各種データの基本数量あるいは所望の計算式等のデータベース60を保持する。データベース60は例えば、材料の単価データベース、材料の比重データベース、計算式データベース…などである。また、第2実施形態では、業務支援手段20として機能する業務支援プログラムが例えばサーバ51の記憶手段に保持されている。業務支援プログラムの実行により、必要な3次元形状データ(管理情報を含む)や、測量手段55や見積手段56の各処理に必要な各種情報(データ)が、各使用者A~Cの構造物管理支援装置10A~10Cの間で送受信され、各使用者A~Cの表示手段13(HMD13A、13B、表示手段13C)に表示される。
【0123】
他の電子署名付与手段57は、見積手段56が見積もった作業関連数量に対して複数の使用者による電子署名を付与するものである。この構成は第1実施形態の電子署名付与手段23と同様であるので詳細な説明は省略するが、第1実施形態の電子署名付与手段23は主に点検作業の証拠として用いるものであるのに対し、第2実施形態の他の電子署名付与手段57は例えば複数の使用者間の意思確認等に使用される点でその使用方法が異なる。なお、第1実施形態の電子署名付与手段23を本実施形態の電子署名付与手段として共用してもよい。
【0124】
測量手段55と、見積手段56と、他の電子署名付与手段57とは例えば合意形成支援手段58として機能する。すなわち例えば構造物を修理する際、複数の関係者(例えば、設計者、点検者、修繕業者など)が本構造物管理支援システム50の使用者となり、同じ構造物に対応する3次元形状データ(管理情報を含む、以下同様)を共有する。
【0125】
ここで
図7(B)に示すように使用者Aと使用者Bは少なくとも表示手段(ここではHMD)13A,13Bを個別に携帯(装着)しており、同じ構造物の3次元形状データを共有してはいるものの個別にそれぞれの位置(仮想3次元空間内の3次元座標位置)に応じた一人称視野映像を視認している。構造物管理支援装置10の使用開始時の使用者管理により、共有している3次元形状データには、視野制御手段21によって認証を受けた各使用者A、Bの仮想三次元空間内の初期位置(認証時の位置、使用者初期位置)が設定される。この使用者初期位置は例えば、共有する3次元形状データを表示する際に形式的に定められた表示開始基準点(3次元形状データの初期表示の基準点)からの相対位置である。各使用者A、Bが仮想3次元空間内で移動した場合、その位置は、使用者初期位置(3次元形状データの表示開始基準点)からの相対位置として特定される。例えば、複数の使用者の表示開始基準点は、共通(例えば、本構造物管理支援システム50が与える表示開始基準点)として、複数の使用者の位置を同一座標系で制御する。また、各使用者の位置を適宜、例えば視点履歴TRとは別に記憶可能としてもよく、また次回の使用者初期位置を、記録した使用者の位置に設定可能としてもよい。例えば、点検作業の途中で一旦システムを終了させた場合、その終了時の使用者の位置を記憶しておくことで、次回のシステム開始時に記憶した使用者の位置を使用者初期位置として選択することもできる。
【0126】
図9および
図10は、各使用者A,BのHMD13A,13Bに表示される一人称視野映像VFの一例である。同図(A)が使用者Aの一人称視野映像VFaの一例であり同図(B)が使用者Bの一人称視野映像VFの一例である。
図9は、説明の便宜上、映像の表示を簡略化した概要図で示す。
図10は、一人称視野映像VFのより具体的な表示の一例であり、同図(A)が使用者Aの一人称視野映像VFaの一例であり、同図(B)が使用者Bの一人称視野映像VFの一例である。また、
図10(C)は、は複数の仮想注視範囲の重なりを示す表示の一例である。
【0127】
図9(A)に示すように、使用者Aの仮想視野範囲301には使用者Aの一人称視野映像VFaとして、対象物である例えば建造物CN1、建造物CN2の3次元形状データDが表示されている。また、同図(B)に示すように使用者Bの仮想視野範囲301には使用者Bの一人称視野映像VFbとして、例えば同じ建造物CN1、建造物CN2を異なる位置から視認する3次元形状データDが表示されている。
【0128】
図9、
図10に示すように、ここでは3次元形状データDに重ねてマーク画像Mが表示されている。使用者A、使用者Bはそれぞれ、マーク画像Mの存在により、その表示位置に適宜の構造物関連情報が付与(格納)されていることを認識できる。なお、
図10に示すように、マーク画像Mは、例えば付与(格納)される情報の種類、マーク画像Mを付与した使用者などに応じて、その表示態様(色、形状、表示される文字・数字など)を異ならせると望ましい。
【0129】
またこの例では
図9、
図10に示すように使用者Aの仮想視野範囲301に他の使用者Bの仮想注視範囲302Bが含まれた場合、その一人称視野映像VFaには、他の使用者Bの仮想注視範囲302Bがここでは丸印で表示され、使用者Aは、他の使用者Bが丸印の位置を仮想的に注視していると認識できる。
【0130】
同様に使用者Bの一人称視野映像VFbには、他の使用者Aの仮想注視範囲302Aがここでは丸印で表示され、使用者Bは、他の使用者Aが丸印の位置を仮想的に注視していると認識できる。なお、複数人で使用する場合、それぞれの使用者に対応する仮想注視範囲302の表示態様(色や形状など)を異ならせると望ましい。
【0131】
例えば、
図9(B)に示すように、使用者Bの位置からでは建造物CN2の陰になってしまう位置に使用者Aの仮想注視範囲302Aが存在している場合、建造物CN2の陰になる部分については仮想注視範囲302Aが非表示となる。
【0132】
また、
図10(B)に示すように、使用者Aの仮想注視範囲302Aと使用者Bの仮想注視範囲302Aとが近接し、または重なり合うような場合には、仮想的に両者の注視点はほぼ一致し、すなわち同じ対象を認識していることになる。換言すると、例えば、或る使用者Aは、他の使用者Bの仮想注視範囲302Bに自己の仮想注視範囲302Aを一致させるように移動することで、使用者Bと仮想注視範囲302を重ねることができ、両者で同じ対象を認識したとすることができる。この重なりは両者の一人称視野映像VFa、VFbに表示される。
【0133】
構造物管理支援システム50は、さらに使用者位置表示手段59を有している。使用者位置表示手段59は、認証を受けた複数の使用者(ここでは使用者A、B)で共有する3次元形状データ内に、視野制御手段21によって設定された使用者初期位置に基づき、各使用者(使用者A、B)の位置を示す画像(キャラクター画像、以下「アバター」という。)を表示する手段である。
【0134】
図9(A)、
図10(A)に示すように或る使用者(使用者B)のアバターAbは、他の使用者(使用者A)の仮想視野範囲301に入った場合、視認可能となる。一方、
図9(B),
図10(B)に示すように使用者AのアバターAaは、使用者Bの仮想視野範囲301に入っておらず、使用者Bには視認されない。
【0135】
それぞれの使用者A,BはアバターAa、Abの表示に基づき、互いの位置を把握する。なお、他人のアバターが自身の一人称視野映像VFに含まれていない場合、他人のアバターの位置(方向)を示唆するガイド表示303がディスプレイ131に表示されるとよい(
図9(B),
図10(B))。ガイド表示303は例えば、他人のアバターの存在する方向を示す矢印の表示や、自分と他人の位置のいずれもが含まれる俯瞰表示(第三者目線の表示(さらに別の使用者Cの一人称視野映像VFc)やマップなどである。
【0136】
また、他の使用者の現在の仮想注視範囲302や、自身の過去の仮想注視範囲302(視点履歴TR)など、必要な情報が自身の一人称視野映像VFに含まれていない場合にガイド表示303を行ってもよい。また、ガイド表示303に加えて、あるいはガイド表示303に代えて、音声によるガイド(例えば、「近くに○○があります。」などの音声出力を行うようにしてもよい。
【0137】
このように本実施形態では、同じ3次元形状データをそれぞれ別の表示手段13(HMD13)の一人称視野映像VFで共有する構成でありながら、互いの仮想注視範囲302を重ねる(一致させる)ことができるので、互いに異なる部位を視認することによる認識の誤りを回避できる。なお、複数の使用者で互いの仮想注視範囲302が重なった場合には、少なくとも一方(例えば、相手にある部分の注視を促した使用者側)の3次元形状データの表示態様(例えば色など)を変更するようにしてもよい。
【0138】
また、構造物管理支援装置10は、互いに音声通話が可能に構成されている。音声通話により使用者A,Bは、仮想3次元空間内での移動や仮想注視範囲302を重ねる場合などにより意思の疎通を図ることができる。
【0139】
また、使用者A,Bのうち少なくとも一方(例えば使用者B)が視点履歴TRを記録した場合は、その視点履歴TR(の一部、仮想注視範囲302)が他方の使用者Aの仮想視野範囲301に含まれると使用者Aは当該視点履歴TRを視認可能となる(
図9(A),
図10(A))。
【0140】
また、使用者A,Bがそれぞれに3次元形状データ内に付した構造物関連情報は、その情報の仮想3次元空間における位置が互いの仮想視野範囲301に含まれた場合、対応するマーク画像Mとして表示される(
図9、
図10)。そして使用者A,Bは互いに所望のマーク画像Mを入力手段12によって指し示すことで、当該マーク画像Mに対応付けられた構造物関連情報を確認(視認、視聴)することができる(
図9(A)、
図10(A))。なお、情報付与手段24は、それぞれのマーク画像Mに構造物関連情報が対応づけられる際(マーク画像Mに対応するフォルダに構造物関連情報が格納される際)、当該構造物関連情報のパスワード管理を行うようにしてもよい。これにより特定の使用者のみに構造物関連情報を表示させるように管理できる。
【0141】
視野制御手段21はまた、一方の使用者Aのディスプレイ131に他の使用者Bの一人称視野映像VFを表示可能としてもよい。例えば使用者Aの入力手段12の操作に応じて、使用者Aの一人称視野映像VFaの一部に使用者Bの一人称視野映像VFbを表示する(
図9(A),
図10(A))。あるいは、使用者Aの一人称視野映像VFaの全部を使用者Bの一人称視野映像VFbに切り替えて表示するようにしてもよい。他の使用者の一人称視野映像VFは、簡易的な表示や縮小表示であってもよい。さらには使用者Aの一人称視野映像VFaの一部または全部に、例えば使用者A,使用者Bの両者の位置が含まれる俯瞰表示(さらに他の使用者Cの一人称視野映像VFc)を表示可能としてもよい。
【0142】
次に合意形成支援手段58について説明する。例えば、構造物画像Xの修理・修繕・新規補充などの作業を行う場合、関係者(使用者A,使用者B)間で対象領域や作業関連数量の見積について合意形成(コンセンサス)が必要となる。
【0143】
この合意形成について、従来では、一般的には、関係者(担当者、点検者、修繕者、設計者など)が一同に現場に集合することは少なく、現場で撮影した写真やCAD図面などを後日、現場以外の場所(各々の事業所等)で突き合わせ、受発注作業における合意形成を経て契約が行われていた。しかしながら、主に構造物のうち対象箇所のみを切り取るように撮影した写真やCAD図面は実際の構造物を忠実に再現できない、しにくい場合もあり、また対象箇所も通常は多数纏めての対応となる。また、複数の関係者が写真やCAD図面などの同じデータを見ていたとしても、同じ場所を見ているとは限らないために、見落としや認識の齟齬が生じる場合も多い。このように従来の写真やCAD図面による合意形成では見落としや、認識の不一致が生じる場合があり、修繕方法や施工方法において手戻りが多発する問題があった。
【0144】
そこで本実施形態では、合意形成支援手段58により、使用者A,Bが共有する3次元形状データ上において合意形成を可能とした。
【0145】
具体的にはまず、
図9(B),
図10(B)に示すように、使用者A,使用者Bにより例えば修理・修繕等が必要となる対象部位502を特定する。すなわち使用者A,使用者Bは同じ対象部位502を把握するために、音声通話などを利用して互いに自身の仮想注視範囲302A,302Bを対象部位502に重ねる(一致させる)ように移動する。両者の仮想注視範囲302が重なった時点で両者の対象部位502についての認識は一致していることになる。
【0146】
図10(C)は、仮想注視範囲302の重なりの一例を示す図であり、ここでは使用者Aの仮想注視点VPaに基づいて特定される仮想注視範囲302Aを矩形で示し、使用者Bの仮想注視点VPbに基づいて特定される仮想注視範囲302Bを矩形で示し、また両者の(複数の)仮想注視範囲302A、302Bの重なりの範囲OLを破線の矩形で示している。複数の仮想注視範囲302の重なりを或る処理の条件にする場合には、例えば、仮想注視範囲302の大きさの50%以上(好適には70%~80%以上)が重なった場合(重なりの範囲OLが仮想注視範囲302の大きさの50%以上となった場合)に仮想注視範囲302が重なったと判断する。
【0147】
次に、音声通話等を利用して、対象部位502に基づき、修理・修繕等の対象領域505を特定する。例えば一方の使用者Aの入力手段12の操作により、
図9(B),
図10(B)の実線で示すような対象領域505が示される。他方の使用者Bも対象領域505を視認できるため、対象領域505についての認識も一致する。その状態で、対象領域505の妥当性について検討しつつ、両者の合意に基づく対象領域505が決定される。
【0148】
対象領域505が決定された場合、使用者Aおよび/または使用者Bによる入力手段12の操作に基づき、測量手段55が対象領域505の測量を行う。例えば、コンクリートの打ち直しである場合コンクリートの斫り量を計測する。
【0149】
測量手段55による測量結果は使用者A,Bのディスプレイ131に表示され、両者による検討が行われる。測量値についての両者の合意形成後、使用者Aおよび/または使用者Bによる入力手段12の操作に基づき、見積手段56は対象領域505の作業量についてサーバ51に保持される各種DB60を参照し、見積を行う。見積結果は、は使用者A,Bのディスプレイ131に表示され、両者による検討が行われる。見積についての両者の合意が形成されると、使用者Aおよび/または使用者Bによる入力手段12の操作に基づき、作業全体についての最終的な合意形成に進む。具体的には、合意形成支援手段58は、合意書(打合せ簿)510を使用者A,Bのディスプレイ131に表示する。使用者A,使用者Bは互いに合意書510の所定の箇所に自身の電子署名を付与するよう入力手段12の操作を行う。電子署名付与手段23は、当該操作に基づき、作業関連数量に対する使用者A,使用者Bの電子署名を付与し、必要に応じてタイムスタンプの付与を行う。合意書(打ち合わせ簿)510は構造物関連情報としてマーク画像Mに対応づけて3次元形状データ内に付与可能である。すなわち、3次元形状データの座標に対応づけた情報保持手段(フォルダ)に格納可能である。
【0150】
なお、電子署名付与手段23による電子署名の付与は最終的な合意形成時だけでなく、例えば対象部位502の特定、対象領域505の特定、測量手段55による測量の少なくともいずれかのタイミングにおける使用者A,Bの入力手段12の操作に基づき行われるようにしてもよい。
【0151】
また、電子署名の付与は例えば関係者全員(例えば、使用者A、B)の入力手段12があることを前提とする。特に関係者全員の仮想注視範囲302が重なっていることを条件として電子署名が付与可能とするとさらに好適である。
【0152】
また、例えば入力ポインタ121の所定の操作で電子署名付与手段23が電子署名を付与する構成とし、対象部位502または対象領域505に関係者全員が入力ポインタ121のカーソルを合わせた場合、合意が形成されたと判断してもよい。上記の実施形態では、使用者の注視点は、仮想注視点VPに対応しており、原則として入力ポインタ121の指し先(カーソル位置)と仮想注視点VPとは別の位置であるが、合意形成の場合には特に使用者同士の操作の便宜上、入力ポインタ121の指し先(カーソル位置)を使用者の視点(仮想注視点VP)に相当するものとし、入力ポインタ121の指し先が一致した場合に現実の使用者の注視点が一致したこととして引き続き入力ポインタ121の操作に応じて電子署名付与手段23が電子署名の付与を行うようにしてもよい。
【0153】
このような構成によれば、関係者が互いに現場に集合することなく合意形成が可能となるとともに、対象領域505が多い場合であっても、関係者の認識のずれを防止し、手戻りを大幅に削減することができる。
【0154】
また、打ち合わせ簿と視点履歴TRとを合わせて構造物関連情報として3次元形状データに付与できる。打ち合わせ簿作成時(合意形成時)の各関係者の仮想注視範囲302の移動履歴を残せるので、合意形成の後日の振り返り等に役立たせることができる。
【0155】
なお、電子署名付与手段23は、合意形成に引き続き、契約の電子署名およびタイムスタンプの付与までを行う構成としてもよい。
【0156】
合意形成などにおいては、所定のステップ(対象部位502、対象領域505の特定、測量、見積などの少なくとも1つステップ)において関係者の仮想注視範囲302が重ならない場合、次のステップに進めない、あるいはアラートが出力されるようにしてもよい。各ステップにおいて随時合意形成していくことで関係者の納得度を高めることができる。
【0157】
なお、電子署名付与手段23は、作業関連数量に限らず、共有している3次元形状データに基づく何等かの情報に複数の使用者間における電子署名を付与する構成であってもよい。
【0158】
また、構造物管理支援システム50を複数人による仮想の点検作業に用いてもよい。例えば、複数人で分担して構造物画像Xの上で仮想点検作業を行う場合、仮想注視範囲302を使用者毎に別の表示(別の色、別の形状のオブジェクト画像の表示など)とし、視点履歴TRを記録する。これにより、点検終了箇所は所定の表示が付されることになるので、点検作業の漏れや重複を回避できる。
【0159】
また、点検技術の継承(教育)、点検のシミュレーションなどにも利用できる。複数の使用者が同時に(別の場所で)同じ3次元形状データを共有することで、技術承継やシミュレーションにおいてもより互いの意思の疎通が図れる。
【0160】
また点検技術の差を補い、点検品質のばらつきを抑えるとともに致命的なミスを回避できる。
【0161】
構造物管理支援装置10および構造物管理支援システム50によれば、複数の関係者が独立して(それぞれ一人称視野映像VFを視認しながら)、同じ3次元形状データを共有できる。これにより、またそれぞれに仮想注視範囲302の移動の履歴(視点履歴TR)を記録できるので3次元形状データ上における各人の注視ポイントを明確にできる。これにより例えば修繕などの作業において関係者間の(図面上における)認識に齟齬が生じることを回避できる。また、任意の場所で同時に3次元形状データを共有することで各人の注視範囲の一致不一致を確認できるので、現場に集合することなく、作業範囲および作業量などについての合意の形成を精度よく行うことができる。また、現場に赴く必要がないため、現場に赴くための移動コストが削減され、現場の車線規制も不要となる。
【0162】
また、使用者は仮想3次元空間内で任意に移動できるため、現実環境では視認できない箇所を視認可能(例えば、高架の表裏を同時に視認するなどが可能)となり、現実環境よりも点検精度が高まる場合もある。
【0163】
さらに危険な個所に実際に立ち入る必要がないため、点検作業者(使用者)に対する危険回避、安全性確保の利点を有する。
【0164】
現実の(施工後の)構造物は、設計図から誤差が生じていることは不可避である。本実施形態では現実の(施工後の)構造物をスキャンした3次元形状データに基づく点検等をおこない、また修繕箇所等について測量を行い、作業に関連する数量を見積ることができる。つまり設計図に基づく構造物の管理(点検箇所の予測や修繕箇所等の測量・見積等)と比較して、現実に即した構造物の管理が行えるといえる。
【0165】
なお、第2実施形態ではHMD13の使用者A,Bを中心に説明したが、点検作業や合意形成において、例えばタブレット端末やノート型PCとそれらの表示手段(ディスプレイ)13で構成された構造物管理支援装置10C、及びその使用者Cが含まれてもよい。
【0166】
本実施形態の構造物管理支援装置10および構造物管理支援システム50は、上記で説明した構成に限らない。上記と重複する構成も含め、本実施形態の構造物管理支援装置10および構造物管理支援システム50に適用可能(置換可能または追加可能)な構成例について以下に列挙する。
【0167】
視点履歴記録手段22が記録する視点履歴は、一人称注視映像VAのみであって仮想注視範囲302および仮想注視点VPの表示を含まなくてもよい。
【0168】
MHD13は例えば撮像手段(カメラ)により、一人称視野映像および/または仮想注視映像の撮像(スクリーンショット、動画)等の撮影が可能である。また撮影した画像は構造物関連情報としてマーク画像Mと関連付けて3次元形状データに付与可能である(マーク画像Mの3次元座標に基づいて3次元形状データの対応する座標に関連付ける)。
【0169】
近接点検などに利用する場合、あらかじめ定められた近接点検の条件(構造物画像Xからの距離など)を満たさない場合には、仮想注視範囲302が表示されないようにしてもよい。
【0170】
構造物関連情報として電子黒板が含まれてもよい。
【0171】
点検作業の再確認などを目的として或る使用者の視点履歴TR(一人称視野映像VF)を再生中に、仮想注視範囲302を移動させる、すなわち再生中の一人称視野映像VFとは異なる新たな仮想注視範囲302に基づく一人称視野映像VFを表示し、また視点履歴TRの記録や電子署名を付することが可能である。例えば点検の漏れなどを発見した場合、新たに仮想注視範囲302を移動させて点検残しを拾い上げることができる。
【0172】
3次元形状データは、その表示態様を切り替え可能に構成してもよい。例えば、点群データの場合、その粗密(点群のサイズ)を変更(切替)可能に構成してもよい。また、点群データと3DCG(ポリゴンデータ)の表示を切り替え可能または両者を透過重畳表示(レイヤー表示)可能にしてもよい。あるいはまた、3次元形状データと対象物の設計/構造データ(CAD図面など)を切り替え可能または両者を透過重畳表示(レイヤー表示)可能にしてもよい。
【0173】
また修理前後の3次元形状データを比較し、例えば差分を抽出できる構成としてもよい。これにより修理・修繕箇所の実績を記録(保存)、納品等が可能となる。
【0174】
測量手段55による測量は修理の対象領域505に限らない。例えば、修理を行うと仮定した場合のシミュレーションなどにも利用できる。
【0175】
仮想注視範囲302は、レギュレーションに応じて変更してもよい。例えば(1月に1回などの)高頻度の定例点検などの場合は近接点検の条件を満たさない仮想注視範囲302の変更も許容するが、数年に一度の低頻度の大掛かりな点検の場合には近接点検の条件を満たさない仮想注視範囲302の変更は許容しない構成としてもよい。
【0176】
仮想注視点VPは、使用者の眼球をHMD13が備える撮像手段で撮像しその状態(視線の方向、瞳孔の動き、瞬きなど)に基づき決定してもよい。すなわち実際の使用者の注視点を仮想注視点VPとしてもよいし、注視点に基づき仮想注視点VPを決定してもよい。
【0177】
入力手段12は、HMD13の使用者の左右眼球の現実の注視点や、頭部に対する眼球の動きを計測可能なアイトラッカーを備え、使用者の現実の注視点の移動(視線の移動)を可視化するアイトラッキング(視線計測)の手法により、表示手段13(ディスプレイ131)にカーソル(ポインタ)を表示する構成であってもよい。
【0178】
また、上記の実施形態では、仮想注視範囲302は、仮想視野範囲301の中心においてある面積を有する領域としたが、入力手段12(入力ポインタ121)の指し先(カーソルまたはポインタの位置)を仮想注視点VPとし、仮想注視点VPを中心とした所定の範囲(2次元の例えば円形領域)を仮想注視範囲302としてもよい。この場合、視点履歴TRは、入力手段12(入力ポインタ121)による指し先(カーソルまたはポインタ)の移動(仮想注視点VPの移動)またはそれに基づく仮想注視範囲302の移動を記録する。
【0179】
さらに、アイトラッキングによる視点位置を仮想注視点VPとし、仮想注視点VPを中心とした所定の範囲(2次元の例えば円形領域)を仮想注視範囲302としてもよい。この場合例えば、使用者が頭部(HMD13)を移動させない場合でも、眼球の移動に追従して仮想注視範囲302が移動する。
【0180】
HMD13の各種センサには使用者の生体情報を取得可能な生体情報取得センサや姿勢センサを含んでもよい。また、HMD13は、GPS(ユニット)、電子コンパス、単眼カメラを用いたSLAMなどの自己状態取得手段を有してもよい。自己状態取得手段によりHMD13の仮想3次元空間における3次元位置情報や姿勢情報が取得され、例えば所定周期でPC19に送信されるように構成されてもよい。
【0181】
HMD13の自己状態取得手段は、ステレオカメラを用いたSLAMや、赤外線やレーザー等の物体からの反射光を検知して自機の姿勢や位置を検出する手段であってもよい。また、自己状態取得手段には、例えば、携帯電話の無線基地局や、Wi-Fi(登録商標)通信のアクセスポイントからの電波強度などによって自機の方向、姿勢、位置(絶対位置)を検出したり、全地球測位システム(Global Navigation Satellite System))のように、衛星からの信号によって自機の方向、姿勢、位置(絶対位置)を検出することができる絶対位置情報取得モジュールが含まれてもよい。
【0182】
構造物管理支援装置10および構造物管理支援システム100の各構成(手段)がそれぞれ実現する機能は一例であり、構造物管理支援装置10および構造物管理支援システム100の全体としてハードウェア的またはソフトウェア的に上述した本実施形態の機能が実現できれば良い。一例として、視野制御手段21が実現する機能として記載した一部の機能について視点履歴記録手段22が実現するものであってもよい。
【0183】
また、本発明の構造物管理支援装置、情報管理システム、情報管理方法および情報管理プログラムは、上記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
【符号の説明】
【0184】
10 構造物管理支援装置
11 制御手段
12 入力手段
13 表示手段
14 記憶手段
16 通信手段
17 音声出力手段
18 各種センサ
19 情報処理装置
20 業務支援手段
21 視野制御手段
22 視点履歴記録手段
23 電子署名付与手段
24 情報付与手段
50 構造物管理支援システム
51 サーバ
52 通信回線
55 測量手段
56 見積手段
56 測量手段
57 電子署名付与手段
58 合意形成支援手段
59 使用者位置表示手段
60 データベース
100 構造物管理支援システム
121 入力ポインタ
122 側操作ボタン
123 音声入力手段
131 ディスプレイ
14、141、142,143 記憶手段
16、161、162、163 通信手段
301 仮想視野範囲
302 仮想注視範囲
303 ガイド表示
502 対象部位
505 対象領域
Aa アバター
Ab アバター
VA 一人称注視映像
VF 一人称視野映像
VP 仮想注視点
X 構造物画像