(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-11-18
(45)【発行日】2024-11-26
(54)【発明の名称】表示装置、撮影システム、表示制御方法およびプログラム
(51)【国際特許分類】
H04N 7/18 20060101AFI20241119BHJP
G09G 5/00 20060101ALI20241119BHJP
G09G 5/373 20060101ALI20241119BHJP
【FI】
H04N7/18 B
G09G5/00 510A
G09G5/00 555D
G09G5/373 100
G09G5/373 200
G09G5/00 510H
G09G5/00 550C
(21)【出願番号】P 2024152939
(22)【出願日】2024-09-05
(62)【分割の表示】P 2020134475の分割
【原出願日】2020-08-07
【審査請求日】2024-09-26
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】110000442
【氏名又は名称】弁理士法人武和国際特許事務所
(72)【発明者】
【氏名】菊地 太郎
(72)【発明者】
【氏名】澤田 圭人
(72)【発明者】
【氏名】岡 浩樹
(72)【発明者】
【氏名】山中 祐治
(72)【発明者】
【氏名】濱谷 千尋
【審査官】塚本 丈二
(56)【参考文献】
【文献】特開2019-061667(JP,A)
【文献】特開2007-147354(JP,A)
【文献】特開2008-257555(JP,A)
【文献】米国特許出願公開第2007/0012880(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G09G 5/00-5/42
G01N 21/88
(57)【特許請求の範囲】
【請求項1】
構造物が撮影された
複数の撮影画像を表示する表示装置であって
、
前記
複数の撮影画
像のそれぞれ
に対応する複数の縮小画像
を並べた前記構造物の俯瞰画像を表示画面に表示させる表示制御手段と、
表示された前記
俯瞰画像の
領域の選択を受け付ける受付手段と、を備え、
前記表示制御手段は、
前記受付手段によって受け付けられた前記
領域が複数の前記縮小画像
に対応する場合、前記受付手段によって受け付けられた前記領域に対応する複数の前記撮影画像を
、前記縮小画像よりも高い拡大倍率で前記表示画面に表示させ
、
前記受付手段により受け付けられた前記領域が示される前記俯瞰画像を、前記表示画面に表示させる表示装置。
【請求項2】
前記
撮影画像の状態を検知した検知結果であるフラグ画像を、
前記俯瞰画像における前記複数の縮小画像のうち対応する縮小画像に関連づけ
て表示
する請求項1に記載の表示装置。
【請求項3】
前記フラグ画像を
前記俯瞰画像に重畳させて表示
する請求項2に記載の表示装置。
【請求項4】
前記受付手段によって受け付けられた前記領域に対応する前記撮影画像は、前記表示画面における拡大画像表示領域に表示され、
前記拡大画像表示領域に表示される画像のコマ送りを行う操作を受け付ける表示切替手段を備える請求項1乃至3のいずれか一項に記載の表示装置。
【請求項5】
前記受付手段によって受け付けられた前記領域に対応する前記撮影画像は、前記表示画面における拡大画像表示領域に表示され、
前記拡大画像表示領域に表示された画像の表示倍率の拡大または縮小を行う表示倍率選択手段を備える請求項1乃至4のいずれか一項に記載の表示装置。
【請求項6】
請求項1乃至5のいずれか一項に記載の表示装置
と、制御装置と、を備える撮影システムであって、
前記制御装置は、
撮影手段によって撮影された撮影画像に対する所定の検知処理を行う検知手段と、
前記撮影画像、および前記検知手段による検知結果を、前記表示装置に対して送信する送信手段と、
を備え、
前記表示装置は、
前記制御装置から送信された、前記複数の撮影画像および前記検知結果を受信する受信手段を、
備える撮影システム。
【請求項7】
構造物が撮影された複数の撮影画像を表示する表示装置が実行する表示制御方法であって、
前記複数の撮影画像のそれぞれに対応する複数の縮小画像を並べた前記構造物の俯瞰画像を表示画面に表示させる第1の表示制御ステップと、
表示された前記俯瞰画像の領域の選択を受け付ける受付ステップと、
前記受付ステップによって受け付けられた前記領域が複数の前記縮小画像に対応する場合、前記受付ステップによって受け付けられた前記領域に対応する複数の前記撮影画像を、前記縮小画像よりも高い拡大倍率で前記表示画面に表示させ、
前記受付ステップにより受け付けられた前記領域が示される前記俯瞰画像を、前記表示画面に表示させる第2の表示制御ステップと、
を実行する表示制御方法。
【請求項8】
構造物が撮影された複数の撮影画像を表示する表示装置に、
前記複数の撮影画像のそれぞれに対応する複数の縮小画像を並べた前記構造物の俯瞰画像を表示画面に表示させる第1の表示制御ステップと、
表示された前記俯瞰画像の領域の選択を受け付ける受付ステップと、
前記受付ステップによって受け付けられた前記領域が複数の前記縮小画像に対応する場合、前記受付ステップによって受け付けられた前記領域に対応する複数の前記撮影画像を、前記縮小画像よりも高い拡大倍率で前記表示画面に表示させ、
前記受付ステップにより受け付けられた前記領域が示される前記俯瞰画像を、前記表示画面に表示させる第2の表示制御ステップと、
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示内容は、表示装置、撮影システム、表示制御方法およびプログラムに関する。
【背景技術】
【0002】
トンネル等の構造物は、コンクリートで覆工されているため、経年変化により、ひび割れ等の変状が起こる。このまま放置しておくと、コンクリート片が剥がれ落ちて、通行中の車両や人に損害を与える可能性がある。そのため、検査業者が、定期的な検査を行い、国または都道府県の機関(以下「国等」と示す)に検査結果を報告している。この報告をするため、検査業者は、国や自治体によって定められた書類を提出する必要がある。
【0003】
このようなトンネル等の維持管理において、従来の人力での点検を効率化するために、カメラを搭載した撮影車両を用いてトンネルの壁面を走行しながら撮影し、トンネルの全体の展開画像を作成する技術が知られている。この際に、撮影車両に搭乗する点検作業者は、撮影後に適切に撮影できたかの成否確認を行うために、撮影画像のサムネイル画像で確認したり、いくつかのサンプリングした撮影画像を確認したりする等の方法が知られている。撮影画像の確認を行う方法として、特許文献1には、複数の監視カメラで撮影された映像を、複数の領域を含む第1形式と、操作者が指定した領域のみを含む第1形式よりもデータ量の多い第2形式とで切り替えて表示させる内容が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の方法では、撮影画像のサムネイル画像を表示する場合では、画像の解像度が荒く、撮影画像が示す小さな異常を発見することが困難であり、撮影画像のサンプリング画像を表示する場合では、サンプリング数を増やすと成否確認に時間を要してしまうため、撮影画像が示す小さな異常を見逃さずに、短時間で撮影画像の成否確認を行うことができないという課題があった。
【課題を解決するための手段】
【0005】
上述した課題を解決すべく、請求項1に係る発明は、構造物が撮影された複数の撮影画像を表示する表示装置であって、前記複数の撮影画像のそれぞれに対応する複数の縮小画像を並べた前記構造物の俯瞰画像を表示画面に表示させる表示制御手段と、表示された前記俯瞰画像の領域の選択を受け付ける受付手段と、を備え、前記表示制御手段は、前記受付手段によって受け付けられた前記領域が複数の前記縮小画像に対応する場合、前記受付手段によって受け付けられた前記領域に対応する複数の前記撮影画像を、前記縮小画像よりも高い拡大倍率で前記表示画面に表示させ、前記受付手段により受け付けられた前記領域が示される前記俯瞰画像を、前記表示画面に表示させる表示装置である。
【発明の効果】
【0006】
本発明によれば、撮影画像が示す小さな異常の見落としを低減させ、短時間で効率よく撮影画像の成否確認を利用者に行わせることができるという効果を奏する。
【図面の簡単な説明】
【0007】
【
図1】診断システムの全体構成の一例を示す図である。
【
図2】撮影システムの構成の概略の一例を示す図である。
【
図3】撮影車両からトンネル壁面を撮影する様子の一例を説明するための図であり、(A)は、走行方向から撮影車両を見た図であり、(B)は、トンネル内部の車両の走行を示す図である。
【
図4】表示装置のハードウエア構成の一例を示す図である。
【
図5】撮影システムの機能構成の一例を示す図である。
【
図6】取得データ管理テーブルの一例を示す概念図である。
【
図7】フラグ条件管理テーブルの一例を示す概念図である。
【
図8】撮影システムによる撮影処理の一例を示すシーケンス図である。
【
図9】制御装置による撮影制御処理の一例を示すフローチャートである。
【
図10】撮影画像の成否確認処理の一例を示すフローチャートである。
【
図11】表示装置に表示される画像閲覧画面の一例を示す図である。
【
図12】表示装置に表示される画像閲覧画面の一例を示す図である。
【
図13】撮影画像の成否確認処理の変形例を示すフローチャートである。
【
図14】表示装置に表示される画像閲覧画面の変形例を示す図である。
【
図15】撮影システムの構成の概略の変形例を示す図である。
【
図16】表示装置に表示される画像閲覧画面の変形例を示す図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
【0009】
●実施形態●
●システムの概略
まず、
図1乃至
図3を用いて、本実施形態に係る診断システムの概略について説明する。
図1は、診断システムの全体構成の一例を示す図である。
図1に示されている診断システム1は、トンネル6等の構造物の撮影画像を用いて、構造物の状態の診断を行うシステムである。
【0010】
診断システム1は、診断装置40およびデータ管理装置50によって構築されている。診断システム1を構成する診断装置40およびデータ管理装置50は、通信ネットワーク100を介して通信することができる。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。また、診断装置40およびデータ管理装置50は、NFC(Near Field Communication)(登録商標)等の近距離通信技術による通信機能を備えていてもよい。
【0011】
図1において、検査車両7に乗車して検査している点検作業者は、特殊チョークでひび割れ等の変状部分を上書きして変状部分を目立つようにしたり、ひび割れの幅が何センチであるか等を記載したりする。その際、点検作業者は、変状の様子および評価結果を示すコメントを野帳等に記載しておく。一方、検査車両7の下にいる補助者は、点検作業者が発したコメントを野帳等に記載したり、場合によっては全体の写真撮影を行なったりする。なお、点検作業者が被るヘルメットに小型マイクと小型カメラを備え、点検作業者が発するコメントを小型マイクで収録し、コメントした対象箇所をカメラで撮影してもよい。この場合、収録された音声情報を音声認識装置によって認識して電子化し、小型カメラで撮影された画像と共に自動的に野帳(この場合、タブレット端末等)に記録してもよい
【0012】
その後、カメラを搭載した撮影車両9が、トンネル6内の入口から出口まで走行しながらトンネル6の壁を撮影することで、後述の
図5に示されているトンネル展開画像のデータを得ることができる。トンネル展開画像には、点検作業者が特殊チョークで記載した部分が写し出されているため、後日、検査業者は、トンネル展開画像を見れば、変状部分の位置または形状を容易に把握することができる。
【0013】
データ管理装置50は、撮影車両9によって取得された各種データを管理するコンピュータである。データ管理装置50は、撮影車両9が備える表示装置20から各種データを受信し、受信した各種データを、データ解析を行う診断装置40に受け渡す。なお、データ管理装置50から診断装置40への各種取得データの受け渡し方法はUSB(Universal Serial Bus)メモリ等を使った人的な移動であってもよい。データ管理装置50は、コメント、後述するトンネル展開画像および各種センサの検出データ、並びにトンネル台帳等のデータの管理を行う。また、データ管理装置50は、診断装置40で描画されたひび割れ等の変状部分を数値化したデータの管理、およびトンネル展開画像における座標データの管理等を行う。なお、データ管理装置50は、複数のコンピュータに各機能を分散させて実現させる構成であってもよい。さらに、データ管理装置50は、クラウド環境に存在するサーバコンピュータであってもよいし、オンプレミス環境に存在するサーバコンピュータであってもよい。
【0014】
診断装置40は、データ管理装置50から受け渡された各種データに基づいて、撮影画像の閲覧および撮影画像に対する各種データ入力を行うためのノートPC(Personal Computer)等のコンピュータである。診断装置40は、ブラウザを搭載しており、データ管理装置50から送られてくるトンネル展開画像を表示することができる。また、診断装置40は、閲覧用または描画用の専用アプリケーションプログラムをインストールしている。診断装置40の利用者(以下、検査業者と称する)は、補助者等が記載した野帳等のコメント、構造物の一例としてのトンネル6内の入口から出口まで撮影されたトンネル展開画像のデータ、および各センサの検出データを診断装置40に入力する。また、検査業者は、国等から入手したトンネル台帳のデータを、診断装置40に入力する。トンネル台帳には、トンネルの長さおよび高さ等が記載されている。
【0015】
検査業者は、トンネル展開画像上に表されているひび割れ等の変状部分の上から線等の描画を行うことで、画像である変状部分を位置座標で数値化する。診断装置40は、データ管理装置50から、変状部分の描画を行うことで生成された変状展開図を含む提出書類のデータをダウンロードする。そして、検査業者は、印刷した書類または印刷しない状態の電子データを、国等に対して提出する。なお、診断装置40は、ノートPCに限られず、スマートフォンまたはタブレット端末等であってもよい。
【0016】
すなわち、データ管理装置50は、通信ネットワーク100を介して診断装置40に対して、変状部分の描画を行うことで生成された変状展開図を含む提出書類のデータを送信する。これにより、診断装置40は、提出書類のデータを受信する。また、診断装置40は、通信ネットワーク100を介して、国等に提出書類のデータを送信する。または、診断装置40は、印刷装置に提出書類のデータを送信して印刷した後、検査業者等が国等に提出書類である印刷用紙を提出する。または、診断装置40は、DVD-R等の記録メディアに提出書類のデータを記録した後、検査業者等が国等に記録メディアを提出する。なお、国等への提出書類(電子データを含む)は、信憑性を確実にするため、改竄防止処理を施されることが好ましい。
【0017】
ここで、
図2および
図3を用いて、撮影車両9が備える撮影システム8の構成について説明する。
図2は、撮影システムの構成の概略の一例を示す図である。
図2に示されているように、撮影システム8は、トンネル6の撮影を行うための撮影ユニット900および表示装置20を備えている。撮影ユニット900は、カメラユニット901、照明ユニット902、TOF(Time Of Flight)センサ903、IMU(Inertial Measurement Unit)904、車速計/移動距離計905およびセンサ制御ボード90を含む。撮影ユニット900は、撮影手段の一例である。
【0018】
カメラユニット901は、複数のカメラを含み、光電変換素子を一列または複数列に配置させたラインセンサを搭載したラインカメラである。カメラユニット901は、それぞれ隣接するカメラと画角が一部重複するように設置されており、カメラユニット全体でトンネルの円周方向半分が画角に収まるように設置されている。なお、カメラユニット901は、光電変換素子が面状に配置されたエリアセンサを搭載したカメラ、またはステレオカメラ等によって構成されてもよい。であってもよい。
【0019】
照明ユニット902は、複数の光源を含み、カメラユニット901と同様に、それぞれ隣り合う光源と照射角が一部重複するように設置されている。照明ユニット902は、照射角がカメラユニット901の画角全体をカバーするように設置されている。
【0020】
TOFセンサ903は、撮影車両9とトンネル6の壁面との距離を計測する第1の測距センサである。TOFセンサ903は、カメラユニット901等を用いた撮影と同時に計測を行い、トンネル6の壁面からTOFセンサ903までの距離を検出し、トンネル6の壁面から撮影車両9までの距離を検出する。より具体的には、TOFセンサ903は、トンネル6の壁面に光を照射し、その反射光を受光するまでの時間に基づいてトンネル6の壁面までの距離を検出する。TOFセンサ903は、受光素子にエリアセンサを用いた場合、距離に応じて表示色が異なる二次元の等高線画像を得ることができる。なお、第1の測距センサは、TOFセンサのみならず、LIDAR(Light Detection and Ranging)センサまたはレーダセンサ等であってもよい。
【0021】
IMU904は、撮影車両9の角度(姿勢)および角速度(または角加速度)等を検出するジャイロセンサである。IMU904は、撮影車両9の運動を司る三軸の角度および角速度並びに加速度を計測する。IMU904は、撮影車両9の移動軌跡を算出するために利用される。
【0022】
車速計/移動距離計905は、撮影車両9の進行方向の速度および移動距離を計測する第2の測距センサである。車速計/移動距離計905は、IMU904と同様に撮影車両9の移動軌跡を算出するために利用する。また、車速計/移動距離計905は、カメラユニット901による撮影時のシャッターとして、等間隔の移動量ごとにパルスを発生させる役割も有する。
【0023】
ここで、TOFセンサ903、IMU904または車速計/移動距離計905によって計測されたデータは、撮影の幾何補正に使用される。例えば、データ管理装置50は、IMU904および車速計/移動距離計905によって計測されたデータから撮影車両9の移動軌跡を算出することで、各カメラがどのような姿勢で撮影できたかがわかり、トンネル6の中心から撮影された画像となるように各画素で補正を行う。また、TOFセンサ903によって計測されたデータは、撮影車両9による撮影を行う場合に、カメラユニット901および照明ユニット902を、どのような配置で撮影するかを自動で決定するために使用される。
【0024】
センサ制御ボード90は、カメラユニット901、照明ユニット902、TOFセンサ903、IMU904および車速計/移動距離計905の制御を行い、トンネル6の撮影処理の制御を行う制御装置である。以下、制御装置90と称する。制御装置90は、CPU(Central Processing Unit)911、ROM(Read Only Memory)912、RAM(Random Access Memory)913、HDD(Hard Disk Drive)914、外部I/F(Interface)915およびバスライン916を備えている。
【0025】
これらのうち、CPU911は、撮影ユニット900全体の動作の制御を行う。CPU911は、ROM912等からプログラムおよびデータ、並びに設定情報等をRAM913上に読み出し、処理を実行する。なお、CPU911の実現する制御、画像データの処理および各種機能の一部または全部は、FPGA(Field-Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)で実現される構成であってもよい。
【0026】
ROM912は、各種プログラムおよびデータ、並びに各種の設定情報等を記憶する。RAM913は、CPU911のワークエリアとして使用される。HDD914は、カメラユニット901から入力された画像データ、またはTOFセンサ903、IMU904および車速計/移動距離計905から入力されたセンサデータ等を記憶する。
【0027】
外部I/F915は、各種の外部機器を接続するためのインターフェースである。外部I/F915は、利用者が撮影ユニット900を操作するための表示装置20と、無線または有線を用いて接続し、データまたは信号のやりとりを行う。バスライン916は、
図2に示されているCPU911等の各構成要素を電気的に接続するためのアドレスバスまたはデータバス等である。
【0028】
表示装置20は、撮影ユニット900に対する操作を行うためのノートPC等のコンピュータである。例えば、撮影車両9の助手席に座っている点検作業者は、表示装置20を用いて、録画開始ボタンまたは停止ボタンを操作することで、撮影ユニット900を制御し、撮影画像データおよび各種センサデータを、HDD914に格納させる。また、表示装置20を操作する点検作業者は、撮影ユニット900による撮影処理を行う場合に、所定のコメントを表示装置20に入力する。表示装置20は、撮影画像データ、各センサの検出データおよびコメントを、通信ネットワーク100を介して、データ管理装置50へ送信する。なお、表示装置20は、ノートPCに限られず、スマートフォンまたはタブレット端末等であってもよい。
【0029】
次に、
図3を用いて、撮影車両9からトンネル6の壁面を撮影する様子について説明する。
図3は、撮影車両からトンネル壁面を撮影する様子の一例を説明するための図である。
図3(A)は、走行方向から撮影車両を見た図であり、
図3(B)は、トンネル内部の車両の走行を示す図である。
【0030】
図3(A)に示されているように、撮影ユニット900は、撮影車両9のルーフの上に固定されている。カメラユニット901および照明ユニット902は、スライドユニット920により撮影車両9の走行方向と交差する方向においてスライドし、所定の道路構造の長さに基づき定めた二つの位置で固定される。
【0031】
所定の道路構造の長さとは、撮影車両9の走行方向と交差する方向における歩道の幅である。ここで、歩道とは、歩行者が通行するための道路であり、車道等に併設され、歩行者の通行のために構造的に区画された道路の部分をいう。歩道の幅は、歩行者の通行量に応じて様々であるが、一般には1.5~3m程度である。歩道の幅が1.5mの場合、歩道の幅に基づき定めた二つの位置の間隔を1.5mに定めてもよい。または、歩道の幅が3m等で車両の幅を超える場合は、歩道の幅に基づき定めた二つの位置の間隔を、撮影車両9の最大幅として定めてもよい。また、歩道のほかに、監査路または路側帯がある場合は、歩道の幅に基づき定めた二つの位置の間隔を、歩道の幅と監査路、または路側帯の幅との差分の長さとして定めてもよい。
【0032】
二つの位置で画像を取得する場合、まず、撮影車両9の走行方向と交差する方向において、歩道の幅に基づき定めた二つの位置のうちの一方の位置に、カメラユニット901および照明ユニット902を固定し、所望の領域のトンネル6の壁面のエリア画像を取得する。次に、二つの位置のうちの他方の位置に、カメラユニット901および照明ユニット902を固定し、所望の領域のトンネル6の壁面のエリア画像を取得する。
【0033】
図3(A)では、カメラユニット901および照明ユニット902は、走行方向に向かってスライドユニット920の左端にスライドされて固定されている。一方、
図3(B)では、道路700のセンターに対し、左側に車線710があり、右側に車線720がある。撮影車両9は、車線710において、紙面に対し、手前の方向に走行している。また、
図3(B)では、車線710(撮影車両9が走行する車線)側に歩道730がある。
【0034】
図3(B)のF1は、撮影システム8による撮影範囲を表す。つまり、撮影システム8は、トンネル6の壁面のうち、破線F1で示されている撮影範囲内の領域60(太線で示されている領域)を撮影している。太線で示されているように、撮影システム8は、トンネル6の壁面(覆工部)と地面との境目までを撮影する。このように、撮影システム8は、撮影車両9を走行させながら撮影を行うことで、トンネル6の入口から出口までにおいて、紙面に対して
図3(B)の左側半分の壁面が撮像される。
【0035】
一方で、車線720において、撮影車両9を紙面に対して手前の方向に走行させることで、紙面に対して
図3(B)の右側半分の壁面を撮像することができる。この場合、カメラユニット901および照明ユニット902は、走行方向に向かってスライドユニット920の右側にスライドされて固定される。
【0036】
このように、診断システム1は、壁面の左側半分が撮影された画像と、壁面の右側半分が撮像された壁面の画像とを繋ぎ合せることで、トンネル6の入口から出口までの全壁面(全周)の画像を取得することができる。ここで、撮影システム8で撮影する画像は、それぞれ撮影領域がオーバーラップしていることが望ましい。また、画像を繋ぎ合せて一枚のトンネル展開画像を作成するため、
図3(B)に示されている歩道無しの側の画像と歩道有りの側の画像は、天井部分がオーバーラップするように撮影することが望ましい。換言すると、撮影システム8は、往きと帰りでトンネル6の壁面を撮影する場合、トンネル6の壁面で撮像されていない領域が生じないように、往きの撮像領域と帰りの撮像領域を、撮影車両9の走行方向と交差する方向にオーバーラップさせて撮像することが望ましい。
【0037】
ここで、「トンネル6の壁面に対向する方向」について補足する。トンネル6は、撮影車両9の走行方向と直交する断面が半円状の形状をしている。したがって、トンネル6の壁面のうち、地面付近では壁面は水平方向を向いており、天井付近では壁面は鉛直下方向を向いている。「トンネル6の壁面に対向する方向」とは、場所により向きが異なる壁面に対し、対向する方向をいう。地面付近における「トンネル6の壁面に対向する方向」は、略水平方向等である。一方、天井付近における「トンネル6の壁面に対向する方向」は、略鉛直上方向である。
【0038】
●ハードウエア構成
続いて、
図4を用いて、診断システム1を構成する各装置のハードウエア構成について説明する。なお、
図4に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。また、診断装置40およびデータ管理装置50のハードウエア構成は、表示装置20と同様であるため、説明を省略する。
【0039】
○表示装置のハードウエア構成○
図4は、表示装置のハードウエア構成の一例を示す図である。表示装置20は、コンピュータによって構築されており、
図4に示されているように、CPU201、ROM202、RAM203、HD(Hard Disk)204、HDDコントローラ205、ディスプレイ206、外部機器接続I/F208、ネットワークI/F209、バスライン210、キーボード211、ポインティングデバイス212、DVD-RW(Digital Versatile Disk Rewritable)ドライブ214、およびメディアI/F216を備えている。
【0040】
これらのうち、CPU201は、表示装置20全体の動作を制御する。ROM202は、IPL等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。HD204は、プログラム等の各種データを記憶する。HDDコントローラ205は、CPU201の制御にしたがってHD204に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ206は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。ディスプレイ206は、表示部の一例である。なお、ディスプレイ206は、入力手段を備えたタッチパネルディスプレイであってもよい。外部機器接続I/F208は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリまたはプリンタ等である。ネットワークI/F209は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン210は、
図4に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスまたはデータバス等である。
【0041】
また、キーボード211は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス212は、各種指示の選択もしくは実行、処理対象の選択、またはカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード211およびポインティングデバイス212のみならず、タッチパネルまたは音声入力装置等であってもよい。DVD-RWドライブ214は、着脱可能な記録媒体の一例としてのDVD-RW213に対する各種データの読み出しまたは書き込みを制御する。なお、着脱可能な記録媒体は、DVD-RWに限らず、DVD-RまたはBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F216は、フラッシュメモリ等の記録メディア215に対するデータの読み出しまたは書き込み(記憶)を制御する。
【0042】
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカードまたはUSBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、表示装置20は、本発明に係るプログラムが実行されることで本発明に係る表示制御方法を実現する。
【0043】
●機能構成
続いて、
図5乃至
図7を用いて、実施形態に係る撮影システムの機能構成について説明する。
図5は、撮影システムの機能構成の一例を示す図である。なお、
図5は、
図1および
図2に示されている装置のうち、後述の処理または動作に関連しているものを示す。
【0044】
○表示装置の機能構成○
まず、
図5を用いて、表示装置20の機能構成について説明する。表示装置20は、送受信部21、受付部22、表示制御部23、判断部24、画像処理部25、アプリ起動部26、通信部27および記憶・読出部29を有している。これら各部は、
図4に示されている各構成要素のいずれかが、HD204からRAM203上に展開され表示装置用のプログラムに従ったCPU201からの命令によって動作することで実現される機能または手段である。また、表示装置20は、
図4に示されているROM202およびHD204によって構築される記憶部2000を有している。
【0045】
送受信部21は、主に、ネットワークI/F209に対するCPU201の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。送受信部21は、例えば、撮影ユニット900によって取得された撮影画像データおよび検出データを、データ管理装置50へ送信する。
【0046】
受付部22は、主に、キーボード211またはポインティングデバイス212に対するCPU201の処理によって実現され、利用者から各種の選択または入力を受け付ける。受付部22は、例えば、後述する画像閲覧画面300,400,500に対する各種選択または入力を受け付ける。表示制御部23は、主に、CPU201の処理によって実現され、ディスプレイ206に、各種画像を表示させる。表示制御部23は、例えば、後述する画像閲覧画面300,400,500を、ディスプレイ206に表示させる。判断部24は、CPU201の処理によって実現され、各種判断を行う。
【0047】
判断部24は、CPU201の処理によって実現され、各種判断を行う。画像処理部25は、主に、CPU201の処理によって実現され、通信部27によって受信された撮影画像データに対する各種処理を行う。画像処理部25は、例えば、点検作業者からの要求に応じて、後述する画像閲覧画面300に表示された撮影画像の明るさを変更する。
【0048】
アプリ起動部26は、主に、CPU201の処理によって実現され、表示装置20にインストールされたアプリケーションを起動させる。表示装置20は、例えば、アプリ起動部26によって成否確認アプリ250を起動させることで、撮影画像の成否確認機能を実現する。
【0049】
通信部27は、主に、外部機器接続I/F208に対するCPU201の処理によって実現され、制御装置90との間で各種データまたは情報のやり取りを行う機能である。通信部27は、例えば、制御装置90に対して、点検作業者の入力操作により受け付けられた要求に応じた所定の要求信号を送信する。また、通信部27は、例えば、制御装置90から送信された撮影画像データおよび各種検出データを受信する。
【0050】
記憶・読出部29は、主に、CPU201の処理によって実現され、記憶部2000に、各種データ(または情報)を記憶したり、記憶部2000から各種データ(または情報)を読み出したりする。
【0051】
ここで、表示装置20の記憶部2000は、撮影ユニット900によって撮影されて取得された撮影画像の成否確認を行うためにインストールされた成否確認アプリ250を記憶している。成否確認アプリ250は、点検作業者によって撮影処理が正常に行われてた否か、すなわち撮影画像に異常があるか否かを確認するために実行されるアプリケーションである。表示装置20は、インストールされた成否確認アプリ250を実行することで、後述する画像閲覧画面300を表示させる。そして、点検作業者は、画像閲覧画面300に表示された撮影画像を確認することで、撮影画像をデータ管理装置50へアップロードさせるか、または再度撮影処理を行うかの選択を行う。
【0052】
○制御装置の機能構成○
次に、
図5を用いて、制御装置(センサ制御ボード)90の機能構成について説明する。制御装置90は、通信部91、センサ制御部92、データ取得部93、取得データ管理部94、フラグ条件管理部95、検知部96、フラグ情報生成部97および記憶・読出部99を有している。これら各部は、
図2に示されている各構成要素のいずれかが、HDD914からRAM913上に展開された制御装置用のプログラムに従ったCPU911からの命令によって動作することで実現される機能または手段である。また、制御装置90は、
図2に示されているROM912およびHDD914によって構築される記憶部9000を有している
【0053】
通信部91は、主に、外部I/F915に対するCPU911の処理によって実現され、表示装置20との間で各種データまたは情報のやり取りを行う機能である。通信部91は、例えば、表示装置20から送信された所定の要求信号を受信する。また、通信部91は、例えば、表示装置20に対して、データ取得部93によって取得された撮影画像データおよび各種検出データを送信する。
【0054】
センサ制御部92は、主に、CPU911の処理によって実現され、表示装置20からの要求に応じて、撮影ユニット900の処理を制御する。センサ制御部92は、例えば、点検作業者からの要求に応じて、撮影ユニット900に含まれるカメラユニット901等に対して処理の開始を要求する。データ取得部93は、主に、CPU911の処理によって実現され、撮影ユニット900の処理による各種データを取得する。データ取得部93は、例えば、カメラユニット901の撮影処理によって得られた撮影画像データを取得する。また、データ取得部93は、例えば、TOFセンサ903、IMU904および車速計/移動距離計905等の各種センサの処理によって得られた各種検出データを取得する。
【0055】
取得データ管理部94は、主に、CPU911の処理によって実現され、データ取得部93によって取得された各種データを管理する。取得データ管理部94は、データ取得部93によって取得された撮影画像データおよび各種検出データを、取得データ管理DB9001に記憶して管理する。フラグ条件管理部95は、主に、CPU911の処理によって実現され、撮影画像にフラグ情報を付与するためのフラグ条件を管理する。本実施形態において、フラグ情報とは、撮影画像の異常が発生している可能性のある箇所に付与される情報である。
【0056】
検知部96は、主に、CPU911の処理によって実現され、撮影画像およびフラグ条件に基づいて所定の検知処理を行い、撮影画像のフラグ条件に該当する内容を検知する。フラグ情報生成部97は、主に、CPU911の処理によって実現され、検知部96によって検知された撮影画像の箇所に付与するフラグ画像を生成する。
【0057】
記憶・読出部99は、主に、CPU911の処理によって実現され、記憶部9000に、各種データ(または情報)を記憶したり、記憶部9000から各種データ(または情報)を読み出したりする。
【0058】
○取得データ管理テーブル
図6は、取得データ管理テーブルの一例を示す概念図である。取得データ管理テーブルは、撮影ユニット900による撮影処理によって取得された各種データを管理するためのテーブルである。記憶部9000には、
図6に示されている取得データ管理テーブルによって構成されている取得データ管理DB9001が構築されている。この取得データ管理テーブルは、撮影車両9による撮影処理を識別する撮影IDおよび撮影時間ごとに、取得データを順番(No.)に管理している。取得データ管理テーブルは、撮影画像を識別する画像ID、撮影画像の画像データ、撮影画像と同期された各種検出データおよびフラグ種別を関連づけて記憶している。このうち、フラグ種別は、検知部96による検知結果を識別するための情報であり、検知結果の内容ごとに異なる識別情報を割り当てている。
【0059】
○フラグ条件管理テーブル
図7は、フラグ条件管理テーブルの一例を示す概念図である。フラグ条件管理テーブルは、撮影画像にフラグ情報を付与するためのフラグ条件を管理するためのテーブルである。記憶部9000には、
図7に示されているフラグ条件管理テーブルによって構成されているフラグ条件管理DB9002が構築されている。このフラグ条件管理テーブルは、撮影画像の異常箇所を検知するための内容を示すフラグ条件およびフラグ種別を関連づけて管理している。各フラグ条件の内容の詳細については、後述する。
【0060】
●実施形態の処理または動作
○撮影システムによる撮影処理○
続いて、
図8乃至
図16を用いて、実施形態に係る診断システムの処理または動作について説明する。
図8は、撮影システムによる撮影処理の一例を示すシーケンス図である。点検作業者は、撮影車両9に搭乗してトンネル6の壁面の撮影を行い、表示装置20を用いて、取得した撮影画像の成否確認処理を行う。以下、詳細に説明する。
【0061】
まず、点検作業者がキーボード211等の入力手段を用いて所定の入力操作を行うことで、表示装置20の受付部22は、撮影開始要求を受け付ける(ステップS11)。そして、通信部27は、制御装置90に対して、トンネル6の撮影開始を要求する旨を示す撮影開始要求を送信する(ステップS12)。これにより、制御装置90の通信部91は、表示装置20から送信された撮影開始要求を受信する。
【0062】
次に、制御装置90は、撮影ユニット900を用いた撮影処理を実行する。ここで、
図9を用いて、制御装置90を用いた撮影処理について詳細に説明する。
図9は、制御装置による撮影制御処理の一例を示すフローチャートである。
【0063】
制御装置90は、撮影車両9を走行させながら、トンネル6の撮影処理を開始する(ステップS31)。具体的には、センサ制御部92は、撮影ユニット900に対して撮影要求を出力することで、トンネル6の壁面の撮影処理を開始する。撮影ユニット900は、カメラユニット901を用いた撮影処理、および撮影処理と同期させながらTOFセンサ903等の各種センサによる検出処理を開始する。そして、データ取得部93は、撮影ユニット900の処理によって得られた撮影画像データおよび各種検出データを取得する。
【0064】
次に、記憶・読出部99は、フラグ条件管理DB9002(
図7参照)に記憶されたフラグ条件を読み出す(ステップS32)。そして、検知部96は、ステップS32で読み出されたフラグ条件に該当する内容を検知した場合(ステップS33のYES)、処理をステップS34へ移行させる。一方で、検知部96は、フラグ条件に該当する内容を検知していない場合(ステップS33のNO)、処理をステップS35へ移行させる。
【0065】
ここで、検知部96の処理について詳細に説明する。検知部96は、データ取得部93で取得された撮影画像データまたは各種検出データを用いて、ステップS32で読み出されたフラグ条件のいずれかに該当する内容を検知する。
図7に示されているフラグ条件は、撮影画像に異常が発生している可能性を検知するための条件である。
【0066】
検知部96は、例えば、撮影画像の白飛びもしくは黒つぶれ、または画像のボケ等を検知する。検知部96は、例えば、撮影画像の輝度情報に基づいて、8bitの画像中の所定の輝度範囲から外れている画素が所定値以上であるライン数が閾値以上である場合に、白飛びまたは黒つぶれを検知する。ここで、所定の輝度範囲は、例えば、輝度値が10~240の範囲である。また、所定の輝度範囲から外れている画素の数を判断する所定値は、例えば、ラインカメラであるカメラユニット901で撮影された撮影画像の1ライン当たりの画素数で判断され、1ライン当たり0.1%である。さらに、所定の輝度範囲から外れている画素が所定値以上であるライン数の閾値は、例えば、10ラインである。
【0067】
また、検知部96は、例えば、事前にトンネル6の壁面に貼り付けられた所定のマークまたはMTF(Modulation Transfer Function)チャートもしくはクラックスケール等のチャート等の基準画像の検知率が所定の数値未満である場合に、画像のボケを検知する。検知部96は、基準画像のMTFまたは解像力等によって検知率を算出する。
【0068】
さらに、検知部96は、そもそものトンネル6の撮影の目的である損傷部(以下、変状部と称する)が認識できるように撮影できているかの確認として、トンネル6の変状部を検知する。点検作業者は、変状部の検知結果を確認することで、撮影画像の成否確認の判断を効率的に行うことができる。変状部の検知方法は、例えば、CNN(Convolutional Neural Network)を用いた方法等である。検知部96は、事前に変状部の画像を学習させておき、変状部の画像を識別する識別器を用いて、リアルタイムでトンネル6の変状部を検知する。
【0069】
また、検知部96は、TOFセンサ903による計測距離が所定範囲外である場合、異常値として検知する。検知部96は、例えば、TOFセンサ903によって被写体とカメラとの間の距離を逐次計測し、フォーカスポジションの被写界深度外となる距離の発生を検知する。被写界深度外の箇所は、画像のボケが発生し、異常画像となっている可能性があるためである。
【0070】
さらに、検知部96は、同様にTOFセンサ903を用いて、トンネル6の出入口または非常駐車帯の検知等も行う。トンネル6の出入口は、明るさの差が非常に大きく白飛びまたは黒つぶれ等が発生しやすい箇所である。そのため、検知部96は、撮影画像の白飛びまたは黒つぶれ等が発生しやすいトンネル6の出入口の箇所を検知する。
【0071】
また、非常駐車帯は、非常駐車帯の前後で、撮影ユニット900(カメラユニット901およびと照明ユニット902)とトンネル6の壁面(被写体)との距離が非連続に変化するため、自動露光制御でも追従するのが難しく、白飛びや黒つぶれが発生しやすかったり、画像がボケやすくなったりする。また、非常駐車帯等の非連続断面が存在する場合、通常の撮影処理では、非連続部分を正確に撮影することが難しい。そのため、撮影システム8は、非常駐車帯の検知結果によって撮影処理を切り替えて処理してもよい。具体的には、検知部96は、非常駐車帯の設置個所を検知する。点検作業者は、前者の場合、検知結果を非常駐車帯が異常画像となっていないかの確認に用いる。点検作業者は、後者の場合、検知結果を非常駐車帯が正しく検知できているかの確認に用いる。いずれの場合でも、点検作業者は、非常駐車帯の検知結果を確認することで、非常駐車帯の撮影がうまくできているかどうかを効率よく確認することができる。さらに、検知部96は、非常駐車帯以外の断面形状が非連続になる箇所として、車線数の変更による断面の非連続(例えば、3車線から2車線への変更箇所)やトンネル6の生成工法による断面の非連続(例えば、カルバート(矩形)から山岳トンネル(円形)への変更箇所))等も検知する。
【0072】
また、検知部96は、IMU904および車速計/移動距離計905を用いて、撮影車両9の速度または加速度の異常値を検知する。撮影車両9の走行速度が予め定められている点検作業の保証速度よりも早かったりまたは遅かったりする場合、ノイズが大きく画質が悪くなったり、車両の揺れにより画像に低周波の振動が加わったりする可能性がある。ここで、点検作業での撮影車両9の保証速度は、例えば、10km/h~60km/hの範囲である。そのため、検知部96は、撮影車両9の速度が所定範囲外である場合、異常値として検知する。この所定範囲は、上述の撮影車両9の保証速度の範囲であり、所定範囲外とは、例えば、撮影車両9の速度が10km/h未満または60km/hより速い場合である。10なお、制御装置90は、点検作業者に撮影画像を確認させるのではなく、検知部96による検知が行われた段階で、点検作業の保証範囲外であるため、再度撮影処理を行ってもよい。
【0073】
ここで、制御装置90は、ラインカメラであるカメラユニット901のライン周期をシャッタースピードとして設定した場合、SN比が良い画質となるため、シャッタースピードをカメラ周期と合わせて設定する。この場合、撮影車両9の急激な加減速があると、自動露光制御の追従が間に合わずに撮影画像の白飛びまたは黒つぶれ等が発生したり、撮影画像に撮影車両9の振動が現れたりする可能性がある。そのため、検知部96は、撮影車両9の加速度が所定値以上である場合、異常値として検知する。検知部96は、例えば、撮影車両9の加速度が0.15G以上である場合、異常値として検知する。なお、異常値として検知される加速度の値は、撮影車両9の性能もしくは走行環境、または点検作業の内容等に応じて、適宜設定されるため、上述の数値に限られない。
【0074】
このように、検知部96は、フラグ条件を用いた所定の検知処理を行うことで、撮影車両9の走行撮影中に異常の可能性がある箇所を検知することができる。
【0075】
次に、検知部96によって撮影画像の異常が検知された場合(ステップS33のYES)、フラグ情報生成部97は、ステップS33による検知結果に基づいて、撮影画像の異常または異常発生の可能性を示すフラグ情報を生成する(ステップS34)。具体的には、記憶・読出部99は、ステップS33によって検知された内容に対応するフラグ条件を検索キーとしてフラグ条件管理DB9002(
図7参照)を検索することで、フラグ条件に関連づけられたフラグ種別を読み出す。そして、フラグ情報生成部97は、読み出されたフラグ種別に対応するフラグ情報を生成する。フラグ情報は、例えば、フラグ種別に対応するフラグ画像を含む。フラグ画像は、例えば、フラグ種別に応じて色、形状または大きさ等が異なり、点検作業者がそれぞれのフラグ条件(フラグ種別)を識別できるような形式の画像である。フラグ情報生成部97は、例えば、ラインカメラであるカメラユニット901による撮影画像(ライン画像)の後端にフッタ領域を設けておき、各ラインのフッタ領域に対して、生成されたフラグ情報を書き込む。
【0076】
記憶・読出部99は、上述の処理によって得られたデータを、取得データ管理DB9001(
図6参照)に記憶させる(ステップS35)。記憶・読出部99は、撮影画像データおよび各種検出データと、ステップS34で生成されたフラグ情報を示すフラグ種別とを関連づけて取得データ管理DB9001に記憶する。
【0077】
そして、制御装置90は、トンネル6の撮影が終了した場合(ステップS36のYES)、処理を終了する。一方で、制御装置90は、トンネル6の撮影が終了するまで、ステップS33からの処理を繰り返す(ステップS36のNO)。
【0078】
このように、制御装置90は、撮影車両9の走行撮影中に、撮影画像および各種検出データを用いて、撮影画像の異常検知をリアルタイムに行う。そして、制御装置90は、検知された時点の撮影画像と検知結果を関連づけて記憶する。制御装置90は、撮影中に異常が発生する可能性がある箇所を検知し、検知された撮影位置に対応する撮影画像に有効なフラグであることを示すフラグ画像を関連づけることで、撮影画像の異常候補の位置を記憶することができる。
【0079】
図8に戻り、制御装置90の通信部91は、表示装置20に対して、ステップS13の処理によって取得された各種データを送信する(ステップS14)。これにより、表示装置20の通信部27は、制御装置90から送信された各種データを受信する。なお、この場合、通信部91は、トンネル6の全体の撮影終了(
図9のステップS36)を待たずに、撮影画像データおよびフラグ情報等を含む各種データを、表示装置20に対して随時送信してもよい。
【0080】
表示装置20は、ステップS14で受信された取得データである撮影画像の成否確認処理を実行する(ステップS15)。ここで、
図10を用いて、表示装置20による成否確認処理について詳細に説明する。
図10は、撮影画像の成否確認処理の一例を示すフローチャートである。
【0081】
まず、アプリ起動部26は、走行撮影完了後に、表示装置20にインストールされた成否確認アプリ250を起動させる(ステップS51)。そして、表示制御部23は、アプリ起動部26により起動された成否確認アプリ250が実行されることで、取得された撮影画像が表示された画像閲覧画面300を、ディスプレイ206に表示させる(ステップS52)。
図11は、表示装置に表示される画像閲覧画面の一例を示す図である。
図11に示されている画像閲覧画面300は、ステップS14で取得された撮影画像データによって構成されたトンネル6の全体を示す俯瞰画像を表示する俯瞰画像表示領域310、俯瞰画像表示領域310に表示された撮影画像に対応するフラグ画像を表示するフラグ表示領域320、および俯瞰画像表示領域310に表示された撮影画像の位置を示す撮影位置表示領域330を含む。
【0082】
このうち、俯瞰画像表示領域310は、トンネル6の全体を示す俯瞰画像を表示する。トンネル6の俯瞰画像は、トンネル6の全体(入口から出口まで)を俯瞰できるように、複数の撮影画像が撮影順に並べられた画像である。俯瞰画像の横方向は、撮影車両9の進行方向であり、縦方向は、トンネル6の周方向である。また、俯瞰画像は、ステップS14で取得された複数の撮影画像データの倍率が画像処理部25によってそれぞれ縮小処理された複数の縮小画像を含む。画像処理部25は、生成された複数の縮小画像を撮影順に並べた俯瞰画像を生成する。
【0083】
トンネル6の撮影画像は、大容量であり、トンネル6の入口から出口までの画像を全て読み込む場合には、非常に時間がかかる。そのため、画像閲覧画面300は、俯瞰画像表示領域310に、トンネル6の入口から出口までの全体を一目で俯瞰できるサイズまで間引きながら撮影画像を表示する。なお、長いトンネルの場合、間引き量が大きくなりすぎて何が写っているかわからなくなってしまう場合には、表示装置20は、トンネル6の入口から出口までを俯瞰して表示させるのではなく、所定の縮小率まで縮小した撮影画像を表示させ、俯瞰画像表示領域310をスクロールさせて、トンネル6の入口から出口までを確認できる構成であってもよい。
【0084】
フラグ表示領域320は、俯瞰画像表示領域310に表示された俯瞰画像と撮影車両9の進行方向とが同期された位置に、フラグ画像を表示する。表示制御部23は、撮影画像のフッダ領域に書き込まれたフラグ情報を読み込むことで、俯瞰画像と進行方向で同期されたフラグ画像を表示する。点検作業者は、俯瞰画像表示領域310に表示されている俯瞰画像で異常が検知された場所と進行方向(横方向)で同じ位置に表示されたフラグ画像を確認することで、異常が発生している箇所を把握することができる。また、フラグ表示領域320は、例えば、複数の検知結果がある存在する場合、フラグ画像の色または形状等の表示方法を変えたり、フラグ画像を縦に複数並べたりして表示させてもよい。
図11の例では、フラグ表示領域320は、俯瞰画像表示領域310に表示されている俯瞰画像で白飛びしている箇所(例えば、トンネル6内の照明)の場所と進行方向(横方向)で同じ位置に黒色のフラグ画像を表示している。
【0085】
ここで、俯瞰画像の縮小率(間引き)が大きくて、フラグ表示領域320に表示させるフラグの間隔が短い場合は、フラグ画像を単純に縮小してしまうと、フラグ情報が欠落してしまう可能性がある。そこで、表示制御部23は、フラグ情報の欠落を防止するために、フラグ表示領域320にフラグ画像を表示させる際に、OR間引き等の間引き処理を行う。OR間引きとは、間引きするフラグ情報のうち、一つでも有効なフラグが存在する場合に、間引き後もフラグが有効となる処理をいう。また、フラグの有効または無効は、フラグ画像の有無によって判別される。なお、1ラインではあまりに小さいので気にしないでよいとする場合も考えられるため、表示制御部23は、フラグの有効数が所定の閾値以下であれば、フラグを有効にしないという制御を行ってもよい。
【0086】
撮影位置表示領域330は、俯瞰画像表示領域310に表示された俯瞰画像を構成する撮影画像の撮影位置を表示する。撮影位置表示領域330は、撮影車両9の走行撮影に応じて得られた撮影画像の撮影順を、俯瞰画像を構成する撮影画像の位置に対応させて表示する。
【0087】
また、画像閲覧画面300は、俯瞰画像表示領域310に表示された俯瞰画像のうち、指定された位置の拡大画像を表示させる拡大画像表示領域350、拡大画像表示領域350に表示された拡大画像に対応するフラグ画像を表示するフラグ表示領域360、画像閲覧画面300に表示させる撮影画像の表示状態を選択する選択領域380、所定の撮影位置の撮影処理を再度要求する際に押下される「撮影」ボタン307、ステップS14で取得された撮影画像のアップロードを行う場合に押下される「アップロード」ボタン309、および成否確認処理を中断または終了して画像閲覧画面300を閉じる場合に押下される「閉じる」ボタン301を含む。
【0088】
このうち、拡大画像表示領域350は、俯瞰画像表示領域310に表示された俯瞰画像上の指定された位置座標を中心として、俯瞰画像よりも高解像度(高い倍率)の拡大画像を表示する。拡大画像は、例えば、ステップS14で取得された撮影画像と同じ解像度(倍率)の画像であってもよいし、取得された撮影画像よりも小さい解像度(倍率)の画像であってもよい。また、フラグ表示領域360は、拡大画像表示領域350に表示された拡大画像に対応するフラグ画像を、拡大画像と同じスケールで表示する。
【0089】
選択領域380は、画像閲覧画面300に表示された撮影画像のうち、アクティブになっている表示領域に表示された画像に対する操作の選択を受け付けるための領域である。選択領域380は、画像閲覧画面300に表示させる撮影画像の倍率を調整するための倍率調整手段381、画像閲覧画面300に表示させる撮影画像の撮影位置を選択するための撮影位置選択手段383、撮影画像の明るさを変更するための明るさ調整手段385、画像閲覧画面300に表示された撮影画像の全画面表示を行う全画面表示機能を選択するための全画面表示選択ボタン387、アクティブになっている表示領域に示されている画像を非表示にするための表示消去ボタン389、および拡大画像表示領域350に表示させる拡大画像のコマ送りを行う際に選択される表示切替ボタン391を含む。なお、
図11に示されている画像閲覧画面300は、選択領域380を用いてアクティブになっている一つの表示領域(ウィンドウ)を操作する構成を示すが、画像閲覧画面300は、各表示領域(ウィンドウ)のそれぞれを操作する複数の選択領域を備える構成であってもよい。
【0090】
点検作業者は、
図11に示されているようなスライダ形式の倍率調整手段381に対して、入力手段を用いたポインタp1による移動操作を行うことで、アクティブな表示領域に表示された撮影画像の拡大または縮小を行う。受付部22は、倍率調整手段381に対する点検作業者の操作によって、アクティブな表示領域に表示された撮影画像の拡大または縮小の操作を受け付ける。点検作業者は、
図11に示されているようなスライダ形式の撮影位置選択手段383に対して、入力手段を用いたポインタp1による移動操作を行うことで、拡大画像表示領域350に表示させる拡大画像の切り替えを行う。受付部22は、撮影位置選択手段383に対する点検作業者の操作によって、拡大画像表示領域350に表示させる撮影画像の撮影位置の選択を受け付ける。
【0091】
明るさ調整手段385は、
図11に示されているようなスライダ形式を用いて、アクティブな表示領域に表示されている画像の明るさの変更を受け付ける。画像閲覧画面300は、トンネル6の壁面の状態または外光等の影響によって撮影画像が明るすぎたり、または暗すぎたりする場合に、撮影画像の明るさを調整することで、撮影画像の内容を判別しやすくする。表示装置20は、例えば、撮影画像が暗すぎてひび割れが見えにくい場合、全体を明るくすることで、ひび割れを判別しやすくすることができる。また、表示装置20は、撮影画像に示されている壁面に記載されたチョークが見えにくい場合、全体を暗くすることで、チョーキングとのコントラストがついて判別しやすくすることができる。
【0092】
具体的には、点検作業者がポインタp1を用いて明るさ調整手段385に対する移動操作を行うことで、受付部22は、スライダで指定された位置に対応する明るさへの変更要求を受け付ける。受付部22は、例えば、変更要求として、スライダの移動量(スライド量)に応じたガンマ値を受け付ける。画像処理部25は、受け付けられたガンマ値を用いて、下記(式1)によって、明るさ変更後の撮影画像の輝度値を算出する。ここで、Xは、明るさ変更前の輝度値であり、Yは、明るさ変更後の輝度値であり、γは、ステップS201で受け付けられたガンマ値である。例えば、明るさ調整手段385のデフォルトの位置では、γ=1であり、明るさ変更前の輝度=明るさ変更後の輝度となる。
【0093】
【0094】
明るさ調整手段385は、スライダ形式にすることで、撮影画像の現在の明るさを表示するとともに、変更する明るさの値の指定を受け付けることができる。点検作業者は、スライダの位置によって、表示されている撮影画像の現在の明るさと変更後の明るさを視覚的に把握することができる。なお、画像閲覧画面300は、スライダ形式の明るさ調整手段385に変えて、撮影画像の明るさの数値を表示させるとともに、点検作業者に変更後の明るさの値を直接入力させる表示入力領域を含む構成であってもよい。
【0095】
また、点検作業者は、表示領域が小さくて画像を確認しにくい場合等に、全画面表示選択ボタン387を選択することで、俯瞰画像表示領域310および拡大画像表示領域350のうち、アクティブになっている表示領域を全画面表示する。受付部22は、全画面表示選択ボタン387に対する操作によって、アクティブな表示領域の全画面表示の選択を受け付ける。そして、表示制御部23は、アクティブな表示領域に表示された画像を画像閲覧画面300に全画面表示させる。
【0096】
さらに、点検作業者は、表示消去ボタン389を選択することで、俯瞰画像表示領域310および拡大画像表示領域350のうち、アクティブになっている表示領域に表示された画像を消去(非表示に)する。受付部22は、表示消去ボタン389に対する点検作業者の操作によって、アクティブな表示領域の画像の消去の選択を受け付ける。そして、表示制御部23は、アクティブな表示領域に表示された画像を画像閲覧画面300から非表示にする。点検作業者は、例えば、拡大画像表示領域350に表示された拡大画像で異常の有無を確認した後、次のフラグの箇所の確認を行う際に、拡大画像表示領域350に表示された画像を一度消去することで、次の作業を行いやすくなる。
【0097】
また、点検作業者は、表示切替ボタン391の右側のボタンを選択すると、撮影車両9の進行方向の右隣の画像を拡大画像表示領域350に表示させることができる。また、点検作業者は、表示切替ボタン391の左側のボタンを選択すると、撮影車両9の進行方向の左隣の画像を拡大画像表示領域350に表示させることができる。受付部22は、表示切替ボタン391に対する点検作業者の操作によって、拡大画像表示領域350に表示させる画像の切り替えを受け付ける。そして、表示制御部23は、表示切替ボタン391に対する操作内容に応じて、拡大画像表示領域350に表示させる画像を切り替えて表示させる。点検作業者は、例えば、拡大画像表示領域350に指定した箇所の拡大画像が表示された際、指定した箇所が少しズレており、もう少し右側または左側を見たい場合に、表示切替ボタン391を使用することで、指定箇所の近くの画像を円滑に確認することができる。
【0098】
このように、画像閲覧画面300は、トンネル6の入口から出口までを俯瞰した俯瞰画像とフラグ画像を関連づけて表示することで、点検作業者に効率よく異常候補の位置を把握させることができる。
【0099】
図10に戻り、受付部22は、俯瞰画像における異常確認位置の選択が受け付けられた場合(ステップS53のYES)、処理をステップS54へ移行させる。具体的には、点検作業者がポインティングデバイス312等の入力手段を用いてポインタp1を操作することでフラグ表示領域320に示されているフラグ画像を選択することにより、受付部22は、異常確認位置の選択を受け付ける。一方で、受付部22は、俯瞰画像における異常確認位置の選択が受け付けられない場合(ステップS53のNO)、処理をステップS57へ移行させる。
【0100】
点検作業者は、俯瞰画像表示領域310に表示された俯瞰画像、およびフラグ表示領域320に表示されたフラグ画像を見ながら、正常に撮影ができていない可能性のある位置を探し、その位置を異常確認位置として選択する。点検作業者は、例えば、フラグ画像上にポインタp1を移動させ、ポインティングデバイス212であるマウスを右クリックすることで、異常画像であるか確認したい位置(異常確認位置)を選択する。なお、点検作業者は、俯瞰画像表示領域310に表示された俯瞰画像上の確認したい位置にポインタp1を移動させ、マウスを右クリックすることで、異常画像であるか確認したい位置を選択する構成であってもよい。また、点検作業者によって異常画像であるか確認したい位置を選択する方法は、これに限られず、俯瞰画像の任意の位置を選択可能な方法であればよい。
【0101】
ここで、点検作業者は、フラグ表示領域320にフラグ画像が表示されている位置、すなわちフラグが有効な位置を確認したいことが多い。そのため、表示装置20は、フラグが有効な位置を選択しやすいように、ポインタp1がフラグの有効な位置に近づくと、ポインタp1がフラグ画像に吸い寄せられて自動的に選択されるようにしてもよいし、この自動指定機能を設定によりON(有効)またはOFF(無効)が選択できる構成であってもよい。
【0102】
次に、表示制御部23は、ステップS53で受け付けられた異常確認位置、すなわち選択されたフラグ画像の位置に対応する拡大画像を、拡大画像表示領域350に表示させる(ステップS54)。
図12は、ステップS54で表示される画像閲覧画面300の画面例を示す。
図12に示されている画像閲覧画面300は、俯瞰画像表示領域310に表示された俯瞰画像の撮影位置「6」に対応する拡大画像を、拡大画像表示領域350に表示している。また、
図12に示されているように、画像閲覧画面300は、俯瞰画像表示領域310に表示された俯瞰画像と、拡大画像表示領域350に表示される拡大画像とを並列に表示する。
図12に示されている例の場合、拡大画像に示されている照明の部分が白飛びの異常画像となっており、フラグ表示領域360は、拡大画像に示されている照明の部分と対応する位置にフラグ画像が表示している。点検作業者は、トンネル6の点検において、壁面の白飛びが発生していると、損傷の有無が分からなくなるので問題があるが、照明の部分が白飛びしていても問題ないため、表示された拡大画像が異常画像ではないことを確認することできる。なお、画像閲覧画面300は、フラグ表示領域360をなくして、拡大画像表示領域350のみを表示させることで、拡大画像をより大きく表示させる構成にしてもよい。
【0103】
次に、受付部22は、「撮影」ボタン307の選択が受け付けられた場合(ステップS55のYES)、処理をステップS56へ移行させる。一方で、ステップS55において、受付部22は、「撮影」ボタン307の選択が受け付けらない場合(ステップS55のNO)、処理をステップS57へ移行させる。この場合、点検作業者は、拡大画像表示領域350に表示された拡大画像を見て、異常画像であると判断した場合、ポインティングデバイス312等の入力手段を用いてポインタp1を操作することで、「撮影」ボタン307を押下する。
【0104】
点検作業者は、拡大画像表示領域350に表示された拡大画像を見ることで、拡大画像が許容できる異常画像であるかどうかを判断する。点検作業者は、許容できない異常画像である場合、走行撮影(ステップS13)をやり直すため、「撮影」ボタン307を選択する。また、点検作業者は、
図12の拡大画像のような照明の箇所のみ白飛びしている等、許容できる画像であった場合には、成否確認作業を続ける。
【0105】
次に、通信部27は、ステップS55で「撮影」ボタン307の選択が受け付けられた場合、制御装置90に対して、トンネル6の再度の撮影を要求する旨を示す撮影要求を送信する(ステップS56)。この撮影要求は、ステップS55で「撮影」ボタン307が選択された際に拡大画像表示領域350に表示されていた拡大画像の撮影位置の情報を含む。これにより、制御装置90の通信部91は、表示装置20から送信された撮影要求を受信する。そして、制御装置90は、撮影要求に含まれてる撮影位置情報が示す撮影位置の撮影処理(ステップS13)を再度実行し、撮影処理によって取得されたデータを表示装置20に対して送信する(ステップS14)。
【0106】
そして、ステップS57において、受付部22は、「アップロード」ボタン309の選択が受け付けられた場合(ステップS57のYES)、処理をステップS58へ移行させる。この場合、点検作業者は、成否確認処理が終了したと判断した場合、ポインティングデバイス312等の入力手段を用いてポインタp1を操作することで、「アップロード」ボタン309を押下する。一方で、受付部22は、「アップロード」ボタン309の選択が受け付けらない場合(ステップS57のNO)、ステップS53からの処理を繰り返し、成否確認処理を継続する。
【0107】
そして、送受信部21は、データ管理装置50に対して、ステップS14で受信された取得データを送信(アップロード)する(ステップS58)。これにより、データ管理装置50は、
図1に示されているように、受信されたコメント、撮影画像データおよび各種検出データ等の取得データを管理する。その後、診断装置40を使用する検査業者は、データ管理装置50によって管理された各種データを用いて、トンネル6の診断を行い、役所に提出書類のデータを作成する。
【0108】
このように、表示装置20は、撮影画像を縮小させた複数の縮小画像により構成させる俯瞰画像と、制御装置90によって検知された検知結果を示すフラグ画像とを関連づけて画像閲覧画面300に表示させるとともに、点検作業者によって選択された所定の位置の拡大画像を画像閲覧画面300に表示させる。これにより、点検作業者は、撮影画像が示す小さな異常の見落としを低減させ、短時間で効率よく撮影画像の成否確認を行うことができる。
【0109】
○成否確認処理の変形例
次に、
図13および
図14を用いて、
図10乃至
図12に示されている表示装置20を用いた成否確認処理の変形例を説明する。
図13は、撮影画像の成否確認処理の変形例を示すフローチャートである。
図13は、
図10に示されている成否確認処理と異なり、画像閲覧画面400に、解像度の異なる拡大画像を表示させる構成である。
【0110】
まず、アプリ起動部26は、走行撮影完了後に、表示装置20にインストールされた成否確認アプリ250を起動させる(ステップS71)。そして、表示制御部23は、アプリ起動部26により起動された成否確認アプリ250が実行されることで、取得された撮影画像が表示された画像閲覧画面400を、ディスプレイ206に表示させる(ステップS72)。
図14に示されている画像閲覧画面400は、上述の画像閲覧画面300に示されている拡大画像表示領域350およびフラグ表示領域360に変えて、第1の拡大画像表示領域410およびフラグ表示領域420並びに第2の拡大画像表示領域430およびフラグ表示領域440を含む。
【0111】
このうち、第1の拡大画像表示領域410は、俯瞰画像表示領域310に表示された俯瞰画像上の指定された位置座標を中心として、俯瞰画像よりも高解像度(高い倍率)の第1の拡大画像を表示する。また、フラグ表示領域420は、第1の拡大画像表示領域410に表示された第1の拡大画像に対応するフラグ画像を、第1の拡大画像と同じスケールで表示する。
【0112】
また、第2の拡大画像表示領域430は、俯瞰画像表示領域310に表示された俯瞰画像上の指定された位置座標を中心として、第1の拡大画像表示領域410に表示された第1の拡大画像よりも高解像度(高い倍率)の第2の拡大画像を表示する。また、フラグ表示領域440は、第2の拡大画像表示領域430に表示された第2の拡大画像に対応するフラグ画像を、第2の拡大画像と同じスケールで表示する。
【0113】
なお、画像閲覧画面400は、
図10に示されている画像閲覧画面の拡大画像表示領域350に表示させる拡大画像を上書きする形式で、第1の拡大画像と第2の拡大画像の表示を切り替える構成であってもよい。また、画像閲覧画面400は、例えば、第3の拡大画像および第4の拡大画像のような、2段階以上の拡大画像を表示させる構成であってもよい。表示装置20は、解像度が異なる階層構造の画像を表示させることで、最初からピクセル等倍の最大解像度の画像を読み込んでスクロールさせながら表示させる場合と比べて、短時間で効率的に点検作業者に成否確認を行わせることができる。
【0114】
次に、受付部22は、異常確認位置の選択が受け付けられた場合(ステップS73のYES)、処理をステップS74へ移行させる。一方で、受付部22は、異常確認位置の選択が受け付けられない場合(ステップS73のNO)、処理をステップS79へ移行させる。異常確認位置の選択方法は、ステップS53の処理と同様である。そして、表示制御部23は、ステップS73で受け付けられた異常確認位置、すなわち選択されたフラグ画像の位置に対応する第1の拡大画像を、第1の拡大画像表示領域410に表示させる(ステップS74)。
【0115】
次に、受付部22は、画像閲覧画面400の「拡大」ボタン405の選択が受け付けられた場合(ステップS75のYES)、処理をステップS76へ移行させる。そして、表示制御部23は、ステップS73で受け付けられた異常確認位置、すなわち選択されたフラグ画像の位置に対応する第1の拡大画像よりも解像度の高い第2の拡大画像を、第2の拡大画像表示領域430に表示させる(ステップS76)。表示制御部23は、例えば、第1の拡大画像を表示方法と同様に、点検作業者が第1の拡大画像の拡大したい箇所にポインタp1を移動させてポインティングデバイス212であるマウスを右クリックすることで、ポインタp1の座標位置を中心とした第2の拡大画像を表示する。
【0116】
次に、受付部22は、「撮影」ボタン307の選択が受け付けられた場合(ステップS77のYES)、処理をステップS78へ移行させる。一方で、ステップS77において、受付部22は、「撮影」ボタン307の選択が受け付けらない場合(ステップS77のNO)、処理をステップS79へ移行させる。この場合、点検作業者は、第1の拡大画像表示領域410または第2の拡大画像表示領域430に表示された拡大画像を見て、異常画像であると判断した場合、ポインティングデバイス312等の入力手段を用いてポインタp1を操作することで、「撮影」ボタン307を押下する。
【0117】
そして、通信部27は、ステップS77で「撮影」ボタン307の選択が受け付けられた場合、制御装置90に対して、トンネル6の再度の撮影を要求する旨を示す撮影要求を送信する(ステップS78)。この撮影要求は、ステップS77で「撮影」ボタン307が選択された際に第1の拡大画像表示領域410または第2の拡大画像表示領域430に表示されていた拡大画像の撮影位置の情報を含む。これにより、制御装置90の通信部91は、表示装置20から送信された撮影要求を受信する。そして、制御装置90は、撮影要求に含まれてる撮影位置情報が示す撮影位置の撮影処理(ステップS13)を再度実行し、撮影処理によって取得されたデータを表示装置20に対して送信する(ステップS14)。
【0118】
そして、ステップS79において、受付部22は、「アップロード」ボタン309の選択が受け付けられた場合(ステップS79のYES)、処理をステップS80へ移行させる。この場合、点検作業者は、成否確認処理が終了したと判断した場合、ポインティングデバイス312等の入力手段を用いてポインタp1を操作することで、「アップロード」ボタン309を押下する。一方で、受付部22は、「アップロード」ボタン309の選択が受け付けらない場合(ステップS79のNO)、ステップS73からの処理を繰り返し、成否確認処理を継続する。そして、送受信部21は、データ管理装置50に対して、ステップS14で受信された取得データを送信(アップロード)する(ステップS80)。
【0119】
このように、表示装置20は、点検作業者によって選択された位置における拡大画像の解像度(倍率)を段階的に変化させて表示させることで、表示されるまでに時間が掛かる高い解像度の拡大画像を一度に表示する場合と比較して、点検作業者に短時間で効率よく撮影画像の成否確認を行わせることができる。また、表示装置20は、第1の拡大画像および第2の拡大画像と、それぞれの対応する位置における検知結果であるフラグ画像を関連づけて表示させることで、点検作業者に検知箇所を正確に把握させることができ、撮影画像の小さな異常の見落とす可能性を低減させることができる。
【0120】
○撮影システムの変形例○
続いて、
図15および
図16を用いて、
図2に示されている撮影システムの構成の変形例を説明する。
図15は、撮影システムの構成の概略の変形例を示す図である。
図15に示されている撮影システム8Aは、複数のユニットによって構成される撮影ユニット900Aを備えている。撮影ユニット900Aは、マスタユニット600、および二つのスレーブユニット601,602を含む。
【0121】
マスタユニット600、および二つのスレーブユニット601,602に含まれる構成は、
図2に示されている撮影ユニット900に含まれる構成と同様である。マスタユニット600およびスレーブユニット601,602は、それぞれ一つのカメラユニットおよび照明ユニットを制御するために設けられ、
図15の例において、撮影ユニット900Aは、三台のカメラおよび照明を含む。また、マスタユニット600およびスレーブユニット601,602は、一つのユニットにつきカメラユニットおよび照明ユニットを有する必要があるが、他のセンサユニットを必ずしも有する必要はない。そのため、
図15は、スレーブユニット601およびスレーブユニット602に含まれているTOFセンサ903b,903cおよびIMU904b,904cを点線で表している。マスタユニット600のセンサ制御ボード90aは、マスタユニット600を構成するセンサ類を制御するほか、スレーブユニット601,602の制御も行う。制御センサボード90a,90b,90cは、スイッチングハブ930を介してそれぞれ接続している。
【0122】
さらに、表示装置20は、スイッチングハブ930を介して、センサ制御ボード90aと通信を行う。表示装置20からの撮影開始要求または撮影停止要求がセンサ制御ボード90aに伝わると、マスタユニット600は、カメラユニット901aおよび照明ユニット902aを用いた撮影開始または撮影停止を行うだけでなく、スレーブユニット601,602のセンサ制御ボード90b,90cに同じ命令を伝える。スレーブユニット601,602は、センサ制御ボード90aからの命令に応じて、それぞれのカメラユニット901b,901cおよび照明ユニット902b,902cを用いた撮影開始または撮影停止を行う。また、表示装置20は、成否確認処理を行う場合、マスタユニット600およびスレーブユニット601,602のそれぞれに格納された画像データおよび検知結果を、センサ制御ボード90aから取得する。
【0123】
なお、
図15は、撮影ユニット900Aが二つのスレーブユニット601,602を含む構成を示したが、スレーブユニットの数はこれに限られず、撮影ユニット900Aは、ラインカメラを構成するカメラの数等に応じて、三つ以上のスレーブユニットを含む構成であってもよい。
【0124】
次に、
図16を用いて、
図15に示されているような複数のカメラによって撮影された撮影画像に対して、一度に成否確認作業を行う場合に用いられる画像閲覧画面の例を説明する。
【0125】
図16に示されている画像閲覧画面500は、撮影ユニット900Aに含まれる複数のユニットによって取得された撮影画像データを用いて、トンネル6の全体を示す俯瞰画像を表示する俯瞰画像表示領域510、俯瞰画像表示領域510に表示された俯瞰画像のうち、指定された位置の拡大画像を表示させる拡大画像表示領域550、画像閲覧画面500に表示させる撮影画像の表示状態を選択する選択領域580、所定の撮影位置の撮影処理を再度要求する際に押下される「撮影」ボタン507、撮影画像のアップロードを行う場合に押下される「アップロード」ボタン509、および成否確認処理を中断または終了して画像閲覧画面500を閉じる場合に押下される「閉じる」ボタン501を含む。
【0126】
このうち、俯瞰画像表示領域510は、撮影ユニット900Aを構成する各ユニットによって取得された撮影画像によって構成される俯瞰画像を、縦に並べて表示する。この場合、表示装置20は、マスタユニット600のセンサ制御ボード90aと通信を行い、各ユニットのそれぞれに格納されている撮影画像データを、所定の間引き処理を行いながら受信する。各ユニットの俯瞰画像は、
図10に示されている俯瞰画像表示領域310に表示された俯瞰画像と同じである。また、俯瞰画像表示領域510は、検知部96による検知結果であるフラグ画像を、俯瞰画像に重畳させて表示する。なお、フラグ画像は、例えば、半透明になっており、フラグ画像を有する箇所でも俯瞰画像の内容がわかるようにしてもよい。また、俯瞰画像表示領域510は、画像閲覧画面300の俯瞰画像表示領域310とフラグ表示領域320のように、俯瞰画像とフラグ画像を別々に表示してもよい。
【0127】
また、俯瞰画像表示領域510は、矩形領域t1を表示しており、俯瞰画像の拡大したい領域を選択する場合、矩形領域t1に対応する俯瞰画像の箇所が拡大画像表示領域550に拡大表示される。画像閲覧画面500は、例えば、倍率選択手段583等によって倍率を変更された場合、変更された倍率に応じて面積が変更された矩形領域t1を表示する。一方で、画像閲覧画面500は、矩形領域t1に対する操作によって矩形領域t1のサイズが変更された場合、変更された矩形領域t1のサイズに応じて倍率の値が変更された倍率選択手段583を表示する。
【0128】
点検作業者は、例えば、入力手段等を用いてポインタp1を操作することで、矩形領域t1を拡大して確認したい位置に移動させる。点検作業者は、俯瞰画像表示領域510に表示された俯瞰画像およびフラグ画像を見ることで、拡大して確認したい位置を決定する。そして、点検作業者は、例えば、矩形領域t1上にポインタp1を移動させ、ポインティングデバイス212であるマウスを右クリックすることで、異常画像であるか確認したい位置を選択する。
図16の例では、二つのユニットで撮影された画像に跨ってフラグ画像が表示されているため、点検作業者は、二つの画像を跨ぐように、矩形領域t1を移動させる。
【0129】
拡大画像表示領域550は、俯瞰画像表示領域510に表示された矩形領域t1の位置に対応する画像が拡大された拡大画像を表示する。拡大画像表示領域550は、二つの表示領域550a,550bを含む。表示領域550a,550bは、異なるユニットによって撮影された画像を、それぞれ別々に表示する。これは、フラグ画像が複数のユニットによって撮影された画像に跨っている場合、矩形領域t1によって複数のユニットの撮影画像が選択されることがあるからである。画像閲覧画面500は、複数のユニットで撮影された画像の拡大画像を表示させることで、異なるユニットで撮影された画像の間でオーバーラップしている領域があるかを点検作業者に確認させることができる。これは、全てのユニットで撮影された撮影画像を合成して1枚の展開画像を作成する際に、隣接するカメラでオーバーラップしている領域が無いと合成することができない(歯抜けた状態になる)ため、撮影車両9の蛇行が大きいとき等に確認が必要であるからである。なお、拡大画像表示領域550は、矩形領域t1によって選択された画像だけでなく、同じ撮影位置(トンネル6の周方向の同じ位置)に対応する全てのユニットから撮影された画像を表示させてもよい。
【0130】
選択領域580は、画像閲覧画面500に表示された撮影画像のうち、アクティブになっている画像に対する画像操作の選択を受け付けるための領域である。選択領域580は、閲覧対象の撮影画像を選択するためのデータ選択領域581、画像閲覧画面500に表示させる撮影画像の倍率を選択するための倍率選択手段583、撮影画像の明るさを変更するための明るさ調整手段585、画像閲覧画面300に表示させる撮影画像の撮影位置を選択するための撮影位置選択手段591、および拡大画像表示領域550に表示させる拡大画像のコマ送りを行う際に選択される表示切替ボタン595を含む。
【0131】
このうち、データ選択領域581は、制御装置90aの取得データ管理DB9001に記憶された撮影IDおよび撮影日時を、ドロップダウンリストで表示させる。点検作業者は、データ選択領域581を操作することで、成否確認を行う撮影処理に対応する撮影IDおよび撮影日時を選択する。通信部27は、受付部22によって選択が受け付けられた撮影IDおよび撮影日時に対応する取得データの取得要求を、制御装置90aに対して送信する。制御装置90aの記憶・読出部99は、受信された撮影IDおよび撮影日時を検索キーとして取得データ管理DB9001を検索することで、対応する取得データを読み出し、通信部91は、表示装置20に対して、読み出された取得データを送信する。そして、表示装置20の表示制御部23は、通信部27によって受信されたし取得データによって構成される俯瞰画像およびフラグ画像を、俯瞰画像表示領域510に表示させる。
【0132】
点検作業者は、倍率選択手段583に対して、入力手段を用いたポインタp1による操作を行うことで、アクティブな表示領域に表示された撮影画像の拡大または縮小を行う。受付部22は、倍率選択手段583に対する点検作業者の操作によって、アクティブな表示領域に表示された撮影画像の拡大または縮小を行うための倍率の選択を受け付ける。表示制御部23は、倍率選択手段583に示されている数値の変更が受付部22によって受け付けられた場合、変更された倍率(拡大率)に対応する拡大画像を、拡大画像表示領域550に表示させる。なお、倍率選択手段583は、画像閲覧画面300の倍率調整手段381のようなスライダ形式の操作手段であってもよい。
【0133】
明るさ調整手段585、撮影位置選択手段591および表示切替ボタン595は、それぞれ画像閲覧画面300の明るさ調整手段385、撮影位置選択手段383および表示切替ボタン391と同様の構成である。点検作業者は、例えば、撮影位置選択手段383または表示切替ボタン39を用いて、拡大画像表示領域550に表示させる拡大画像の撮影位置を選択したり、表示される拡大画像のコマ送りを行ったりする。なお、画像閲覧画面500は、
図15に示されている構成の他、画像閲覧画面300の全画面表示選択ボタン387および表示消去ボタン389等を含む構成であってもよい。
【0134】
このように、表示装置20は、複数のカメラの撮影画像を同時に成否確認する際に、隣接したカメラの拡大画像を一度に表示させることで、隣接したカメラにおける撮影箇所がオーバーラップしていること等を、点検作業者に短時間で効率よく確認させることができる。
【0135】
●実施形態の効果
以上説明したように、撮影システム8は、表示装置20を用いた成否確認を行う際に、トンネル6の入口から出口までを俯瞰した複数の縮小画像(俯瞰画像)とフラグ画像を同時に表示させ、表示させた縮小画像とフラグ画像に基づいて点検作業者によって任意の位置が選択されると、選択された位置座標を中心とした拡大画像を表示させる。これにより、点検作業者は、撮影画像の異常候補の位置の拡大画像を効率よく確認することができる。
【0136】
バッテリの小型化に伴う撮影システム8の消費電力の削減または交通規制等による現場での時間制約等を考慮した場合、点検作業者による成否確認処理の効率化は重要である。また、現場で異常が発見できずに、後日検査業者が展開画像の作成中に異常が見つかると、再度現場へ撮影を行いにいく必要があるため、成否確認処理の精度も同様に重要である。そこで、撮影システム8は、撮影車両9に搭乗する点検作業者が使用する表示装置20が、トンネル6の俯瞰画像と異常候補の位置を示す検知結果とを関連づけて表示し、点検作業者によって選択された位置の拡大画像を表示することで、点検作業者の撮影画像の成否確認処理を短時間で高精度に実現させることができる。
【0137】
なお、上述の実施形態において、構造物の一例として道路上のトンネル6の診断の例を説明したが、診断システム1は、例えば、路面、橋梁または法面等の道路上の様々な構造物の診断の用途に用いられてもよい。また、診断システム1は、例えば、ビルの壁面、エレベータの壁面または地下鉄のトンネル等の他の構造物の診断の用途に用いられてもよい。また、移動体の一例として撮影車両9を用いて撮影された撮影画像を表示する処理を説明したが、診断システム1は、ドローン等の他の移動体または人の移動によって撮影された撮影画像を表示する構成であってもよい。さらに、表示装置20に表示された画像閲覧画面300,400,500を用いて撮影画像の閲覧を行う例を説明したが、診断システム1は、検査業者が使用する診断装置40に画像閲覧画面300,400,500を表示させて撮影画像の閲覧を行う構成であってもよい。
【0138】
●まとめ●
以上説明したように、本発明の一実施形態に係る表示装置は、トンネル6(構造物の一例)が撮影された撮影画像を表示する表示装置20である。表示装置20は、トンネル6の撮影処理を制御する制御装置90から送信された、複数の撮影画像データおよび所定の検知結果を受信し、受信された複数の撮影画像データのそれぞれが縮小された複数の縮小画像と、当該縮小画像に対応する検知結果とを関連づけて画像閲覧画面300(表示画面の一例)に表示させる。そして、表示装置20は、表示された縮小画像の所定の位置の選択を受け付け、受け付けられた位置に対応する縮小画像よりも高い倍率の拡大画像を画像閲覧画面300に表示させる。これにより、表示装置20は、撮影画像が示す小さな異常の見落としを低減させ、短時間で効率よく撮影画像の成否確認を点検作業者に行わせることができる。
【0139】
また、本発明の一実施形態に係る撮影システムは、表示装置20と、制御装置90と、を備える撮影システム8である。制御装置90は、撮影ユニット900,900A(撮影手段の一例)によって撮影された撮影画像に対する所定の検知処理を行い、撮影ユニット900,900Aによって撮影された撮影画像に対応する撮影画像データおよび検知結果を、表示装置20に対して送信する。これにより、撮影システム8は、トンネル6等の構造物の撮影中に異常の可能性がある箇所を検知することができる。
【0140】
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサ、並びに上記で説明した各機能を実行するよう設計されたASIC、DSP(digital signal processor)、FPGA、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
【0141】
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習および深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
【0142】
これまで本発明の一実施形態に係る表示装置、撮影システム、表示制御方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0143】
1 診断システム
6 トンネル(構造物の一例)
8 撮影システム
9 撮影車両(移動体の一例)
20 表示装置
22 受付部(受付手段の一例)
23 表示制御部(表示制御手段の一例)
27 通信部(受信手段の一例)
40 診断装置
50 データ管理装置
90 センサ制御ユニット(制御装置の一例)
91 通信部(送信手段の一例)
96 検知部(検知手段の一例)
300,400,500 画像閲覧画面(表示画面の一例)
900,900A 撮影ユニット(撮影手段の一例)
【先行技術文献】
【特許文献】
【0144】
【要約】
【課題】撮影画像が示す小さな異常の見落としを低減させ、短時間で効率よく撮影画像の成否確認を利用者に行わせることを目的とする。
【解決手段】トンネル6(構造物の一例)が撮影された撮影画像を表示する表示装置20は、トンネル6の撮影処理を制御する制御装置90から送信された、複数の撮影画像データおよび所定の検知結果を受信し、受信された複数の撮影画像データのそれぞれが縮小された複数の縮小画像と、当該縮小画像に対応する検知結果とを関連づけて画像閲覧画面300(表示画面の一例)に表示させる。そして、表示装置20は、表示された縮小画像の所定の位置の選択を受け付け、受け付けられた位置に対応する縮小画像よりも高い倍率の拡大画像を画像閲覧画面300に表示させる。
【選択図】
図12