IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2024-76811撮像システム、撮像方法、およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024076811
(43)【公開日】2024-06-06
(54)【発明の名称】撮像システム、撮像方法、およびプログラム
(51)【国際特許分類】
   H04N 7/18 20060101AFI20240530BHJP
   G08G 1/00 20060101ALI20240530BHJP
【FI】
H04N7/18 J
G08G1/00 A
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022188592
(22)【出願日】2022-11-25
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】伊藤 泉
【テーマコード(参考)】
5C054
5H181
【Fターム(参考)】
5C054DA09
5C054FC12
5C054HA05
5C054HA30
5H181AA01
5H181BB04
5H181BB20
5H181CC04
5H181EE02
5H181MC02
5H181MC19
5H181MC27
(57)【要約】      (修正有)
【課題】複数の視点により異なる方向から撮像された検査対象物の複数の撮像画像を得る撮像システム、撮像方法およびプログラムを提供する。
【解決手段】撮像装置(前方カメラ4F、側方カメラ4S、後方カメラ4R)と、撮像装置の動作を制御する撮像制御装置5と、を有する撮像システム6であって、移動体3に搭載され、移動体3の移動中に検査対象物を撮像する撮像装置は、検査対象物が進行方向30の前方に位置している第1のタイミングで検査対象物の前面を撮像して第1の撮像画像を取得し、検査対象物が進行方向30の側方又は後方の少なくとも一方に位置する第2のタイミングで、検査対象物の側面及び後面の少なくとも一方を撮像して第2の撮像画像を取得するように撮像装置の動作を制御する。
【選択図】図2
【特許請求の範囲】
【請求項1】
撮像装置と、該撮像装置の動作を制御する撮像制御装置と、を有する撮像システムであって、
前記撮像装置は、移動体に搭載され、該移動体の移動中に検査対象物を撮像するものであり、
前記検査対象物が前記移動体の進行方向の前方に位置している際の前記撮像装置から見える側を前記検査対象物の前面、前記移動体の進行方向の側方に位置している際の前記撮像装置から見える側を前記検査対象物の側面、前記移動体の進行方向の後方に位置している際の前記撮像装置から見える側を前記検査対象物の後面、と定義し、
前記撮像装置は、前記検査対象物が進行方向の前方に位置している第1のタイミングで前記検査対象物の前面を撮像して第1の撮像画像を取得し、
前記撮像制御装置は、前記検査対象物が進行方向の側方または後方の少なくとも一方に位置する第2のタイミングで、前記検査対象物の側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう前記撮像装置の動作を制御する、ことを特徴とする撮像システム。
【請求項2】
前記第1の撮像画像および前記第2の撮像画像の少なくとも一方に基づき、前記検査対象物を検出する対象検出部と、
前記第1の撮像画像および前記第2の撮像画像の少なくとも一方に基づき、前記検査対象物の損傷を検出する損傷検出部と、
前記損傷の検出結果を表示させる表示制御部と、を有する請求項1に記載の撮像システム。
【請求項3】
前記検査対象物は、看板と、前記看板を支持する支柱部と、前記看板を前記支柱部に固定する固定部材と、を含み、
前記損傷検出部は、前記第1の撮像画像および前記第2の撮像画像の少なくとも一方に基づき、前記看板の規定形状からの変状、前記支柱部の変形および前記固定部材のゆるみの少なくとも1つを検出する、請求項2に記載の撮像システム。
【請求項4】
前記検査対象物と前記移動体との間の距離を検出する距離検出部をさらに有し、
前記対象検出部は、前記第1の撮像画像、前記第2の撮像画像、および前記検査対象物と前記移動体との間の距離、の少なくとも1つに基づき、前記検査対象物を検出する、請求項2または請求項3に記載の撮像システム。
【請求項5】
撮像装置と、該撮像装置の動作を制御する撮像制御装置と、を有する撮像システムによる撮像方法であって、
前記撮像装置は、移動体に搭載され、該移動体の移動中に検査対象物を撮像するものであり、
前記検査対象物が前記移動体の進行方向の前方に位置している際の前記撮像装置から見える側を前記検査対象物の前面、前記移動体の進行方向の側方に位置している際の前記撮像装置から見える側を前記検査対象物の側面、前記移動体の進行方向の後方に位置している際の前記撮像装置から見える側を前記検査対象物の後面、と定義し、
前記撮像システムは、
前記撮像装置により、前記検査対象物が進行方向の前方に位置している第1のタイミングで前記検査対象物の前面を撮像して第1の撮像画像を取得し、
前記撮像制御装置により、前記検査対象物が進行方向の側方または後方の少なくとも一方に位置する第2のタイミングで、前記検査対象物の側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう前記撮像装置の動作を制御する、ことを特徴とする撮像方法。
【請求項6】
撮像装置と、該撮像装置の動作を制御する撮像制御装置と、を有する撮像システムに処理を実行させるプログラムであって、
前記撮像装置は、移動体に搭載され、該移動体の移動中に検査対象物を撮像するものであり、
前記検査対象物が前記移動体の進行方向の前方に位置している際の前記撮像装置から見える側を前記検査対象物の前面、前記移動体の進行方向の側方に位置している際の前記撮像装置から見える側を前記検査対象物の側面、前記移動体の進行方向の後方に位置している際の前記撮像装置から見える側を前記検査対象物の後面、と定義し、
前記撮像装置により、前記検査対象物が進行方向の前方に位置している第1のタイミングで前記検査対象物の前面を撮像して第1の撮像画像を取得し、
前記撮像制御装置により、前記検査対象物が進行方向の側方または後方の少なくとも一方に位置する第2のタイミングで、前記検査対象物の側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう前記撮像装置の動作を制御する、
処理を前記撮像システムに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像システム、撮像方法、およびプログラムに関する。
【背景技術】
【0002】
従来、車両に搭載した撮像装置を用い、道路標識やカーブミラー等の道路付属物を検査対象物として移動しながら撮像し、検査対象物の損傷等の変状を撮像画像から検査する技術が知られている。なお、道路付属物とは、道路の構造の保全や、安全かつ円滑な道路の交通の確保、その他道路の管理上において必要な施設または工作物をいう。
【0003】
上記技術として、車両が走行する道路の撮像画像から柱領域、特定色領域、特定形状領域を検出し、これらが道路の周辺に配置された道路付属物であると判定する技術が開示されている(例えば、特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の技術では、複数の視点により異なる方向から撮像された、道路付属物等の検査対象物の複数の撮像画像を得るという観点では開示されていない。
【0005】
本発明は、複数の視点により異なる方向から撮像された検査対象物の複数の撮像画像を得ることを目的とする。
【課題を解決するための手段】
【0006】
本発明の一態様に係る撮像システムは、撮像装置と、該撮像装置の動作を制御する撮像制御装置と、を有する撮像システムであって、前記撮像装置は、移動体に搭載され、該移動体の移動中に検査対象物を撮像するものであり、前記検査対象物が前記移動体の進行方向の前方に位置している際の前記撮像装置から見える側を前記検査対象物の前面、前記移動体の進行方向の側方に位置している際の前記撮像装置から見える側を前記検査対象物の側面、前記移動体の進行方向の後方に位置している際の前記撮像装置から見える側を前記検査対象物の後面、と定義し、前記撮像装置は、前記検査対象物が進行方向の前方に位置している第1のタイミングで前記検査対象物の前面を撮像して第1の撮像画像を取得し、前記撮像制御装置は、前記検査対象物が進行方向の側方または後方の少なくとも一方に位置する第2のタイミングで、前記検査対象物の側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう前記撮像装置の動作を制御する。
【発明の効果】
【0007】
本発明によれば、複数の視点により異なる方向から撮像された検査対象物の複数の撮像画像を得ることができる。
【図面の簡単な説明】
【0008】
図1】実施形態に係る情報処理システムの全体構成例を示す図である。
図2】実施形態に係る撮像システムの構成例を示す図である。
図3】実施形態に係る撮像装置のハードウェア構成例を示すブロック図である。
図4】実施形態に係る撮像システムのハードウェア構成例を示すブロック図である。
図5】実施形態に係る画像解析装置のハードウェア構成例を示すブロック図である。
図6】実施形態に係る通信端末のハードウェア構成例を示すブロック図である。
図7】実施形態に係る情報処理システムの機能構成例を示すブロック図である。
図8】実施形態に係る撮像システムにおける撮像範囲例を説明する図である。
図9】実施形態に係る撮像システムにおける前方カメラの画角例を示す図である。
図10】実施形態に係る撮像システムにおける側方カメラの画角例を示す図である。
図11】実施形態に係る撮像システムによる撮像例を示す図である。
図12】移動体が検査対象物に接近しながら撮像した画像を例示する図である。
図13】撮像システムによる検査対象物の撮像画像を例示する図である。
図14】検査対象物である道路標識の前面および後面の例を示す図である。
図15】検査対象物前方管理DBの一例を示す図である。
図16】検査対象物側方管理DBの一例を示す図である。
図17】検査対象物後方管理DBの一例を示す図である。
図18】前方変状状態管理DBの一例を示す図である。
図19】側方変状状態管理DBの一例を示す図である。
図20】後方変状状態管理DBの一例を示す図である。
図21】実施形態に係る情報処理システムの全体動作例を示すシーケンス図である。
図22】実施形態に係る撮像システムによる撮像制御動作例を示すフロー図である。
図23】実施形態に係る撮像システムによる自動検出動作例を示すフロー図である。
図24】実施形態に係る撮像システムによる手動検出動作例を示すフロー図である。
図25】実施形態に係る撮像システムによる自動および手動検出動作例を示すフロー図である。
図26】実施形態に係る撮像システムによる解析動作例を示すフロー図である。
図27】実施形態に係る撮像システムによる検査対象物を撮像するための設定動作例を示すフロー図である。
図28】実施形態に係る撮像システムによる撮像全体動作例を示すフロー図である。
図29】実施形態に係る撮像システムによる前面撮像動作例を示すフロー図である。
図30】実施形態に係る撮像システムによる側面撮像動作例を示すフロー図である。
図31】実施形態に係る撮像システムによる後面撮像動作例を示すフロー図である。
図32】実施形態に係る撮像システムによる前面撮像タイミング例を示す図である。
図33】実施形態に係る撮像システムによる側面撮像タイミング例を示す図である。
図34】実施形態に係る撮像システムによる後面撮像タイミング例を示す図である。
図35】実施形態に係る情報処理システムによる画面表示例を示す図である。
図36】実施形態に係る撮像システムの構成の変形例を示す図である。
【発明を実施するための形態】
【0009】
本発明の実施形態に係る撮像システム、撮像方法およびプログラムについて図面を参照しながら詳細に説明する。但し、以下に示す形態は、本実施形態の技術思想を具現化するための撮像システム、撮像方法およびプログラムを例示するものであって、以下に限定するものではない。また、実施形態に記載されている構成部の寸法、材質、形状、その相対的配置等は、特定的な記載がない限り、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさ、位置関係等は、説明を明確にするため誇張していることがある。また、以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており詳細説明を適宜省略する。
【0010】
各図面において、方向表現として、X軸、Y軸およびZ軸を有する直交座標を用いる場合がある。X軸、Y軸およびZ軸は互いに略直交する。Y方向は、実施形態に係る撮像システムが搭載される移動体の進行方向に沿う方向を示し、Z方向は鉛直方向を示すものとする。但し、これらの方向表現は、実施形態の方向を限定するものではなく、撮像システムの向きは任意である。
【0011】
[実施形態]
<情報処理システム1の全体構成例>
図1は、実施形態に係る情報処理システム1の全体構成の一例を示す図である。情報処理システム1は、撮像システム6と、画像解析装置7と、通信端末8と、を有する。撮像システム6と、画像解析装置7と、により検査システム2を構成する。画像解析装置7と、通信端末8と、により、検査結果表示システム9を構成する。撮像システム6、画像解析装置7および通信端末8は、通信ネットワーク100を介して通信可能に接続している。操作者Uは、通信端末8を操作する者を表している。なお、情報処理システム1は、上記構成部の他に、PC(Personal Computer)等の情報処理装置を含んでもよい。また、情報処理システム1は、該情報処理装置、撮像システム6、画像解析装置7および通信端末8のそれぞれを複数有してもよい。
【0012】
<撮像システム6の構成例>
図2は、撮像システム6の構成の一例を示す図である。撮像システム6は、移動体3に搭載され、移動体3の移動に伴って移動されながら撮像を行うものである。ここでは、移動体3はY軸正方向に対応する進行方向30に移動するものとする。但し、移動体3の進行方向は任意である。移動体3は、例えば車両である。車両には、自動車、電車、無人搬送車(AGV: Automatic Guided Vehicle)等が含まれる。
【0013】
撮像システム6は、撮像装置4と、撮像制御装置5と、を有する。
【0014】
撮像装置4は、移動体3に搭載され、移動体3の移動中に検査対象物を撮像する。本実施形態では、撮像装置4は、検査対象物が進行方向30の前方に位置している第1のタイミングで検査対象物の前面を撮像して第1の撮像画像を取得する。この検査対象物は、案内標識、規制標識、カーブミラー等の道路付属物である。
【0015】
本実施形態においては、撮像装置4は、前方カメラ4Fと、側方カメラ4Sと、後方カメラ4Rと、を含む。ここで、検査対象物が移動体3の進行方向30の前方に位置している際の撮像装置4から見える側を検査対象物の前面、移動体3の進行方向30の側方に位置している際の撮像装置4から見える側を検査対象物の側面、移動体3の進行方向30の後方に位置している際の撮像装置4から見える側を検査対象物の後面、と定義する。前方カメラ4Fは、検査対象物の前面を撮像可能に配置される。側方カメラ4Sは、検査対象物の側面を撮像可能に配置される。後方カメラ4Rは、検査対象物の後面を撮像可能に配置される。
【0016】
本明細書に示す例では、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rは、それぞれ同じ構成を有する。前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rを区別しない場合には、撮像装置4と総称する。但し、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rは、相互に異なる構成であってもよい。
【0017】
撮像制御装置5は、撮像装置4の動作を制御する。本実施形態では、撮像制御装置5は、検査対象物が進行方向30の側方または後方の少なくとも一方に位置する第2のタイミングで、検査対象物の側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう撮像装置4の動作を制御する。
【0018】
<情報処理システム1のハードウェア構成例>
図3図6を参照して、情報処理システム1が有する各構成部のハードウェア構成について説明する。
【0019】
(撮像装置4)
図3は、撮像装置4のハードウェア構成の一例を示すブロック図である。撮像装置4は、CPU(Central Processing Unit)401と、ROM(Read Only Memory)402と、RAM(Random Access Memory)403と、EEPROM(Electrically Erasable Programmable Read-Only Memory)404と、ディスプレイ407と、近距離通信I/F(Interface)408と、を有する。また撮像装置4は、CMOS(Complementary Metal Oxide Semiconductor)センサ409と、撮像素子I/F410と、ネットワークI/F411と、操作ボタン412と、メディアI/F415と、外部機器接続I/F416と、音入出力I/F417と、マイク418と、スピーカ419と、を有する。
【0020】
CPU401は、撮像装置4全体の動作を制御する。ROM402は、CPU401やIPL等のCPU401の駆動に用いられるプログラムを記憶する。RAM403は、CPU401のワークエリアとして使用される。EEPROM404は、CPU401の制御に従って、撮像装置4用プログラム等の各種データの読み出し、または書き込みを行う。
【0021】
ディスプレイ407は、被写体の画像や各種アイコン等を表示する液晶や有機EL(Electro Luminescence)などの表示手段の一種である。近距離通信I/F409は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。CMOSセンサ409は、CPU401の制御に従って検査対象物を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、CMOSセンサ409ではなく、CCD(Charge Coupled Device)センサ等の撮像手段であってもよい。撮像素子I/F410は、CMOSセンサ409の駆動を制御する回路である。
【0022】
ネットワークI/F411は、通信ネットワーク100を介して、他の機器と通信するインターフェースである。操作ボタン412は、利用者が押下することで、撮像装置4を操作する入力手段の一種である。メディアI/F415は、フラッシュメモリ等の記録メディア414に対するデータの読み出し、または書き込み(記憶)を制御する。外部機器接続I/F416は、各種の外部機器を接続するためのインターフェースである。
【0023】
音入出力I/F417は、CPU401の制御に従ってマイク418およびスピーカ419との間で音信号の入出力を処理する回路である。マイク418は、音を電気信号に変える内蔵型の回路である。スピーカ419は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。
【0024】
また、撮像装置4は、バスライン420を備えている。バスライン420は、CPU401等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0025】
(撮像システム6)
図4は、撮像システム6のハードウェア構成の一例を示すブロック図である。撮像システム6は、撮像装置4と、撮像制御装置5と、を有する。撮像制御装置5は、コンピュータによって構築されている。撮像制御装置5は、CPU501と、ROM502と、RAM503と、EEPROM504と、HD505、HDD(Hard Disk Drive)コントローラ506と、ディスプレイ507と、近距離通信I/F508と、撮像素子I/F510と、を有する。また撮像制御装置5は、ネットワークI/F511と、タッチパネル512と、ポインティングデバイス513と、メディアI/F515と、外部機器接続I/F516と、音入出力I/F517と、マイク518と、スピーカ519と、データバス520と、を有する。
【0026】
CPU501は、撮像制御装置5全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。EEPROM504は、CPU501の制御に従って、撮像制御装置5用プログラム等の各種データの読み出し、または書き込みを行う。HD505は、プログラム等の各種データを記憶する。HDDコントローラ506は、CPU501の制御にしたがってHD505に対する各種データの読み出し、または書き込みを制御する。
【0027】
ディスプレイ507は、カーソル、メニュー、ウィンドウ、文字、または画像などの各種情報を表示する。近距離通信I/F508は、NFCやBluetooth等の通信回路である。撮像素子I/F510は、撮像装置4との通信を制御する回路である。ネットワークI/F511は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。タッチパネル512は、利用者がディスプレイ507を押下することで、撮像制御装置5を操作する入力手段の一種である。ポインティングデバイス513は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。メディアI/F515は、フラッシュメモリ等の記録メディア514に対するデータの読み出し、または書き込み(記憶)を制御する。
【0028】
外部機器接続I/F516は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、USB(Universal Serial Bus)メモリやプリンタ等である。音入出力I/F517は、CPU501の制御に従ってマイク518およびスピーカ519との間で音信号の入出力を処理する回路である。マイク518は、音を電気信号に変える内蔵型の回路である。スピーカ519は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。
【0029】
データバス520は、CPU501等の各構成要素を電気的に接続するためのアドレスバス、データバス等である。
【0030】
(画像解析装置7)
図5は、画像解析装置7のハードウェア構成の一例を示すブロック図である。画像解析装置7は、コンピュータによって構築される。画像解析装置7は、CPU701と、ROM702と、RAM703と、EEPROM704と、HD705、HDDコントローラ706と、ディスプレイ707と、近距離通信I/F708と、CMOSセンサ709と、を有する。また画像解析装置7は、撮像素子I/F710と、ネットワークI/F711と、タッチパネル712と、ポインティングデバイス713と、メディアI/F715と、外部機器接続I/F716と、音入出力I/F717と、マイク718と、スピーカ719と、データバス720と、を有する。
【0031】
CPU701は、画像解析装置7全体の動作を制御する。ROM702は、IPL等のCPU701の駆動に用いられるプログラムを記憶する。RAM703は、CPU701のワークエリアとして使用される。EEPROM704は、CPU701の制御に従って、画像解析装置7用プログラム等の各種データの読み出し、または書き込みを行う。HD705は、プログラム等の各種データを記憶する。HDDコントローラ706は、CPU701の制御にしたがってHD705に対する各種データの読み出し、または書き込みを制御する。
【0032】
ディスプレイ707は、カーソル、メニュー、ウィンドウ、文字、または画像などの各種情報を表示する。近距離通信I/F708は、NFCやBluetooth等の通信回路である。CMOSセンサ709は、CPU701の制御に従って検査対象物を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、CMOSセンサ709ではなく、CCDセンサ等の撮像手段であってもよい。撮像素子I/F710は、撮像装置4との通信を制御する回路である。
【0033】
ネットワークI/F711は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。タッチパネル712は、利用者がディスプレイ707を押下することで、画像解析装置7を操作する入力手段の一種である。ポインティングデバイス713は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。メディアI/F715は、フラッシュメモリ等の記録メディア714に対するデータの読み出し、または書き込み(記憶)を制御する。
【0034】
外部機器接続I/F716は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリやプリンタ等である。音入出力I/F717は、CPU701の制御に従ってマイク718およびスピーカ719との間で音信号の入出力を処理する回路である。マイク718は、音を電気信号に変える内蔵型の回路である。スピーカ719は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。
【0035】
データバス720は、CPU701等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0036】
(通信端末8)
図6は、通信端末8のハードウェア構成の一例を示すブロック図である。通信端末8は、CPU801と、ROM802と、RAM803と、EEPROM804と、ディスプレイ807と、近距離通信I/F808と、CMOSセンサ809と、撮像素子I/F810と、を有する。また通信端末8は、ネットワークI/F811と、タッチパネル812と、メディアI/F815と、外部機器接続I/F816と、音入出力I/F817と、マイク818と、スピーカ819と、を有する。
【0037】
CPU801は、通信端末8全体の動作を制御する。ROM802は、CPU801やIPL等のCPU801の駆動に用いられるプログラムを記憶する。RAM803は、CPU801のワークエリアとして使用される。EEPROM804は、CPU801の制御に従って、通信端末8用プログラム等の各種データの読み出し、または書き込みを行う。
【0038】
ディスプレイ807は、被写体の画像や各種アイコン等を表示する液晶や有機ELなどの表示手段の一種である。近距離通信I/F808は、NFCやBluetooth等の通信回路である。CMOSセンサ809は、CPU801の制御に従って検査対象物を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、CMOSセンサ809ではなく、CCDセンサ等の撮像手段であってもよい。撮像素子I/F810は、CMOSセンサ809の駆動を制御する回路である。
【0039】
ネットワークI/F811は、通信ネットワーク100を介して、他の機器と通信するインターフェースである。タッチパネル812は、利用者が押下することで、通信端末8を操作する入力手段の一種である。メディアI/F815は、フラッシュメモリ等の記録メディア814に対するデータの読み出し、または書き込み(記憶)を制御する。外部機器接続I/F816は、各種の外部機器を接続するためのインターフェースである。
【0040】
音入出力I/F817は、CPU801の制御に従ってマイク818およびスピーカ819との間で音信号の入出力を処理する回路である。マイク818は、音を電気信号に変える内蔵型の回路である。スピーカ819は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。
【0041】
また、通信端末8は、バスライン820を備えている。バスライン820は、CPU801等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0042】
<情報処理システム1の機能構成例>
図7は、情報処理システム1の機能構成の一例を示すブロック図である。
【0043】
(撮像システム6)
撮像システム6は、送受信部61と、操作受付部62と、撮像取得部63と、表示制御部64と、判断部65と、撮像設定制御部66と、画像解析部67と、生成部68と、記憶読出部69と、対象検出部90と、距離検出部91と、記憶部6000と、を有する。
【0044】
送受信部61の機能は、図4のネットワークI/F511等により実現される。操作受付部62の機能は、図4のタッチパネル512、ポインティングデバイス513等により実現される。撮像取得部63、表示制御部64、判断部65、撮像設定制御部66、画像解析部67、生成部68、対象検出部90および距離検出部91の各機能は、図4のCPU501がROM502等に格納されたプログラムをRAM503に展開し、該プログラムに規定された処理を実行すること等により実現される。記憶読出部69の機能は、図4のHDDコントローラ506等により実現される。記憶部6000の機能は、図4のHD505等により実現される。
【0045】
送受信部61は、通信ネットワーク100を介した撮像システム6と外部装置との通信を制御する。操作受付部62は、撮像システム6の操作者による操作を受け付ける。撮像取得部63は、撮像装置4による撮像画像を取得する。表示制御部64は、撮像装置4におけるディスプレイ407、撮像制御装置5におけるディスプレイ507等への画面の表示等を制御する。判断部65は、撮像システム6における様々な判断動作を行う。撮像設定制御部66は、撮像装置4による撮影条件等の設定を制御する。画像解析部67は、撮像取得部63により取得された撮像画像の解析処理を行う。生成部68は、ディスプレイ407、ディスプレイ507等に表示させる画面等を生成する。記憶部6000は、検査対象物前方管理DB(Data Base)6011、検査対象物側方管理DB6012および検査対象物後方管理DB6013を記憶する。
【0046】
本実施形態では、対象検出部90は、第1の撮像画像および前記第2の撮像画像の少なくとも一方に基づき、検査対象物を検出する。「検査対象物を検出する」とは、撮像システム6による撮像画像に検査を行う対象物(所望の対象物)が写っているかどうかを判断することをいう。以降、所望の対象物を検査対象物Aと記載する。なお、検査対象物は1種類である必要はなく、複数種類であってもよい。第1の撮像画像は、検査対象物が進行方向30の前方に位置している第1のタイミングで検査対象物の前面を撮像することにより取得される画像である。第2の撮像画像は、検査対象物が進行方向の側方または後方の少なくとも一方に位置する第2のタイミングで、検査対象物の側面および後面の少なくとも一方を撮像することにより取得される画像である。
【0047】
本実施形態では、対象検出部90は、ディープニューラルネットワーク(DNN:Deep Neural Network)等を用いて、検査対象物を検出する。例えば、検査対象物前方管理DB6011、検査対象物側方管理DB6012および検査対象物後方管理DB6013は、検査対象物を検出するために用いられる学習済みモデルあるいは学習中モデルを格納している。対象検出部90は、この学習済みモデルまたは学習中モデルを参照してDNNにより検査対象物を検出する。検査対象物前方管理DB6011は、対象検出部90が第1の撮像画像に基づいて検査対象物を検出する際に使用される。検査対象物側方管理DB6012および検査対象物後方管理DB6013は、対象検出部90が第2の撮像画像に基づいて検査対象物を検出する際に使用される。なお、対象検出部90は、学習中モデルを使用する場合には、学習中モデルを使用しながら、学習中モデルを更新する。
【0048】
また、本実施形態では、距離検出部91は、検査対象物Aと移動体3との間の距離を検出する。この場合の距離は、検査対象物Aを、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rそれぞれで撮影するための距離であり、検査対象物Aにおける移動体3に向く面と、撮像システム6における前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rそれぞれの撮像面と、の間の距離を意味する。距離検出部91は、例えば撮像画像に含まれる検査対象物Aの大きさに基づいて、検査対象物Aと移動体3との間の距離を検出できる。上記の対象検出部90は、この距離検出部91により検出された検査対象物Aと移動体3との間の距離、第1の撮像画像および第2の撮像画像の、少なくとも1つに基づき、検査対象物Aを検出してもよい。
【0049】
(画像解析装置7)
画像解析装置7は、送受信部71と、取得部72と、算出推定部73と、表示制御部74と、判断部75と、画像解析部77と、生成部78と、記憶読出部79と、損傷検出部92と、記憶部7000と、を有する。
【0050】
送受信部71の機能は、図5のネットワークI/F711等により実現される。取得部72、算出推定部73、表示制御部74、判断部75、画像解析部77、生成部78および損傷検出部92の各機能は、図5のCPU701がROM702等に格納されたプログラムをRAM703に展開し、該プログラムに規定された処理を実行すること等により実現される。記憶読出部79の機能は、図5のHDDコントローラ706等により実現される。記憶部7000の機能は、図5のHD705等により実現される。
【0051】
送受信部71は、通信ネットワーク100を介した画像解析装置7と外部装置との通信を制御する。取得部72は、撮像システム6により取得された撮像画像を、通信ネットワーク100を介して取得する。算出推定部73は、取得部72により取得された撮像画像に基づき、各種の推定処理を行う。表示制御部74は、ディスプレイ707等への画面の表示等を制御する。判断部75は、画像解析装置7における様々な判断動作を行う。画像解析部77は、取得部72により取得された撮像画像の解析処理を行う。生成部78は、ディスプレイ707等に表示させる画面等を生成する。記憶部7000は、ログイン情報管理DB7001、前方変状状態管理DB7011、側方変状状態管理DB7012および後方変状状態管理DB7013を記憶する。
【0052】
本実施形態では、損傷検出部92は、検査対象物の損傷を検出する。例えば、検査対象物は、看板と、該看板を支持する支柱部と、該看板を支柱部に固定する固定部材と、を含む。看板は、例えば道路標識である。支柱部は、例えば道路標識を支持する支柱である。固定部材は、例えば道路標識を支柱に固定するために締結されるボルトでネジ部材である。
【0053】
本実施形態では、損傷検出部92は、第1の撮像画像および第2の撮像画像の少なくとも一方に基づき、看板の規定形状からの変状、支柱部の変形および固定部材のゆるみの少なくとも1つを検出する。換言すると、損傷検出部92は、第1の撮像画像および第2の撮像画像の少なくとも一方に基づき、看板の規定形状からの変状、支柱部の変形および固定部材のゆるみの少なくとも1つが損傷していると判断する。
【0054】
本実施形態では、損傷検出部92は、ディープニューラルネットワーク等を用いて検査対象物の損傷を検出する。例えば、記憶部7000の前方変状状態管理DB7011、側方変状状態管理DB7012および後方変状状態管理DB7013は、検査対象物の損傷を検出するために用いられる学習済みモデルあるいは学習中モデルを格納している。損傷検出部92は、この学習済みモデルまたは学習中モデルを参照してDNNにより検査対象物の損傷を検出する。前方変状状態管理DB7011は、損傷検出部92が第1の撮像画像に基づいて検査対象物の損傷を検出する際に使用される。側方変状状態管理DB7012および後方変状状態管理DB7013は、損傷検出部92が第2の撮像画像に基づいて検査対象物の損傷を検出する際に使用される。なお、損傷検出部92は、学習中モデルを使用する場合には、学習中モデルを使用しながら、学習中モデルを更新する。
【0055】
画像解析装置7における損傷検出部92の機能は、撮像システム6により備えられてもよい。
【0056】
(通信端末8)
通信端末8は、送受信部81と、操作受付部82と、表示制御部84と、起動処理部86と、生成部88と、記憶読出部89と、記憶部8000と、を有する。
【0057】
送受信部81の機能は、図6のネットワークI/F811等により実現される。操作受付部82の機能は、図6のタッチパネル812、ポインティングデバイス813等により実現される。表示制御部84、起動処理部86および生成部88の各機能は、図6のCPU801がROM802等に格納されたプログラムをRAM803に展開し、該プログラムに規定された処理を実行すること等により実現される。記憶読出部89の機能は、図6のメディアI/F815等により実現される。記憶部8000の機能は、図6の記録メディア814等により実現される。
【0058】
送受信部81は、通信ネットワーク100を介した通信端末8と外部装置との通信を制御する。操作受付部82は、通信端末8の操作者による操作を受け付ける。表示制御部84は、ディスプレイ807等への画面の表示等を制御する。本実施形態では、表示制御部84は、損傷検出部92による損傷の検出結果を表示させる。起動処理部86は、通信端末8の起動時における所定の処理を実行する。生成部88は、ディスプレイ807等に表示させる画面等を生成する。記憶部8000は、各種設定情報等を記憶する。
【0059】
<撮像システム6における撮像範囲例>
図8図10を参照して、撮像システム6における撮像範囲について説明する。図8は、撮像システム6における撮像範囲の一例を説明する図である。図9は、前方カメラ4F、および後方カメラ4Rの鉛直方向における画角の一例を示す図である。図10は、側方カメラ4Sの鉛直方向における画角の一例を示す図である。
【0060】
図8において、撮像範囲40Fは、前方カメラ4Fの撮像範囲を示している。撮像範囲40Sは、側方カメラ4Sの撮像範囲を示している。撮像範囲40Rは、後方カメラ4Rの撮像範囲を示している。図8に示すように、撮像範囲40F、撮像範囲40Sおよび撮像範囲40Rは、相互に異なる範囲である。但し、撮像範囲40F、撮像範囲40Sおよび撮像範囲40Rのそれぞれの撮像範囲同士は、少なくとも一部が重複してもよい。
【0061】
また、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rのそれぞれは、自身の撮像範囲を変更することができる。図8において、撮像範囲40F-1は、撮像範囲を変更した後の前方カメラ4Fの撮像範囲を示している。矢印41Fおよび矢印42Fは、前方カメラ4Fがその向きを変えて撮像範囲を変更する過程を表している。
【0062】
図9に示すように、前方カメラ4Fの鉛直方向(Z軸方向)における画角は、検査対象物Aとしての交通信号機が少なくとも撮像範囲内に含まれるように定められる。後方カメラ4Rの鉛直方向における画角も前方カメラ4Fの鉛直方向における画角と同じように定められる。図10に示すように、側方カメラ4Sの鉛直方向における画角は、検査対象物Aとしての道路標識が撮像範囲内に含まれるように定められる。
【0063】
<撮像システム6による撮像例>
撮像システム6による撮像例について説明する。
【0064】
まず、用語の定義を説明する。移動体に搭載された撮像装置により撮像される撮影画像を「検査用撮像画像」と定義する。「検査用撮像画像」では、前方カメラ4Fで撮像した「検査用撮像画像」を「前方検査用撮像画像」、側方カメラ4Sで撮像した「検査用撮像画像」を「側方検査用撮像画像」、後方カメラ4Rで撮像した「検査用撮像画像」を「後方検査用撮像画像」として区別される。これら「前方検査用撮像画像」、「側方検査用撮像画像」、「後方検査用撮像画像」のそれぞれは、連続して撮像することで得られた複数枚の画像である。
【0065】
撮像装置4は、静止画を連続して撮像する。但し、撮像システム6は、静止画を連続して撮像する代わりに動画を撮影してもよい。
【0066】
撮像装置4で捉えた被写体が検査対象物であるか否かを判定するための画像を「判定用画像」と定義する。検査対象物の撮像開始または終了を判断するための画像を「撮像用基準画像」と定義する。撮像で得た複数の検査用撮像画像と比較して、検査対象物を検査するための画像を「検査用基準画像」と定義する。これら「判定用画像」、「撮像用基準画像」、「検査用基準画像」はいずれも、移動体3に搭載された撮像装置4から検査対象物Aを撮像する場合と同様の撮像位置や撮像角度で撮像された画像である。
【0067】
撮像動作や検査動作に使用される上記画像の定義について、より詳細に説明する。なお、記載中の数値や枚数等の値は、分かり易くするために便宜的に示した値である。
【0068】
(判定用画像)
「判定用画像」は、検査対象物の検出動作において、撮像装置で撮像(検出)した被写体が検査対象物Aであるか否かを判断し、撮像制御動作(後述する図22におけるS223)を開始するか否かを判断するための画像である。例えば、検査対象物Aが移動体の前方1mに存在する時点から検査用の撮像動作を開始する場合は、「判定用画像」は、検査対象物が移動体の前方1mよりも手前の前方1.2mの位置で撮像した検査対象物を撮像した画像となる。この場合の距離は、例えば検査対象物Aが移動体3の前方にある場合の移動体3側の面(前面)を検査対象物A側の距離の基準位置とし、前方カメラ4Fの撮像面を撮像装置側の基準位置として、検査対象物A側の距離の基準位置と撮像装置側の基準位置との間の長さに対応する。
【0069】
(撮像用基準画像)
「撮像用基準画像」は、検査対象物Aの撮像動作において、撮像装置4で撮像した被写体を検査に用いる検査用撮像画像として保存するか否かを判断するための画像である。「検査用撮像画像」は、「撮像用基準画像」が撮像された位置を中心として移動体3の移動方向前後に所定範囲の間に所定間隔で撮像される。「撮像用基準画像」は、この移動体3の移動方向前後に所定範囲の中心付近で撮像した画像である。「撮像用基準画像」は、前方カメラ4F用の「前方撮像用基準画像」、側方カメラ4S用の「側方撮像用基準画像」、後方カメラ4Rの「後方撮像用基準画像」という3種類が存在する。
【0070】
(前方撮像用基準画像)
例えば、移動体3の前方にある検査対象物Aを移動体3の前方に設置した前方カメラ4Fで撮像する場合において、移動体3の前方1mから20cmまでの範囲で検査対象物Aを撮像するのであれば、「前方撮像用基準画像」は、移動体3の前方60cmの位置で撮像した検査対象物Aを撮像した画像となる。
【0071】
(側方撮像用基準画像)
移動体3の側方にある検査対象物Aを移動体3の側方に設置した側方カメラ4Sで撮像する場合において、「側方撮像用基準画像」は、側方カメラ4Sの光軸上に位置する検査対象物を撮像した画像となる。
【0072】
(後方撮像用基準画像)
例えば、移動体3の後方にある検査対象物Aを移動体3の後方に設置した後方カメラ4Rで撮像する場合において、移動体3の後方20cmから1mまでの範囲で検査対象物Aを撮像するのであれば、「後方撮像用基準画像」は、移動体3の後方60cmの位置で撮像した検査対象物Aを撮像した画像となる。
【0073】
(検査用基準画像)
「検査用基準画像」は、「検査用撮像画像」と比較することで検査対象物Aの変状を抽出するための画像である。使用前の劣化していない検査対象物Aについて、移動体3に搭載された撮像装置4から検査対象物Aを撮像する場合と同様の撮像位置や撮像角度で撮像した画像を「検査用基準画像」とする。「検査用基準画像」を「撮像用基準画像」としてもよい。但し、検査対象物Aは色褪せや形状の変化等が生じて劣化している可能性がある。そこで、前回の検査を行った際に撮像した「検査用撮像画像」のうち、「撮像用基準画像」と同様の撮像位置や撮像角度で撮像した「検査用撮像画像」を「撮像用基準画像」としてもよい。
【0074】
「検査用基準画像」には、「前方検査用撮像画像」を検査するための「前方検査用基準画像」、「側方検査用撮像画像」を検査するための「側方検査用基準画像」、「後方検査用撮像画像」を検査するための「前方検査用基準画像」、という3種類が存在する。
【0075】
(前方検査用基準画像)
例えば、移動体3の前方にある検査対象物Aを移動体3の前方に設置した前方カメラ4Fで撮像した「前方検査用撮像画像」を検査する場合において、移動体3の前方1mから20cmまでの範囲で検査対象物Aを撮像した「前方検査用撮像画像」について検査を行うのであれば、「前方検査用基準画像」は、移動体3の前方1mから20cmまでの範囲において所定刻みで撮影した複数の画像となる。例えば、20cm刻みで撮像する場合は、前方1m、80cm、60cm、40cm、20cmの位置で撮像した検査対象物Aを撮像した5枚の画像となる。
【0076】
(側方検査用基準画像)
移動体3の側方にある検査対象物Aを移動体3の側方に設置した側方カメラ4Sで撮像した「側方検査用撮像画像」を検査する場合において、「側方検査用基準画像」は、側方カメラ4Sの光軸上に位置する検査対象物A、および側方カメラ4Sの撮影レンズの画角内において光軸から所定の角度に位置する検査対象物を撮像した画像となる。例えば、光軸から+40度、+20度、光軸上、-20度、-40度に位置する検査対象物Aを撮像した5枚の画像となる。
【0077】
(後方検査用基準画像)
例えば、移動体3の後方にある検査対象物Aを移動体3の後方に設置した後方カメラ4Rで撮像する場合において、移動体3の後方20cmから1mまでの範囲で検査対象物Aを撮像するのであれば、「後方撮像用基準画像」は、移動体3の後方60cmの位置で撮像した検査対象物Aを撮像した画像となる。
【0078】
図11図14を参照して、撮像システム6による撮像の様子を説明する。図11は、撮像システム6による撮像の一例を示す図である。図12は、移動体3が検査対象物Aに接近しながら撮像した画像の一例を示す図である。図13は、撮像システム6による検査対象物Aの撮像画像の一例を示す図である。図14は、検査対象物Aである道路標識の前面および後面の例を示す図である。
【0079】
図14(a)は、検査対象物Aの前面Afを示している。図14(b)は、検査対象物Aの後面Arを示している。検査対象物Aは、看板A1と、支柱部A2と、固定部材A3と、を含む。前面Afには、看板A1、支柱部A2および固定部材A3のそれぞれの前面が含まれる。後面Arには、看板A1、支柱部A2および固定部材A3のそれぞれの後面が含まれる。
【0080】
図11に示すように、撮像装置4は、移動体3のルーフ上に固定された状態で撮像を行う。進行方向30において、前方カメラ4Fは前方、側方カメラ4Sは側方、後方カメラ4Rは後方を、それぞれ撮像可能に移動体3のルーフ上に固定される。撮像装置4は、移動体3が移動している間に、前方、側方および後方の各方向を撮像する。
【0081】
図12(a)~図12(c)は、移動体3が検査対象物Aに接近していく過程で、前方カメラ4Fにより撮像される画像を示している。図12(a)は、移動体3から検査対象物Aまでの距離が、図12(b)および図12(c)と比較して長い状態での撮像画像Iを示している。図12(b)は、図12(a)の状態よりも移動体3が検査対象物Aに近づいた状態での撮像画像Iを示している。図12(c)は、移動体3が図12(b)の状態よりもさらに検査対象物Aに近づいた状態での撮像画像Iを示している。図12(a)~図12(c)に示すように、移動体3が検査対象物Aに近づくにつれ、撮像画像I内での検査対象物Aのサイズが大きくなる。なお、図12に示す撮像画像Iでは、検査対象物Aの前面Afが撮像されている。
【0082】
撮像画像If1または撮像画像If2は、判定用画像の一例に対応する。撮像画像If3は、前方検査用基準画像の一例または前方検査用撮像画像の一例に対応する。撮像画像If1、撮像画像If2および撮像画像If3のそれぞれは、第1の撮像画像の一例に対応する。
【0083】
図13(a)は、側方カメラ4Sにより撮像された検査対象物Aの側面Asの撮像画像Isを示している。図13(b)は、後方カメラ4Rにより撮像された検査対象物Aの後面Arの撮像画像Irを示している。撮像画像Irおよび撮像画像Isのそれぞれは、第2の撮像画像の一例に対応する。
【0084】
撮像システム6は、側方カメラ4Sによる撮像画像Isにおいても、前方カメラ4Fによる撮像画像Ifと同様に、距離等に応じて、側方検査用基準画像および側方検査用撮像画像を取得できる。また、撮像システム6は、後方カメラ4Rによる撮像画像Irにおいても、前方カメラ4Fによる撮像画像Ifと同様に、距離等に応じて、後方検査用基準画像および後方検査用撮像画像を取得できる。
【0085】
<管理DBの一例>
図15図20を参照して、情報処理システム1において記憶されている管理DBについて説明する。図15は、撮像システム6における検査対象物前方管理DB6011の一例を示す図である。図16は、撮像システム6における検査対象物側方管理DB6012の一例を示す図である。図17は、撮像システム6における検査対象物後方管理DB6013の一例を示す図である。図18は、画像解析装置7における前方変状状態管理DB7011の一例を示す図である。図19は、画像解析装置7における側方変状状態管理DB7012の一例を示す図である。図20は、画像解析装置7における後方変状状態管理DB7013の一例を示す図である。
【0086】
図15に示す検査対象物前方管理DB6011は、様々な検査対象物Aの前面に関する情報を蓄積している。図16に示す検査対象物側方管理DB6012は、様々な検査対象物Aの側面に関する情報を蓄積している。図17に示す検査対象物後方管理DB6013は、様々な検査対象物Aの後面に関する情報を蓄積している。図15図17では、図中最も左側の列から右側の列に向けて、検査対象物識別情報、検査対象物名、検査対象物Aの撮像画像サンプル、および移動体3と検査対象物Aとの間の推定距離を示している。図15では、移動体3と検査対象物Aとの間の推定距離の列のさらに右側の列に、基準画像としての撮像画像サンプルの用途を示している。
【0087】
検査対象物識別情報は、検査対象物Aを識別するために用いられる情報である。検査対象物識別情報には、例えば任意の英数字が羅列するコードが使用される。検査対象物名は、検査対象物の分類を示す情報である。検査対象物名には、案内標識、規制標識等の検査対象物Aの分類を表す名称が挙げられる。検査対象物の撮像画像サンプルは、DNNにおいて基準となる教師画像として用いられる。移動体3と検査対象物Aとの間の推定距離は、検査対象物Aの撮像画像サンプルを取得した際に、図7に示した画像解析部67によって検出された距離である。基準画像の用途には、上述した「判定用」、「撮像用」等が挙げられる。
【0088】
図18に示す前方変状状態管理DB7011は、様々な検査対象物Aの前面の状態に関する情報を蓄積している。図19に示す側方変状状態管理DB7012は、様々な検査対象物Aの側面の状態に関する情報を蓄積している。図20に示す後方変状状態管理DB7013は、様々な検査対象物Aの後面の状態に関する情報を蓄積している。図18図20では、図中最も左側の列から右側の列に向けて、検査対象物識別情報、検査対象物名、検査対象物Aの正常時の画像(1)、画像(2)および画像(3)、規定状態からの差異、および状態を示している。
【0089】
検査対象物識別情報および検査対象物名は、図15図17で示したものと同じである。検査対象物Aの正常時の画像(1)、画像(2)および画像(3)は、検査対象物Aの正常時における3つの状態での画像を示している。規定状態からの差異は、規定状態に対する検査対象物Aの変形、破損および汚れのそれぞれの有無を示している。状態は、検査対象物Aの状態が正常であるか変状であるかを示している。
【0090】
<情報処理システム1の動作例>
(情報処理システム1の全体動作例)
図21は、情報処理システム1の全体動作の一例を示すシーケンスチャートである。
【0091】
まず、ステップS211において、撮像システム6は、撮像装置4を起動させる。
【0092】
続いて、ステップS212において、撮像システム6は、判断部65により、撮像対象物Aの検出および撮像処理を行う。この際に、撮像システム6は、検査対象物前方管理DB6011、検査対象物側方管理DB6012および検査対象物後方管理DB6013を参照して、検出および撮像処理を行う。撮像システム6は、検出および撮像処理を実行後、結果を記憶部6000に記憶する。
【0093】
続いて、ステップS213において、画像解析装置7は、撮像システム6に対し、撮像画像データの取得を要求する。
【0094】
続いて、ステップS214において、撮像システム6は、画像解析装置7からの要求に応答して、記憶部6000から撮像画像データを読み出す。
【0095】
続いて、ステップS215において、撮像システム6は、検査対象物Aに係る撮像画像データを画像解析装置7に送信し、撮像画像データの解析応答を画像解析装置7に送信する。
【0096】
続いて、ステップS216において、画像解析装置7は、撮像システム6から受信した撮像画像データを記憶部7000に記憶する。
【0097】
続いて、ステップS217において、画像解析装置7は、判断部75により、前方変状状態管理DB7011、側方変状状態管理DB7012および後方変状状態管理DB7013を参照し、画像解析処理として、検査対象物Aの損傷の検出処理を行う。
【0098】
続いて、ステップS218において、画像解析装置7は、解析結果を通信端末8に通知する。
【0099】
続いて、ステップS219において、通信端末8は、画像解析装置7による解析結果を表示する。
【0100】
続いて、ステップS220において、通信端末8は、解析結果応答を画像解析装置7に送信する。
【0101】
以上のようにして、情報処理システム1は、検査対象物Aの検出およびその損傷の検出処理を行い、結果を通信端末8のディスプレイ807等に表示させることができる。
【0102】
(撮像システム6による撮像制御動作例)
撮像システム6は、撮像制御動作として、「検査対象物の検出」と「検査対象物の撮像」とを主に行う。「検査対象物の検出」の動作は、検出検査対象物の前方を撮像する前方カメラによる撮像画像に検査対象物が写っているかどうかを判断する動作である。ここで、「検査対象物の検出」には、必ずしも「検査対象物の撮像」と同じ撮像装置が用いられる必要はない。また、移動体3の前方を撮像した画像から検査対象物Aを検出する方法以外の方法もあり得る。つまり、「検査対象物の検出」は、検査対象物を撮像することに限定されない。ここでは、「検査対象物の検出」のために、「検査対象物の撮像」と同じ撮像装置、具体的には検査対象物Aの前面を撮像する前方カメラ4Fを用いる例を示すが、あくまでも一例である。
【0103】
撮像制御装置5の制御下において、撮像制御装置5の動作モードには、検査対象物Aを検出する「検出モード」と、検査対象物を撮像する「撮像モード」とがある。これら2つの動作モードは、本明細書に示す例では排他的であり、移動体3が移動し始めた初期の段階は「検出モード」として動作し、検査対象物Aを検出したら「撮像モード」として動作する。検出した検査対象物Aの撮像が完了したら、「検出モード」に戻る。
【0104】
図22は、撮像システム6の撮像制御動作の一例を示すフローチャートである。撮像システム6は、操作受付部62が撮像制御動作の開始指示を受け付けた場合等に、図22の撮像制御動作を開始する。なお、移動体3の移動開始に伴い、自動的に撮像制御動作を開始するように構成してもよい。
【0105】
まず、ステップS221において、撮像システム6は、検査対象物の撮像動作中であるか否かを判定する。
【0106】
ステップS221において、撮像動作中であると判定された場合には(ステップS221、YES)、撮像システム6は、ステップS223において検査対象物Aの撮像処理を実行または継続する。一方、撮像動作中ではないと判定された場合には(ステップS221、NO)、撮像システム6は、ステップS222において検査対象物Aの検出処理を実行する。
【0107】
ステップS222「検索対象物 検出処理」の詳細な処理のフローチャートを図23から図27に示す。また、ステップS223「検査対象物 撮像処理」の詳細な処理のフローチャートを図28から図31に示す。
既述したように、撮像制御装置5の動作モードは、移動体3が移動し始めた初期の段階は「検出モード」である。後述するように、撮像システム6は、検査対象物を検出すると、前方カメラ4F、側方カメラ4S、後方カメラ4R、それぞれの撮像タイミングを設定し、撮像制御装置5の動作モードを「撮像モード」に設定する。同じく、後述するように、撮像システム6は、後方カメラ4Rによる検査対象物Aの撮像動作が終了したと判定した場合には、撮像制御装置5の動作モードを「検出モード」に設定する。
【0108】
(撮像システム6の検出動作例)
検査対象物の検出動作は、自動で行う場合と、撮像システム6の操作者の操作により行う手動の場合と、が考えられる。図23は、撮像システム6による自動検出動作の一例を示すフローチャートである。自動検出動作は、具体的には、移動体3の移動速度に基づき、所定の時間間隔で前方カメラ4Fにより撮像し、撮像画像を解析する動作等である。図24は、撮像システム6による手動検出動作の一例を示すフローチャートである。手動検出動作は、具体的には、撮像システム6の操作者の操作に基づいて、前方カメラ4Fにより撮像し、撮像画像を解析する動作である。図25は、撮像システム6による自動および手動検出動作の一例を示すフローチャートである。自動および手動検出動作では、自動と手動の両方の検出動作が行われる。
【0109】
検査対象物を検出するための撮像画像の解析では、撮像画像に検査対象物Aの候補となる被写体が画面内に写り込んでいるか否かが判断される。検査対象物Aの候補となる被写体が画面内に写り込んでいるか否かは、公知の画像解析処理を用いて判断可能である(例えば、特許文献1等を参照)。
【0110】
検査対象物Aの候補となる被写体が画面内に写り込んでいる場合は、その被写体が検査対象物Aであるかどうかを判断する。この判断は、検査対象物Aであるかどうかを判断ための基準画像(判定用画像)を用いて行う。この検査対象物Aであるかどうかを判断は、検査のための撮像よりも移動体3から被写体までの距離が遠い状態で行う。換言すると、画面内における被写体(検査対象物Aの候補)の大きさは、検査のための撮影による画面内における被写体(検査対象物A)よりも小さい。そのため、この検査対象物Aであるかどうかを判断ための基準画像(判定用画像)は、検査画像の撮影判断に用いる「撮像用基準画像」とは異なる画像となる。
【0111】
検査対象物Aであるかどうかを判断ための基準画像(判定用画像)は、上述したように、例えば図12(a)の撮像画像If1または図12(b)の撮像画像If2である。検査画像の撮像判断に用いる撮像用基準画像は、上述したように、例えば図12(c)の撮像画像If3である。
【0112】
画面内における検査対象物の候補が検査対象物Aであると判断された場合には、撮像システム6は、撮像する検査対象物Aを確定し、「撮像用基準画像」として確定した検査対象物Aの「撮像用基準画像」を設定する。画面内における検査対象物の候補が検査対象物Aであると判断された場合には、撮像システム6は、検査対象物Aを撮像するための設定処理を行う。
【0113】
画面内における検査対象物の候補が検査対象物Aであるか否かの判断を行った画像の撮像位置と移動体3の移動速度等に基づいて撮像開始タイミングが算出される。この撮像開始タイミングは、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rそれぞれの撮像開始タイミングに対応する。
【0114】
撮像開始タイミングの算出では、画面内における検査対象物の候補が検査対象物Aであるか否かの判断を行った画像における検査対象物Aの大きさ(画面内における範囲)と、検査画像の撮像判断に用いる「撮像用基準画像」における検査対象物Aの大きさ(画面内における範囲)との比率が算出される。この比率から、検査対象物Aの候補であるか否かの判断を行った画像の撮像位置から撮像画像開始位置までの距離が算出され、移動体3の移動速度に基づき撮像開始タイミングが算出される。
【0115】
なお、検査画像の撮像では、検査画像の撮像に用いられる「撮像用基準画像」の近傍(前後)において複数枚の画像が撮像される。この理由には、以下の3点等が挙げられる。
(a)「撮像用基準画像」と完全に同一の画像を撮像することは現実的に困難である。
(b)検査対象物Aの変状を検査するためには、「撮像用基準画像」の近傍(前後)の複数枚の撮像画像を用いたほうが多角的な検査ができる。
(c)検査対象物Aの変状箇所について部分3次元モデル(検査対象物Aの変状箇所のデジタルツイン)を作成するためには、撮像方向が異なる画像が多いほど高精度な部分3次元モデルが作成できる。
【0116】
撮像システム6は、例えば、図22のステップS222において、図23図24および図25それぞれに示す動作の何れかを実行する。
【0117】
((自動検出動作))
図23は、自動検出動作のフローチャートである。図23に示す動作では、まず、ステップS231において、撮像システム6は、検出タイミングであるか否かを判定する。
【0118】
ステップS231において、検出タイミングではないと判定された場合には(ステップS231、NO)、撮像システム6は、ステップS231の動作を再度行う。一方、検出タイミングであると判定された場合には(ステップS231、YES)、ステップS232において、撮像システム6は、前方カメラ4Fによる撮像を実行する。
【0119】
続いて、ステップS233において、撮像システム6は、撮像画像を図3のRAM503等に記憶する。
【0120】
続いて、ステップS234において、撮像システム6は、撮像画像の解析動作、すなわち撮像画像に検査対象物Aが写っているか否かを判断する動作を行う。ステップS234の動作の詳細は、図26に示すフローチャートを用いた説明を後述する。
【0121】
続いて、ステップS235において、撮像システム6は、撮像画像に検査対象物Aが写っているか否かを判断する。
【0122】
ステップS235において、撮像画像に検査対象物Aが写っていないと判断された場合には(ステップS235、NO)、撮像システム6は、ステップS231以降の動作を再度行う。一方、撮像画像に検査対象物Aが写っていると判断された場合には(ステップS235、YES)、ステップS236において、撮像システム6は、検査対象物Aを撮像するための設定動作を行う。ステップS236の動作の詳細は、図27に示すフローチャートを用いた説明を後述する。
【0123】
以上により、撮像システム6は、自動検出動作を実行できる。
【0124】
((手動検出動作))
図24は、手動検出動作のフローチャートである。図24に示す動作では、まず、ステップS241において、撮像システム6は、操作受付部62を介して、撮像システム6の操作者により撮像指示操作が行われたか否かを判定する。
【0125】
ステップS241において、撮像指示操作が行われていないと判定された場合には(ステップS241、NO)、撮像システム6は、ステップS241の動作を再度行う。一方、撮像指示操作が行われたと判定された場合には(ステップS241、YES)、撮像システム6は、ステップS242に動作を移行する。
【0126】
以降のステップS242~S246の動作は、図23のステップS232~S236の動作と同じであるため、ここでは重複する説明を省略する。
【0127】
以上により、撮像システム6は、手動検出動作を実行できる。
【0128】
((自動および手動検出動作))
図25は、自動および手動検出動作のフローチャートである。換言すると、自動検出と手動検出の両方を行う場合の動作を説明したフローチャートである。図25に示す動作では、まず、ステップS251において、撮像システム6は、操作受付部62を介して、撮像システム6の操作者により撮像指示操作が行われたか否かを判定する。
【0129】
ステップS251において、撮像指示操作が行われていないと判定された場合には(ステップS251、NO)、ステップS252において、撮像システム6は、検出タイミングであるか否かを判定する。一方、撮像指示操作が行われたと判定された場合には(ステップS251、YES)、撮像システム6は、ステップS253に動作を移行する。
【0130】
ステップS252において、検出タイミングではないと判定された場合には(ステップS252、NO)、撮像システム6は、ステップS251の動作を再度行う。一方、検出タイミングであると判定された場合には(ステップS251、YES)、撮像システム6は、ステップS253に動作を移行する。
【0131】
以降のステップS253~S257の動作は、図23のステップS232~S236の動作と同じであるため、ここでは重複する説明を省略する。
【0132】
以上により、撮像システム6は、自動および手動検出動作を実行できる。
【0133】
((撮像画像の解析動作))
図26は、検査対象物を検出するための撮像システム6による撮像画像の解析動作の一例を示すフローチャートであり、図23のステップS234、図24のステップS244、及び図25のステップS255に示した撮像画像に検査対象物Aが写っているか否かを判断する動作の詳細を示したものである。撮像システム6は、図23におけるステップS234、図24におけるステップS244または図25におけるステップS255のいずれかで図26の動作を実行する。
【0134】
まず、ステップS261において、撮像システム6は、撮像画像の解析を行う。
【0135】
続いて、ステップS262において、撮像システム6は、撮像画像に検査対象物Aの候補となる被写体が存在するか否かを判断する。
【0136】
ステップS262において、存在しないと判断された場合には(ステップS262、NO)、撮像システム6は、動作を終了する。一方、存在すると判断された場合には(ステップS262、YES)、ステップS263において、撮像システム6は、撮像画像と検査対象判定用画像とを比較する。
【0137】
続いて、ステップS264において、撮像システム6は、撮像画像に存在する被写体が検査対象物Aであるか否かを判断する。
【0138】
ステップS264において、検査対象物Aではないと判断された場合には(ステップS264、NO)、撮像システム6は、動作を終了する。一方、検査対象物Aであると判断された場合には(ステップS264、YES)、ステップS265において、撮像システム6は、撮像する検査対象物Aを確定し、撮像用判断基準画像をセットする。
【0139】
以上のようにして、撮像システム6は、撮像画像の解析動作を行うことができる。
【0140】
((撮像画像の設定動作))
図27は、検査対象物が検出された後、撮像システム6による検査対象物Aを撮像するための設定動作の一例を示すフローチャートであり、図23のステップS236、図24のステップS246、図25のステップS256に示した検査対象物Aを撮像するための設定動作の詳細を示したものである。撮像システム6は、図23におけるステップS236、図24におけるステップS246または図25におけるステップS257のいずれかで図27の動作を実行する。
【0141】
まず、ステップS271において、撮像システム6は、解析した画像の撮像位置と移動体3の移動速度等から撮像開始タイミングを算出する。
【0142】
続いて、ステップS272において、撮像システム6は、前方カメラ4Fの撮像タイミングを設定する。
【0143】
続いて、ステップS273において、撮像システム6は、側方カメラ4Sの撮像タイミングを設定する。
【0144】
続いて、ステップS274において、撮像システム6は、後方カメラ4Rの撮像タイミングを設定する。
【0145】
前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rそれぞれの撮像タイミングを算出終了後に、ステップS275において、撮像システム6は、動作モードを検査対象物Aの撮影動作中(「撮像モード」)とする。
【0146】
以上のようにして、撮像システム6は、撮像画像の設定動作を行うことができる。
【0147】
(撮像システム6の撮像動作例)
検査対象物が検出された後、撮像システム6は、図22におけるステップS221に戻る。動作モードが「撮像モードに設定されているので、ステップS221の判定は、撮像動作中であると判定され(ステップS221、YES)、撮像システム6は、ステップS223において、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rを用いて、検査対象物を撮像する。図28は、図22におけるステップS223の詳細であり、撮像システム6による撮像全体動作の一例を示すフローチャートである。図29は、図28におけるS281の詳細であり、撮像システム6による検査対象物Aの前面の撮像動作の一例を示すフローチャートである。図30は、図28におけるS282の詳細であり、撮像システム6による検査対象物Aの側面の撮像動作の一例を示すフローチャートである。図31は、図29におけるS283の詳細であり、撮像システム6による検査対象物Aの後面の撮像動作の一例を示すフローチャートである。
【0148】
((撮像全体動作))
撮像システム6は、検査対象物Aの検出動作が終了したことを契機として、図28の動作を開始する。
【0149】
まず、ステップS281において、撮像システム6は、前方カメラ4Fにより、検査対象物Aの前面の撮像動作を行う。
【0150】
続いて、ステップS282において、撮像システム6は、側方カメラ4Sにより、検査対象物Aの側面の撮像動作を行う。
【0151】
続いて、ステップS283において、撮像システム6は、後方カメラ4Rにより、検査対象物Aの後面の撮像動作を行う。
【0152】
前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rそれぞれの撮像範囲(画角)が重複している可能性を考慮して、図28に示す例では、撮像システム6は、検査対象物Aの前面撮像動作、検査対象物Aの側面の撮像動作および検査対象物Aの後面の撮像動作を連続して行う。但し、図28に示す各動作は、撮影タイミング以外のタイミングでは動作を終了するため、前方撮像(前面撮像)、側方撮像(側面撮像)および後方撮像(後面撮像)が常に同時に行われるわけではない。前方撮像、側方撮像および後方撮像の撮像タイミングは、撮像したそれぞれの画像の撮像方向が適切に異なるように移動体の移動速度に基づき設定される。撮像の時間間隔が短すぎると略同じ方向から撮像することとなり容量が無駄となり、撮像の時間間隔が長すぎると撮像方向が大きく異なるため、高精度な検査ができなくなる。
【0153】
撮像システム6は、検査対象物Aの撮像においては、撮像画像内の被写体が検出した検査対象物Aと同じ画像であるか否かを判断する。そして、撮像システム6は、撮像画像内の被写体が検出した検査対象物Aと同じ画像であると判断すると、検査画像の撮影判断に用いる「撮像用基準画像」の近傍の画像であるかを判断する。撮像システム6は、「撮像用基準画像」の近傍の画像であると判断した場合に、撮像画像を検査用画像として図4に示したHD505に記憶する。
【0154】
このように、撮像システム6は、検査対象物Aの撮像動作の中でも、撮像画像内の被写体が検出した検査対象物Aと同じ画像であるか否かの判断や、「撮像用基準画像」の近傍の画像であるか、を判断する。これにより、撮像システム6は、検査対象物Aの検出動作で設定した撮像開始タイミング(最初の撮像を開始するタイミング)について、検査対象物Aを検出した位置から検査対象物Aを撮影するまでの距離の算出誤差や移動体3の移動速度の変化を考慮して、撮影タイミングの設定に余裕を持たせることができる。撮影タイミングの設定の余裕は、必要な撮影時間間隔の半分程度から1/10程度である。
【0155】
次回以降の撮像は、撮像したそれぞれの画像の撮像方向が適切に異なるように移動体の移動速度に基づき設定すれよい。「撮像用基準画像」の近傍の画像であるかについて、前方撮像、側方撮像、後方撮像で判断方法が異なる。
【0156】
検査対象物Aにおける移動体3側の前面を撮像する場合には、検査対象物Aに近づく方向であるため、撮像システム6は、撮像画面内における検査対象物Aは、最初は小さく、その後、移動体3の移動に伴い大きくなることを利用して判断する。検査対象物Aの移動体3の側面を撮像する場合には、撮像システム6は、検査対象物Aは画面水平方向に移動することを利用して判断する。検査対象物Aの移動体3側の後面を撮像する場合には、検査対象物Aから離れる方向であるため、撮像システム6は、撮像画面内における検査対象物Aは、最初は大きく、その後、移動体3の移動に伴い小さくなることを利用して判断する。
【0157】
撮像システム6は、「撮像用基準画像」の近傍の画像か否かの判断を利用して、撮像(検査画像としての撮像動作)を終了するかどうかの判断も行う。撮像を継続する場合には、撮像システム6は、次回の撮像タイミングを設定して処理を終了する。撮像を終了する場合には、撮像システム6は、次回の撮像タイミングは設定せずに処理を終了する。なお、図29から図31に示す例では、前方撮像、側方撮像、後方撮像を行うことが前提となっており、前方撮像と側方撮像とが終了しても、後方撮像は継続される。そして、後方撮像動作において撮像を終了すると判断した場合に、撮像システム6は、動作モードを検査対象物の検出動作に切り替える。つまり、撮像システム6は、動作モードが検査対象物の撮像モードであることを解除する。仮に、撮像システム6が前方撮像と側方撮像のみを行い、後方撮像を行わない場合には、撮像システム6は、側方撮像動作において撮像を終了する際に、動作モードを検査対象物の検出から検査対象物の撮像に切り替える。
【0158】
((前面の撮像動作))
図29は、前面の撮像動作のフローチャートである。図29において、撮像システム6は、図28のステップS281の動作を開始するタイミングにおいて図29の動作を開始する。
【0159】
まず、ステップS291において、撮像システム6は、撮像タイミングであるか否かを判定する。
【0160】
ステップS291において、撮像タイミングではないと判定された場合には(ステップS291、NO)、撮像システム6は動作を終了する。一方、撮像タイミングであると判定された場合には(ステップS291、YES)、ステップS292において、撮像システム6は、前方カメラ4Fによる検査対象物Aの前面の撮像を行う。換言すると、撮像装置4は、検査対象物Aの前面を撮像して第1の撮像画像を取得する。
【0161】
続いて、ステップS293において、撮像システム6は、撮像画像をRAM503に記憶する。
【0162】
続いて、ステップS294において、撮像システム6は、撮像画像の判定動作として、ステップS295の動作を行う。
【0163】
続いて、ステップS295において、撮像システム6は、検査対象物Aであるか否かを判定する。
【0164】
ステップS295において、検査対象物Aではないと判定された場合には(ステップS295、NO)、撮像システム6は、動作を終了する。一方、検査対象物Aであると判定された場合には(ステップS295、YES)、ステップS296において、撮像システム6は、検査対象物Aに対応する画像の大きさが、予め定められた記録を開始する大きさ以上であるか否かを判定する。
【0165】
ステップS296において、記録を開始する大きさ以上ではないと判定された場合には(ステップS296、NO)、撮像システム6は、動作を終了する。一方、記録を開始する大きさ以上であると判定された場合には(ステップS296、YES)、ステップS297において、撮像システム6は、撮像画像を図4に示したHD505に記録する。
【0166】
続いて、ステップS298において、撮像システム6は、検査対象物Aに対応する画像の大きさが、予め定められた記録を終了する大きさ以上であるか否かを判定する。
【0167】
続いて、ステップS298において、記録を終了する大きさ以上であると判定された場合には(ステップS298、YES)、撮像システム6は、動作を終了する。一方、記録を終了する大きさ以上ではないと判定された場合には(ステップS298、NO)、ステップS299において、撮像システム6は、次回の撮像タイミングを設定し、その後、動作を終了する。
【0168】
以上のようにして、撮像システム6は、検査対象物Aの前面の撮像動作を行うことができる。
【0169】
上記の記録開始または終了の動作の一例は、以下の通りである。この点は、以降に示す図31においても同様である。
・判断基準画像の大きさに対して70%以上の大きさとなったら記録開始する。
・判断基準画像の大きさに対して130%以上の大きさとなったら記録終了する。
【0170】
次回の撮像がある場合には、撮像システム6は、撮像開始するまでの時間をカウントするタイマーを設定する。図29の最初の「撮像タイミングか?」という判断動作は、このタイマーがカウントアップしたかどうかの判断となる。この点は、以降に示す図30および図31においても同様である。
【0171】
((側面の撮像動作))
図30は、側面の撮像動作のフローチャートである。図30において、撮像システム6は、図28のステップS282の動作を開始するタイミングにおいて図30の動作を開始する。
【0172】
まず、ステップS301において、撮像システム6は、撮像タイミングであるか否かを判定する。
【0173】
ステップS301において、撮像タイミングではないと判定された場合には(ステップS301、NO)、撮像システム6は、動作を終了する。一方、撮像タイミングであると判定された場合には(ステップS301、YES)、ステップS302において、撮像システム6は、側方カメラ4Sによる検査対象物Aの側面の撮像を行う。換言すると、撮像システム6における撮像制御装置5は、検査対象物Aの側面を撮像して第2の撮像画像を取得するよう撮像装置4の動作を制御する。
【0174】
ステップS303~S307の動作は、図29のステップS293~S297の動作と同じであるため、ここでは重複する説明を省略する。
【0175】
続いて、ステップS308において、撮像システム6は、検査対象物Aに対応する画像の端部が撮像画像における所定位置よりも端部寄りであるか否かを判定する。
【0176】
ステップS308において、端部寄りであると判定された場合には(ステップS308、YES)、撮像システム6は、ステップS301以降の動作を再度行う。一方、端部寄りではないと判定された場合には(ステップS308、NO)、ステップS309において、撮像システム6は、次回の撮像タイミングを設定し、その後、動作を終了する。
【0177】
以上のようにして、撮像システム6は、検査対象物Aの側面の撮像動作を行うことができる。
【0178】
ここでの記録開始または終了の動作の一例は、以下の通りである。
・判断基準画像の検査対象物の位置を基準として一端部から所定位置となったら記録開始する。
・判断基準画像の検査対象物の位置を基準として他端部から所定位置となったら記録終了する。
【0179】
((後面の撮像動作))
図31は、後面の撮像動作のフローチャートである。図31において、撮像システム6は、図28のステップS283の動作を開始するタイミングにおいて図31の動作を開始する。
【0180】
まず、ステップS311において、撮像システム6は、撮像タイミングであるか否かを判定する。
【0181】
ステップS311において、撮像タイミングではないと判定された場合には(ステップS311、NO)、撮像システム6は、動作を終了する。一方、撮像タイミングであると判定された場合には(ステップS311、YES)、ステップS312において、撮像システム6は、後方カメラ4Rによる検査対象物Aの後面の撮像を行う。換言すると、撮像システム6における撮像制御装置5は、検査対象物Aの後面を撮像して第2の撮像画像を取得するよう撮像装置4の動作を制御する。
【0182】
ステップS313~S319の動作は、図29のステップS293~S299の動作と同じであるため、ここでは重複する説明を省略する。
【0183】
ステップS318において、記録を終了する大きさ以上であると判定された場合には(ステップS318、YES)、撮像システム6は、動作モードを検査対象物Aの検出動作(「検出モード」)にセットし、動作モードにおける検査対象物Aの撮影動作中の状態を解除する(ステップS320)。その後、撮像システム6は、図22におけるステップS221に戻る。動作モードが「検出モード」に設定されているので、ステップS221の判定は、撮像動作中ではないと判定され(ステップS221、NO)、撮像システム6は、ステップS222において検査対象物Aの検出処理を実行する。
【0184】
以上のようにして、撮像システム6は、検査対象物Aの後面の撮像動作を行うことができる。
【0185】
<撮像システム6による撮像タイミング例>
図32図34を参照して、撮像システム6による撮像タイミングについて説明する。図32は、撮像システム6による検査対象物Aの前面の撮像タイミングの一例を示す図である。図33は、撮像システム6による検査対象物Aの側面の撮像タイミングの一例を示す図である。図34は、撮像システム6による検査対象物Aの後面の撮像タイミングの一例を示す図である。
【0186】
図32は、撮像システム6を搭載して進行方向30に移動する移動体3の、t0~t4の各タイミングにおける検査対象物Aに対する位置を表している。タイミングt0は、撮像システム6による判定前を表す。タイミングt1は、撮像システム6により判定を行うタイミングを表す。タイミングt2は、撮像システム6による検査対象物Aの前面の撮像を開始するタイミングを表す。このタイミングt2は、第1のタイミングの一例である。タイミングt3は、撮像システム6による検査対象物Aの前面の撮像を終了するタイミングを表す。タイミングt4は、撮像システム6による検査対象物Aの前面の撮像動作を終了するタイミングを表す。
【0187】
位置P1は、タイミングt1における移動体3の位置を表す。位置P2は、タイミングt2における移動体3の位置を表す。位置P3は、タイミングt3における移動体3の位置を表す。位置P4は、検査対象物Aの位置を表す。
【0188】
位置P1における移動体3と検査対象物Aとの距離は、例えば1.2mである。位置P2における移動体3と検査対象物Aとの距離は、例えば1.0mである。位置P3における移動体3と検査対象物Aとの距離は、例えば0.2mである。なお、ここでの距離は、検査対象物Aの前面と前方カメラ4Fの撮像面との間の最小距離を意味する。
【0189】
図33は、撮像システム6を搭載して進行方向30に移動する移動体3の、t5~t8の各タイミングにおける検査対象物Aに対する位置を表している。タイミングt5は、撮像システム6による検査対象物Aの側面の撮像動作を開始する前のタイミングを表す。タイミングt6は、撮像システム6による検査対象物Aの側面の撮像を開始するタイミングを表す。このタイミングt6は、第2のタイミングの一例である。タイミングt7は、撮像システム6による検査対象物Aの側面の撮像を終了するタイミングを表す。タイミングt8は、撮像システム6による検査対象物Aの側面の撮像動作を終了するタイミングを表す。
【0190】
位置P4は、撮像システム6による検査対象物Aの側面の撮像を開始する位置を表す。位置P5は、撮像システム6による検査対象物Aの側面の撮像を終了する位置を表す。なお、ここでの距離は、検査対象物Aの側面と側方カメラ4Sの撮像面との間の最小距離を意味する。
【0191】
図34は、撮像システム6を搭載して進行方向30に移動する移動体3の、t9~t12の各タイミングにおける検査対象物Aに対する位置を表している。タイミングt9は、撮像システム6による検査対象物Aの後面の撮像動作を開始する前のタイミングを表す。タイミングt10は、撮像システム6による検査対象物Aの後面の撮像を開始するタイミングを表す。このタイミングt10は、第2のタイミングの一例である。タイミングt11は、撮像システム6による検査対象物Aの後面の撮像を終了するタイミングを表す。タイミングt12は、撮像システム6による検査対象物Aの後面の撮像動作を終了するタイミングを表す。
【0192】
位置P6は、検査対象物Aの位置を表す。位置P7は、タイミングt10における移動体3の位置を表す。位置P8は、タイミングt11における移動体3の位置を表す。
【0193】
上述した実施形態では、3台のカメラ(前方カメラ4Fと、側方カメラ4Sと、後方カメラ4R)を用いて検査対象物を撮像する旨を説明したが、図36に模式的に示すように、1台のカメラの向き(撮像方向)を変更することで、検査対象物を撮像してもよい。
【0194】
<情報処理システム1による検査結果画面の表示例>
図35は、情報処理システム1による検査結果画面の表示の一例を示す図である。画面8110は、情報処理システム1による検査結果画面を表している。画面8110は、図8に示した通信端末8のディスプレイ807等に表示される。但し、画面8110は、図3に示した撮像装置4のディスプレイ407、図4に示した撮像制御装置5のディスプレイ507、図5に示した画像解析装置7のディスプレイ707、これら以外の外部装置としてのディスプレイ等に表示されてもよい。
【0195】
表8111は、検査対象物の地図上の位置情報、検査対象物の地図情報、検査対象物Aにおける欠損の有無、検査対象物Aの欠損を示す画像、解析結果を示すコメント等の検査結果の詳細情報を示している。ボタン8251は、画面8110の観察者が検査結果を確認した場合に、観察者によって操作されるUI(User Interface)部品である。
【0196】
<撮像システム6および情報処理システム1の作用効果>
以上説明したように、本実施形態に係る撮像システム6は、撮像装置4と、撮像装置4の動作を制御する撮像制御装置5と、を有する。撮像装置4は、移動体3に搭載され、移動体3の移動中に検査対象物Aを撮像するものである。検査対象物Aが移動体3の進行方向30の前方に位置している際の撮像装置4から見える側を検査対象物Aの前面Af、移動体3の進行方向30の側方に位置している際の撮像装置4から見える側を検査対象物Aの側面As、移動体3の進行方向30の後方に位置している際の撮像装置4から見える側を検査対象物Aの後面Ar、と定義する。撮像装置4は、検査対象物Aが進行方向30の前方に位置している第1のタイミングで検査対象物Aの前面を撮像して第1の撮像画像を取得する。撮像制御装置5は、検査対象物Aが進行方向30の側方または後方の少なくとも一方に位置する第2のタイミングで、検査対象物Aの側面および後面の少なくとも一方を撮像して第2の撮像画像を取得するよう撮像装置の動作を制御する。本実施形態では、前方カメラ4F、側方カメラ4Sおよび後方カメラ4Rを用いるため、複数の視点により異なる方向から撮像された検査対象物の複数の撮像画像を得ることができる。
【0197】
また、本実施形態では、情報処理システム1は、撮像システム6を用いて検査対象物Aを検査する。これにより、検査対象物Aを多角的な視点で立体的に検査するために有用な、複数の視点により異なる方向から撮像された複数の撮像画像を得ることができる。複数の視点により異なる方向から撮像された複数の撮像画像を解析するので、情報処理システム1は、検査対象物を多角的な視点で立体的に検査することができる。また、情報処理システム1は、検査基準画像と比較し易い画像を撮像するための撮像基準画像を用意して、この撮像基準画像に基いて撮像制御するので、検査に用いる画像を効率よく撮像することができる。検査画像の取得方法に即した検査基準画像を用意し、この検査基準画像と比較し易い検査用画像を撮像することで、効率的に検査を行うことができる。
【0198】
また、撮像システム6は、第1の撮像画像および第2の撮像画像の少なくとも一方に基づき、検査対象物Aを検出する対象検出部90と、第1の撮像画像および前記第2の撮像画像の少なくとも一方に基づき、検査対象物Aの損傷を検出する損傷検出部92と、損傷の検出結果を表示させる表示制御部84と、を有する。この構成により、通信端末8のディスプレイ807等に検査対象物Aの損傷の検出結果を表示させることができるため、通信端末8の操作者等に検査対象物Aの検査結果を容易に認識させることができる。
【0199】
また、本実施形態では、検査対象物Aは、看板A1と、看板A1を支持する支柱部A2と、看板A1を支柱部A2に固定する固定部材A3と、を含む。損傷検出部92は、第1の撮像画像および第2の撮像画像の少なくとも一方に基づき、看板A1の規定形状からの変状、支柱部A2の変形およびA3固定部材のゆるみの少なくとも1つを検出してもよい。これにより、固定部材A3により支柱部A2に固定される道路標識等の看板A1を含む検査対象物Aにおいて、看板A1、支柱部A2および固定部材A3のそれぞれを多面的に検査することができる。
【0200】
また、本実施形態では、検査対象物Aと移動体3との間の距離を検出する距離検出部91をさらに有し、対象検出部90は、第1の撮像画像、第2の撮像画像、および検査対象物Aと移動体3との間の距離、の少なくとも1つに基づき、検査対象物Aを検出してもよい。検査対象物Aと移動体3との間の距離の情報を用いることで、検査対象物Aの堅守精度を向上させることができる。
【0201】
[その他の好適な実施形態]
上述した実施形態では、移動体の一例として車両を示したが、実施形態に係る移動体は、車両に限らず、飛行体、船舶等であってもよい。飛行体には、飛行機、ドローン等が含まれる。実施形態に係る撮像システム、撮像方法、プログラムおよび情報処理システムは、社会インフラ事業における道路の日常点検サービスにおいて、「道路付属物」の検査等に適用できる。
【0202】
以上、実施形態について説明したが、本発明は、上記実施形態に限定されない。すなわち、本発明の範囲内で種々の変形および改良が可能である。
【0203】
実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【符号の説明】
【0204】
1 情報処理システム
2 検査システム
3 移動体
30 進行方向
4 撮像装置
4F 前方カメラ
4S 側方カメラ
4R 後方カメラ
40F、40S、40R 撮像範囲
401 CPU
402 ROM
403 RAM
404 EEPROM
407 ディスプレイ
408 近距離通信I/F
409 CMOSセンサ
410 撮像素子I/F
411 ネットワークI/F
412 操作ボタン
414 記録メディア
415 メディアI/F
416 外部機器接続I/F
417 音出力I/F
418 マイク
419 スピーカ
420 バスライン
5 撮像制御装置
501 CPU
502 ROM
503 RAM
504 EEPROM
505 HD
506 HDDコントローラ
507 ディスプレイ
508 近距離通信I/F
510 撮像素子I/F
511 ネットワークI/F
512 タッチパネル
513 ポインティングデバイス
514 記録メディア
515 メディアI/F
516 外部機器接続I/F
517 音出力I/F
518 マイク
519 スピーカ
520 データバス
6 撮像システム
7 画像解析装置
701 CPU
702 ROM
703 RAM
704 EEPROM
705 HD
706 HDDコントローラ
707 ディスプレイ
708 近距離通信I/F
709 CMOSセンサ
710 撮像素子I/F
711 ネットワークI/F
712 タッチパネル
713 ポインティングデバイス
714 記録メディア
715 メディアI/F
716 外部機器接続I/F
717 音出力I/F
718 マイク
719 スピーカ
720 データバス
100 通信ネットワーク
8 通信端末
801 CPU
802 ROM
803 RAM
804 EEPROM
807 ディスプレイ
808 近距離通信I/F
809 CMOSセンサ
810 撮像素子I/F
811 ネットワークI/F
812 タッチパネル
813 ポインティングデバイス
814 記録メディア
815 メディアI/F
816 外部機器接続I/F
817 音出力I/F
818 マイク
819 スピーカ
820 バスライン
61 送受信部
62 操作受付部
63 撮像取得部
64 表示制御部
65 判断部
66 撮像設定制御部
67 画像解析部
68 生成部
69 記憶読出部
71 送受信部
72 取得部
73 算出推定部
74 表示制御部
75 判断部
77 画像解析部
78 生成部
79 記憶読出部
81 送受信部
82 操作受付部
84 表示制御部
86 起動処理部
88 生成部
89 記憶読出部
90 対象検出部
91 距離検出部
92 損傷検出部
6000 記憶部
6011 検査対象物前方管理DB
6012 検査対象物側方管理DB
6013 検査対象物後方管理DB
7000 記憶部
7011 前方変状状態管理DB
7012 側方変状状態側方管理DB
7013 後方変状状態後方管理DB
8110 画面
8111 表
8251 ボタン
A 検査対象物
Af 前面
As 側面
Ar 後面
A1 看板
A2 支柱部
A3 固定部材
I 撮像画像
If1、If2 撮像画像(第1の撮像画像、判定用画像)
If3 撮像画像(第1の撮像画像、前方検査用基準画像、前方検査用撮像画像)
t0~t12 タイミング
P1~P8 位置
U 操作者
【先行技術文献】
【特許文献】
【0205】
【特許文献1】特許第6526449号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36