(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024012833
(43)【公開日】2024-01-31
(54)【発明の名称】水中作業システム及び水中作業方法
(51)【国際特許分類】
G01S 15/87 20060101AFI20240124BHJP
G01S 15/89 20060101ALI20240124BHJP
【FI】
G01S15/87
G01S15/89 B
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2022114580
(22)【出願日】2022-07-19
(71)【出願人】
【識別番号】507250427
【氏名又は名称】日立GEニュークリア・エナジー株式会社
(74)【代理人】
【識別番号】110001829
【氏名又は名称】弁理士法人開知
(72)【発明者】
【氏名】森 勇人
(72)【発明者】
【氏名】小林 亮介
(72)【発明者】
【氏名】松井 祐二
【テーマコード(参考)】
5J083
【Fターム(参考)】
5J083AA02
5J083AB20
5J083AC28
5J083AC29
5J083AC30
5J083AD01
5J083AD04
5J083AD17
5J083AE03
5J083AF01
5J083AG05
5J083AG20
5J083BA01
5J083BC04
5J083BC18
5J083BD05
5J083BD07
5J083CA12
5J083CA13
5J083EA32
5J083EA40
(57)【要約】
【課題】水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる水中作業システム及び水中作業方法を提供する。
【解決手段】水中作業方法は、作業装置71の作業開始前に、2次元ソナー2の計測により2次元画像を収録し、計測装置3の計測により3次元画像を収録し、作業開始前の3次元画像から2次元ソナー2の設置位置を基準点とする作業装置の識別点a、b、c、dの3次元初期位置を演算し、作業開始前の2次元画像における識別点の2次元位置情報に演算結果の3次元初期位置を対応付ける。作業装置の作業開始後は、2次元ソナー2の計測により2次元画像を収録して逐次更新し、更新される2次元画像を第1モニタ6に表示する。さらに、識別点の3次元初期位置を起点とし、作業開始後に更新される2次元画像における識別点の2次元位置情報を用いて識別点の3次元位置情報を推定して更新する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
水中に配置された作業装置の作業開始前に、2次元超音波ソナーの計測により水中作業環境の2次元画像を収録し、
前記作業装置の作業開始前に、3次元位置情報を計測可能な計測装置の計測により前記水中作業環境の3次元画像を収録し、
作業開始前の3次元画像から、前記2次元超音波ソナーの設置位置を基準点とする前記作業装置の識別点の3次元初期位置を演算し、
作業開始前の2次元画像における前記識別点の2次元位置情報に対して演算結果の前記識別点の3次元初期位置の対応付けを行い、
前記作業装置の作業開始後は、前記2次元超音波ソナーの継続的な計測により2次元画像を収録して逐次更新すると共に、逐次更新される2次元画像を表示装置に表示し、
前記識別点の2次元位置情報に対して対応付けを行った3次元初期位置を起点とし、作業開始後に逐次更新される2次元画像における前記識別点の2次元位置情報を用いることで前記識別点の3次元位置情報を推定して逐次更新する
ことを特徴とする水中作業方法。
【請求項2】
請求項1に記載の水中作業方法において、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーである
ことを特徴とする水中作業方法。
【請求項3】
請求項2に記載の水中作業方法において、
複数の振動子が一方向に配列された第1の1次元アレイと複数の振動子が一方向に配列された第2の1次元アレイとが直交するように配置されたクロスアレイセンサを有する超音波ソナーが、前記2次元超音波ソナーの計測を行うと共に、前記3次元超音波ソナーの計測を行う
ことを特徴とする水中作業方法。
【請求項4】
請求項1に記載の水中作業方法において、
前記作業装置の作業中に、前記作業装置の姿勢情報の検出値と前記作業装置の前記識別点の3次元位置情報の推定演算の情報とを比較することで、前記識別点の3次元位置情報の推定値の誤差が許容範囲内であるか否を判定する誤差判定を行う
ことを特徴とする水中作業方法。
【請求項5】
請求項4に記載の水中作業方法において、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーであり、
前記誤差判定において前記誤差が許容範囲を超えていると判定された場合には、前記作業装置の作業を中断し、
前記2次元超音波ソナーの計測により2次元画像を収録すると共に、前記3次元超音波ソナーの計測により3次元画像を再収録し、
作業中断後の3次元画像から、前記2次元超音波ソナーの設置位置を基準点とする前記識別点の作業中断後の3次元位置情報を演算し、
作業中断後の2次元画像における前記識別点の2次元位置情報に対して演算結果の前記識別点の作業中断後の3次元位置情報の対応付けを行い、
前記作業装置の作業を再開する
ことを特徴とする水中作業方法。
【請求項6】
請求項1に記載の水中作業方法において、
作業開始前の前記2次元超音波ソナー及び前記計測装置の計測によって前記作業装置の作業の妨げになる障害物を計測した場合、
作業開始前の3次元画像から得られる前記障害物の3次元位置情報および作業開始後の前記識別点の3次元位置情報の推定演算で得られる情報を用いることで、前記作業装置から前記障害物までの距離を演算し、
演算結果の距離が予め設定した閾値以下であるか否かを判定する干渉判定を行う
ことを特徴とする水中作業方法。
【請求項7】
請求項6に記載の水中作業方法において、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーであり、
前記干渉判定において演算結果の距離が前記閾値以下であると判定された場合には、前記作業装置の作業を中断し、
前記2次元超音波ソナーの計測により2次元画像を収録すると共に、
前記3次元超音波ソナーの計測により3次元画像を再収録し、
作業中断後の3次元画像から得られる前記障害物の3次元位置情報および前記識別点の3次元位置情報を用いることで、前記作業装置から前記障害物までの作業中断後の距離を演算し、
演算結果の作業中断後の距離が前記閾値以下であるか否かを判定する干渉再判定を行う
ことを特徴とする水中作業方法。
【請求項8】
請求項7に記載の水中作業方法において、
前記干渉再判定において演算結果の作業中断後の距離が前記閾値を超えていると判定した場合には、前記作業装置の作業を再開する一方、
前記干渉再判定において演算結果の作業中断後の距離が前記閾値以下であると判定した場合には、前記作業装置の作業計画を変更する
ことを特徴とする水中作業方法。
【請求項9】
水中で作業を行う作業装置と、
前記作業装置の水中作業を可視化により監視する水中作業監視システムとを備え、
前記水中作業監視システムは、
超音波の発信により2次元位置情報を計測可能な2次元超音波ソナーと、
3次元位置情報を計測可能な計測装置と、
前記2次元超音波ソナーの計測により収録された2次元画像を表示する表示装置と、
前記2次元超音波ソナーの計測結果及び前記計測装置の計測結果を基に前記作業装置の識別点の3次元位置情報を演算する作業監視装置とを備え、
前記作業監視装置は、
前記作業装置の作業開始前に前記計測装置の計測により収録された3次元画像から、前記2次元超音波ソナーの設置位置を基準点とする前記作業装置の前記識別点の3次元初期位置を演算し、
前記作業装置の作業開始前に前記2次元超音波ソナーの計測により収録された2次元画像における前記識別点の2次元位置情報に対して演算結果の前記識別点の3次元初期位置の対応付けを行い、
前記識別点の2次元位置情報に対して対応付けを行った3次元初期位置を起点とし、前記作業装置の作業開始後に前記2次元超音波ソナーの計測により逐次更新される2次元画像における前記識別点の2次元位置情報を用いることで、前記識別点の3次元位置情報を推定して逐次更新するように構成されている
ことを特徴とする水中作業システム。
【請求項10】
請求項9に記載の水中作業システムにおいて、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーである
ことを特徴とする水中作業システム。
【請求項11】
請求項10に記載の水中作業システムにおいて、
複数の振動子が一方向に配列された1次元アレイと複数の振動子が一方向に配列された別の1次元アレイとが直交するように配置されたクロスアレイセンサを有する超音波ソナーが前記2次元超音波ソナー及び前記3次元超音波ソナーを兼用する構成である
ことを特徴とする水中作業システム。
【請求項12】
請求項9に記載の水中作業システムにおいて、
前記作業装置は、前記作業装置の姿勢情報を検出する姿勢センサを有し、
前記水中作業監視システムは、前記作業装置の作業中に前記姿勢センサによって検出された姿勢情報と前記作業監視装置による前記作業装置の前記識別点の3次元位置情報の推定演算の情報とを比較することで、前記識別点の3次元位置情報の推定値の誤差が許容範囲内であるか否を判定する誤差判定を行うように構成されている
ことを特徴とする水中作業システム。
【請求項13】
請求項12に記載の水中作業システムにおいて、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーであり、
前記作業監視装置は、前記誤差判定において前記誤差が許容範囲を超えていると判定されることで前記作業装置の作業が中断された場合に、
前記作業装置の作業中断後に前記3次元超音波ソナーの計測により再収録された3次元画像から、前記2次元超音波ソナーの設置位置を基準点とする前記識別点の作業中断後の3次元位置情報を演算し、
前記作業装置の作業中断後に前記2次元超音波ソナーの計測により収録された2次元画像における前記識別点の2次元位置情報に対して演算結果の前記識別点の作業中断後の3次元位置情報の対応付けを行うように構成されている
ことを特徴とする水中作業システム。
【請求項14】
請求項9に記載の水中作業システムにおいて、
前記水中作業監視システムは、作業開始前の前記2次元超音波ソナー及び前記計測装置の計測によって前記作業装置の作業の妨げになる障害物が計測された場合には、
作業開始前に収録された3次元画像から得られる前記障害物の3次元位置情報および作業開始後の前記識別点の3次元位置情報の推定演算で得られる情報を用いることで、作業中における前記作業装置から前記障害物までの距離を演算し、
演算結果の距離が予め設定した閾値以下であるか否かを判定する干渉判定を行うように構成されている
ことを特徴とする水中作業システム。
【請求項15】
請求項14に記載の水中作業システムにおいて、
前記計測装置は、超音波の発信により3次元位置情報を計測可能な3次元超音波ソナーであり、
前記水中作業監視システムは、前記干渉判定において演算結果の距離が前記閾値以下であると判定されることで前記作業装置の作業が中断された場合に、
作業中断後に前記3次元超音波ソナーの計測により再収録された3次元画像から得られる前記障害物の3次元位置情報および前記識別点の3次元位置情報を用いることで、前記作業装置から前記障害物までの作業中断後の距離を演算し、
演算結果の作業中断後の距離が前記閾値以下であるか否かを判定する干渉再判定を行うように構成されている
ことを特徴とする水中作業システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、水中作業システム及び水中作業方法に係り、詳しくは、濁水などの水中で作業する作業装置を備える水中作業システム及び水中作業システムを用いた水中作業方法に関する。
【背景技術】
【0002】
河川や海洋などの水中、或いは、タンクやプールなどの構造物の内部に満たされた水中において、自然物や人工物が存在している状況で何らかの作業を行う場合がある。この場合、水中での作業を把握するために当該作業を可視して監視することがある。水に濁りがあると、光学カメラによる水中環境の観察は困難である。また、水に濁りが無くとも、遠距離の観測を行いたい場合には、光学カメラは不向きである。このような場合には、光と比べて透過性が高い超音波を用いた可視化技術が好適である。
【0003】
超音波を用いた可視化技術は、超音波センサから水中へ超音波ビームを送信し、水中の物体(反射体)からの反射波を超音波センサで受信し、超音波センサで受信した反射波の情報(詳細には、反射波の強度や伝搬時間)に基づいて画像を生成して表示するものである。超音波による可視化技術としては、例えば、表面視法と称する2次元画像を生成する方法および正面視法と称する3次元画像を生成する方法が知られている。
【0004】
表面視法においては、扇状の拡散ビーム(以下、ファンビームと称することがある)を送信し、受信した反射波を時間軸上で分解して画像を生成する。当該ファンビームを1次元走査することで、2次元画像を生成する。表面視法を用いた技術は、例えば、特許文献1に開示されている。
【0005】
正面視法においては、レーザレンジファインダと同様なペンシル状の超音波ビームを2次元走査により送受信することで、3次元空間上の各位置に対応した画像(3次元画像)を生成する。正面視法を用いた技術は、例えば、特許文献2に開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2008-268192号公報
【特許文献2】特開2000-64340号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1に記載の技術においては、超音波ビームを電子的に1次元走査(回転走査)して或る回数(例えばN回)のビーム送受信で画像を生成するので、画像を高速に収録することができる。しかし、当該技術(表面視法)は、超音波ビーム(ファンビーム)の送信方向の分解能(拡散方向の分解能)が無いので、反射体の正確な位置(3次元空間上の位置)を計測することはできないという弱点がある。
【0008】
一方、特許文献2に記載のナローマルチビーム探査ソナーは、正面視法によって3次元画像を収録するので、反射体の正確な3次元位置を計測することができる。特許文献2に記載の技術においては、超音波ビームを電子的に1次元走査して或る回数(例えばN回)の送受信で1断面の画像を収録し、電子的な走査方向に直交する方向に探査ソナーの機械的な首振り操作を行うことで3次元画像を収録する。探査ソナーの首振り操作によりN枚の画像を生成する場合には、合計N×N回のビーム送受信が必要となるので、特許文献1に記載の技術のような表面視法を用いて画像を収録する場合と比べると、画像収録に時間を要する。
【0009】
このように、表面視法により収録した画像を用いて水中作業を行う場合、反射体の位置を正確に把握すること困難であるので、濁水中の作業速度の低下を抑制することは難しい。正面視法による画像を用いて水中作業を行う場合、反射体の正確な3次元位置を計測することはできるが、画像更新に時間を要するので、濁水中の作業速度の低下を抑制することは難しい。
【0010】
本発明は、上記の問題点を解消するためになされたものであり、その目的は、水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる水中作業システム及び水中作業方法を提供することである。
【課題を解決するための手段】
【0011】
本願は上記課題を解決する手段を複数含んでいる。その一例を挙げるならば、水中に配置された作業装置の作業開始前に、2次元超音波ソナーの計測により水中作業環境の2次元画像を収録し、前記作業装置の作業開始前に、3次元位置情報を計測可能な計測装置の計測により前記水中作業環境の3次元画像を収録し、作業開始前の3次元画像から、前記2次元超音波ソナーの設置位置を基準点とする前記作業装置の識別点の3次元初期位置を演算し、作業開始前の2次元画像における前記識別点の2次元位置情報に対して演算結果の前記識別点の3次元初期位置の対応付けを行い、前記作業装置の作業開始後は、前記2次元超音波ソナーの継続的な計測により2次元画像を収録して逐次更新すると共に、逐次更新される2次元画像を表示装置に表示し、前記識別点の2次元位置情報に対して対応付けを行った3次元初期位置を起点とし、作業開始後に逐次更新される2次元画像における前記識別点の2次元位置情報を用いることで前記識別点の3次元位置情報を推定して逐次更新することを特徴とする。
【発明の効果】
【0012】
本発明によれば、作業装置の作業中に2次元超音波ソナーの計測により2次元画像を収録して表示装置に表示するので、作業中に3次元画像を収録して表示させる場合よりも、水中作業の可視化に要する時間を減らすことができる。また、作業開始前の3次元画像から算出する3次元初期位置を起点に作業中に更新される2次元画像の識別点の2次元位置情報を用いることで識別点の作業中の3次元位置情報を推定して更新するので、2次元画像からは計測不能な識別点(監視対象)の3次元位置情報を把握することができる。これらのことから、水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる。
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0013】
【
図1】本発明の第1の実施形態に係る水中作業システムの構成を示すブロック図である。
【
図2】
図1に示す第1の実施形態に係る水中作業システムにおける作業開始前の2次元ソナー及び3次元ソナーによる監視対象(作業装置)の計測状況を示す図である。
【
図3】
図1に示す第1の実施形態に係る水中作業システムにおける作業中の2次元ソナーによる監視対象(作業装置)の計測状況を示す図である。
【
図4】
図1に示す第1の実施形態に係る水中作業システムによる水中作業方法の手順の一例を示すフローチャートである。
【
図5】
図1に示す第1の実施形態に係る水中作業システムにおける2次元ソナーの超音波ビームの走査を
図2に示す世界座標系のXY平面において示す説明図である。
【
図6】
図1に示す第1の実施形態に係る水中作業システムにおける監視対象である作業装置の作業アームに設置した2つの反射板の寸法を
図2に示す世界座標系のYZ断面上において示す図である。
【
図7】
図6に示す作業装置の作業アームを矢視VIIから見たときの作業アーム及び反射板の寸法を示す図である。
【
図8】
図1に示す第1の実施形態に係る水中作業システムにおける2次元ソナーの作業開始前の計測結果である波形データ及び2次元画像の一例を示す図である。
【
図9】
図1に示す第1の実施形態に係る水中作業システムにおける監視対象の反射板の識別点に対する作業開始前の3次元ソナーの計測結果と2次元ソナーの計測結果との対応付けの方法の一例を世界座標系のYZ断面上において示す説明図である。
【
図10】
図1に示す第1の実施形態に係る水中作業システムにおける監視対象の反射板の識別点に対する世界座標系のYZ断面上の3次元位置情報(距離とピッチ角)の推定方法の一例を示す説明図である。
【
図11】
図1に示す第1の実施形態に係る水中作業システムにおける2次元ソナーの作業開始後の計測結果である波形データ及び2次元画像の一例を示す図である。
【
図12】本発明の第1の実施形態の変形例に係る水中作業システムの構成を示すブロック図である。
【
図13】本発明の第2の実施形態に係る水中作業システムによる水中作業方法の一例を示すフローチャートである。
【
図14】
図13に示す第2の実施形態に係る水中作業方法を実行する水中作業システムの構成を示すブロック図である。
【
図15】本発明の第3の実施形態に係る水中作業システムによる水中作業方法の一例を示すフローチャートである。
【
図16】
図15に示す第3の実施形態に係る水中作業方法を実行する水中作業システムの構成を示すブロック図である。
【発明を実施するための形態】
【0014】
以下、本発明の水中作業システム及び水中作業方法の実施の形態について図面を用いて説明する。
【0015】
[第1の実施の形態]
先ず、本発明の第1の実施の形態に係る水中作業システムの概略構成について
図1~
図3を用いて説明する。
図1は本発明の第1の実施形態に係る水中作業システムの構成を示すブロック図である。
図2は
図1に示す第1の実施形態に係る水中作業システムにおける作業開始前の2次元ソナー及び3次元ソナーによる監視対象(作業装置)の計測状況を示す図である。
図3は
図1に示す第1の実施形態に係る水中作業システムにおける作業中の2次元ソナーによる監視対象(作業装置)の計測状況を示す図である。
【0016】
図1において、水中作業システムは、水中で作業を行う作業装置71と、作業装置71を制御する作業装置コントローラ72と、作業装置71の駆動を指令する作業指令装置80と備えている。本実施の形態に係る水中作業システムは、さらに、作業装置71の水中作業を可視化により監視する水中作業監視システム1を備えている。
【0017】
水中作業監視システム1の監視対象である作業装置71は、
図1及び
図2に示すように、少なくとも1本の作業アーム711と、床面などを移動するための移動機構712と、作業装置71の作業環境を観察するための光学カメラ713(
図1のみ図示)とを備えている。作業アーム711の表面には、
図2に示すように、超音波を反射する第1反射板715及び第2反射板716が設置されている。第1反射板715と第2反射板716は、例えば、作業アーム711の長手方向に間隔をあけて配置されている。第1反射板715及び第2反射板716は、水中作業監視システム1が監視する作業装置71のうちの超音波計測による識別対象となる部分である。作業アーム711の寸法並びに第1反射板715及び第2反射板716の寸法については後述する(後述の
図6及び
図7を参照)。移動機構712は、例えば、車輪やクローラのような回転式のもの又は多脚の歩行式のものが可能である。作業装置71は、移動の必要性がない場合には、作業現場の構造物などに作業アーム711及び光学カメラ713を設置する構成も可能である。
【0018】
作業装置71の駆動は、作業装置コントローラ72により制御される。作業装置コントローラ72は、例えば、水中に配置された作業装置71から離れた位置にある大型母船や地上に配置されている。この場合、作業装置コントローラ72は、作業装置71にケーブル(図示せず)を介して電気的に接続されている。なお、作業装置コントローラ72は、作業装置71の内部に配置する構成も可能である。
【0019】
作業装置コントローラ72は、例えば、RAMやROM等からなる記憶装置とCPU又はMPU等からなる処理装置とを備えたコンピュータである。作業装置コントローラ72は、作業装置71を制御するために必要なプラグラムや各種情報が記憶装置に予め記憶されており、処理装置が記憶装置からプログラムや各種情報を適宜読み込んで当該プログラムに従って処理を実行することで各種の機能を実現する。作業装置コントローラ72は、例えば、作業装置制御部721、アーム制御部722、移動機構制御部723、カメラ映像記憶部724の各機能部を有している。作業装置制御部721は、作業指令装置80からの後述の作業装置71の駆動指令に基づき、作業装置71の作業アーム711の動作指令を出力すると共に、作業装置71の移動機構712の動作指令を出力するものである。アーム制御部722は、作業装置制御部721からの作業アーム711の動作指令に応じて作業アーム711の動作を制御するものである。移動機構制御部723は、作業装置制御部721からの移動機構712の動作指令に応じて移動機構712の動作を制御するものである。カメラ映像記憶部724は、作業装置71の光学カメラ713が撮影した映像データを記憶装置に記憶させると共に、当該映像データを外部の表示装置としての第4モニタ73に表示させるものである。
【0020】
作業装置71の駆動は、作業指令装置80から入力される駆動指令に応じて作業装置コントローラ72を介して制御される。作業指令装置80は、例えば、RAMやROM等からなる記憶装置とCPU又はMPU等からなる処理装置とを備えた独立したコンピュータであり、大型母船や地上に配置されている。なお、作業指令装置80は、前述の作業装置コントローラ72の機能の一部、又は、後述の作業監視装置5の機能の一部として実装することが可能である。
【0021】
作業指令装置80は、作業装置71の駆動を指令するために必要なプラグラムや各種情報が記憶装置に予め記憶されており、処理装置が記憶装置からプログラムや各種情報を適宜読み込んで当該プログラムに従って処理を実行することで各種機能を実現する。作業指令装置80は、例えば、作業設定部81、作業装置位置情報記憶部82、3次元位置情報記憶部83の各機能部を備えている。作業設定部81は、例えば、予め設定された作業装置71の作業計画(作業時の作業アーム711の動作データや移動機構712の動作データなど)又はオペレータによる操作入力を受け付け、受け付けた作業計画や操作入力に基づき作業装置71の駆動指令を生成するものである。作業設定部81は、作業装置71の駆動指令を作業装置コントローラ72に出力する。作業装置位置情報記憶部82は、作業装置コントローラ72の作業装置制御部721から出力される作業装置71の位置情報を記憶装置に記憶させるものである。3次元位置情報記憶部83は、作業監視装置5の後述の3次元位置情報更新部59から出力される作業装置71の後述の識別点の3次元位置情報を記憶装置に記憶させるものである。
【0022】
水中作業監視システム1は、超音波を用いて監視対象の作業装置71の2次元位置情報を計測可能な2次元超音波ソナー2(以下、2次元ソナーと称する)と、超音波を用いて作業装置71の3次元位置情報を計測可能な3次元超音波ソナー3(以下、3次元ソナーと称する)と、作業装置71を含む作業環境を撮影する光学カメラ4と、2次元ソナー2の計測結果と3次元ソナー3の計測結果と光学カメラ4の映像データとを用いて作業装置71を監視する作業監視装置5とを備えている。水中作業監視システム1は、さらに、2次元ソナー2の計測結果の2次元画像を表示する第1モニタ6と、3次元ソナー3の計測結果の3次元画像を表示する第2モニタ7と、光学カメラ4の光学画像を表示する第3モニタ8とを備えている。なお、水中作業監視システム1は、作業指令装置80を含める構成とすることも可能である。
【0023】
2次元ソナー2は、監視対象の2次元位置情報を計測可能な2次元超音波センサ21及び第1送受信機22を備えている。2次元超音波センサ21は、扇状に拡散する超音波ビームを送信して物体(反射体)からの反射波を受信するものであり、当該ビームの拡散方向に対して直交する方向に走査可能に構成されている。2次元超音波センサ21は、例えば、複数の振動子が一方向に配列された1次元アレイセンサである。なお、2次元超音波センサ21は、音響レンズを用いて扇状の拡散ビームを形成する構成も可能である。第1送受信機22は、2次元超音波センサ21の各振動子に対して作業監視装置5からの指令に応じた駆動信号を出力するものであり、当該駆動信号によって各振動子を振動させることで所望の超音波を形成する。第1送受信機22は、また、2次元超音波センサ21の各振動子が受信した反射波の信号を取り込み、当該反射波の信号を基に波形データ及び2次元画像を生成する。さらに、当該波形データ及び2次元画像を作業監視装置5へ出力する。
【0024】
3次元ソナー3は、監視対象の3次元位置情報を計測可能な3次元超音波センサ31及び第2送受信機32を備えている。3次元超音波センサ31は、超音波ビームを2次元走査により送受信するように構成されている。3次元超音波センサ31は、例えば、2つの1次元アレイを直交させた十字型もしくはT字型のクロスアレイセンサ又は振動子を2次元に配列したマトリクスアレイによって構成することが可能である。第2送受信機32は、3次元超音波センサ31の各振動子に対して作業監視装置5からの指令に応じた駆動信号を出力するものであり、当該駆動信号によって各振動子を振動させることで所望の超音波を形成する。第2送受信機32は、また、3次元超音波センサ31の各振動子が受信した反射波の信号を取り込み、当該反射波の信号を基に波形データ及び3次元画像を生成する。さらに、当該波形データ及び3次元画像を作業監視装置5へ出力する。なお、3次元ソナー3は、マルチビームソナーによって構成することが可能である。また、3次元ソナー3は、1振動子により送波すると共に2次元アレイセンサにより受波するダイナミックフォーカシング方式で送受信を行う構成も可能である。
【0025】
2次元ソナー2及び3次元ソナー3は、作業装置71とは異なる位置に設置される。2次元ソナー2及び3次元ソナー3は、例えば、水面や水中を移動する移動装置や床面を移動する移動装置に搭載される。
【0026】
作業監視装置5は、例えば、RAMやROM等からなる記憶装置とCPU又はMPU等からなる処理装置とを備えたコンピュータである。作業監視装置5は、大型母船や地上に配置されており、2次元ソナー2及び3次元ソナー3にケーブル(図示せず)を介して電気的に接続されている。作業監視装置5は、作業装置71の水中作業を監視するために必要なプラグラムや各種情報が記憶装置に予め記憶されており、処理装置が記憶装置からプログラムや各種情報を適宜読み込んで当該プログラムに従って処理を実行することで各種機能を実現する。
【0027】
本実施の形態の水中作業システムは、概略すると、
図2に示すように、監視対象の作業装置71の作業開始前に、2次元ソナー2によって静止状態の作業装置71を含む作業環境の計測(2次元画像の収録)を行うと共に、3次元ソナー3によって作業装置71を含む作業環境の計測(3次元画像の収録)を行う。2次元ソナー2の計測結果である作業装置71の特定部(例えば、反射板715、716)の2次元位置情報は、3次元ソナー3の計測結果から得られる作業装置71の当該特定部(反射板715、716)の3次元位置情報に対して、1次元分の位置情報(例えば後述のピッチ角φ)が不足している。そこで、2次元ソナー2の計測結果の特定部の2次元位置情報に対して、3次元ソナー3の計測結果から算出される当該特定部の3次元初期位置(3次元位置情報の初期値)の対応付けを行う。次に、作業装置71の作業が開始されると、
図3に示すように、2次元ソナー2のみを用いて作業装置71の計測(2次元画像の収録)を継続することで作業装置71の作業を可視化により監視する。この場合、水中作業システムは、2次元ソナー2の計測毎に作業装置71の特定部(反射板715、716)の2次元位置情報を更新する。加えて、作業開始直後は、当該特定部の2次元位置情報に対応付けた作業開始前の3次元初期位置(3次元ソナー3の計測結果)を基に、更新された特定部の2次元位置情報(2次元ソナー2の計測結果)を用いて当該特定部の3次元位置情報を推定して更新する。その後は、更新された特定部の3次元位置情報(推定値)を基に、更新された特定部の2次元位置情報(2次元ソナー2の計測結果)を用いて3次元位置情報を推定して更新することを繰り返す。これにより、作業装置71の作業中に2次元画像の収録及び表示が継続されるので、リアルタイムの監視(可視化)が可能になる。さらに、作業装置71の特定部(反射板715、716)の作業中の3次元位置情報は、3次元ソナー3の計測結果を基に算出された当該特定部の作業開始前の3次元初期位置を起点として、2次元ソナー2の計測毎に更新される当該特定部の2次元位置情報(2次元ソナー2の計測結果)を用いた推定によって更新が繰り返される。このため、2次元ソナー2による計測のみでは計測不能な当該特定部の3次元位置情報を把握可能となる。
【0028】
このような処理を実現するために、作業監視装置5は、例えば、ソナー制御部51、2次元画像記憶部52、3次元画像記憶部53、カメラ映像記憶部54、識別点設定部55、3次元初期位置算出部56、識別点照合部57、時系列画像演算部58、3次元位置情報更新部59の機能部を備えている。
【0029】
ソナー制御部51は、第1送受信機22を介して2次元ソナー2の送受信を制御するものである。ソナー制御部51は、作業指令装置80の作業設定部81からの指令や識別点設定部55からの後述の監視範囲に応じて超音波ビームの走査条件などを設定し、2次元ソナー2に対する指令を第1送受信機22へ出力する。
【0030】
2次元画像記憶部52は、2次元ソナー2から出力された作業開始前及び作業中の波形データ及び2次元画像データを記憶装置に記憶させると共に、当該2次元画像データを2次元画像(例えば後述の
図8及び
図11参照)として第1モニタ6に表示させるものである。2次元画像記憶部52は、作業開始前の波形データ及び2次元画像を識別点設定部55へ出力し、作業中の波形データ及び2次元画像を時系列画像演算部58へ出力する。なお、作業開始前の波形データ及び2次元画像は、識別点設定部55を介して識別点照合部57に対しても出力される。
【0031】
3次元画像記憶部53は、3次元ソナー3から出力された波形データ及び3次元画像を記憶装置に記憶させると共に、当該3次元画像を第2モニタ7に表示させるものである。さらに、当該波形データ及び3次元画像を識別点設定部55および3次元初期位置算出部56へ出力する。
【0032】
カメラ映像記憶部54は、光学カメラ3が撮影した映像データを記憶装置に記憶させると共に、当該映像データを第3モニタ8に表示させるものである。
【0033】
識別点設定部55は、予め計画した作業(作業計画)に応じて監視対象となる作業装置71における2次元ソナー2の超音波計測による識別対象を選定するものである。本実施の形態においては、
図2に示す作業装置71の作業アーム711に設置された第1反射板715及び第2反射板716が選定される。概略的には、3次元画像記憶部53から出力された作業開始前の3次元画像データ及び2次元画像記憶部52から出力された作業開始前の2次元画像データの各YZ断面(ヨー角θ)に対して反射板715、716の特定部分(根元部や先端部)を識別点として設定する(後述の
図8及び
図9参照)。また、識別点設定部55は、設定した識別点(作業装置71の反射板715、716)の位置に応じて、作業中の監視範囲としての2次元画像の更新領域を設定するものである。識別点設定部55は、設定した識別点の情報を3次元初期位置算出部56へ出力すると共に、設定した作業中の2次元画像の更新領域(監視範囲)の情報をソナー制御部51及び時系列画像演算部58へ出力する。識別点設定部55の識別点の設定方法及び識別点の監視範囲の設定方法の詳細は後述する。
【0034】
3次元初期位置算出部56は、3次元画像記憶部53から出力される3次元画像を基に、識別点設定部55にて設定された作業装置71の各識別点(反射板715、716の特定部分)における作業開始前の3次元位置(例えば、後述の世界座標系のXYZ空間上の3次元位置)を算出し、2次元ソナー2の2次元超音波センサ21の設置位置を基準点(原点)とする当該識別点の作業開始前の3次元初期位置(すなわち、各YZ平面(ヨー角θ)における距離rとピッチ角φ)に変換する。なお、3次元初期位置算出部56により算出される2次元超音波センサ21の設置位置を基準点とする各識別点のピッチ角φの初期情報は、2次元画像記憶部52の2次元画像からは取得不能な情報である。3次元初期位置算出部56は、算出結果である2次元超音波センサ21の設置位置を基準点とする各識別点の3次元初期位置(各YZ平面(ヨー角θ)の距離rとピッチ角φ)を識別点照合部57及び3次元位置情報更新部59へ出力する。3次元初期位置算出部56の演算方法の詳細は後述する。
【0035】
識別点照合部57は、2次元画像記憶部52から識別点設定部55を介して入力される作業開始前の2次元画像における作業装置71の複数の識別点(反射板715、716の特定部分)の2次元位置情報に対して3次元初期位置算出部56の算出結果である複数の識別点の3次元初期位置を照合することで、各識別点の作業開始前の2次元位置情報に対して不足分の位置情報(ピッチ角)を含む3次元初期位置を対応付けるものである。各識別点の作業開始前の2次元位置情報に対する作業開始前の3次元初期位置の対応付けは、2次元画像の各YZ平面(ヨー角θ)について行われる。識別点照合部57は、作業装置71の各識別点の作業開始前の2次元位置情報および当該情報に対応付けた3各識別点の次元初期位置を3次元位置情報更新部59へ出力する。作業開始前の2次元画像における各識別点の位置情報は、各YZ平面において距離の情報のみを有する(後述の
図8参照)。一方、3次元初期位置算出部56の算出結果である各識別点の初期位置は、各YZ平面(ヨー角θ)において、2次元超音波センサ21の設置位置を基準点とする距離rの情報に加えてピッチ角φの情報を有する(後述の
図9参照)。
【0036】
また、識別点照合部57は、作業開始直後は、各識別点の作業開始前の2次元位置情報に対応付けた作業開始前の3次元初期位置を基に、時系列画像演算部58による後述の各識別点の更新情報(2次元位置情報)を用いることで、各識別点の作業中の3次元位置情報を推定し、推定結果の3次元位置情報を各識別点の新たな位置情報として3次元位置情報更新部59へ出力することで更新するものである。その後の作業中は、更新される識別点の3次元位置情報(推定値)を基に、時系列画像演算部58により更新される当該識別点の2次元位置情報を用いることで、識別点の作業中の3次元位置情報を逐次推定して新たな位置情報として3次元位置情報更新部59へ出力することで逐次更新する。識別点照合部57の処理方法の詳細は後述する。
【0037】
時系列画像演算部58は、2次元ソナー2の計測毎に出力される作業中の2次元画像に基づき作業装置71の複数の識別点(反射板715、716の特定部分)の2次元位置情報を逐次更新する。時系列画像演算部58は、更新した識別点の2次元位置情報を識別点照合部57へ逐次出力する。時系列画像演算部58の処理方法の詳細は後述する。
【0038】
3次元位置情報更新部59は、作業開始前、3次元初期位置算出部56から出力された作業装置71の識別点の3次元初期位置を作業指令装置80の3次元位置情報記憶部83へ出力する。作業中、識別点照合部57から出力された識別点の作業中の3次元位置情報(推定値)を作業指令装置80の3次元位置情報記憶部83へ出力する。これより、作業開始前から作業中において、作業装置71の識別点が初期位置から作業による変位する過程が記録される。
【0039】
次に、第1の実施形態に係る水中作業システムによる水中作業方法の手順について説明する。先ず、水中作業の開始前の手順について
図1~
図9を用いて説明する。
図4は
図1に示す第1の実施形態に係る水中作業システムによる水中作業方法の手順の一例を示すフローチャートである。
【0040】
図4において、
図1に示す水中作業システムは、作業開始前に水中作業環境を計測し(ステップS10)、水中作業環境の3次元地図を作成する。当該計測時に水中が濁っている場合には、水面や水中を移動する移動装置に3次元ソナーを搭載して水中作業環境の計測を行う。一方、水の濁りの影響が小さい場合には、3次元ソナー3による計測の代わりに、レーザレンジファインダ、光切断法、ステレオカメラなどの光学式による計測が可能である。なお、事前に、水中作業環境の3次元地図を入手することができる場合には、ステップS10の処理(計測)を省略することが可能である。
【0041】
次に、ステップS10にて作成した水中作業環境の3次元地図を基に作業装置71を水中の作業位置に配置する(ステップS20)。作業位置は、水中作業環境の3次元地図及び作業内容(作業計画)によって決定される。
【0042】
次いで、作業開始前に、水中作業システムは、2次元ソナー2を用いて作業装置71を含む水中作業環境を計測することで2次元画像を収録すると共に、3次元ソナー3を用いて作業装置71を含む水中作業環境を計測することで3次元画像を収録する(ステップS30)。2次元ソナー2は、超音波による計測結果である波形データ及び当該波形データから生成した2次元画像を作業監視装置5の2次元画像記憶部52に出力する。2次元画像記憶部52は、2次元ソナー2の波形データ及び2次元画像を記憶装置に記憶させると共に、当該2次元画像を第1モニタ6に表示させる。3次元ソナー3は、超音波による計測結果である波形データ及び当該波形データから生成した3次元画像を作業監視装置5の3次元画像記憶部53に出力する。3次元画像記憶部53は、3次元ソナー3の波形データ及び3次元画像を記憶装置に記憶させると共に、当該3次元画像を第2モニタ7に表示させる。なお、水の濁りの影響が小さい場合には、3次元ソナー3による計測の代わりに、レーザレンジファインダ、光切断法、ステレオカメラなどの光学式による3次元計測が可能である。
【0043】
具体的には、例えば
図2に示すように、2次元ソナー2は、ピッチ角φ(水平線を基準とする縦方向の傾き角度)が角度φ
2Dの範囲(実線の範囲)で拡散する超音波ビームを作業装置71に向けて送信する。一方、3次元ソナー3は、超音波ビームをピッチ角φ
3Dの範囲(一点鎖線の範囲)で走査して送信する。
図2は、2次元ソナー2の振動子中心(設置位置)Z1を通るZ軸と水中の床面との交点を世界座標系の原点OとするYZ断面上における超音波計測の状況を示している。2次元ソナー2と3次元ソナー3は、制約がない限り、
図2に示すように両者の振動子中心Z1、Z2をZ軸上に配置することが好ましい。この場合、2次元ソナー2と3次元ソナー3の世界座標系のXY平面上の方位角(
図5におけるヨー角θ)が共通になる。また、2次元ソナー2は、例えば
図5に示すように、作業開始前においてはヨー角θsの範囲で超音波ビームを走査する。
図5は、
図2を水面から床面を見たときの世界座標系のXY平面上における2次元ソナーの計測状況を示している。
図5に示すXY平面においては、作業装置71の作業アーム711がヨー角θ=0°に沿って延在するように配置されている。この場合において、2次元ソナー2の超音波ビームの送受信範囲はY軸(θ=0°)を中心として対称に±θs/2の範囲とし、当該超音波ビームの走査角度の間隔はΔθとしている。世界座標系のYZ平面及びXY平面上における3次元ソナー3の超音波ビームの2方向の走査範囲は、少なくとも監視対象の作業装置71の作業アーム711が計測範囲に含まれることが必須であり、2次元ソナー2の超音波ビームの送信範囲を可能な限りカバーするように設定する方が好ましい(例えば、
図2参照)。
【0044】
水中作業監視システム1の監視対象である作業装置71の作業アーム711の表面には、
図6及び
図7に示すように、2次元ソナー2の識別対象とする第1反射板715及び第2反射板716が設置されている。
図6は第1の実施形態に係る水中作業システムにおける監視対象である作業装置の作業アームに設置した2つの反射板の寸法を
図2の世界座標系のYZ断面上において示す図であり、
図7は
図6に示す作業装置の作業アームを矢視VIIから見たときの作業アーム及び反射板の寸法を示す図である。
【0045】
両反射板715、716は、2次元ソナー2及び3次元ソナー3から送信される超音波ビームをあまり減衰させずに反射させて超音波センサ21、31に受信させることで、他の構造物との識別を容易にするものである。特に、反射板715、716の根元部(コーナ部)や先端部では、超音波の後方散乱が起こりやすく、反射波の信号強度が大きくなる。そこで、本実施の形態においては、第1反射板715の根元部a及び先端部b並びに第2反射板716の根元部c及び先端部dを2次元ソナー2及び3次元ソナー3の超音波計測の識別対象(識別点)として選定している。
【0046】
作業アーム711は、例えば
図7に示すように、長手方向の長さがLであり、幅がWである。作業アーム711の先端側に配置された第1反射板715は、例えば
図6及び
図7に示すように、根元部(接続部)aから先端部bまでの高さがh1であり、幅が作業アーム711の幅と同じWである。作業アーム711の基端側に配置された第2反射板716は、根元部(接続部)cから先端部dまでの高さがh2であり、幅が作業アーム711の幅と同じWである。第1反射板715の高さh1と第2反射板716の高さh2の偏差はΔhであり、第2反射板716の方が第1反射板715よりも高くなっている。第1反射板715と第2反射板716の間隔はkである。第1反射板715の根元部a及び先端部b(識別点)の3次元位置、並びに、第2反射板716の根元部c及び先端部d(識別点)の3次元位置は、作業アーム711の作業(回動)に応じて変位するときに、上述の作業アーム711及び両反射板715、716の寸法設定によって幾何学的な拘束条件が生じる。
【0047】
ステップS30における作業開始前の2次元ソナー2の計測結果は、例えば、
図8の下図に示すような波形データになる。
図8は第1の実施形態に係る水中作業システムにおける2次元ソナーの作業開始前の計測結果である波形データ及び波形データを基に生成される2次元画像の一例を示す図である。
図8の下図中、横軸rは距離を、縦軸は反射波の信号強度を示している。なお、横軸rにおける(θ)は、2次元ソナー2のビーム走査角度、すなわちヨー角を示している。
図8は、ヨー角θ=0°の場合の波形データである。ヨー角θ=0、±Δθ、±2Δθ、±3Δθ、…の各波形データをまとめることで、
図8の上図に示すような2次元画像の生成が可能である。
図8の上図に示す2次元画像は、2次元ソナー2の2次元超音波センサ21の振動子中心Z1を原点とし、ヨー角θsの走査範囲において信号強度に応じて表示されるものである。2次元画像は、ヨー角θ(走査角度)及び距離rの2次元位置情報を含む。
【0048】
ステップS30の終了後、監視対象の作業装置71のうち超音波計測で識別が容易な識別点を設定する(ステップS40)。本実施の形態においては、上述したように、
図6に示す作業アーム711に設置された第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部dを超音波計測の識別対象(識別点)とし選定している。
【0049】
具体的には、作業監視装置5の識別点設定部55は、2次元画像記憶部52によって記憶装置に保存された作業開始前の2次元画像を基に、第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部dを識別点として設定する。例えば、
図8に示す波形データ及び2次元画像に対して、距離r及び信号強度に応じて、第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部dの各点をそれぞれ識別点として設定する。
図8に示す波形データは、ヨー角θ=0°の場合である。このような各識別点の設定は、反射波を受信した全範囲の各断面に対して行うこと(
図8の上図の2次元画像の4つの太線上に複数の識別点を設定すること)が好ましい。しかし、当該識別点の設定は、必ずしも反射波を受信した全範囲の断面に対して行う必要はない。なお、これらの識別点の設定及び確認には、作業アーム711及び反射板715、716の上述の寸法情報(
図6及び
図7参照)を用いている。
【0050】
また、識別点設定部55は、3次元画像記憶部53によって記憶装置に保存された作業開始前の3次元画像を基に、第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部dを識別点として設定する。例えば、
図9に示す3次元画像の断面図上において、第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部dの各点を識別点として設定する。
図9は第1の実施形態に係る水中作業システムにおける反射板の識別点に対する作業開始前の3次元ソナーの計測結果と2次元ソナーの計測結果との対応付けの方法の一例を世界座標系のYZ断面上において示す説明図である。
図9は、ヨー角θ=0°の場合のYZ断面である。このような各識別点の設定は、反射波を受信した全範囲に亘る各YZ断面に対して行うことが好ましい。しかし、当該識別点の設定は、必ずしも反射波を受信した全範囲に対応した全断面に対して行う必要はない。なお、これらの識別点の設定及び確認には、作業アーム711及び両反射板715、716の上述した寸法情報(
図6及び
図7参照)を用いている。
【0051】
次に、3次元ソナー3の計測結果である3次元画像を基に、作業アーム711の各識別点の作業開始前の3次元初期位置を算出する(ステップS50)。当該3次元初期位置は、3次元画像の各YZ断面(ビーム走査角度としてのヨー角θ)において、2次元ソナー2の2次元超音波センサ21の設置位置Z1を基準点とする距離rとピッチ角φで表すものである。これは、2次元ソナー2の計測結果である識別点の2次元位置情報が2次元超音波センサ21の設置位置Z1を基準点とするビーム走査角度としてのヨー角θ及び距離rで表されるためである。
【0052】
具体的には、作業監視装置5の3次元初期位置算出部56は、先ず、3次元画像記憶部53から出力された3次元画像から、識別点設定部55にて設定された各識別点(第1反射板715における根元部a及び先端部b並びに第2反射板716における根元部c及び先端部d)の世界座標系のXYZ空間上の3次元位置情報を取得する。世界座標系のXYZ空間上の3次元位置情報の取得は、3次元画像の各YZ断面に対して行う。さらに、各YZ断面の各識別点の世界座標系のXYZ空間上の3次元位置情報を各YZ断面の2次元超音波センサ21の設置位置Z1を基準点とする距離r及びピッチ角φに変換する。
【0053】
例えば、ヨー角θ=0°のYZ断面を示す
図9においては、第1反射板715における根元部a及び先端部bの3次元位置情報はそれぞれ、(0、Ya0、Za0)及び(0、Yb0、Zb0)である。第2反射板716における根元部c及び先端部dの3次元位置情報はそれぞれ(0、Yc0、Zc0)及び(0、Yd0、Zd0)である。これらの識別点の世界座標系のXYZ空間上の3次元位置情報を次の式(1)及び式(2)を用いることで、2次元超音波センサ21の振動子中心(設置位置)Z1を基準点とする識別点に対する距離rj及びピッチ角φjを算出する。
【0054】
【0055】
【0056】
ここで、距離rj、ピッチ角φj、座標Yj、座標Yjに含まれる記号jは、第1反射板715の根元部a及び先端部b又は第2反射板716の根元部c及び先端部dのいずれかを示すものである。すなわち、ra0及びφa0は第1反射板715の根元部aの作業開始前の距離及びピッチ角を、rb0及びφb0は第1反射板715の先端部bの作業開始前の距離及びピッチ角を示す。rc0及びφc0は第2反射板716の根元部cの距離及びピッチ角を、rd0及びφd0は第2反射板716の先端部dの作業開始前の距離及びピッチ角を示す。座標Yj及び座標Zjは、上述の第1反射板715の根元部a及び先端部b並びに第2反射板716の根元部c及び先端部dの作業開始前の3次元位置情報を示している。
【0057】
次いで、2次元ソナー2の計測結果(波形テータ又は2次元画像)から得られる作業アーム711の各識別点の2次元位置情報に対して、ステップS60にて算出した各識別点の3次元初期位置を対応付ける(ステップS60)。2次元ソナー2の計測結果(波形テータ又は2次元画像)から得られる各識別点の2次元位置情報は、走査角度を示す各ヨー角θに対して距離の情報のみを有する。一方、3次元ソナー3の計測結果から得られる各識別点の3次元初期位置は、前述したように、各ヨー角θに対して距離rに加えてピッチ角φの情報を含む。そこで、本実施の形態においては、3次元ソナー3の計測結果である3次元画像の各断面(ヨー角θ)において設定された複数の識別点と2次元ソナー2の計測結果である2次元画像の各断面において設定された複数の識別点とを照合して各識別点を同定することで、各識別点(第1反射板715の根元部a、先端部b、第2反射板716の根元部c、先端部d)の2次元位置情報に対して3次元初期位置(ステップS50の算出結果)の対応付けを行う。各識別点の2次元位置情報に対する3次元初期位置の対応付けは、反射板715、716からの反射波を受信した各断面(ヨー角θ)について行う。
【0058】
具体的には、2次元画像の各断面(ヨー角θ)の波形データにおいて設定された複数の識別点に対して、3次元画像において設定された複数の識別点に対してステップS60にて算出した各断面(ヨー角θ)における距離rjを用いて照合することで各識別点を同定する。例えば、
図9に示す第1反射板715の根元部a、先端部b、第2反射板716の根元部c、先端部dの3次元初期位置の1つの情報である距離ra0、rb0、rc0,rd0と、
図8に示す波形データ上の距離ra0、rb0、rc0,rd0とを比較し、3次元初期位置の距離と2次元位置情報の距離が最も近似している識別点同士を同じ識別点として同定する。この同定された識別点の2次元位置情報(ヨー角と距離)に対して3次元初期位置(同じヨー角における距離とピッチ角)を対応付ける。ここで、作業アーム711を所定の距離だけ動作させることで、各識別点の動作後の距離が3次元情報の場合と2次元情報の場合とで同様に変化することで各識別点の同定が正しいことを確認することが可能である。これにより、2次元ソナー2の計測結果の波形データに設定した各識別点に対して、3次元ソナー3の計測結果から算出された正確なピッチ角φの情報(2次元位置情報に不足している情報)を対応付けることができる。
図8の上図に示す2次元画像におけるヨー角θ=±Δθ、±2Δθ、±3Δθ…の場合(反射板715、716からの反射波の受信範囲)の各断面の波形データに対しても、同様な処理を行う。
【0059】
水中作業の開始前の最後の準備として、作業開始後の監視領域としての2次元画像の更新領域を設定する(ステップS70)。作業中は、作業アーム711の監視対象として反射板715、716の識別点が2次元ソナー2の計測により追跡されるので、反射板715、716の識別点の位置に応じて2次元画像の更新領域を設定する。2次元画像の更新領域が大きくなると、その分、2次元画像の生成に時間を要することになる。作業中は、リアルタイムの可視化を行うために、2次元画像の生成負荷を低減する必要がある。
【0060】
具体的には、識別点設定部55は、作業開始前に反射板715、716からの反射波を受信した断面(走査角度のヨー角θ)のうち最も外側の位置よりも更に1断面分(Δθ)だけ外側の範囲までを監視範囲(ビーム走査範囲)として設定する。各断面の超音波ビームの伝搬方向の距離については、例えば、作業開始前に計測した反射波の最長距離及び最短距離に対して±Δriの範囲に拡げて設定する。監視範囲は、例えば、
図8に示す網掛けの領域である。なお、作業中の計測値の最長距離及び最短距離に応じて±Δriの範囲まで拡げて設定することも可能である。また、予め定めた動作範囲の最長距離及び最短距離に対して±Δriの範囲に拡げて設定することも可能である。
【0061】
次に、作業開始後の手順について
図3~
図4及び
図10~
図11を用いて説明する。
図10は第1の実施形態に係る水中作業監視システムにおける作業中の作業装置を監視したときの2次元ソナーの計測結果である波形データと2次元画像との関係を示す図である。
図11は第1の実施形態に係る水中作業監視システムにおける作業中の作業装置を監視したときの世界座標系のYZ断面上における識別点の3次元位置情報の推定方法を示す説明図である。
【0062】
水中作業が開始されると、水中作業システムは、2次元ソナー2のみを用いて計測して2次元画像を収録すると共に表示する(ステップS110)。2次元ソナー2は、
図3に示すように、作業装置71に対して超音波による計測を行い、計測結果である波形データ及び当該波形データから生成した2次元画像を作業監視装置5の2次元画像記憶部52に出力する。2次元画像記憶部52は、2次元ソナー2の波形データ及び2次元画像を記憶装置に記憶させると共に、当該2次元画像を第1モニタ6に表示させる。
【0063】
次に、水中作業システムは、現サイクル(最新)の2次元画像における複数の識別点を1サイクル前(直近)の2次元画像における複数の識別点と照合し、各識別点の2次元位置情報を更新する(ステップS120)。具体的には、作業監視装置5の時系列画像演算部58は、2次元ソナー2の計測結果の出力(2次元画像の更新)の度に(処理サイクル毎に)、最新の2次元画像の各断面(ヨー角θ)における複数の識別点(第1反射板715の根元部a、先端部b及び第2反射板716の根元部c、先端部d)と、直近の2次元画像の各断面(ヨー角θ)における複数の識別点と照合することで、最新の2次元画像の各断面における各識別点を特定する。これにより、特定された各識別点の2次元位置情報(各断面θにおける距離r)が確定するので、各識別点の2次元位置情報を最新(現サイクル)の計測結果の情報に更新する。作業開始直後の場合は、作業開始前の2次元画像の各断面における複数の識別点と作業開始直後の計測結果の2次元画像の各断面における複数の識別点とを照合する。
【0064】
ここでは、時系列画像演算部58による識別点の2次元位置情報の更新方法をわかりやすくする説明するために、作業の開始前と開始直後とで作業アーム711の姿勢が明確に変化した状態を例に挙げる。ただし、2次元画像の更新速度は1秒未満であるので、作業アーム711上の反射板715、716の実際の移動範囲は僅かである。
図10は、YZ断面図上の作業アーム711が
図9に示す姿勢状態から回動軸を中心に下方に時計回りに回動した姿勢状態になった場合を示している。
図11の上図は
図10の姿勢状態のときに計測された2次元画像であり、下図はヨー角θ=0°の断面の波形データである。
図11中、作業開始前の2次元画像の識別点と波形データを点線で示す。
【0065】
反射板715、716の各識別点(a、b、c、d)に対する作業アーム711の作業開始後の距離(ra1、rb1、rc1、rd1)は、作業開始前の距離(ra0、rb0、rc0、rd0)と作業アーム711の移動方向との関係から次の式(3)に示す拘束条件が成立する。さらに、当該各識別点(a、b、c、d)の信号強度(Sai、Sbi、Sci、Sdi)は、次の式(4)に示す拘束条件が成立する。すなわち、反射板715、716ではコーナ反射の方が先端反射よりも反射波の信号強度が大きくなるという条件である。ここで、記号iにおける「0」は作業開始前を「1」は作業開始後を示すものとする。
【0066】
【0067】
【0068】
式(3)の拘束条件から、
図11の下図に示す波形データにおける距離rの最短位置の波形部分は第1反射板715の先端部の識別点bの反射波の信号であると特定されると共に、距離rの最長位置の波形部分は第2反射板716の根元部の識別点cの反射波の信号であると特定される。また、式(4)の拘束条件から、
図11の下図に示す波形データにおける残りの波形部分のうち、信号強度が相対的に大きい波形部分は第1反射板715の根元部の識別点aの反射波の信号であると特定されると共に、信号強度が相対的に小さい波形部分は第2反射板716の先端部の識別点dの反射波の信号であると特定される。特定された各識別点a、b、c、dの2次元超音波センサ21の設置位置Z1からの距離ra1、rb1、rc1、rd1の情報は、
図11の下図に示す波形データから得られる。
図11の下図に示す波形データは、ヨー角θ=0°の断面の場合を示している。各断面の波形データに対しても、式(3)及び式(4)の拘束条件を用いて上述の各識別点a、b、c、dの距離ra1、rb1、rc1、rd1の情報を取得する。
【0069】
このように、時系列画像演算部58は、2次元ソナー2の計測毎に更新される2次元画像の各断面における反射板715、716の各識別点a、b、c、dを照合して特定し、特定した各識別点a、b、c、dの距離ra1、rb1、rc1、rd1の情報を2次元画像(波形データ)から取得して直近の距離情報を更新する。すなわち、2次元ソナー2の計測毎に反射板715、716の各識別点a、b、c、dの2次元位置情報(ヨー角θと距離rの情報)を更新する。
【0070】
次いで、水中作業システムは、反射板715、716の各識別点a、b、c、dの3次元位置情報(ヨー角θ、距離r、ピッチ角φ)をステップS120にて更新された各識別点a、b、c、dの2次元位置情報を用いてステップS60にて対応付けた3次元初期位置を起点に推定して更新する(ステップS130)。作業開始直後は、作業監視装置5の識別点照合部57が、ステップS60にて反射板715、716の各識別点a、b、c、dの作業開始前の2次元位置情報に対応付けた3次元初期位置(3次元ソナー3の計測結果)を起点に、ステップS120にて更新された各識別点a、b、c、dの2次元位置情報(2次元ソナー2の計測結果)を用いて後述の収束計算によって、作業アーム711の各識別点a、b、c、dの作業中の3次元位置情報を推定し、推定結果の各識別点a、b、c、dの3次元位置情報を3次元位置情報更新部59へ出力する。3次元位置情報更新部59は、推定結果の各識別点a、b、c、dの3次元位置情報を作業指令装置80に出力して3次元位置情報記憶部83に格納させることで、各識別点a、b、c、dの3次元位置情報を更新する。その後(作業継続中)は、ステップS130にて更新された各識別点a、b、c、dの3次元位置情報(推定値)を基にステップS120にて更新された各識別点a、b、c、dの2次元位置情報(2次元ソナー2の計測結果)を用いて収束計算によって各識別点a、b、c、dの3次元位置情報を新たに推定して更新することを繰り返す。
【0071】
具体的には、作業開始直後の場合、識別点照合部57は、反射板715、716の各識別点a、b、c、dの作業開始前の3次元初期位置を起点として、作業アーム711の動作に応じた幾何計算(各識別点a、b、c、dの軌道計算)を行い、2次元超音波センサ21の設置位置Z1から各識別点a、b、c、dまでの距離Ra1、Rb1、Rc1、Rd1を予測する。例えば、
図9に示す作業開始前の3次元画像のYZ断面上において作業アーム711の動作に応じた幾何計算を行うことで、
図10に示すYZ断面上において作業開始後の反射板715、716の各識別点a、b、c、dを含む作業アーム711の位置を予測する。
図10に示す演算結果の各識別点a、b、c、dのYZ断面上の作業開始直後の位置情報(Y座標Ya1、Yb1、Yc1、Yd1及びZ座標Za1、Zb1、Zc1、Zd1)を基に各識別点a、b、c、dから2次元超音波センサ21の設置位置Z1までの距離Ra1、Rb1、Rc1、Rd1を算出する。これは、各識別点a、b、c、dの作業開始直後の位置を作業開始前のYZ断面上の3次元初期位置を起点として予測するものである。幾何計算では、
図6及び
図7に示す作業アーム711及び反射板715、716の形状寸法を用いて作業アーム711の回動角度を複数予測する。
【0072】
さらに、次の式(5)のように、各識別点a、b、c、dの3次元初期位置を起点として上述の幾何計算により予測される各識別点a、b、c、dの2次元超音波センサ21の設置位置Z1を基準点とする距離情報とステップS120にて更新された2次元画像から得られた各識別点a、b、c、dの距離情報との誤差(差分)の総和Sumerrを算出する。算出した誤差の総和Sumerrが最小となる収束計算を行い、誤差の総和Sumerrが最小になる場合におけるYZ断面上の各識別点a、b、c、dの2次元超音波センサ21の設置位置Z1に対する距離Ra1、Rb1、Rc1、Rd1及びピッチ角φa1、φb1、φc1、φd1を作業開始直後の3次元位置情報として推定する。これにより、2次元ソナー2の計測結果からは取得不能な各識別点a、b、c、dのピッチ角φの情報を把握することができる。
【0073】
【0074】
図9に示す3次元画像のYZ断面はヨー角θ=0°の場合である。ヨー角θ=0°以外の反射板715、716からの反射波を受信した各断面上においても、上述の幾何計算や式(5)を用いた収束計算を行い、各断面上における各識別点a、b、c、dの2次元超音波センサ21の設置位置Z1を基準点とする距離R及びピッチ角φを作業開始後の3次元位置情報として推定する。
【0075】
識別点照合部57は、各識別点a、b、c、dの作業開始後の3次元位置情報の推定結果を3次元位置情報更新部59へ出力する。3次元位置情報更新部59は、推定結果の各識別点a、b、c、dの3次元位置情報を作業指令装置80に出力して3次元位置情報記憶部83に格納させる。このようにして、各識別点a、b、c、dの作業開始後の3次元位置情報(3次元画像の各断面θにおける距離Rとピッチ角φ)を更新する。
【0076】
水中作業システムは、作業が終了した否かを判定する(
図4に示すステップS140)。作業が終了していないと判定した場合(NOの場合)には、再びステップS110に戻り、ステップS140にて作業終了(YES)と判定されるまでステップS110~S140を繰り返す。すなわち、作業が終了するまで、設定した時間間隔で、2次元ソナー2の計測結果である2次元画像の収録及び表示を継続しつつ、各識別点a、b、c、dの3次元位置情報(3次元画像の各断面θにおける距離Rとピッチ角φ)を更新する。
【0077】
このように、本実施形態においては、作業開始前に超音波計測による2次元画像及び3次元画像を収録して監視対象の各識別点a、b、c、dの2次元位置情報と3次元初期位置との対応付けを行う。これにより、作業開始後に、一定の時間間隔で超音波の2次元画像を収録しつつ、この時間間隔のうちに変化する識別点a、b、c、dの3次元位置情報(各断面θにおける距離Rとピッチ角φ)を、収録した2次元画像の情報と作業開始前に対応付けた3次元初期位置(3次元ソナー3の計測結果)の情報を用いて3次元空間上の収束計算によって算出することができる。したがって、濁水中の作業でも、超音波計測による2次元画像を確認しながら、監視対象(識別点a、b、c、d)の3次元情報を把握することができる。このため、作業速度の低下を抑えた作業が可能となる。
【0078】
上述したように、第1の実施の形態に係る水中作業方法は、水中に配置された作業装置71の作業開始前に2次元ソナー2の計測により水中作業環境の2次元画像を収録し、作業装置71の作業開始前に3次元位置情報を計測可能な3次元ソナー3(計測装置)の計測により水中作業環境の3次元画像を収録し、作業開始前の3次元画像から、2次元ソナー2の設置位置Z1を基準点とする作業装置71の識別点識別点a、b、c、dの3次元初期位置θ、r、φを演算し、作業開始前の2次元画像における識別点a、b、c、dの2次元位置情報に対して演算結果の識別点a、b、c、dの3次元初期位置の対応付けを行う。作業装置71の作業開始後は、2次元ソナー2の継続的な計測により2次元画像を収録して逐次更新すると共に、逐次更新される2次元画像を第1モニタ6(表示装置)に表示し、識別点a、b、c、dの2次元位置情報に対して対応付けを行った3次元初期位置を起点とし、作業開始後に逐次更新される2次元画像における識別点a、b、c、dの2次元位置情報を用いることで識別点a、b、c、dの3次元位置情報を推定して逐次更新する。
【0079】
また、上述したように、第1の実施の形態に係る水中作業システムは、水中で作業を行う作業装置71と、作業装置71の水中作業を可視化により監視する水中作業監視システム1とを備える。水中作業監視システム1は、超音波の発信により2次元位置情報を計測可能な2次元ソナー2と、3次元位置情報を計測可能な3次元ソナー3(計測装置)と、2次元ソナー2の計測により収録された2次元画像を表示する第1モニタ6(表示装置)と、2次元ソナー2の計測結果及び3次元ソナー3(計測装置)の計測結果を基に作業装置71の識別点a、b、c、dの3次元位置情報を演算する作業監視装置5とを備える。作業監視装置5は、作業装置71の作業開始前に3次元ソナー3(計測装置)の計測により収録された3次元画像から2次元ソナー2の設置位置Z1を基準点とする作業装置71の識別点a、b、c、dの3次元初期位置を演算し、作業装置71の作業開始前に2次元ソナー2の計測により収録された2次元画像における識別点a、b、c、dの2次元位置情報に対して演算結果の識別点a、b、c、dの3次元初期位置の対応付けを行い、識別点a、b、c、dの2次元位置情報に対して対応付けを行った3次元初期位置を起点とし、作業装置71の作業開始後に2次元ソナー2の計測により逐次更新される2次元画像における識別点a、b、c、dの2次元位置情報を用いることで、識別点a、b、c、dの3次元位置情報を推定して逐次更新するように構成されている。
【0080】
この方法及びこの構成によれば、作業装置71の作業中に2次元ソナー2の計測により2次元画像を収録して第1モニタ6(表示装置)に表示するので、作業中に3次元画像を収録して表示させる場合よりも、水中作業の可視化に要する時間を減らすことができる。また、作業開始前の3次元画像から算出する3次元初期位置を起点に作業中に更新される2次元画像の識別点a、b、c、dの2次元位置情報を用いることで識別点a、b、c、dの作業中の3次元位置情報を推定して更新するので、2次元画像からは計測不能な識別点a、b、c、d(監視対象)の3次元位置情報を把握することができる。これらのことから、水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる。
【0081】
また、本実施形態に係る水中作業方法及び水中作業システムにおいては、前記計測装置が超音波の発信により3次元位置情報を計測可能な3次元ソナー3である。この方法及びこの構成によれば、作業開始前の水中環境が清水であっても濁水であっても、監視対象の3次元位置情報を計測することが可能である。
【0082】
[第1の実施形態の変形例]
次に、第1の実施形態の変形例に係る水中作業システム及び水中作業方法について
図12を用いて説明する。
図12は本発明の第1の実施形態の変形例に係る水中作業システムの構成を示すブロック図である。なお、
図12において、
図1~
図11に示す符号と同符合のものは、同様な部分であるので、詳細な説明は省略する。
【0083】
図12に示す第1の実施形態の変形例に係る水中作業システムが第1の実施形態と相違する点は、水中作業監視システム1Aが、第1の実施形態のような2次元ソナー2及び3次元ソナー3の両ソナーを備えるのではなく、2次元ソナー及び3次元ソナーの両機能を兼用する兼用ソナー2Aを備えていることである。具体的には、兼用ソナー2Aは、1つの1次元アレイセンサに対して別のもう1つの1次元アレイセンサを直交するように十字型もしくはT字型に配置させ、送信と受信のアレイセンサを分割したクロスアレイセンサ21Aと、クロスアレイセンサ21Aに対応する送受信機22Aとを備えている。この構成の場合、第1の実施形態の場合と異なり、送受信機22Aが1つのみでよい。
【0084】
本変形例においては、兼用ソナー2Aが水中作業環境の2次元画像及び監視対象(反射体715、716の識別点a、b、c、d)の2次元位置情報を計測すると共に、水中作業環境の3次元画像及び監視対象(反射体715、716の識別点a、b、c、d)の3次元位置情報を計測すること以外、水中作業の監視方法は第1の実施の形態の場合と同様である。
【0085】
上述した第1の実施形態の変形例に係る水中作業方法においては、複数の振動子が一方向に配列された第1の1次元アレイと複数の振動子が一方向に配列された第2の1次元アレイとが直交するように配置されたクロスアレイセンサを有する兼用ソナー2A(超音波ソナー)が、2次元ソナーの計測を行うと共に、3次元ソナーの計測を行う。
【0086】
また、本変形例に係る水中作業システムにおいては、複数の振動子が一方向に配列された1次元アレイと複数の振動子が一方向に配列された別の1次元アレイとが直交するように配置されたクロスアレイセンサを有する兼用ソナー2A(超音波ソナー)が2次元超音波ソナー及び3次元超音波ソナーを兼用する構成である。
【0087】
この方法及びこの構成によれば、兼用ソナー2Aが送受信機22Aを1つのみ備える構成が可能なので、第1の実施形態の場合よりもシステムの小型化及び費用の低減が可能である。
【0088】
[第2の実施形態]
次に、本発明の第2の実施形態に係る水中作業システム及び水中作業方法について
図13及び
図14を用いて説明する。
図13は本発明の第2の実施形態に係る水中作業システムによる水中作業方法の一例を示すフローチャートである。
図14は
図13に示す第2の実施形態に係る水中作業方法を実行する水中作業システムの構成を示すブロック図である。
図13及び
図14において、
図1~
図12に示す符号と同符合のものは、同様な部分であるので、詳細な説明は省略する。
【0089】
図13及び
図14に示す第2の実施形態に係る水中作業システムによる水中作業方法が第1の実施の形態と相違する点は、作業開始後に更新されていく監視対象の反射板715、716の識別点a、b、c、dの3次元位置情報の誤差の大きさを判定する誤差判定を行うことである。本実施の形態においては、作業装置71Bが作業アーム711の姿勢を検出する姿勢センサ717を有していることを前提としている(
図14参照)。2次元ソナー2の作業中の計測結果を用いて行われる作業アーム711の識別点a、b、c、dの3次元位置情報の推定演算の情報(
図13に示すステップS130の演算処理の情報)と姿勢センサ717の検出値から算出される作業アーム711の位置情報と比較することで、推定値である識別点a、b、c、dの3次元位置情報の誤差が予め設定した許容誤差の範囲内か否かを判定する(
図13に示すステップS135)。演算結果の誤差が許容誤差の範囲内の場合(
図13に示すステップS135のYESの場合)には、作業指令装置80Bは、作業終了まで作業装置71の作業を継続させる。演算結果の誤差が許容誤差の範囲外の場合(
図13に示すステップS135のNOの場合)には、作業を中断するか、又は、誤差拡大の警告を行う(
図13に示すステップS150)。誤差拡大の警告を行う場合には、作業を監視するオペレータの入力の有無によって作業の中断又は継続を判定するように構成することが可能である。作業を中断した場合には、作業開始前の処理手順である
図13に示すステップS30~S70の処理を行ってから作業を再開する。すなわち、2次元ソナー2の計測による2次元画像の収録及び3次元ソナー3の計測よる3次元画像の収録を行い、これらの再計測の結果に基づき反射板715、716の識別点a、b、c、dの2次元位置情報と3次元位置情報の対応付けをやり直す。これにより、識別点a、b、c、dの3次元位置情報の姿勢センサ717の検出値に対する誤差を小さくすることができる。
【0090】
次に、
図13に示す水中作業方法のフローを実行するための水中作業システムの構成を説明する。
【0091】
図14に示す作業装置71Bは、作業アーム711の姿勢情報(相対位置情報)を検出する姿勢センサ717を備えている。姿勢センサ717は、作業アーム711の姿勢情報として、例えば作業アーム711の各関節の回動角度を検出する。姿勢センサ717は、検出した作業アーム711の姿勢情報(回動角度)を作業装置コントローラ72(アーム制御部722)へ出力する。作業装置コントローラ72は、姿勢センサ717の検出した作業アーム711の姿勢情報(回動角度)を作業指令装置80Bへ出力する。
【0092】
水中作業監視システム1Bは、作業指令装置80Bを含んでいる。作業指令装置80Bは、姿勢センサ717の検出した作業アーム711の姿勢情報(回動角度)を作業装置コントローラ72から受け付ける。作業指令装置80Bは、第1の実施形態の場合の作業設定部81B、作業装置位置情報記憶部82B、3次元位置情報記憶部83に加えて、誤差判定部84を有している。3次元位置情報記憶部83の機能は、第1の実施形態の場合と同様なので説明を省略する。
【0093】
作業装置位置情報記憶部82Bは、姿勢センサ717の検出した作業アーム711の姿勢情報(回動角度)を含む作業装置71の位置情報を記憶装置に記憶させるものである。
【0094】
誤差判定部84は、2次元ソナー2の作業中の計測結果を用いて行われる作業アーム711の識別点a、b、c、dの3次元位置情報の推定演算の情報(
図13に示すステップS130の演算処理の情報)と姿勢センサ717の検出値から算出される作業アーム711の位置情報(姿勢情報)と比較することで、推定値である識別点a、b、c、dの3次元位置情報の誤差が予め設定した許容誤差の範囲内か否かを判定する誤差判定を行うものである(
図14に示すステップS135を参照)。例えば、作業装置位置情報記憶部82Bによって記憶されている姿勢センサ717の検出値である作業アーム711の姿勢情報(例えば、作業アーム711の各関節の回動角度)と3次元位置情報記憶部83によって記憶されている反射板715、716の識別点a、b、c、dの3次元位置情報の推定演算(収束計算)の際に得られる作業アーム711の姿勢情報(たとえば、作業アーム711の各関節の回動角度)との差分(誤差)を演算し、演算結果の誤差が予め設定された閾値未満か否かを判定する。誤差判定部84は、判定結果を作業設定部81Bへ出力する。
【0095】
作業設定部81Bは、演算結果の誤差が閾値以上である(
図13に示すステップS135にてNO)と誤差判定部84が判定した場合には、作業の中断又は誤差拡大の警告(
図13に示すステップS150)を行う指令を出力する。さらに、作業開始前の処理手順(
図13に示すステップS30~S70)の実行を指令する。すなわち、反射板715、716の識別点a、b、c、dの2次元位置情報と3次元位置情報の対応付けをやり直す指令を出力する。その後、作業を再開する指令を出力する。
【0096】
上述した第2の実施形態に係る水中作業方法及び水中作業システムによれば、第1の実施形態の場合と同様に、作業装置71Bの作業中に2次元ソナー2の計測により2次元画像を収録して第1モニタ6(表示装置)に表示するので、作業中に3次元画像を収録して表示させる場合よりも、水中作業の可視化に要する時間を減らすことができる。また、作業開始前の3次元画像から算出する3次元初期位置を起点に作業中に更新される2次元画像の識別点a、b、c、dの2次元位置情報を用いることで識別点a、b、c、dの作業中の3次元位置情報を推定して更新するので、2次元画像からは計測不能な識別点(監視対象)の3次元位置情報を把握することができる。これらのことから、水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる。
【0097】
また、本実施の形態に係る水中作業方法においては、作業装置71Bの作業中に、作業装置71Bの姿勢情報の検出値と作業装置71Bの識別点a、b、c、dの3次元位置情報の推定演算の情報とを比較することで、識別点a、b、c、dの3次元位置情報の推定値の誤差が許容範囲内であるか否を判定する誤差判定を行う。
【0098】
また、本実施の形態に係る水中作業システムにおいては、作業装置71Bが作業装置71Bの姿勢情報を検出する姿勢センサ717を有する。さらに、水中作業監視システム1Bが、作業装置71Bの作業中に姿勢センサ717によって検出された姿勢情報と作業監視装置5による作業装置71Bの識別点a、b、c、dの3次元位置情報の推定演算の情報とを比較することで、識別点a、b、c、dの3次元位置情報の推定値の誤差が許容範囲内であるか否を判定する誤差判定を行うように構成されている。
【0099】
この方法及びこの構成によれば、識別点a、b、c、dの作業中の3次元位置情報の推定値に対して誤差判定を行うことで、識別点a、b、c、d(監視対象)の位置をより正確に把握することができる。
【0100】
また、本実施の形態に係る水中作業方法においては、計測装置が超音波の発信により3次元位置情報を計測可能な3次元ソナー3である。また、誤差判定において前記誤差が許容範囲を超えていると判定された場合には、作業装置71Bの作業を中断し、2次元ソナー2の計測により2次元画像を収録すると共に3次元ソナー3の計測により3次元画像を再収録し、作業中断後の3次元画像から、2次元ソナー2の設置位置Z1を基準点とする識別点a、b、c、dの作業中断後の3次元位置情報を演算し、作業中断後の2次元画像における識別点a、b、c、dの2次元位置情報に対して演算結果の識別点a、b、c、dの作業中断後の3次元位置情報の対応付けを行い、作業装置71Bの作業を再開する。
【0101】
また、本実施の形態に係る水中作業システムにおいては、上述の計測装置が超音波の発信により3次元位置情報を計測可能な3次元ソナー3である。また、作業監視装置5は、誤差判定において前記誤差が許容範囲を超えていると判定されることで作業装置71Bの作業が中断された場合に、作業中断後に3次元ソナー3の計測により再収録された3次元画像から2次元ソナー2の設置位置Z1を基準点とする識別点a、b、c、dの作業中断後の3次元位置情報を演算し、作業中断後に2次元ソナー2の計測により収録された2次元画像における識別点a、b、c、dの2次元位置情報に対して演算結果の識別点a、b、c、dの作業中断後の3次元位置情報の対応付けを行うように構成されている。
【0102】
この方法及びこの構成によれば、識別点a、b、c、dの作業中の3次元位置情報の推定値の誤差が大きい場合に、作業中断後に収録された2次元画像における識別点a、b、c、dの2次元位置情報に対して作業中断後に再収録された3次元画像から算出される識別点a、b、c、dの3次元位置情報の対応付けを再び行うので、作業再開後の監視対象(識別点a、b、c、d)の正確な位置を把握することが可能となる。
【0103】
[第3の実施形態]
次に、本発明の第3の実施形態に係る水中作業システム及び水中作業方法について
図15及び
図16を用いて説明する。
図15は本発明の第3の実施形態に係る水中作業システムによる水中作業方法の一例を示すフローチャートである。
図16は
図15に示す第3の実施形態に係る水中作業方法を実行する水中作業システムの構成を示すブロック図である。
図15及び
図16において、
図1~
図14に示す符号と同符合のものは、同様な部分であるので、詳細な説明は省略する。
【0104】
図15及び
図16に示す第3の実施形態に係る水中作業システムによる水中作業方法が第1の実施の形態と相違する点は、作業開始前に水中作業環境中に作業の障害となる障害物が計測された場合に、作業装置71が作業中に障害物に干渉するか否かの干渉判定を行うことである。本実施の形態においては、作業開始前に障害物が計測された場合に、3次元ソナー3の計測結果から障害物の3次元位置情報を算出し、作業開始前の作業装置71の作業アーム711と障害物との間の距離を演算する(
図15に示すステップS55)。作業開始後は、作業アーム711の識別点a、b、c、dの3次元位置情報の推定演算毎に作業アーム711と障害物との間の距離を演算し、演算結果の距離を予め設定した閾値と比較することで、作業アーム711の障害物への干渉(接触)の可能性の有無を判定する(
図15に示すステップS135C)。作業アーム711の障害物への干渉の可能性が無い(ステップS135CにてNO)と判定した場合には、作業を継続する(
図15に示すステップS110~S140)。一方、障害物への干渉の可能性が有る(ステップS135CにてYES)と判定した場合には、作業を中断するか、又は、障害物への干渉の警告を行う(
図15に示すステップS150C)。干渉の警告を行う場合には、作業を監視するオペレータの入力の有無によって作業の中断又は継続を判定するように構成することが可能である。
【0105】
作業を中断した場合には、作業開始前と同様な手順を行い、3次元ソナー3の計測結果を用いて作業アーム711と障害物との間の距離を再演算し、作業アーム711の障害物への干渉の可能性の有無を再確認する(
図15に示すステップS160~S200)。すなわち、2次元ソナー2の再計測による2次元画像の収録及び3次元ソナー3の再計測による3次元画像の収録を行う(
図15に示すステップS160)。それから、作業開始前のステップS40と同様に、2次元画像及び33次元画像に対して監視対象の反射板715、716の識別点を再設定する(
図15に示すステップS170)。その後、作業開始前のステップS50と同様に、設定した識別点a、b、c、dの3次元位置情報、すなわち、3次元画像の各断面θにおける距離rとピッチ角φを再演算する(
図15に示すステップS180)。次に、作業開始前のステップS55と同様に、3次元ソナー3の計測結果から算出した障害物の3次元位置情報および再演算した識別点a、b、c、dの3次元位置情報を用いて作業アーム711と障害物との間の距離を再演算する(
図15に示すステップS190)。この再演算の結果は、3次元ソナー3の計測結果に基づく識別点の3次元位置情報を用いたものであり、2次元ソナー2の計測結果に基づく識別点a、b、c、dの3次元位置情報の推定値を用いた距離演算よりも高精度の結果を得ることができる。さらに、作業開始後のステップS135Cと同様に、ステップS190の演算結果の障害物への距離と閾値と比較することで、作業アーム711の障害物への干渉の可能性の有無を再判定する(
図15に示すステップS200)。
【0106】
作業アーム711の障害物への干渉の可能性が有る(ステップS135CにてYES)と判定した場合には、作業装置71又は作業アーム711の作業位置を変更する(
図15に示すステップS210)。さらに、
図15に示すステップS160~S200に戻り、作業装置71又は作業アーム711の作業位置の変更後における作業アーム711の障害物への干渉の可能性の有無を再確認する。作業アーム711の障害物への干渉の可能性が無い(ステップS200にてNO)と判定した場合には、
図15に示すステップS110~S140に戻り作業を再開する。
【0107】
次に、
図15に示す水中作業方法のフローを実行するための水中作業システムの構成について説明する。
【0108】
図16に示す水中作業監視システム1Cは、2次元ソナー2、3次元ソナー3、作業監視装置5Cなどの他に、作業指令装置80Cを備えている。なお、作業監視装置5Cの機能部のうち、ソナー制御部51、2次元画像記憶部52、3次元画像記憶部53、カメラ映像記憶部54、識別点設定部55、識別点照合部57、時系列画像演算部58については、第1の実施形態の場合と同様なので、その説明を省略する。
【0109】
作業監視装置5Cの3次元初期位置算出部56Cは、第1の実施形態の場合と同様に反射板715、716の識別点の作業開始前の3次元初期位置(各YZ平面θにおける距離rとピッチ角φ)を演算する(
図15に示すステップS50)と共に、作業開始後の2次元ソナー2及び3次元ソナー3の再計測の結果に基づき反射板715、716の識別点a、b、c、dの3次元位置情報(各YZ平面θにおける距離rとピッチ角φ)を演算する(
図15に示すステップS180)。加えて、作業開始前の3次元ソナー3の計測結果に基づき障害物の3次元位置情報を算出すると共に、作業開始後の2次元ソナー2及び3次元ソナー3の再計測に基づき障害物の3次元位置情報を算出する。3次元初期位置算出部56Cは、演算結果である識別点a、b、c、dの3次元初期位置及び障害物の3次元位置情報を3次元位置情報更新部59Cへ出力する。
【0110】
3次元位置情報更新部59Cは、作業開始前の識別点a、b、c、dの3次元初期位置及び障害物の3次元位置情報を作業指令装置80Cの3次元位置情報記憶部83Cへ出力する。作業開始後は、2次元ソナー2の計測毎に更新されていく識別点a、b、c、dの3次元位置情報(推定値)を作業指令装置80Cの3次元位置情報記憶部83Cへ出力すると共に、2次元ソナー2及び3次元ソナー3の再計測の際に算出された識別点a、b、c、dの3次元位置情報及び障害物の3次元位置情報を作業指令装置80Cの3次元位置情報記憶部83Cへ出力する。
【0111】
作業指令装置80Cは、第1の実施形態の場合の作業設定部81、作業装置位置情報記憶部82、3次元位置情報記憶部83Cに加えて、干渉判定部85を有している。作業設定部81及び作業装置位置情報記憶部82の機能は、第1の実施形態の場合と同様なのでその説明を省略する。
【0112】
3次元位置情報記憶部83Cは、第1の実施形態の場合と同様に、作業開始前に3次元位置情報更新部59Cから出力される識別点の3次元初期位置及び作業開始後に3次元位置情報更新部59Cから逐次出力されて更新される識別点の3次元位置情報を記憶装置に記憶させる。さらに、作業開始前に3次元位置情報更新部59Cから出力される障害物の3次元位置情報及び作業開始後に3次元位置情報更新部59Cから出力された2次元ソナー2及び3次元ソナー3の再計測による識別点の3次元位置情報及び障害物の3次元位置情報を記憶装置に記憶させる。
【0113】
干渉判定部85は、作業アーム711が障害物に干渉するか否かの干渉判定を行うものである。具体的には、3次元位置情報記憶部83Cによって記憶されている作業開始前の障害物の3次元位置情報と識別点の3次元初期位置とを用いて作業アーム711と障害物との間の距離を演算する(
図15に示すステップS55)。さらに、3次元位置情報記憶部83Cによって記憶されている作業開始前の障害物の3次元位置情報と作業開始後に更新さていてく識別点の3次元位置情報とを用いて作業アーム711と障害物との間の距離を演算し、演算結果の距離を予め設定した閾値と比較することで作業アーム711が障害物に干渉するか否かの干渉判定を行う(
図15に示すステップS135C)。また、3次元位置情報記憶部83Cによって記憶されている作業開始後の2次元ソナー2及び3次元ソナー3の再計測による障害物の3次元位置情報と識別点の3次元初期位置とを用いて作業アーム711と障害物との間の距離を演算し(
図15に示すステップS190)、演算結果の距離を閾値と比較することで作業アーム711が障害物に干渉するか否かの干渉判定を行う(
図15に示すステップS200)。干渉判定部85は、判定結果を作業設定部81Cへ出力する。
【0114】
作業設定部81Cは、干渉の可能性あり(
図15に示すステップS135CにてYES)と干渉判定部85が判定した場合には、作業の中断又は干渉の警告(
図13に示すステップS150C)を行う指令を出力する。さらに、2次元ソナー2及び3次元ソナー3の再計測による干渉の可能性の再判定(
図15に示すステップS160~S200)の実行を指令する。
【0115】
上述した第3の実施形態に係る水中作業方法及び水中作業システムによれば、第1の実施形態の場合と同様に、作業装置71の作業中に2次元ソナー2の計測により2次元画像を収録して第1モニタ6(表示装置)に表示するので、作業中に3次元画像を収録して表示させる場合よりも、水中作業の可視化に要する時間を減らすことができる。また、作業開始前の3次元画像から算出する3次元初期位置を起点に作業中に更新される2次元画像の識別点a、b、c、dの2次元位置情報を用いることで識別点a、b、c、dの作業中の3次元位置情報を推定して更新するので、2次元画像からは計測不能な識別点(監視対象)の3次元位置情報を把握することができる。これらのことから、水中作業を可視化して行う場合に監視対象の正確な位置の把握と共に濁水中の作業速度の低下を抑制することができる。
【0116】
また、本実施の形態に係る水中作業方法においては、作業開始前の2次元ソナー2及び3次元ソナー3(計測装置)の計測によって作業装置71の作業の妨げになる障害物を計測した場合、作業開始前の3次元画像から得られる障害物の3次元位置情報および作業開始後の識別点a、b、c、dの3次元位置情報の推定演算で得られる情報を用いることで作業装置71から障害物までの距離を演算し、演算結果の距離が予め設定した閾値以下であるか否かを判定する干渉判定を行う。
【0117】
また、本実施の形態に係る水中作業システムにおける水中作業監視システム1Cは、作業開始前の2次元ソナー2及び3次元ソナー3(計測装置)の計測によって作業装置71の作業の妨げになる障害物が計測された場合には、作業開始前に収録された3次元画像から得られる障害物の3次元位置情報および作業開始後の識別点a、b、c、dの3次元位置情報の推定演算で得られる情報を用いることで、作業中における作業装置から障害物までの距離を演算し、演算結果の距離が予め設定した閾値以下であるか否かを判定する干渉判定を行うように構成されている。
【0118】
この方法及びこの構成によれば、作業開始後の識別点a、b、c、dの3次元位置情報の推定演算で得られる情報を用いて作業中の作業装置71と障害物との距離を演算することで作業装置71と障害物の干渉判定を行うので、作業装置71の障害物に対する接触を回避することが可能となる。
【0119】
また、本実施の形態に係る水中作業方法においては、計測装置が超音波の発信により3次元位置情報を計測可能な3次元ソナー3である。また、前記干渉判定において演算結果の距離が前記閾値以下であると判定された場合には、作業装置71の作業を中断し、2次元ソナー2の計測により2次元画像を収録すると共に3次元ソナー3の計測により3次元画像を再収録し、作業中断後の3次元画像から得られる障害物の3次元位置情報および識別点a、b、c、dの3次元位置情報を用いることで、作業装置71から障害物までの作業中断後の距離を演算し、演算結果の作業中断後の距離が前記閾値以下であるか否かを判定する干渉再判定を行う。
【0120】
また、本実施の形態に係る水中作業システムにおいては、計測装置が超音波の発信により3次元位置情報を計測可能な3次元ソナー3である。さらに、水中作業監視システム1Cは、前記干渉判定において演算結果の距離が閾値以下であると判定されることで作業装置71の作業が中断された場合に、作業中断後に3次元ソナー3の計測により再収録された3次元画像から得られる障害物の3次元位置情報および識別点a、b、c、dの3次元位置情報を用いることで、作業装置71から障害物までの作業中断後の距離を演算し、演算結果の作業中断後の距離が閾値以下であるか否かを判定する干渉再判定を行うように構成されている。
【0121】
この方法及びこの構成によれば、作業中断後に再収録された3次元画像から得られる障害物及び識別点a、b、c、dの3次元位置情報を用いて作業装置71と障害物との距離を演算して作業装置71と障害物の干渉再判定を行うことで、正確な干渉判定を行うことができるので、作業再開の可否の適切な判定が可能となる。
【0122】
また、本実施の形態に係る水中作業方法においては、前記干渉再判定において演算結果の作業中断後の距離が閾値を超えていると判定した場合には、作業装置71の作業を再開する。一方、前記干渉再判定において演算結果の作業中断後の距離が閾値以下であると判定した場合には、作業装置71の作業計画を変更する。
【0123】
この方法によれば、作業中断後に再収録された3次元画像から得られる障害物及び識別点a、b、c、dの3次元位置情報を用いた干渉再判定の判定結果に応じて作業再開の可否を判定しているので、妥当な判定により効率的な運用が可能となる。
【0124】
[その他]
なお、本発明は、上述した第1~第3の実施形態及びその変形例に限られるものではなく、様々な変形例が含まれる。上述した実施形態は本発明をわかり易く説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。例えば、ある実施形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加、削除、置換をすることも可能である。
【0125】
例えば、上述した第2の実施形態と第3の実施形態とを組み合わせる構成及び方法も可能である。すなわち、第2の実施形態における
図14に示す作業指令装置80Bの誤差判定部84による誤差判定(
図13に示すステップS135)と第3の実施形態における
図16に示す作業指令装置80Cの干渉判定部85による干渉判定(
図15に示すステップS135C)の両方を実行する構成及び方法も可能である。この場合、作業指令装置は、誤差判定部84及び干渉判定部85の機能部を有し、
図13に示すフローチャートと
図15に示すフローチャートとを組み合わせる。ただし、
図13に示すステップS135の誤差判定を
図15に示すステップS135Cの干渉判定よりも前に実行することが好ましい。
【0126】
また、上述した実施形態においては、監視対象の作業アーム711に対して平板状の2枚の反射板715、716を設置した例を示した。しかし、反射板の枚数は3枚以上も可能である。また、反射板の形状は、平板以外に、十字型や格子型、球や半球形状なども可能である。また、反射板は、内部の媒質を空気にして反射板の材質との音響インピーダンスの比を大きくして反射率を上げる構成も可能である。
【0127】
また、上述した実施形態においては、2次元ソナー2及び3次元ソナー3がそれぞれ1台である構成の例を示した。しかし、2次元ソナー2及び3次元ソナー3は、2台以上の構成とすることも可能である。
【符号の説明】
【0128】
1、1A、1B、1C…水中作業監視システム、 2…2次元超音波ソナー、 2A…兼用ソナー(超音波ソナー)、 3…3次元超音波ソナー(計測装置)、 5、5C…作業監視装置、 6…第1モニタ(表示装置)、 80、80B、80C…作業指令装置、 71、71B…作業装置、 717…姿勢センサ