(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-11-07
(45)【発行日】2024-11-15
(54)【発明の名称】情報伝達システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20241108BHJP
B66C 13/00 20060101ALI20241108BHJP
B66C 13/46 20060101ALI20241108BHJP
H04N 5/74 20060101ALI20241108BHJP
【FI】
H04N7/18 D
B66C13/00 D
B66C13/46 D
H04N5/74 Z
H04N7/18 K
H04N7/18 U
(21)【出願番号】P 2024067048
(22)【出願日】2024-04-17
【審査請求日】2024-04-17
【早期審査対象出願】
(73)【特許権者】
【識別番号】508359239
【氏名又は名称】株式会社東研機械製作所
(73)【特許権者】
【識別番号】524150063
【氏名又は名称】株式会社Regnio
(74)【代理人】
【識別番号】100165179
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100126664
【氏名又は名称】鈴木 慎吾
(74)【代理人】
【識別番号】100135301
【氏名又は名称】梶井 良訓
(72)【発明者】
【氏名】矢原 肇也
(72)【発明者】
【氏名】中野 雅俊
【審査官】西島 篤宏
(56)【参考文献】
【文献】特開2024-018270(JP,A)
【文献】中国特許出願公開第114803869(CN,A)
【文献】国際公開第2021/131500(WO,A1)
【文献】特開2017-015872(JP,A)
【文献】中国特許出願公開第116092249(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B66C 13/00
B66C 13/46
H04N 5/74
(57)【特許請求の範囲】
【請求項1】
撮像部によって撮像された画像を取得する取得部と、
前記画像から、学習済みの物体を認識する画像認識部と、
前記画像認識部による認識の結果に基づき、光学的投影装置を制御して前記光学的投影装置に像を投影させる制御部と、を備え
、
前記像が投影される投影面の少なくとも一部は、前記撮像部の撮像範囲に含まれており、
前記制御部は、前記光学的投影装置が、前記画像に前記像の少なくとも一部が映り込む投影期間に撮像された前記画像に基づいた前記像の投影を行わないように、前記光学的投影装置を制御し、
前記画像認識部は、前記像を認識可能に学習されており、
前記制御部は、前記取得部によって取得された前記画像が、前記画像認識部によって前記像の少なくとも一部が認識された特定画像に該当する場合、当該特定画像に基づいた前記像の投影を行わないように、前記光学的投影装置を制御する、
情報伝達システム。
【請求項2】
歪補正部をさらに備え、
前記取得部は、前記投影面の三次元情報を取得し、
前記歪補正部は、前記投影面の三次元情報に基づいて前記投影面の形状を算出するとともに、算出した前記投影面の形状に基づいて前記画像を補正し、
前記画像認識部は、前記歪補正部によって補正された前記画像に基づき、前記像の認識を行う、
請求項
1に記載の情報伝達システム。
【請求項3】
前記撮像部および前記光学的投影装置をさらに備え、
前記撮像部は、上方から下向きに前記画像を撮像し、
前記光学的投影装置は、上方から下向きに前記像を投影する、
請求項1
または2に記載の情報伝達システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報伝達システムに関する。
【背景技術】
【0002】
従来、作業現場で用いられるクレーンが知られている(例えば、特許文献1を参照)。このような作業現場には、クレーンを操作するクレーン操作者や、クレーンの吊り具を吊り上げ対象物(吊り荷)に取り付ける地上作業者等、様々な人員が存在し得る。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記のような作業現場においては、例えば吊り荷の状態等に応じて、クレーン操作者や地上作業者等の人員に所定の情報(例えば、作業内容の指示や安全性に基づく警報等)の伝達を行うことが望まれる場合がある。これを実現する方法としては、例えば、作業現場に存在する物体(例えば、吊り荷や地上作業者)を画像認識し、画像認識の結果に基づいて音声を生成し、生成した音声によって人員に情報を伝達することが考えられる。しかしながら、騒音が大きな作業現場(環境)においては、音声による情報伝達が困難である場合がある。
【0005】
本発明は、このような事情を考慮してなされ、騒音が大きな環境においても情報を伝達しやすい情報伝達システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明の態様1に係る情報伝達システムは、撮像部によって撮像された画像を取得する取得部と、前記画像から、学習済みの物体を認識する画像認識部と、前記画像認識部による認識の結果に基づき、光学的投影装置を制御して前記光学的投影装置に像を投影させる制御部と、を備える。
【0007】
また、本発明の態様2は、態様1の情報伝達システムにおいて、前記像が投影される投影面の少なくとも一部は、前記撮像部の撮像範囲に含まれており、前記制御部は、前記光学的投影装置が、前記画像に前記像の少なくとも一部が映り込む投影期間に撮像された前記画像に基づいた前記像の投影を行わないように、前記光学的投影装置を制御する。
【0008】
また、本発明の態様3は、態様2の情報伝達システムにおいて、前記画像認識部は、前記像を認識可能に学習されており、前記制御部は、前記取得部によって取得された前記画像が、前記画像認識部によって前記像の少なくとも一部が認識された特定画像に該当する場合、当該特定画像に基づいた前記像の投影を行わないように、前記光学的投影装置を制御する。
【0009】
また、本発明の態様4は、態様3の情報伝達システムにおいて、歪補正部をさらに備え、前記取得部は、前記投影面の三次元情報を取得し、前記歪補正部は、前記投影面の三次元情報に基づいて前記投影面の形状を算出するとともに、算出した前記投影面の形状に基づいて前記画像を補正し、前記画像認識部は、前記歪補正部によって補正された前記画像に基づき、前記像の認識を行う。
【0010】
また、本発明の態様5は、態様1から態様4のいずれか一つの情報伝達システムにおいて、前記撮像部および前記光学的投影装置をさらに備え、前記撮像部は、上方から下向きに前記画像を撮像し、前記光学的投影装置は、上方から下向きに前記像を投影する。
【発明の効果】
【0011】
本発明の上記態様によれば、騒音が大きな環境においても情報を伝達しやすい情報伝達システムを提供できる。
【図面の簡単な説明】
【0012】
【
図1】実施形態に係る情報伝達システムが適用される対象の一例を示す図である。
【
図2】実施形態に係る情報伝達システムの構成の一例を示すブロック図である。
【
図3】実施形態に係る光学的投影装置が投影する像の一例を示す図である。
【
図4】
図1に示すクレーンに対して実施形態に係る撮像部、三次元センサ、および光学的投影装置を取り付ける方法の一例を示す図である。
【
図5】投影面の形状に応じた像のひずみの一例を示す図である。
【
図6】実施形態に係る歪補正部によるひずみの補正の一例を示す図である。
【
図7】実施形態に係る画像取得部が取得する画像、および画像認識部による画像認識の一例を示す図である。
【
図8】実施形態に係る情報伝達システムが行う処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態に係る情報伝達システムについて、図面に基づいて説明する。
【0014】
<クレーンの構成、および情報伝達システムの概要>
本実施形態に係る情報伝達システム100は、例えばクレーン(クレーン設備)等の対象に適用され、対象を用いた作業に係る情報を人員に伝達するためのシステムである。
図1に示すクレーン(クレーン設備)1は、情報伝達システム100が適用される対象の一例である。ただし、クレーンの具体的な構成は
図1の例に限られず、適宜変更可能である。また、情報伝達システム100の適用対象はクレーンでなくてもよく、適宜変更可能である。
【0015】
以下、重力に沿う方向(すなわち、鉛直方向)を重力方向Zと称する。重力方向Zにおける上方を、+Zの向きで表し、単に「上方」と称する。重力方向Zにおける下方を、-Zの向きで表し、単に「下方」と称する。また、重力方向Zに交差する(例えば、直交する)一方向を、第1方向Xと称する。第1方向Xにおける一方の向きを、+Xの向きで表し、「右方」と称する。+Xの向きとは反対の向きを、-Xの向きで表し、「左方」と称する。重力方向Zおよび第1方向Xの双方に交差する(例えば、直交する)方向を、第2方向Yと称する。第2方向Yにおける一方の向きを、+Yの向きで表し、「前方」と称する。+Yの向きとは反対の向きを、-Yの向きで表し、「後方」と称する。第1方向Xおよび第2方向Yは、重力方向Zに直交する方向(すなわち、水平方向)であってもよい。
【0016】
図1に示すクレーン1は、吊り具22(後述)によって吊り荷Lを吊り上げる装置である。吊り荷Lは、クレーン1によって吊り上げられる対象であり、例えば板状の部材であってもよい。以下では、吊り荷Lが、平面視において長方形状を有する板状の鋼材である場合を例に挙げて説明を行う。ただし、吊り荷Lの種類や形状は適宜変更可能である。
【0017】
クレーン1は、一対のレール2と、一対のガーダー3と、一対の移動部4と、巻き上げ装置5と、ロープ6と、シーブ7と、フック8と、トロリ10と、掛止機構20と、を備える。掛止機構20は、ロープ21と、一対の吊り具22(ハッカー)と、を有する。クレーン1は、クレーン操作者U´が操作部9を操作することによって動作する。
【0018】
一対のレール2の各々は、第2方向Yに延びている。一対のレール2は、第1方向Xにおいて間隔をあけて配されている。レール2は、移動部4の第2方向Yにおける移動(後述)を案内する。
【0019】
一対のガーダー3の各々は、第1方向Xに延びている。一対のガーダー3は、第2方向Yにおいて間隔をあけて配されている。ガーダー3は、トロリ10の第1方向Xにおける移動(後述)を案内する。
【0020】
一対の移動部4は、一対のガーダー3の、第1方向Xにおける両端部に設けられている。より具体的に、一対の移動部4のうち一方は、一対のガーダー3の右側(+X側)端部同士を接続するように設けられており、一対の移動部4のうち他方は、一対のガーダー3の左側(-X側)端部同士を接続するように設けられている。
【0021】
移動部4(およびそれに接続されたガーダー3)は、例えばクレーン操作者U´が操作部9に対して行った操作に応じて、レール2に沿って第2方向Yに移動する。具体的には、移動部4を動かすためのモータ等を有する駆動機構(不図示)がクレーン1に設けられ、クレーン操作者U´が操作部9に対して行った操作に応じて当該駆動機構が駆動されてもよい。
【0022】
トロリ10は、一対のガーダー3をまたぐように、一対のガーダー3の上に設けられている。トロリ10は、クレーン操作者U´が搭乗する運転室を有していてもよいし、運転室を有していなくてもよい。
【0023】
トロリ10は、例えばクレーン操作者U´が操作部9に対して行った操作に応じて、ガーダー3に沿って第1方向Xに移動する。具体的には、トロリ10を動かすためのモータ等を有する駆動機構(不図示)がクレーン1に設けられ、クレーン操作者U´が操作部9に対して行った操作に応じて当該駆動機構が駆動されてもよい。
【0024】
巻き上げ装置5は、トロリ10に設けられている。巻き上げ装置5には、先端にシーブ(滑車)7が接続されたロープ6が取り付けられている。巻き上げ装置5は、ロープ6の巻き上げおよび巻き下げを行うためのモータ等(不図示)を有する。なお、「巻き上げ」は、シーブ7が上方に移動するようにモータを駆動させる動作を意味する。「巻き下げ」は、シーブ7が下方に移動するようにモータを駆動させる動作を意味する。
【0025】
巻き上げ装置5は、例えばクレーン操作者U´が操作部9に対して行った操作に応じて、ロープ6の巻き上げおよび巻き下げを行う。具体的には、クレーン操作者U´が操作部9に対して行った操作に応じて巻き上げ装置5が備えるモータ等が駆動されてもよい。
【0026】
掛止機構20は、吊り荷Lを掛止する(引っ掛ける)ための機構である。掛止機構20は、シーブ7に設けられたフック8に吊り下げられている。具体的には、掛止機構20が有するロープ21の中央部が、フック8に吊り下げられている。一対の吊り具22は、ロープ21の両端に接続されている。
【0027】
各吊り具22は、基部22bと、一対の爪部22aと、を有する。各爪部22aは、掛止機構20に吊り荷Lを掛止する際に、吊り荷Lの下面と接触して吊り荷Lを支持する部位である。
【0028】
本実施形態においては、一対の吊り具22のうち一方が有する爪部22aは、吊り荷Lが有する一方の長辺に掛止され、一対の吊り具22のうち他方が有する爪部22aは、吊り荷Lが有する他方の長辺に掛止される。すなわち、掛止機構20に吊り荷Lが掛止される状態において、一対の吊り具22は、吊り荷Lの短手方向において互いに対向する。また、各吊り具22において、一対の爪部22aは、水平方向(吊り荷Lの長手方向)に間隔をあけて配される。したがって、掛止機構20に吊り荷Lが掛止される際は、一対の吊り具22が有する4つの爪部22aの各々が、吊り荷Lの下面に接触して吊り荷Lを支持する。ただし、吊り荷Lを掛止可能であれば、掛止機構20(吊り具22)の構成は適宜変更可能である。
【0029】
本実施形態において、吊り荷Lに対する吊り具22の取り外しは、地上作業者(地上玉掛け作業者)Uによって行われる。地上作業者Uは、地上で作業を行う作業者である。地上作業者Uは、例えば、クレーン操作者U´とは異なる人員である。
【0030】
操作部9は、クレーン操作者U´による操作を受け付ける。操作部9は、クレーン1を操作するための物理的機構(レバーやボタン等)であってもよいし、クレーン1を操作するための情報処理端末等であってもよい。
【0031】
地上作業者Uが吊り荷Lを掛止機構20(吊り具22)に掛止させた後、クレーン操作者U´が操作部9を操作してロープ6の巻き上げを行うことで、吊り荷Lは掛止機構20(吊り具22)に吊り上げられ、上昇する。この状態において、クレーン操作者U´は、操作部9を操作することで、トロリ10および/または移動部4(ガーダー3)を動かす。すると、掛止機構20に吊り下げられた吊り荷Lは、第1方向Xおよび/または第2方向Yに移動する。つまり、吊り荷Lは、トロリ10が第1方向Xに移動することに伴って第1方向Xに移動し、移動部4(ガーダー3)が第2方向Yに移動することに伴って第2方向Yに移動する。
【0032】
以下、トロリ10の移動に伴う、第1方向Xにおける吊り荷L(クレーン1)の移動を「横行」と称する場合がある。また、移動部4(ガーダー3)の移動に伴う、第2方向Yにおける吊り荷L(クレーン1)の移動を「走行」と称する場合がある。すなわち、本実施形態においては、第1方向Xは吊り荷L(クレーン1)の横行の方向に一致し、第2方向Yは吊り荷L(クレーン1)の走行の方向に一致する。
【0033】
本実施形態に係る情報伝達システム100は、上記のようなクレーン1において撮像された画像IMに対して画像認識を行い、画像認識した結果に基づく像Pを投影する。これにより、地上作業者Uやクレーン操作者U´等の人員に対して、画像IMに基づいた情報が伝達される。人員に伝達される情報の例としては、吊り具22からの吊り荷Lの落下(荷崩れ)に伴う事故発生の危険を知らせる情報(すなわち、警報)や、次に行うべき作業や行動を示す情報(すなわち、指示情報)等が挙げられる。例えば、吊り荷L、吊り具22、および地上作業者Uが含まれる画像IMが取得され、当該画像IMから、吊り荷L、吊り具22、および地上作業者Uが画像認識される。そして、画像認識された情報に基づき、警報や指示情報等を表す像Pが投影される。
【0034】
以下、これらの画像認識や像Pの投影を行う情報伝達システム100が備える各種の構成や、情報伝達システム100が行う処理について、詳細に説明する。また、以下の説明においては、像Pが投影される面を投影面S(例えば、
図5を参照)と称する。投影面Sは、例えば、クレーン1が設置される現場の床面や壁面等であってもよい。ただし、投影面S(すなわち、像Pを投影する位置)は適宜変更可能である。
【0035】
<情報伝達システムの構成>
図2は、本実施形態に係る情報伝達システム100の構成の一例を示すブロック図である。本実施形態に係る情報伝達システム100は、端末装置200と、撮像部301と、三次元センサ302と、光学的投影装置303と、を備える。
【0036】
撮像部301は、クレーン1において、撮像対象を含む画像IM(例えば、
図7を参照)を撮像する。撮像対象は、例えば、地上作業者Uと、吊り具22と、吊り荷Lと、を含んでいてもよい。撮像部301は、例えば、画像IMを撮像するためのカメラを少なくとも一つ含んでいてもよい。本実施形態においては、撮像部301による撮像範囲に、投影面S(像P)の少なくとも一部が含まれている(例えば、
図5を参照)。また、本実施形態に係る撮像部301は、上方から下向きに画像IMを撮像する(例えば、
図4および
図5を参照)。撮像部301は、撮像した画像IMを、端末装置200が有する画像取得部211(後述)に出力する。
【0037】
三次元センサ302は、像Pが投影される投影面S(例えば、
図5を参照)の三次元情報を測定する。投影面Sの三次元情報は、投影面Sの三次元的な位置の情報や投影面Sの三次元的な形状の情報を含む。三次元センサ302は、例えば、対象物に光を照射して得られる反射光を用いて対象物までの距離を測定するLiDARを有していてもよい。三次元センサ302は、測定した三次元情報を、端末装置200が有する三次元情報取得部212(後述)に出力する。
【0038】
光学的投影装置303は、端末装置200が有する制御部240(後述)による制御に応じて、投影面Sに光を照射し、投影面Sに像Pを投影する。光学的投影装置303は、例えば、ライト(レーザー光源やLED光源等)やプロジェクター等を含んでいてもよい。像Pは、例えば図形の情報であってもよいし、文字の情報であってもよいし、これら双方を含んだ情報であってもよい。光の照射によって投影され、視覚的に認識可能であれば、像Pの具体的な態様は適宜変更可能である。同様に、像Pを投影するための光学的投影装置303の具体的な態様は適宜変更可能である。
【0039】
図3は、光学的投影装置303が投影する像Pの一例を示す図である。
図3の例において、光学的投影装置303は複数のライトであり、像Pは、円状に配列された複数の円を含む。
図3の例における光学的投影装置303は、像Pを、上方から下向きに、吊り荷Lの周辺に投影している。つまり、
図3の例において、投影面Sの位置は、吊り荷L(吊り荷Lの上面)の少なくとも一部が投影面Sに含まれるように選択されている。吊り具22は、クレーン1によって吊り上げられた際においても、地上作業者Uの目よりも下方に位置するのが一般的である。したがって、このように吊り荷Lの周辺(吊り荷Lの上面)に情報伝達手段としての像Pを投影することで、情報伝達手段としての像Pを地上作業者Uに視認させやすくなる。
【0040】
撮像部301、三次元センサ302、および光学的投影装置303は、クレーン1に設けられる(取り付けられる)。撮像部301、三次元センサ302、および光学的投影装置303は、例えばトロリ10に設けられていてもよい。
図1に示すように、地上作業者U、吊り具22、および吊り荷Lはトロリ10の直下付近に位置する。このため、撮像部301をトロリ10に設けることで、これらの撮像対象を含む画像IMを容易に撮像することできる。同様に、三次元センサ302をトロリ10に設けることで、投影面S(例えば、吊り荷Lの周辺)の三次元情報の測定を容易に行うことができる。また、光学的投影装置303をトロリ10に設けることで、吊り荷Lの周辺(吊り荷Lの上面)への像Pの投影を容易に行うことができる。
【0041】
図4は、トロリ10に対して撮像部301、三次元センサ302、および光学的投影装置303を取り付ける方法の一例を示す図である。ただし、撮像部301、三次元センサ302、および光学的投影装置303をクレーン1(トロリ10)に取り付ける方法は適宜変更可能である。
【0042】
図4に示すように、本実施形態に係る情報伝達システム100においては、トロリ10に、枠状の取り付け治具Jが取り付けられる。取り付け治具Jがトロリ10に取り付けられた状態において、取り付け治具Jはトロリ10から下方に向けて延出し、取り付け治具Jの下端はガーダー3の下端よりも下方に位置する。そして、取り付け治具Jのうちガーダー3よりも下方に位置する部分に、撮像部301、三次元センサ302、および光学的投影装置303が、下方を向くように取り付けられている。なお、図示の例における撮像部301は、2つのカメラを含む。
【0043】
撮像部301をガーダー3よりも下方に位置させることで、撮像部301の撮像範囲にガーダー3が入り込むことを防ぐことができる。同様に、三次元センサ302をガーダー3よりも下方に位置させることで、三次元センサ302による検出範囲にガーダー3が入り込むことを防ぐことができる。また、光学的投影装置303をガーダー3よりも下方に位置させることで、光学的投影装置303からの光がガーダー3に遮られて像Pが欠けることを防ぐことができる。
【0044】
端末装置200(
図2参照)は、例えばパーソナルコンピュータ等の情報処理端末を用いて構成される。端末装置200は、クレーン1(例えば、トロリ10)に設けられてもよいし、クレーン1の外部に設けられてもよい。
図2に示すように、端末装置200は、取得部210と、記憶部220と、処理部230と、制御部240と、を備える。取得部210は、例えば、画像取得部211と、三次元情報取得部212と、を備える。
【0045】
画像取得部211は、撮像対象を含む画像IM(例えば、
図7を参照)を取得する。撮像対象は、例えば、地上作業者Uと、吊り具22と、吊り荷Lと、を含んでいてもよい。画像取得部211は、例えば、撮像部301から出力された画像IMを取得する。また、画像取得部211は、取得した画像IMを、処理部230に出力する。
【0046】
三次元情報取得部212は、投影面Sの三次元情報を取得する。三次元情報取得部212は、例えば、三次元センサ302から出力された投影面Sの三次元情報を取得する。また、三次元情報取得部212は、取得した投影面Sの三次元情報を、処理部230に出力する。
【0047】
記憶部220は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、SDカード、レジスタ、ハードディスクドライブなどによって実現される。記憶部220は、処理部230および制御部240によって使用されるデータを記憶する。記憶部220は、処理部230および制御部240が処理を行う際に必要となるデータを記憶する。記憶部220には、例えば、画像認識用モデル221と、伝達情報出力用データ222と、が格納されている。
【0048】
画像認識用モデル221は、処理部230(画像認識部232)による処理に用いられる学習済みモデルのパラメータや接続構造、関数特性等を示すデータである。画像認識用モデル221は、画像IMが入力されたときに、画像IMに含まれる学習済みの物体を認識するように学習されている。
【0049】
「学習済みの物体」とは、画像認識用モデル221によって画像認識可能に学習された物体である。本実施形態において、「学習済みの物体」には、上述した撮像対象(地上作業者U、吊り具22、吊り荷L)が含まれる。本実施形態に係る画像認識用モデル221は、画像IMが入力されたときに、地上作業者Uの位置と、吊り具22の位置と、吊り荷Lの位置と、を出力するように学習された第1学習済みモデル(不図示)を含む。第1学習済みモデルは、地上作業者Uの位置に加えて(または代えて)、地上作業者Uの状態を出力するように学習されていてもよい。すなわち、第1学習済みモデルは、地上作業者Uの位置および状態の少なくとも一方を出力するように学習されていてもよい。なお、「地上作業者Uの状態」とは、例えば、地上作業者Uの向きや、地上作業者Uの作業の状況(例えば、吊り具22を吊り荷Lに取り付ける作業を行っているか否か等)等の情報を含んでいてもよい。以下、「地上作業者Uの位置および状態の少なくとも一方、吊り具22の位置、ならびに吊り荷Lの位置」を総称して「認識対象情報」と称する場合がある。以下、画像IMから認識対象情報を認識する画像認識を、「第1の画像認識」と称する場合がある。第1学習済みモデルは、第1の画像認識を行うための学習済みモデルである。
【0050】
また、本実施形態に係る画像認識用モデル221は、上述した第1の画像認識に加えて、第2の画像認識が可能に学習されている。「第2の画像認識」は、画像IMから像P(より具体的には、像Pの位置および/または有無)を認識する画像認識である。本実施形態に係る画像認識用モデル221は、画像IMが入力されたときに、像Pの位置および/または有無を出力するように学習された第2学習済みモデル(不図示)を含む。第2学習済みモデルは、画像IMに像Pの一部が映り込んでいる場合において、このような像Pの一部を認識できるように学習されていてもよい。
【0051】
画像認識用モデル221(第1学習済みモデルおよび第2学習済みモデル)の作成は、複数の入力情報と、複数の入力情報と一対一に紐づけられた出力情報と、の組を教師データとして行われてもよい。ここで、「入力情報」には、画像IMが含まれる。「出力情報」には、認識対象情報と、像Pの位置および/または有無と、が含まれる。画像認識用モデル221の作成は、情報伝達システム100(端末装置200)によって行われてもよい。あるいは、情報伝達システム100とは別に設けられた学習装置によって画像認識用モデル221が作成された後、作成された画像認識用モデル221が記憶部220に格納されてもよい。画像認識用モデル221の学習(機械学習)の具体的な手法については特に限定されないが、例えば、CNNやRNN等のニューラルネットワーク(深層学習)等を用いてもよい。また、特開2022-102930号公報に開示された手法を用いて学習(機械学習)を行ってもよい。
【0052】
伝達情報出力用データ222は、処理部230(伝達情報出力部233)による処理に用いられるデータである。伝達情報出力用データ222は、認識対象情報に基づいて、伝達情報を出力するためのデータである。ここで、「伝達情報」は、光学的投影装置303によってどのような像Pを投影すべきか(すなわち、像Pによってどのような情報を伝達すべきか)に係る情報である。なお、伝達情報は、像Pを投影しないことを示す情報であってもよい。
【0053】
例えば、伝達情報出力用データ222は、認識対象情報と伝達情報とを結びつける条件を示す情報であってもよい。すなわち、伝達情報出力用データ222は、認識対象情報が入力されたときに、ルールベースで伝達情報を出力するためのものであってもよい。例えば、伝達情報出力用データ222は、「地上作業者Uの位置と吊り荷Lの位置とが所定の位置関係にある場合、警報に係る像Pを投影する」「地上作業者Uが所定の状態にある場合、次の作業内容を指示する像Pを投影する」等の条件を示す情報を含んでいてもよい。ただし、伝達情報出力用データ222が含む条件の情報は適宜変更可能である。
【0054】
あるいは、伝達情報出力用データ222は、認識対象情報が入力されたときに、伝達情報を出力するように学習された学習済みモデルであってもよい。この場合、伝達情報出力用データ222は、例えば、伝達情報出力部233による処理に用いられる学習済みモデルのパラメータや接続構造、関数特性等を示すデータであってもよい。伝達情報出力用データ222には、認識対象情報に加えて、画像IMや、吊り荷Lの三次元情報(高さ分布情報)に係る情報が入力されてもよい。「吊り荷Lの三次元情報(高さ分布情報)に係る情報」は、例えば、吊り荷Lの三次元情報(高さ分布情報)それ自体であってもよいし、吊り荷Lの三次元情報(高さ分布情報)を基にして算出される情報であってもよい。例えば、「吊り荷Lの三次元情報(高さ分布情報)に係る情報」は、吊り荷Lのたわみを示すたわみ情報であってもよい。たわみ情報の算出は、処理部230に備えられた算出部(不図示)によって行われてもよい。例えば、吊り荷Lのたわみ情報は、吊り荷Lのたわみの量や、たわみの形状を示す情報を含んでいてもよい。吊り荷Lの三次元情報は、三次元センサ302および三次元情報取得部212によって取得されてもよい。伝達情報出力用データ222は、複数の学習済みモデルを含んでいてもよい。伝達情報出力用データ222としての学習済みモデルは、上述した画像認識用モデル221と同様の方法によって作成されてもよい。
【0055】
処理部230は、例えば、歪補正部231と、画像認識部232と、伝達情報出力部233と、生成部234と、を備える。処理部230および制御部240の機能のうち一部または全部は、例えば、CPU(Central Processing Unit)などのプロセッサが、自身の記憶部に記憶されたプログラム(ソフトウェア)を実行することで実現される。また、これらの構成要素の機能のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)等のハードウェア(回路部:circuitryを含む)によって実現されていてもよいし、ソフトウェアとハードウェアの協働によって実現されていてもよい。プログラムは、予めHDD(Hard Disk Drive)やフラッシュメモリなどの記憶装置に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
【0056】
制御部240は、光学的投影装置303を制御し、光学的投影装置303に像Pを投影させる。制御部240は、例えば、処理部230(生成部234)が出力する制御信号に基づき、光学的投影装置303を制御する。
【0057】
歪補正部231は、三次元情報取得部212から取得した投影面Sの三次元情報に基づいて、投影面Sの形状を算出する。そして、歪補正部231は、算出した投影面Sの形状に基づいて、画像IMを補正する。
【0058】
投影面Sが、光学的投影装置303の投影方向に対して直交する平坦面(以下、「理想的な投影面」とも称する)である場合、投影面Sに投影される像Pにひずみ(形状の変化)は生じない。一方、投影面Sが理想的な投影面でない場合、投影面Sに投影された像Pの形状は、投影面Sの形状に応じて変化する。言い換えれば、像Pには、投影面Sの形状に応じたひずみが生じる。
図5は、投影面Sの形状に応じた像Pのひずみの一例を示す図である。
【0059】
図5においては、光学的投影装置303の投影方向が、重力方向Zに一致している。したがって、水平方向に延在する平坦面が、「理想的な投影面」に該当する。しかしながら、
図5に示す投影面Sは、水平方向に対して傾いた傾斜面であり、理想的な投影面には該当しない。より具体的に、
図5の投影面Sは、水平方向における一方向(以下、「傾斜方向」と称する)における位置が変化するにつれて重力方向Zにおける位置が変化するように傾斜した傾斜面である。このような投影面Sに投影された像Pは、投影面Sの傾斜方向に引き延ばされた形状となる。
【0060】
歪補正部231は、このような像Pのひずみを取り除くように、画像IMに対して画像処理(補正)を行う。
図6は、本実施形態に係る歪補正部231によるひずみの補正の一例を示す図である。
図6左側は、投影面Sに投影された像Pを示しており、上述したように、傾斜方向に引き延ばされた形状を有する。歪補正部231は、算出した投影面Sの形状に基づき、画像IM(像P)を傾斜方向に圧縮して画像(補正画像)IM´を出力する(
図6右側)。補正画像IM´に含まれる像(補正像)P´は、ひずみが取り除かれた形状を有する。すなわち、補正像P´は、光学的投影装置303が理想的な投影面に像Pを投影した場合における像Pに一致する。
【0061】
なお、
図5および
図6に示す例において投影面Sは傾斜面であったが、投影面Sがどのような形状であっても、投影面Sの三次元情報から投影面Sの形状を算出し、算出した形状に基づいて画像IMを補正することで、同様に像Pのひずみを取り除くことができる。
【0062】
画像認識部232(
図2参照)は、画像IMから、学習済みの物体を認識する。すなわち、画像認識部232は、画像IMを第1学習済みモデルに入力することで、第1の画像認識を行い、認識対象情報を出力する。また、画像認識部232は、歪補正部231によって補正された画像IM(すなわち、補正画像IM´)から、像Pを認識する。すなわち、画像認識部232は、補正画像IM´を第2学習済みモデルに入力することで、第2の画像認識を行い、像Pの位置および/または有無を出力する。
【0063】
図7は、本実施形態に係る画像取得部211が取得する画像IM、および画像認識部232による画像認識(第1の画像認識)の一例を示す図である。
図7に示す例において、画像認識部232は、認識対象情報として、地上作業者Uの位置B1、吊り具22の位置B2、および吊り荷Lの位置B3を、バウンディングボックスの形式で出力するとともに、地上作業者Uの向きDを出力している。なお、
図7の例において、画像IMには像Pが含まれておらず、画像認識部232は像Pを認識(検出)していない。
【0064】
伝達情報出力部233(
図2参照)は、画像認識部232から出力された認識対象情報と、伝達情報出力用データ222と、に基づき、伝達情報を出力する。例えば、伝達情報出力用データ222がルールベースで伝達情報を出力するためのものである場合、伝達情報出力部233は、画像認識部232から出力された認識対象情報と、伝達情報出力用データ222と、を照らし合わせることで、伝達情報を出力する。伝達情報出力用データ222が学習済みモデルである場合、伝達情報出力部233は、画像認識部232から出力された認識対象情報を学習済みモデルに入力することで、伝達情報を出力する。
【0065】
生成部234は、伝達情報出力部233から出力された伝達情報に基づき、制御部240が光学的投影装置303を制御するための制御信号を生成する。像Pが図形の情報を含む場合、生成部234が生成する制御信号は、例えば、当該図形の形状や色等に対応する情報を含んでいてもよい。像Pが文字の情報を含む場合、生成部234が生成する制御信号は、例えば、当該文字の内容やフォント、色等に対応する情報であってもよい。
【0066】
制御信号は、像Pを所定の期間投影させ続けるための情報であってもよい。制御信号は、像Pを所定の期間、所定の点滅速度で点滅させるための情報であってもよい。制御信号は、像Pを所定の期間投影させ続けつつ、所定のタイミングで瞬間的に像Pの投影をとりやめる(瞬間的に光学的投影装置303を消灯する)ための情報であってもよい。つまり、制御信号は、像Pが投影される投影期間と、像Pが投影されない非投影期間と、を制御するための情報であってもよい。本実施形態においては、撮像部301による撮像範囲に投影面Sの少なくとも一部が含まれているため、投影期間に撮像された画像IM(補正画像IM´)には、像Pの少なくとも一部が映り込むこととなる。
【0067】
生成部234が生成する制御信号の内容は、伝達情報の内容に応じて異なる。これにより、制御部240は、画像認識部232による認識の結果に基づき、光学的投影装置303を制御して光学的投影装置303に像Pを投影させる。例えば、制御部240は、光学的投影装置303に、画像認識部232による認識の結果に応じて異なる像Pを投影させる。
【0068】
ところで、画像IMに像Pの少なくとも一部が映り込んでいる場合、画像認識部232による第1の画像認識の精度が低下する可能性がある。例えば、地上作業者Uが円形のヘルメット等を装着しており、像Pが円形の光を含んでいる場合等においては、画像認識部232が、像Pの円形の光を、地上作業者Uであると誤認識する可能性がある。このような誤認識が発生すると、誤認識に基づいた制御信号が生成部234によって生成され、光学的投影装置303が本来の意図とは異なった像Pを投影する可能性がある。これは、情報の誤伝達を招き得る。
【0069】
この問題を解決すべく、上述した画像認識部232は、第2の画像認識において補正画像IM´から像Pの少なくとも一部が認識された場合、第1の画像認識を行わないように構成されていてもよい。言い換えれば、画像認識部232は、補正画像IM´が、特定画像に該当する場合、第1の画像認識を行わないように構成されていてもよい。ここで、特定画像は、画像認識部232によって像Pの少なくとも一部が認識された(すなわち、像Pの少なくとも一部が映り込んだ)画像である。
【0070】
この構成によれば、画像取得部211によって取得された画像IMが特定画像に該当する場合(すなわち、画像IMが投影期間に撮像されている場合)において、生成部234は、光学的投影装置303に像Pを投影させるための制御信号を、当該特定画像に基づいては新たに生成しないこととなる。したがって、制御部240は、画像取得部211によって取得された画像IMが特定画像に該当する場合(すなわち、画像IMが投影期間に撮像されている場合)、当該特定画像に基づいた像Pの投影を新たに行わないように、光学的投影装置303を制御することとなる。これにより、誤認識の可能性がある画像IMに基づいた像Pの投影を防ぎ、情報の誤伝達を防ぐことができる。
【0071】
<情報伝達システムが行う処理>
次に、本実施形態に係る情報伝達システム100において行われる処理の一例について説明する。
図8は、本実施形態に係る情報伝達システム100において行われる処理の一例を示すフローチャートである。
図8に示す処理は、例えば、ユーザが処理開始の指令を行うこと等によって開始する。例えば、クレーン操作者U´が操作部9を操作したり、ユーザが端末装置200を操作したりすることで、処理開始の指令が行われてもよい。
【0072】
(ステップS101)まず、ステップS101の処理が行われる。ステップS101の処理においては、画像取得部211が、撮像部301によって撮像された、撮像対象を含む画像IMを取得する。撮像対象は、例えば、地上作業者Uと、吊り具22と、吊り荷Lと、を含んでいてもよい。画像取得部211は、取得した画像IMを、処理部230に出力する。また、三次元情報取得部212は、三次元センサ302によって取得された投影面Sの三次元情報を取得する。三次元情報取得部212は、取得した投影面Sの三次元情報を、処理部230に出力する。ステップS101の処理が行われた後、ステップS102の処理が行われる。
【0073】
(ステップS102)ステップS102の処理においては、歪補正部231は、ステップS101の処理の出力(すなわち、投影面Sの三次元情報)に基づいて、投影面Sの形状を算出する。そして、歪補正部231は、算出した投影面Sの形状に基づいて、画像IMを補正する。ステップS102の処理が行われた後、ステップS103の処理が行われる。
【0074】
(ステップS103)ステップS103の処理においては、画像認識部232が、ステップS102の処理の出力(すなわち、補正画像IM´)に対して、第2の画像認識を行う。すなわち、画像認識部232が、補正画像IM´を第2学習済みモデルに入力することで、像Pの位置および/または有無を出力する。ステップS102の処理において画像IMが補正され、像Pのひずみが解消されているため、像Pを高い精度で画像認識できる。ステップS103の処理が行われた後、ステップS104の処理が行われる。
【0075】
(ステップS104)ステップS104の処理においては、ステップS103の処理の出力に基づき、画像IM(補正画像IM´)に像Pの少なくとも一部が映り込んでいるか否かが判断される。この判断は、例えば、処理部230(画像認識部232)によって行われてもよい。画像IM(補正画像IM´)に像Pの少なくとも一部が映り込んでいると判断された場合(ステップS104;YES)、ステップS101の処理が再び行われる。画像IM(補正画像IM´)に像Pの少なくとも一部が映り込んでいると判断されない場合(ステップS104;NO)、ステップS105の処理が行われる。
【0076】
(ステップS105)ステップS105の処理においては、画像認識部232が、ステップS101の処理の出力(すなわち、画像IM)に対して、第1の画像認識を行う。すなわち、画像認識部232が、画像IMを第1学習済みモデルに入力することで、認識対象情報を出力する。ステップS105の処理が行われた後、ステップS106の処理が行われる。
【0077】
(ステップS106)ステップS106の処理においては、伝達情報出力部233が、ステップS105の処理の出力(すなわち、認識対象情報)と、伝達情報出力用データ222と、に基づき、伝達情報を出力する。例えば、伝達情報出力用データ222がルールベースで伝達情報を出力するためのものである場合、伝達情報出力部233は、画像認識部232から出力された認識対象情報と、伝達情報出力用データ222と、を照らし合わせることで、伝達情報を出力する。伝達情報出力用データ222が学習済みモデルである場合、伝達情報出力部233は、画像認識部232から出力された認識対象情報を学習済みモデルに入力することで、伝達情報を出力する。ステップS106の処理が行われた後、ステップS107の処理が行われる。
【0078】
(ステップS107)ステップS107の処理においては、生成部234が、ステップS106の処理の出力(すなわち、伝達情報)に基づき、制御部240が光学的投影装置303を制御するための制御信号を生成する。上述したように、生成部234が生成する制御信号の内容は、伝達情報の内容に応じて異なる。ステップS107の処理が行われた後、ステップS108の処理が行われる。
【0079】
(ステップS108)ステップS108の処理においては、制御部240が、ステップS107の処理の出力(すなわち、制御信号)に基づき、光学的投影装置303を制御する。これにより、制御部240は、画像認識部232による認識の結果に基づき、光学的投影装置303を制御して光学的投影装置303に像Pを投影させる。上述したステップS104の処理を行うことで、ステップS108の処理においては、特定画像に基づく(より詳しくは、特定画像から撮像対象が画像認識されたことに起因する)像Pの投影が行われない。これにより、像Pの少なくとも一部を撮像対象であると誤認識することに起因した情報の誤伝達を防ぐことができる。
【0080】
(ステップS109)ステップS109の処理においては、ステップS101~ステップS108の処理を繰り返すか否かが判断される。この判断は、例えば、処理部230によって行われてもよい。例えば、ユーザからの繰り返し終了の指令があった場合に、繰り返しを終了すると判断し、ユーザからの繰り返し終了の指令がない場合に、繰り返しを終了しないと判断してもよい。クレーン1の作業が終了している場合には繰り返しを終了すると判断し、クレーン1の作業が終了していない場合には繰り返しを終了しないと判断してもよい。例えば、画像認識部232が、画像認識によってクレーン1の作業の終了を検知できるように構成してもよい。クレーン1の作業終了が検知された場合に、繰り返しを終了すると判断し、クレーン1の作業終了が検知されない場合に、繰り返しを終了しないと判断してもよい。
【0081】
繰り返しを終了するとの判断がなされた場合(ステップS109;YES)、フローチャートの処理を終了する。繰り返しを終了しないとの判断がなされた場合(ステップS109;NO)、ステップS101~ステップS108の処理が繰り返される。このようにステップS101~ステップS108の処理を繰り返すことで、例えばクレーン1が行う一連の作業を通じて、適切な像Pを投影し続け、情報の伝達を行うことができる。クレーン1が行う一連の作業とは、例えば、吊り荷Lの巻き上げと、吊り荷Lの移動(すなわち、横行および/または走行)と、吊り荷Lの巻き下げと、を含んでいてもよい。
【0082】
<総括>
以上説明した本実施形態によれば、光学的な像Pによって人員(例えば、地上作業者Uやクレーン操作者U´)に情報が伝達される。このため、騒音が大きな環境においても情報の伝達を行いやすい。また、像Pの少なくとも一部が含まれる画像IM(特定画像)に起因した像Pの投影がなされない。このため、像Pの少なくとも一部を撮像対象であると誤認識することに起因した情報の誤伝達を防ぐことができる。
【0083】
<変形例>
なお、本発明の技術的範囲は前記実施形態に限定されず、本発明の趣旨を逸脱しない範囲において種々の変更を加えることが可能である。
【0084】
例えば、前記実施形態では、第2の画像認識において画像IM(補正画像IM´)から像Pの少なくとも一部が認識された場合に、第1の画像認識を行わない例を説明したが、これに限られない。例えば、第2の画像認識において像Pの少なくとも一部が認識された場合において、第1の画像認識が行われてもよい。この場合においても、第2の画像認識において画像IM(補正画像IM´)から像Pの少なくとも一部が認識された際に、光学的投影装置303に像Pを投影させる旨の新たな制御信号の生成を生成部234が行わないように構成することで、上記実施形態と同様の作用効果が得られる。すなわち、像Pの少なくとも一部を撮像対象であると誤認識することに起因した情報の誤伝達を防ぐことができる。
【0085】
また、前記実施形態では、第2の画像認識に基づいて投影期間と非投影期間とが検知(識別)されていたが、これに限られない。例えば、生成部234による制御信号の内容を制御部240が参照することで、投影期間と非投影期間とが検知されてもよい。ただし、像Pの点滅(すなわち、投影期間と非投影期間との切り替え)が高速で行われる場合等においては、制御信号に基づいた投影期間および非投影期間の検知と、実際に取得される画像IMに像Pが含まれるか否かと、を同期させることが困難になる可能性がある。したがって、画像IMに対する画像認識によって検出される像Pの映り込みの有無に基づいて投影期間と非投影期間とを検知する、前記実施形態の構成がより好適である。
【0086】
また、前記実施形態では、第2の画像認識を行う前に、投影面Sの三次元情報に基づいた画像IMの補正がなされていたが、これに限られない。すなわち、投影面Sの三次元情報に基づいた画像IMの補正がなされなくてもよい。ただし、このような補正を行わない場合、投影面Sの形状に応じたひずみが像Pに残留し、第2の画像認識による像Pの認識の精度が低下する可能性がある。このため、第2の画像認識を行う前に画像IMの補正を行う前記実施形態の構成がより好適である。
【0087】
また、撮像部301の撮像方向および光学的投影装置303による像Pの投影方向は適宜変更可能である。ただし、上方から下向きに画像IMを撮像する形態は、地上作業者Uによる作業の状況を俯瞰的に撮像でき、作業状況の把握が行いやすい画像IMを取得できるためより好適である。
【0088】
また、端末装置200は、複数の端末装置を用いて実装されていてもよい。
【0089】
その他、本発明の趣旨を逸脱しない範囲で、上記した実施形態における構成要素を周知の構成要素に置き換えることは適宜可能であり、また、上記した実施形態や変形例を適宜組み合わせてもよい。
【符号の説明】
【0090】
100…情報伝達システム 210…取得部 231…歪補正部 232…画像認識部 240…制御部 301…撮像部 303…光学的投影装置 P…像 S…投影面 IM…画像
【要約】
【課題】騒音が大きな環境においても情報を伝達しやすい情報伝達システムを提供する。
【解決手段】情報伝達システムは、撮像部によって撮像された画像を取得する取得部と、前記画像から、学習済みの物体を認識する画像認識部と、前記画像認識部による認識の結果に基づき、光学的投影装置を制御して前記光学的投影装置に像を投影させる制御部と、を備える。
【選択図】
図2