(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024128473
(43)【公開日】2024-09-24
(54)【発明の名称】投影制御装置、投影システム、投影制御方法及びプログラム
(51)【国際特許分類】
H04N 5/74 20060101AFI20240913BHJP
G09G 5/00 20060101ALI20240913BHJP
G09G 5/32 20060101ALI20240913BHJP
【FI】
H04N5/74 Z
G09G5/00 510B
G09G5/00 550C
G09G5/32
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2023037461
(22)【出願日】2023-03-10
(71)【出願人】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110001254
【氏名又は名称】弁理士法人光陽国際特許事務所
(72)【発明者】
【氏名】高浜 徹
【テーマコード(参考)】
5C058
5C182
【Fターム(参考)】
5C058BA35
5C058EA02
5C182AA03
5C182AA04
5C182AB13
5C182AC02
5C182AC03
5C182AC37
5C182AC38
5C182BA14
5C182BA54
5C182BA56
5C182BB12
5C182CB42
5C182CB45
5C182DA65
(57)【要約】
【課題】より確実かつ適切に作業を支援することができる投影制御装置、投影システム、投影制御方法及びプログラムを提供する。
【解決手段】投影制御装置は、作業者に作業を指示するための指示画像と、作業者に指示画像の位置を認識させるための補助画像と、を投影装置により投影させる制御部を備える。プログラムは、コンピュータに、作業者に作業を指示するための指示画像と、作業者に指示画像の位置を認識させるための補助画像と、を投影装置により投影させる処理を実行させる。
【選択図】
図3
【特許請求の範囲】
【請求項1】
作業者に作業を指示するための指示画像と、前記作業者に前記指示画像の位置を認識させるための補助画像と、を投影装置により投影させる制御部を備える投影制御装置。
【請求項2】
前記制御部は、前記作業者の位置、視野、及び視線のうちの少なくとも1つの検出結果に基づいて前記補助画像の投影位置を決定し、決定した前記投影位置に、前記投影装置により前記補助画像を投影させる、
請求項1に記載の投影制御装置。
【請求項3】
前記制御部は、撮像装置により前記作業者を撮像した画像、又は、人感センサからの出力データに基づいて前記作業者の前記位置、前記視野、及び前記視線のうちの前記少なくとも1つを検出し、検出した前記位置、前記視野、及び前記視線のうちの前記少なくとも1つに基づいて前記補助画像の投影位置を決定する、
請求項2に記載の投影制御装置。
【請求項4】
前記制御部は、前記作業者の前記視野の検出結果に基づいて、前記視野の範囲内に前記補助画像の投影位置を決定する、
請求項2に記載の投影制御装置。
【請求項5】
前記制御部は、撮像装置により前記作業者の頭部を撮像した画像における前記頭部の位置及び向きに基づいて前記作業者の前記視野を検出する、
請求項4に記載の投影制御装置。
【請求項6】
前記制御部は、前記作業者の前記視線の検出結果に基づいて、前記補助画像の投影位置と前記視線とが所定の位置関係条件を満たすように前記投影位置を決定する、
請求項2に記載の投影制御装置。
【請求項7】
前記制御部は、決定した前記補助画像の投影位置に基づいて、当該補助画像が、当該補助画像の投影位置を基準とした前記指示画像の相対的な位置を表すものとなるように、投影させる前記補助画像の内容を決定する、
請求項2に記載の投影制御装置。
【請求項8】
前記制御部は、
所定の待機時間が経過した後、
検出された前記作業者の位置が、前記指示画像が投影されている作業領域内であるか否かを判別し、前記作業者の位置が前記作業領域内ではないと判別した場合に、前記投影装置により前記補助画像を投影させる、
請求項3に記載の投影制御装置。
【請求項9】
前記制御部は、
所定の待機時間が経過した後、
検出された前記作業者の視線の方向が、前記指示画像が投影されている投影可能領域内であるか否かを判別し、前記視線の方向が前記投影可能領域内ではないと判別した場合に、前記投影装置により前記補助画像を投影させる、、
請求項3に記載の投影制御装置。
【請求項10】
前記制御部は、
所定の待機時間が経過した後、
検出された前記作業者の視野に、前記指示画像が投影されている投影可能領域が入っているか否かを判別し、前記視野に前記投影可能領域が入っていないと判別した場合に、前記投影装置により前記補助画像を投影させる、
請求項3に記載の投影制御装置。
【請求項11】
前記制御部は、複数の作業者にそれぞれ作業を指示するための複数の指示画像と、前記複数の作業者に、前記複数の指示画像のうち各作業者に対応する指示画像の位置をそれぞれ認識させるための複数の補助画像と、を前記投影装置により投影させる、
請求項1に記載の投影制御装置。
【請求項12】
画像を投影する投影装置と、
作業者に作業を指示するための指示画像と、前記作業者に前記指示画像の位置を認識させるための補助画像と、を前記投影装置により投影させる制御部と、
を備える投影システム。
【請求項13】
コンピュータが実行する投影制御方法であって、
作業者に作業を指示するための指示画像と、前記作業者に前記指示画像の位置を認識させるための補助画像と、を投影装置により投影させる投影制御方法。
【請求項14】
コンピュータに、作業者に作業を指示するための指示画像と、前記作業者に前記指示画像の位置を認識させるための補助画像と、を投影装置により投影させる処理を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、投影制御装置、投影システム、投影制御方法及びプログラムに関する。
【背景技術】
【0002】
従来、工場や倉庫等の作業現場において、作業者が作業を行う位置に、作業を指示するための指示画像を投影装置により投影させることで、作業者による作業を支援する技術が知られている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、作業現場において作業者が作業を受け持つ作業スペースの広さや、作業者の位置又は向きによっては、作業者が、投影された指示画像を発見できなかったり、指示画像が投影されたことに気付かなかったりする場合がある。上記の従来技術には、このような場合において適切に作業を支援することができないという課題がある。
【0005】
本発明は、より確実かつ適切に作業を支援することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明に係る投影制御装置は、
作業者に作業を指示するための指示画像と、前記作業者に前記指示画像の位置を認識させるための補助画像と、を投影装置により投影させる制御部を備える。
【発明の効果】
【0007】
本発明によれば、より確実かつ適切に作業を支援することができる。
【図面の簡単な説明】
【0008】
【
図1】投影システムの構成を示すブロック図である。
【
図2】投影システムの各装置の作業現場における配置を示す側面図である。
【
図3】投影システムの各装置の作業現場における配置を示す正面図である。
【
図4】制御装置の機能構成を示すブロック図である。
【
図5】作業支援処理の制御手順を示すフローチャートである。
【
図6】作業支援処理において呼び出される補助画像投影準備処理の制御手順を示すフローチャートである。
【
図7】変形例1における補助画像投影準備処理の制御手順を示すフローチャートである。
【
図8】変形例1における指示画像及び補助画像の投影動作を示す図である。
【
図9】変形例2における補助画像投影準備処理の制御手順を示すフローチャートである。
【
図10】変形例2における指示画像及び補助画像の投影動作を示す図である。
【
図11】変形例3における指示画像及び補助画像の投影動作を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態を図面に基づいて説明する。
【0010】
<投影システムの構成>
図1は、本実施形態の投影システム1の構成を示すブロック図である。
投影システム1は、制御装置10(投影制御装置)と、複数の投影装置20a~20cと、複数の撮像装置30a~30cと、ピッキングセンサ41をそれぞれ有する複数の作業検出装置40a~40cと、を備える。投影装置20a~20c、撮像装置30a~30c、及び作業検出装置40a~40cは、それぞれ制御装置10との間でデータ通信が可能な状態で制御装置10に接続されている。上記データ通信の経路には、無線による通信経路が含まれていてもよい。以下では、投影装置20a~20cのうちの任意の1つを指す場合には「投影装置20」と記し、撮像装置30a~30cのうちの任意の1つを指す場合には「撮像装置30」と記し、作業検出装置40a~40cのうちの任意の1つを指す場合には「作業検出装置40」と記す。
【0011】
図2は、投影システム1の各装置の作業現場における配置を示す側面図である。
図3は、投影システム1の各装置の作業現場における配置を示す正面図である。
投影システム1は、工場、倉庫、建設現場、工事現場といった、作業者2が作業を行う作業現場に設けられる。投影システム1は、投影装置20により、作業者2に作業を指示するための指示画像60、及び、作業者2に指示画像60の位置を認識させるための補助画像70を投影することで、作業者2の作業を支援する。制御装置10は、撮像装置30から受信した撮像画像等のデータ、及び/又は作業検出装置40から受信した作業の検出結果に係るデータに基づいて、投影装置20による指示画像60及び補助画像70の投影動作を制御する。
【0012】
本実施形態では、複数の部品を用いて製品を組み立てる工場内に投影システム1が設けられている。工場における作業者2の作業スペースは、
図3に示す作業領域Ra~Rc(以下、これらのうちの任意の1つを指す場合には「作業領域R」と記す)に区分されており、作業スペースに入った作業者2は、任意の時点において、いずれかの作業領域Rにいるものとする。各作業領域Rには、互いに異なる部品がそれぞれ収納された複数の棚50(引出し)が設けられている。各作業領域Rにおいては、鉛直方向に3段、水平方向に3列の、計9個の棚50が設けられている。よって、作業スペースには、3つの作業領域Rにおいてそれぞれ9個、計27個の棚50が設けられている。作業者2は、これらの棚50から、指定された順序で指定された部品を取り出して製品を組み立てる。27個の棚50の配置範囲は、作業者2の視野範囲よりも広く、作業中の作業者2は、同時に全ての棚50を視認することができない。
【0013】
作業領域Raには、投影装置20a、撮像装置30a、及び作業検出装置40aが設けられている。作業領域Rbには、投影装置20b、撮像装置30b、及び作業検出装置40bが設けられている。作業領域Rcには、投影装置20c、撮像装置30c、及び作業検出装置40cが設けられている。なお、
図2及び
図3においては、制御装置10は図示が省略されている。制御装置10は、投影装置20等と同一のフロア内に設置されていてもよいし、別のフロアや遠隔地に設置されていてもよい。
【0014】
投影装置20は、制御装置10から送信された画像データ及び制御信号に従って投影面に画像を投影する。投影装置20は、光源と、光源から入射した光を画像データに応じて画素ごとに変調して光像を形成するデジタルマイクロミラー素子(DMD)等の表示素子と、表示素子により形成された光像を集光して投射する光学系等を備える。制御装置10から送信される制御信号により、画像の投影のオン/オフを切り替えたり、光源からの出射光量を調整して投影される画像の輝度を増減させたりすることができる。
【0015】
本実施形態の投影装置20は、超短焦点型のプロジェクタである。
図2に示すように、投影装置20は、棚50の前方斜め上方に設けられており、棚50の前面に向かって斜め下方向に投影光を投射することで棚50の前面(投影面)に画像を投影する。これにより、棚50の前に立って作業を行っている作業者2によって投影光が遮られないようにすることができる。投影装置20の投影方式や設置位置は、作業者2に投影光が遮られない態様であれば特に限定されない。例えば、投影装置20から略水平方向に投射した投影光をミラーにより所望の角度で反射させて棚50の前面に投影してもよい。
【0016】
図3に示すように、投影装置20aによる画像の投影可能領域raは、作業領域Raの9個の棚50の前面を包含している。投影装置20bによる画像の投影可能領域rbは、作業領域Rbの9個の棚50の前面を包含している。投影装置20cによる画像の投影可能領域rcは、作業領域Rcの9個の棚50の前面を包含している。以下、投影可能領域ra~rcのうちの任意の1つを指す場合には「投影可能領域r」と記す。
【0017】
部分的に所望の画像のデータを含み、残りの部分がマスクされている(すなわち、黒色に対応する画素値となっている)画像データに基づいて投影装置20に画像を投影させることで、投影可能領域rの一部に対して選択的に所望の画像を投影させることができる。例えば、投影可能領域rのうち或る棚50に対応する範囲に指示画像60又は補助画像70のデータを含み、残りの部分がマスクされた画像データを用いることで、上記或る棚50に選択的に指示画像60又は補助画像70を投影させることができる。このような画像データを予め複数用意しておき、所望の棚50に所望の画像を投影させるための画像データを制御装置10が都度選択して投影装置20に送信してもよい。あるいは、作業者2の作業の状況等に応じて、制御装置10のCPU11が、所望の棚50に所望の画像が投影されるような画像データをリアルタイムに生成して投影装置20に送信してもよい。
【0018】
撮像装置30は、作業スペースで作業を行う作業者2を撮像して、撮像画像を制御装置10に送信する。撮像装置30は、通常の2Dカメラと、撮像装置30から被写体までの距離に係る情報を含む深度画像を撮像可能な深度カメラとを有している。撮像装置30により撮像された深度画像に基づいて、撮像装置30から、写っている作業者2までの距離を特定することができる。各撮像装置30による撮像範囲と、投影可能領域rとの相対的な位置関係は、予め特定されて制御装置10の記憶部13(
図4参照)に記憶されている。
【0019】
また、撮像装置30は、撮像範囲に作業者2の目が入っている場合に、作業者2の視線81を検出することが可能であり、視線81の検出結果に係るデータを制御装置10に送信する。視線検出の方式としては、各種公知のものを用いることができる。例えば、目に弱い赤外線を当ててその反射光を撮像し、撮像画像における瞳孔と、瞳孔付近に現れるプルキニエ像(角膜表面における反射光)との位置関係に基づいて視線を検出する方法を用いてもよい。
図2及び
図3では、撮像装置30が床面に配置されているが、作業者2の視線を検出しやすい位置、例えば作業者2の目と略同一の高さに設けられていてもよい。
【0020】
作業検出装置40は、9個の棚50に対応する9個のピッキングセンサ41を備える。各ピッキングセンサ41は、対応する棚50から部品を取り出す作業を作業者2が行った場合に、当該作業の完了を検出する。例えば、ピッキングセンサ41は、棚50における部品の取り出し口を通る光路で赤外線を射出する発光部と、発光部から射出された赤外線の光量を検出する受光部とを備える。作業者2が棚50から部品を取り出す際には、赤外線が遮られるので、受光部による赤外線の検出光量が低減する。ピッキングセンサ41は、受光部による赤外線の光量が所定の閾値以下に低減した場合に、作業が完了したことを検出する。作業検出装置40は、各ピッキングセンサ41による検出結果を制御装置10に送信する。なお、ピッキングセンサ41による作業の完了の検出方法は、上記の方法に限られない。例えば、各棚50から部品を取り出す動作をカメラにより撮像し、得られた画像から作業の完了を検出してもよい。また、作業者2が所定のボタンを操作することで作業完了を自己申告する方法としてもよい。
【0021】
図4は、制御装置10の機能構成を示すブロック図である。
制御装置10は、CPU11(Central Processing Unit)と、RAM12(Random Access Memory)と、記憶部13と、操作部14と、表示部15と、通信部16と、バス17などを備える。制御装置10の各部は、バス17を介して接続されている。
【0022】
CPU11は、記憶部13に記憶されているプログラム131を読み出して実行し、各種演算処理を行うことで、制御装置10、投影装置20、撮像装置30及び作業検出装置40の動作を制御するプロセッサ(制御部)である。なお、制御装置10は、複数のプロセッサ(例えば、複数のCPU)を有していてもよく、本実施形態のCPU11が実行する複数の処理を、当該複数のプロセッサが実行してもよい。この場合には、複数のプロセッサにより制御部が構成される。この場合において、複数のプロセッサが共通の処理に関与してもよいし、あるいは、複数のプロセッサが独立に異なる処理を並列に実行してもよい。
【0023】
RAM12は、CPU11に作業用のメモリ空間を提供し、一時データを記憶する。
【0024】
記憶部13は、コンピュータとしてのCPU11により読み取り可能な非一時的な記録媒体であり、プログラム131及び各種データを記憶する。記憶部13は、例えばHDD(Hard Disk Drive)、SSD(Solid State Drive)等の不揮発性メモリを含む。プログラム131は、コンピュータが読み取り可能なプログラムコードの形態で記憶部13に格納されている。記憶部13に記憶されるデータとしては、指示画像データ132、補助画像データ133、及び作業管理データ134等がある。
指示画像データ132は、投影可能領域rの或る棚50に指示画像60を投影させる場合に投影装置20に送信される画像データである。
補助画像データ133は、投影可能領域rの或る棚50に補助画像70を投影させる場合に投影装置20に送信される画像データである。
作業管理データ134は、作業者2が行う作業の予定及び結果に係る情報を含む。作業管理データ134は、棚50から部品を取り出す複数の作業の実行順序と、各作業において取り出す部品が収納されている棚50を示す情報と、各作業が完了したか否かを示す情報等を含む。
【0025】
操作部14は、表示部15の表示画面に重ねられて設けられたタッチパネル、物理ボタン、マウスなどのポインティングデバイス、及びキーボードなどの入力装置のうち少なくとも1つを有し、入力装置に対する入力操作に応じた操作情報をCPU11に出力する。
【0026】
表示部15は、液晶ディスプレイなどの表示装置を備え、CPU11からの表示制御信号に従って表示装置において各種表示を行う。
【0027】
通信部16は、ネットワークカード又は通信モジュール等により構成され、投影装置20、撮像装置30、及び作業検出装置40との間で所定の通信規格に従ってデータの送受信を行う。
【0028】
<投影システム1の動作>
次に、投影システム1の動作について説明する。
投影システム1の制御装置10は、投影装置20により指示画像60を投影させ、所定の投影開始条件が満たされる場合に、投影装置20により、さらに補助画像70を投影させる。本実施形態における補助画像70の投影開始条件は、指示画像60の投影開始後に所定の待機時間が経過したこと、及び、作業者2が指示画像60を視認していないと判別されたこと(より詳しくは、作業者2の視線81が、指示画像60が投影されている投影可能領域r内を向いてないこと)、とされる。以下では、この投影開始条件の下で指示画像60及び補助画像70を投影させるために制御装置10のCPU11が実行する作業支援処理について、
図3、5、6を参照して説明する。
【0029】
図5は、作業支援処理の制御手順を示すフローチャートである。
図5に示す作業支援処理は、制御装置10において、投影システム1の管理者から作業者2が行うべき作業の内容が入力され、これに応じて作業管理データ134が生成された場合に開始される。
【0030】
作業支援処理が開始されると、CPU11は、作業管理データ134を参照して最初の作業の内容を取得し、当該作業を指示するための指示画像60を投影装置20により投影させる(ステップS101)。指示画像60は、作業者2が部品を取り出す作業を行う対象の棚50の前面に投影される。ここでは、当該作業を行う対象の棚50が、作業領域Raにおける上段(下から3段目)の中央の棚50であるものとする。CPU11は、投影可能領域raのうち当該棚50に対応する領域に指示画像60のデータを含み、他の部分がマスクされた指示画像データ132を生成して投影装置20aに送信する。これにより、
図3に示すように、上段の中央の棚50に指示画像60が投影される。指示画像60は、作業内容を指示する文字や図形等を含んでいてもよい。あるいは、指示画像60は、所定の輝度の無地の画像であって、その投影位置のみにより作業の位置を指示するものであってもよい。
図3の指示画像60は、指示画像60が投影された棚50から部品を取ることを作業者2に促すための、「この棚から取って下さい」との文字を含む。
【0031】
指示画像60が投影されると、CPU11は、作業者2による作業が完了したか否かを判別する(ステップS102)。CPU11は、作業対象の棚50に対応するピッキングセンサ41を有する作業検出装置40aから、当該棚50に対する作業が完了したことを示すデータを受信した場合に、作業が完了したと判別する。作業が完了したと判別された場合には(ステップS102で“YES”)、CPU11は、投影装置20による画像(ここでは、指示画像60)の投影を終了させる(ステップS107)。
作業が完了していないと判別された場合には(ステップS102で“NO”)、CPU11は、補助画像投影準備処理を実行する(ステップS103)。
【0032】
図6は、補助画像投影準備処理の制御手順を示すフローチャートである。
補助画像投影準備処理が呼び出されると、CPU11は、指示画像60の投影の開始後、所定の待機時間が経過したか否かを判別する(ステップS201)。待機時間は、例えば、現在の作業の標準的な所要時間としてもよい。
【0033】
待機時間が経過したと判別された場合には(ステップS201で“YES”)、CPU11は、各撮像装置30による撮像画像を取得し、取得した撮像画像から、作業者2に最も近い撮像装置30を特定する(ステップS202)。CPU11は、深度画像の距離情報に基づいて各撮像装置30と作業者2との距離を導出してもよいし、撮像画像に写っている作業者2の大きさに基づいて各撮像装置30と作業者2との距離を導出してもよい。
【0034】
CPU11は、特定した撮像装置30から、作業者2の視線81の検出結果を取得する(ステップS203)。各撮像装置30は、撮像範囲に作業者2の目が入っている場合に随時視線81を検出して、制御装置10からの要求に応じて視線81の検出結果を制御装置10に送信してもよい。あるいは、撮像装置30は、制御装置10からの要求に応じて視線81の検出を開始し、検出結果を制御装置10に送信してもよい。
【0035】
CPU11は、作業者2の視線81の方向が、指示画像60が投影されている投影可能領域r(以下、「指示画像投影領域rx」と記す)内であるか否かを判別する(ステップS204)。視線81の方向が指示画像投影領域rx内ではないと判別された場合には(ステップS204で“NO”)、CPU11は、補助画像70の投影開始条件を満たすと判別する(ステップS205)。待機時間が経過し、かつ視線81が指示画像投影領域rxを向いていない場合には、作業者2が指示画像60を認識できていない可能性が高いためである。
【0036】
投影開始条件を満たす場合には、CPU11は、視線81が向いている投影可能領域r(以下、「注視領域rz」と記す)、及び、指示画像投影領域rxと注視領域rzとの間の各投影可能領域r(以下、「中間領域ry」と記す)において、補助画像70の投影位置を決定する(ステップS206)。本実施形態において、投影位置は、いずれかの棚50を表すが、投影可能領域rにおける1点を投影位置として決定してもよい。例えば、棚50の前面の中心点を投影位置として決定してもよい。また、CPU11は、決定した投影位置に基づいて、補助画像70が、当該補助画像70の投影位置を基準とした指示画像60の相対的な位置を表すものとなるように、補助画像70の内容を決定する(ステップS207)。
【0037】
一方、ステップS201において待機時間が経過していないと判別された場合には(ステップS201で“NO”)、CPU11は、投影開始条件を満たさないと判別する。作業者2が、作業を実行中である可能性があるためである。
また、ステップS204において視線81の方向が指示画像投影領域rx内であると判別された場合には(ステップS204で“YES”)、CPU11は、作業者2が指示画像60を視認していると判別し、投影開始条件を満たさないと判別する。
ステップS207又はS208が終了すると、CPU11は、補助画像投影準備処理を終了させて、処理を
図5の作業支援処理に戻す。
【0038】
CPU11は、補助画像投影準備処理において投影開始条件を満たさないと判別されている場合には(ステップS104で“NO”)、処理をステップS102に戻す。一方、補助画像投影準備処理において投影開始条件を満たすと判別されている場合には(ステップS104で“YES”)、CPU11は、補助画像投影準備処理において決定した投影位置に(ここでは、投影位置として決定した棚50に)、決定した内容の補助画像70を投影させる(ステップS105)。投影位置が投影可能領域rにおけるある1点である場合には、CPU11は、補助画像70の所定の点(例えば中心点)が投影位置に重なるように補助画像70を投影させる。
【0039】
図3に示す例においては、指示画像投影領域rxは投影可能領域raであり、注視領域rzは投影可能領域rcである。また、投影可能領域rbが、中間領域ryに相当する。このため、CPU11は、
図6のステップS206において、投影可能領域rb、rcにそれぞれ補助画像70の投影位置を決定する。例えば、投影位置は、各投影可能領域rのうち中段(下から2段目)の中央の棚50とされるが、これに限られない。
【0040】
図3に示す例においては、補助画像70は、当該補助画像70の投影位置を基準とした指示画像60の相対的な位置を示す画像である。ここでは、投影可能領域rb、rcに投影される各補助画像70から見て指示画像60は左方に位置するため、各補助画像70は、左向きの矢印を含む。すなわち、CPU11は、
図6のステップS207において、補助画像70の内容を、左向きの矢印を含む画像に決定する。また、
図5のステップS105において、CPU11は、投影可能領域rb、rcのうち投影対象の棚50に対応する領域に補助画像70のデータを含み、他の部分がマスクされた補助画像データ133を生成して、投影装置20b、20cにそれぞれ送信する。注視領域rzに補助画像70を投影することで、作業者2に指示画像60の位置(方向)を認識させることができる。また、中間領域ryにも補助画像70を投影することで、作業者2が指示画像60を視認する途中の期間において作業者2を指示画像60に誘導することができる。
【0041】
図5に戻り、補助画像70が投影されると、CPU11は、作業者2の作業が完了したか否かを判別し(ステップS106)、作業が完了していないと判別された場合には(ステップS106で“NO”)、再度ステップS106を実行する。ステップS106の処理は、ステップS102の処理と同様である。作業が完了したと判別された場合には(ステップS106で“YES”)、CPU11は、投影装置20による画像(ここでは、指示画像60及び補助画像70)の投影を終了させる(ステップS107)。
【0042】
ステップS107が終了すると、CPU11は、作業管理データ134を参照し、次の作業があるか否かを判別する(ステップS108)。次の作業があると判別された場合には(ステップS108で“YES”)、CPU11は、処理をステップS101に戻す。次の作業がないと判別された場合には(ステップS108で“NO”)、CPU11は、作業支援処理を終了させる。
【0043】
なお、作業者2の視線81に基づく補助画像70の投影位置の決定方法は、上記で例示した方法に限られない。例えば、補助画像70の投影位置(ここでは、補助画像70が投影される範囲内の代表点、例えば棚50の中心点)と、視線81とが所定の位置関係条件を満たすように投影位置を決定してもよい。一例を挙げると、補助画像70の可能な投影位置のうち、その代表点と、視線81との距離が最も近くなる投影位置を、位置関係条件を満たす投影位置とし、当該投影位置の棚50に補助画像70を投影してもよい。また、投影位置の代表点と、視線81との距離が基準距離以下である場合に位置関係条件を満たすものとし、このような位置関係条件を満たすいずれかの投影位置に補助画像70を投影してもよい。また、視線81と重なる棚50を、位置関係条件を満たす投影位置と決定してもよい。
また、作業者2の視線81を繰り返し検出し、視線81に追従するように補助画像70の投影位置を変更してもよい。
【0044】
<変形例1>
続いて上記実施形態の変形例1について説明する。本変形例においては、上記実施形態との相違点について説明し、上記実施形態と共通する点については説明を省略する(以下の変形例2、3についても同様)。
変形例1は、投影開始条件の判別に、作業者2の視線81に代えて視野82(
図8参照)を用いる点、及び、補助画像投影準備処理の制御手順の一部が上記実施形態と異なる。なお、上記実施形態の補助画像投影準備処理(
図6におけるステップS203)において作業者2の視線を検出できなかった場合に、本変形例の補助画像投影準備処理に切り替え、ステップS203a以降を実行することとしてもよい。
図7は、変形例1における補助画像投影準備処理の制御手順を示すフローチャートである。
図7のフローチャートは、
図6の補助画像投影準備処理のステップS203、S204、S206を、それぞれステップS203a、S204a、S206aに変更したものに相当する。
図8は、変形例1における指示画像60及び補助画像70の投影動作を示す図である。
【0045】
本変形例では、
図7のステップS202において、作業者2に最も近い撮像装置30が特定されると、CPU11は、特定した撮像装置30による撮像画像から、作業者2の視野82を検出する(ステップS203a)。詳しくは、CPU11は、撮像画像における作業者2の頭部の位置及び向きに基づいて作業者2の視野82を検出する。位置の情報は、撮像装置30から(又は、棚50から)頭部までの距離の情報を含む。なお、作業中において作業者2が、棚50の前面の法線方向に関して棚50から概ね等距離の位置を移動するような場合においては、距離の情報を用いずに視野82を検出してもよい。
【0046】
CPU11は、検出した視野82に、指示画像投影領域rxが入っているか否かを判別する(ステップS204a)。CPU11は、視野82に指示画像投影領域rxが入っていないと判別された場合には(ステップS204aで“NO”)、作業者2が指示画像60を視認していないと判別し、投影開始条件を満たすと判別する(ステップS205)。また、CPU11は、視野82に指示画像投影領域rxの少なくとも一部が入っていると判別された場合には(ステップS204aで“YES”)、作業者2が指示画像60を視認していると判別し、投影開始条件を満たさないと判別する(ステップS208)。
【0047】
投影開始条件を満たすと判別された場合には、CPU11は、視野82の範囲内に補助画像70の投影位置を決定する(ステップS206a)。
図8に示す例では、作業者2の視野82は投影可能領域rcの略中央を向いており、中段の中央の棚50を包含している。このため、CPU11は、ステップS206aにおいて、投影可能領域rcのうち当該棚50の位置を投影位置に決定する。この後、
図5のステップS105が実行されることで、決定した投影位置に補助画像70が投影される。
なお、
図8では、中間領域ry(投影可能領域rb)に補助画像70が投影されていないが、本変形例においても投影可能領域rbに補助画像70を投影してもよい。
また、作業者2の視野82を繰り返し検出し、視野82に追従するように補助画像70の投影位置を変更してもよい。
また、視野82の略中心を視線81と見なして、上記実施形態と同様の方法で補助画像70を投影してもよい。
【0048】
<変形例2>
変形例2は、投影開始条件の判別に、作業者2の視線81に代えて作業者2の位置を用いる点、及び、補助画像投影準備処理の制御手順の一部が上記実施形態と異なる。
図9は、変形例2における補助画像投影準備処理の制御手順を示すフローチャートである。
図9のフローチャートは、
図6の補助画像投影準備処理のステップS202を削除し、ステップS203、S204、S206、S207を、それぞれステップS203b、S204b、S206b、S207bに変更したものに相当する。
図10は、変形例2における指示画像60及び補助画像70の投影動作を示す図である。
【0049】
図10に示すように、本変形例の投影システム1は、作業領域Ra~Rcに、それぞれ人感センサ80a~80c(以下では、人感センサ80a~80cのうちの任意の1つを指す場合には「人感センサ80」と記す)を備える。人感センサ80は、当該人感センサ80が設けられている作業領域Rに作業者2がいるか否かを検出し、検出結果に係るデータを制御装置10に送信する。なお、人感センサ80に代えて撮像装置30を設け、撮像装置30による撮像画像から、各作業領域Rに作業者2がいるか否かを判別してもよい。
【0050】
図9に示すように、本変形例では、指示画像60の投影の開始後、待機時間が経過したと判別された場合には(ステップS201で“YES”)、CPU11は、各人感センサ80からの出力データに基づき、作業者2がいずれの作業領域R内に位置しているかを検出する(ステップS203b)。CPU11は、作業者2の位置が、指示画像60が投影されている作業領域R内であるか否かを判別する(ステップS204b)。CPU11は、作業者2の位置が当該作業領域R内ではないと判別された場合には(ステップS204bで“NO”)、作業者2が指示画像60を視認していないと判別し、投影開始条件を満たすと判別する(ステップS205)。また、CPU11は、作業者2の位置が当該作業領域R内であると判別された場合には(ステップS204bで“YES”)、作業者2が指示画像60を視認していると判別し、投影開始条件を満たさないと判別する(ステップS208)。
【0051】
投影開始条件を満たすと判別された場合には、CPU11は、作業者2がいる作業領域Rの投影可能領域r内に補助画像70の投影位置を決定する(ステップS206b)。
図10に示すように、作業者2が作業領域Rb内にいる場合には、CPU11は、作業領域Rbの投影可能領域rb内(例えば、中段の中央の棚50の位置)に補助画像70の投影位置を決定する。
また、CPU11は、作業者2がいる作業領域Rの投影可能領域rの中心位置を、補助画像70の投影位置として決定してもよい。
【0052】
また、CPU11は、補助画像70の内容を決定する(ステップS207b)。本変形例では、補助画像70は、指示画像60の絶対的な位置を示す画像であるものとする。例えば、
図10に示すように、補助画像70は、指示画像60が投影されている棚50を表す座標(ここでは「A-2」)を表示するものであってもよい。この後、
図5のステップS105が実行されることで、投影可能領域rbに補助画像70が投影される。
【0053】
なお、作業者2の位置を繰り返し検出し、作業者2の位置に追従するように補助画像70の投影位置を変更してもよい。
また、本変形例においても、上記実施形態と同様に、補助画像70の投影位置を基準とした指示画像60の相対的な位置を表す補助画像70を投影してもよい。また、上記実施形態及び他の変形例1、3において、本変形例2のように、指示画像60の絶対的な位置を示す補助画像70を投影してもよい。
【0054】
<変形例3>
図11は、変形例3における指示画像60及び補助画像70の投影動作を示す図である。
変形例3においては、制御装置10のCPU11は、複数の作業者2A、2Bにそれぞれ作業を指示するための複数の指示画像60A、60Bと、複数の作業者2A、2Bに、対応する指示画像60A、60Bの位置をそれぞれ認識させるための複数の補助画像70A、70Bと、を各投影装置20により投影させる。
【0055】
詳しくは、CPU11は、撮像装置30による撮像画像に基づいて、作業者2A、2Bを区別して検出し、各作業者2の視線、視野、又は位置を特定する。作業者2A、2Bを区別して検出する方法としては、予め各作業者2の外見上の特徴を制御装置10に登録しておく方法を用いることができる。例えば、作業者2ごとに異なる標識が付された帽子や衣服を各作業者2が着用することとし、撮像画像に写っている標識から各作業者2を識別してもよい。
図11に示す例では、作業者2Aの位置が作業領域Rc内であると特定され、作業者2Bの位置が作業領域Rb内であると特定されたものとする。
【0056】
CPU11は、各作業者2の視線、視野、又は位置に基づいて、上記実施形態又は各変形例と同様の方法で補助画像70の投影位置及び内容を決定し、補助画像70を投影させる。
図11に示す例では、作業者2A用の指示画像60Aが投影可能領域raに投影されており、作業者2B用の指示画像60Bが投影可能領域rcに投影されている。また、作業者2Aがいる作業領域Rcの投影可能領域rcに補助画像70Aが投影されており、作業者2Bがいる作業領域Rbの投影可能領域rbに補助画像70Bが投影されている。ここで、補助画像70Aは、作業者2Aに対応する指示画像60Aが投影されている方向(左方向)を示す矢印と、当該補助画像70Aが作業者2A用の画像であることを表す「作業者2A」の文字と、を含む。補助画像70Bは、作業者2Bに対応する指示画像60Bが投影されている方向(右方向)を示す矢印と、当該補助画像70Bが作業者2B用の画像であることを表す「作業者2B」の文字と、を含む。指示画像60及び/又は補助画像70の色を、各作業者2に対応付けられて予め定められた色とすることで、各指示画像60及び/又は各補助画像70がどの作業者2を対象にしたものかを表してもよい。
なお、指示画像60及び補助画像70を投影する対象の作業者2は、3人以上であってもよい。
【0057】
<効果>
以上のように、本実施形態に係る制御装置10は、CPU11を備え、CPU11は、作業者2に作業を指示するための指示画像60と、作業者2に指示画像60の位置を認識させるための補助画像70と、を投影装置20により投影させる。これにより、指示画像60が作業者2の視野外に投影された場合においても、作業者2に指示画像60の位置を認識させることができる。このため、作業者2が作業を受け持つ作業スペースが広い場合等、指示画像60が作業者2の視野外に投影されやすい環境においても、より確実かつ適切に作業者2の作業を支援することができる。また、作業者2が指示画像60を探す動作を短縮することができので、作業効率を向上させることができる。
【0058】
また、CPU11は、作業者2の位置、視野82、及び視線81のうちの少なくとも1つの検出結果に基づいて補助画像70の投影位置を決定し、決定した投影位置に、投影装置20により補助画像70を投影させる。これにより、作業者2が視認しやすい位置に補助画像70を投影することができる。
【0059】
また、CPU11は、撮像装置30により作業者2を撮像した画像、又は、人感センサ80からの出力データに基づいて作業者2の位置、視野82、及び視線81のうちの少なくとも1つを検出し、検出した位置、視野82、及び視線81のうちの少なくとも1つに基づいて補助画像70の投影位置を決定する。これにより、作業者2が視認しやすい位置に補助画像70を投影することができる。
【0060】
また、CPU11は、作業者2の視野82の検出結果に基づいて、視野82の範囲内に補助画像70の投影位置を決定する。これにより、作業者2に確実に視認される位置に補助画像70を投影することができる。
【0061】
また、CPU11は、撮像装置30により作業者2の頭部を撮像した画像における頭部の位置及び向きに基づいて作業者2の視野82を検出する。これにより、画像を解析する簡易な方法で作業者2の視野82を検出することができる。
【0062】
また、CPU11は、作業者2の視線81の検出結果に基づいて、補助画像70の投影位置と視線81とが所定の位置関係条件を満たすように投影位置を決定してもよい。これにより、作業者2に確実に視認される位置に補助画像70を投影することができる。
【0063】
また、CPU11は、決定した補助画像70の投影位置に基づいて、当該補助画像70が、当該補助画像70の投影位置を基準とした指示画像60の相対的な位置を表すものとなるように、投影させる補助画像70の内容を決定する。これにより、指示画像60と補助画像70との位置関係に応じた適切な内容の補助画像70を投影することができる。
【0064】
また、CPU11は、所定の待機時間が経過した後、検出された作業者2の位置が、指示画像60が投影されている作業領域R内であるか否かを判別し、作業者2の位置が作業領域R内ではないと判別した場合に、投影装置20により補助画像70を投影させる。これにより、作業者2が指示画像60を視認していない可能性が高い場合に補助画像70を投影し、指示画像60を視認している可能性が高い場合に補助画像70を投影しないようにすることができる。よって、不要な補助画像70を投影するための無駄な電力消費を抑えることができる。
【0065】
また、CPU11は、所定の待機時間が経過した後、検出された作業者2の視線81の方向が、指示画像60が投影されている投影可能領域r内であるか否かを判別し、視線81の方向が投影可能領域r内ではないと判別した場合に、投影装置20により補助画像70を投影させる。これにより、作業者2が指示画像60を視認していない可能性が高い場合に限って補助画像70を投影することができる。よって、不要な補助画像70を投影するための無駄な電力消費を抑えることができる。
【0066】
また、CPU11は、所定の待機時間が経過した後、検出された作業者2の視野82に、指示画像60が投影されている投影可能領域rが入っているか否かを判別し、視野82に投影可能領域rが入っていないと判別した場合に、投影装置20により補助画像70を投影させる。これにより、作業者2が指示画像60を視認していない可能性が高い場合に限って補助画像70を投影することができる。よって、不要な補助画像70を投影するための無駄な電力消費を抑えることができる。
【0067】
また、CPU11は、複数の作業者2にそれぞれ作業を指示するための複数の指示画像60と、複数の作業者2に、複数の指示画像60のうち各作業者2に対応する指示画像60の位置をそれぞれ認識させるための複数の補助画像70と、を投影装置20により投影させる。これにより、複数の作業者2が並行して作業を行う場合においても、各作業者2の作業をそれぞれ支援することができる。
【0068】
また、本実施形態に係る投影システム1は、投影装置20と、制御装置10のCPU11を備え、CPU11は、作業者2に作業を指示するための指示画像60と、作業者2に指示画像60の位置を認識させるための補助画像70と、を投影装置20により投影させる。これにより、より確実かつ適切に作業者2の作業を支援することができる。
【0069】
また、本実施形態に係る投影制御方法において、制御装置10のCPU11は、作業者2に作業を指示するための指示画像60と、作業者2に指示画像60の位置を認識させるための補助画像70と、を投影装置20により投影させる。これにより、より確実かつ適切に作業者2の作業を支援することができる。
【0070】
また、本実施形態に係るプログラム131は、CPU11に、作業者2に作業を指示するための指示画像60と、作業者2に指示画像60の位置を認識させるための補助画像70と、を投影装置20により投影させる処理を実行させる。これにより、より確実かつ適切に作業者2の作業を支援することができる。
【0071】
<その他>
なお、本発明は、上記実施の形態に限られるものではなく、様々な変更が可能である。
例えば、上記実施形態において制御装置10のCPU11が実行していた機能を、複数の投影装置20のうち少なくとも1つの投影装置20が有するプロセッサ(CPU等)が実行してもよい。この場合には、投影装置20が有するプロセッサが「制御部」に相当し、投影装置20が有するHDD、SSD等の不揮発性メモリが「記憶部」に相当する。すなわち、この場合、制御装置10は、投影装置20のプロセッサ、記憶部、RAM等によって構成されているともいえる。
また、撮像装置30の構成を投影装置20に含めて、撮像装置30を省略してもよい。
また、作業検出装置40の構成を投影装置20に含めて、作業検出装置40を省略してもよい。
【0072】
また、指示画像60は、作業対象の棚50の前面に代えて、当該棚50の近傍位置、又は、当該棚50が位置する作業領域R内の所定位置等に投影してもよい。
【0073】
また、作業者2が行う作業は、棚50から部品を取り出す作業に限られない。任意の作業について、当該作業を指示する指示画像60を、作業者2によって視認可能な任意の位置に投影してもよい。
【0074】
また、補助画像70は、作業者2に対して指示画像60の位置を認識させるためのものであればよく、その内容は、上記実施形態に例示したものに限られない。例えば、作業者2が移動する領域を挟んで一方側に第1の棚、他方側に第2の棚が設けられており、第1の棚に指示画像60が投影されている場合に、作業者2の視線又は視野が第2の棚に向いていたり、作業者2が第1の棚よりも第2の棚に近い位置にいる場合に、指示画像60は第1の棚に投影されている旨を表示する補助画像70を第2の棚に投影してもよい。
【0075】
また、待機時間が経過したことを、投影開始条件に含めないこととしてもよい。すなわち、指示画像60の投影が開始された場合に、待機時間の経過を待たずに補助画像70の投影を開始してもよい。この場合、
図6、7、9のステップS201を省略すればよい。
また、作業者2が指示画像60を視認していないと判別されていることを、投影開始条件に含めないこととしてもよい。すなわち、待機時間が経過した場合に、作業者2の位置や、視野82又は視線81の向きによらずに、(例えば指示画像投影領域rxを除いた各投影可能領域rに)補助画像70の投影を開始してもよい。この場合、
図6、7、9のステップS202、S203(S203a、S203b)、S204(S204a、S204b)を省略すればよい。
また、CPU11は、作業開始条件が満たされているか否かを判別せずに補助画像70を投影してもよい。例えば、CPU11は、指示画像60の投影が開始された場合に、指示画像投影領域rxを除いた各投影可能領域rに補助画像70を投影してもよい。
【0076】
また、CPU11は、作業者2の所定の指示を検出した場合に補助画像70の投影を中止してもよい。例えば、CPU11は、作業者2が所定のジェスチャを行ったことを撮像装置30による撮像画像から検出した場合に補助画像70の投影を中止してもよい。
【0077】
また、上記実施形態では、作業領域Rごとに投影装置20、撮像装置30、及び作業検出装置40が1つずつ設けられている例を挙げて説明したが、これに限られない。投影装置20、撮像装置30、及び作業検出装置40のうちの少なくともいずれか、又は全部は、2以上の作業領域Rに対して1つの割合で設けられていてもよいし、1つの作業領域Rに対して複数設けられていてもよい。また、作業者2が作業を受け持つ作業スペースにおける作業領域Rの数は、2つ以下、又は4つ以上であってもよい。
【0078】
また、投影装置20の投影範囲が十分に広い場合には、投影システム1が備える投影装置20は1台であってもよい。この場合、投影装置20に対して、指示画像60のデータ及び補助画像70のデータを含み、残りの部分がマスクされた画像データを制御装置10から供給することで、1台の投影装置20により指示画像60及び補助画像70を投影することができる。また、撮像装置30による撮像範囲が十分に広い場合には、投影システム1が備える撮像装置30は1台であってもよい。
【0079】
また、上記実施形態では、撮像装置30により作業者2の視線を検出したが、これに代えて、視線を検出する装置を撮像装置30とは別個に設けてもよい。例えば、作業者2の頭部に、視線検出を行うメガネ型又はヘッドセット型等のアイトラッカーを装着し、このアイトラッカーによる視線の検出結果を制御装置10に送信してもよい。
【0080】
また、作業者の位置、視野、及び視線のうちの2つ以上の検出結果に基づいて補助画像70の投影位置を決定してもよい。
【0081】
また、以上の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体として記憶部13のHDD、SSDを使用した例を開示したが、この例に限定されない。その他のコンピュータ読み取り可能な媒体として、フラッシュメモリ、CD-ROM等の情報記録媒体を適用することが可能である。また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も本発明に適用される。
【0082】
また、上記実施形態における投影システム1の各構成要素の細部構成及び細部動作に関しては、本発明の趣旨を逸脱することのない範囲で適宜変更可能であることは勿論である。
本発明の実施の形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
【符号の説明】
【0083】
1 投影システム
2、2A、2B 作業者
10 制御装置(投影制御装置)
11 CPU(制御部)
13 記憶部
131 プログラム
20、20a~20c 投影装置
30、30a~30c 撮像装置
40、40a~40c 作業検出装置
41 ピッキングセンサ
50 棚
60、60A、60B 指示画像
70、70A、70B 補助画像
80、80a~80c 人感センサ
81 視線
82 視野
R、Ra~Rc 作業領域
r、ra~rc 投影可能領域