(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023031895
(43)【公開日】2023-03-09
(54)【発明の名称】衣類処理装置及び判定方法
(51)【国際特許分類】
D06F 89/00 20060101AFI20230302BHJP
D06F 95/00 20060101ALI20230302BHJP
【FI】
D06F89/00
D06F95/00
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2021137658
(22)【出願日】2021-08-26
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100106116
【弁理士】
【氏名又は名称】鎌田 健司
(74)【代理人】
【識別番号】100131495
【弁理士】
【氏名又は名称】前田 健児
(72)【発明者】
【氏名】春山 星秀
(72)【発明者】
【氏名】南橋 寛
(72)【発明者】
【氏名】平田 悠貴
(57)【要約】
【課題】処理対象物の衣類状態を高い精度で判定するための技術を向上させる。
【解決手段】衣類処理装置1は、処理対象物Tの撮像画像を取得する撮像画像取得部970と、撮像画像取得部970により取得された処理対象物Tの撮像画像に基づいて処理対象物Tの状態を判定する状態判定部971と、取得された処理対象物Tの撮像画像を使用して処理対象物Tの状態をユーザに問い合わせるユーザ問合せ部972と、取得された処理対象物Tの撮像画像に基づいて処理対象物Tの状態を検出し、検出結果とともに検出結果の信頼度を出力する機械学習モデルを備える状態検出部973と、を備え、状態判定部971は、状態検出部973が出力する信頼度が低い場合、ユーザ問合せ部972により処理対象物Tの状態についてユーザに問い合わせを行い、ユーザへの問い合わせにより得られた状態を用いて処理対象物Tの状態の判定を行う。
【選択図】
図12
【特許請求の範囲】
【請求項1】
処理対象物の撮像画像を取得する撮像画像取得部と、
前記撮像画像取得部により取得された前記撮像画像に基づいて前記処理対象物の状態を判定する状態判定部と、
前記撮像画像を使用して前記処理対象物の状態をユーザに問い合わせるユーザ問合せ部と、
前記撮像画像に基づいて前記処理対象物の状態を検出する機械学習モデルを備える状態検出部と、
を備え、
前記状態判定部は、前記状態検出部が出力する前記信頼度が低い場合、前記ユーザ問合せ部により前記処理対象物の状態についてユーザに問い合わせを行い、前記ユーザへの問い合わせにより得られた状態を用いて前記処理対象物の状態の判定を行う
衣類処理装置。
【請求項2】
前記状態判定部は、前記処理対象物の衣類に対して、少なくとも、衣類の種別、上下左右の向き、前後または表裏の向き、のうちいずれかの状態を判定する
請求項1に記載の衣類処理装置。
【請求項3】
前記ユーザへの問合せ回数が所定回数を超えた場合、または、前記ユーザに問い合わせた結果を所定数得られた場合、前記ユーザに問い合わせた結果を用いて前記処理対象物の複数の前記撮像画像を学習し、前記状態検出部の前記機械学習モデルを更新する
請求項1又は2に記載の衣類処理装置。
【請求項4】
前記処理対象物の状態をユーザに問い合わせたときにユーザから判定結果が得られない場合、前記状態検出部の検出結果を用いて状態の判定を行う
請求項1から3のいずれかに記載の衣類処理装置。
【請求項5】
処理対象物の撮像画像を取得するステップと、取得された前記処理対象物の前記撮像画像に基づいて、機械学習モデルを用いて前記処理対象物の状態を検出し、検出結果の信頼度を取得するステップと、前記信頼度が所定値より低い場合、前記処理対象物の状態についてユーザ問い合わせを行うステップと、前記ユーザ問い合わせにより得られた状態を用いて前記処理対象物の状態の判定を行うステップと、を備える
衣類処理装置の判定方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、衣類などの処理対象物を処理するための衣類処理装置及び判定方法に関する。
【背景技術】
【0002】
衣類などの処理対象物を展開して折り畳む処理装置が提案されている。例えば、特許文献1には、被処理物の任意の点を保持可能な複数の保持装置と、被処理物を載置可能な載置装置を備える処理装置が開示されている。この処理装置は、複数の保持装置の少なくとも2つが被処理物の2つの端点を保持している状態において撮像された画像に基づいて、少なくとも2つの長手部分を有する被処理物を認識し、複数の保持装置及び載置装置を用いて展開する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の折り畳み装置では、処理対象物の展開中もしくは展開後に、処理対象物の状態を画像によって認識し、認識結果に基づいて処理対象物の折り畳みを行う。しかし、処理対象物の種類によっては、状態の認識が難しく、認識を間違えてしまう場合がある。このような認識が難しい処理対象物でも認識率を向上させるための技術が必要である。
【0005】
本開示は、処理対象物の状態を高い精度で判定するための技術を向上させる。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本開示における衣類処理装置は、処理対象物の撮像画像を取得する撮像画像取得部と、撮像画像取得部により取得された撮像画像に基づいて処理対象物の状態を判定する状態判定部と、この撮像画像を使用して処理対象物の状態をユーザに問い合わせるユーザ問合せ部と、この撮像画像に基づいて処理対象物の状態を検出し、検出結果とともに検出結果の信頼度を出力する機械学習モデルを備える状態検出部と、を備える。そして、状態判定部は、状態検出部が出力する信頼度が低い場合、ユーザ問合せ部により処理対象物の状態についてユーザに問い合わせを行い、この問い合わせにより得られた状態を用いて処理対象物の状態の判定を行うものである。
【0007】
本開示における衣類処理装置の判定方法は、処理対象物の撮像画像を取得するステップと、取得された処理対象物の撮像画像に基づいて、機械学習モデルを用いて処理対象物の状態を検出し、検出結果の信頼度を出力するステップと、信頼度が所定値より低い場合、処理対象物の状態についてユーザ問い合わせを行うステップと、ユーザ問い合わせにより得られた状態を用いて処理対象物の状態の判定を行うステップと、を備える。
【発明の効果】
【0008】
本開示の技術によれば、処理対象物の状態を高い精度で判定するための技術を向上させることができる。
【図面の簡単な説明】
【0009】
【
図2】実施の形態1における衣類処理装置の正面概略構成図
【
図3】実施の形態1における衣類処理装置の側面概略構成図
【
図4】実施の形態1における衣類処理装置の保持部の斜視図
【
図5】実施の形態1における衣類処理装置の保持部のYaw部の縦断面模式図
【
図6】実施の形態1における衣類処理装置の保持部のHand部の縦断面模式図
【
図7】実施の形態1における衣類処理装置の作業板装置の正面模式図及び側面模式図
【
図8】実施の形態1における衣類処理装置の撮像装置の側面模式図
【
図9】実施の形態1における衣類処理装置の支持部の側面模式図
【
図10A】実施の形態1における衣類処理装置の収納装置の動作を示す模式図
【
図10B】実施の形態1における衣類処理装置の収納装置の動作を示す正面模式図
【
図11】実施の形態1における衣類処理装置の制御装置のブロック図
【
図13】実施の形態1に係るユーザインターフェースの例を示す図
【
図14】実施の形態1に係る処理対象物の状態を判定する動作の手順を示すフローチャート
【発明を実施するための形態】
【0010】
(本開示の基礎となった知見等)
本開示に係る衣類処理装置において、処理対象物である衣類等を折り畳む等の処理をするために、少なくとも、衣類等の種別、上下左右の向き、前後または表裏の向き、等のうちいずれかの状態を判定する必要がある。このような状態の判定は、様々な衣類に対応しなければならないため、人間が見ても難しいタスクであり、機械学習を用いて判定モデルを作成しても、人間と同等の認識性能を実現するのは困難である。
【0011】
このような課題を発明者らは発見し、その課題を解決するために、本開示の主題を構成するに至った。本開示に係る衣類処理装置は、処理対象物の撮像画像を入力し機械学習モデルを用いて状態の検出を行う状態検出部を用いて、処理対象物の状態の検出を行う。そして、検出結果の信頼度が低い場合など、所定の条件に応じてユーザ問合せ部により処理対象物の状態についてユーザに問い合わせを行い、ユーザへの問い合わせにより得られた状態を用いて処理対象物の状態の判定を行う。これにより、衣類処理装置は、機械学習モデルでは判定が難しい状態をユーザに問い合わせて判定することができるので、処理対象物の状態を高い精度で判定することができる。
【0012】
以下、図面を参照しながら実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明、または、実質的に同一の構成に対する重複説明を省略する場合がある。
【0013】
なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することを意図していない。
【0014】
(実施の形態1)
以下、
図1~
図14を用いて、実施の形態1を説明する。なお、衣類処理装置1の3方向について、前側正面から見て、左右の幅方向を矢印で示すX方向(左方向X1、右方向X2)、前後の奥行き方向を矢印で示すY方向(前方向Y1、後方向Y2)、上下の高さ方向を矢印で示すZ方向(上方向Z1、下方向Z2)として説明する。
【0015】
[1-1.構成]
[1-1-1.衣類処理装置の全体構成]
衣類処理装置1は、変形性薄物としての処理対象物Tを保持、認識、折り畳み、及び、
収納する装置である。
図1に示されるように、衣類処理装置1は、筐体100、及び、筐体100内に構成される、受入部200と、保持装置300と、作業板装置400と、撮像装置500と、支持部600と、収納装置700と、制御装置900と、を備える。なお、受入部200及びその上方の処理空間が1つの筐体に構成され、収納装置700などは別の筐体内に構成されて、それぞれの筐体が連結されて一体となるように構成されてもよい。
【0016】
処理対象物Tは、例えば、衣類及びタオル類などの布地、フィルム、紙ならびにシートなどに代表される変形性薄物である。その形状は、タオル類のように矩形であってもよいし、Tシャツやランニングシャツ、長袖シャツ、ズボンのような略矩形であってもよい。
【0017】
<筐体100>
筐体100は、直方体の枠を形成するフレーム110と、直方体の所定の面に外郭120が設けられて構成される。フレーム110と外郭120とは、一体に形成されてもよい。
【0018】
<受入部200>
受入部200は、処理対象物Tを外部から受け入れる収容部である。
図1から
図3に示されるように、受入部200は、上面が開口した箱型形状を有する。受入部200は、ユーザがアクセスし易いように、衣類処理装置1における底部に配設され、奥行き方向(Y方向)に出し入れ可能に配設される。例えば、受入部200は、下部にガイドレール210が設けられ、前方向Y1に引き出される。処理対象物Tは、引き出された受入部200に上方から入れられる。受入部200は、処理対象物Tが入れられると、ガイドレール210に沿って後方向Y2に戻され、筐体100内に収められる。
【0019】
[1-1-2.保持装置の構成]
保持装置300は、処理対象物Tを処理するために、処理対象物Tを保持する装置である。保持装置300は、処理対象物Tを保持する保持部310と、保持部310を幅方向(X方向)、奥行き方向(Y方向)、高さ方向(Z方向)の3方向に移動させる移動機構320と、を含む。保持装置300は、複数設けられ、受入部200内に入れられた処理対象物Tを保持して持ち上げるとともに、処理対象物Tを一時的に載置できる作業板装置400と協働して、処理対象物Tを持ち替えながら展開及び折り畳みを行う。
【0020】
衣類処理装置1は、
図1から
図3に示されるように、保持装置300として2基の保持装置300A,300Bを備える。保持装置300Aは、保持部310として1つの保持部310Aを有し、保持部310Aを3方向に移動させる移動機構320Aを有する。保持装置300Bは、保持部310として2基の保持部310B,311Bを有し、保持部310B,311Bをそれぞれ3方向に移動させる移動機構320Bを有する。
【0021】
保持部310A,310B,311Bは、後述する作業板装置400の作業板410に対して、幅方向、奥行き方向、高さ方向にそれぞれ相対移動可能である。例えば、移動機構320A、320Bは、保持部310A,310B,311Bが作業板410の縁部に沿って一列に並ぶように位置させることができる。
【0022】
保持装置300A、300Bは、後述する制御装置900と有線又は無線により通信可能に接続される。そして、制御装置900により、保持部310A、310B,311B及び移動機構320A、320Bの動作が制御される。
【0023】
<移動機構320>
保持装置300A,300Bに用いられる移動機構320A,320Bについて、保持
装置300Aの移動機構320Aの構成を用いて説明する。保持装置300Bの移動機構320Bの構成は、保持部の数を除いて保持装置300Aの構成と基本的に同じである。よって、保持装置300Bは、保持装置300Aの符号中「A」を「B」に置き換えた符号を用いればよく、その説明を省略する。
【0024】
移動機構320Aは、
図2に示されるように、幅方向移動機構330Aと、高さ方向移動機構340Aと、奥行き方向移動機構350Aと、を備える。
【0025】
幅方向移動機構330Aは、保持部310Aを幅方向(X方向)に移動させる。幅方向移動機構330Aは、保持部310Aを移動させるための駆動力源となる幅方向駆動部332A、及び、移動のガイドとなるXガイド334Aを有する。詳細は図示しないが、幅方向駆動部332Aは、正転及び逆転が可能なモータであり、ピニオンギアを有する。Xガイド334Aは、幅方向駆動部332Aの動力がピニオンギアを介して伝達されるラックギア及びレールであり、その長手方向が幅方向に沿うように配置される。幅方向駆動部332Aは、通電により、Xガイド334Aに沿ってスライド移動する。幅方向駆動部332AがXガイド334Aに沿って幅方向に移動すると、幅方向駆動部332Aに固定された保持部310Aも幅方向に移動する。
【0026】
高さ方向移動機構340Aは、幅方向移動機構330Aとともに保持部310Aを高さ方向(Z方向)に移動させる。高さ方向移動機構340Aは、幅方向移動機構330Aの左右両端に設けられ、幅方向移動機構330Aを移動させるための駆動力源となる高さ方向駆動部342A、及び、移動のガイドとなるZガイド344Aを有する。高さ方向駆動部342Aは、正転及び逆転が可能なモータであり、ピニオンギアを有する。詳細は図示しないが、高さ方向駆動部342Aは、幅方向移動機構330Aの枠体の左端に固定され、右端へ駆動力を伝達する伝動シャフトを有する。左右2本のZガイド344Aは、高さ方向駆動部342Aの動力がピニオンギア及び伝動シャフトを介して伝達されるラックギア及びレールであり、その長手方向が高さ方向に沿うようにして配置される。左右2本のZガイド344Aは、上端で連結され、アーチ型に構成される。高さ方向駆動部342Aへの通電により、幅方向移動機構330Aが高さ方向に沿って移動する。
【0027】
奥行き方向移動機構350Aは、保持装置300A全体(高さ方向移動機構340A、幅方向移動機構330A及び保持部310A)を奥行き方向(Y方向)に移動させる。奥行き方向移動機構350Aは、高さ方向移動機構340Aを移動させるための動力源となる奥行き方向駆動部352A、及び、移動のガイドとなる複数のYガイド354を有する。詳細は図示しないが、奥行き方向駆動部352Aは、正転及び逆転が可能なモータであり、ピニオンギアを有する。奥行き方向駆動部352Aは、高さ方向移動機構340Aの枠体上部の連結部左端に固定され、右端へ駆動力を伝達する伝動シャフトを有する。Yガイド354は、奥行き方向駆動部352Aの動力が伝達されるラックギア及びレールであり、その長手方向が奥行き方向に沿うようにして、左右のZガイド344Aそれぞれの上下端に配置される。
【0028】
Yガイド354への駆動力の伝達について、上部のYガイド354には、上述したように、奥行き方向駆動部352Aの動力が伝動シャフトで伝達される。そして、下部のYガイド354には、高さ方向移動機構340Aの枠体内に設けられるギアベルトを介して上部に設けられる伝動シャフトから駆動力が伝達される。奥行き方向駆動部352Aへの通電により、アーチ型の高さ方向移動機構340Aが奥行き方向に沿って平行に移動し、幅方向移動機構330A及び保持部310Aも同じく移動する。
【0029】
なお、本実施の形態において、2基の保持装置300A,300Bは、奥行き方向(Y方向)に移動するために上下左右4本のYガイド354を共用する。このため、常に保持
装置300Aは保持装置300Bより後側に位置する。また、保持装置300Bにおいて、2つの保持部310B,311Bは幅方向(X方向)に移動するためにXガイド334Bを共用する。このため、常に保持部310Bは保持部311Bより左側に位置する。
【0030】
以上、移動機構320について説明した。本実施の形態では、移動機構としてラック&ピニオン式で、駆動部のモータも移動する構成としたが、これに限られない。例えば、ボールねじを利用し、モータは移動しない構成などでもよい。
【0031】
<保持部310>
図4~
図6を用いて、保持部310の構成について説明する。本実施の形態では、保持部310A、310B、311Bの3つの保持部310が配設される。3つの保持部310の構成は、左右対称の部分もあるが、基本的に同じである。
【0032】
図4に示すように、保持部310は、Yaw部312、Pitch部313、Roll部314、及びHand部315の4つのユニットが、それぞれ回動シャフト316(
図5)を介して連結して構成される。
【0033】
また、
図5に示すように、Yaw部312は、Hand部315を奥行き方向(Y方向)のYaw軸を中心に回動させる駆動部が内蔵される。駆動部は、モータ312aとウォームギヤを含む複数の減速ギヤ312bからなり、最終的に回動シャフト316を回転駆動させる。回動シャフト316には、位置検出センサ316aが設けられる。回動シャフト316は管状であり、中央の穴から各ユニットへ電源線や信号線を配線することができる。また、制御基板312cがYaw部312内部に設けられる。
【0034】
Pitch部313及びRoll部314の基本構成は、Yaw部312と同様である。Pitch部313は、Hand部315を幅方向(X方向)のPitch軸を中心に回動させる。Roll部314は、Hand部315をRoll軸(Z方向)中心に回動させる。
【0035】
このように、保持部310AはYaw軸、Pitch軸、及びRoll軸の回動軸を有するため、処理対象物Tを自在に保持したり、保持している処理対象物Tに対して他の保持部310B、311Bでさらに保持したりして、処理対象物Tを自在に扱うことができる。
【0036】
<Hand部315>
図6に示すように、Hand部315は、処理対象物Tを保持するために対向する2本のフィンガ315a、及び、フィンガ315aを開閉する駆動部で構成される。駆動部は、モータ315bと、複数の減速ギヤ315cと、回動ギヤ315dと、からなり、最終的に対向する2本のフィンガ315aを連動させて回転駆動し、開閉させる。
【0037】
フィンガ315aは、最後の回動ギヤ315dに固定される付け根部分が板バネ315eで構成される。これにより、保持する処理対象物Tに必要以上の負荷をかけてしまうことを防止し、適切な負荷で処理対象物Tを保持できる。また、例えば、作業板410に掛けられた処理対象物Tをフィンガ315aで作業板410ごと一旦保持し、次に作業板410から処理対象物Tだけを引き抜くときに、板バネ315eの付勢力によりフィンガ315aを作業板410の厚み分だけ自動的に閉じることができ、モータ315bをさらに動作させなくても処理対象物Tを把持し続けることができる。
【0038】
[1-1-3.作業板装置の構成]
作業板装置400は、認識処理や折り畳み処理の際に処理対象物Tを載置する作業板4
10を回転及び移動させる装置である。
図7に示すように、作業板装置400は、作業板410、回転駆動部420、走行駆動部430、及び伝動部440で構成される。作業板装置400は、そのままでは作業板410を無限に回転させられる回転機構である。
【0039】
作業板410は、回転駆動部420に設けられる回転軸421に固定される。回転駆動部420は、作業板410を幅方向(X方向)の回転軸421を中心にして回転させる。走行駆動部430は、作業板410を高さ方向に移動させる。伝動部440は、モータの駆動力を伝えるギヤ及びベルトなどが設けられる。
【0040】
作業板装置400は、上述した移動機構320と同様の移動するための機構を備える。本実施の形態において、作業板装置400は、保持部310Bが設けられる移動機構320AのZガイド344Aを兼用して、走行駆動部430が組み合わされる。このため、作業板装置400は、Zガイド344Aにおいて、常に保持部310Aの下方で上下に移動するように構成される。
【0041】
<作業板410>
作業板410は、
図2に示すように、作業平面の角部を面取りされた略矩形の板材である。作業板410は、角部の角がないように形成されることにより、布類などの処理対象物Tが引っ掛かる不具合が抑制される。
【0042】
作業板410は、作業板410の長手方向、つまり、長辺の2つの縁部がそれぞれ回転軸421と平行になるように回転軸421に固定される。このため、両方の縁部を用いての処理が容易となる。なお、
図7に示すように、作業板410が回転軸421に対して偏心して配置されてもよい。この場合、回転軸421から作業板410の縁部までの距離が、それぞれの縁部ごとに異なる。これにより、例えば、処理対象物Tを回転軸421からの距離が長い側の縁部に当接させることで、同じ幅、同じ傾斜角(例えば60度)であれば、偏心していない場合に比べてより高く処理対象物Tを持ち上げることができ、衣類処理装置1内の限られたスペースをより有効に活用できる。
【0043】
<作業板装置400の駆動部>
回転駆動部420及び走行駆動部430は、図示しないが、いずれも上述した保持部310の駆動部のように、モータ、減速ギヤ、トルクリミッタ、及びトルクセンサ等の駆動機構を組み合わせ、適切な回転速度又は移動速度になるように構成される。
【0044】
回転駆動部420の回転用モータ422は、右側に設けられる。回転駆動部420の回転軸421は、中空構造であり、内部空間に走行駆動部430の伝動シャフト431が貫通して設けられる。作業板410を回転させる回転軸421は、回転位置検出センサ(図示せず)が設けられ、いずれの方向にも無限に回転できるように構成される。作業板410の向きを初期化する原点設定構成は、特に限られないが、例えば、
図7に示すように、筐体100内の下部に初期化機構450が設けられ、回転軸421などの回転部の円周の所定位置に突起部が設けられ、所定のタイミングでリンク等の構成により突起部により作業板410の回転を係止することにより行われてもよい。
【0045】
走行駆動部430の駆動機構は、左右に設けられる。走行駆動部430は、詳細は図示しないが、左側に設けられた走行用モータ432から伝動部440に設けられるベルト及び伝動シャフト431を介して右側にも駆動力を伝達し、左右に設けられる走行ギヤを駆動する。そして、左右のアンバランスが発生しないようにして作業板410を上下に移動させる。また、走行位置検出センサが走行駆動部430に設けられる。
【0046】
作業板装置400は、保持装置300の動きと連動して動作するように制御される。制
御装置900は、例えば、処理対象物Tの種類を認識する認識処理の際に、保持装置300に保持され下方向Z2に垂れ下がる処理対象物Tを、所定の向きに回転させた作業板410の表面又は縁部にまたがるように載置する。そして、処理対象物Tの一端を水平方向に引っ張って変位させて処理対象物Tを衣類処理装置1の底面から離間させつつその上下方向の長さを小さくする。これにより、大きな処理対象物Tであっても保持装置300によって持ち上げて、作業板装置400と協働して処理対象物Tの最下端を受入部200の底面から離して、保持することができる。また、処理対象物Tを保持装置300のみで上方向Z1に持ち上げるだけの場合に比べ、衣類処理装置1の高さ寸法を小さくすることができる。また、作業板装置400は、処理対象物Tを折り畳む折畳処理の際に、作業板410の縁部に処理対象物Tを引っ掛けることで、処理対象物Tに折り畳み線を設定できる。
【0047】
[1-1-4.撮像装置の構成]
撮像装置500は、処理対象物Tを受け入れた後の掴み処理、認識処理及び折り畳み処理する際に、当該処理対象物Tの端点等を検出する装置である。
図2及び
図3に示すように、撮像装置500は、第1撮像部510と、第2撮像部520と、第3撮像部530と、を含む。第1撮像部510及び第2撮像部520は、例えばデジタルスチルカメラが使用され、端点検出や、処理対象物Tの種類の判別などに使用される。第3撮像部530は、例えばステレオカメラが使用され、端点検出のための奥行き方向の距離や処理対象物Tの幅を測定するために使用される。いずれの撮像部も正面内壁側のフレームに設けられ、レンズの向きは後方向Y2である。
【0048】
図8は、各撮像部の撮像範囲の一例を示す図である。第1撮像部510は、受入部200の少し上方に設けられ、レンズの向きは斜めの下方向Z2である。具体的には、第1撮像部510は、A11~A12の範囲を撮像可能である。つまり、第1撮像部510は、受入部200に入れられた処理対象物Tを撮像する。この処理対象物Tの画像データは、例えば、初めの衣類の掴み上げのための画像データを取得するために使われたり、また折り畳みの進捗をチェックするために用いられたりする。
【0049】
第2撮像部520は、正面の中央部近傍に設けられ、A21~A22の撮像範囲を有する。
図8に示すように、A21~A22の撮像範囲は広く、例えば衣類処理装置1内の天井から底までの範囲にある処理対象物Tを撮像する。第2撮像部520は、例えば、展開時及び折り畳み時の処理対象物Tを撮像する。撮像された画像データは、処理対象物Tの種類又は部位等の判別において、処理対象物Tを照合するための画像を撮像するために用いられる。
【0050】
第3撮像部530は、第1撮像部510と第2撮像部520との間に設けられ、A31~A32の撮像範囲を有する。第3撮像部530は、例えば左右に並んだ2つのレンズを有するステレオカメラであり、処理対象物Tの奥行き方向の距離を測定するために用いられる。第3撮像部530により撮像された画像データは、折り畳み中の最下点や衣類幅等の測距データを取得するために用いられてもよい。第3撮像部530の撮像範囲A31~A32には、作業板410が含まれる。
【0051】
[1-1-5.その他の主要構成]
<支持部600>
支持部600は、処理対象物Tの折り畳みの際に、折り畳みラインを押さえておいたり、処理対象物Tの皺を伸ばしたりなど、処理対象物Tを支持する壁面である。例えば、支持部600は、作業板410の前方に設けられる正面側支持部610及び後方に設けられる背面側支持部620のうち少なくともいずれか一方を含む。例えば、
図9に示すように、折り畳みの際に、作業板410は、保持部310に保持されて垂れ下がった処理対象物
Tを、その折り畳み線に沿うように、作業板410の前縁部と正面側支持部610とで挟んでホールドする。そして、保持部310が処理対象物Tを作業板410に掛けるように移動する。これにより、処理対象物Tは、作業板410の縁部を軸にして折り畳まれるため、折り畳み線で適切に折り畳むことができる。
【0052】
<収納装置700>
収納装置700は、処理された処理対象物Tを保持装置300から受け取って収納する。収納装置700は、
図1、
図10A及び
図10Bに示されるように、複数の収納部710、及び、処理対象物Tを受け取り各収納部710に格納する運搬部720を含む。収納装置700は、受入部200及び保持装置300などが収納される処理空間の横に隣接して配設されており、処理空間と収納装置700とを合わせて、衣類処理装置1が構成される。
【0053】
本実施の形態において、
図2に示すように、収納装置700は、5つの収納部710を高さ方向に配列して備える。収納の機構及び動作は、特に限られないが、一例を簡単に説明する。例えば、
図10A及び
図10Bに示すように、各収納部710に処理対象物Tを運ぶ運搬部720を備えてもよい。運搬部720は、図示しない移動装置を含み、処理対象物Tの折り畳みなどの処理中は、処理空間内の壁際に格納される。
【0054】
<制御装置900>
制御装置900は、衣類処理装置1における各部の制御を統括する。制御装置900は、主として、ROM、RAM、演算装置、及び入出力インターフェイスから構成される。ROMには、オペレーティングシステム、衣類処理装置1の各部を制御するための制御プログラム、及び、制御プログラムの実行に必要なデータが格納されている。また、演算装置は、ROMに格納されている制御プログラムをRAMにロードしたり、ROMから直接実行したりするために設けられる。つまり、制御装置900は、演算装置が制御プログラムを実行することにより、衣類処理装置1を制御できる。そして、演算装置が処理したデータは、入出力インターフェイスを介して、衣類処理装置1の各部(保持装置300、作業板装置400等)へ送信される。演算装置の処理に必要なデータは、衣類処理装置1の各部(撮像装置500等)から入出力インターフェイスを介して受信される。
【0055】
図11に示すように、制御装置900は、保持装置制御部901、作業板装置制御部902、撮像装置制御部903、収納装置制御部904、種類認識部910、部位検出部911、長さ検出部912、ずれ補正部913、特異事象検出部914、第1点検出部915、第2点検出部916、端点検出部917、を備える。
【0056】
保持装置制御部901は、保持装置300における保持部310、及びそれぞれの移動機構320の動作を制御する。つまり、保持装置制御部901が、保持部310における各種モータを制御することにより、Hand部315の向きを調節、及び、対向するフィンガ315aを互いに近接又は離間させ、処理対象物Tの把持又はその開放を行う。また、保持装置制御部901が移動機構320における幅方向移動機構330の動作を制御することにより、保持部310が幅方向(X方向)に移動する。また、保持装置制御部901が移動機構320における高さ方向移動機構340の動作を制御することにより、保持部310が高さ方向(Z方向)に移動する。また、保持装置制御部901が移動機構320における奥行き方向移動機構350の動作を制御することにより、保持部310が奥行き方向(Y方向)に移動する。
【0057】
作業板装置制御部902は、作業板装置400における回転駆動部420及び走行駆動部430の動作を制御する。つまり、作業板装置制御部902が回転駆動部420の動作を制御することにより、作業板410が回転するとともに所定の角度を保持する。また、
作業板装置制御部902が走行駆動部430の動作を制御することにより、作業板410が高さ方向(Z方向)に移動する。
【0058】
撮像装置制御部903は、撮像装置500における第1撮像部510、第2撮像部520、及び第3撮像部530の動作を制御する。つまり、撮像装置制御部903が第1撮像部510、第2撮像部520、及び第3撮像部530を制御することにより、所望のタイミングでデジタル画像を取得できる。取得された画像データは、RAM等に記憶される。
【0059】
収納装置制御部904は、収納装置700における運搬部720の動作を制御する。
【0060】
種類認識部910は、撮像装置500における第1撮像部510、第2撮像部520、及び第3撮像部530で得られた画像データに基づいて処理対象物Tの種類等を認識する。この種類識別について説明すると、種類認識部910は、予め、Tシャツ、ランニングシャツ、スカート、タオル、ハンカチ、フィルム、紙、あるいは、シートといった多種多様な処理対象物Tの画像データ(学習用画像データ)から抽出された特徴量に基づき、所定の機械学習アルゴリズムを用いて学習する。種類認識部910は、第2撮像部520及び第3撮像部530で得られた画像データに写された、現在処理中の処理対象物Tの特徴量を算出する。そして、種類認識部910は、算出した特徴量毎に機械学習アルゴリズムを用いて当該処理対象物Tがある種類(例えば、Tシャツ、ランニングシャツ、長袖シャツ、ズボン、タオル等)に該当する確率を種類毎にパーセンテージで計算する。然る後、最も確率の高い(すなわち、パーセンテージの高い)ものを当該処理対象物Tの種類として認識する。また、種類認識部910では、処理対象物Tの種類毎に折り畳み方が予め決められており、各種類の折り畳み方が「折り畳み情報」として蓄積されている。
【0061】
部位検出部911は、撮像装置500で得られた画像データに基づいて、処理対象物Tの袖などの特徴的な部位を検出する。
【0062】
長さ検出部912は、撮像装置500で得られた画像データに基づいて、処理対象物Tの縦方向の長さ(例えば、Tシャツの着丈寸法)及び横方向の長さ(例えば、Tシャツの幅寸法)を得る。
【0063】
ずれ補正部913は、処理対象物Tが作業板410に掛けられている状態で、処理対象物Tのずれを補正する。例えば、処理対象物Tが作業板410に掛けられている状態で、作業板410の長手方向(X方向)の縁と、処理対象物TのX方向の縁とが略平行でない場合、ずれが生じている。このとき、ずれ補正部913は、作業板410の長手方向(X方向)の縁と、処理対象物TのX方向の縁とが略平行になるようにずれ補正を行う。
【0064】
特異事象検出部914は、撮像装置500で得られた画像データに基づいて、処理対象物Tの折り畳み方法に影響する異常な事象を検出する。つまり、処理対象物Tの特異事象とは、袖及び裾などが意図せずに折り重なったりねじれたりした状態、処理対象物Tが想定以上に厚い状態、折り畳み途中で一部がはみ出た状態、紐などの付属的なものが垂れた状態、などを含む。
【0065】
第1点検出部915は、受入部200における底面に載置された処理対象物Tの任意の点を検出する。例えば、第1点検出部915は、処理対象物Tの最も高い位置を第1点P1として検出する。
【0066】
第2点検出部916は、保持部310が保持する処理対象物Tに対し、端点以外の任意の点を特定する。第2点検出部916は、例えば、処理対象物Tの2つの長袖部分を特定した場合、長袖部分の中間位置を任意の点としてもよい。
【0067】
端点検出部917は、保持部310が保持する処理対象物Tに対し、高さ方向における最下点(端点)の位置を検出する。具体的には、第3撮像部530により撮像された画像を用いて、高さ方向に加えて、幅方向及び奥行き方向における処理対象物Tの最下点の座標を取得する。
【0068】
なお、衣類処理装置1の処理としては、処理対象物Tを保持して展開したり、種類などを認識したり、折り畳んだり、収納したりすることができるが、ここでは具体的には説明しない。各構成において、必要に応じて説明される。
【0069】
[1-1-6.処理対象物の状態を判定する技術の詳細]
処理対象物Tである衣類等の種別、上下左右の向き、前後または表裏の向き、等の状況によっては判定が困難となる状態を判定する技術の詳細について説明する。
【0070】
図12は、実施の形態1に係る制御装置900の機能構成のうち、処理対象物Tの状態を判定する動作を制御するための機能構成を示す。
【0071】
制御装置900は、撮像画像取得部970、状態判定部971、ユーザ問合せ部972、及び状態検出部973を備える。
【0072】
撮像画像取得部970は、第2撮像部520又は第3撮像部530により撮像された処理対象物Tの撮像画像を取得する。撮像画像取得部970は、処理対象物Tが保持部310により保持されて吊り下げられた状態の撮像画像を取得してもよい。また、吊り下げられた状態は処理対象物Tの展開後の状態であってもよい。
【0073】
状態判定部971は、処理対象物Tの撮像画像において、状態検出部973を用いて処理対象物Tの状態を判定する。状態検出部973は、処理対象物Tの撮像画像を入力し、機械学習モデルを用いて状態の検出を行い、検出結果の信頼度を出力する。状態判定部971は、予め設定した閾値に対して状態の検出結果の信頼度が低い場合、ユーザ問合せ部972に状態について問い合わせる問合せ指令を行い、ユーザ問合せ部972によるユーザへの問い合わせの結果得られた状態を用いて状態の判定を行う。
【0074】
ユーザ問合せ部972は、状態検出部973が出力した処理対象物Tの状態の検出結果の信頼度が低い場合に発せられる状態判定部971の問合せ指令に従って、衣類状態についてユーザインターフェースを用いてユーザへ問い合わせを行う。
図13は、実施の形態1に係るユーザインターフェースの例を示す。具体的には、ユーザインターフェースとしてユーザのスマートフォン974を利用し、長袖シャツT1の状態を問い合わせる例である。
【0075】
つまり、ユーザ問合せ部972は、処理対象物Tの撮像画像をユーザのスマートフォン974に表示し、ユーザに長袖シャツT1の前後の状態を選択してもらう。
図13の場合、ユーザは、衣類状態として、前後向き判定における「前」を選択することになる。特に衣類の前後の状態の判定については、襟ぐりでは判定できない場合、または、衣類の柄や絵などが衣類によって衣類の前にあったり、後ろにあったりする場合など、衣類の持ち主でないと判定が難しいことがある。このため、ユーザへ問い合わせを行うことにより正しい衣類状態を得ることができ、機械学習で学習したモデルだけで判定する場合に比べて、判定の精度を高めることができる。
【0076】
これにより、衣類処理装置1は、機械学習モデルでは判定が難しい処理対象物Tの状態をユーザに問い合わせて判定することができるので、処理対象物Tの様々な状態を高い精
度で判定することができる。
【0077】
状態検出部973において、機械学習モデルは、処理対象物Tの撮像画像を用いて予め学習させた学習済みモデルが使用される。機械学習モデルとしてディープラーニングが用いられる場合、状態の検出結果とともに、検出結果がどれほど確からしいかどうかを示す信頼度が出力される。機械学習モデルとしては、ディープラーニングと同様、検出結果とともに信頼度を出力する他の機械学習モデル、例えば、サポートベクター分類器が用いられてもよい。
【0078】
なお、状態検出部973の機械学習モデルは、ユーザ問合せ部972への問合せ指令の回数が所定の回数を超えた場合、もしくは問い合わせた結果を所定数得られた場合など、必要に応じて撮像画像取得部970で撮像した処理対象物Tの複数の撮像画像を学習し、更新されてもよい。
【0079】
状態検出部973の機械学習モデルの更新方法の一例について説明する。状態判定部971は、ユーザ問合せ部972への問合せ指令のたびに、撮像画像取得部970で撮像した処理対象物Tの撮像画像及びユーザ問合せ部972によって得られた状態の判定結果を保存する。ユーザ問合せ部972への問合せ指令の回数が所定の回数を超えた場合、もしくは問い合わせた結果を所定数得られた場合など、保存しておいた処理対象物Tの撮像画像及び状態の判定結果を状態検出部973へ転送する。
【0080】
状態検出部973は、衣類処理装置1が動作していない時間を利用して、処理対象物Tの撮像画像を入力し、状態の判定結果を教師データとして状態検出部973の機械学習モデルの学習を行う。得られた学習モデルを状態検出部973の学習モデルに上書きし、学習モデルの更新を行う。機械学習モデルがディープラーニングである場合、状態検出部973は、処理対象物Tの撮像画像を入力層に入力し、ユーザ問合せ部972により取得された状態の判定結果がニューラルネットワークの出力層から出力されるように、ニューラルネットワークの中間層を調整することにより、機械学習モデルを学習する。得られた学習モデルは状態検出部973の機械学習モデルに上書きされ、更新が完了する。
【0081】
これにより、状態判定部971は、ユーザの環境に合わせた撮像画像で学習でき、ユーザ環境に適した機械学習モデルを構築できるため、状態検出部973の精度を向上させることができる。
【0082】
なお、状態判定部971は、ユーザ問合せ部972へ問合せ指令を行ったとき、所定時間が経過してもユーザから判定結果が得られない場合、そのまま状態検出部973の検出結果を用いて状態の判定を行ってもよい。これにより、ユーザから判定結果が得られない場合でも、衣類処理装置1の動作を止めることを回避でき、衣類処理装置1の所望の動作、折り畳み等を実現することができる。
【0083】
[1-2.動作]
以上のように構成された衣類処理装置1について、以下その動作、作用を説明する。
【0084】
図14は、実施の形態1に係る処理対象物Tの状態を判定する動作の手順を示すフローチャートである。保持装置制御部901は、処理対象物Tの任意の位置を保持部310Aに把持させて、処理対象物Tを吊り下げる(ステップS10)。撮像画像取得部970は、第2撮像部520又は第3撮像部530により撮像された処理対象物Tの撮像画像を取得する(ステップS12)。状態判定部971は、処理対象物Tの撮像画像において、状態検出部973を用いて、機械学習モデルにより処理対象物Tの状態を検出し、その信頼度を取得する(ステップS14)。
【0085】
状態検出部973から取得した状態検出結果の信頼度が予め設定した閾値以上の場合(ステップS16のY)、状態判定部971は、状態検出部973が出力した検出結果を使用して状態判定を行う(ステップS24)。状態検出部973が出力した検出結果の信頼度が閾値より小さい場合(ステップS16のN)、ユーザ問合せ部972へ問合せ指令を行う。これにより、ユーザ問合せ部972はユーザへ問い合わせを行い(ステップS18)、所定時間内にユーザによる状態の判定結果を取得できれば、状態判定部971にその結果を返す(ステップS20のY、ステップS22)。状態判定部971は、この判定結果を使用して状態判定を行う(ステップS24)。ただし、ステップS18でユーザに問い合わせても所定時間内に状態の判定結果を取得できない場合(ステップS20のN)、状態判定部971は、状態検出部973が出力した検出結果を使用して状態判定を行う(ステップS24)。そして、衣類処理装置1は、状態判定部971により判定された処理対象物Tの状態に基づいて、折り畳み等の衣類処理を行う(ステップS26)。
【0086】
[1-3.効果等]
以上のように、本実施の形態において、衣類処理装置1は、処理対象物Tの撮像画像を取得する撮像画像取得部970と、撮像画像取得部970により取得された処理対象物Tの撮像画像に基づいて処理対象物Tの状態を判定する状態判定部971と、撮取得された処理対象物Tの撮像画像を使用して処理対象物Tの状態をユーザに問い合わせるユーザ問合せ部972と、取得された処理対象物Tの撮像画像に基づいて処理対象物Tの状態を検出し、検出結果とともに検出結果の信頼度を出力する機械学習モデルを備える状態検出部973と、を備え、状態判定部971は、状態検出部973が出力する信頼度が所定値より低い場合、ユーザ問合せ部972により処理対象物Tの状態についてユーザに問い合わせを行い、ユーザへの問い合わせにより得られた状態を用いて処理対象物Tの状態の判定を行う。これにより、機械学習モデルでは判定が難しい処理対象物Tの状態をユーザが判定することができるので、処理対象物Tの状態を高い精度で判定することができる。
【0087】
また、本実施の形態において、衣類処理装置1の状態判定部971は、少なくとも、処理対象物Tである衣類等の種別、上下左右の向き、前後または表裏の向き、等の状況によっては判定が困難となる状態のうちいずれかの状態を判定する。これにより、衣類の持ち主でないと判定するのが難しい衣類の状態を、高い精度で判定することができる。
【0088】
また、本実施の形態において、衣類処理装置1は、ユーザへの問い合わせ回数が所定回数を超えた場合、または、前記ユーザに問い合わせた結果を所定数得られた場合、前記ユーザに問い合わせた結果を用いて撮像画像取得部970で撮像した処理対象物Tの複数の撮像画像を学習し、状態検出部973の機械学習モデルを更新する。これにより、ユーザの環境に合わせた撮像画像で学習でき、ユーザ環境に適した機械学習モデルを構築できるため、状態検出部973の精度を向上させることができる。
【0089】
また、本実施の形態において、衣類処理装置1は、処理対象物Tの状態をユーザに問い合わせたときにユーザから判定結果が得られない場合、状態検出部973の検出結果を用いて状態の判定を行う。これにより、例えば、所定時間たってもユーザから判定結果が得られない場合でも、衣類処理装置1の動作を止めることを回避でき、衣類処理装置1の所望の動作を実現することができる。
【0090】
また、本実施の形態において、衣類処理装置1の判定方法は、処理対象物Tの撮像画像を取得するステップS12と、取得された処理対象物Tの撮像画像に基づいて、機械学習モデルを用いて処理対象物Tの状態を検出し、検出結果の信頼度を取得するステップS14と、信頼度が所定値より低い場合、処理対象物Tの状態についてユーザ問い合わせを行うステップS18と、ユーザ問い合わせにより得られた状態を用いて処理対象物Tの状態
の判定を行うステップS24と、を備える。これにより、機械学習モデルでは判定が難しく信頼度が低いと判断された場合、処理対象物Tの状態をユーザに問い合わせて判定することができるので、処理対象物Tの状態を高い精度で判定することができる。
【0091】
以上のように、本出願において開示する技術の例示として、実施の形態1を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施の形態にも適用できる。また、上記実施の形態1で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
【0092】
また、上述の実施の形態においては、衣類の折り畳みを例として説明をしたが、衣類の折り畳みに限定されず、衣類状態を判定して衣類の処理を行うものにも適用することができる。
【産業上の利用可能性】
【0093】
本開示は、衣類状態を判定して衣類の処理を行う衣類処理装置に利用可能である。
【符号の説明】
【0094】
1 衣類処理装置
T 処理対象物
T1 長袖シャツ
X1 左方向
X2 右方向
Y1 前方向
Y2 後方向
Z1 上方向
Z2 下方向
100 筐体
110 フレーム
120 外郭
200 受入部
210 ガイドレール
300 保持装置
300A、300B 保持装置
310、310A、310B、311B 保持部
312 Yaw部
313 Pitch部
314 Roll部
315 Hand部
316 回動シャフト
317 力覚センサ
320、320A、320B 移動機構
330、330A、330B 幅方向移動機構
332A、332B 幅方向駆動部
334A、334B Xガイド
340、340A、340B 高さ方向移動機構
342A、342B 高さ方向駆動部
344A、344B Zガイド
350、350A、350B 奥行き方向移動機構
352A、352B 奥行き方向駆動部
354 Yガイド
400 作業板装置
410 作業板
411 側端板
420 回転駆動部
421 回転軸
422 回転用モータ
430 走行駆動部
431 伝動シャフト
432 走行用モータ
440 伝動部
450 初期化機構
500 撮像装置
510 第1撮像部
520 第2撮像部
530 第3撮像部
600 支持部
610 正面側支持部
620 背面側支持部
700 収納装置
710、710a、710b、710c、710d、710e 収納部
711 ドア
720 運搬部
721、721a、721b、721c 挟持板
722a、722b レール
723 連結部
724 回転軸
725 蝶番
900 制御装置
970 撮像画像取得部
971 状態判定部
972 ユーザ問合せ部
973 状態検出部
974 スマートフォン(ユーザインターフェース)