(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023163175
(43)【公開日】2023-11-09
(54)【発明の名称】検査システム、検査方法、学習方法、及びプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20231101BHJP
G01N 21/952 20060101ALI20231101BHJP
G01N 21/88 20060101ALI20231101BHJP
H04N 7/18 20060101ALI20231101BHJP
【FI】
G06T7/00 610C
G06T7/00 350C
G01N21/952
G01N21/88 J
H04N7/18 B
H04N7/18 K
【審査請求】未請求
【請求項の数】19
【出願形態】OL
(21)【出願番号】P 2023073157
(22)【出願日】2023-04-27
(31)【優先権主張番号】P 2022073418
(32)【優先日】2022-04-27
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000000033
【氏名又は名称】旭化成株式会社
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】大谷 洋平
(72)【発明者】
【氏名】村田 歩紀
【テーマコード(参考)】
2G051
5C054
5L096
【Fターム(参考)】
2G051AA01
2G051AB07
2G051CA03
2G051CA04
2G051DA08
2G051EB05
5C054CA04
5C054CC02
5C054FC12
5C054FC16
5C054GB02
5C054GB05
5C054HA05
5L096BA03
5L096CA04
5L096DA02
5L096FA19
5L096HA08
5L096HA11
5L096KA04
5L096KA15
(57)【要約】
【課題】対象製品の外観に関する検査をより高い精度で行うことに関する技術を提供すること。
【解決手段】製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実施するプロセッサを備える。
【選択図】
図6
【特許請求の範囲】
【請求項1】
製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を実施するプロセッサを備える検査システム。
【請求項2】
前記学習モデルは、入力される前記検査対象画像の数に対応する数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、前記畳み込み層ブロックのいずれかに入力される、請求項1に記載の検査システム。
【請求項3】
前記学習モデルは、複数の前記畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力される全結合層を有する、請求項2に記載の検査システム。
【請求項4】
前記複数の製品画像の少なくとも一部分を結合した画像又は前記複数の検査対象画像の少なくとも一部分を結合した画像は、前記巻物製品の側面の全周の外観を含む、請求項1に記載の検査システム。
【請求項5】
前記複数の製品画像の少なくとも一部及び前記複数の検査対象画像の少なくとも一部は、巻かれた前記製品の周方向端部を含む、請求項1に記載の検査システム。
【請求項6】
前記外観に関する検査情報は、複数の前記検査対象画像のうち、2つ以上の前記検査対象画像に基づいて特定される情報を含む、請求項1に記載の検査システム。
【請求項7】
前記学習モデルは、入力される前記検査対象画像の数と同じ数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、異なる前記畳み込み層ブロックに入力される請求項2に記載の検査システム。
【請求項8】
前記学習モデルは、4つの畳み込み層ブロックを有し、前記学習モデルに、前記対象製品の外観を4方向から撮像することにより得られた4つの検査対象画像が入力される、請求項1に記載の検査システム。
【請求項9】
前記外観に関する検査情報は、巻かれた前記製品の折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部に関する情報を含む、請求項1に記載の検査システム。
【請求項10】
複数の前記検査対象画像のうち、少なくとも第1検査対象画像は、前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含み、その他の複数の前記検査対象画像のうち、少なくとも1の前記検査対象画像は、前記第1検査対象画像に含まれている前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含まない、請求項9に記載の検査システム。
【請求項11】
前記製品は、シート、フィルム、ホイル、又は織物を含む、請求項1に記載の検査システム。
【請求項12】
前記巻物製品を転動させながら搬送する搬送装置を備え、
複数の前記検査対象画像が、前記搬送装置により転動させながら搬送された前記巻物製品を複数の方向から撮像することにより取得された画像を含む請求項1に記載の検査システム。
【請求項13】
前記プロセッサは、前記複数の検査対象画像の少なくとも一部分を結合した画像が、前記巻物製品の側面の全周の外観を含むか否かを判断することをさらに実施する、請求項1に記載の検査システム。
【請求項14】
複数の製造装置によりそれぞれ製造された複数の前記巻物製品を搬送可能に構成された搬送装置と、
前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を、一の前記製造装置から他の前記製造装置に切り替える切替装置と、
前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を示す製造装置情報と、この巻物製品の外観に関する前記検査情報とを取得し、前記製造装置情報と前記検査情報とを関連付ける集約部と、
前記製造装置ごとに、その製造装置により製造された複数の前記巻物製品の前記検査情報を示す情報を取得する情報取得部と、をさらに備える請求項1に記載の検査システム。
【請求項15】
前記プロセッサは、前記検査対象画像のうち、前記学習モデルに基づいて得られた前記検査情報の出力に影響した部位を特定することをさらに実施し、
前記検査対象画像と、前記部位を特定する情報と、前記検査情報の出力とを表示する表示装置と、
前記表示装置に表示される前記検査情報の出力の妥当性を受け付ける入力部とを備え、
前記入力部が受け付けた妥当性に関する情報に基づいて、前記検査対象画像を前記教師データに追加可能に構成される、請求項1に記載の検査システム。
【請求項16】
前記プロセッサは、少なくとも3種類の前記検査情報の出力を得ることを実施し、かつ、第1種類の前記検査情報の出力が得られた前記対象製品が良品であることを示す情報を出力し、第2種類の前記検査情報の出力が得られた前記対象製品が不良品であることを示す情報を出力し、第3種類の前記検査情報の出力が得られた前記対象製品が修正可能な製品であることを示す情報を出力すること、をさらに実施する請求項1に記載の検査システム。
【請求項17】
製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を含む検査方法。
【請求項18】
製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を実行するためのプログラム。
【請求項19】
製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、
前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、
取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、
を実施する学習方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査システム、検査方法、学習方法、及びプログラムに関する。
【背景技術】
【0002】
製造された対象製品を撮像等することによって得られた画像に基づいて、対象製品の外観に関する検査を行う技術が知られている。特許文献1には、撮像部により得られた画像に基づいて、円筒体の鋼管の表面欠陥を検査する技術が開示されている。特許文献2には、被包装物を包み込んだ包装フィルムが端部で捻られた捻り包装品の撮像画像に基づいて、当該捻り包装品が良品又は不良品であるかを判定する技術が開示されている。特許文献3及び特許文献4には、巻芯に巻き付けるために搬送されるシートを撮像して得られた画像を用いて、巻芯に巻き付け中のシートの巻きしわの有無を検出する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2015-064301号公報
【特許文献2】特開2019-191086号公報
【特許文献3】特開2020-030118号公報
【特許文献4】特開2021-162389号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
取得した対象製品の画像に基づいて、当該対象製品の外観に関する検査をより高い精度で行うことが望まれている。
【0005】
本発明の目的は、対象製品の外観に関する検査をより高い精度で行うことに関する技術を提供することである。
【課題を解決するための手段】
【0006】
本開示の一態様に係る検査システムは、製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実施するプロセッサを備える。
【0007】
本開示の一態様に係る検査方法は、製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を含む。
【0008】
本開示の一態様に係るプログラムは、製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実行する。
【0009】
本開示の一態様に係る学習方法は、製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、を実施する。
【発明の効果】
【0010】
本発明によれば、対象製品の外観に関する検査をより高い精度で行うことに関する技術を提供することができる。
【図面の簡単な説明】
【0011】
【
図1】一実施形態に係るシステムの概略構成を示す概念図である。
【
図2A】一実施形態に係る巻物製品の外観を説明するための概念図である。
【
図2B】一実施形態に係る巻物製品の外観を説明するための概念図である。
【
図2C】一実施形態に係る巻物製品の外観を説明するための概念図である。
【
図2D】一実施形態に係る巻物製品の外観を説明するための概念図である。
【
図2E】一実施形態に係る巻物製品の外観を説明するための概念図である。
【
図3】一実施形態に係るコンピュータのハードウェア構成を示すブロック図である。
【
図4】一実施形態に係るコンピュータの機能構成を示すブロック図である。
【
図5】一実施形態に係る学習モデルを説明するための概念図である。
【
図6】一実施形態に係るコンピュータによる処理フローを説明するためのフローチャートである。
【
図7】一実施形態に係る検査システムの構成を示すブロック図である。
【
図8】一実施形態に係る検査システムのコンピュータ(集約部)によって取得される情報を示す表の一例である。
【
図9】一実施形態に係る検査システムのコンピュータ(統計処理部)によって取得される情報を示すグラフの一例である。
【
図10】一実施形態に係る検査システムの構成を示すブロック図である。
【
図11】一実施形態に係る検査システムの構成を示すブロック図である。
【
図12】一実施形態に係る検査システムの構成を示すブロック図である。
【
図13】一実施形態に係る検査システムのコンピュータ(判定部)によって取得される情報を示す表の一例である。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について図面を用いて説明する。以下の実施形態は、本発明を説明するための例示であり、本発明をその実施形態のみに限定する趣旨ではない。
【0013】
以下に、本実施形態において使用する主な用語について説明する。
【0014】
製品:製造した品物を意味する。本実施形態では特に製品は、例えば、シート、フィルム、ホイル、又は織物を含む。シートは例えば、キッチンシート、トイレットペーパー、壁紙、印刷媒体(例えば、紙)、又は不織布であってもよい。フィルムは、例えば、ラップフィルム又はフィルムテープであってもよい。ホイルは例えば、アルミホイルであってもよい。織物は、例えば、織布であってもよい。
【0015】
巻物製品:製品が巻かれることにより形成されたものである。巻物製品は、製品が巻芯に巻き付けられることにより形成されてもよいし、巻芯を含まずに製品が巻かれることにより形成されてもよい。巻物製品は、限定はしないが、円柱形状又は円筒形状で形成されてもよい。ただし巻物製品は、円柱形状又は円筒形状のように、中心軸を有する軸対称に形成されていることが好ましい。巻物製品が中心軸を有し中心軸を基準とする軸対称に形成されることにより、検査対象となる対象製品の外観の側面を、当該対象製品の中心軸を基準とする周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像は、同一の対象製品の異なる部分を撮像して得られた画像でありながら、同様の画像データを構成する。したがって後述するように、複数の検査対象画像の画像データを、それぞれ異なる畳み込み層ブロックに並列に入力し、各畳み込み層ブロックの畳み込み処理により得られた値をさらに結合して全結合層に入力する処理を実行することにより、対象製品の外観に関する検査をより高い精度で行うことが可能となる。
【0016】
対象製品:検査対象となる巻物製品である。検査対象ではない巻物製品には、例えば、後述する機械学習に使用される教師データとなる画像を撮像するための巻物製品が含まれる。
【0017】
製品画像:巻物製品を撮像することにより得られる画像である。本実施形態において製品画像は特に、巻物製品の外観の画像であってもよい。
【0018】
検査対象画像:対象製品を撮像した画像である。本実施形態において特に、検査対象画像は、対象製品の外観に関する検査のために使用される画像である。
【0019】
<システム構成>
図1を参照して、本実施形態に係るシステムの概要を説明する。システム1は、例えば、検査対象の巻物製品Pである対象製品を撮像等することによって得られた複数の画像に基づいて、当該対象製品の外観に関する検査を行うための検査システムである。本実施形態において、システム1は、例えば、コンピュータ10及び撮像装置20を備える。コンピュータ10は、撮像装置20により撮像された対象製品の画像を取得し、当該画像に基づいて、対象製品の外観に関する検査を行う。
【0020】
コンピュータ10及び撮像装置20は、画像及び制御データを含む各種データを相互に送受信可能なように、無線又は有線により接続されている。コンピュータ10及び撮像装置20は、プライベートネットワーク又はパブリックネットワークなどのネットワークを介して相互に通信可能であってもよい。
【0021】
図1に示す例において、システム1は、コンピュータ10とは別に撮像装置20を備えているが、コンピュータ10は撮像装置20を内蔵していてもよい。コンピュータ10は、撮像装置20以外の他の装置から取得された対象製品の画像に基づいて、対象製品の外観に関する検査を行ってもよい。システム1は、撮像装置20を有さなくてもよい。また、システム1は、
図1に示す以外の構成を備えてもよい。例えば、システム1は、対象製品に向けて照射光を照射するための照射装置を備えてもよい。当該照射装置は、撮像装置20に内蔵されていてもよいし、撮像装置20とは別に設けられてもよい。システム1は、対象製品を搬送するための搬送装置を備えてもよい。また、
図1には、1つの撮像装置20が示されているが、システム1は、複数の撮像装置20を備えてもよい。
【0022】
撮像装置20は、巻物製品Pの外観を撮像することにより巻物製品Pの画像を取得するように構成されている。撮像装置20は、例えば、エリアセンサ等を用いて構成される。円柱形状又は円筒形状の巻物製品Pは、例えば、当該形状の軸方向d1を中心に回転しながら搬送され、撮像装置20は、当該巻物製品Pの外観の側面を中心軸を基準とする周方向d2に沿って複数方向から撮像することにより得られた複数の画像を取得する。
【0023】
巻物製品Pの搬送のために、搬送装置として、例えば、図示しないコンベアが使用される。巻物製品Pは、コンベア上に直接載置されて搬送されてもよいし、巻物製品Pを支持する支持部材などの他の部材を介してコンベア上に載置されて搬送されてもよい。支持部材は、例えば、巻物製品Pを収納可能なバケット(容器)であってもよい。当該バケットは、巻物製品Pを支持するために、例えば、巻物製品Pの収容部に底板、並びに搬送方向の前後それぞれに板を有してもよい。
【0024】
巻物製品Pは、例えば、巻物製品Pの軸方向と垂直方向d3に搬送される。巻物製品Pは、コンベア上を周方向d2に転動しながら搬送されてもよいし、転動せずに搬送されてもよい。転動しながら搬送される場合、巻物製品Pの撮像装置20の撮像領域への進入から退出までの間、撮像装置20は、当該撮像領域を連続して撮像することにより、巻物製品Pの外観において周方向に延在する側面の複数の領域を撮像する。この場合において、撮像領域は、転動しながら搬送される巻物製品Pが少なくとも一回転するようなサイズで設定される。また、巻物製品Pを転動しながら搬送しつつ、一回転分撮像することにより、転動せずに搬送する場合と比較して、撮影時間を短くでき、検査速度を早くできる。なお、ラインセンサにより巻物製品Pを撮像し、製品画像を取得することも可能であるが、ラインセンサには、ライン速度の制約があり、また、撮影のために一定速度で精密に回転させる機械的な機構等の制約がある結果、一定の画質、及び生産性の要件を満たしつつ、ラインセンサにより製品画像を取得することが困難である場合がある。一方、撮像装置20がエリアセンサで構成されている場合、上記のように搬送させながら巻物製品Pを撮像することにより、ラインセンサにおける上記のような制約を受けずに、一定の画質、及び生産性の要件を満たしつつ、製品画像の取得が可能である。
【0025】
転動せずに搬送される場合、複数(N個)の撮像装置20が設置され、巻物製品Pの撮像装置20の撮像領域への進入から退出までの間、巻物製品Pの外観において周方向に延在する側面が、N個の撮像装置20によりN方向から撮像される。撮像装置20の数及び設置位置は、巻物製品Pの外観において周方向に延在する側面の全体が複数の撮像装置20により撮像可能なように設定される。
【0026】
本実施形態によれば、上記の構成により、巻物製品Pの外観において周方向に延在する側面の複数の領域が撮像装置20により撮像され、複数の製品画像(又は複数の検査対象画像)として取得される。このとき、巻物製品Pについて撮像装置20により取得される複数の製品画像の少なくとも一部分を結合した画像又は複数の検査対象画像の少なくとも一部分を結合した画像は、巻物製品Pの側面の全周の外観を含むように、撮像装置20により撮像が行われる。
【0027】
撮像装置20により上記のように取得された巻物製品Pの複数の画像は、コンピュータ10に送信される。
【0028】
コンピュータ10は、端末装置又はサーバ装置などの情報処理装置により構成される。コンピュータ10は、1つの情報処理装置(又はコンピュータ。以下同様。)によって構成されてもよいし、クラウドコンピューティング技術又は分散コンピューティング技術等を使用して複数の情報処理装置によって構成されてもよい。
【0029】
コンピュータ10は、取得した巻物製品Pの複数の画像に基づいて、対象製品の外観に関する検査の処理、又は当該検査に使用される学習モデルを生成する処理などを行う。当該検査のためのコンピュータ10と、当該学習モデルの生成のためのコンピュータ10とは、別の装置であってもよいし、同じ装置であってもよい。
【0030】
対象製品の外観に関する検査のために、コンピュータ10のプロセッサは、まず、撮像装置20から上記のとおり送信された画像を取得する。当該画像は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を含む。さらに、コンピュータ10のプロセッサは、過去に巻物製品Pの外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。本実施形態における対象製品の外観に関する検査の処理の詳細は、後述する。
【0031】
以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品の外観に関する検査情報を出力する。すわなち、1つの対象製品についての複数の検査対象画像のそれぞれに基づいて検査情報を出力するのではなく、複数の検査対象画像に基づいて検査情報が出力される。その結果、例えば、複数の検査対象画像の全体を確認しなければ特定できないような検査情報を出力することが可能である。すなわち、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
【0032】
上記検査に使用される学習モデルの生成のために、コンピュータ10のプロセッサは、まず、教師データとして、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得する。教師データとして取得される当該製品画像は、例えば、外観に異常のない巻物製品P(良品の巻物製品)を撮像することにより得られた画像と、外観に異常のある巻物製品P(不良品の巻物製品)を撮像することにより得られた画像とを含む。ここで、「外観に異常のない」とは、後述する折り返し不良、カット不良、テープ貼り付け不良、又はシワなどが完全に存在しない場合のみでなく、製品の外観において製品の品質あるいは美観の観点で許容できる程度の不良が存在する場合も含みうる。
次に、コンピュータ10のプロセッサは、上記複数の製品画像を教師データとして、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。本実施形態における学習モデルの生成の処理の詳細については後述する。
【0033】
図2Aから
図2Eを参照して、本実施形態における良品及び不良品の巻物製品Pの一例を説明する。
図2Aは、外観から特定できる不良項目を有さない良品である巻物製品P1の外観を示している。巻物製品P1は、製品が巻芯S1に巻き付けられることにより形成されている。巻き付けられた製品の長手方向(周方向)の端部(製品の巻芯S1への巻き終わり側の端部、すなわち、終端部)E1は、領域R1において(及び端部E1の他の領域においても)、意図された方法で正常に折り返されている。良品である巻物製品Pにおいて、製品の長手方向の端部は、折り返されていることに限定されず、巻き付けられた製品を取り出しやすくするための工夫がされた端部形状であればよい。このような端部形状として、例えば、端部がV字のような形状をしていて、このV字のような形状は、端部がV字にカットされることにより形成されてもよいし、端部が直線状にカットされたカット面を外側または内側に折り返して実現されても良い。また、巻き付けられた製品の長手方向の端部を固定するように、テープT1が意図された方法で巻物製品P1の表面(製品の表面)に正常に貼り付けられている。
【0034】
本実施形態において、外観から特定できる不良項目は、例えば、製品の折返し不良、製品のカット不良、製品のシワ、及び製品へのテープ貼付不良のうち少なくとも一部を含む。
【0035】
図2Bは、製品の折返し不良を有する巻物製品P2の外観を示している。
図2Bは、製品の終端部である端部E2の領域R2において、端部E2が、意図されていない異常な方法で折り返されている(すなわち、正常に折り返されていない)ことを示している。
【0036】
図2Cは、製品のカット不良を有する巻物製品P3の外観を示している。
図2Cは、製品の終端部である端部E3が正常にカットされておらず、その結果、製品の端部E3が、正常にカットされた場合に現れる領域とは異なる領域R3に現れていることを示している。
【0037】
図2Dは、製品のシワを有する巻物製品P4の外観を示している。
図2Dは、巻物製品P4が領域R4に複数のシワを有していることを示している。
【0038】
図2Eは、製品へのテープ貼付不良を有する巻物製品P5の外観を示している。
図2Eは、テープT5が正常に貼り付けられた場合に現れる領域とは異なる領域R5に現れていることを示している。
【0039】
<ハードウェア構成>
図3を参照して、コンピュータ10のハードウェア構成の一例を説明する。
図3に示すように、コンピュータ10は、プロセッサ22、記憶装置24、RAM26、表示装置28、通信I/F部30、及び入力装置32を備える。コンピュータ10は、
図3に示す構成のうち、一部を有さなくてもよいし、さらに他の構成を備えてもよい。
【0040】
プロセッサ22は、記憶装置24に記憶されたコンピュータプログラムを実行して、本実施形態に示される各演算処理を実行する。従って、プロセッサ22及び記憶装置24に記憶されたコンピュータプログラムは、協働して、コンピュータ10が有する各種機能を実現する。プロセッサ22は、例えば、複数の演算コアを備えるASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)、又はFPGA(Field Programmable Gate Array)等から構成される。
【0041】
記憶装置24は、本実施形態に示される各演算処理を実行するためのコンピュータプログラムを含む各命令その他の情報を記憶する。記憶装置24は、NANDフラッシュメモリ、FeRAM、MRAM等の電気的に情報を記録及び読取可能な不揮発性半導体記憶素子(一時的でない記憶素子)又はHDD(Hard Disc Drive)等の磁気記憶素子から構成される。
【0042】
RAM26は、本実施形態に示される各演算処理等のために使用するデータその他の情報を一次記憶するためのSRAM(Static Random Access Memory)及びDRAM(Dynamic Random Access Memory)等の揮発性半導体記憶素子から構成される。
【0043】
表示装置28は、プロセッサ22による演算結果を表示するためのディスプレイを備える。通信I/F部30は、コンピュータ10がネットワーク等の通信経路を介して、外部装置と通信を行うためのインタフェースである。入力装置32は、ユーザによる入力を受け付けるための装置である。入力装置32は、例えば、キーボード等であってもよい。
【0044】
コンピュータ10が備える上記構成は、バスBを介して相互にデータ送受信可能に接続される。ただし、一部構成は、コンピュータ10とは別に設けられ、コンピュータ10と通信可能に構成されてもよい。
【0045】
<機能構成>
図4を参照して、コンピュータ10が有する機能を説明する。コンピュータ10は、主な機能構成として、記憶部101、画像取得部102、学習部103、及び判定部104を有する。コンピュータ10は、一般的な情報処理装置又は専用装置などの情報処理装置が有する他の機能構成を有してもよい。コンピュータ10が有する機能構成は、例えば、コンピュータ10が有するプロセッサ22などの制御装置が、記憶装置24などの記憶部に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。
【0046】
記憶部101は、コンピュータ10が取得したデータ、及びコンピュータ10により生成されたデータを含む、各種のデータを記憶する。記憶部101は、例えば、巻物製品Pを撮像した画像データ、学習モデルのデータ、及び対象製品の外観に関する検査情報を記憶する。
【0047】
画像取得部102は、巻物製品Pの外観を撮像することにより得られた複数の製品画像を取得する。当該複数の製品画像は、例えば、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた画像である。画像取得部102は、上記製品画像を撮像装置20から取得してもよいし、他の外部装置から取得してもよい。また、画像取得部102は、取得した製品画像に対して、後述する学習部103又は判定部104による処理の前処理(例えば、製品画像における巻物製品Pが写っている領域の切り出し等)を行う。
【0048】
巻物製品Pについて画像取得部102により取得される複数の製品画像の少なくとも一部分を結合した画像又は複数の検査対象画像の少なくとも一部分を結合した画像は、巻物製品Pの側面の全周の外観を含むように、撮像装置20により撮像が行われる。
【0049】
上記複数の製品画像の少なくとも一部及び上記複数の検査対象画像の少なくとも一部は、巻かれた製品の周方向端部を含むように、上記複数の製品画像は、撮像装置20により撮像され、また、画像取得部102により取得される。このように、製品画像が製品の周方向端部を含むことにより、当該周方向端部に関係する不良(例えば、製品の折返し不良、製品のカット不良)の検出に使用される学習モデルを生成することが可能である。また、当該学習モデルを使用して周方向端部に関係する不良を検出することが可能である。
【0050】
学習部103は、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。より詳細には、学習部103は、複数の製品画像を含む教師データに対して畳み込みニューラルネットワークを利用した画像認識処理を実行し、良品及び不良品に対応する巻物製品Pの画像の特徴量を抽出し、機械学習により学習された学習モデル(畳み込みニューラルネットワーク)を生成する。すなわち、本実施形態において学習部103は、画像取得部102により取得された複数の製品画像を教師データとして、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを構築(生成)する。
【0051】
図5を参照して、学習部103による学習モデルの生成処理の一例を説明する。
図5に示すように、畳み込みニューラルネットワークNは、レイヤーL1及びレイヤーL2を有する。レイヤーL1は、畳み込み層ブロックB1からB4を有する。レイヤーL1に含まれる畳み込み層ブロックの数は、4に限定されず、4未満、又は5以上であってもよい。畳み込み層ブロックB1からB4のそれぞれは、例えば、畳み込み層、プーリング層、及びReLU層などの複合体であり、複数のフィルタを有する。レイヤーL2は、全結合層を有する。
【0052】
巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の画像(製品画像)I1からI4と、事前に定義された複数の分類カテゴリーであるクラスとが教師データとして畳み込みニューラルネットワークNに入力される。詳細には、画像I1は、畳み込み層ブロックB1に入力され、画像I2は、畳み込み層ブロックB2に入力され、画像I3は、畳み込み層ブロックB3に入力され、画像I4は、畳み込み層ブロックB4に入力される。クラスは例えば、巻物製品Pの外観に関する検査情報に対応する情報である。
【0053】
畳み込み層ブロックB1からB4はそれぞれ、入力された製品画像に対して畳み込み処理(フィルター処理)を行い製品画像の特徴量を抽出し、処理結果の値として特徴量のベクトル(行列)を出力する。入力される製品画像は、例えば、カラー画像又はグレー画像であってもよい。当該カラー画像は、例えば、3chx縦画素数x横画素数の3次元配列のデータであってもよい。当該グレー画像は、例えば、1chx縦画素数x横画素数の3次元配列のデータであってもよい。畳み込み層ブロックB1からB4のそれぞれから出力されたベクトルは、互いに結合される。例えば、畳み込み層ブロックB1からB4がそれぞれ、要素数が512x7x7の3次元配列を出力したのち、要素数25088(=512x7x7)の1次元配列へ変換するとする。このとき、畳み込み層ブロックB1からB4から出力された4つの配列が結合され、要素数100352(=25088x4)の1次元配列が生成されてもよい。
【0054】
結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。レイヤーL2は、特徴量が抽出された画像をノードに結合し、活性化関数によって変換された値を出力し、画像の分類を行う。畳み込みニューラルネットワークNに対して教師データが入力され、出力を行うにつれて、畳み込みニューラルネットワークNにおける畳み込み層の重みや全結合層の結合重み等のパラメータが更新され、最適化されてゆく。すなわち、機械学習により学習されるにつれて、より最適化された畳み込みニューラルネットワークNが生成される。従って、教師データには、複数の巻物製品Pについての製品画像が含まれる。また、教師データには、それぞれの巻物製品Pについて、複数の製品画像が含まれる。機械学習により学習されたニューラルネットワークNのデータは、記憶部101に記憶される。
【0055】
判定部104は、学習部103により機械学習されたニューラルネットワークNに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。当該検査情報は、例えば、対象製品が良品であるか不良品であるかを示す情報を含んでもよい。また、当該検査情報は、不良品であるかを示す情報として、製品の折返し不良、製品のカット不良、製品のシワ、及びテープ貼付不良のうち、少なくともいずれかを示す情報を含んでもよい。
【0056】
図5を参照して、判定部104による対象製品の外観に関する検査情報の出力処理の一例をより詳細に説明する。判定部104は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の画像(検査対象画像)I1からI4を畳み込みニューラルネットワークNに入力する。詳細には、画像I1は、畳み込み層ブロックB1に入力され、検査対象画像I2は、畳み込み層ブロックB2に入力され、検査対象画像I3は、畳み込み層ブロックB3に入力され、検査対象画像I4は、畳み込み層ブロックB4に入力される。
【0057】
畳み込み層ブロックB1からB4はそれぞれ、入力された検査対象画像に対して畳み込み処理を行い検査対象画像の特徴量を抽出し、処理結果の値として特徴量のベクトル(行列)を出力する。畳み込み層ブロックB1からB4のそれぞれから出力されたベクトルは、互いに結合される。例えば、畳み込み層ブロックB1からB4がそれぞれ、要素数が512x7x7の3次元配列を出力したのち、要素数25088(=512x7x7)の1次元配列へ変換するとする。このとき、畳み込み層ブロックB1からB4から出力された4つの配列が結合され、要素数100352(=25088x4)の1次元配列が生成されてもよい。
【0058】
結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。レイヤーL2は、特徴量が抽出された画像を一つのノードに結合し、活性化関数によって変換された値を出力し、画像の分類を行う。判定部104は、当該分類に基づいて、対象製品の外観に関する検査情報を出力する。
【0059】
上記のとおり、
図5を参照して説明した判定部104の処理の例において、畳み込みニューラルネットワークN(学習モデル)は、4つの畳み込み層ブロックを有し、畳み込みニューラルネットワークNに、対象製品Pの外観を4方向から撮像することにより得られた4つの検査対象画像が入力される。
【0060】
また、畳み込みニューラルネットワークNに入力される検査対象画像の数は、4に限定されず、4未満、又は5以上であってもよい。入力される検査対象画像の数は、畳み込みニューラルネットワークNにおける畳み込み層ブロックの数に対応する数であってもよい。換言すれば、畳み込みニューラルネットワークN(学習モデル)は、入力される検査対象画像の数に対応する数の畳み込み層ブロックを有してもよい。また、検査対象画像のそれぞれは、畳み込み層ブロックのいずれかに入力されてもよい。
【0061】
すなわち、畳み込みニューラルネットワークNは、入力される検査対象画像の数と同じ数の畳み込み層ブロックを有し、当該検査対象画像のそれぞれは、異なる畳み込み層ブロックに入力されてもよい。
【0062】
また、レイヤーL1から出力され結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。
【0063】
以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像(例えば、画像I1からI4)を畳み込みニューラルネットワークNに入力する。詳細には、例えば、画像I1は、畳み込み層ブロックB1に入力され、検査対象画像I2は、畳み込み層ブロックB2に入力され、検査対象画像I3は、畳み込み層ブロックB3に入力され、検査対象画像I4は、畳み込み層ブロックB4に入力される。複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されてレイヤーL2(全結合層)に入力される。レイヤーL2は、入力に基づいて、画像の分類を行う。判定部104は、当該分類に基づいて、対象製品の外観に関する検査情報を出力する。
【0064】
その結果、本実施形態によれば、複数の検査対象画像を俯瞰しなければ判断できない情報を特定することができる。すなわち、本実施形態によれば、上記の外観に関する検査情報は、複数の検査対象画像のうち、2つ以上の検査対象画像に基づいて特定される情報を含む。これにより、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
【0065】
複数の検査対象画像を俯瞰しなければ判断できない情報には、例えば、複数の検査対象画像に渡って映り込んでいる製品(巻かれた製品)の折返し不良、製品のカット不良、製品のシワ、又はテープ貼付不良に関する情報が含まれる。従って、例えば、上記の外観に関する検査情報は、巻かれた製品の折り返し不良、製品のカット不良、製品のシワ、又はテープ貼付不良に関する情報を含んでもよい。
【0066】
また、本実施形態によれば、上記のとおり、外観に関する検査情報は、複数の検査対象画像のうち、2つ以上の検査対象画像に基づいて特定される情報を含む。そのため、複数の検査対象画像のうち、一部の検査対象画像が良品である巻物製品Pの外観を示し、一部の検査対象画像が不良品である巻物製品Pの外観を示す場合に、判定部104は、不良品であるかを示す情報を含む上記外観に関する検査情報を出力することも可能である。
【0067】
より具体的な例として、複数の検査対象画像のうち、少なくとも第1検査対象画像は、折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部を含み、その他の複数の検査対象画像のうち、少なくとも1の検査対象画像は、第1検査対象画像に含まれている折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部を含まない場合がある。この場合において、判定部104は、不良品(折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部)であるかを示す情報を含む上記外観に関する検査情報を出力することも可能である。
【0068】
<処理フロー>
図6を参照して、コンピュータ10における学習モデルの生成処理、及び対象製品の外観に関する検査情報の出力処理のフローの一例を説明する。以下に説明する各処理ステップは、例えば、コンピュータ10が有するプロセッサ22が、記憶装置24に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。
【0069】
コンピュータ10において実行される処理の詳細は既に説明しているため、以下の処理フローの説明において、既に説明した内容については簡略化又は省略する場合がある。
【0070】
まず、ステップS101において、コンピュータ10は、巻物製品Pの外観を撮像することにより得られた複数の製品画像と、分類カテゴリー(クラス)とを含むデータを教師データとして取得する。当該複数の製品画像は、例えば、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた画像である。教師データとして取得される当該製品画像は、複数の巻物製品Pについての画像を含む。また、教師データとして取得される当該製品画像は、例えば、外観に異常のない巻物製品P(良品の巻物製品)を撮像することにより得られた画像と、外観に異常のある巻物製品P(不良品の巻物製品)を撮像することにより得られた画像とを含む。コンピュータ10は、上記製品画像を撮像装置20から取得してもよいし、他の外部装置から取得してもよい。
【0071】
次に、ステップS102において、コンピュータ10は、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。より詳細には、コンピュータ10は、ステップS101で取得された教師データを使用して畳み込みニューラルネットワークを利用した画像認識処理を実行し、良品及び不良品に対応する巻物製品Pの画像の特徴量を抽出し、機械学習により学習された学習モデル(畳み込みニューラルネットワーク)を生成する。
【0072】
次に、ステップS103において、コンピュータ10は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得する。
【0073】
次に、ステップS104において、コンピュータ10は、ステップS102で生成した学習モデルに、ステップS103で取得した複数の検査対象画像を入力する。コンピュータ10は、当該学習モデルの出力に基づいて、対象製品の外観に関する検査情報の出力を得る。当該検査情報は、例えば、対象製品が良品であるか不良品であるかを示す情報を含んでもよい。また、当該検査情報は、不良品であるかを示す情報として、製品の折返し不良、製品のカット不良、製品のシワ、及びテープ貼付不良のうち、少なくともいずれかを示す情報を含んでもよい。
【0074】
なお、
図6を参照して説明した処理の例において、学習モデルの生成処理(ステップS101及びS102)と、対象製品の外観に関する検査及び検査情報の出力処理(ステップS103及びS104)とが連続して行われたが、これに限定されない。コンピュータ10は、学習モデルの生成処理が終了したタイミングで、対象製品の外観に関する検査及び検査情報の出力処理を実施しなくてもよい。また、コンピュータ10は、学習モデルの生成処理が終了したタイミングとは異なるタイミングで、対象製品の外観に関する検査及び検査情報の出力処理を実施してもよい。また、学習モデルの生成処理を実行するコンピュータ10は、対象製品の外観に関する検査及び検査情報の出力処理を実行するコンピュータ10とは異なる装置であってもよい。
【0075】
以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品の外観に関する検査情報を出力する。すわなち、1つの対象製品についての複数の検査対象画像のそれぞれに基づいて検査情報を出力するのではなく、複数の検査対象画像に基づいて検査情報が出力される。その結果、例えば、複数の検査対象画像の全体を確認しなければ特定できないような検査情報を出力することが可能である。すなわち、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
【0076】
<変形例>
上記実施形態におけるコンピュータ10による機能を実装するためのコンピュータプログラムは、CD-ROM等の光学ディスク、磁気ディスク、半導体メモリなどの各種の記録媒体を通じて、又は通信ネットワークなどを介してダウンロードすることにより、コンピュータにインストール又はロードすることができる。
【0077】
本発明は、上記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において、他の様々な形で実施することができる。上記実施形態はあらゆる点で単なる例示にすぎず、限定的に解釈されるものではない。
【0078】
<第2変形例>
本出願の発明者らは、搬送装置を用いて巻物製品を転動させるとき、巻物製品が意図通りに周方向に回転しない可能性がある点に着目した。巻物製品が転動しないと、巻物製品の側面の全周を含む検査対象画像を取得できないため、十分な検査を行うことが困難となってしまう。
【0079】
そこで本変形例に係る検査システムは、上記実施形態に示される検査システム1の各構成に加えて、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定する判定手段を備えている。
【0080】
このような判定手段を備えることにより、巻物製品の側面の全周の外観を検査することが可能となる。以下具体的な構成について説明する。なお検査システム1の各構成と同一乃至類似する機能を発揮する構成については、同一乃至類似する名称乃至符号を付して詳細な説明を省略し、異なる部分を中心に説明する。
【0081】
本変形例においては、コンピュータ10の判定部104に、上述した判定手段としての機能が実装される。したがって判定部104は、第1実施形態において説明されたように対象製品の外観に関する検査情報の出力を得ると共に、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定可能に構成されている。
【0082】
より具体的には、判定部104は、ステップS103において取得された検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品である巻物製品Pの側面全周の外観を含むか否かを判定するように構成されている。
【0083】
判定手段の一例として判定部104は、検査対象画像内において巻物製品Pの側面に設けられるマークの占める面積の複数の検査対象画像間の変動量に基づいて判定を行う。このようなマーク(「目印」と呼ばれる場合もある。)は、例えば、巻物製品Pの側面に貼り付けられたテープである。
【0084】
図5に示されるようにステップS103において複数の検査対象画像である画像I1~画像I4を取得した後、判定部104は、画像I1内において、テープが占める面積を取得する。同様に判定部104は、画像I1の状態から周方向に90度転動させた巻物製品Pを撮像して取得される画像I2内において、テープが占める面積を取得する。同様に判定部104は、画像I2の状態からさらに周方向に90度及び180度転動させた巻物製品Pを撮像してそれぞれ取得される画像I3及び画像I4内において、テープが占める面積をそれぞれ取得する。
【0085】
続いて判定部104は、各画像I1~画像I4におけるテープが占める面積の変動量を取得する。
図5に示される画像の場合、判定部104は、画像I1及び画像I2はテープを含んでいるため、それぞれにおいてテープの面積を示す情報を取得する。一方画像I3及び画像I4は、テープの反対方向から撮像された検査対象画像であることから、テープが検出されなかったことを示す情報(すなわちテープの面積がゼロであることを示す情報)を取得する。テープの面積を示す情報を取得する方法は、知られた方法を用いることが可能である。例えばテープが所定の色に着色されている場合、判定部104は、検査対象画像の色情報に基づいてテープを検出してもよいし、テープが所定の形状を有している場合、判定部104は、パターン認識技術を用いてテープを検出してもよい。
【0086】
画像I1~画像I4は、巻物製品Pの側面の半周部分(180度)を含んでいる。このため
図5に示されるように巻物製品Pが意図通りに90度ずつ転動(回転)している場合、90度ごとに撮像される画像I1~画像I4のうち、連続する2つの画像において所定の面積を占めるテープが検出され、残る2つの画像においてテープが検出されない。このため、判定部104は、画像I1及び画像I2においてテープが検出され、画像I3及び画像I4においてテープが検出されなかったことに基づいて、複数の検査対象画像である画像I1~画像I4を結合した画像は、対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断する。その後ステップS104以下が実行される。
【0087】
一方で仮に判定部104が画像I1~画像I4のそれぞれにおいてテープが検出された場合、または、画像I1~画像I4のいずれにおいてもテープが検出されなかった場合、巻物製品Pが転動しなかったことを示しているから、判定部104は、複数の検査対象画像である画像I1~画像I4を結合した画像は、対象製品である巻物製品Pの側面全周の外観を含んでいない、と判断し、例えば検査を中止し、警告を報知させる。
【0088】
以上のとおり本変形例に係るシステムによれば、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定する判定手段を備えているから、巻物製品の側面全周の外観を含まない検査対象画像に基づいて検査を行ってしまう事態を抑制することが可能となる。
【0089】
なお、マークの形状は、本変形例に示されるものに限られない。例えばマークは、巻物製品Pの側面に貼付される周方向に、全周未満の長さ(例えば、90度より大きく180度以下の長さ)を有する、周方向に長い帯状に形成されたテープであってもよい。
【0090】
このような構成によれば、例えば、巻物製品Pを周方向に90度ごとに転動させた場合であっても、検査対象画像I1~画像I4においてテープが占める面積が撮像角度に応じて変動することとなるから、判定部104は、より正確に複数の検査対象画像である画像I1~画像I4を結合した画像が対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断することが可能となる。その他、巻物製品Pの形状、撮像装置20が巻物製品Pを撮像する間隔及び回数(例えば、90度ごとに4回や、60度ごとに6回)等に応じて適宜変更可能である。またテープの面積をより精度よく取得するため、テープは赤や黄色等、巻物製品Pの側面とは異なる色で着色されていてもよいし、複数のテープを貼付してもよい。
【0091】
さらに巻物製品Pの側面の全周の外観を含んでいることの判定手法も、上述したアルゴリズムに限られるものではない。例えば、判定部104は、判定手段の他の一例として、検査対象画像同士を比較することにより、巻物製品Pの側面全周の外観を含んでいることを判定可能に構成されていてもよい。例えば判定部104は、画像I1~画像I4を比較し、両者の相似度をそれぞれ算出し、相似度が所定の閾値未満の場合に、画像I1~画像I4を結合した画像が対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断することように構成されてもよい。巻物製品Pが転動しなかった場合、画像I1と画像I2は、ほぼ同じ検査対象画像となるため、相似度が高くなる。このため、各画像を他の画像と比較し、各画像間の相似度に応じて、巻物製品Pの側面全周の外観を含んでいることを判定可能に構成することが可能となる。なお相似度の算出方法は検査対象画像に応じて適宜選択可能であり、例えば、画像ヒストグラムの比較(両画像の色分布の比較)、特徴抽出及び照合(両画像から固有の特徴を抽出し、照合する手法)、画像ハッシュ比較(画像に固有の数値表現を作成し、ハッシュを比較する手法)等であってもよい。また、判定部104は、巻物製品Pが転動乃至回転しているか否かという情報を、回転を検出可能なセンサ等、画像以外の情報に基づいて取得し、その情報に基づいて巻物製品Pの側面全周の外観を含んでいることを判定するように構成されてもよい。
【0092】
なお、撮像装置20は、転動している(回転している)巻物製品Pの外観の側面(すなわち回転運動中の巻物製品Pの外観の側面)を、少なくとも二次元領域を撮像可能なCMOSイメージセンサ等のセンサまたは一次元領域を撮像可能なラインセンサ等を用いて撮像可能に構成されてもよいが、これに限られるものではない。例えば撮像装置20は、所定角度(例えば90度)転動(回転)した後静止している巻物製品Pを、少なくとも二次元領域を撮像可能なCMOSイメージセンサ等のセンサを備えたカメラを用いて撮像して検査対象画像を取得し、さらに所定角度(例えば90度)転動(回転)した後静止している巻物製品Pを撮像して検査対象画像を取得することを繰り返すことにより、複数の検査対象画像を取得可能に構成されてもよい。
【0093】
<第2実施形態>
以下、本発明の他の実施形態について図面を用いて説明する。以下の実施形態は、本発明を説明するための例示であり、本発明をその実施形態のみに限定する趣旨ではない。また第1実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、名称等を共通化して、説明を適宜省略乃至簡略化する。
【0094】
本実施形態に係るシステム1A(
図7)は、搬送装置40Aによって搬送される巻物製品Pを製造した製造装置Mを示す情報と、この巻物製品Pの外観に関する検査情報という2つの異なる情報を収集(取得)し、両情報を関連付けて記録する集約部105Aと、製造装置Mごとに、その製造装置Mにより製造された複数の巻物製品Pの検査情報を示す情報を取得する統計処理部106A(「情報取得部」の一例)とを備えている。
【0095】
このような構成の下、システム1Aは、製造装置Mごとに、その製造装置Mにより製造された巻物製品Pの検査情報を取得することが可能となる。このため所定の製造装置Mが他の製造装置Mと比較して品質の悪い巻物製品Pを製造していることを知ることが可能となる。以下詳細構成について説明する。
【0096】
図7は第2実施形態に係るシステム1Aを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。ただし
図7において実線は、巻物製品Pの搬送経路を示し、
図7において点線は、情報経路を示している。
【0097】
同図に示されるように、システム1Aは、コンピュータ10Aと撮像装置20Aとを備える。コンピュータ10Aは、記憶部、画像取得部、学習部及び判定部104Aを備えている。コンピュータ10Aは、コンピュータ10と同様のハードウェア構成(
図3)を備えており、コンピュータ10Aの記憶部、画像取得部、学習部及び判定部は、それぞれ、コンピュータ10の記憶部101、画像取得部102、学習部103及び判定部104と同等の機能を発揮するので、詳細な説明を省略する。さらに撮像装置20Aは、撮像装置20と同様のハードウェア構成を備え、同様の機能を発揮するので、同様に詳細な説明を省略する。
【0098】
本実施形態に係るコンピュータ10Aはさらに、集約部105Aと、統計処理部106Aと、統計処理部106Aにより得られた情報に基づいて製造装置Mが製造する巻物製品Pの品質が低下した場合にアラートを報知するためのアラート処理部107Aとを備えている。
【0099】
さらにシステム1Aは、巻物製品Pを搬送するためのコンベア40(「搬送装置」の一例)と、コンベア40に搬送させる巻物製品Pを、巻物製品Pをそれぞれ製造可能に構成されるN台の製造装置Mのうちの一の製造装置Mから他の製造装置Mに切り替える切替装置50と、判定部104から受信する検査情報に基づいて、良品の巻物製品Pを出荷し、不良品の巻物製品Pを破棄または手直しするために、巻物製品Pを良品または不良品に仕分けるための仕分け部60とを備えている。
【0100】
図7において製造装置M1乃至製造装置MNは、それぞれ巻物製品Pを製造可能に構成されたN台(ただしNは2以上の整数)の製造装置を示している。各製造装置を製造装置M1、製造装置M2等と呼び、任意の製造装置を製造装置Mと呼ぶ場合がある。各製造装置は、同時に稼働することによりそれぞれ巻物製品Pを製造してもよいし、例えばある製造装置Mをメンテナンスしている間に他の一、または、複数の製造装置Mが同時に稼働することにより巻物製品Pを製造してもよい。なお各製造装置Mは、一部において共通のユニットを備えていてもよい。例えば製造装置M1乃至製造装置MNは、上流部分において共通のユニットを備えていてもよい。また、製造装置Mは、巻物製品Pの製造プロセスのうち一つのプロセスで使用される製造装置を含んでいる。さらに製造装置Mは、製造装置を構成する部品または製造設備を含んでいる。このような製造設備が複数存在し、各製造設備が代替的に、または、同時並列的に、それぞれ巻物製品Pの製造に使用される場合、本発明を適用することにより、巻物製品Pの製造品質に与える影響を製造設備間で比較することが可能となる。
【0101】
各製造装置Mは巻物製品Pを製造しコンベア40に供給可能に構成されており、コンベア40はN台の製造装置Mによりそれぞれ製造された複数の巻物製品Pを搬送可能に構成されている。上述したようにコンベア40は、巻物製品Pを周方向d2(
図1)に転動させながら搬送可能に構成されてもよいし、巻物製品Pを転動することなく搬送可能に構成されてもよい。また、コンベア40は、撮像装置20Aに到着するまでは転動することなく巻物製品Pを搬送し、撮像装置20Aによって複数方向から撮像される位置において巻物製品Pを転動または回転させるように構成されてもよい。また巻物製品Pは、コンベア40上に直接配置されて搬送されてもよいし、コンベア40上に配置されたバケット(容器)に収納された状態で搬送されてもよい。
【0102】
切替装置50は、コンベア40に供給される巻物製品Pを製造する製造装置Mを、一の製造装置Mから他の製造装置Mに切り替える。さらに切替装置50は、所定の製造装置Mによって製造された巻物製品Pがコンベア40上のどの位置(例えばコンベアベルトの基準位置に対する相対的な位置)に供給されたかを示す情報を取得し、集約部105Aに送信する。
【0103】
切替装置50が備える、コンベア40に巻物製品Pを供給する製造装置Mを切り替えるための構成は、知られた構成を採用することが可能である。例えば、各製造装置Mに製造された巻物製品Pを排出するための搬出経路とコンベア40とが接続されている構成において、切替装置50は、各製造装置Mの搬出経路とコンベア40との間を開閉する開閉ゲートをそれぞれ備え、選択される一の製造装置Mとコンベア40との間を開放することでその製造装置Mによって製造される巻物製品Pをコンベア40に供給させる一方で、他の製造装置Mとコンベア40との間を閉塞することで他の製造装置Mによって製造される巻物製品Pをコンベア40に供給しないように構成されてもよい。このような構成により切替装置50は、開閉ゲートが開いている一の製造装置Mによって製造された巻物製品Pをコンベア40に供給しているという情報を取得することが可能となる。
上記に替えて切替装置50は、各製造装置Mの搬出経路をスライド可能な可動コンベヤとして備え、コンベア40と接続してその製造装置Mによって製造される巻物製品Pをコンベア40に供給させる一方で、他の製造装置Mの排出経路とコンベア40とを離間して他の製造装置Mによって製造される巻物製品Pをコンベア40に供給しないように構成されてもよい。
上記に替えて切替装置50は、選択される一の製造装置Mによって製造された巻物製品Pをピックアップしてコンベア40に供給するロボットアームであってもよい。
【0104】
以上のような構成において切替装置50は、コンベア40に巻物製品Pを供給する製造装置Mを切り替えることが可能となるから、現在コンベア40に供給されている巻物製品Pを製造した製造装置Mを示す情報を取得することが可能である。
【0105】
加えて切替装置50は、巻物製品Pがコンベア40上のどの位置に供給されたかを示す情報を取得し、製造装置Mを示す情報と共に集約部105Aに送信する。例えば切替装置50は、所定の巻物製品Pがコンベア40上に供給された時点におけるコンベア40を駆動する歯車の回転数を示す情報を、その巻物製品Pが存在するコンベア40上の位置情報として取得し、製造装置Mを示す情報と共に集約部105Aに送信する。巻物製品Pがコンベア40上に供給されてから撮像装置20Aに到達して判定部104Aによって判定されるまでに必要な歯車の回転量は、巻物製品Pが供給されるコンベア40上の位置と、撮像装置20Aに撮像されるコンベア40上の位置との距離を示す情報であり、予めわかっているから、集約部105Aは、巻物製品Pが撮像装置20Aに到達した時の検査情報を判定部104Aから取得することによって、所定の製造装置Mによって製造された巻物製品Pの検査情報を取得することが可能となる。
【0106】
例えば、切替装置50が製造装置M1によって製造された巻物製品Pがコンベア40に供給された時点におけるエンコーダ等を用いてカウントされるコンベア40の歯車の回転量が1000回転であり、その巻物製品P1が撮像装置20Aに到達して撮像されるまでに必要な歯車の回転量が500回転の場合、集約部105Aは、コンベア40の歯車の回転量が1500回転(1000+500)の時に判定部104Aから得られる検査情報が、製造装置M1によって製造された巻物製品Pの検査情報であると判断し、製造装置M1と巻物製品Pの検査情報とを関連付けて記録する。
【0107】
以上述べたように集約部105Aは、切替装置50からコンベア40によって搬送される巻物製品Pを製造した製造装置Mを示す情報(「製造装置情報」の一例)を取得し、判定部104Aからその巻物製品Pの外観に関する検査情報を取得し、両情報を関連付けて例えばコンピュータ10Aの記憶装置に記録する。
図8は、集約部105Aによって関連付けられ、記憶装置に記録された情報の一例である。ここで判定部104が出力する検査情報は、0~100の値を取り得る判定値(スコア)であってもよい。本実施形態では判定値が高いほど良品であり、低いほど不良品であるように、検査情報に相当する判定値が出力される。同図に示されるように、例えば製造装置M1によって製造された2つの巻物製品Pの判定値は、それぞれ、63及び64である。一方で製造装置M3によって製造された2つの巻物製品Pの判定値は、それぞれ、30及び15である。このような情報を取得することによって、製造装置M3によって製造される巻物製品Pの品質が製造装置M3によって製造される巻物製品Pの品質よりも悪いということを把握することが可能となる。
【0108】
なお同図に示されるように集約部105Aはさらに、検査情報と、検査対象画像を撮像した日付及び/又は時刻情報とを関連付けて不図示の記録装置に記録してもよい。後述するように、ある日付における所定の製造装置Mによって製造された巻物製品Pの検査情報と、異なる日付けにおける所定の製造装置Mによって製造された巻物製品Pの検査情報とを比較することにより、季節的な要因が検査情報に与える影響や、経時的な要因(例えば製造装置Mに使用される所定の部品の消耗度)が検査情報に与える影響を把握することも可能となる。
また、全ての製造装置Mの検査情報が一様に変動している場合は、製造装置M以外の要因(例えば判定部104Aの判定方法)に問題が生じていることを把握すること等も可能となる。
【0109】
統計処理部106A(「情報取得部」の一例)は、製造装置Mごとに、その製造装置Mにより製造された複数の巻物製品Pの検査情報を示す情報を取得する。本実施形態における統計処理部106Aは、同一の製造装置Mにより製造された複数の巻物製品Pの検査情報に基づいて計算される統計的情報を取得可能に構成されており、具体的には、製造装置Mごとに、その製造装置Mによって製造された複数の巻物製品Pの異常度スコアの平均値(「複数の前記巻物製品の前記検査情報を示す情報」の一例)または中央値及びその分散(「複数の前記巻物製品の前記検査情報を示す情報」の一例)を算出可能に構成されている。ここで異常度スコアは、高いほど不良品であり低いほど良品となる値であってよく、例えば上述した判定値を100から引いた値であってもよい。さらに統計処理部106Aは、全ての巻物製品Pの異常度スコアの平均値を取得可能に構成されてよい。
【0110】
図9は、統計処理部106Aによって取得される情報を示すグラフである。なおシステム1Aは、同図に示されるグラフを表示する表示装置(ディスプレイ)をさらに備えてもよい。
【0111】
同図に示されるように、他の製造装置Mと比較して、製造装置M2により製造された巻物製品Pの異常度スコアが高いことが把握される。このため製造装置M2の状態を調査し適切な対策を講じることにより、巻物製品Pの歩留まりを向上させることが可能となる。
【0112】
アラート処理部107Aは、統計処理部106Aからの情報に基づいて、所定の製造装置Mが製造する巻物製品Pの品質が低下したことを報知するためのアラート情報を生成する。本実施形態の場合、アラート処理部107Aは、所定の製造装置M(例えば製造装置M2)の異常度スコアの平均値が、他の製造装置Mの異常度スコアの平均値より所定量(例えば、30%)悪い値に乖離していたら、その製造装置Mが設備異常であることを示すアラート情報を生成し、例えば、管理者に送信する。
【0113】
以上のとおりであるから本実施形態に係るシステム1Aによれば、製造設備の異常を容易に把握することが可能となる。このため巻物製品P等、製造装置によって製造される製品の製造歩留まりを向上することが可能となる。
【0114】
なお、ある巻物製品Pを製造した製造装置Mと、その巻物製品Pの検査情報とを関連付ける方法は、上述した方法に限られるものではない。
【0115】
例えば、コンベア上に載置された複数のバケット(容器)を連結し、各バケットに1つの巻物製品Pを収納して搬送する態様において、所定のバケットが所定の位置を通過したときを基準として例えばエンコーダを用いて所定の歯車の回転量のカウントを行い、そのカウント値をバケット1個分のその歯車の回転量で除することによって、各バケットに搬送される巻物製品Pのコンベア40上の位置を容易に把握することが可能となる。このため、巻物製品Pが所定のバケットに収容されるコンベア40上の位置情報と、巻物製品Pが撮像装置20によって撮像され検査されるコンベア40上の位置情報と、切替装置50がコンベア40上に供給している巻物製品Pを製造した製造装置Mの情報を取得することにより、ある巻物製品Pを製造した製造装置Mと、その巻物製品Pの検査情報とを関連付けることが可能となる。
【0116】
またバケットに数字を印字することとし、切替装置50をある製造装置M(例えば製造装置M4)によって製造された10個の巻物製品Pを所定の番号(例えば41~50)のバケットにそれぞれ収納するように構成するとともに、撮像装置20Aをバケットに印刷された数字を撮像して読み取るように構成すれば、その巻物製品Pを製造した製造装置Mを示す情報と、その巻物製品Pの検査情報とを関連付けることが可能となる。また、数字を印字することに替えて、バケットにRFID等を搭載してもよい。
【0117】
以上のとおりであるから本実施形態に係るシステム1Aによれば、複数の製造装置(製造設備を含む)を同時並列的に、または、代替的に使用して複数の巻物製品Pを製造する場合に、巻物製品Pの製造品質に与える影響を製造装置間で容易に比較することが可能となり、ひいては巻物製品Pの品質向上または歩留まり向上を図ることが可能となる。
【0118】
<第3実施形態>
以下、本発明の第3実施形態について図面を用いて説明する。第2実施形態と同様に、他の実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、名称等を共通化して、説明を適宜省略乃至簡略化する。
【0119】
本実施形態に係るシステム1Bは、教師データを効率よく収集できることを可能とするための構成を備えている点において他の実施形態と異なるためこの点を中心に説明する。
【0120】
図10は、本実施形態に係るシステム1Bを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。同図に示されるように、システム1Bは、コンピュータ10Bと撮像装置20Aとを備える。コンピュータ10Bは、表示部108B、結果蓄積部109B及び再学習部110Bを備えている点においてコンピュータ10Aと異なり、他の点において共通するため共通部分の説明を省略する。
【0121】
コンピュータ10Bの表示部108Bは、検査対象画像のうち検査情報の出力に影響した部位(「特徴部位」と呼ばれる場合がある。)を特定し、検査対象画像と特徴部位を特定する情報とを表示する。特徴部位の特定は、コンピュータ10が有するプロセッサ22が、記憶装置24に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。検査対象画像と特徴部位を特定する情報との表示は、プロセッサ22からの指令に基づいて対象画像と特徴部位を特定する情報を表示するディスプレイ(「表示装置」の一例)により実現される。
【0122】
特徴部位の抽出は、知られた方法を採用することが可能であり、例えば、CAM(Class Activation Map)またはGrad-CAMを採用することが可能である。CAMは、畳み込みニューラルネットワークの最後の畳み込み層が出力した特徴量マップに重みをかけて判断根拠を可視化する方法であり、Grad-CAMは、CAMにおいて、出力値の変動率に基づいて重みを算出することにより、判断根拠を可視化する方法である。
【0123】
表示部108Bは、検査対象画像と、コンピュータ10Bのプロセッサを用いて取得された特徴部位とを重ね合わせて表示する。本実施形態の表示部108Bはさらに、異常の種類ごとに、異常の名称、検査対象画像、特徴部位、その異常度のスコアを表示可能に構成されている。
【0124】
図11は、表示部108Bの表示画面の一例である。同図に示されるように、表示部108Bは、「折り返し」と呼ばれる種類の異常について、異常の名称(「折り返し」)、巻物製品Pの検査対象画像(画像I5)、特徴部位(特徴部位CR5)と、折り返し異常の判定値のスコアである「23」(「検査情報の出力」の一例)を表示し、さらに「シワ」と呼ばれる種類の異常について、異常の名称(「シワ」)、同一の巻物製品Pの検査対象画像(画像I6)、特徴部位(特徴部位CR6)と、シワ異常の判定値のスコアである「83」(「検査情報の出力」の一例)を表示する。
【0125】
特徴部位CR5は、「折り返し」のスコア23(「検査情報の出力」の一例)に影響を与えた部位であり、特徴部位CR6は、「シワ」のスコア83(「検査情報の出力」の一例)に影響を与えた部位であるため、同一の巻物製品Pの異なる部位をそれぞれ示す場合がある。なお、表示されるスコアは、スコアが高いほどその異常が発生しており、スコアが低いほどその異常が発生していないことを示すように予め設定されてもよいし、反対にスコアが低いほどその異常が発生しており、スコアが高いほどその異常が発生していないことを示すように予め設定されてもよい。本実施形態は、例えば、スコアが0に近いほどその異常が発生しており、スコアが100に近いほどその異常が発生していないようにスコアが設定されている実施態様に相当する。
【0126】
本実施形態において特徴部位CR5及び特徴部位CR6は、それぞれ半透明で、画像I5及び画像I6にそれぞれ重ね合わせて表示されるため、検査者は、画像I5及び画像I6のうち特徴部位CR5及び特徴部位CR6を観察することにより、コンピュータ10Bが「折り返し」異常について「23」というスコアをつけたことの妥当性、ならびに「シワ」異常について「83」というスコアをつけたことの妥当性を判断することが可能となる。検査者は、コンピュータ10Bの入力装置32(
図3。「入力部」の一例)であるマウス、キーボード、または、タッチパネル等を用いて、コンピュータ10Bによる判断が妥当であるか(「妥当」)、妥当でないか(「異議あり」)、それぞれの異常について入力する。
【0127】
コンピュータ10Bの入力装置32は、表示部108に表示される画像I5、画像I6、特徴部位CR5及び特徴部位CR6を見た検査者が入力した「折り返し」異常についてのスコアならびに「シワ」異常についてのスコアの妥当性に関する情報を受け付ける。
【0128】
結果蓄積部109Bは、良品及び不良品についての教師データを格納するデータベースを備えている。ここで入力装置32が「異議あり」の入力を受け付けた場合、すなわち検査者がコンピュータ10Bによる検査結果が誤っていると判断した場合、結果蓄積部109Bは、その入力に対応する検査対象画像を教師データとして追加する。
【0129】
例えば、コンピュータ10Bの入力装置32が「折り返し」異常について「異議あり」の入力を受け付けた場合とは、「23」という「折り返し」異常が発生している可能性が高いことを示すスコアが検査情報として出力されたにもかかわらず、「折り返し」異常が発生している可能性が低いと評価者が判断した状態に相当する。このような場合、コンピュータ10Bの結果蓄積部109Bは、折り返し異常が発生していない良品の教師データとして、画像I5を追加する。
【0130】
一方で、コンピュータ10Bの入力装置32が「シワ」異常について「異議あり」の入力を受け付けた場合とは、「83」という「シワ」異常が発生している可能性が低いことを示すスコアが検査情報として出力されたにもかかわらず、「シワ」異常が発生している可能性が高いと評価者が判断した状態に相当する。このような場合、コンピュータ10Bの結果蓄積部109Bは、シワ異常が発生している不良品の教師データとして、画像I6を追加する。
【0131】
再学習部110Bは、結果蓄積部109Bに新たに追加された検査対象画像を含む教師データに基づいて、例えば第1実施形態と同様の方法で、新たな学習モデルを生成する。なお教師データとして新たな検査対象画像が追加された点を除いて、学習部103及び再学習部110Bは、学習モデルを生成する点において共通する。このため、学習部103及び再学習部110Bは、同一のコンピュータプログラム(ソフトウェア)及びハードウェアの協働により実現されてよい。
【0132】
判定部104Aは、再学習部110Bにより機械学習されて新たに生成されたニューラルネットワークに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。
【0133】
またコンピュータ10Bは、入力装置32が所定の巻物製品Pの検査情報の出力に対し「異議あり」の入力を受け付けた場合、「異議あり」の情報の入力に基づいて生成される情報を仕分け部60に送信する。例えば巻物製品Pが良品であることを示す検査情報の出力に対し「異議あり」の入力を受け付けた場合、コンピュータ10Bは、その巻物製品Pが不良品であること(または、不良品の可能性があること)を示す情報を仕分け部60に送信する。
【0134】
仕分け部60は、判定部104から受信する検査情報を、「異議あり」の情報の入力に基づいて生成される情報に基づいて更新する。仕分け部60は、評価者によりフィードバックを受けた情報に基づいて、巻物製品Pを良品または不良品に仕分けることが可能となるため、不良品が良品として出荷されてしまう可能性や、良品が不良品として破棄等されてしまう可能性を低減することが可能となる。
【0135】
なおコンピュータ10Bは、入力装置32が所定の巻物製品Pの検査情報の出力に対し「異議あり」の入力を受け付けた場合、「異議あり」の情報の入力に基づいて生成される情報を判定部104Aに送信し、判定部104Aは、受信した情報に基づいて検査情報の出力を更新し、仕分け部60に更新された情報を送信するように構成してもよい。
【0136】
その他の構成(プロセスを含む)については、他の実施形態で説明された構成と同様であるため説明を省略する。
【0137】
なお、システム1Bのコンピュータ10Bは、多数の検査対象画像の中から表示部108Bに表示させる検査対象画像を選択するためのサンプリング部111B(
図10)をさらに備えていてもよい。例えばサンプリング部111Bは、判定部104が検査対象画像に基づいて取得した数値に基づいて、表示部108Bに表示させる検査対象画像を選択するように構成されてよい。例えば、判定部104が検査対象画像に基づいて数値を取得可能に構成されており、この数値を所定の閾値と比較することにより検査対象が良品であるか不良品であるかを示す検査情報を出力するように構成されているとき、サンプリング部111Bは、取得した数値とこの閾値との差が所定値(「第2閾値」と呼ばれる場合がある。)以下である検査対象画像を、表示部108Bに表示させるように構成されてよい。
【0138】
このような構成とすることにより、検査者が観察する検査対象画像を選択することが可能となる。このため、例えば生産性が高く製造ラインの速度が大きすぎるために検査者が全ての検査対象画像を観察し、観察した結果を入力することが困難な場合であっても、良品であるか不良品であるかの判断が難しい検査対象画像を選択的にチェックすることが可能となる。また、良品であるか不良品であるか判断が難しい検査対象画像についての教師データを効率的に収集することが可能となる。
【0139】
上記に替えてサンプリング部111Bは、判定部104が良品であることを示す検査情報を出力した検査対象画像を除き、判定部104が不良品であることを示す検査情報を出力した一部または全ての検査対象画像を表示部108Bに表示させるように構成されてもよい。
【0140】
上記に替えてサンプリング部111Bは、ランダムに選択された検査対象画像を表示部108Bに表示させるように構成されてもよい。例えばサンプリング部111Bは、検査者が検査対象画像を観察して、観察した結果に基づいて入力するのに要する時間を取得し、この時間ごとに検査対象画像を表示部108Bに表示させるように構成されてもよい。
【0141】
以上のとおりであるから本実施形態に示されるシステム1Bによれば、コンピュータ10Bによる検査情報の出力に対する検査者による妥当性の評価を可能とし、必要に応じて教師データの追加が可能に構成されているから、再学習用の教師データの効率的な収集及び精度の高い学習モデルの生成が可能となる。特に歩留まりの高い製品においては収集困難な不良品の教師データを効率的に収集することが可能となる。
【0142】
なお当業者の創作能力の発揮により、一の実施形態の構成を他の実施形態の構成に追加してもよく、例えば表示部108Bは、第2実施形態において示されたグラフ(
図9)を表示可能に構成されてもよく、また、システム1Bはさらにアラート処理部107A等他の実施形態の構成を備えてもよい。
【0143】
<第4実施形態>
以下、本発明の第4実施形態について図面を用いて説明する。他の実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、類似乃至同一の名称等を使用して、説明を適宜省略乃至簡略化する。
本実施形態に係るシステム1Cは、不良品と判断された結果、本来破棄される、または、リサイクル処理される巻物製品Pを出荷できるように手直しすることを可能とするための構成を備えている点において他の実施形態と異なるためこの点を中心に説明する。
【0144】
図12は、本実施形態に係るシステム1Cを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。同図に示されるように、システム1Cは、コンピュータ10Cと撮像装置20Aとを備える。コンピュータ10Cは、判定部104Cを備えている点においてコンピュータ10Aと異なり、他の点において共通するため共通部分の説明を省略する。
【0145】
コンピュータ10Cの判定部104Cは、検査情報の出力として少なくとも3種類の検査情報の出力を得るように構成されている。畳み込みニューラルネットワークN(
図5)は、少なくとも3種類の検査情報の出力を得るために知られた構成を備えることが可能であり、例えば、全結合層のノードを、異常の種類に応じて分割することにより、少なくとも3種類の検査情報の出力を得るように構成されることが可能となる。ここで全結合層は、非全結合層であってもよい。
【0146】
そして判定部104Cは、全結合層の各ノードの値が例えば所定の閾値以上の場合にそのノードに対応する異常が発生しているとの出力を取得し、閾値未満の場合にそのノードに対応する異常が発生していないとの出力を取得するように構成されてよい。
【0147】
図13は、製品番号を有する巻物製品Pについて、判定部104Cによって取得された検査情報と、検査時刻と、検査された巻物製品Pのコンベア40上の位置情報と、検査情報に基づいて仕分け部60に送信される指示情報を示す表の一例である。上述したように、判定部104Cは、良品と不良品の2種類の検査情報の出力のみならず、不良品をさらに「シワ」異常と「折り返し」異常の2つの観点から判断することにより、製品番号1の巻物製品Pについて、「シワ」異常がなく、かつ、「折り返し」異常があることを示す検査情報の出力(「第3種類の前記検査情報の出力」の一例)を取得し、製品番号2の巻物製品Pについて、「シワ」異常があり、かつ、「折り返し」異常がないことを示す検査情報の出力(「第2種類の前記検査情報の出力」の一例)を取得し、製品番号3の巻物製品Pについて、「シワ」異常がなく、かつ、「折り返し」異常がないことを示す検査情報の出力(「第1種類の前記検査情報の出力」の一例)を取得する。
【0148】
そしてコンピュータ10Cの判定部104Cは、仕分け部60に指示情報として、製品番号1の巻物製品Pについて「手直し」、製品番号2の巻物製品Pについて「破棄」、製品番号3の巻物製品Pについて「出荷」を示す情報を送信する。
【0149】
あわせて判定部104Cは、検査時刻を示す情報と、その巻物製品Pのコンベア40上の位置を示す情報(例えば「製品番号1」について「100」)を取得する。検査時刻を示す情報は、撮像装置20により巻物製品Pが撮像され、検査が実行された時刻を用いてもよい。コンベア40上の位置は、コンベアベルトの基準位置に対する相対位置を示す情報でよく、上述したように、例えば、コンベア40上にバケットが連結されて巻物製品Pが搬送される実施態様において、巻物製品Pが収納されるバケットの番号を示す情報であってもよい。その番号のバケットがコンベア40によって仕分け部60に到達するタイミングは予めわかっているから、そのタイミングで仕分け部60において指示情報が表示されるように構成してもよいし、バケットに番号を印刷等で表示するとともに、バケットの番号を指示情報に含めることにより、仕分け部60が指示情報の対象となる巻物製品Pを容易に把握可能なように構成してもよい。
【0150】
「シワ」異常がなく、かつ、「折り返し」異常がある製品Pは、折り返しを手直しすることにより出荷可能な製品であるから、製品番号1の巻物製品Pは、仕分け部60において手直しされた後出荷される。一方で「シワ」異常は手直しできないため、製品番号2の巻物製品Pは破棄またはリサイクル処理される。「シワ」異常も「折り返し」異常もない製品番号3の巻物製品Pは仕分け部60においてそのまま出荷される。
【0151】
以上のとおりであるから、本実施形態に係るシステム1Cによれば、本来破棄等される巻物製品Pを手直しすることで出荷することが可能となる。
【0152】
以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)
製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を実施するプロセッサを備える検査システム。
(付記2)
前記学習モデルは、入力される前記検査対象画像の数に対応する数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、前記畳み込み層ブロックのいずれかに入力される、付記1に記載の検査システム。
(付記3)
前記学習モデルは、複数の前記畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力される全結合層を有する、付記2に記載の検査システム。
(付記4)
前記複数の製品画像の少なくとも一部分を結合した画像又は前記複数の検査対象画像の少なくとも一部分を結合した画像は、前記巻物製品の側面の全周の外観を含む、付記1から3のいずれか一項に記載の検査システム。
(付記5)
前記複数の製品画像の少なくとも一部及び前記複数の検査対象画像の少なくとも一部は、巻かれた前記製品の周方向端部を含む、付記1から4のいずれか一項に記載の検査システム。
(付記6)
前記外観に関する検査情報は、複数の前記検査対象画像のうち、2つ以上の前記検査対象画像に基づいて特定される情報を含む、付記1から5のいずれか一項に記載の検査システム。
(付記7)
前記学習モデルは、入力される前記検査対象画像の数と同じ数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、異なる前記畳み込み層ブロックに入力される付記2に記載の検査システム。
(付記8)
前記学習モデルは、4つの畳み込み層ブロックを有し、前記学習モデルに、前記対象製品の外観を4方向から撮像することにより得られた4つの検査対象画像が入力される、付記1から7のいずれか一項に記載の検査システム。
(付記9)
前記外観に関する検査情報は、巻かれた前記製品の折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部に関する情報を含む、付記1から8のいずれか一項に記載の検査システム 。
(付記10)
複数の前記検査対象画像のうち、少なくとも第1検査対象画像は、前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含み、 その他の複数の前記検査対象画像のうち、少なくとも1の前記検査対象画像は、前記第1検査対象画像に含まれている前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含まない、付記9に記載の検査システム。
(付記11)
前記製品は、シート、フィルム、ホイル、又は織物を含む、付記1から10のいずれか一項に記載の検査システム。
(付記12)
前記巻物製品を転動させながら搬送する搬送装置を備え、
複数の前記検査対象画像が、前記搬送装置により転動させながら搬送された前記巻物製品を複数の方向から撮像することにより取得された画像を含む付記1から11のいずれか一項に記載の検査システム。
(付記13)
製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を含む検査方法。
(付記14)
製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、
検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
を実行するためのプログラム。
(付記15)
製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、
前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、
取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、
を実施する学習方法。
(付記16)
複数の製造装置によりそれぞれ製造された複数の巻物製品を搬送可能に構成された搬送装置と、
前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を、一の前記製造装置から他の前記製造装置に切り替える切替装置と、
前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を示す製造装置情報と、この製造装置によって製造された前記巻物製品の外観に関する検査情報とを取得し、前記製造装置情報と前記検査情報とを関連付ける集約部と、
前記製造装置ごとに、その製造装置により製造された複数の前記巻物製品の前記検査情報を示す情報を取得する情報取得部と、備える検査システム。
【符号の説明】
【0153】
1 システム
10 コンピュータ
20 撮像装置
22 プロセッサ
24 記憶装置
26RAM
28 表示装置
30 通信I/F部
32 入力装置