(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-01-05
(45)【発行日】2023-01-16
(54)【発明の名称】印刷物の検査システムのための学習済みモデルを生成する方法および装置
(51)【国際特許分類】
G01N 21/892 20060101AFI20230106BHJP
G01N 21/88 20060101ALI20230106BHJP
G06T 1/40 20060101ALI20230106BHJP
G06T 7/00 20170101ALI20230106BHJP
G06V 10/774 20220101ALI20230106BHJP
G06V 30/418 20220101ALI20230106BHJP
B41J 29/393 20060101ALI20230106BHJP
B41J 2/525 20060101ALI20230106BHJP
B41F 33/00 20060101ALN20230106BHJP
【FI】
G01N21/892 A
G01N21/88 J
G06T1/40
G06T7/00 350B
G06V10/774
G06V30/418
B41J29/393 105
B41J2/525
B41F33/00 280
(21)【出願番号】P 2022029180
(22)【出願日】2022-02-28
【審査請求日】2022-04-11
【新規性喪失の例外の表示】特許法第30条第2項適用 販売日: 令和3年11月30日 販売した場所:富士フイルムビジネスイノベーション株式会社 海老名事業所(〒243-0417 神奈川県海老名市本郷2274) 販売日: 令和3年12月24日 販売した場所:共同印刷株式会社 情報出力センター(埼玉県児玉郡上里町大字大御堂1427-2) 販売日 : 令和4年2月14日 販売した場所:株式会社TLP 羽生工場(〒348-0016 埼玉県羽生市大沼2丁目69番地)
【早期審査対象出願】
(73)【特許権者】
【識別番号】592056687
【氏名又は名称】株式会社マイクロ・テクニカ
(74)【代理人】
【識別番号】100101683
【氏名又は名称】奥田 誠司
(74)【代理人】
【識別番号】100188813
【氏名又は名称】川喜田 徹
(72)【発明者】
【氏名】千田 貴憲
(72)【発明者】
【氏名】鈴木 貴士
【審査官】清水 靖記
(56)【参考文献】
【文献】特開2009-126058(JP,A)
【文献】特開2020-186938(JP,A)
【文献】特開2009-248537(JP,A)
【文献】特開2013-223147(JP,A)
【文献】特開2017-219679(JP,A)
【文献】特開2002-365139(JP,A)
【文献】特開2018-078426(JP,A)
【文献】米国特許第06467867(US,B1)
【文献】国際公開第2018/192662(WO,A1)
【文献】特開2009-241562(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/84 - G01N 21/958
G06T 1/00 - G06T 1/60
G06T 7/00 - G06T 7/90
G06V 10/00 - G06V 10/98
G06V 30/00 - G06V 30/424
B41J 29/393
B41J 2/525
B41F 33/00
(57)【特許請求の範囲】
【請求項1】
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムのための前記学習済みモデルを生成する方法であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、
を含み、
前記テストチャートは、前記テストチャートに含まれる各色の領域の位置を特定するための情報を含む
複数のバーコードまたは2次元コードを含
み、
前記複数の色のパターンは、色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含み、
前記複数のバーコードまたは2次元コードは、前記複数の色のパターンの領域の周囲に位置し、
前記複数のバーコードまたは2次元コードの各々は、前記テストチャートに設定された座標系における位置座標と、前記位置座標における色との対応関係を示す情報を含み、
前記学習済みモデルを生成することは、前記学習用カメラ画像における前記複数のバーコードまたは2次元コードに含まれる前記情報に基づいて、各バーコードまたは各2次元コードに対応付けられた複数の色の各々の位置を特定することを含む、
方法。
【請求項2】
前記テストチャートは、
1000以上のカラーブロックが2次元的に配列されたパターン、または各々が前記印刷物の搬送方向に垂直な方向に相当する方向に延びる30以上のカラーバーが前記印刷機の搬送方向に相当する方向に配列されたパターンを含む、請求項1に記載の方法。
【請求項3】
前記テストチャートは、前記印刷物の搬送方向に垂直な方向に相当する方向に延びる複数の色の異なるカラーバーを含み、前記複数のカラーバーは、前記搬送方向に相当する方向に配列され
、各カラーバーは、前記搬送方向に垂直な方向に相当する方向に沿って明度が連続的に変化している、請求項
1に記載の方法。
【請求項4】
前記
複数のバーコードまたは2次元コードは、前記テストチャートの種類を示す情報をさらに含む、請求項1から3のいずれかに記載の方法。
【請求項5】
前記テストチャートは、複数の2次元コードを含み、前記複数の2次元コードの各々は、対応する複数の色の領域の位置を特定するための情報を含み、前記複数の2次元コードの少なくとも一部は、前記印刷物の搬送方向に垂直な方向に相当する方向に配列されている、請求項1から4のいずれかに記載の方法。
【請求項6】
前記学習済みモデルは、前記印刷データに対して空間フィルタリング処理と、カラー変換処理とを実行するモデルであり、
前記学習済みモデルの生成は、前記学習用印刷データと、対応する前記学習用カメラ画像との偏差を小さくするように、前記モデルにおける複数のパラメータを調整することを含む、
請求項1から5のいずれかに記載の方法。
【請求項7】
前記印刷機は、
入力された印刷元データをヘッドデータに変換する印刷コントローラと、
前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、
を備え、
前記印刷データは、前記印刷元データまたは前記ヘッドデータである、
請求項1から6のいずれかに記載の方法。
【請求項8】
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムにおける前記学習済みモデルを生成するためのプログラムであって、コンピュータに、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを学習することと、
を実行させ、
前記テストチャートは、前記テストチャートに含まれる各色の領域の位置を特定するための情報を含む
複数のバーコードまたは2次元コードを含
み、
前記複数の色のパターンは、色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含み、
前記複数のバーコードまたは2次元コードは、前記複数の色のパターンの領域の周囲に位置し、
前記複数のバーコードまたは2次元コードの各々は、前記テストチャートに設定された座標系における位置座標と、前記位置座標における色との対応関係を示す情報を含み、
前記学習済みモデルを生成することは、前記学習用カメラ画像における前記複数のバーコードまたは2次元コードに含まれる前記情報に基づいて、各バーコードまたは各2次元コードに対応付けられた複数の色の各々の位置を特定することを含む、
プログラム。
【請求項9】
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムと組み合わせて使用される、前記学習済みモデルを生成する装置であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを記憶するメモリと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成するプロセッサと、
を備え、
前記テストチャートは、前記テストチャートに含まれる各色の領域の位置を特定するための情報を含む1つ以上のバーコードまたは2次元コードを含
み、
前記複数の色のパターンは、色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含み、
前記複数のバーコードまたは2次元コードは、前記複数の色のパターンの領域の周囲に位置し、
前記複数のバーコードまたは2次元コードの各々は、前記テストチャートに設定された座標系における位置座標と、前記位置座標における色との対応関係を示す情報を含み、
前記プロセッサは、前記学習済みモデルを生成することは、前記学習用カメラ画像における前記複数のバーコードまたは2次元コードに含まれる前記情報に基づいて、各バーコードまたは各2次元コードに対応付けられた複数の色の各々の位置を特定する、
装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、印刷物の検査システムのための学習済みモデルを生成する方法および装置に関する。
【背景技術】
【0002】
印刷物をカメラで撮影して取得した画像データと、印刷元のデータとを比較することによって印刷の良否または品質を検査する種々の検査装置が開発および使用されている。
【0003】
例えば特許文献1は、印刷データから生成されたマスター画像と、印刷物を読取装置で読み取ることによって生成した読取画像との差分に基づいて検査を行う検査装置を開示している。印刷データからマスター画像を生成することにより、例えばバリアブル印刷(Variable Data Printing: VDP)による印刷物の検査を効率的に行うことができる旨が記載されている。
【0004】
特許文献2は、印刷物を撮影して取得した被検査画像と、予め生成した基準画像とを、印刷物の単位毎に読み出して比較し、不一致が認められた場合に印刷にエラーが生じたと判定する検査方法を開示している。
【0005】
特許文献3は、ページ単位に異なるデータが印刷されるカラー印刷物の印刷内容および印刷状態を検査する検査装置を開示している。この検査装置は、印刷物に共通の背景絵柄と、印刷物ごとに異なる可変データのそれぞれについて、基準画像と比較照合することによって印刷内容および印刷状態を検査する。
【0006】
特許文献4は、印刷物の条件に応じて基準データを変換して生成した比較用基準データと、印刷物を撮像して取得した撮像データに基づく比較用撮像データとを比較することによって印刷物の良否を判定する検査方法を開示している。比較用基準データは、深層学習を適用して生成された学習モデルを用いて、基準データから変換される。これにより、印刷物の条件に応じた基準データを用いた印刷物の良否判定を実施することができることが記載されている。
【先行技術文献】
【特許文献】
【0007】
【文献】特開2015-174307号公報
【文献】特開2019-132661号公報
【文献】特開2003-54096号公報
【文献】特開2020-186938号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来の印刷物検査方法では、印刷物を撮影して取得した画像データと印刷の元となったデータとの形式の違いや、印刷時のインクのにじみ、用紙の変形等に起因して、検査の精度が低下する場合があった。
【0009】
本開示は、印刷物の画像検査の精度を向上させることが可能な新規な検査技術を提供する。
【課題を解決するための手段】
【0010】
本発明の一態様に係る検査システムは、入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドとを備えた印刷機と組み合せて使用される。前記検査システムは、前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、処理装置とを備える。前記処理装置は、前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成する。前記処理装置は、前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する。
【0011】
本発明の他の態様に係る方法は、印刷データに基づいて印刷を実行する印刷機と、前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、を備えた検査システムのための前記学習済みモデルを生成する方法である。前記方法は、複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、を含む。
【0012】
本発明の包括的または具体的な態様は、装置、システム、集積回路、コンピュータプログラム、記録媒体、またはこれらの任意の組み合わせによって実現され得る。
【発明の効果】
【0013】
本発明によれば、印刷物の画像検査の精度を向上させることができる。
【図面の簡単な説明】
【0014】
【
図1】従来の検査システムの一例を模式的に示す図である。
【
図2】印刷によって用紙および印刷された部分が変形することを模式的に示す図である。
【
図3】本発明の例示的な実施形態による検査システムの構成を模式的に示す図である。
【
図4】処理装置による判定処理の概要を説明するための模式図である。
【
図5】検査システムの機能を説明するための図である。
【
図6】印刷および検査の流れを模式的に示す図である。
【
図8】処理装置が実行する処理の例を示すフローチャートである。
【
図9】処理装置が実行する処理の他の例を示すフローチャートである。
【
図10】処理装置が実行する処理のさらに他の例を示すフローチャートである。
【
図11】ヘッドデータを第1フィルタ画像に変換する処理の流れを示す図である。
【
図12A】ヘッドデータにおける1つの画素の画素値の一例を示す図である。
【
図12B】ガウシアンフィルタおよび平均化フィルタの例を示す図である。
【
図13】空間フィルタの一例と、空間フィルタのパラメータの調整方法を模式的に示す図である。
【
図14】色変換テーブルの一例と、そのパラメータの調整方法の例を示す図である。
【
図15】第1フィルタ画像とカメラ画像との照合処理の一例を示す図である。
【
図16】学習済みモデルの生成方法の流れを示すフローチャートである。
【
図17B】テストチャートの他の例を示す図である。
【
図17C】テストチャートのさらに他の例を示す図である。
【発明を実施するための形態】
【0015】
本発明の実施形態を説明する前に、本発明の基礎となった知見を説明する。
【0016】
バリアブル印刷を行うデジタル印刷機は、ページごとに異なる内容を印刷する。そのような印刷機は、例えば、あて名印刷、請求書印刷、および明細書印刷などの種々の用途に広く利用されている。
【0017】
可変印刷では、ページごとに異なる内容が印刷されるため、事前に用意された1つの画像と比較するといった単純な方法では検査ができない。このため、印刷元の画像データと、印刷物を撮像して得られる画像データとを比較照合することで検査を行う方法が考えられる。
【0018】
しかし、2つの画像を照合する方法には、例えば以下の課題がある。
・一般的に、印刷は減色系(YMCK)、カメラは加色系(RGB)のデータを処理するため、両者のデータを直接比較することができない。
・印刷機内で展開されるイメージと、検査装置内で展開されるイメージとは必ずしも一致せず、相違点が生じる。
・用紙またはインクなどの特性に起因して、インクのにじみや用紙の変形等が生じ、印刷しようとする画像と実際に印刷された画像との間に相違点が生じる。
【0019】
このような課題のため、従来の検査装置では、カラーの印刷物を高い精度で検査することが難しかった。そのため、従来は、例えば文字などの重要な部分の色に重点を置いて照合を行う検査システムが用いられることが多かった。
【0020】
図1は、従来の検査システムの一例を模式的に示す図である。
図1に示す検査システムは、印刷コントローラ110および印刷ヘッド120を有する印刷機と、処理装置210と、カメラ220(撮像装置)とを備える。印刷ヘッド120は、シアン(C)、マゼンタ(M)、黄(Y)、および黒(K)の4色に対応する4種類のヘッドを含む。印刷コントローラ110は、外部の装置から入力された印刷元データ(例えばPDFファイル等)を、ヘッドデータに変換して各印刷ヘッド120に出力する。ヘッドデータは、例えば、CMYKの各色の網点(ハーフトーン)画像のデータである。各印刷ヘッド120は、ヘッドデータに従い、搬送される用紙10に印刷を実行する。印刷された用紙10は、カメラ220によって撮影される。カメラ220は、印刷された用紙10を撮影してカメラ画像データ(以下、「カメラ画像」とも称する。)を生成する。処理装置210は、ヘッドデータおよびカメラ画像のそれぞれから特定の色(例えば文字等の重要な部分の色)のデータを抽出し、それらを照合して印刷の良否を判定する。
【0021】
このようなシステムにおいては、検査の対象が印刷物の特定の色の成分に限定され、他の色の成分については検査することができない。また、印刷時のインクのにじみや用紙の変形に起因する印刷物の欠陥を高い精度で検出することが難しい。
【0022】
一般に、印刷に使用される用紙は、水分や油分を吸収することによって伸縮する。水分や油分を含むインクを用紙上に噴射または塗布する場合、用紙の伸縮が発生し、印刷物は元のデジタルデータに対して変形する場合がある。例えば、A4サイズで1mm程度変形する場合がある。
【0023】
図2は、印刷によって用紙および印刷された部分が変形することを模式的に示す図である。
図2に示すように、インク量の多い部分は収縮が大きく、インク量の少ない部分は収縮が小さい。変形の程度と変形の形態は印刷内容によって変化するため、事前に変形を予測することは困難である。特に、ページ毎に異なる内容が印刷される可変印刷においては、ページ毎にインク量が異なることから、収縮の仕方がページ毎に不規則に変化し得る。その結果、カメラ画像と元データとの照合が困難になる場合がある。他にも、カメラ内のレンズの光学的特性(主に歪曲収差)の影響で、撮影した画像が変形する場合もある。この場合の変形は規則的であるが、同様に元データとの照合が困難になり得る。
【0024】
本発明者らは、上記の課題を解決するため、以下に説明する本発明の実施形態の構成に想到した。以下、本発明の例示的な実施形態を説明する。ただし、必要以上に詳細な説明は省略することがある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。本明細書においては、同一のまたは類似する構成要素には、同一の参照符号を付している。
【0025】
(実施形態1)
図3は、本発明の例示的な実施形態による検査システムの構成を模式的に示す図である。この検査システムは、印刷機100と、検査装置200とを備える。
図3には、印刷機100および検査装置200に接続されるコンピュータ300も示されている。コンピュータ300は、例えばサーバコンピュータ、パーソナルコンピュータ(PC)、または携帯端末などの任意の情報処理装置である。コンピュータ300は、検査システムに含まれていてもよいし、検査システムの外部の要素であってもよい。また、印刷機100は、検査システムの外部の要素であってもよい。
【0026】
図1に示す印刷機100は、印刷コントローラ110と、印刷ヘッド120と、搬送機130とを備える。搬送機130は、ロール状の用紙10を搬送する。印刷コントローラ110は、印刷機100の全体の動作を制御する装置または回路である。印刷コントローラ110は、コンピュータ300から入力された、印刷元データを含む印刷指示を受けて、搬送機130および印刷ヘッド120を駆動する。これにより、印刷機100は、用紙10を搬送しながら印刷を実行する。印刷コントローラ110、印刷ヘッド120、および搬送機130は、1つの装置として一体化されていなくてもよく、それぞれ独立した装置として構成されていてもよい。
【0027】
印刷機100は、例えばインクジェット方式または電子写真方式等の公知の方式で印刷を行うデジタル印刷機である。印刷機100は、コンピュータ300から入力された印刷元データに基づいて用紙10に印刷を行う。印刷は、カラー印刷であってもよいしモノクロ印刷であってもよい。以下の説明では、一例として、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色のインクを用いたカラー印刷を行うものとする。印刷機100は、CMYKに限らず、他の色のインクを用いて印刷を行ってもよい。
【0028】
本実施形態における印刷機100は、バリアブル印刷(可変印刷)を実行することができる。バリアブル印刷では、用紙10のページごとに異なる文字、図形、または画像などが連続的に印刷される。本実施形態における用紙10はロール紙であるが、フィルムなどの他の印刷媒体に印刷が行われてもよい。
【0029】
印刷コントローラ110は、入力された印刷元データをヘッドデータに変換して印刷ヘッド120に出力する。印刷元データは、例えばPDF(Portable Document Format)等の画像や文字の情報を含むベクタ形式のデータであり得る。ヘッドデータは、例えば各画素1色あたり2~4階調程度の少数の階調で表現された網点(ハーフトーン)画像を示すビットマップ(ラスタ)のデータであり得る。印刷コントローラ110は、例えばベクタ形式の印刷元データを、より少数の階調の点の集合として表現されたラスタ画像を表すヘッドデータに変換するRIP(Raster Image Processor)の機能を有する。RIP処理は、PDF等の印刷元データをラスタデータに変換する処理、RGB(赤、緑、青)からCMYK(シアン、マゼンタ、黄、黒)への変換処理、および各色の濃淡を網点(ハーフトーン)で表現するハーフトーン処理等の種々の処理を含み得る。なお、RIPの機能の少なくとも一部は、印刷コントローラ110とは異なる装置(例えばコンピュータ300)が実行してもよい。印刷元データは、PDFに限らず、例えばJPEG(Joint Photographic Experts Group)またはPNG(Portable Network Graphics)等の画像データであってもよい。
【0030】
印刷ヘッド120は、入力されたヘッドデータに基づいて印刷を実行するための部品およびそれらの部品を制御する回路を含む装置である。
図3には1つの印刷ヘッド120が例示されているが、カラー印刷が行われる場合、複数の色のインクに対応する複数種類の印刷ヘッドが設けられ得る。例えば、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色のインクにそれぞれ対応する4つの印刷ヘッドが設けられ得る。印刷機100がインクジェットプリンタである場合、各色の印刷ヘッドは、用紙10の表面に沿って搬送方向(
図1に示す矢印の方向)に垂直な方向に並ぶ複数のインクジェットヘッドを含み得る。各インクジェットヘッドは、例えばインクを加圧または加熱して噴射するノズルを含む。なお、印刷機100が電子写真方式のプリンタである場合、印刷ヘッド120は、レーザまたはLED等の光源、ポリゴンミラー等の光学系、感光ドラム等の部品、光源および光学系を制御する回路を含み得る。
【0031】
検査装置200は、印刷機100と連動して動作し、印刷された用紙10を検査し、検査結果を出力する。検査装置200は、印刷機100およびコンピュータ300に接続されている。検査装置200は、カメラ220と、処理装置210とを備える。
【0032】
カメラ220は、印刷された用紙10の搬送経路上に配置される。カメラ220は、印刷後の用紙10を撮影して画像データ(「カメラ画像」と呼ぶ。)を生成する。カメラ220は、例えばページごとにカメラ画像を出力するように構成され得る。
【0033】
カメラ220は、例えばCCDまたはCMOSなどのイメージセンサと、レンズ等の光学系とを備える。カメラ220は、2次元のイメージセンサを備えていてもよいし、コンタクトイメージセンサ(CIS)などのリニアイメージセンサ(ラインセンサ)を備えていてもよい。カメラ220がリニアイメージセンサを備える場合、カメラ220は、搬送された用紙10をラインごとに撮影し、複数ラインのデータをページごとにまとめてカメラ画像として出力してもよい。あるいは、カメラ220は、ラインごとにデータを出力し、処理装置210が複数ラインのデータをページごとにまとめて2次元のカメラ画像のデータを生成してもよい。カメラ220は、用紙10の表面側だけでなく裏面側にも設けられていてもよい。用紙10の両面側に2つのカメラ220を設けることにより、用紙10の両面の印刷状態を検査することができる。
【0034】
処理装置210は、プロセッサ212と、RAM214およびROM216等の記憶媒体(メモリ)と、入出力インターフェース(I/F)218とを備える。プロセッサ212は、例えばCPU(Central Processing Unit)またはGPU(Graphics Processing Unit)などの演算処理回路を含む。ROM216は、プロセッサ212によって実行されるコンピュータプログラムを格納する。当該プログラムは、後述する処理をプロセッサ212に実行させるための命令群を含む。RAM214は、プロセッサ212がプログラムを実行するにあたって、当該プログラムを展開するためのワークメモリである。プロセッサ212は、インターフェース218を介して、コンピュータ300、印刷コントローラ110、およびカメラ220に接続される。
【0035】
処理装置210のプロセッサ212は、印刷元データまたはヘッドデータと、カメラ画像データとに基づく照合処理を行い、印刷物の良否を判定する。以下、
図4を参照しながら、この判定処理の詳細を説明する。
【0036】
図4は、処理装置210による判定処理の概要を説明するための模式図である。処理装置210は、印刷元データおよびヘッドデータの少なくとも一方を取得し、取得した印刷元データまたはヘッドデータに、空間フィルタリング処理および色調整処理等の必要な変換処理を行い、照合用の画像データ(第1フィルタ画像)を生成する。処理装置210はまた、カメラ220からカメラ画像を取得し、当該カメラ画像に空間フィルタリング処理および色調整処理等の必要な変換処理を行い、照合用のカメラ画像(第2フィルタ画像)を生成する。処理装置210は、第1フィルタ画像と第2フィルタ画像とを照合し、照合結果を出力する。例えば、処理装置210は、第1フィルタ画像と第2フィルタ画像とを、比較的小さい領域ごとに比較する処理を画像全体にわたって実行し、両者の一致度に基づいて、印刷の良否を判定する。処理装置210は、判定結果を、例えば処理装置210に接続されたディスプレイもしくはスピーカなどの出力装置または記憶装置に出力する。
【0037】
図4に示す例では、処理装置210は、印刷元データおよびヘッドデータのいずれに基づいて照合するかを切り替えることができる。処理装置210は、例えばユーザによって指定されたモードの設定に基づいて、印刷元データおよびヘッドデータのいずれを照合に使用するかを選択するように構成され得る。その場合、ユーザは、処理装置210に接続された入力装置を用いて、印刷元データを用いるモードとヘッドデータを用いるモードとを切り替えることができる。なお、この選択の機能は必須ではなく、処理装置210は、印刷元データおよびヘッドデータの一方のみから照合用の第1フィルタ画像を生成してもよい。
【0038】
図4に示す例では、印刷ヘッド120は、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色に対応する4種類の印刷ヘッドを含む。これにより、カラー印刷が可能である。印刷ヘッド120は、モノクロ印刷を行うように構成されていてもよい。モノクロ印刷が行われる場合、印刷元データまたはヘッドデータ、およびカメラ画像データに対する色調整処理は省略されてもよい。
【0039】
本実施形態によれば、処理装置210は、印刷元データまたはヘッドデータに第1空間フィルタリング処理を行って生成した第1フィルタ画像と、印刷物を撮影して取得したカメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像とに基づいて印刷物の良否を判定する。第1空間フィルタリング処理として、印刷時のインクのにじみおよび用紙の変形等の影響を反映した処理が行われる。これにより、印刷時のインクのにじみおよび用紙の変形等が生じたとしても高い精度で印刷物の欠陥を検出することができる。また、本実施形態では、印刷元データまたはヘッドデータ、およびカメラ画像の特性に応じた色調整処理も行われる。これにより、両者の色表現の違いに関わらず、高い精度で検査を行うことができる。
【0040】
なお、処理装置210は、カメラ画像に対する空間フィルタリング処理および色調整処理を省略し、第1フィルタ画像とカメラ画像とを直接照合してもよい。
図5は、その場合のシステム構成例を示している。印刷元データまたはヘッドデータ(以下、まとめて「印刷データ」と称することがある。)に適切な空間フィルタリング等の処理を行うことにより、人が目視で検査する場合と同程度の高精度の検査が可能である。
【0041】
図6は、本実施形態における印刷および検査の流れを模式的に示す図である。ここでは、ヘッドデータが示す画像に空間フィルタを用いたフィルタリングを行って生成したフィルタ画像と、カメラ画像との間で照合を行う場合の例を説明する。印刷コントローラ110は、
図6に示すように、印刷元データにディザリング等の網点(ハーフトーン)処理を行い、ヘッドデータを生成する。ヘッドデータは、印刷元データにおける濃淡が点の密度として表現された網点のデータである。このようなヘッドデータが、例えばシアン、マゼンタ、黄、黒のそれぞれの色ごとに生成され得る。印刷ヘッド120は、このようなヘッドデータに基づいて各色に対応するヘッドを駆動して用紙に印刷を行う。用紙上では、インクのにじみや混合等の影響により、画像に変化が生じる。また、印刷物をカメラで撮影すると、カメラや撮影環境などの特性に応じて、撮影された画像に変化が生じる。その結果、カメラ画像はヘッドデータが示す画像とは一致せず、両者を直接照合することができない。そこで、
図6の例では、処理装置210は、印刷時の用紙上のインクのにじみや用紙の変形等の影響を擬似的に再現した空間フィルタを用いてヘッドデータをフィルタ画像に変換し、フィルタ画像とカメラ画像とを照合する。これにより、ヘッドデータとカメラ画像との比較が可能になり、検査の精度を大きく向上させることができる。
【0042】
なお、
図6の例では、ヘッドデータに空間フィルタリングを行って照合用のフィルタ画像を生成するが、印刷元データに空間フィルタリングを行って照合用のフィルタ画像を生成してもよい。印刷元データがPDF等のベクタ形式のデータである場合、処理装置210は、印刷元データにラスタライズ処理および色変換処理等の必要な処理を行った上で空間フィルタリングを行ってもよい。印刷元データもカメラ画像とは異なるため、そのままでは両者を照合することができない。印刷元データに適切な空間フィルタリング処理を行うことにより、検査の精度を向上させることができる。
【0043】
図6に示す例では、カメラ画像をそのまま照合用のデータとして用いているが、
図4の例のように、カメラ画像についても同様に空間フィルタリングおよび色変換等の変換処理を行い、両者の照合をしやすくしてもよい。
【0044】
このように、本実施形態では、印刷に伴う画像の変化の要因を想定して、照合前に印刷データ(および必要に応じてカメラ画像)の加工が行われる。加工は、例えばガウシアンフィルタなどの平滑化を行う空間フィルタ(すなわちローパスフィルタ)を用いて行われ得る。使用される空間フィルタはガウシアンフィルタなどの線形フィルタに限らず、非線形フィルタであってもよい。また、複数の空間フィルタを組み合わせて照合用の適切なフィルタ画像を生成してもよい。空間フィルタは、印刷機100および用紙10の特性に応じて予め作成される。空間フィルタは、例えば機械学習を利用して訓練された学習済みモデルとして生成されてもよい。処理装置210自身が検査前に空間フィルタを生成してもよい。処理装置210は、既知の印刷データの印刷時の変形を、例えばニューラルネットワークを利用した機械学習アルゴリズムを用いて学習することによって最適な空間フィルタ(学習済みモデル)を生成してもよい。使用されるニューラルネットワークの例として、誤差逆伝播法を利用した畳み込みニューラルネットワーク(CNN)が挙げられる。処理装置210は、例えばGAN(Generative Adversarial Network)に基づく学習アルゴリズム(pix2pix等)を利用して最適な空間フィルタを生成してもよい。
【0045】
図4および
図5に示す実施形態では、処理装置210は、印刷データに対して空間フィルタリング処理に加えて、色変換処理も行う。これにより、印刷データとカメラ画像との間で色の比較がしやすくなる。以下、
図7を参照しながら、本実施形態における色変換処理の概要を説明する。
【0046】
図7は、色変換処理の概要を模式的に示す図である。ここでも
図6に示す例と同様に、ヘッドデータから第1フィルタ画像が生成される例を説明する。この例において、印刷元データは加色系のRGB色空間で表現され、ヘッドデータは減色系のCMYK色空間で表現されている。カメラで撮影された画像はRGB色空間で表現されるため、ヘッドデータとカメラ画像とを直接照合することができない。そこで、処理装置210は、ヘッドデータに対して、前述の空間フィルタリング処理に加えて、CMYK色空間からRGB色空間への変換処理を行うことによって第1フィルタ画像を生成する。このような変換を行うことにより、ヘッドデータからカメラで撮影された画像を擬似的に再現することができ、検査の精度を向上させることができる。
【0047】
色変換は、CMYKからRGBへの変換に限らず、他の変換であってもよい。例えば、色の変化に対する感度を肉眼に近づけるために、印刷データ(印刷元データまたはヘッドデータ)およびカメラ画像を、各色の重みづけが等しくなるCIE-L*a*b*などの表色系に変換してもよい。そのような変換を行うことにより、より肉眼に近い検査が可能となる。また、既知の印刷データとカメラ画像を用いて、例えば誤差逆伝播法を利用したCNN等の機械学習アルゴリズムによって訓練された学習済みモデルを用いて印刷データの色変換を行ってもよい。処理装置210は、例えばpix2pix等のアルゴリズムを利用して、前述の空間フィルタリングと色変換とを同時に行うモデルを生成してもよい。
【0048】
次に、
図8を参照しながら、処理装置210によって実行される処理をより詳細に説明する。
【0049】
図8は、処理装置210のプロセッサ212が実行する処理の例を示すフローチャートである。この例では、処理装置210は、印刷開始後、印刷コントローラ110から印刷終了の指示(ステップS107)を受けるまで、ステップS101からS106の処理を、印刷物のページごとに繰り返す。なお、印刷終了の指示は、印刷コントローラ110とは異なる装置から入力されてもよい。
【0050】
ステップS101において、処理装置210は、印刷元データまたはヘッドデータを取得する。処理装置210は、印刷元データを、
図3に示すようにコンピュータ300から取得してもよいし、印刷コントローラ110から取得してもよい。処理装置210は、ヘッドデータを、印刷コントローラ110から取得する。処理装置210は、印刷元データおよびヘッドデータの両方を取得してもよいし、一方のみを取得してもよい。処理装置210は、設定されたモードに従って、印刷元データおよびヘッドデータの一方を取得するように構成されていてもよい。
【0051】
ステップS102において、処理装置210は、ステップS101で取得した印刷元データまたはヘッドデータに第1空間フィルタリング処理を行い、第1フィルタ画像を生成する。第1空間フィルタリング処理は、例えば、加重平均化フィルタ(例えばガウシアンフィルタ)などの平滑化フィルタを用いた処理を含み得る。第1空間フィルタリング処理は、平均化フィルタによるサイズ圧縮処理を含んでいてもよい。第1空間フィルタリング処理により、インクのにじみや用紙の変形の影響を擬似的に再現し、カメラ画像との照合を行いやすくすることができる。ベクタ形式の印刷元データを処理する場合、処理装置210は、第1空間フィルタリング処理の前に、ラスタライズ処理を行い、ラスタ(ビットマップ)形式の画像に変換してもよい。処理装置210は、第1空間フィルタリング処理に加えて、第1フィルタ画像の各画素の色を調整する第1色変換処理を行ってもよい。第1フィルタ画像がCMYKの4色の色空間で表されている場合、処理装置210は、第1フィルタ画像に対してCMYKからカメラ画像の色空間であるRGBへの色変換を行うように構成され得る。色変換は、予め作成された色変換テーブルに基づいて行われ得る。あるいは、処理装置210は、誤差逆伝播法等を利用した学習アルゴリズムを用いて予め訓練された学習済みモデルを用いて、印刷元データまたはヘッドデータを、照合用の第1フィルタ画像に変換してもよい。
【0052】
ステップS103において、処理装置210は、カメラ220からカメラ画像を取得する。カメラ画像は、例えばRGBの画像データである。
【0053】
ステップS104において、処理装置210は、ステップS103で取得したカメラ画像に第2空間フィルタリング処理を行い、第2フィルタ画像を生成する。第2空間フィルタリング処理は、例えば加重平均化フィルタ(例えばガウシアンフィルタ)などの平滑化フィルタを用いた処理を含み得る。第2空間フィルタリング処理は、平均化フィルタによるサイズ圧縮処理を含んでいてもよい。第2空間フィルタリング処理を行うことにより、例えば画素数とぼやけの程度が第1フィルタ画像と同等の第2フィルタ画像を生成することができる。これにより、第1フィルタ画像との照合が容易になる。処理装置210は、第2空間フィルタリング処理に加えて、カメラ画像の各画素の色を調整する第2色変換処理を行ってもよい。第2空間フィルタリング処理および第2色変換処理に加えて、例えば回転補正などの処理を行って第1フィルタ画像との照合をしやすくしてもよい。あるいは、処理装置210は、誤差逆伝播法等を利用した学習アルゴリズムを用いて予め訓練された学習済みモデルを用いて、カメラ画像を、照合用の第2フィルタ画像に変換してもよい。
【0054】
なお、ステップS103およびS104の処理は、ステップS101およびS102の前に行われてもよいし、ステップS101およびS102の処理と並行して行われてもよい。
【0055】
ステップS105において、処理装置210は、第1フィルタ画像と第2フィルタ画像とを照合し、印刷の良否を判定する。処理装置210は、第1フィルタ画像と第2フィルタ画像との差分に基づいて、印刷の良否を判定する。例えば、第1フィルタ画像および第2フィルタ画像を対応する小領域ごとに比較し、画素値が大きく異なる箇所を検出した場合に印刷エラーが生じたと判定することができる。
【0056】
ステップS106において、処理装置210は、判定結果を出力する。処理装置210は、例えば、印刷に欠陥があるか否か、および欠陥がある場合、画像中のどの箇所に欠陥があるかを示す情報を判定結果として出力する。判定結果は、例えば、処理装置210に接続されたディスプレイ等の出力装置または記憶装置に出力され得る。この出力を見て、ユーザは、印刷に不備が生じたことを知ることができる。処理装置210は、判定結果をページごとに記録した検査結果のリストを作成し、当該リストを記憶装置に記録してもよい。これにより、印刷および検査の履歴を残すことができる。
【0057】
ステップS107において、処理装置210は、印刷終了の指示の有無を判断する。印刷終了の指示がなければ、ステップS101に戻り、次のページの検査を行う。印刷終了の指示は、例えば印刷コントローラ110から入力され得る。
【0058】
以上の動作により、処理装置210は、印刷物のページごとに印刷元の画像とカメラ画像とを比較し、印刷に異常がないかを判定することができる。本実施形態においては、ステップS102およびS104において、印刷元データまたはヘッドデータと、カメラ画像に対して、空間フィルタリング処理および色変換処理が行われる。これらの処理により、印刷元データまたはヘッドデータと、カメラ画像との照合を容易にし、検査の精度を向上させることができる。
【0059】
図8の例では、ステップS104においてカメラ画像から第2フィルタ画像への変換が行われるが、この処理を省略してもよい。
【0060】
図9は、処理装置210のプロセッサ212が実行する処理の他の例を示すフローチャートである。
図9に示すフローチャートは、
図8に示すフローチャートにおけるステップS104およびS105がステップS114に置き換わったものである。ステップS114以外の処理は、
図8の例と同様である。
図9の例では、処理装置210は、カメラ画像に対する空間フィルタリング処理および色変換処理を行わず、カメラ画像をそのまま照合用のデータとして用いる。ステップS114において、処理装置210は、第1フィルタ画像とカメラ画像とを照合し、印刷の良否を判定する。この場合であっても、印刷データから第1フィルタ画像を生成するために用いられるモデル(空間フィルタおよび色変換テーブル)を適切に作成することにより、高い精度で印刷の良否を判定することができる。
【0061】
図10は、処理装置210のプロセッサ212が実行する処理のさらに他の例を示すフローチャートである。この例では、処理装置210が印刷元データおよびヘッドデータの一方を選択して処理する。
図10に示すフローチャートは、
図8におけるステップS101の動作が、ステップS120、S121、S122に置き換わっている点を除き、
図8に示すフローチャートと同じである。
【0062】
ステップS120において、処理装置210は、印刷元データを使用するか、ヘッドデータを使用するかを判断する。処理装置210は、例えばユーザによって設定されたモードに従って、印刷元データを使用するか、ヘッドデータを使用するかを決定する。印刷元データを使用すると判断した場合、ステップS121に進み、処理装置210は、印刷元データを取得する。ヘッドデータを取得すると判断した場合、ステップS122に進み、処理装置210は、ヘッドデータを取得する。ステップS121またはS122の後、ステップS102に進む。ステップS102において、処理装置210は、ステップS121またはS122で取得した印刷元データおよびヘッドデータの一方に対して空間フィルタリングおよび色変換処理を行う。ステップS102からS107の動作は
図8における対応するステップの動作と同じである。
【0063】
なお、
図10の例におけるステップS104およびS105の動作の代わりに、
図9におけるステップS114の動作が行われてもよい。
【0064】
ここで、
図11を参照しながら、ステップS102におけるデータ変換処理の具体例を説明する。
図11は、ヘッドデータを第1フィルタ画像に変換する処理の流れを示している。ここでは一例として、1200dpi(dots per inch)の解像度を有するシアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色の画像情報を含むヘッドデータ(a)から第1フィルタ画像を生成する場合の処理の例を説明する。
図11の例では、ヘッドデータが示す画像における画素値は、色ごとに2ビット(合計8ビット)で表現される。
【0065】
図12Aは、ヘッドデータにおける1つの画素の画素値の一例を示している。
図12Aに示すように、画素値が例えば210(2進数で11010010)の場合、シアンのインク量は「大」、マゼンタのインク量は「小」、黄は「インクなし」、黒のインク量は「中」である。このように、CMYKの各色のインク量が2ビットで表現され、当該2ビットの数値が大きいほどインク量が多いことを表す。本実施形態では、ヘッドデータにおける画素値と印刷濃度とは非線形の関係にあり、印刷濃度は画素値に比例しない。
【0066】
図11の例において、処理装置210は、CMYKの各色について、予めメモリに記録された濃淡変換テーブルを参照して、各色2ビットの画素値を有するヘッドデータを、各色8ビット(合計32ビット)の画素値を有する画像データ(b)に変換する。この画像データにおける画素値と濃度とは線形の関係にあり、濃度は画素値に比例する。処理装置210は、この画像データに、ガウシアンフィルタおよび平均化フィルタ(例えば16画素を平均化するフィルタ)等の空間フィルタを用いたフィルタリング処理(畳み込み演算)を行う。これにより、処理装置210は、CMYK各色の画像を平滑化し、画素数を1/4(300dpi)に削減した画像データ(c)を生成する。
【0067】
図12Bは、ガウシアンフィルタおよび平均化フィルタの例を示している。これらのフィルタ(カーネル)の各要素の数値は、印刷によるインクのにじみや用紙の変形等の影響を適切に反映するように決定される。
【0068】
処理装置210は、画像データ(c)に対して、予めメモリ等の記憶媒体に記録された色変換テーブルに基づいて、CMYKからRGBへの色変換を行い、第1フィルタ画像(d)を生成する。
【0069】
図12Cは、色変換テーブルの一例を示している。この色変換テーブルは、CMYKの4つの値の組み合わせと、RGBの3つの値の組み合わせとの対応関係を規定する。色変換テーブルにおける各数値は、インク、用紙、およびカメラ等の特性に応じて適切な値に設定される。
【0070】
図11の例における第1フィルタ画像は、RGBの各色の画素値が8ビット(合計24ビット)で表現された300dpiの画像である。処理装置210は、この第1フィルタ画像を、カメラ画像またはカメラ画像から変換した第2フィルタ画像と照合することによって印刷の品質を検査する。
【0071】
なお、
図11の例における各画像の解像度および各画素のビット数、ならびに各フィルタおよび各テーブルにおける数値は一例に過ぎず、これらの数値は、システムに依存して適切な値に設定される。
【0072】
図11の例ではヘッドデータから第1フィルタ画像が生成されるが、PDFなどの印刷元データに基づいて第1フィルタ画像を生成してもよい。その場合、処理装置210は、印刷元データを、例えばRGB等の所定の色空間で表現されたビットマップ画像のデータに変換した上で、ガウシアンフィルタまたは平均化フィルタなどの空間フィルタを用いた空間フィルタリング(および必要に応じて色変換)を実行して第1フィルタ画像を生成してもよい。
【0073】
次に、本実施形態において用いられる空間フィルタの例をより詳細に説明する。
【0074】
図13は、印刷データに適用される空間フィルタの一例と、空間フィルタのパラメータの調整方法を模式的に示す図である。この例における空間フィルタは、以下の2次元ガウス分布関数に基づくガウシアンフィルタである。
【数1】
ここで、(x,y)は、画像の中心を原点とする座標であり、x軸は画像の横方向に対応し、y軸は画像の縦方向に対応する。σは標準偏差である。
【0075】
図13に例示するガウシアンフィルタのカーネルサイズは5×5である。カーネルサイズは、他のサイズ(例えば、3×3、7×7等)であってもよい。カーネルサイズおよび標準偏差σなどのパラメータは、検査で使用される印刷機およびカメラ等の特性に応じて適切な値に設定される。この例ではガウシアンフィルタが用いられるが、他の空間フィルタが用いられる場合も、印刷機およびカメラ等の特性に応じてフィルタのパラメータ(各要素の値)が調整され得る。
【0076】
ここで、印刷データ、フィルタ画像、カメラ画像における座標(i,j)の画素値を、それぞれA[i,j]、B[i,j]、C[i,j]と表記する。フィルタ画像の画素値B[i,j]は、上記の2次元ガウス分布関数を用いて以下の式で近似される。
【数2】
【0077】
カメラ画像とフィルタ画像との偏差dは、以下の式で表される。
【数3】
【0078】
空間フィルタの各パラメータは、この偏差dを最小化するように予め適切な値に決定される。空間フィルタの各パラメータは、機械学習を利用して決定してもよい。例えば、印刷データA[i,j]とカメラ画像C[i,j]とのペアに相当する多数の学習用データセットと、所定の機械学習アルゴリズムとを用いた教師あり学習を実行することにより、空間フィルタの各パラメータを決定してもよい。この学習の結果、検査で実際に使用される空間フィルタが、ガウシアンフィルタとは異なるフィルタになってもよい。
【0079】
次に、本実施形態における色変換処理と、色変換テーブルの調整方法の例をより詳細に説明する。
【0080】
図14は、色変換テーブルの例と、そのパラメータの調整方法の例を示す図である。この例では、処理装置210は、メモリ等の記憶媒体に記録された色変換テーブルに基づいて、CMYKの印刷データを、RGBのフィルタ画像に変換する。この色変換テーブルは、CMYKの4色の値の組み合わせと、RGBの3色の値の組み合わせとの関係を規定するデータである。色変換テーブルに代えて、同様の変換を実現する関数またはモデルが用いられてもよい。色変換テーブルにおける各パラメータは、カメラ画像とフィルタ画像との偏差を最小にするように決定される。処理装置210は、印刷データA[i,j]とカメラ画像C[i,j]とのペアに相当する多数の学習用データセットと、所定の機械学習アルゴリズムとを用いた教師あり学習を実行することにより、色変換テーブルのパラメータを調整してもよい。
【0081】
本実施形態では、空間フィルタリング処理と色変換処理とが別々に実行されるが、これらの処理を包含した変換処理が行われてもよい。そのような変換処理は、例えばニューラルネットワーク等の機械学習アルゴリズムを利用して訓練された学習済みモデルを用いた変換であってもよい。処理装置210は、例えばGAN等のアルゴリズムを利用して、印刷データから擬似的なカメラ画像を生成するための学習済みモデルを生成してもよい。
【0082】
次に、印刷データから変換された第1フィルタ画像とカメラ画像との照合処理の例を説明する。
【0083】
図15は、第1フィルタ画像とカメラ画像との照合処理の一例を示す図である。この例では、処理装置210は、第1フィルタ画像とカメラ画像とを複数の領域に分割し、領域ごとに両者を照合する。
図15の例では、各画像が12の領域に分割されている。領域間にはオーバーラップ領域が設けられる。処理装置210は、第1フィルタ画像から切り出す領域を例えば縦横の各方向に1画素ずつ移動させながら複数回照合し、カメラ画像との一致度が最も高い切り出し領域を決定し、その領域とカメラ画像における対応する領域とを比較してもよい。カメラにおけるレンズの収差に起因するカメラ画像の変形等の予測可能な変形の影響を補償するために、予め座標にオフセットが設けられていてもよい。処理装置210は、第1フィルタ画像の画素値とカメラ画像の対応する画素値との差を画素ごとに計算し、当該画素値の差に基づいて、印刷の欠陥を検出することができる。処理装置210は、例えば、上記の領域ごとに、SSD(Sum of Squared Difference)またはSAD(Sum of Absolute Difference)等の画像の差分を示す指標値を計算し、その値が閾値を超えた場合に、その領域の印刷に欠陥があることを検出することができる。なお、カメラ画像に空間フィルタリングや色変換処理が行われた第2フィルタ画像と第1フィルタ画像とを照合する場合も、同様の方法で印刷の良否を判定することができる。
【0084】
以上のように、本実施形態における検査システムは、入力された印刷元データをヘッドデータに変換する印刷コントローラ110と、ヘッドデータに基づいて印刷を行う印刷ヘッド120とを備えた印刷機100と組み合わせて使用される。検査システムは、印刷機100によって印刷された印刷物を撮影してカメラ画像を生成するカメラ220と、処理装置210とを備える。処理装置210は、印刷元データまたはヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、第1フィルタ画像とカメラ画像との照合、または、第1フィルタ画像と、カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、印刷物の良否を判定し、判定結果を出力する。
【0085】
このような構成により、印刷時のインクのにじみや用紙の変形、またはカメラのレンズの収差等の影響を補償することができるため、印刷物の画像検査の精度を向上させることができる。
【0086】
なお、本実施形態では、印刷元データまたはヘッドデータに、空間フィルタリング処理および色変換処理が行われるが、印刷物によっては色変換処理が省略されてもよい。例えば、モノクロ印刷の検査が行われる場合、色変換処理は省略され得る。この点は、カメラ画像に対する色変換処理についても同様である。また、本実施形態における印刷装置100はインクジェットプリンタであるが、レーザプリンタ等の電子写真方式のプリンタ、または有版印刷を行う印刷機に本実施形態の技術を適用してもよい。
【0087】
(実施形態2)
次に、前述の空間フィルタリングおよび色変換等の変換処理を行うために用いられる学習済みモデルを機械学習によって生成する方法の例を説明する。
【0088】
図16は、本実施形態における学習済みモデルの生成方法の流れを示すフローチャートである。この方法は、学習用データセットを生成する工程(ステップS200)と、学習用データセットに基づいて学習済みモデルを生成する工程(ステップS210)とを含む。ステップS200は、ステップS201からS205を含む。ステップS210は、ステップS211からS213を含む。ステップS200とステップS210とは、同一の装置が実行してもよいし、異なる装置が実行してもよい。以下の説明では、一例として、
図3に示すコンピュータ300がステップS200を実行し、処理装置210がステップS210を実行するものとする。なお、ステップS200およびS210のそれぞれの処理は、コンピュータ300、処理装置210に限らず、他の装置によって実行されてもよい。
【0089】
ステップS201において、コンピュータ300は、学習用印刷データを記憶装置から取得する。学習用印刷データは、例えば、実際に検査される印刷物と同様の画像を示すデータ、または学習用に特別に作成された複数の色のパターンを含むテストチャートの画像を示すデータであり得る。学習用印刷データは、予め作成され、コンピュータ300内の記憶装置または外部の記憶装置に記録される。学習用印刷データは、
図3に示す印刷元データに相当する。なお、学習用印刷データは、ヘッドデータと同等の形式のデータであってもよい。
【0090】
ステップS202において、コンピュータ300は、印刷機100に、学習用印刷データに基づく印刷の実行を指示する。これを受けて、印刷機100は、用紙10に印刷を実行する。
【0091】
ステップS203において、コンピュータ300は、カメラ220に、学習用印刷データに基づいて印刷された印刷物の撮影を指示する。これを受けて、カメラ220は、印刷物の画像データ(以下、「学習用カメラ画像」と呼ぶ。)を生成する。
【0092】
ステップS204において、コンピュータ300は、学習用カメラ画像と学習用印刷データとを関連付けて記憶装置に記録する。
【0093】
ステップS205において、コンピュータ300は、学習用データの生成の終了指示が出されたか否かを判定する。終了指示は、例えばユーザの操作に基づいてコンピュータ300に入力され得る。あるいは、予め設定された件数の印刷および撮影の動作が終了した時点で終了指示が出されてもよい。終了指示が出されるまで、コンピュータ300は、異なる学習用印刷データに対してステップS201からS205の動作を繰り返す。
【0094】
以上の動作により、学習用印刷データと学習用カメラ画像との組を1組以上含む学習用データセットが生成され、記憶装置に記録される。この学習用データセットは、印刷データを擬似的なカメラ画像(以下、「照合用印刷画像」と呼ぶことがある。)に変換するための機械学習モデルを訓練するために用いられる。学習の効果を高めるために、学習用印刷データと学習用カメラ画像との組をできる限り多く用意することが好ましい。
【0095】
次に、学習用データセットを用いて学習済みモデルを生成するステップS210の詳細を説明する。
【0096】
ステップS211において、処理装置210は、学習用データセットを記憶装置から取得する。学習用データセットが学習用印刷データと学習用カメラ画像との組を複数組含む場合、全ての組のデータを取得する。
【0097】
ステップS212において、処理装置210は、所定の機械学習アルゴリズムを利用して、学習用データセットに基づいて機械学習を行うことにより、印刷データを照合用印刷画像に変換するためのモデル(学習済みモデル)を生成する。機械学習アルゴリズムとして、例えば深層学習を利用して入力画像を他の画像に変換する用途に用いられる種々のアルゴリズムを利用することができる。例えば、GAN、NST(Neural Style Transfe)等の、畳み込みニューラルネットワーク(CNN)を利用したアルゴリズムを利用することができる。生成される学習済みモデルは、例えば実施形態1において説明した空間フィルタリング処理と、カラー変換処理とを実行するモデルであり得る。学習済みモデルの生成は、学習用印刷データと、対応する学習用カメラ画像との偏差を小さくするように、当該モデルにおける複数のパラメータを調整することを含む。
【0098】
ステップS213において、処理装置210は、生成した学習済みモデルを記憶装置(例えばROM216)に記録する。
【0099】
以上の動作により、印刷データを照合用印刷画像に変換するための学習済みモデルを生成することができる。この学習済みモデルに基づいて検査を行う場合、処理装置210は、当該学習済みモデルを実装した画像変換プログラムを実行して、検査対象の印刷データを照合用印刷画像に変換する。処理装置210は、照合用印刷画像を、カメラ画像、またはカメラ画像に回転補正や色補正等の処理を行った画像(まとめて「照合用カメラ画像」と呼ぶ。)と比較・照合し、印刷物の良否を判定する。
【0100】
次に、モデル生成に用いられる学習用印刷データとして用いられるテストチャートの例を説明する。テストチャートは、例えば色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含み得る。本明細書において「色」は、色相、明度、彩度の組み合わせを意味する。
【0101】
図17Aから
図17Cは、テストチャートの画像の例を示している。
図17Aは、色の異なる複数のカラーブロックが2次元的に配列されたテストチャートの例を示している。このテストチャートは、印刷物の搬送方向に相当する方向(図の縦方向)と、搬送方向に垂直な方向に相当する方向(図の横方向)とに配列された多数の正方形のカラーブロックの領域を含む。各カラーブロックは小さく、例えば10mm×10mmよりも小さい。カラーブロックの個数は、例えば1000以上である。これらのカラーブロックの色は、例えば印刷機100によって印刷可能な色の大部分が網羅されるように選択され得る。カラーブロックの全ての色が異なっている必要はなく、同一の色のブロックが含まれていてもよい。
【0102】
図17Bは、色の異なる複数のカラーバーが1次元的に配列されたテストチャートの例を示している。このテストチャートは、印刷物の搬送方向に垂直な方向に相当する方向(図の横方向)に延びる複数の色の異なるカラーバーを含んでいる。複数のカラーバーは、搬送方向に相当する方向(図の縦方向)に沿って配列されている。各カラーバーの幅(縦方向における寸法)は小さく、例えば10mmよりも小さい。カラーバーの本数は、例えば30本以上である。これらのカラーバーの色は、例えば印刷機100によって印刷可能な色の大部分が網羅されるように選択され得る。カラーバーの全ての色が異なっている必要はなく、同一の色のカラーバーが含まれていてもよい。
【0103】
印刷機100がインクジェットプリンタである場合、印刷ヘッド120は、例えばCMYKの各色について複数のヘッドを含み得る。各色についての複数のヘッドは、搬送方向に垂直な方向に沿って配列され得る。ヘッドによってインクの吐出具合が異なり得ることから、同じ色でもヘッドの位置によってインクの濃度および広がり具合が異なり得る。そこで、
図17Bの例では、ヘッドの配列方向に対応する方向に沿って延びる複数のカラーバーを含むテストチャートが用いられる。このようなテストチャートを用いることにより、ヘッドの配列方向における位置によってそれぞれの色がどのように変化するのかを効果的に学習することができる。
【0104】
図17Aおよび
図17Bに例示するテストチャートには、そのテストチャートの種類を示す情報を含む複数の2次元コード70が含まれている。2次元コード70は、例えばQR(Quick Response)コード等の、所定の規則で情報が2次元的な濃淡の情報で表現されたコードである。2次元コード70は、モデルの学習を行う装置においてテストチャートの種類の特定および各色の領域の位置の特定に利用され得る。
図17Aおよび
図17Bの例においては、複数の2次元コード70が、カラーブロックまたはカラーバーの周囲の所定の位置に配置されている。このように2次元コード70を配置することにより、照合時の位置決めを容易にすることができる。2次元コード70の少なくとも一部は、印刷物の搬送方向に垂直な方向に相当する方向(横方向)に沿って配置され得る。このような2次元コード70は、照合時に目印として機能し、各色の領域の特定を容易にする。2次元コード70は、カラーチャートに含まれる各色の領域の位置を特定するための情報を含み得る。例えば、カラーチャートに設定された座標系における位置座標と、その位置座標における色との対応関係を示す情報が2次元コード70に含まれ得る。
図17Aおよび
図17Bの例のように、複数の2次元コード70がカラーチャートに含まれる場合、各2次元コード70は、自身の位置座標の情報に加え、その2次元コード70に対応付けられた複数の色の領域の位置座標の情報を含んでいてもよい。そのような情報を参照することにより、処理装置210は、2次元コード70を目印として、各色の領域の位置を特定することができる。これにより、位置決めを容易にし、学習の精度を向上させることができる。
【0105】
なお、2次元コードに代えて、1次元コード(バーコード)がカラーチャートに設けられていてもよい。バーコードを用いた場合であっても同様の機能を実現できる。また、2次元コードおよび1次元コードに代えて、例えば特徴的なマーク、文字、または記号を用いて同様の機能を実現してもよい。
【0106】
図17Cは、テストチャートのさらに他の例を示す図である。このテストチャートは、色の異なる複数のカラーバーを含む。各カラーバーは、搬送方向に垂直な方向に相当する方向(横方向)に沿って明度が連続的に変化する。このようなテストチャートを用いることにより、明度の異なる複数の色の学習を効率的に行うことができる。
【0107】
図17Aから17Cに例示するようなテストチャートは、1種類に限らず、複数種類のテストチャートが用いられてもよい。その場合、例えばテストチャートごとに
図16に示すステップS201からS205の動作が繰り返される。テストチャートを用いた学習と、通常の検査対象に近いテスト用データを用いた学習とを組み合わせて、より高精度の画像変換が可能なモデルを生成してもよい。
【0108】
以上のように、本開示は、以下の項目に記載のシステム、装置、方法、およびプログラムを含む。
【0109】
[項目a1]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と組み合わせて使用される検査システムであって、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する処理装置と、
を備える検査システム。
【0110】
[項目a2]
前記処理装置は、前記印刷元データに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成する、項目a1に記載の検査システム。
【0111】
[項目a3]
前記処理装置は、前記ヘッドデータに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成する、項目a1に記載の検査システム。
【0112】
[項目a4]
前記処理装置は、前記第1フィルタ画像と、前記カメラ画像との照合を行うことにより、前記印刷物の良否を判定する、項目a1からa3のいずれかに記載の検査システム。
【0113】
[項目a5]
前記処理装置は、前記第1フィルタ画像と、前記第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定する、項目a1からa3のいずれかに記載の検査システム。
【0114】
[項目a6]
前記処理装置は、前記印刷元データまたは前記ヘッドデータに、前記第1空間フィルタリング処理および第1色変換処理を行うことにより、前記第1フィルタ画像を生成する、項目a1からa5のいずれかに記載の検査システム。
【0115】
[項目a7]
前記処理装置は、前記カメラ画像に、前記第2空間フィルタリング処理および第2色変換処理を行うことにより、前記第2フィルタ画像を生成し、
前記第1フィルタ画像と前記第2フィルタ画像とを照合することにより、前記印刷物の良否を判定する、
項目a1からa3、a5、およびa6のいずれかに記載の検査システム。
【0116】
[項目a8]
前記処理装置は、前記印刷元データに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成するモードと、前記ヘッドデータに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成するモードとを切り替えることが可能である、項目a1からa7のいずれかに記載の検査システム。
【0117】
[項目a9]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて用いられる処理装置であって、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する、
処理装置。
【0118】
[項目a10]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて前記処理装置によって実行される検査方法であって、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成することと、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力することと、
を含む検査方法。
【0119】
[項目a11]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて用いられるプログラムであって、前記処理装置に、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する、
ことを実行させるプログラム。
【0120】
[項目b1]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムのための前記学習済みモデルを生成する方法であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、
を含む方法。
【0121】
[項目b2]
前記テストチャートは、色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含む、項目b1に記載の方法。
【0122】
[項目b3]
前記テストチャートは、前記印刷物の搬送方向に垂直な方向に相当する方向に延びる複数の色の異なるカラーバーを含み、前記複数のカラーバーは、前記搬送方向に相当する方向に配列されている、項目b1またはb2に記載の方法。
【0123】
[項目b4]
前記テストチャートは、前記テストチャートの種類を示す情報を含む1つ以上のバーコードまたは2次元コードを含む、項目b1からb3のいずれかに記載の方法。
【0124】
[項目b5]
前記テストチャートは、前記テストチャートの種類を示す情報を含む複数の2次元コードを含み、前記複数の2次元コードの少なくとも一部は、前記印刷物の搬送方向に垂直な方向に相当する方向に配列されている、項目b1からb4のいずれかに記載の方法。
【0125】
[項目b6]
前記学習済みモデルは、前記印刷データに対して空間フィルタリング処理と、カラー変換処理とを実行するモデルであり、
前記学習済みモデルの生成は、前記学習用印刷データと、対応する前記学習用カメラ画像との偏差を小さくするように、前記モデルにおける複数のパラメータを調整することを含む、
項目b1からb5のいずれかに記載の方法。
【0126】
[項目b7]
前記印刷機は、
入力された印刷元データをヘッドデータに変換する印刷コントローラと、
前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、
を備え、
前記印刷データは、前記印刷元データまたは前記ヘッドデータである、
項目b1からb6のいずれかに記載の方法。
【0127】
[項目b8]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムにおける前記学習済みモデルを生成するためのプログラムであって、コンピュータに、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを学習することと、
を実行させるプログラム。
【0128】
[項目b9]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムと組み合わせて使用される、前記学習済みモデルを生成する装置であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを記憶するメモリと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成するプロセッサと、
を備える装置。
【産業上の利用可能性】
【0129】
本開示の技術は、印刷物の印刷結果が適正か否かを検査する用途に利用できる。例えば、カラーのバリアブル印刷を行うデジタル印刷機によって印刷された印刷物を検査する用途に好適に利用できる。
【符号の説明】
【0130】
10 用紙
70 テストチャート
100 印刷機
110 印刷コントローラ
120 印刷ヘッド
130 搬送機
200 検査装置
210 処理装置
212 プロセッサ
214 RAM
216 ROM
220 カメラ
300 コンピュータ
【要約】
【課題】印刷物の検査の精度を向上させる。
【解決手段】検査システムは、印刷データに基づいて印刷を実行する印刷機と、前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、を備える。前記検査システムのための学習済みモデルを生成する方法は、複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することとを含む。
【選択図】
図16