(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024073232
(43)【公開日】2024-05-29
(54)【発明の名称】画像処理装置、画像処理方法及び制御プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20240522BHJP
【FI】
G06T7/00 300F
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022184332
(22)【出願日】2022-11-17
(71)【出願人】
【識別番号】000136136
【氏名又は名称】株式会社PFU
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100114018
【弁理士】
【氏名又は名称】南山 知広
(74)【代理人】
【識別番号】100180806
【弁理士】
【氏名又は名称】三浦 剛
(72)【発明者】
【氏名】堺 雅晃
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096BA03
5L096FA06
5L096FA12
5L096FA59
5L096FA66
5L096JA11
5L096JA16
(57)【要約】
【課題】画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能な画像処理装置、画像処理方法及び制御プログラムを提供する。
【解決手段】画像処理装置は、媒体を撮像した入力画像を取得する取得部と、入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出する検出部と、検出部により検出された複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する判定部と、判定部による判定結果に関する情報を出力する出力部と、を有する。
【選択図】
図7
【特許請求の範囲】
【請求項1】
媒体を撮像した入力画像を取得する取得部と、
前記入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出する検出部と、
前記検出部により検出された複数の角領域同士を比較することにより、前記複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する判定部と、
前記判定部による判定結果に関する情報を出力する出力部と、
を有することを特徴とする画像処理装置。
【請求項2】
前記判定部により画像欠けが発生していないと判定された角領域を用いて、画像欠けが発生していると判定された角領域を補正する補正部をさらに有する、請求項1に記載の画像処理装置。
【請求項3】
前記判定部は、前記複数の角領域同士の類似度合いに基づいて、前記複数の角領域をグループに分類し、前記分類されたグループの数に基づいて、前記複数の角領域に画像欠けが発生しているか否かを判定する、請求項1または2に記載の画像処理装置。
【請求項4】
前記判定部は、前記分類された各グループに属する角領域の数に基づいて、画像欠けが発生している角領域を特定する、請求項3に記載の画像処理装置。
【請求項5】
前記判定部は、前記複数の角領域内の媒体領域の面積を比較することにより、前記複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する、請求項1または2に記載の画像処理装置。
【請求項6】
前記入力画像からエッジ画素を抽出する抽出部をさらに有し、
前記判定部は、
前記複数の角領域毎に、前記エッジ画素から検出された相互に略直交する二つの直線の交点と所定のエッジ画素との間の距離を算出し、
前記複数の角領域毎に算出した距離を比較することにより、前記複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する、請求項1または2に記載の画像処理装置。
【請求項7】
媒体を撮像した複数の入力画像を取得する取得部と、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出する検出部と、
前記検出部により検出された角領域同士を比較することにより、前記角領域に画像欠けが発生しているか否かを判定する判定部と、
前記判定部による判定結果に関する情報を出力する出力部と、
を有することを特徴とする画像処理装置。
【請求項8】
画像処理装置が、
媒体を撮像した入力画像を取得し、
前記入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出し、
前記検出された複数の角領域同士を比較することにより、前記複数の角領域のそれぞれに画像欠けが発生しているか否かを判定し、
前記判定の結果に関する情報を出力する、
ことを特徴とする画像処理方法。
【請求項9】
画像処理装置が、
媒体を撮像した複数の入力画像を取得し、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域同士を比較することにより、前記角領域に画像欠けが発生しているか否かを判定し、
前記判定の結果に関する情報を出力する、
ことを特徴とする画像処理方法。
【請求項10】
画像処理装置の制御プログラムであって、
媒体を撮像した入力画像を取得し、
前記入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出し、
前記検出された複数の角領域同士を比較することにより、前記複数の角領域のそれぞれに画像欠けが発生しているか否かを判定し、
前記判定の結果に関する情報を出力する、
ことを前記画像処理装置に実行させることを特徴とする制御プログラム。
【請求項11】
画像処理装置の制御プログラムであって、
媒体を撮像した複数の入力画像を取得し、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域同士を比較することにより、前記角領域に画像欠けが発生しているか否かを判定し、
前記判定の結果に関する情報を出力する、
ことを前記画像処理装置に実行させることを特徴とする制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及び制御プログラムに関する。
【背景技術】
【0002】
従来、媒体を撮像して画像を生成するスキャナ等の画像読取装置が利用されている。このような画像読取装置において、媒体が撮像範囲外に配置される場合、又は、撮像される媒体の角が利用者により折られている場合がある。このような場合、画像読取装置が生成する画像内に媒体の角が含まれない画像欠けが発生する。
【0003】
原稿画像を記録紙に形成する画像形成装置が開示されている(特許文献1を参照)。この画像形成装置は、原稿画像の各端辺を検出すると共に、原稿画像において画像形成が行われる有効領域の角部における傾斜辺の有無を検出する。画像形成装置は、傾斜辺を検出したときは、傾斜辺が有効領域内に存在するか否かを判定し、傾斜辺が有効領域内に存在すると判定された場合には、原稿画像の保存、又は原稿画像の画像形成を禁止する。
【0004】
入力画像からエッジ画素を検出し、エッジ画素から直線を検出し、直線から所定距離内にないエッジ画素が原稿の端部を表すか否かを判定する画像読取装置が開示されている(特許文献2を参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第6561952号公報
【特許文献2】特開2014-147046号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
画像処理装置では、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが求められている。
【0007】
本発明の目的は、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能な画像処理装置、画像処理方法及び制御プログラムを提供することにある。
【課題を解決するための手段】
【0008】
本発明の一側面に係る画像処理装置は、媒体を撮像した入力画像を取得する取得部と、入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出する検出部と、検出部により検出された複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する判定部と、判定部による判定結果に関する情報を出力する出力部と、を有する。
【0009】
本発明の一側面に係る画像処理装置は、媒体を撮像した複数の入力画像を取得する取得部と、複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出する検出部と、検出部により検出された角領域同士を比較することにより、角領域に画像欠けが発生しているか否かを判定する判定部と、判定部による判定結果に関する情報を出力する出力部と、を有する。
【0010】
本発明の一側面に係る画像処理方法では、画像処理装置が、媒体を撮像した入力画像を取得し、入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出し、検出された複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定し、判定の結果に関する情報を出力する。
【0011】
本発明の一側面に係る画像処理方法では、画像処理装置が、媒体を撮像した複数の入力画像を取得し、複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、検出された角領域同士を比較することにより、角領域に画像欠けが発生しているか否かを判定し、判定の結果に関する情報を出力する。
【0012】
本発明の一側面に係る制御プログラムは、画像処理装置の制御プログラムであって、媒体を撮像した入力画像を取得し、入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域を検出し、検出された複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定し、判定の結果に関する情報を出力することを画像処理装置に実行させる。
【0013】
本発明の一側面に係る制御プログラムは、画像処理装置の制御プログラムであって、媒体を撮像した複数の入力画像を取得し、複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、検出された角領域同士を比較することにより、角領域に画像欠けが発生しているか否かを判定し、判定の結果に関する情報を出力することを画像処理装置に実行させる。
【発明の効果】
【0014】
本発明によれば、画像処理装置、画像処理方法及び制御プログラムは、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となる。
【図面の簡単な説明】
【0015】
【
図2】画像読取装置100内部の搬送経路を説明するための図である。
【
図3】媒体を検出するための各センサについて説明するための模式図である。
【
図4】画像読取装置100等の概略構成を示すブロック図である。
【
図5】(A)は第1処理回路140等の概略構成を示す図であり、(B)は第2処理回路220等の概略構成を示す図である。
【
図6】画像読取処理の動作の例を示すフローチャートである。
【
図7】判定処理の動作の例を示すフローチャートである。
【
図9】画像欠け判定処理の動作の例を示すフローチャートである。
【
図10】コンテンツ判定処理の動作の例を示すフローチャートである。
【
図11】(A)、(B)、(C)は媒体端部上の画素の階調値の一例を示すグラフであり、(D)は(A)に示したグラフのヒストグラムを示すグラフである。
【
図12】コンテンツ補正処理の動作の例を示すフローチャートである。
【
図13】他の画像欠け判定処理の動作の例を示すフローチャートである。
【
図14】さらに他の画像欠け判定処理の動作の例を示すフローチャートである。
【
図15】角部距離について説明するための模式図である。
【
図16】さらに他の画像欠け判定処理の動作の例を示すフローチャートである。
【
図17】他のコンテンツ判定処理の動作の例を示すフローチャートである。
【
図18】さらに他のコンテンツ判定処理の動作の例を示すフローチャートである。
【
図19】他のコンテンツ補正処理の動作の例を示すフローチャートである。
【
図20】さらに他のコンテンツ補正処理の動作の例を示すフローチャートである。
【
図21】(A)は他の第1処理回路340の概略構成を示す図であり、(B)は他の第2処理回路420の概略構成を示す図である。
【発明を実施するための形態】
【0016】
以下、本発明の一側面に係る画像処理装置、画像処理方法及び制御プログラムについて図を参照しつつ説明する。但し、本発明の技術的範囲はそれらの実施の形態に限定されず、特許請求の範囲に記載された発明とその均等物に及ぶ点に留意されたい。
【0017】
図1は、実施形態に従った画像処理システム1の一例の構成図である。
【0018】
画像処理システム1は、画像読取装置100及び情報処理装置200を有する。画像読取装置100及び情報処理装置200は、それぞれ画像処理装置の一例である。画像読取装置100及び情報処理装置200は、相互に通信接続されている。画像読取装置100は、原稿である媒体を搬送し、撮像するイメージスキャナ等である。媒体は、用紙、薄紙、厚紙、カード、冊子又はパスポート等である。なお、画像読取装置100は、ファクシミリ、複写機、プリンタ複合機(MFP、Multifunction Peripheral)等でもよい。また、画像読取装置100は、媒体を搬送せずに撮像するフラットベッドタイプのイメージスキャナ、ファクシミリ、複写機、MFP等でもよい。また、画像読取装置100は、人物、物体、風景等を撮像する携帯電話、スマートフォン、タブレット型コンピュータ、ノート型パーソナルコンピュータ等でもよい。情報処理装置200は、パーソナルコンピュータ等である。なお、情報処理装置200は、携帯電話、スマートフォン、タブレット型コンピュータ、ノート型パーソナルコンピュータ等でもよい。また、情報処理装置200は、サーバでもよい。その場合、一台の情報処理装置200に対して複数の画像読取装置100が通信接続されてもよい。
【0019】
図1において矢印A1は媒体搬送方向を示し、矢印A2は媒体搬送方向と直交する幅方向を示す。以下では、上流とは媒体搬送方向A1の上流のことをいい、下流とは媒体搬送方向A1の下流のことをいう。
【0020】
画像読取装置100は、下側筐体101、上側筐体102、載置台103、排出台104、第1操作装置105及び第1表示装置106等を備える。
【0021】
上側筐体102は、画像読取装置100の上面を覆う位置に配置され、媒体つまり時、画像読取装置100内部の清掃時等に開閉可能なようにヒンジにより下側筐体101に係合している。
【0022】
載置台103は、下側筐体101に係合している。載置台103は、媒体を載置する載置面103aを有し、給送及び搬送される媒体を載置する。載置面103a上には、サイドガイド103bが、媒体搬送方向と直交する幅方向A2に移動可能に設けられる。サイドガイド103bは、載置台103に載置された媒体の幅に合わせて位置決めされ、媒体の幅方向を規制する。
図1に示す例では、幅方向A2において、媒体が中央部に配置されるように、二つのサイドガイド103bが間隔を空けて移動可能に配置されている。幅方向A2において、媒体が一方の端部に配置されるように、一つのサイドガイド103bのみが移動可能に配置されてもよい。
【0023】
排出台104は、上側筐体102に係合し、排出された媒体を載置する。排出台104は、下側筐体101に係合するように設けられてもよい。
【0024】
第1操作装置105は、ボタン等の入力デバイス及び入力デバイスから信号を取得するインタフェース回路を有し、利用者による入力操作を受け付け、利用者の入力操作に応じた操作信号を出力する。
【0025】
第1表示装置106は、出力部の一例である。第1表示装置106は、液晶、有機EL(Electro-Luminescence)等を含むディスプレイ及びディスプレイに画像データを出力するインタフェース回路を有し、画像データをディスプレイに表示する。なお、タッチパネル式の入力デバイスを用いて、第1表示装置106と第1操作装置105を、一体に設けてもよい。
【0026】
図2は、画像読取装置100内部の搬送経路を説明するための図である。
【0027】
画像読取装置100内部の搬送経路は、第1媒体センサ111、給送ローラ112、分離ローラ113、第2媒体センサ114、第1搬送ローラ115、第2搬送ローラ116、第3媒体センサ117、撮像装置118、第3搬送ローラ119及び第4搬送ローラ120等を有している。
【0028】
給送ローラ112、分離ローラ113、第1搬送ローラ115、第2搬送ローラ116、第3搬送ローラ119及び/又は第4搬送ローラ120のそれぞれの数は一つに限定されず、複数でもよい。その場合、複数の給送ローラ112、分離ローラ113、第1搬送ローラ115、第2搬送ローラ116、第3搬送ローラ119及び/又は第4搬送ローラ120は、それぞれ幅方向A2に間隔を空けて並べて配置される。
【0029】
画像読取装置100は、いわゆるストレートパスを有する。下側筐体101の上面は、媒体の搬送路の下側ガイド101aを形成し、上側筐体102の下面は、媒体の搬送路の上側ガイド102aを形成する。
【0030】
第1媒体センサ111は、給送ローラ112及び分離ローラ113より上流側に配置される。第1媒体センサ111は、接触検出センサを有し、載置台103に媒体が載置されているか否かを検出する。第1媒体センサ111は、載置台103に媒体が載置されている状態と載置されていない状態とで信号値が変化する載置信号を生成して出力する。なお、第1媒体センサ111は接触検知センサに限定されず、第1媒体センサ111として、光検知センサ等の、媒体の有無を検出可能な他の任意のセンサが使用されてもよい。
【0031】
給送ローラ112は、下側筐体101に設けられ、載置台103に載置された媒体を下側から順に分離して給送する。分離ローラ113は、いわゆるブレーキローラ又はリタードローラであり、上側筐体102に設けられ、給送ローラ112と対向して配置され、媒体給送方向の反対方向A4に回転可能に又は停止可能に設けられる。
【0032】
第1搬送ローラ115及び第2搬送ローラ116は、給送ローラ112より下流側に、相互に対向して配置され、給送ローラ112及び分離ローラ113によって給送された媒体を撮像装置118に搬送する。第1搬送ローラ115及び第2搬送ローラ116のうちの何れか一方のローラは、他方のローラに従動して回転する従動ローラでもよい。
【0033】
撮像装置118は、第1搬送ローラ115及び第2搬送ローラ116より下流側に配置され、第1搬送ローラ115及び第2搬送ローラ116によって搬送された媒体を撮像する。撮像装置118は、媒体搬送路を挟んで相互に対向して配置された第1撮像装置118a及び第2撮像装置118bを含む。第1撮像装置118aは、主走査方向に直線状に配列されたCMOS(Complementary Metal Oxide Semiconductor)による撮像素子を有する等倍光学系タイプのCIS(Contact Image Sensor)によるラインセンサを有する。また、第1撮像装置118aは、撮像素子上に像を結ぶレンズと、撮像素子から出力された電気信号を増幅し、アナログ/デジタル(A/D)変換するA/D変換器と、第2撮像装置118bのラインセンサと対向する裏当て(基準部材)と、を有する。第1撮像装置118aは、後述する処理回路からの制御に従って、搬送される媒体の表面を撮像した入力画像を生成し、出力する。
【0034】
同様に、第2撮像装置118bは、主走査方向に直線状に配列されたCMOSによる撮像素子を有する等倍光学系タイプのCISによるラインセンサを有する。また、第2撮像装置118bは、撮像素子上に像を結ぶレンズと、撮像素子から出力された電気信号を増幅し、アナログ/デジタル(A/D)変換するA/D変換器と、第1撮像装置118aのラインセンサと対向する裏当て(基準部材)と、を有する。第2撮像装置118bは、後述する処理回路からの制御に従って、搬送される媒体の裏面を撮像した入力画像を生成し、出力する。
【0035】
なお、画像読取装置100は、第1撮像装置118a及び第2撮像装置118bを一方だけ配置し、媒体の片面だけを読み取ってもよい。また、CMOSによる撮像素子を備える等倍光学系タイプのCISによるラインセンサの代わりに、CCD(Charge Coupled Device)による撮像素子を備える等倍光学系タイプのCISによるラインセンサが利用されてもよい。また、CMOS又はCCDによる撮像素子を備える縮小光学系タイプのラインセンサが利用されてもよい。
【0036】
第3搬送ローラ119及び第4搬送ローラ120は、撮像装置118より下流側に、相互に対向して配置され、第1搬送ローラ115及び第2搬送ローラ116によって搬送され、撮像装置118によって撮像された媒体を排出台104に排出する。第3搬送ローラ119及び第4搬送ローラ120のうちの何れか一方のローラは、他方のローラに従動して回転する従動ローラでもよい。
【0037】
載置台103に載置された媒体は、給送ローラ112が
図2の矢印A3の方向、即ち媒体給送方向に回転することによって、下側ガイド101aと上側ガイド102aの間を媒体搬送方向A1に向かって搬送される。分離ローラ113は、媒体搬送時、矢印A4の方向、即ち媒体給送方向の反対方向に回転又は停止する。これにより、分離された媒体以外の媒体の搬送が制限される(重送の防止)。
【0038】
媒体は、下側ガイド101aと上側ガイド102aによりガイドされながら、第1搬送ローラ115と第2搬送ローラ116の間に送り込まれる。媒体は、第1搬送ローラ115及び第2搬送ローラ116がそれぞれ矢印A5及び矢印A6の方向に回転することによって、第1撮像装置118aと第2撮像装置118bの間に送り込まれる。撮像装置118により読み取られた媒体は、第3搬送ローラ119及び第4搬送ローラ120がそれぞれ矢印A7及び矢印A8の方向に回転することによって排出台104上に排出される。
【0039】
図3は、媒体を検出するための各センサについて説明するための模式図である。
【0040】
図3に示す例では、給送ローラ112、第2搬送ローラ116及び第4搬送ローラ120の数はそれぞれ二つである。この場合、給送ローラ112、第2搬送ローラ116及び第4搬送ローラ120にそれぞれ対向して配置される分離ローラ113、第1搬送ローラ115及び第3搬送ローラ119の数もそれぞれ二つとなる。また、第2媒体センサ114の数は二つであり、第3媒体センサ117の数は一つである。なお、第2媒体センサ114及び/又は第3媒体センサ117の数は、任意の数でよい。
【0041】
第2媒体センサ114は、その配置位置に搬送された媒体を検出する。
図3に示す例では、二つの第2媒体センサ114が、幅方向A2に間隔を空けて並べて配置されている。第2媒体センサ114は、媒体搬送方向A1において給送ローラ112及び分離ローラ113のニップ部N1より下流側に、且つ、媒体搬送方向と直交する幅方向A2において媒体搬送路の両方のサイドのそれぞれに配置される。特に、第2媒体センサ114は、媒体搬送方向A1において、撮像装置118より上流側、特に第1搬送ローラ115及び第2搬送ローラ116のニップ部N2より上流側に配置される。また、第2媒体センサ114は、幅方向A2において、媒体搬送路の側壁101bより内側(中央側)に配置される。第2媒体センサ114は、幅方向A2において、載置台103に載置された状態の、画像読取装置100がサポートする最大サイズの媒体より外側(側壁101b側)、即ち最も外側に配置された状態のサイドガイド103bの内側側面の位置より外側に配置される。また、第2媒体センサ114は、幅方向A2において、撮像装置118の撮像範囲の端部位置より外側に配置される。
【0042】
第2媒体センサ114は、媒体搬送路に対して一方の側に設けられた発光器及び受光器と、媒体搬送路を挟んで発光器及び受光器と対向する位置に設けられた導光管とを含む。発光器は、LED(Light Emitting Diode)等であり、媒体搬送路に向けて光を照射する。一方、受光器は、フォトダイオード等であり、発光器により照射され、導光管により導かれた光を受光する。発光器及び受光器の少なくとも一方と対向する位置に媒体が存在するときは、発光器から照射された光は媒体により遮られるため、受光器は発光器から照射された光を検出しない。第2媒体センサ114は、受光器が受光する光の強度に基づいて、第2媒体センサ114の位置に媒体が存在する状態と存在しない状態とで信号値が変化する第2媒体信号を生成して出力する。
【0043】
第3媒体センサ117は、媒体搬送方向A1において給送ローラ112及び分離ローラ113のニップ部N1より下流側に、且つ、媒体搬送方向と直交する幅方向A2において媒体搬送路の中央部に配置される。特に、第3媒体センサ117は、媒体搬送方向A1において、第2媒体センサ114より下流側、特に第1搬送ローラ115及び第2搬送ローラ116のニップ部N2より下流側且つ撮像装置118より上流側に配置される。また、第3媒体センサ117は、幅方向A2において、複数の給送ローラ112(ニップ部N1)の間、且つ/又は、複数の第1搬送ローラ115(ニップ部N2)の間に配置される。
【0044】
第3媒体センサ117は、媒体搬送路に対して一方の側に設けられた発光器及び受光器と、媒体搬送路を挟んで発光器及び受光器と対向する位置に設けられた導光管とを含む。発光器は、LED等であり、媒体搬送路に向けて光を照射する。一方、受光器は、フォトダイオード等であり、発光器により照射され、導光管により導かれた光を受光する。発光器及び受光器の少なくとも一方と対向する位置に媒体が存在するときは、発光器から照射された光は媒体により遮られるため、受光器は発光器から照射された光を検出しない。第3媒体センサ117は、受光器が受光する光の強度に基づいて、第3媒体センサ117の位置に媒体が存在する状態と存在しない状態とで信号値が変化する第3媒体信号を生成して出力する。
【0045】
なお、第2媒体センサ114及び/又は第3媒体センサ117において、導光管の代わりに、ミラー等の反射部材が使用されてもよい。また、第2媒体センサ114及び/又は第3媒体センサ117において、発光器及び受光器は、媒体搬送路を挟んで対向して設けられてもよい。また、第2媒体センサ114及び/又は第3媒体センサ117は、媒体が接触している場合、又は、媒体が接触していない場合に所定の電流を流す接触検知センサ等により、媒体の存在を検出してもよい。また、第2媒体センサ114及び/又は第3媒体センサ117は、超音波センサにより、媒体の存在を検出してもよい。
【0046】
図4は、画像読取装置100及び情報処理装置200の概略構成を示すブロック図である。
【0047】
画像読取装置100は、前述した構成に加えて、モータ121、第1通信装置122、第1記憶装置130及び第1処理回路140等をさらに有する。
【0048】
モータ121は、一又は複数のモータを含む。モータ121は、第1処理回路140からの制御信号によって、給送ローラ112、分離ローラ113、第1搬送ローラ115、第2搬送ローラ116、第3搬送ローラ119及び/又は第4搬送ローラ120を回転させて媒体を搬送させる。
【0049】
第1通信装置122は、出力部及び通信部の一例である。第1通信装置122は、無線信号を送受信するアンテナと、無線LAN(Local Area Network)等の通信プロトコルに従って、無線通信回線を通じて信号の送受信を行うための無線通信インタフェース回路とを有する。第1通信装置122は、情報処理装置200と通信可能であり、情報処理装置200と通信接続して各種の画像及び情報を送受信する。なお、第1通信装置122は、TCP/IP(Transmission Control Protocol/Internet Protocol)等の通信プロトコルに従った有線通信インタフェース回路を有し、ネットワークを介して情報処理装置200と接続されてもよい。また、第1通信装置122は、USB(Universal Serial Bus)等のシリアルバスに準じるインタフェース回路を有し、USBケーブル等の有線ケーブルを介して情報処理装置200と接続されてもよい。
【0050】
第1記憶装置130は、RAM(Random Access Memory)、ROM(Read Only Memory)等のメモリ装置、ハードディスク等の固定ディスク装置、又はフレキシブルディスク、光ディスク等の可搬用の記憶装置等を有する。また、第1記憶装置130には、画像読取装置100の各種処理に用いられるコンピュータプログラム、データベース、テーブル等が格納される。コンピュータプログラムは、コンピュータ読み取り可能な可搬型記録媒体から、公知のセットアッププログラム等を用いて第1記憶装置130にインストールされてもよい。可搬型記録媒体は、例えばCD-ROM(compact disc read only memory)、DVD-ROM(digital versatile disc read only memory)等である。
【0051】
第1処理回路140は、予め第1記憶装置130に記憶されているプログラムに基づいて動作する。処理回路は、例えばCPU(Central Processing Unit)である。第1処理回路140として、DSP(digital signal processor)、LSI(large scale integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等が用いられてもよい。
【0052】
第1処理回路140は、第1操作装置105、第1表示装置106、第1媒体センサ111、第2媒体センサ114、第3媒体センサ117、撮像装置118、モータ121、第1通信装置122及び第1記憶装置130等と接続され、これらの各部を制御する。第1処理回路140は、各センサから受信した各信号に基づいて、モータ121の駆動制御、撮像装置118の撮像制御等を行い、撮像装置118から入力画像を取得し、第1通信装置122を介して情報処理装置200に送信する。
【0053】
情報処理装置200は、第2表示装置202、第2操作装置201、第2通信装置203、第2記憶装置210及び第2処理回路220等を有する。
【0054】
第2操作装置201は、キーボード、マウス等の入力デバイス及び入力デバイスから信号を取得するインタフェース回路を有し、利用者による操作を受け付け、利用者の入力に応じた信号を第2処理回路220に出力する。
【0055】
第2表示装置202は、出力部の一例である。第2表示装置202は、液晶、有機EL等から構成されるディスプレイ及びディスプレイに画像データを出力するインタフェース回路を有し、第2処理回路220からの指示に従って、画像データをディスプレイに表示する。なお、タッチパネル式の入力デバイスを用いて、第2表示装置202と第2操作装置201を、一体に設けてもよい。
【0056】
第2通信装置203は、出力部及び通信部の一例である。第2通信装置203は、第1通信装置122と同様のインタフェース回路を有する。第2通信装置203は、画像読取装置100と通信可能であり、画像読取装置100と通信接続して各種の画像及び情報を送受信する。
【0057】
第2記憶装置210は、記憶部の一例であり、RAM、ROM等のメモリ装置、ハードディスク等の固定ディスク装置、又は、光ディスク等の可搬用の記憶装置等を有する。また、第2記憶装置210には、情報処理装置200の各種処理に用いられるコンピュータプログラム、データベース、テーブル等が格納される。コンピュータプログラムは、CD-ROM、DVD-ROM等のコンピュータ読み取り可能な可搬型記録媒体から、公知のセットアッププログラム等を用いて第2記憶装置210にインストールされてもよい。
【0058】
第2処理回路220は、予め第2記憶装置210に記憶されているプログラムに基づいて動作する。処理回路は、例えばCPUである。第2処理回路220として、DSP、LSI、ASIC、FPGA等が用いられてもよい。
【0059】
第2処理回路220は、第2操作装置201、第2表示装置202、第2通信装置203及び第2記憶装置210等と接続され、これらの各部を制御する。第2処理回路220は、各装置の制御を行い、画像読取装置100から入力画像を取得し、取得した入力画像に対して画像処理を実行する。
【0060】
図5(A)は、画像読取装置100の第1記憶装置130及び第1処理回路140の概略構成を示す図である。
【0061】
図5(A)に示すように、第1記憶装置130には、制御プログラム131及び送信プログラム132等が記憶される。これらの各プログラムは、プロセッサ上で動作するソフトウェアにより実装される機能モジュールである。第1処理回路140は、第1記憶装置130に記憶された各プログラムを読み取り、読み取った各プログラムに従って動作する。これにより、第1処理回路140は、制御部141及び送信部142として機能する。
【0062】
図5(B)は、情報処理装置200の第2記憶装置210及び第2処理回路220の概略構成を示す図である。
【0063】
図5(B)に示すように、第2記憶装置210には、取得プログラム211、抽出プログラム212、検出プログラム213、画像欠け判定プログラム214、コンテンツ判定プログラム215、補正プログラム216、通知プログラム217及び出力制御プログラム218等が記憶される。これらの各プログラムは、プロセッサ上で動作するソフトウェアにより実装される機能モジュールである。第2処理回路220は、第2記憶装置210に記憶された各プログラムを読み取り、読み取った各プログラムに従って動作する。これにより、第2処理回路220は、取得部221、抽出部222、検出部223、画像欠け判定部224、コンテンツ判定部225、補正部226、通知部227及び出力制御部228として機能する。画像欠け判定部224は、判定部の一例である。
【0064】
図6は、画像読取装置100の画像読取処理の動作の例を示すフローチャートである。
【0065】
以下、
図6に示したフローチャートを参照しつつ、画像読取装置100の画像読取処理の動作の例を説明する。なお、以下に説明する動作のフローは、予め第1記憶装置130に記憶されているプログラムに基づき主に第1処理回路140により画像読取装置100の各要素と協働して実行される。
【0066】
最初に、制御部141は、利用者により第1操作装置105又は情報処理装置を用いて媒体の読み取りの指示が入力されて、媒体の読み取りを指示する操作信号を第1操作装置105又は第1通信装置122から受信するまで待機する(ステップS101)。
【0067】
次に、制御部141は、第1媒体センサ111から第1媒体信号を取得し、取得した第1媒体信号に基づいて、載置台103に媒体が載置されているか否かを判定する(ステップS102)。載置台103に媒体が載置されていない場合、制御部141は、一連のステップを終了する。
【0068】
一方、載置台103に媒体が載置されている場合、制御部141は、モータ121を駆動する。これにより、制御部141は、給送ローラ112、分離ローラ113、第1搬送ローラ115、第2搬送ローラ116、第3搬送ローラ119及び/又は第4搬送ローラ120を回転させて、媒体を給送及び搬送させる(ステップS103)。
【0069】
次に、制御部141は、検出フラグをOFFに設定する(ステップS104)。検出フラグは、第2媒体センサ114が媒体を検出したか否か、即ち搬送される媒体が撮像装置118の撮像範囲外を通過したか否かを示すフラグである。
【0070】
次に、制御部141は、媒体が撮像装置118の撮像範囲外を通過したか否かを判定する(ステップS105)。制御部141は、各第2媒体センサ114から定期的に第2媒体信号を取得する。制御部141は、第2媒体信号の信号値が、媒体が存在することを示す場合、媒体が、その第2媒体信号を送信した第2媒体センサ114の位置を通過したと判定し、媒体が撮像装置118の撮像範囲外を通過したと判定する。媒体が撮像装置118の撮像範囲外を通過していない場合、制御部141は、ステップS107へ処理を移行する。
【0071】
一方、媒体が撮像装置118の撮像範囲外を通過した場合、制御部141は、検出フラグをONに設定するとともに、媒体を検出した第2媒体センサ114を示す情報を第1記憶装置130に記憶する。また、制御部141は、媒体の撮像開始時刻、及び、第2媒体センサ114が媒体を検出した検出時刻を第1記憶装置130に記憶する(ステップS106)。
【0072】
次に、制御部141は、媒体の後端が撮像装置118の撮像位置を通過したか否かを判定する(ステップS107)。制御部141は、第3媒体センサ117から定期的に第3媒体信号を取得する。制御部141は、第3媒体信号の信号値が、媒体が存在することを示す値から媒体が存在しないことを示す値に変化したときに、媒体の後端が第3媒体センサ117の位置を通過したと判定する。制御部141は、媒体の後端が第3媒体センサ117の位置を通過してから所定時間が経過した時に、媒体の後端が撮像位置を通過したと判定する。所定時間は、媒体が第3媒体センサ117の位置から、撮像装置118の撮像位置まで移動するのに要する時間に設定される。なお、制御部141は、媒体の給送を開始してから予め定められた時間が経過した時に、媒体の後端が撮像位置を通過したと判定してもよい。
【0073】
次に、送信部142は、撮像装置118から入力画像を取得し、取得した入力画像を第1記憶装置130に記憶するとともに、第1通信装置122を介して情報処理装置200に送信することにより出力する(ステップS108)。なお、送信部142は、入力画像全体をまとめて撮像装置118から取得して情報処理装置200に送信するのでなく、所定単位(例えば3ライン)毎に撮像装置118から画像データを取得して情報処理装置200に送信してもよい。その場合、情報処理装置200が各画像データを結合して入力画像を生成する。
【0074】
次に、制御部141は、第1媒体センサ111から取得する第1媒体信号に基づいて載置台103に媒体が残っているか否かを判定する(ステップS109)。載置台103に媒体が残っている場合、制御部141は、ステップS104へ処理を戻し、ステップS104~S109の処理を繰り返す。
【0075】
一方、載置台103に媒体が残っていなかった場合、制御部141は、モータ121を停止させる。これにより、制御部141は、給送ローラ112、分離ローラ113、第1搬送ローラ115、第2搬送ローラ116、第3搬送ローラ119及び/又は第4搬送ローラ120を停止させ(ステップS110)、一連のステップを終了する。
【0076】
なお、ステップS104~S106の処理が省略され、制御部141は、媒体が撮像装置118の撮像範囲外を通過したか否かを判定しなくてもよい。
【0077】
図7は、情報処理装置200の判定処理の動作の例を示すフローチャートである。
【0078】
以下、
図7に示したフローチャートを参照しつつ、情報処理装置200の判定処理の動作の例を説明する。なお、以下に説明する動作のフローは、予め第2記憶装置210に記憶されているプログラムに基づき主に第2処理回路220により情報処理装置200の各要素と協働して実行される。判定処理は、画像読取装置100から入力画像を受信するたびに実行される。
【0079】
最初に、取得部221は、入力画像を、第2通信装置203を介して画像読取装置100から受信することにより取得し、第2記憶装置210に記憶する(ステップS201)。上記したように、判定処理は、画像読取装置100から入力画像を受信するたびに実行され、取得部221は、複数の入力画像を取得し、第2記憶装置210に記憶しておく。処理対象の入力画像の前又は後に取得した入力画像、即ち処理対象の入力画像の前又は後に媒体が撮像された入力画像は、第2入力画像の一例である。
【0080】
次に、抽出部222は、入力画像からエッジ画素を抽出する(ステップS202)。抽出部222は、入力画像内で、水平方向(主走査方向)に延伸する水平ライン毎に、左端側から順に、各水平ライン内の各画素の水平方向の両隣の画素の階調値の差の絶対値を隣接差分値として算出する。抽出部222は、各水平ライン内で隣接差分値が階調閾値を越える画素をエッジ画素として抽出する。階調値は、輝度値又は色値(R値、G値又はB値)等である。階調閾値は、例えば、人が画像上の輝度の違いを目視により判別可能な輝度値の差(例えば20)に設定される。抽出部222は、各水平ライン内で最初に検出されたエッジ画素、即ち最も左側に位置する画素を左端エッジ画素とし、各水平ライン内で最後に検出されたエッジ画素、即ち最も右側に位置する画素を右端エッジ画素とする。抽出部222は、右端側から順に、エッジ画素を検出し、各水平ライン内で最初に検出されたエッジ画素を右端エッジ画素としてもよい。
【0081】
同様に、抽出部222は、入力画像内で、垂直方向(副走査方向)に延伸する垂直ライン毎に、上端側から順に、各垂直ライン内の各画素の垂直方向の両隣の画素の階調値の差の絶対値を隣接差分値として算出する。抽出部222は、各垂直ライン内で隣接差分値が階調閾値を越える画素をエッジ画素として抽出する。抽出部222は、各垂直ライン内で最初に検出されたエッジ画素、即ち最も上側に位置する画素を上端エッジ画素とし、各垂直ライン内で最後に検出されたエッジ画素、即ち最も下側に位置する画素を下端エッジ画素とする。抽出部222は、下端側から順に、エッジ画素を検出し、各垂直ライン内で最初に検出されたエッジ画素を下端エッジ画素としてもよい。以下では、左端エッジ画素、右端エッジ画素、上端エッジ画素及び下端エッジ画素をまとめて端部エッジ画素と称する場合がある。
【0082】
なお、抽出部222は、入力画像内の各画素から水平又は垂直方向に所定距離だけ離れた二つの画素の階調値の差の絶対値を隣接差分値として算出してもよい。また、抽出部222は、入力画像内の各画素の階調値を閾値と比較することによりエッジ画素を抽出してもよい。例えば、抽出部222は、特定の画素の階調値が閾値未満であり、その特定の画素に対して水平又は垂直方向に隣接する画素又は所定距離だけ離れた画素の階調値が閾値以上である場合、その特定の画素をエッジ画素として抽出する。
【0083】
また、抽出部222は、入力画像内の全ての画素についてエッジ画素を抽出するのでなく、入力画像内で水平又は垂直方向における一定間隔(例えば4画素)毎にエッジ画素を抽出してもよい。抽出部222は、入力画像内の水平又は垂直ラインの中から、一定間隔毎に、エッジ画素を検出する対象ラインを抽出し、抽出した対象ラインについて、エッジ画素を抽出する。また、抽出部222は、入力画像内の画素を水平又は垂直方向に連続して配置された複数の画素毎にグループ化し、各グループ内の各画素の階調値の統計値(平均値、中央値、最小値、最大値又は分散値等)に基づいて、エッジ画素を抽出してもよい。その場合、抽出部222は、入力画像内で、水平又は垂直ライン毎に、左端側又は上端側から順に、各グループに係る統計値とそのグループに隣接するグループに係る統計値との差の絶対値を隣接差分値として算出する。抽出部222は、隣接差分値が階調閾値を越えるグループの代表画素(例えばグループ内で中央に配置された画素、又は、隣接するグループに最も近い位置に配置された画素)をエッジ画素として検出する。これらにより、抽出部222は、媒体の端部の検出に要する時間を低減させ、媒体読取処理の処理時間及び処理負荷を低減させることが可能となる。抽出部222は、上記した手法以外の公知の任意のエッジ検出手法を用いてエッジ画素を抽出してもよい。
【0084】
図8は、媒体が撮像された入力画像Nの一例を示す模式図である。
【0085】
図8に示す入力画像Nには、角が丸みを有する媒体Mが含まれる。媒体Mにおいて、左上角、左下角及び右下角は丸みを有しているが、右上角は斜め(直線状)に切断されている。入力画像Nにおいて、媒体Mの左辺から左端エッジ画素E1が検出され、媒体Mの右辺から右端エッジ画素E2が検出され、媒体Mの上辺から上端エッジ画素E3が検出され、媒体Mの下辺から下端エッジ画素E4が検出されている。
【0086】
次に、検出部223は、抽出部222により抽出された端部エッジ画素から媒体の四辺に対応する四つの直線を検出する(ステップS203)。検出部223は、左端エッジ画素から媒体の左辺に対応する左端直線を、右端エッジ画素から媒体の右辺に対応する右端直線を、上端エッジ画素から媒体の上辺に対応する上端直線を、下端エッジ画素から媒体の下辺に対応する下端直線をそれぞれ検出する。検出部223は、例えば最小二乗法を用いて各端部エッジ画素から直線(線分)を検出する。検出部223は、ハフ変換を用いて直線を検出してもよい。
【0087】
検出部223は、各左端エッジ画素、右端エッジ画素、上端エッジ画素又は下端エッジ画素から複数の直線が検出された場合、各直線から所定距離内に存在する端部エッジ画素の数が最も多い直線を左端直線、右端直線、上端直線又は下端直線として検出する。所定距離は十分に小さい距離(例えば3画素)に設定される。または、検出部223は、各端部エッジ画素から検出された四つの直線からなる全ての組合せを抽出する。検出部223は、抽出した組合せの中で、相互に略直交する各直線がなす角度と90°との差の合計が最も小さい組合せに含まれる直線を左端直線、右端直線、上端直線及び下端直線として検出する。左端直線及び右端直線の何れかと、上端直線及び下端直線の何れかとの組合せは、エッジ画素から検出された相互に略直交する二つの直線の一例である。
【0088】
図8に示す入力画像Nでは、媒体Mの各角が丸みを有し又は斜め(直線状)に切断されているため、端部エッジ画素の一部は直線上に存在しない。そのため、各端部エッジ画素から複数の直線が検出される。入力画像Nでは、左端エッジ画素E1、右端エッジ画素E2、上端エッジ画素E3及び下端エッジ画素E4から、それぞれ左端直線L1、右端直線L2、上端直線L3及び下端直線L4が検出されている。
【0089】
次に、検出部223は、入力画像内でそれぞれ媒体の角が含まれると推定される複数の角領域、特に四つの角領域を検出する(ステップS204)。検出部223は、左端直線と上端直線の交点を左上交点として検出し、右端直線と上端直線の交点を右上交点として検出し、左端直線と下端直線の交点を左下交点として検出し、右端直線と下端直線の交点を右下交点として検出する。左上交点、右上交点、左下交点及び右下交点は、エッジ画素から検出された相互に略直交する二つの直線の交点の一例である。
【0090】
検出部223は、入力画像内で左上交点が含まれる領域を媒体の左上角が含まれると推定される左上角領域として検出する。検出部223は、入力画像内で右上交点が含まれる領域を媒体の右上角が含まれると推定される右上角領域として検出する。検出部223は、入力画像内で左下交点が含まれる領域を媒体の左下角が含まれると推定される左下角領域として検出する。検出部223は、入力画像内で右下交点が含まれる領域を媒体の右下角が含まれると推定される右下角領域として検出する。検出部223は、各角領域として相互に同一サイズの正方形領域を設定する。検出部223は、水平方向及び垂直方向のそれぞれにおいて、各角領域の端部のうちの媒体の中心の反対側の端部から各交点までの距離が相互に同一となり且つ各角領域の端部のうちの媒体の中心側の端部から各交点までの距離が相互に同一となるように、各角領域を設定する。なお、各角領域は、各交点が各角領域の媒体の中心の反対側の端部の近傍に配置されるように設定されることが好ましい。
【0091】
検出部223は、検出した角領域を示す、入力画像内の位置情報(座標情報)を第2記憶装置210に記憶する。即ち、検出部223は、複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、検出した角領域を示す位置情報を第2記憶装置210に記憶しておく。
【0092】
図8に示す例では、左端直線L1と上端直線L3、右端直線L2と上端直線L3、左端直線L1と下端直線L4及び右端直線L2と下端直線L4から、それぞれ左上交点V1、右上交点V2、左下交点V3及び右下交点V4が検出されている。また、左上交点V1、右上交点V2、左下交点V3及び右下交点V4をそれぞれ含む正方形領域が左上角領域R1、右上角領域R2、左下角領域R3及び右下角領域R4として検出されている。
【0093】
次に、画像欠け判定部224は、画像欠け判定処理を実行する(ステップS205)。画像欠け判定処理において、画像欠け判定部224は、検出部223により検出された角領域に画像欠けが発生しているか否かを判定するとともに、画像欠けが発生している角領域を特定する。画像欠けとは、画像内に、媒体の一部、特に媒体の角が含まれていない状態のことをいう。画像欠け判定処理の詳細については後述する。
【0094】
以下のステップS206~S214の処理は、検出部223により検出された角領域毎に実行される。まず、コンテンツ判定部225は、画像欠け判定処理において、画像欠け判定部224により、対象となる角領域に画像欠けが発生していると判定されたか否かを判定する(ステップS206)。対象となる角領域に画像欠けが発生していないと判定されている場合、コンテンツ判定部225は、特に処理を実行せずに、他の角領域についてステップS206~S214の処理を実行する。
【0095】
一方、対象となる角領域に画像欠けが発生していると判定されている場合、コンテンツ判定部225は、コンテンツ判定処理を実行する(ステップS207)。コンテンツ判定処理において、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定する。また、コンテンツ判定部225は、コンテンツが存在すると判定した場合、そのコンテンツの種別(文字、罫線、模様又は画像等)を特定する。コンテンツ判定処理の詳細については後述する。
【0096】
次に、コンテンツ判定部225は、コンテンツ判定処理において、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在すると判定したか否かを判定する(ステップS208)。
【0097】
コンテンツ判定部225により判定対象の角領域内の媒体端部の周辺にコンテンツが存在しないと判定された場合、補正部226は、画像欠けが発生していると判定された角領域内の角を形成(復元、補正)し、角領域を補正する(ステップS209)。例えば、補正部226は、コンテンツ判定部225により画像欠けが発生していないと判定された角領域を用いて、画像欠けが発生していると判定された角領域を補正する。補正部226は、画像欠けが発生していない角領域を90°、180°もしくは270°回転させることにより、又は、上下、左右もしくは斜めに反転させることにより、画像欠けが発生している角領域と向き(配置方向)を合わせた補正用角領域を生成する。補正部226は、画像欠けが発生している角領域に補正用角領域を配置(複写)することにより、画像欠けが発生している角領域を補正する。
【0098】
補正部226は、画像欠けが発生している角領域において、欠けている部分のみを補正してもよい。その場合、補正部226は、画像欠けが発生している角領域において、各端部エッジ画素より外側(媒体の中心の反対側)の領域を補正対象領域に設定する。左上角領域において、各端部エッジ画素より外側の領域は、各端部エッジ画素より左側且つ上側の領域である。右上角領域において、各端部エッジ画素より外側の領域は、各端部エッジ画素より右側且つ上側の領域である。左下角領域において、各端部エッジ画素より外側の領域は、各端部エッジ画素より左側且つ下側の領域である。右下角領域において、各端部エッジ画素より外側の領域は、各端部エッジ画素より右側且つ下側の領域である。補正対象領域は、端部エッジ画素自体を含むように設定される。補正対象領域は、端部エッジ画素自体を含まないように設定されてもよい。補正部226は、画像欠けが発生している角領域の補正対象領域に補正用角領域の対応する領域を配置(複写)することにより、画像欠けが発生している角領域を補正する。これにより、補正部226は、画像欠けが発生している角領域に含まれるコンテンツ(欠けていない部分)を維持しつつ、角領域内の媒体端部を復元することができる。
【0099】
また、補正部226は、画像欠けが発生していない角領域において、コンテンツ判定処理と同様にしてコンテンツが存在するか否かを判定し、コンテンツが存在しないと判定した角領域を用いて、画像欠けが発生している角領域を補正してもよい。これにより、補正部226は、画像欠けが発生している角領域に、他の角領域に含まれるコンテンツを誤って複写することを抑制できる。
【0100】
図8に示す例では、左上角領域R1、左下角領域R3及び右下角領域R4において画像欠けが発生していないと判定され、右上角領域R2において、画像欠けが発生していると判定される。補正部226は、左上角領域R1を時計回りに90°回転させた上で、左上交点V1が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。または、補正部226は、左下角領域R3を時計回りに180°回転させた上で、左下交点V3が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。または、補正部226は、右下角領域R4を時計回りに270°回転させた上で、右下交点V4が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。
【0101】
または、補正部226は、左上角領域R1を所定の垂直ラインを挟んで左右反転させた上で、左上交点V1が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。または、補正部226は、左下角領域R3を左上方から右下方に延伸し且つ水平及び垂直ラインに対して45°傾く斜めラインを挟んで反転させた上で、左下交点V3が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。または、補正部226は、右下角領域R4を所定の水平ラインを挟んで上下反転させた上で、右下交点V4が右上交点V2に合うように右上角領域R2に配置することにより右上角領域R2を補正する。
【0102】
一方、ステップS208において、コンテンツ判定部225により、対象となる角領域内の媒体端部の周辺にコンテンツが存在すると判定された場合、補正部226は、そのコンテンツが修正可能であるか否かを判定する(ステップS210)。補正部226は、コンテンツ判定部225により特定されたコンテンツの種別が文字、罫線又は模様である場合、そのコンテンツが修正可能であると判定する。一方、補正部226は、コンテンツ判定部225により特定されたコンテンツの種別が文字、罫線又は模様以外(画像等)である場合、そのコンテンツが修正可能でないと判定する。
【0103】
そのコンテンツが修正可能であると判定した場合、補正部226は、ステップS209の処理と同様にして、画像欠けが発生していると判定された角領域を補正する(ステップS211)。
【0104】
次に、補正部226は、コンテンツ補正処理を実行する(ステップS212)。コンテンツ補正処理において補正部226は、画像欠け判定部224により画像欠けが発生していると判定され且つコンテンツ判定部225により媒体端部の周辺にコンテンツが存在すると判定された角領域をその角領域内の媒体端部の周辺画素に基づいて補正する。コンテンツ補正処理の詳細については後述する。
【0105】
一方、ステップS210において、コンテンツが修正可能でないと判定された場合、補正部226は、その角領域を補正しない(ステップS213)。このように、補正部226は、画像欠け判定部224により画像欠けが発生していると判定された角領域のうち、コンテンツ判定部225により媒体端部の周辺にコンテンツが存在しないと判定された角領域を補正する。一方、補正部226は、画像欠け判定部224により画像欠けが発生していると判定された角領域のうち、コンテンツ判定部225により媒体端部の周辺にコンテンツが存在すると判定された角領域を補正しない。これにより、補正部226は、入力画像内で損なわれた角領域を適切に復元しつつ、角領域を補正することによって入力画像内のコンテンツが損なわれることを抑制できる。
【0106】
次に、通知部227は、画像欠けが発生したことを、第2表示装置202に表示し又は第2通信装置203を介して利用者が利用する端末装置に送信することにより、利用者に通知する(ステップS214)。このように、通知部227は、コンテンツ判定部225により媒体端部の周辺にコンテンツが存在すると判定された角領域がある場合、特に、修復不能なコンテンツが存在すると判定された角領域がある場合、画像欠けが発生したことを利用者に通知する。これにより、利用者は、入力画像において画像欠けが発生していることを認識できる。その結果、利用者は、必要に応じて媒体の状態を修復した上で、画像読取装置100に媒体の再読取りを実行させることができ、画像処理システム1は、利用者の利便性を向上させることができる。
【0107】
検出部223により検出された全ての角領域についてステップS206~S214の処理が実行された場合、出力制御部228は、入力画像及び/又は画像欠けの判定結果を出力し(ステップS215)、一連のステップを終了する。出力制御部228は、入力画像及び/又は画像欠けの判定結果を第2表示装置202に表示し又は第2通信装置203を介して利用者が利用する端末装置に送信することにより出力する。出力制御部228は、補正部226により入力画像が補正されていない場合、画像読取装置100から受信した入力画像を出力し、補正部226により入力画像が補正された場合、補正部226により補正された入力画像を出力する。画像欠けの判定結果は、入力画像内に画像欠けが発生しているか否か、画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否か、及び/又は、画像欠けが発生している角領域が補正されたか否か等を含む。入力画像及び/又は画像欠けの判定結果は、画像欠け判定部224による判定結果に関する情報の一例である。
【0108】
なお、ステップS206~S214の処理は省略され、第2処理回路220は、画像欠けが発生した角領域に対して補正処理を実行しなくてもよい。また、ステップS210~S212の処理は省略され、補正部226は、角領域内の媒体端部の周辺にコンテンツが存在する場合、コンテンツが修正可能であるか否かに関わらず、角領域を補正しなくてもよい。また、ステップS210、S213及びS214の処理は省略され、補正部226は、角領域内の媒体端部の周辺にコンテンツが存在する場合、コンテンツが修正可能であるか否かに関わらず、角領域を補正してもよい。また、ステップS212及び/又はS214の処理は省略されてもよい。また、ステップS204の処理において、検出部223は、四つの角領域を検出するのでなく、任意の数(何れか一つ、二つ又は三つ)の角領域を検出してもよい。また、ステップS206~S214の処理は全ての角領域に対して実行されるのでなく、任意の数(何れか一つ、二つ又は三つ)の角領域に対してのみ実行されてもよい。
【0109】
図9は、画像欠け判定処理の動作の例を示すフローチャートである。画像欠け判定処理は、
図7に示した判定処理のステップS205において実行される。
【0110】
最初に、画像欠け判定部224は、検出部223により検出された複数の角領域同士の類似度合いを算出する(ステップS301)。画像欠け判定部224は、検出部223により検出された全ての角領域のうちの二つの角領域からなる組合せ(ペア)を全て抽出する。画像欠け判定部224は、抽出した全ての組合せについて、各組合せに含まれる二つの角領域の類似度合いを算出する。画像欠け判定部224は、二つの角領域のうちの少なくとも一方を90°、180°もしくは270°回転させることにより、又は、上下、左右もしくは斜めに反転させることにより、二つの角領域の向きを合わせる。画像欠け判定部224は、例えば二つの角領域の正規化相互相関(NCC:Normalized Cross-Correlation)を類似度合いとして算出する。画像欠け判定部224は、二つの角領域のSSD(Sum of Squared Difference)の逆数又はSAD(Sum of Absolute Difference)の逆数等を類似度合いとして算出してもよい。
【0111】
次に、画像欠け判定部224は、算出した複数の角領域同士の類似度合いに基づいて、複数の角領域をグループに分類する(ステップS302)。画像欠け判定部224は、類似度合いが類似度閾値以上である二つの角領域を同一のグループに分類する。また、画像欠け判定部224は、特定のグループに分類された角領域との類似度合いが類似度閾値以上である角領域もその特定のグループに分類する。類似度閾値は、事前の実験により、画像欠けが発生していない角領域について算出された類似度合いと、画像欠けが発生している角領域について算出された類似度合いとの間の値に設定される。
【0112】
次に、画像欠け判定部224は、検出部223により検出された複数の角領域が二つ以上のグループに分類されたか否かを判定する(ステップS303)。
【0113】
検出部223により検出された全ての角領域が一つのグループに分類された場合、画像欠け判定部224は、全ての角領域において画像欠けが発生していないと判定し(ステップS304)、一連のステップを終了する。
【0114】
一方、検出部223により検出された角領域が二つ以上のグループに分類された場合、画像欠け判定部224は、何れかの角領域において画像欠けが発生していると判定する(ステップS305)。搬送される媒体には、PPC(Plain Paper Copier)用紙又は名刺のように角が直角である媒体と、ISO(International Organization for Standardization)/IEC(International Electrotechnical Commission)7810で規定されるID(Identification)カード又はパスポートのように角が丸みを有する媒体とが含まれる。角が直角である媒体又は角が丸みを有する媒体の何れについても、四つの角の形状は同一である可能性が高い。一方、媒体の全ての角が同じように撮像装置118の撮像範囲外に搬送される可能性、及び、媒体の全ての角が同じように折り曲げられる可能性は低く、全ての角領域において同じ態様の画像欠けが発生する可能性は低い。そのため、画像欠け判定部224は、全ての角領域の形状が類似している場合、全ての角領域において画像欠けが発生していないと判定し、何れかの角領域の形状が他の角領域の形状と異なる場合、何れかの角領域において画像欠けが発生していると判定する。
【0115】
このように、画像欠け判定部224は、検出部223により検出された複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する。これにより、画像欠け判定部224は、搬送される媒体の角の形状を事前に認識していなくても、画像欠けが発生しているか否かを正しく判定できる。したがって、画像欠け判定部224は、直角な角又は丸みを有する角のように様々な形状の角を有する媒体について、画像欠けが発生しているか否かを簡易且つ高精度に判定することができる。
【0116】
特に、画像欠け判定部224は、複数の角領域同士の類似度合いに基づいて分類されたグループの数に基づいて、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する。これにより、画像欠け判定部224は、直角な角又は丸みを有する角のように様々な形状の角を有する媒体について、画像欠けが発生しているか否かをより高精度に判定することができる。
【0117】
次に、画像欠け判定部224は、分類された各グループに属する角領域の数に基づいて、画像欠けが発生している角領域を特定し(ステップS306)、一連のステップを終了する。画像欠け判定部224は、分類された各グループのうち、属する角領域の数が最も多いグループに属する角領域には画像欠けが発生していないと判定し、他のグループに属する角領域には画像欠けが発生していると判定する。上記したように、各角領域において同じ態様の画像欠けが発生する可能性は低いため、相互に類似する形状を有する角領域では画像欠けが発生しておらず、他の角領域の形状と類似しない形状を有する角領域では画像欠けが発生している可能性が高い。画像欠け判定部224は、分類された各グループに属する角領域の数を用いることにより、画像欠けが発生している角領域を高精度に特定することができる。
【0118】
また、ステップS204の処理において、検出部223が一つの角領域のみを検出する場合、画像欠け判定部224は、その角領域のみに基づいて、その角領域に画像欠けが発生しているか否かを判定してもよい。例えば、画像欠け判定部224は、その角領域において、媒体の端部に対応する二つの直線の交点と、その交点の最も近くに位置する端部エッジ画素との間の距離が予め定められた閾値以下である場合、角が直角であり、画像欠けが発生していないと判定する。閾値は、十分に小さい値(例えば3画素)に設定される。一方、画像欠け判定部224は、その角領域において、媒体の端部に対応する二つの直線の交点と、その交点の最も近くに位置する端部エッジ画素との間の距離が閾値より大きい場合、角が直角でなく、画像欠けが発生していると判定する。
【0119】
図10は、コンテンツ判定処理の動作の例を示すフローチャートである。コンテンツ判定処理は、
図7に示した判定処理のステップS207において実行される。
【0120】
最初に、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域において媒体端部を検出する(ステップS401)。コンテンツ判定部225は、画像欠けが発生していると判定された角領域に含まれる端部エッジ画素を媒体端部として検出する。
【0121】
コンテンツ判定部225は、画像欠けが発生している角領域に含まれる端部エッジ画素のうち、欠けた部分に対応する端部エッジ画素のみを媒体端部として検出してもよい。その場合、コンテンツ判定部225は、画像欠けが発生している角領域に含まれる端部エッジ画素のうち、画像欠けが発生していない角領域に含まれる端部エッジ画素に対応しない端部エッジ画素のみを媒体端部として検出する。コンテンツ判定部225は、画像欠けが発生していない角領域のうちから何れか一つの角領域を選択する。コンテンツ判定部225は、ステップS209の処理と同様にして、選択した角領域について、画像欠けが発生している角領域と向きを合わせた補正用角領域を生成する。コンテンツ判定部225は、画像欠けが発生している角領域に含まれる端部エッジ画素のうち、第1距離内に補正用角領域における端部エッジ画素に相当する画素が存在しない端部エッジ画素を媒体端部として検出する。第1距離は、角が同一の形状を有しているとみなせる画素数(例えば10画素)に設定される。
【0122】
次に、コンテンツ判定部225は、画像欠けが発生していると判定された角領域内の媒体端部に対応する複数の画素の特性値を算出する(ステップS402)。コンテンツ判定部225は、角領域において、ステップS401において検出した各端部エッジ画素より内側(媒体の中心側)の領域内であり、各端部エッジ画素から第2距離内に位置する画素を媒体端部に対応する複数の画素として抽出する。左上角領域において、各端部エッジ画素より内側の領域は、各端部エッジ画素より右側且つ下側の領域である。右上角領域において、各端部エッジ画素より内側の領域は、各端部エッジ画素より左側且つ下側の領域である。左下角領域において、各端部エッジ画素より内側の領域は、各端部エッジ画素より右側且つ上側の領域である。右下角領域において、各端部エッジ画素より内側の領域は、各端部エッジ画素より左側且つ上側の領域である。媒体端部に対応する複数の画素は、端部エッジ画素自体を含まないように設定される。媒体端部に対応する複数の画素は、端部エッジ画素自体を含むように設定されてもよい。以下では、媒体端部に対応する複数の画素を端部周辺画素と称する場合がある。
【0123】
例えば、コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の最大値と最小値の間の差を算出する。コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の最大値又は最小値と平均値又は中央値との間の差を算出してもよい。
【0124】
図11(A)は、コンテンツとして文字又は罫線が含まれる媒体端部上の画素の階調値の一例を示すグラフG1である。
【0125】
グラフG1の横軸は画像内の媒体端部上の画素の(水平方向の)位置を示し、縦軸は各画素の階調値を示す。グラフG1に示す例では、領域S1に白色の背景(階調値U1)が存在し、領域S2に黒色の罫線(階調値U2)が存在し、領域S3に黒色の文字(階調値U3)が存在している。グラフG1において、各端部周辺画素の階調値の最大値と最小値の差は、背景の階調値U1と文字の階調値U3の差である。この差が大きい場合、端部周辺画素に文字又は罫線等のコンテンツが含まれている可能性が高く、この差が小さい場合、端部周辺画素に文字又は罫線等のコンテンツが含まれていない可能性が高い。コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の差を用いることにより、画像欠けが発生していると判定された角領域に文字又は罫線等のコンテンツが含まれているか否かを高精度に判定できる。
【0126】
また、コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の分散(又は標準偏差)を算出してもよい。
【0127】
図11(B)は、コンテンツとして写真が含まれる媒体端部上の画素の階調値の一例を示すグラフG2である。
【0128】
グラフG2の横軸は画像内の媒体端部上の画素の(水平方向の)位置を示し、縦軸は各画素の階調値を示す。グラフG2に示す例では、領域S4に背景が存在し、領域S5に写真が存在している。写真が含まれる領域には、様々な階調値を有する画素が存在するため、各画素の階調値は大きく変動する。したがって、階調値の分散が大きい場合、端部周辺画素に写真等のコンテンツが含まれている可能性が高く、階調値の分散が小さい場合、端部周辺画素に写真等のコンテンツが含まれていない可能性が高い。コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の分散を用いることにより、画像欠けが発生していると判定された角領域に写真等のコンテンツが含まれているか否かを高精度に判定できる。
【0129】
また、コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の周期性を算出してもよい。コンテンツ判定部225は、同一の階調値を有する画素が周期的に存在するほど高い値を有し、同一の階調値を有する画素がランダムに存在するほど低い値を有するように、周期性を算出する。例えば、コンテンツ判定部225は、各端部周辺画素の階調値の周期性として、水平又は垂直方向における所定範囲内の階調値を有する画素の連続数の分散(又は標準偏差)の逆数を算出する。所定範囲は、同一の色を示すとみなされる階調値の範囲(例えば白色の場合は200以上且つ255以下、黒色の場合は0以上且つ55以下等)である。コンテンツ判定部225は、複数の所定範囲を設定し、各端部周辺画素の階調値の周期性として、水平又は垂直方向における各所定範囲内の階調値を有する画素の連続数の分散(又は標準偏差)の逆数の平均値を算出してもよい。複数の所定範囲は、例えば白色、灰色、黒色等の複数の色のそれぞれに対応する階調値の範囲である。
【0130】
図11(C)は、コンテンツとして模様(背景パターン)が含まれる媒体端部上の画素の階調値の一例を示すグラフG3である。
【0131】
グラフG3の横軸は画像内の媒体端部上の画素の(水平方向の)位置を示し、縦軸は各画素の階調値を示す。グラフG3に示す例では、画像全体に網掛けの模様が存在しており、領域S6に白色の画素(階調値U6)が存在し、領域S7に灰色の画素(階調値U7)が存在している。グラフG3に示すように、網掛け、ドット、ライン等の模様が含まれる領域には、特定の階調値を有する画素が周期的に存在する。したがって、階調値の周期性が高い場合、端部周辺画素に模様等のコンテンツが含まれている可能性が高く、階調値の周期性が低い場合、端部周辺画素に模様等のコンテンツが含まれていない可能性が高い。コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の周期性を用いることにより、画像欠けが発生していると判定された角領域に模様等のコンテンツが含まれているか否かを高精度に判定できる。
【0132】
また、コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の分布を算出してもよい。コンテンツ判定部225は、各端部周辺画素の階調値の分布として、各階調値の頻度を算出する。コンテンツ判定部225は、各端部周辺画素の階調値の分布として、頻度が頻度閾値以上である階調値の数、又は、頻度が頻度閾値以上である連続する階調値のグループの数を算出してもよい。頻度閾値は、ノイズ等により発生し得る階調値の数よりも十分に大きい値(例えば3等)に設定される。
【0133】
図11(D)は、
図11(A)に示したグラフG1のヒストグラムを示すグラフG4である。
【0134】
グラフG4の横軸は階調値を示し、縦軸は各階調値の頻度を示す。グラフG4に示す例では、白色の背景に対応する階調値U1の周辺、黒色の罫線に対応する階調値U2の周辺、及び、黒色の文字に対応する階調値U3の周辺の頻度が高く、頻度閾値T1以上となっている。即ち、グラフG4に示す例では、頻度が頻度閾値以上である連続する階調値のグループとして、白色の背景に対応する階調値のグループ、黒色の罫線に対応する階調値のグループ、及び、黒色の文字に対応する階調値のグループの3つのグループが存在する。
【0135】
頻度が頻度閾値以上である連続する階調値のグループの数が1である場合、端部周辺画素に背景のみが含まれており、コンテンツが含まれていない可能性が高い。一方、頻度が頻度閾値以上である連続する階調値のグループの数が2以上であり且つ少ない場合、端部周辺画素に文字、罫線又は模様等のコンテンツが含まれている可能性が高い。一方、頻度が頻度閾値以上である連続する階調値のグループの数が多い場合、端部周辺画素に写真等のコンテンツが含まれている可能性が高い。コンテンツ判定部225は、端部周辺画素の特性値として、各端部周辺画素の階調値の分布を用いることにより、画像欠けが発生していると判定された角領域にコンテンツが含まれているか否かを高精度に判定できる。
【0136】
なお、特性値は、上記した特性値のうちの少なくとも一つの特性値を含んでいればよく、複数の特性値を含んでいてもよい。
【0137】
次に、コンテンツ判定部225は、端部周辺画素の各特性値が、コンテンツが存在しないことを示す規定範囲内であるか否かを判定する(ステップS403)。規定範囲は、例えば、特性閾値以下である範囲に設定される。各特性閾値は、事前の実験により、端部周辺画素にコンテンツが含まれる場合の各特性値と、端部周辺画素にコンテンツが含まれない場合の各特性値との間の値に設定される。
【0138】
端部周辺画素の全ての特性値が規定範囲内である場合、コンテンツ判定部225は、対象となる角領域内の媒体端部の周辺にコンテンツが存在しないと判定し(ステップS404)、一連のステップを終了する。
【0139】
一方、端部周辺画素の何れかの特性値が規定範囲外である場合、コンテンツ判定部225は、判定対象の角領域内の媒体端部の周辺にコンテンツが存在すると判定する(ステップS405)。
【0140】
このように、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定する。特に、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部に対応する複数の画素の階調値の差、分散、周期性又は分布に基づいて、その媒体端部の周辺にコンテンツが存在するか否かを判定する。これにより、コンテンツ判定部225は、媒体端部の周辺にコンテンツが存在するか否かを高精度に判定することができる。
【0141】
次に、コンテンツ判定部225は、媒体端部の周辺に存在するコンテンツの種別を特定し(ステップS406)、一連のステップを終了する。コンテンツ判定部225は、各端部周辺画素の階調値の分散が規定範囲外である場合、コンテンツが修正できない画像であると判定し、各端部周辺画素の階調値の分散が規定範囲内である場合、コンテンツが修正可能な文字、罫線又は模様であると判定する。また、コンテンツ判定部225は、各端部周辺画素の階調値の分散が規定範囲外である場合、コンテンツが修正可能な模様であると判定してもよい。また、コンテンツ判定部225は、頻度が頻度閾値以上である連続する階調値のグループの数がグループ数閾値以上である場合、コンテンツが修正できない画像であると判定してもよい。一方、コンテンツ判定部225は、頻度が頻度閾値以上である連続する階調値のグループの数がグループ数閾値未満である場合、コンテンツが修正可能な文字、罫線又は模様であると判定してもよい。グループ数閾値は、2より十分に大きい値(例えば4等)に設定される。
【0142】
図12は、コンテンツ補正処理の動作の例を示すフローチャートである。コンテンツ補正処理は、
図7に示した判定処理のステップS212において実行される。
【0143】
最初に、補正部226は、画像欠けが発生している補正対象の角領域において、元の(ステップS211で補正される前の)端部エッジ画素より内側(媒体の中心側)の領域を媒体領域に設定する。また、補正部226は、画像欠けが発生している角領域において、元の端部エッジ画素より外側(媒体の中心の反対側)且つステップS211で補正された端部エッジ画素より内側の領域を補正対象領域に設定する(ステップS501)。媒体領域は、端部エッジ画素自体を含まないように設定され、補正対象領域は、端部エッジ画素自体を含むように設定される。媒体領域は、端部エッジ画素自体を含むように設定されてもよく、補正対象領域は、端部エッジ画素自体を含まないように設定されてもよい。
【0144】
次に、補正部226は、補正対象の角領域内の媒体領域と類似する画素を含む類似画像の検索を要求するための検索要求を、第2通信装置203を介して検索サーバに送信する(ステップS502)。検索要求には、補正対象の角領域内の媒体領域を含む画像が含まれる。検索サーバは、様々な画像を含むデータベースを有しており、検索要求を受信した場合、データベースに含まれる画像の中から、検索要求に含まれる画像と類似する類似画像を検出する。検索サーバは、検索要求に含まれる画像とデータベースに含まれる各画像との類似度合いを算出し、類似度合いが最も高い画像を類似画像として検出する。検索サーバは、二つの画像のNCC、SSDの逆数又はSADの逆数等を類似度合いとして算出する。検索サーバは、検出した類似画像を情報処理装置200に送信する。
【0145】
次に、補正部226は、第2通信装置203を介して検索サーバから類似画像を受信する(ステップS503)。
【0146】
次に、補正部226は、受信した類似画像に基づいて、補正対象の角領域内の補正対象領域内のコンテンツを形成(復元、補正)して、補正対象領域を補正し(ステップS504)、一連のステップを終了する。補正部226は、受信した類似画像から、補正対象領域と同一の大きさを有する領域を、その位置をずらしながら切り出して切り出し画像を生成する。なお、補正部226は、補正対象領域と異なる大きさを有する領域を切り出して、補正対象領域と同一のサイズになるように拡大又は縮小することにより切り出し画像を生成してもよい。補正部226は、各切り出し画像と補正対象領域との類似度合いを算出し、類似度合いが最も高い切り出し画像で補正対象領域を置換することにより、補正対象領域を補正する。補正部226は、二つの画像のNCC、SSDの逆数又はSADの逆数等を類似度合いとして算出する。
【0147】
このように、補正部226は、補正対象の角領域内の媒体端部の周辺画素と類似する画素を含む類似画像に基づいて、角領域を補正する。即ち、補正部226は、画像欠け判定部224により画像欠けが発生していると判定され且つコンテンツ判定部225により媒体端部の周辺にコンテンツが存在すると判定された角領域を、その角領域内の媒体端部の周辺画素に基づいて補正する。これにより、補正部226は、画像欠けが発生し且つ媒体端部の周辺にコンテンツが存在する角領域を適切に補正することができる。
【0148】
なお、情報処理装置200が、様々な画像を予め第2記憶装置210に記憶しておき、ステップS501及びS502において、補正部226が、第2記憶装置210に記憶された画像の中から類似画像を検出してもよい。
【0149】
以上詳述したように、画像処理システム1は、入力画像内で媒体の複数の角領域同士を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する。これにより、画像処理システム1は、様々な形状の角を有する媒体について、各角領域に画像欠けが発生しているか否かを判定することが可能となった。したがって、画像処理システム1は、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。
【0150】
また、画像処理システム1は、画像欠けが発生している角領域のうち、媒体端部の周辺にコンテンツが存在しない角領域を補正し、媒体端部の周辺にコンテンツが存在する角領域を補正しない。これにより、画像処理システム1は、画像欠けが発生している角領域を補正することによってコンテンツが損なわれてしまうことを抑制することが可能となった。したがって、画像処理システム1は、画像内の媒体の角領域を適切に補正することが可能となった。
【0151】
また、画像処理システム1は、画像欠けが発生し且つ媒体端部の周辺にコンテンツが存在する角領域を、その角領域内の媒体端部の周辺画素に基づいて補正する。これにより、画像処理システム1は、画像欠けが発生している角領域においてコンテンツを良好に復元することが可能となった。
【0152】
特に、画像処理システム1は、画像読取装置100において媒体のスキューが発生し、入力画像内で画像欠けが発生した場合でも、適切に対処することが可能となり、画像読取装置100における媒体のスキューの発生をある程度許容することが可能となった。したがって、画像読取装置100は、撮像装置118の小型化を図ることが可能となり、装置サイズ及び装置コストの低減を図ることが可能となった。
【0153】
図13は、他の実施形態に係る画像欠け判定処理の動作の例を示すフローチャートである。
図13に示す画像欠け判定処理は、
図9に示す画像欠け判定処理の代わりに実行される。
【0154】
最初に、画像欠け判定部224は、検出部223により検出された各角領域内の媒体領域の面積を算出する(ステップS601)。画像欠け判定部224は、各角領域内で、端部エッジ画素より内側(中心側)の領域を媒体領域として特定し、媒体領域内の画素の数を各角領域内の媒体領域の面積として算出する。
【0155】
次に、画像欠け判定部224は、媒体領域の面積の差が面積閾値より大きい角領域の組合せが存在するか否かを判定する(ステップS602)。画像欠け判定部224は、検出部223により検出された全ての角領域のうちの二つの角領域からなる組合せ(ペア)を全て抽出する。画像欠け判定部224は、抽出した全ての組合せについて、各組合せに含まれる二つの角領域の媒体領域の面積の差を算出する。面積閾値は、事前の実験により、画像欠けが発生していない二つの角領域について算出された媒体領域の面積の差と、画像欠けが発生していない角領域及び画像欠けが発生している角領域について算出された媒体領域の面積の差との間の値に設定される。
【0156】
媒体領域の面積の差が面積閾値より大きい角領域の組合せが存在しない場合、画像欠け判定部224は、全ての角領域において画像欠けが発生していないと判定し(ステップS603)、一連のステップを終了する。
【0157】
一方、媒体領域の面積の差が面積閾値より大きい角領域の組合せが存在する場合、画像欠け判定部224は、何れかの角領域において画像欠けが発生していると判定する(ステップS604)。上記したように、媒体の四つの角の形状は同一である可能性が高く、画像欠けが発生していない場合、全ての角領域における媒体領域の面積が近似する可能性が高い。一方、全ての角領域において同じ態様の画像欠けが発生する可能性は低く、各角領域において媒体領域の面積が近似するように画像欠けが発生する可能性は低い。そのため、画像欠け判定部224は、全ての角領域における媒体領域の面積が近似している場合、全ての角領域において画像欠けが発生していないと判定する。一方、画像欠け判定部224は、何れかの角領域における媒体領域の面積が他の角領域における媒体領域の面積と大きく異なる場合、何れかの角領域において画像欠けが発生していると判定する。
【0158】
このように、画像欠け判定部224は、検出部223により検出された複数の角領域内の媒体領域の面積を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する。これにより、画像欠け判定部224は、搬送される媒体の角の形状を事前に認識していなくても、画像欠けが発生しているか否かを判定することができる。したがって、画像欠け判定部224は、様々な形状の角を有する媒体について、画像欠けが発生しているか否かを簡易且つ高精度に判定することができる。
【0159】
次に、画像欠け判定部224は、各角領域内の媒体領域の面積に基づいて、画像欠けが発生している角領域を特定し(ステップS605)、一連のステップを終了する。画像欠け判定部224は、各角領域のうち、媒体領域の面積が最大である角領域、及び、媒体領域の面積とその最大の面積との差が面積閾値以下である角領域には画像欠けが発生していないと判定する。一方、画像欠け判定部224は、各角領域のうち、媒体領域の面積とその最大の面積との差が面積閾値より大きい角領域には画像欠けが発生していると判定する。上記したように、全ての角領域において同じ態様の画像欠けが発生する可能性は低く、各角領域において媒体領域の面積が近似するように画像欠けが発生する可能性は低い。そのため、媒体領域の面積が他の角領域の媒体領域の面積と近似する角領域では画像欠けが発生していない可能性が高く、媒体領域の面積が他の角領域の媒体領域の面積と大きく異なる角領域では画像欠けが発生している可能性が高い。画像欠け判定部224は、各角領域内の媒体領域の面積を用いることにより、画像欠けが発生している角領域を高精度に特定することができる。
【0160】
以上詳述したように、情報処理装置200は、複数の角領域内の媒体領域の面積を比較する場合も、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。
【0161】
図14は、さらに他の実施形態に係る画像欠け判定処理の動作の例を示すフローチャートである。
図14に示す画像欠け判定処理は、
図9に示す画像欠け判定処理の代わりに実行される。
【0162】
最初に、画像欠け判定部224は、複数の角領域毎に、各角領域に対応する角を形成する媒体の二辺に対応する二つの直線の交点と所定のエッジ画素との間の距離を角部距離として算出する(ステップS701)。画像欠け判定部224は、左上角領域、右上角領域、左下角領域及び右下角領域のそれぞれについて、判定処理のステップS203において検出された左上交点、右上交点、左下交点及び右下交点のそれぞれと所定のエッジ画素との間の角部距離を算出する。所定のエッジ画素として、各角領域内で各交点に最も近い端部エッジ画素が設定される。所定のエッジ画素として、各角領域内で各交点と各交点の対角に位置する点とを通過する直線に最も近い端部エッジ画素が設定されてもよい。
【0163】
画像欠け判定部224は、角部距離として、各交点と所定のエッジ画素との間のユークリッド距離を算出する。なお、画像欠け判定部224は、角部距離として、各交点と所定のエッジ画素との間のマンハッタン距離、即ち水平方向における距離と垂直方向における距離の和を算出してもよい。これにより、画像欠け判定部224は、効率良く且つ精度良く、角部距離を算出することができる。また、画像欠け判定部224は、角部距離として、各交点と所定のエッジ画素との間のチェビシェフ距離、即ち水平方向における距離と垂直方向における距離の内、大きい方の距離を算出してもよい。これにより、画像欠け判定部224は、効率良く角部距離を算出することができる。
【0164】
図15は、角部距離について説明するための模式図である。
【0165】
図15は、
図8に示した入力画像Nを示す。この例では、左上交点V1に最も近い端部エッジ画素E5が所定のエッジ画素として抽出され、左上交点V1から端部エッジ画素E5までの角部距離D1が算出されている。また、右上交点V2に最も近い端部エッジ画素E6が所定のエッジ画素として抽出され、右上交点V2から端部エッジ画素E6までの角部距離D2が算出されている。また、左下交点V3に最も近い端部エッジ画素E7が所定のエッジ画素として抽出され、左下交点V3から端部エッジ画素E7までの角部距離D3が算出されている。また、右下交点V4に最も近い端部エッジ画素E8が所定のエッジ画素として抽出され、右下交点V4から端部エッジ画素E8までの角部距離D4が算出されている。
【0166】
図15に示すように、角が折れていない左上交点V1、左下交点V3及び右下交点V4について算出される角部距離D1、D3及びD4は相互に略同一である。一方、角が折れている右上交点V2について算出される角部距離D2は、角部距離D1、D3及びD4と大きく異なる。したがって、画像欠け判定部224は、角部距離に基づいて、各角領域に画像欠けが発生しているか否かを精度良く判定することができる。
【0167】
次に、画像欠け判定部224は、角部距離の差が距離閾値より大きい角領域の組合せが存在するか否かを判定する(ステップS702)。画像欠け判定部224は、検出部223により検出された全ての角領域のうちの二つの角領域からなる組合せ(ペア)を全て抽出する。画像欠け判定部224は、抽出した全ての組合せについて、各組合せに含まれる二つの角領域について算出された角部距離の差を算出する。距離閾値は、事前の実験により、画像欠けが発生していない二つの角領域について算出された角部距離の差と、画像欠けが発生していない角領域及び画像欠けが発生している角領域について算出された角部距離の差との間の値に設定される。なお、画像欠け判定部224は、各角領域内で各交点から近い順に所定数の端部エッジ画素を所定のエッジ画素として設定し、各交点と各所定のエッジ画素との間の距離の統計値(平均値、中央値、最頻値、最大値又は最小値等)を角部距離として算出してもよい。
【0168】
角部距離の差が距離閾値より大きい角領域の組合せが存在しない場合、画像欠け判定部224は、全ての角領域において画像欠けが発生していないと判定し(ステップS703)、一連のステップを終了する。
【0169】
一方、角部距離の差が距離閾値より大きい角領域の組合せが存在する場合、画像欠け判定部224は、何れかの角領域において画像欠けが発生していると判定する(ステップS704)。上記したように、媒体の四つの角の形状は同一である可能性が高く、画像欠けが発生していない場合、全ての角領域において角部距離が近似する可能性が高い。一方、全ての角領域において同じ態様の画像欠けが発生する可能性は低く、各角領域において角部距離が近似するように画像欠けが発生する可能性は低い。そのため、画像欠け判定部224は、全ての角領域における角部距離が近似している場合、全ての角領域において画像欠けが発生していないと判定する。一方、画像欠け判定部224は、何れかの角領域における角部距離が他の角領域における角部距離と大きく異なる場合、何れかの角領域において画像欠けが発生していると判定する。
【0170】
このように、画像欠け判定部224は、検出部223により検出された複数の角領域毎に算出した距離を比較することにより、複数の角領域のそれぞれに画像欠けが発生しているか否かを判定する。これにより、画像欠け判定部224は、搬送される媒体の角の形状を事前に認識していなくても、画像欠けが発生しているか否かを判定することができる。したがって、画像欠け判定部224は、様々な形状の角を有する媒体について、画像欠けが発生しているか否かを簡易且つ高精度に判定することができる。
【0171】
次に、画像欠け判定部224は、複数の角領域毎に算出した角部距離に基づいて、画像欠けが発生している角領域を特定し(ステップS705)、一連のステップを終了する。画像欠け判定部224は、各角領域のうち、角部距離が最小である角領域、及び、角部距離とその最小の角部距離との差が距離閾値以下である角領域には画像欠けが発生していないと判定する。一方、画像欠け判定部224は、各角領域のうち、角部距離とその最小の角部距離との差が距離閾値より大きい角領域には画像欠けが発生していると判定する。上記したように、全ての角領域において同じ態様の画像欠けが発生する可能性は低く、各角領域において角部距離が近似するように画像欠けが発生する可能性は低い。そのため、角部距離が他の角領域における角部距離と近似する角領域では、画像欠けが発生していない可能性が高く、角部距離が他の角領域における角部距離と大きく異なる角領域では画像欠けが発生している可能性が高い。画像欠け判定部224は、各角領域における角部距離を用いることにより、画像欠けが発生している角領域を高精度に特定することができる。
【0172】
以上詳述したように、情報処理装置200は、複数の角領域における角部距離を比較する場合も、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。
【0173】
図16は、さらに他の実施形態に係る画像欠け判定処理の動作の例を示すフローチャートである。
図16に示す画像欠け判定処理は、
図9に示す画像欠け判定処理の代わりに実行される。
【0174】
最初に、画像欠け判定部224は、第2記憶装置210から、判定対象の入力画像の前に撮像された入力画像を第2入力画像として読み出す(ステップS801)。例えば、画像欠け判定部224は、判定対象の入力画像の直前に撮像された入力画像を第2入力画像として読み出す。
【0175】
判定対象の入力画像の前に撮像された入力画像を取得していない場合、画像欠け判定部224は、判定対象の入力画像の直後に撮像された入力画像を取得するまで待機し、判定対象の入力画像の直後に撮像された入力画像を第2入力画像として使用する。また、画像欠け判定部224は、判定対象の入力画像の直前に撮像された入力画像から検出された角領域において画像欠けが発生していた場合も、判定対象の入力画像の直後に撮像された入力画像を第2入力画像として使用してもよい。画像欠け判定部224は、判定対象の直前又は直後に撮像された入力画像でなく、判定対象の入力画像の所定数だけ前に又は所定数だけ後に撮像された入力画像を第2入力画像として使用してもよい。
【0176】
また、複数のページからなる冊子等では、表紙の形状が他のページの形状と異なる可能性がある。画像欠け判定部224は、媒体読取処理において最初に生成された入力画像を表紙が撮像された入力画像であるとみなして、第2入力画像として使用しなくてもよい。また、複数のページからなる冊子等では、中表紙の形状が他のページの形状と異なる可能性がある。例えば、画像欠け判定部224は、公知のOCR(Optical Character Recognition)技術を利用して、入力画像内で文字認識処理を実行してもよい。画像欠け判定部224は、入力画像の中央部に所定のフォントサイズ(例えば20ポイント)以上の文字を認識した場合、その入力画像は中表紙が撮像された入力画像であるとみなして、第2入力画像として使用しない。また、複数のページからなる冊子等では、奇数ページの形状と偶数ページの形状とが相互に異なる可能性がある。画像欠け判定部224は、判定対象の入力画像の二つ前に又は二つ後に撮像された入力画像を第2入力画像として使用してもよい。これらにより、画像欠け判定部224は、画像欠けが発生しているか否かをより高精度に判定することができる。
【0177】
また、画像欠け判定部224は、判定対象の入力画像に含まれる媒体のサイズと、略同一サイズの媒体が撮像された入力画像に限り、第2入力画像として使用してもよい。その場合、画像欠け判定部224は、
図7のステップS202の処理と同様にして、各入力画像において端部エッジ画素を検出し、検出した端部エッジ画素で囲まれる領域に含まれる画素数を媒体のサイズとして検出する。画像欠け判定部224は、検出した媒体のサイズの差が予め定められた閾値以下であるか否かにより、各入力画像に含まれる媒体のサイズが略同一であるか否かを判定する。
【0178】
また、画像欠け判定部224は、判定対象の入力画像に含まれる媒体内の文書レイアウト(又は罫線)と略同一の文書レイアウト(又は罫線)を有する媒体が撮像された入力画像に限り、第2入力画像として使用してもよい。その場合、画像欠け判定部224は、各入力画像の端部エッジ画素で囲まれる領域内で、
図7のステップS202の処理と同様にして、さらにエッジ画素を検出する。画像欠け判定部224は、最小二乗法又はハフ変換等を用いて各エッジ画素から直線(線分)を検出する。画像欠け判定部224は、検出した直線に対応する画素のみを有効画素とし、他の画素を無効画素とした二値画像を生成する。画像欠け判定部224は、生成した各二値画像のうちの二つの二値画像のNCC、SSDの逆数又はSADの逆数等を各二値画像に対応する二つの入力画像の類似度合いとして算出する。画像欠け判定部224は、算出した類似度合いが予め定められた閾値以上であるか否かにより、各入力画像に含まれる媒体の文書レイアウトが略同一であるか否かを判定する。
【0179】
また、文字が印字された文書の端部には、ロゴ等のマーク、ヘッダ/フッタ等の固定文字又はページ番号等が記載されている場合があり、このようなマーク、固定文字又はページ番号は、全てのページにおいて同一位置に記載されている可能性が高い。画像欠け判定部224は、判定対象の入力画像に含まれる媒体に記載されたマーク、固定文字又はページ番号と同一種類のマーク、固定文字又はページ番号を有する媒体が撮像された入力画像に限り、第2入力画像として使用してもよい。その場合、画像欠け判定部224は、二つの入力画像の媒体の上端領域又は下端領域(余白領域)のNCC、SSDの逆数又はSADの逆数等を類似度合いとして算出する。画像欠け判定部224は、算出した類似度合いが予め定められた閾値以上であるか否かにより、各入力画像に含まれる媒体に記載されたマーク又は固定文字が同一であるか否かを判定する。または、画像欠け判定部224は、公知のOCR技術を利用して、二つの入力画像の媒体の上端領域又は下端領域内で文字認識処理を実行する。画像欠け判定部224は、各領域内の同一位置で数字が検出され且つ検出された各数字の差が各入力画像の撮像順番の差と一致するか否かにより、各媒体にページ番号が記載されているか否かを判定する。
【0180】
次に、画像欠け判定部224は、複数の角領域同士の類似度合いを算出する(ステップS802)。画像欠け判定部224は、判定対象の入力画像から検出された各角領域と、第2入力画像から検出された対応する位置の角領域との類似度合いを算出する。画像欠け判定部224は、二つの角領域のNCC、SSDの逆数又はSADの逆数等を類似度合いとして算出する。
【0181】
次に、画像欠け判定部224は、類似度合いが類似度閾値より大きい角領域が存在するか否かを判定する(ステップS803)。類似度閾値は、事前の実験により、画像欠けが発生していない二つの角領域について算出された類似度と、画像欠けが発生していない角領域及び画像欠けが発生している角領域について算出された類似度との間の値に設定される。
【0182】
類似度合いが類似度閾値より小さい角領域が存在しない場合、画像欠け判定部224は、全ての角領域において画像欠けが発生していないと判定し(ステップS804)、一連のステップを終了する。
【0183】
一方、類似度合いが類似度閾値より小さい角領域が存在する場合、画像欠け判定部224は、その角領域において画像欠けが発生していると判定し(ステップS805)、一連のステップを終了する。載置台103にまとめて載置されて搬送される媒体、特に連続して搬送される媒体は、同一種類の媒体である可能性が高く、相互に対応する角の形状は同一である可能性が高い。一方、載置台103にまとめて載置されて搬送される媒体、特に連続して搬送される媒体において、相互に対応する角が同じように撮像装置118の撮像範囲外に搬送される可能性、及び、相互に対応する角が同じように折り曲げられる可能性は低い。そのため、画像欠け判定部224は、複数の入力画像において相互に対応する角領域同士が類似している場合、その角領域において画像欠けが発生していないと判定する。一方、画像欠け判定部224は、複数の入力画像において相互に対応する角領域同士が類似していない場合、その角領域において画像欠けが発生していると判定する。
【0184】
このように、画像欠け判定部224は、複数の入力画像内で、検出部223により検出された相互に対応する角領域同士を比較することにより、角領域に画像欠けが発生しているか否かを判定する。これにより、画像欠け判定部224は、搬送される媒体の角の形状を事前に認識していなくても、画像欠けが発生しているか否かを判定することができる。したがって、画像欠け判定部224は、様々な形状の角を有する媒体について、画像欠けが発生しているか否かを簡易且つ高精度に判定することができる。
【0185】
なお、画像欠け判定部224は、複数の角領域同士の類似度合い以外の他のパラメータを用いて、画像欠けが発生しているか否かを判定してもよい。例えば、画像欠け判定部224は、
図13のステップS601の処理と同様にして、各角領域内の媒体領域の面積を算出し、対応する角領域内の媒体領域の面積の差が面積閾値より大きいか否かにより、画像欠けが発生しているか否かを判定してもよい。また、画像欠け判定部224は、
図13のステップS601の処理と同様にして、各角領域における角部距離を算出し、対応する角領域における角部距離の差が距離閾値より大きいか否かにより、画像欠けが発生しているか否かを判定してもよい。
【0186】
また、画像欠け判定部224は、四つの角領域の全てでなく、何れか一つ、二つ又は三つの角領域についてのみ、画像欠けが発生しているか否かを判定してもよい。
【0187】
以上詳述したように、情報処理装置200は、複数の入力画像内で相互に対応する角領域同士を比較する場合も、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。
【0188】
なお、画像欠け判定部224は、さらに他の方法により、入力画像内の角領域に画像欠けが発生しているか否かを判定してもよい。例えば、画像欠け判定部224は、媒体読取装置100において搬送される媒体が撮像装置118の撮像範囲外を通過したか否かにより、入力画像内の角領域に画像欠けが発生しているか否かを判定する。媒体が撮像装置118の撮像範囲外を通過した場合、
図6のステップS106において、制御部141は、画像欠けが発生したことを示す画像欠け発生情報を、第1通信装置122を介して情報処理装置200に送信する。画像欠け発生情報には、媒体を検出した第2媒体センサ114を示す情報、媒体の撮像開始時刻、第2媒体センサ114が媒体を検出した検出時刻、及び、媒体の搬送速度が含まれる。画像欠け判定部224は、第2通信装置203を介して媒体読取装置100から画像欠け発生情報を受信した場合に、入力画像内の角領域に画像欠けが発生したと判定する。画像欠け判定部224は、媒体を検出した第2媒体センサ114を示す情報に基づいて、入力画像内で画像欠けが発生している主走査方向の端部を特定する。また、画像欠け判定部224は、媒体の撮像開始時刻、第2媒体センサ114が媒体を検出した検出時刻、及び、媒体の搬送速度に基づいて、入力画像内で画像欠けが発生している副走査方向の端部を特定する。
【0189】
また、画像欠け判定部224は、入力画像内の媒体の角が略直角である場合、対応する角領域に画像欠けが発生していないと判定し、入力画像内の媒体の角が略直角でない場合、対応する角領域に画像欠けが発生していると判定してもよい。その場合、画像欠け判定部224は、
図7のステップS203の処理と同様にして、入力画像から左端直線、右端直線、上端直線及び下端直線を検出する。画像欠け判定部224は、検出した左端直線、右端直線、上端直線及び下端直線を、相互に交わる位置まで延伸させた補正画像を生成する。画像欠け判定部224は、入力画像内の各角領域と、補正画像内の対応する各角領域とのNCC、SSDの逆数又はSADの逆数等を類似度合いとして算出する。画像欠け判定部224は、算出した類似度合いが予め定められた閾値以上であるか否かにより、各角領域内の媒体の角が略直角であるか否かを判定する。
【0190】
図17は、他の実施形態に係るコンテンツ判定処理の動作の例を示すフローチャートである。
図17に示すコンテンツ判定処理は、
図10に示すコンテンツ判定処理に代えて又は加えて実行される。
図10に示すコンテンツ判定処理が実行されない場合、
図7のステップS210の処理が省略され、コンテンツの種別に関わらず、ステップS211~S212の処理又はステップS213~S214の処理のうちの何れか一方が固定して実行されてもよい。
【0191】
最初に、コンテンツ判定部225は、
図10のステップS401の処理と同様にして、画像欠けが発生していると判定された角領域において媒体端部を検出する(ステップS901)。
【0192】
次に、コンテンツ判定部225は、入力画像内で文字認識処理を実行する(ステップS902)。即ち、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域を含む領域内で文字を認識する。コンテンツ判定部225は、公知のOCR技術を利用して、入力画像から文字を検出し、所定の位置関係を有する複数の文字を文字列として検出する。所定の位置関係を有する複数の文字は、例えば垂直方向において相互に重複し、且つ、水平方向において一定範囲内で隣り合いながら連結する文字である。一定範囲は、例えば余白に相当する画素数に設定される。所定の位置関係を有する複数の文字には、改行を挟んで連結する文字が含まれる。即ち、所定の位置関係を有する複数の文字には、水平方向において右端に位置する文字と、垂直方向においてその文字の下方に一定範囲内で隣り合い且つ水平方向において左端に位置する文字とが含まれる。また、所定の位置関係を有する複数の文字には、垂直方向において下端に位置する文字と、水平方向においてその文字の左方に一定範囲内で隣り合い且つ垂直方向において上端に位置する文字とが含まれる。コンテンツ判定部225は、検出した文字(文字列)及び入力画像におけるその文字の位置情報(座標情報)を第2記憶装置210に記憶する。
【0193】
次に、コンテンツ判定部225は、各角領域における媒体端部の周辺で文字が検出されたか否かを判定する(ステップS903)。例えば、コンテンツ判定部225は、媒体端部から所定画素数内の範囲で文字が検出された場合に、媒体端部の周辺で文字が検出されたと判定する。所定画素数は、例えば一文字又は二文字の垂直又は水平方向の長さに相当する画素数に設定される。
【0194】
何れの角領域においても媒体端部の周辺で文字が検出されなかった場合、コンテンツ判定部225は、各角領域内の媒体端部の周辺にコンテンツが存在しないと判定し(ステップS904)、一連のステップを終了する。
【0195】
一方、何れかの角領域における媒体端部の周辺で文字が検出された場合、コンテンツ判定部225は、その媒体端部の周辺で検出された文字を含む文字列が自然言語であるか否かを判定する(ステップS905)。コンテンツ判定部225は、公知の自然言語解析技術(形態素解析、構文解析、意味解析、文脈解析)を利用して、文字列が自然言語であるか否かを判定する。コンテンツ判定部225は、文字列が入力された場合に、入力された文字列が自然言語であるか否かを出力するように学習された学習モデルを用いて、文字列が自然言語であるか否かを判定してもよい。学習モデルは、ディープラーニング等により、様々な自然言語である文字列、及び/又は、自然言語でない文字列を教師データとして事前学習される。コンテンツ判定部225は、検出した文字列を学習モデルに入力し、学習モデルから出力された出力値に基づいて、文字列が自然言語であるか否かを判定する。
【0196】
各角領域の媒体端部の周辺で検出された文字を含む文字列が自然言語であった場合、コンテンツ判定部225は、各角領域内の媒体端部の周辺にコンテンツが存在しないと判定し(ステップS904)、一連のステップを終了する。即ち、各角領域の媒体端部の周辺で検出された文字を含む文字列が自然言語であった場合、コンテンツ判定部225は、各角領域の媒体端部の周辺の文字は画像欠けにより失われていないと判定する。
【0197】
一方、何れかの角領域の媒体端部の周辺で検出された文字を含む文字列が自然言語でなかった場合、コンテンツ判定部225は、その角領域内の媒体端部の周辺にコンテンツが存在すると判定し(ステップS906)、一連のステップを終了する。即ち、各角領域の媒体端部の周辺で検出された文字を含む文字列が自然言語でなかった場合、コンテンツ判定部225は、各角領域の媒体端部の周辺の文字が画像欠けにより失われたと判定する。この場合、コンテンツ判定部225は、コンテンツが修正可能な文字であると判定する。
【0198】
なお、ステップS905の処理は省略され、何れかの角領域における媒体端部の周辺で文字が検出された場合、コンテンツ判定部225は、その媒体端部の周辺にコンテンツが存在すると判定してもよい。
【0199】
このように、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部の周辺で文字を認識した場合に、その媒体端部の周辺にコンテンツが存在すると判定する。一般に、文字が印字された文書の端部には余白が設定されている可能性が高く、媒体端部の周辺には文字が存在しない可能性が高い。媒体端部の周辺に文字が存在する場合、少なくとも余白部分は画像欠けにより失われており、画像欠けにより失われた部分に文字も含まれている可能性が高い。コンテンツ判定部225は、媒体端部の周辺で文字を認識した場合に、その媒体端部の周辺にコンテンツが存在すると判定することにより、画像欠けにより文字が失われたことを高精度に判定することができる。
【0200】
また、コンテンツ判定部225は、画像欠けが発生していると判定された角領域を含む領域内で認識した文字が自然言語でない場合に、その角領域内の媒体端部の周辺にコンテンツが存在すると判定する。一般に、文書に記載された文字列は、人間が意思疎通のために日常的に用いる自然言語である可能性が高く、意味を持たないランダムな文字列である可能性は低い。コンテンツ判定部225は、認識した文字列が自然言語でない場合に、その文字列の一部が画像欠けにより損なわれたと判定することにより、画像欠けにより文字が失われたことを高精度に判定することができる。
【0201】
以上詳述したように、画像処理システム1は、文字認識技術を利用する場合も、画像内の媒体の角領域を適切に補正することが可能となった。
【0202】
図18は、さらに他の実施形態に係るコンテンツ判定処理の動作の例を示すフローチャートである。
図18に示すコンテンツ判定処理は、
図10に示すコンテンツ判定処理に代えて実行される。
【0203】
最初に、コンテンツ判定部225は、
図16のステップS801の処理と同様にして、第2記憶装置210から第2入力画像を読み出す(ステップS1001)。
【0204】
次に、コンテンツ判定部225は、判定対象の入力画像内で画像欠けが発生していると判定された角領域に対応する、第2入力画像内の角領域にコンテンツが存在するか否かを判定する(ステップS1002)。コンテンツ判定部225は、
図10のステップS402の処理と同様にして、第2入力画像内の各角領域に含まれる複数の画素の特性値を算出する。コンテンツ判定部225は、特性値が、コンテンツが存在しないことを示す規定範囲内である場合、対応する第2入力画像内の角領域にコンテンツが存在しないと判定する。一方、コンテンツ判定部225は、特性値が規定範囲内でない場合、対応する第2入力画像内の角領域にコンテンツが存在すると判定する。
【0205】
第2入力画像内の角領域にコンテンツが存在しない場合、コンテンツ判定部225は、判定対象の入力画像の対応する角領域内の媒体端部の周辺にコンテンツが存在しないと判定し(ステップS1003)、一連のステップを終了する。
【0206】
一方、第2入力画像内の角領域にコンテンツが存在する場合、コンテンツ判定部225は、判定対象の入力画像の対応する角領域内の媒体端部の周辺にコンテンツが存在すると判定する(ステップS1004)。
【0207】
このように、コンテンツ判定部225は、画像欠け判定部224により画像欠けが発生していると判定された角領域に対応する第2入力画像内の角領域にコンテンツが存在する場合に、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在すると判定する。上記したように、文字が印字された文書の端部には、マーク、固定文字又はページ番号等が記載されている場合があり、このようなマーク、固定文字又はページ番号は、全てのページの同一位置に記載されている可能性が高い。コンテンツ判定部225は、判定対象の入力画像の前又は後に媒体が撮像された第2入力画像を用いることにより、媒体端部の周辺にマーク、固定文字又はページ番号が存在するか否かを高精度に判定することができる。
【0208】
次に、コンテンツ判定部225は、媒体端部の周辺に存在するコンテンツの種別を特定し(ステップS1005)、一連のステップを終了する。コンテンツ判定部225は、
図10のステップS406の処理と同様にして、媒体端部の周辺に存在するコンテンツの種別を特定する。但し、コンテンツ判定部225は、第2入力画像内の各角領域に含まれる複数の画素の特性値に基づいて、各角領域の媒体端部の周辺に存在するコンテンツの種別を特定する。コンテンツ判定部225は、判定対象の入力画像内の各角領域の媒体端部の周辺に存在するコンテンツの種別が、特定したコンテンツの種別と同一であると判定する。
【0209】
なお、本実施形態のコンテンツ判定処理において媒体端部の周辺に画像のコンテンツが存在すると判定される場合、そのコンテンツは、全てのページに共通のロゴ等である可能性が高い。したがって、
図7のステップS210において、補正部226は、コンテンツの種別に関わらず、コンテンツが修正可能であると判定してもよい。
【0210】
以上詳述したように、画像処理システム1は、第2入力画像を利用する場合も、画像内の媒体の角領域を適切に補正することが可能となった。
【0211】
図19は、他の実施形態に係るコンテンツ補正処理の動作の例を示すフローチャートである。
図19に示すコンテンツ補正処理は、
図12に示すコンテンツ補正処理の代わりに実行される。
【0212】
最初に、補正部226は、
図12のステップS501の処理と同様にして、画像欠けが発生している補正対象の角領域において、媒体領域及び補正対象領域を設定する(ステップS1101)。
【0213】
次に、補正部226は、補正対象領域において背景を形成(復元、補正)して、補正対象領域を補正する(ステップS1102)。補正部226は、コンテンツ判定処理においてコンテンツが模様(背景パターン)であると判定された場合、補正対象領域において模様(背景パターン)を補正する。また、補正部226は、補正対象の角領域における媒体領域内の各画素の色値(RGB値)と、補正対象領域内の各画素の色値との差が予め定められた閾値以上である場合、補正対象領域において背景色を補正してもよい。補正部226は、媒体領域から補正対象領域と同一サイズの画像を切り出し、補正対象領域に配置(複写)することにより、補正対象領域において背景を補正する。これにより、補正部226は、画像欠けにより損なわれた背景を適切に復元することができる。
【0214】
次に、補正部226は、補正対象領域において文字を形成(復元、補正)して、補正対象領域を補正する(ステップS1103)。補正部226は、コンテンツ判定処理においてコンテンツが文字であると判定された場合、補正対象領域において文字を補正する。補正部226は、
図10のステップS902の処理と同様にして、入力画像から所定の位置関係を有する複数の文字を文字列として検出する。補正部226は、公知の自然言語解析技術(形態素解析、構文解析、意味解析、文脈解析)を利用して、媒体領域内で検出された文字を含む文字列を自然言語の文字列に変換する。補正部226は、変換後の文字列に含まれる文字のうち、変換前の文字列に含まれておらず且つ媒体端部周辺に存在する文字に連なる文字を補正対象領域に配置(書込み)することにより、補正対象領域において文字を補正する。補正部226は、文字列が入力された場合に、入力された文字列を自然言語に変換した文字列を出力するように学習された学習モデルを用いて、媒体領域内で検出された文字を含む文字列を自然言語の文字列に変換してもよい。学習モデルは、ディープラーニング等により、様々な自然言語でない文字列とその文字列に対応する自然言語である文字列のセットを教師データとして事前学習される。補正部226は、媒体領域内で検出された文字を含む文字列を学習モデルに入力し、学習モデルから出力された出力値に基づいて、自然言語の文字列を取得する。
【0215】
このように、補正部226は、画像欠け判定部224により画像欠けが発生していると判定された角領域を含む領域内で文字を認識し、認識した文字と類似する自然言語に基づいて、その角領域を補正する。これにより、補正部226は、画像欠けにより損なわれた文字を適切に復元することができる。
【0216】
次に、補正部226は、補正対象領域において罫線を形成(復元、補正)して、補正対象領域を補正(ステップS1104)し、一連のステップを終了する。補正部226は、コンテンツ判定処理においてコンテンツが罫線であると判定された場合、補正対象領域において罫線を補正する。補正部226は、
図7のステップS202の処理と同様にして、補正対象の角領域における媒体領域からエッジ画素を抽出し、ステップS203の処理と同様にして、抽出したエッジ画素から直線を検出する。補正部226は、検出した直線のうち、元の(ステップS211で補正される前の)端部エッジ画素まで延伸する直線を、角領域内の媒体端部において切断された罫線として検出する。補正部226は、罫線として検出した直線を補正対象領域の所定位置までさらに延伸させることにより、補正対象領域において罫線を補正する。所定位置は、例えばステップS211で補正された端部エッジ画素より、余白に相当する画素数だけ内側(媒体の中心側)の位置に設定される。
【0217】
なお、補正部226は、切断された罫線として水平方向に延伸する直線と垂直方向に延伸する直線とを検出した場合、各直線が互いに交わる位置まで各直線を延伸させることにより、罫線を補正してもよい。これにより、画像欠けにより損なわれた表形式の罫線を適切に復元することができる。
【0218】
このように、補正部226は、画像欠け判定部224により画像欠けが発生していると判定された角領域内の媒体端部において切断された罫線を延伸させることにより、その角領域を補正する。これにより、補正部226は、画像欠けにより損なわれた罫線を適切に復元することができる。
【0219】
以上詳述したように、画像処理システム1は、背景パターン、文字及び/又は罫線を補正する場合も、画像欠けが発生している角領域においてコンテンツを良好に復元することが可能となった。
【0220】
図20は、さらに他の実施形態に係るコンテンツ補正処理の動作の例を示すフローチャートである。
図20に示すコンテンツ補正処理は、
図12に示すコンテンツ補正処理の代わりに実行される。
【0221】
最初に、補正部226は、
図16のステップS801の処理と同様にして、第2記憶装置210から第2入力画像を読み出す(ステップS1201)。補正部226は、複数の第2入力画像を読み出す。
【0222】
次に、補正部226は、
図18のステップS1002の処理と同様にして、対応する各第2入力画像内の角領域にコンテンツが存在するか否かを判定する(ステップS1202)。対応する各第2入力画像内の角領域にコンテンツが存在しないと判定した場合、補正部226は、補正を実行せずに、一連のステップを終了する。
【0223】
一方、対応する各第2入力画像内の角領域にコンテンツが存在すると判定した場合、補正部226は、そのコンテンツがマーク、固定文字又は背景パターンであるか否かを判定する(ステップS1203)。補正部226は、
図16のステップS802の処理と同様にして、対応する各第2入力画像内の角領域の類似度合いを算出する。補正部226は、各角領域の類似度合いが閾値以上である場合、各角領域に同一のマーク、固定文字又は背景パターンが含まれると判定し、各角領域の類似度合いが閾値未満である場合、各角領域に同一のマーク、固定文字又は背景パターンが含まれないと判定する。
【0224】
コンテンツがマーク、固定文字又は背景パターンであると判定した場合、補正部226は、補正対象の入力画像内の角領域においてマーク、固定文字又は背景パターンを形成(復元、補正)して、角領域を補正し(ステップS1204)、一連のステップを終了する。補正部226は、対応する第2入力画像内の角領域を、補正対象の入力画像内の角領域に配置(複写)することにより、マーク、固定文字又は背景パターンを補正する。これにより、補正部226は、画像欠けにより損なわれたマーク、固定文字又は背景パターンを適切に復元することができる。
【0225】
なお、補正部226は、補正対象の入力画像内の角領域にコンテンツが存在しない場合でも、対応する第2入力画像内の角領域を、補正対象の入力画像内の角領域に配置(複写)することにより、背景色を補正してもよい。
【0226】
一方、コンテンツがマークでないと判定した場合、補正部226は、そのコンテンツがページ番号であるか否かを判定する(ステップS1205)。補正部226は、
図17のステップS902の処理と同様にして、対応する各第2入力画像の角領域内で文字認識処理を実行する。補正部226は、各第2入力画像の角領域内で数字が検出され且つ各第2入力画像の角領域内で検出された数字の差が各第2入力画像の撮像順番の差と一致する場合、コンテンツがページ番号であると判定する。一方、補正部226は、何れかの第2入力画像の角領域内で数字が検出されなかった場合、又は、各第2入力画像の角領域内で検出された数字の差が各第2入力画像の撮像順番の差と一致しなかった場合、コンテンツがページ番号でないと判定する。コンテンツがページ番号でないと判定した場合、補正部226は、補正を実行せずに、一連のステップを終了する。
【0227】
一方、コンテンツがページ番号であると判定した場合、補正部226は、補正対象の入力画像内の角領域においてページ番号を形成(復元、補正)して、角領域を補正し(ステップS1206)、一連のステップを終了する。補正部226は、各第2入力画像の角領域内で検出された数字の関係から、補正対象の入力画像のページ番号を特定し、特定したページ番号を補正対象の入力画像内の角領域に配置(書込み)することにより、ページ番号を補正する。これにより、補正部226は、画像欠けにより損なわれたページ番号を適切に復元することができる。
【0228】
このように、補正部226は、複数の入力画像のうちの特定の入力画像内で画像欠け判定部224により画像欠けが発生していると判定され且つコンテンツ判定部225により媒体端部の周辺にコンテンツが存在すると判定された角領域を、他の入力画像内の対応する角領域に基づいて補正する。これにより、補正部226は、画像欠けにより損なわれたコンテンツを適切に復元することができる。
【0229】
以上詳述したように、画像処理システム1は、第2入力画像を利用する場合も、画像欠けが発生している角領域においてコンテンツを良好に復元することが可能となった。
【0230】
図21(A)は、他の実施形態に係る画像読取装置における第1処理回路340の概略構成を示す図である。第1処理回路340は、画像読取装置100の第1処理回路140の代わりに使用され、第1処理回路140の代わりに、画像読取処理等を実行する。第1処理回路340は、制御回路341及び送信回路342等を有する。なお、これらの各部は、それぞれ独立した集積回路、マイクロプロセッサ、ファームウェア等で構成されてもよい。
【0231】
制御回路341は、制御部の一例であり、制御部141と同様の機能を有する。制御回路341は、第1操作装置105又は第1通信装置122から操作信号を、第1媒体センサ111から第1媒体信号を、第2媒体センサ114から第2媒体信号を、第3媒体センサ117から第3媒体信号を受信し、受信した各信号に基づいてモータ121及び撮像装置118を制御する。
【0232】
送信回路342は、送信部の一例であり、送信部142と同様の機能を有する。送信回路342は、撮像装置118から入力画像を取得し、第1通信装置122に出力する。
【0233】
以上詳述したように、画像読取装置が第1処理回路340を用いる場合も、画像処理システム1は、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。また、画像処理システム1は、画像内の媒体の角領域を適切に補正することが可能となった。また、画像処理システム1は、画像欠けが発生している角領域においてコンテンツを良好に復元することが可能となった。
【0234】
図21(B)は、他の実施形態に係る情報処理装置における第2処理回路420の概略構成を示す図である。第2処理回路420は、情報処理装置200の第2処理回路420の代わりに使用され、第2処理回路220の代わりに、判定処理等を実行する。第2処理回路420は、取得回路421、抽出回路422、検出回路423、画像欠け判定回路424、コンテンツ判定回路425、補正回路426、通知回路427及び出力制御回路428等を有する。なお、これらの各部は、それぞれ独立した集積回路、マイクロプロセッサ、ファームウェア等で構成されてもよい。
【0235】
取得回路421は、取得部の一例であり、取得部221と同様の機能を有する。取得回路421は、第2通信装置203から入力画像を受信し、第2記憶装置210に記憶する。
【0236】
抽出回路422は、抽出部の一例であり、抽出部222と同様の機能を有する。抽出回路422は、第2記憶装置210から入力画像を読み出し、入力画像からエッジ画素を抽出し、抽出結果を第2記憶装置210に記憶する。
【0237】
検出回路423は、検出部の一例であり、検出部223と同様の機能を有する。検出回路423は、第2記憶装置210から入力画像及びエッジ画像の抽出結果を読み出し、読み出した各情報に基づいて角領域を検出し、検出結果を第2記憶装置210に記憶する。
【0238】
画像欠け判定回路424は、画像欠け判定部の一例であり、画像欠け判定部224と同様の機能を有する。画像欠け判定回路424は、第2記憶装置210から入力画像及び角領域の検出結果を読み出し、読み出した各情報に基づいて角領域に画像欠けが発生しているか否かを判定し、判定結果を第2記憶装置210に記憶する。
【0239】
コンテンツ判定回路425は、コンテンツ判定部の一例であり、コンテンツ判定部225と同様の機能を有する。コンテンツ判定回路425は、第2記憶装置210から入力画像及び角領域の検出結果を読み出し、読み出した各情報に基づいて角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、判定結果を第2記憶装置210に記憶する。
【0240】
補正回路426は、補正部の一例であり、補正部226と同様の機能を有する。補正回路426は、第2記憶装置210から入力画像及び角領域の検出結果を読み出し、読み出した各情報に基づいて角領域を補正し、補正後の入力画像を第2記憶装置210に記憶する。
【0241】
通知回路427は、通知部の一例であり、通知部227と同様の機能を有する。通知回路427は、第2記憶装置210から画像欠け及びコンテンツの判定結果を読み出し、画像欠けが発生したことを第2表示装置202又は第2通信装置203に出力する。
【0242】
出力制御回路428は、出力制御部の一例であり、出力制御部228と同様の機能を有する。出力制御回路428は、第2記憶装置210から入力画像、又は、画像欠け及びコンテンツの判定結果を読み出し、判定結果に関する情報を第2表示装置202又は第2通信装置203に出力する。
【0243】
以上詳述したように、情報処理装置が第2処理回路420を用いる場合も、画像処理システム1は、画像内の媒体の角領域に画像欠けが発生しているか否かを簡易且つ高精度に判定することが可能となった。また、画像処理システム1は、画像内の媒体の角領域を適切に補正することが可能となった。また、画像処理システム1は、画像欠けが発生している角領域においてコンテンツを良好に復元することが可能となった。
【0244】
以上、好適な実施形態について説明してきたが、実施形態はこれらに限定されない。例えば、画像読取装置は、いわゆるUターンパスを有し、載置台に載置された媒体を上側から順に給送及び搬送し、排出台に排出してもよい。その場合、給送ローラは、分離ローラの上方に、分離ローラに対向して配置される。
【0245】
また、
図7の判定処理は、情報処理装置200でなく、画像読取装置100により実行されてもよい。その場合、画像読取装置100の第1処理回路140が、情報処理装置200の第2処理回路220が有する各部を有し、判定処理を実行する。第1処理回路140の取得部は、入力画像及び各種情報を、第1記憶装置130から読み出すことにより取得する。また、画像処理システム1は、情報処理装置200を一台でなく複数有し、各情報処理装置200が協働して、全体処理及び第2処理における各処理を分担してもよい。また、その場合、クラウドコンピューティングの形態で画像処理のサービスを提供できるように、ネットワーク上に複数の情報処理装置200を分散して配置してもよい。
【0246】
また、
図7のステップS209及び/又はS211において、補正部226は、画像欠けが発生していると判定された角領域を、その角領域に対応する第2入力画像内の角領域を用いて補正してもよい。その場合、補正部226は、
図16のステップS801の処理と同様にして、第2入力画像を読み出し、画像欠けが発生している角領域に、その角領域に対応する第2入力画像内の角領域を配置(複写)することにより、画像欠けが発生している角領域を補正する。その場合、補正部226は、画像欠けが発生している角領域において、欠けている部分のみを補正してもよい。
(付記1)
媒体を撮像した入力画像を取得する取得部と、
前記入力画像内で媒体の角が含まれると推定される角領域を検出する検出部と、
前記検出部により検出された角領域に画像欠けが発生しているか否かを判定する画像欠け判定部と、
前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定するコンテンツ判定部と、
前記画像欠け判定部により画像欠けが発生していると判定された角領域のうち、前記コンテンツ判定部により媒体端部の周辺にコンテンツが存在しないと判定された角領域を補正し、前記コンテンツ判定部により媒体端部の周辺にコンテンツが存在すると判定された角領域を補正しない補正部と、
前記補正部により補正された入力画像を出力する出力部と、
を有することを特徴とする画像処理装置。
(付記2)
前記コンテンツ判定部により媒体端部の周辺にコンテンツが存在すると判定された角領域がある場合、画像欠けが発生したことを利用者に通知する通知部をさらに有する、付記1に記載の画像処理装置。
(付記3)
前記コンテンツ判定部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部に対応する複数の画素の階調値の差、分散、周期性又は分布に基づいて、当該媒体端部の周辺にコンテンツが存在するか否かを判定する、付記1または2に記載の画像処理装置。
(付記4)
前記コンテンツ判定部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部の周辺で文字を認識した場合に、当該媒体端部の周辺にコンテンツが存在すると判定する、付記1または2に記載の画像処理装置。
(付記5)
前記コンテンツ判定部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域を含む領域内で文字を認識し、前記認識した文字が自然言語でない場合に、当該角領域内の媒体端部の周辺にコンテンツが存在すると判定する、付記1または2に記載の画像処理装置。
(付記6)
前記取得部は、前記入力画像の前又は後に媒体が撮像された第2入力画像をさらに取得し、
前記コンテンツ判定部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域に対応する前記第2入力画像内の角領域にコンテンツが存在する場合に、前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在すると判定する、付記1または2に記載の画像処理装置。
(付記7)
画像処理装置が、
媒体を撮像した入力画像を取得し、
前記入力画像内で媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
画像欠けが発生していると判定された角領域のうち、媒体端部の周辺にコンテンツが存在しないと判定された角領域を補正し、媒体端部の周辺にコンテンツが存在すると判定された角領域を補正せず、
前記補正された入力画像を出力する、
ことを特徴とする画像処理方法。
(付記8)
画像処理装置の制御プログラムであって、
媒体を撮像した入力画像を取得し、
前記入力画像内で媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
画像欠けが発生していると判定された角領域のうち、媒体端部の周辺にコンテンツが存在しないと判定された角領域を補正し、媒体端部の周辺にコンテンツが存在すると判定された角領域を補正せず、
前記補正された入力画像を出力する、
ことを前記画像処理装置に実行させることを特徴とする制御プログラム。
(付記9)
媒体を撮像した入力画像を取得する取得部と、
前記入力画像内でそれぞれ媒体の角が含まれると推定される四つの角領域を検出する検出部と、
前記検出部により検出された角領域に画像欠けが発生しているか否かを判定する画像欠け判定部と、
前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定するコンテンツ判定部と、
前記画像欠け判定部により画像欠けが発生していると判定され且つ前記コンテンツ判定部により媒体端部の周辺にコンテンツが存在すると判定された角領域を、当該角領域内の媒体端部の周辺画素に基づいて補正する補正部と、
前記補正部により補正された入力画像を出力する出力部と、
を有することを特徴とする画像処理装置。
(付記10)
通信部をさらに有し、
前記補正部は、前記通信部を介して前記周辺画素と類似する画素を含む画像を受信し、前記受信した画像に基づいて、前記角領域を補正する、付記9に記載の画像処理装置。
(付記11)
前記補正部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域を含む領域内で文字を認識し、前記認識した文字と類似する自然言語に基づいて、前記角領域を補正する、付記9または10に記載の画像処理装置。
(付記12)
前記補正部は、前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部において切断された罫線を延伸させることにより、前記角領域を補正する、付記9または10に記載の画像処理装置。
(付記13)
媒体を撮像した複数の入力画像を取得する取得部と、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出する検出部と、
前記検出部により検出された角領域に画像欠けが発生しているか否かを判定する画像欠け判定部と、
前記画像欠け判定部により画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定するコンテンツ判定部と、
前記複数の入力画像のうちの特定の入力画像内で前記画像欠け判定部により画像欠けが発生していると判定され且つ前記コンテンツ判定部により媒体端部の周辺にコンテンツが存在すると判定された角領域を、他の入力画像内の対応する角領域に基づいて補正する補正部と、
前記補正部により補正された入力画像を出力する出力部と、
を有することを特徴とする画像処理装置。
(付記14)
画像処理装置が、
媒体を撮像した入力画像を取得し、
前記入力画像内でそれぞれ媒体の角が含まれると推定される四つの角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
画像欠けが発生していると判定され且つ媒体端部の周辺にコンテンツが存在すると判定された角領域を、当該角領域内の媒体端部の周辺画素に基づいて補正し、
前記補正された入力画像を出力する、
ことを特徴とする画像処理方法。
(付記15)
画像処理装置が、
媒体を撮像した複数の入力画像を取得し、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
前記複数の入力画像のうちの特定の入力画像内で画像欠けが発生していると判定され且つ媒体端部の周辺にコンテンツが存在すると判定された角領域を、他の入力画像内の対応する角領域に基づいて補正し、
前記補正された入力画像を出力する、
ことを特徴とする画像処理方法。
(付記16)
画像処理装置の制御プログラムであって、
媒体を撮像した入力画像を取得し、
前記入力画像内でそれぞれ媒体の角が含まれると推定される四つの角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
画像欠けが発生していると判定され且つ媒体端部の周辺にコンテンツが存在すると判定された角領域を、当該角領域内の媒体端部の周辺画素に基づいて補正し、
前記補正された入力画像を出力する、
ことを前記画像処理装置に実行させることを特徴とする制御プログラム。
(付記17)
画像処理装置の制御プログラムであって、
媒体を撮像した複数の入力画像を取得し、
前記複数の入力画像内でそれぞれ媒体の角が含まれると推定される角領域を検出し、
前記検出された角領域に画像欠けが発生しているか否かを判定し、
画像欠けが発生していると判定された角領域内の媒体端部の周辺にコンテンツが存在するか否かを判定し、
前記複数の入力画像のうちの特定の入力画像内で画像欠けが発生していると判定され且つ媒体端部の周辺にコンテンツが存在すると判定された角領域を、他の入力画像内の対応する角領域に基づいて補正し、
前記補正された入力画像を出力する、
ことを前記画像処理装置に実行させることを特徴とする制御プログラム。
【符号の説明】
【0247】
1 画像処理システム、100 画像読取装置、200 情報処理装置、221 取得部、222 抽出部、223 検出部、 224 画像欠け判定部、225 コンテンツ判定部、226 補正部、227 通知部、228 出力制御部