(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-24
(45)【発行日】2024-07-02
(54)【発明の名称】画像処理装置、画像処理方法、及びプログラム
(51)【国際特許分類】
H04N 1/00 20060101AFI20240625BHJP
【FI】
H04N1/00 Z
(21)【出願番号】P 2020072256
(22)【出願日】2020-04-14
【審査請求日】2023-02-13
(31)【優先権主張番号】P 2019108182
(32)【優先日】2019-06-10
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】澁澤 直樹
【審査官】橘 高志
(56)【参考文献】
【文献】特開2017-103698(JP,A)
【文献】特開2009-278563(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 1/00
(57)【特許請求の範囲】
【請求項1】
受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記区間の画像データが補正された補正画像データを出力する補正画像出力部、を備え、
前記補正画像出力部は、
前記異常画像の区間の画像データと、
前記異常ライン画像における前記異常画像の区間の両側に位置する所定数の画素の画像データと、が補正された前記補正画像データを出力する
画像処理装置。
【請求項2】
位相同期回路のロック状態に基づいて、前記異常画像の区間を検出する異常検出部を備える
請求項
1に記載の画像処理装置。
【請求項3】
前記補正画像出力部は、
前記異常画像の区間の画像データが、前記受信画像における前記異常ライン画像の近傍のライン画像の画像データに置き換えられた前記補正画像データを出力する
請求項1
、又は2に記載の画像処理装置。
【請求項4】
前記補正画像出力部は、
前記異常ライン画像における前記異常画像の区間以外の画像データと、前記近傍のライン画像の画像データとの類似度に基づき、前記異常画像の区間の画像データが前記近傍のライン画像の画像データに置き換えられた前記補正画像データを出力する
請求項
3に記載の画像処理装置。
【請求項5】
前記補正画像出力部は、
複数ラインに跨って前記異常画像が発生した場合に、前記複数ラインに跨って前記異常画像が発生していない場合とは異なる方法で、前記区間の画像データが補正された前記補正画像データを出力する
請求項
1に記載の画像処理装置。
【請求項6】
位相同期回路のロック状態及び過去のライン周期に基づいて、補正ライン同期信号を生成する生成部を備える
請求項
5に記載の画像処理装置。
【請求項7】
補正画像出力部により、受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記異常画像の区間の画像データが補正された補正画像データを出力する工程を含み、
前記補正画像出力部は、
前記異常画像の区間の画像データと、
前記異常ライン画像における前記異常画像の区間の両側に位置する所定数の画素の画像データと、が補正された前記補正画像データを出力する
画像処理方法。
【請求項8】
補正画像出力部により、受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記異常画像の区間の画像データが補正された補正画像データを出力する
処理をコンピュータに実行させ、
前記補正画像出力部は、
前記異常画像の区間の画像データと、
前記異常ライン画像における前記異常画像の区間の両側に位置する所定数の画素の画像データと、が補正された前記補正画像データを出力するプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
従来、ライン同期信号に従って画像データの転送を行う画像処理装置では、画像転送中に転送エラーが発生した場合、転送エラーによる異常画像を補正する技術が知られている。
【0003】
また、一定の帯域を保証する同期(アイソクロナス)転送によるデータ転送中に、転送エラーによる異常画像が発生した場合に、転送エラーを検知して異常画像を補正する技術が開示されている(例えば、特許文献1参照)。
【0004】
さらに、1ライン分の画像データが転送されるべき一定期間中に転送エラーによる異常画像が発生した場合、ラインメモリに蓄積されているエラー発生前後のライン画像データを参照し、異常画像を補正する技術が開示されている(例えば、特許文献2参照)。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1及び2の技術では、異常画像の補正により転送画像全体の画質が低下する場合があった。
【0006】
開示の技術は、画質を低下させずに異常画像を補正することを課題とする。
【課題を解決するための手段】
【0007】
開示の技術の一態様に係る画像処理装置は、受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記異常画像の区間の画像データが補正された補正画像データを出力する補正画像出力部、を備え、前記補正画像出力部は、前記異常画像の区間の画像データと、前記異常ライン画像における前記異常画像の区間の両側に位置する所定数の画素の画像データと、が補正された前記補正画像データを出力する。
【発明の効果】
【0008】
開示の技術によれば、画質を低下させずに異常画像を補正することができる。
【図面の簡単な説明】
【0009】
【
図1】実施形態に係る画像処理装置の全体構成例を示すブロック図である。
【
図2】第1の実施形態に係る画像処理ASICの機能構成例を示すブロック図である。
【
図3】第1の実施形態に係る異常検出部のハードウェア構成例を示すブロック図である。
【
図4】第1の実施形態に係る異常検出処理例を説明する図である。
【
図5】蓄積された画像データ及び異常情報例を示す図であり、(a)は異常画像を含むライン画像を示す図、(b)は異常情報を示す図である。
【
図6】第1の実施形態に係る画像補正部のハードウェア構成例を示すブロック図である。
【
図7】画像補正部による補正結果の一例を説明する図であり、(a)は異常画像を含むライン画像を示す図、(b)は異常画像が補正されたライン画像を示す図である。
【
図8】第1の実施形態に係る画像処理ASICの処理例を示すフローチャートである。
【
図9】第2の実施形態に係る画像処理ASICの機能構成例を示すブロック図である。
【
図10】第2の実施形態に係る画像補正部のハードウェア構成例のブロック図である。
【
図11】複数ラインに跨って発生する異常の一例を説明するタイミングチャートであり、(a)は画像データに異常が発生する場合、(b)は画像データとライン同期信号の両方に異常が発生する場合を示す図である。
【
図12】複数ラインに跨って異常が生じた異常画像例を示す図である。
【
図13】画像処理ASICの機能構成例を示すブロック図である。
【
図14】補正処理部が補正処理で参照する画素例を示す図である。
【
図15】補正ライン同期信号の生成方法例の図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して発明を実施するための形態について説明する。各図面において、同一の構成部分には同一符号を付し、重複した説明を省略する場合がある。
【0011】
実施形態では、ライン同期信号に従って画像データの転送を行う際に、静電気等のノイズにより受信側回路のPLL(Phase Locked Loop;位相同期回路)ロックが外れ、受信画像に異常画像が発生した場合に、異常ライン画像を識別する識別情報と、異常ライン画像における異常画像の区間を示す情報に基づいて、異常画像区間の画像データを補正する。
【0012】
ここで、異常ライン画像とは、受信画像に含まれるライン画像のうち、異常画像を含むライン画像をいう。また、異常画像とは、受信画像において、転送エラーにより画像データが欠落した部分や、ノイズが大きくなった部分をいう。さらに、PLLロックとは、参照する基準クロックに対してPLLの出力信号が同期していることをいい、「PLLロックが外れる」とは、PLLがロックしていない状態をいう。
【0013】
[第1の実施形態]
<実施形態に係る画像処理装置1の全体構成>
図1は、本実施形態に係る画像処理装置1の全体構成の一例を説明するブロック図である。
図1に示すように、画像処理装置1は、スキャナ2と、プロッタ3と、画像処理ASIC(Application Specific Integrated Circuit)4と、コントローラASIC5と、記憶部であるHDD(Hard Disk Drive)6と、CPU(Central Processing Unit)7とを備える。
【0014】
これらのうち、スキャナ2は、画像処理装置1によるスキャン処理において、原稿画像を読み取り、読み取った画像データを画像処理ASIC4に転送する。プロッタ3は、画像処理装置1によるプリント処理において、画像処理ASIC4から転送された画像データに基づいて、用紙等の記録媒体に印刷を行う。
【0015】
画像処理ASIC4は、スキャン処理において、スキャナ2により読み取られ、スキャナ2から受信した受信画像に対して種々の画像処理を実行し、処理後の受信画像をコントローラASIC5に転送する。また、画像処理ASIC4は、プリント処理において、コントローラASIC5から転送された画像データに対して書き込みに適した画像処理を実行し、処理後の画像データをプロッタ3に転送する。
【0016】
また、画像処理ASIC4は、受信画像に含まれるライン画像を蓄積させるラインバッファ41を備えている。
【0017】
スキャナ2と画像処理ASIC4との間では、ライン同期信号を用いた画像転送が行われ、画像転送クロック、ライン同期信号、及び画像データ等が、スキャナ2から画像処理ASIC4に転送される。画像処理ASIC4は、スキャナ2から受信したクロックをPLLの基準クロックとし、転送された画像データを受信するための画像転送クロックを生成する。
【0018】
コントローラASIC5は、スキャン処理において、画像処理ASIC4から転送された画像データをHDD6に蓄積させる。また、コントローラASIC5は、プリント処理において、HDD6に蓄積された画像データを画像処理ASIC4に転送する。
【0019】
CPU7は、コントローラASIC5によるHDD6へのアクセスを制御する。
【0020】
<画像処理ASIC4の機能構成>
次に、画像処理装置1における画像処理ASIC4の機能構成について説明する。
図2は、画像処理ASIC4の機能構成の一例を説明するブロック図である。
図2に示すように、画像処理ASIC4は、異常検出部42と、画像蓄積部43と、異常情報蓄積部44と、画像補正部45と、内部バス46とを備える。
【0021】
これらのうち、異常検出部42は、スキャナ2から受信した受信画像に含まれる複数のライン画像の画像データを画像蓄積部43に出力する。また、異常検出部42は、異常ライン画像検出部421と、異常画像区間検出部422とを備え、受信画像における異常画像を検出し、異常ライン画像を識別する識別情報と、異常ライン画像における異常画像区間を示す情報を異常情報蓄積部44に出力する。
【0022】
異常ライン画像検出部421は、スキャナ2からの受信画像に含まれるライン画像のうち、異常画像を含む異常ライン画像を検出し、異常ライン画像を識別する識別情報を異常情報蓄積部44に出力する。
【0023】
異常画像区間検出部422は、異常ライン画像における異常画像に対応した画像の区間である異常画像区間を検出し、異常画像区間を示す情報を異常情報蓄積部44に出力する。
【0024】
画像蓄積部43は、ラインバッファ41等により実現され、異常検出部42から入力した複数のライン画像の画像データを蓄積する。蓄積された画像データは、画像補正部45により読み出され、読み出された画像データに対して補正処理が実行される。
【0025】
異常情報蓄積部44は、ラインバッファ41等により実現され、画像蓄積部43に蓄積されたライン画像のライン数分の異常情報を異常検出部42から入力し、ライン画像に対応させて異常情報を蓄積する。この異常情報には、上記の識別情報と、異常画像区間を示す情報とが含まれる。異常情報は、異常ライン画像と異常画像を含まない正常なライン画像のそれぞれに対応して蓄積される。異常ライン画像には、異常ライン画像であることを示す識別情報と、異常画像区間を示す情報が異常情報として蓄積され、正常なライン画像には、異常ライン画像でないことを示す識別情報と、異常画像区間が0であることを示す情報が異常情報として蓄積される。蓄積された異常情報は、画像蓄積部43に蓄積されたライン画像の画像データの読み出しに対応して画像補正部45により読み出される。
【0026】
画像補正部45は、出力選択部451と、補正処理部452と、補正画像出力部453とを備え、異常情報蓄積部44に蓄積された異常情報に基づいて、画像蓄積部43に蓄積された異常ライン画像における異常画像の補正をリアルタイムに実行する。そして、異常ラインが補正された画像の画像データをコントローラASIC5に出力する。
【0027】
出力選択部451は、異常情報蓄積部44から読み出した異常情報に基づき、画像蓄積部43から読み出したライン画像の画像データ、又は補正処理部452による補正後の画像データの何れか一方を、画像補正部45による補正画像データとして選択させる指示信号を補正画像出力部453に出力する。
【0028】
補正処理部452は、異常ライン画像の近傍の画像データを用いて、異常画像を補正する画像データを算出し、算出した画像データを補正画像出力部453に出力する。
【0029】
補正画像出力部453は、出力選択部451からの指示信号に応答して、画像蓄積部43から読み出したライン画像の画像データ、又は補正処理部452による補正後の画像データの何れか一方を、内部バス46を介してコントローラASIC5に出力する。
【0030】
<異常検出部42のハードウェア構成>
次に、画像処理ASIC4における異常検出部42の機能を実現するためのハードウェア構成について説明する。
図3は、異常検出部42のハードウェア構成の一例を説明するブロック図である。
図3に示すように、異常検出部42は、PLL425と、受信回路426と、カウンタ回路427とを含む。ここで、カウンタ回路427は、異常ライン画像検出部421の機能を実現する構成の一例であり、また、異常画像区間検出部422の機能を実現する構成の一例である。
【0031】
図3のPLL425は、スキャナ2から入力した基準クロックに基づき、画像処理ASIC4の内部で使用する画像転送クロックを生成し、受信回路426及びカウンタ回路427に出力する電子回路である。
【0032】
受信回路426は、スキャナ2から受信した画像データ及びライン同期信号を、PLL425で生成された画像転送クロックに同期させて、画像蓄積部43に出力する電子回路である。
【0033】
カウンタ回路427は、システムクロックに基づき動作するカウンタを含み、PLL425のロック状態を監視する電子回路である。
【0034】
ここで、
図3に示されている各信号を説明する。dataは、スキャナ2から転送される画像データを示し、lsyncは、スキャナ2から画像データとともに転送されるライン同期信号を示し、ref_clkは、スキャナ2から画像データとともに転送される基準クロックを示す。
【0035】
また、rx_clkは、基準クロックref_clkに基づいてPLL425で生成される画像転送クロックを示し、pll_lockは、PLL425が基準クロックref_clkにロックしていることを表すロック信号を示す。
【0036】
sys_clkは、画像転送に用いられるクロックと同じ周波数で、異なる発振源から供給されるシステムクロックを示し、err_detは、ライン画像の転送中にPLL425のロックが外れたことを検知するための異常検知信号を示す。
【0037】
err_stは、PLL425のロックが外れたタイミングにおけるカウンタ回路427によるカウント値を示し、err_endは、PLL425が再ロックしたタイミングにおけるカウンタ回路427によるカウント値を示す。カウント値err_st及びerr_endのそれぞれはレジスタで保持される。
【0038】
これらの信号のうち、異常検知信号err_det、カウント値err_st、及びカウント値err_endは、画像データのライン毎に検出されるものであるため、ライン同期信号に合わせてクリアされる。また、カウンタ回路427によるカウント値countも同様に、ライン同期信号に合わせてクリアされる。
【0039】
<異常検出部42による異常検出処理>
図4は、異常検出部42による処理の一例を説明する図である。
図4では、上段から下段の方向に順に、基準クロックref_clk、ロック信号pll_lock、ライン同期信号lsync、画像データdata、システムクロックsys_clk、異常検知信号err_det、カウント値count、カウント値err_st及びerr_endが示されている。
【0040】
図4において、1ライン分の画像データの受信中に静電気等によるノイズが重畳されると、PLLのロックが外れ、画像転送クロックrx_clkが異常動作して、転送エラーが発生する。その結果、PLLが再ロックするまでの期間では、画像処理ASIC4は、基準クロックref_clk及び画像データdataを正常に受信できず、画像データdataは異常画像になる。また、静電気等によるノイズは、瞬間的なものであっても、一旦PLLのロックが外れると再ロックまでにある程度の時間がかかり、その間の画像データdataは異常画像になる。
図4の画像データdataにおいて、斜線ハッチングで示した画像データ47は、このような異常画像の画像データを表している。
【0041】
PLLのロックが外れたタイミングにおいて、ロック信号pll_lockがネゲートされ、異常検知信号err_detはアサートされる。
【0042】
カウンタ回路427は、ロック信号pll_lockに基づいて、ノイズによる転送エラーを検出する。検出後、次に受信するライン画像のライン同期信号lsyncの受信時に、異常検知信号err_detの状態がHighの場合には異常を示す識別情報を、また、Lowの場合には正常を示す識別情報を、異常情報蓄積部44に出力して蓄積させる。
【0043】
また、カウンタ回路427は、画像転送に用いる基準クロックref_clkとは異なる発振源からの画像転送クロックrx_clkと同じ周波数のクロックでカウンタ回路427を動作させ、受信した画像データ(画素)のカウントをライン毎に行う。そして、PLLのロックが外れたタイミングにおけるカウント値を異常画像区間の始点画素とし、PLLが再ロックしたタイミングにおけるカウント値を異常画像区間の終点画素として、それぞれを異常情報蓄積部44に出力して蓄積させる。
【0044】
図4に示した例では、PLLのロックが外れ、ロック信号pll_lockが立ち下がったタイミングにおけるカウント値countに該当する「5」が、カウント値err_stとして出力される。また、PLLが再ロックし、ロック信号pll_lockが立ち上がったタイミングにおけるカウント値countに該当する「13」が、カウント値err_endとして出力される。
【0045】
<画像データ及び異常情報例>
図5は、蓄積された画像データ及び異常情報の一例を説明する図であり、(a)は画像蓄積部43に蓄積されたライン画像を説明する図、(b)は異常情報蓄積部44に蓄積された異常情報を説明する図である。
【0046】
図5は、4ラインのライン画像を蓄積可能なラインバッファ41を用いて画像データが蓄積された例を示している。また、
図5の例では、ライン番号0にスキャナ2から入力された最新のライン画像データが蓄積され、ライン番号1、ライン番号2及びライン番号3と数値が大きくなるにつれ、古いライン画像データが蓄積されているものとする。
【0047】
図5(a)に示された格子のそれぞれは、画像データの各画素を示しており、画像蓄積部43は、ライン番号0~3で表される4ラインのライン画像を蓄積している。また、斜線ハッチングで示された異常画像区間431は、異常画像に該当する区間を表している。
【0048】
図5(a)に示すように、ライン番号2のライン画像は、異常画像を含む異常ライン画像である。また、画素番号nを始点とし、画素番号mを終点とする区間は、異常画像に該当する異常画像区間である。
【0049】
図5(b)の識別情報441は、異常画像を含む異常ライン画像であるか否かを示す情報であり、白い四角は、異常ライン画像ではないことを表し、斜線ハッチングの四角は、異常ライン画像であることを表している。ライン番号2のライン画像は、異常ライン画像であるため、斜線ハッチングの四角が識別情報として蓄積され、ライン番号0、1及び3のライン画像は、異常ライン画像でないため、白い四角が識別情報として蓄積されている。
【0050】
また、
図5(b)の始点画素番号442は、異常画像の始点となる画素番号を表し、終点画素番号443は、異常画像の終点となる画素番号を表している。ライン番号2のライン画像は異常ライン画像であるため、異常画像の始点である画素番号「n」が蓄積され、異常画像の終点である画素番号「m」が蓄積されている。また、ライン番号0、1及び3のライン画像は異常ライン画像でないため、始点画素番号442及び終点画素番号443には、それぞれ「0」が蓄積されている。
【0051】
<画像補正部45のハードウェア構成>
次に、画像処理ASIC4における画像補正部45の機能を実現するためのハードウェア構成について説明する。
図6は、画像補正部45のハードウェア構成の一例を説明するブロック図である。
図6に示すように、画像補正部45は、出力選択部451の一例としての出力選択回路455と、補正処理部452の一例としての補正処理回路456と、補正画像出力部453の一例としての画像出力I/F(Interface)457とを含む。
【0052】
画像補正部45は、画像蓄積部43に蓄積された複数のライン画像のうち、読み出し対象のライン画像であるライン番号iのライン画像の画像データを読み出し、その前後のライン番号i-1、及びi+1のライン画像の画像データを読み出す。そして、これらを用いて補正処理を行う。なお、以下では、ライン番号i-1のライン画像をi-1ライン画像といい、ライン番号iのライン画像をiライン画像といい、ライン番号i+1のライン画像をi+1ライン画像という。
【0053】
出力選択回路455は、画像補正部45が画像蓄積部43からライン画像の画像データを読み出す前に、異常情報蓄積部44から読み出したiライン画像の異常情報に基づいて、画像補正部45による補正画像データを選択する。
【0054】
異常情報における識別情報441が異常ライン画像でないことを示す場合は、出力選択回路455は、iライン画像の画像データを補正画像データとして選択する。
【0055】
一方、識別情報441が異常ライン画像であることを示す場合は、出力選択回路455は、以下の(1)~(3)の規則に従って補正画像データを選択する。
(1)読み出す画素の画素番号が「始点画素番号-追加補正画素数」より小さい場合は、iライン画像の画像データを補正画像データとして選択する。
(2)読み出す画素の画素番号が「始点画素番号-追加補正画素数」以上で、かつ「終点画素番号+追加補正画素数」以下の場合は、補正後の画像データを補正画像データとして選択する。
(3)読み出す画素番号が「終点画素番号+追加補正画素数」より大きい場合は、iライン画像の画像データを補正画像データとして選択する。
【0056】
換言すると、出力選択回路455は、識別情報441が異常ライン画像であることを示す場合は、異常ライン画像における異常画像区間では、補正後の画像データを補正画像データとして選択し、異常画像区間以外の区間では、iライン画像の画像データを補正画像データとして選択する。
【0057】
ここで、上記の追加補正画素数とは、カウンタ回路427の動作クロックと、スキャナ2からのLVDS(Low Voltage Differential Signaling)転送クロックとの間の位相ずれや、ノイズ発生からPLLのロック外れまでの遅延時間等を考慮して、異常画像区間を調整するマージンとなる画素数をいう。また、追加補正画素数は、「所定数」の一例である。追加補正画素数は、デバイス特性等に応じて適切な画素数が予め設定される。
【0058】
補正処理回路456は、i-1ライン画像の画像データと、i+1ライン画像の画像データの平均値を算出して画像出力I/F457に出力する。但し、補正処理回路456は、平均値を算出せず、i-1ライン、又はi+1ラインの何れか一方の画像データを出力してもよい。このようにすると、i-1ライン画像の画像データ、又はi+1ライン画像の画像データの何れか一方と、読み出し対象であるiライン画像の画像データとを蓄積可能なラインバッファ41を用いて補正処理を実行できるため、ラインバッファ41の蓄積容量を削減できる。
【0059】
画像出力I/F457は、出力選択回路455による選択結果に応答して、画像蓄積部43から読み出したライン番号iの画像データ、又は補正処理回路456による補正処理結果の画像データの何れか一方を、内部バス46を介してコントローラASIC5に出力する。
【0060】
図7は、画像補正部45による補正結果の一例を説明する図であり、(a)は異常画像を含むライン画像を示す図であり、(b)は異常画像が補正されたライン画像を示す図である。
図7は、異常画像区間の始点画像番号はn、終点画素番号はmであり、追加補正画素数は1の場合の例を示している。
【0061】
図7(a)におけるiライン画像の異常画像区間71における各画素の画像データが、i-1ライン画像の異常画像区間71に対応する区間における各画素の画像データとi+1ライン画像の異常画像区間71に対応する区間における各画素の画像データの平均値に置き換えられる。具体的には、一例として、iライン画像の画素番号nの画素の画像データは、i-1ライン画像の画素番号nの画素の画像データと、i+1ライン画像の画素番号nの画素の画像データの平均値に置き換えられる。
【0062】
これにより、
図7(b)に示すように、異常画像区間72の画像データが補正される。また、追加補正画素数は1であるため、
図7(b)の異常画像区間72は、異常画像区間71に対して、主走査方向の正、負方向にそれぞれ1画素ずつ区間が長くなっている。
【0063】
<画像処理ASIC4による処理>
次に、
図8は、画像処理ASIC4による処理の一例を示すフローチャートである。
【0064】
まず、ステップS81において、画像蓄積部43は、異常検出部42を介してスキャナ2から受信した受信画像に含まれる複数のライン画像の画像データを蓄積する。
【0065】
続いて、ステップS82において、異常ライン画像検出部421は、画像蓄積部43に蓄積された複数のライン画像における異常ライン画像を検出する。
【0066】
続いて、ステップS83において、異常情報蓄積部44は、画像蓄積部43に蓄積された複数のライン画像のそれぞれに対して識別情報441を蓄積する。
【0067】
続いて、ステップS84において、異常画像区間検出部422は、異常ライン画像検出部421により検出された異常ライン画像における異常画像区間を検出する。
【0068】
続いて、ステップS85において、異常情報蓄積部44は、画像蓄積部43に蓄積された複数のライン画像のそれぞれに対して始点画素番号442及び終点画素番号443を蓄積する。
【0069】
続いて、ステップS86において、出力選択部451は、異常情報蓄積部44から読み出した異常情報に基づき、画像蓄積部43から読み出したライン画像の画像データ、又は補正処理部452による補正後の画像データの何れか一方を、画像補正部45による補正画像データとして選択させる指示信号を補正画像出力部453に出力する。
【0070】
続いて、ステップS87において、補正処理部452は、異常ライン画像の近傍の画像データを用いて、異常画像を補正する画像データを算出し、算出した画像データを補正画像出力部453に出力する。
【0071】
続いて、ステップS88において、補正画像出力部453は、出力選択部451からの指示信号に応答して、画像蓄積部43から読み出したライン画像の画像データ、又は補正処理部452による補正後の画像データの何れか一方を、内部バス46を介してコントローラASIC5に出力する。
【0072】
このようにして、画像処理ASIC4は、スキャナ2から転送された画像データにおける異常画像を検出し、補正することができる。
【0073】
<第1の実施形態に係る画像処理装置1の作用効果>
画像処理装置1の作用効果について説明する。
【0074】
MFP(Multifunction Peripheral/Printer/Product)やプリンタ等の画像処理装置において、スキャナ2で原稿を読み取って画像処理ASIC4へ画像転送している際に、読み取った画像に横スジが発生する場合があった。
【0075】
発明者らの解析の結果、LVDS転送される画像データを受信する側の画像処理ASIC4において、静電気等の外的要因によりPLLロックが外れることが原因の1つとなり、横スジが発生することが分かった。
【0076】
従来技術では、異常ライン画像の1ライン中における数画素のみが異常画像である場合でも、1ライン全体を補正するため、正常な画素も補正してしまうことで、受信画像全体の画質が低下する場合があった。
【0077】
本実施形態では、受信画像における異常ライン画像を識別する識別情報と、異常ライン画像における異常画像区間を示す情報とに基づき、異常ライン画像近傍のライン画像であるi-1ライン画像及びi+1ライン画像の画像データを用いて、異常画像区間の画像データを補正する。
【0078】
異常ライン画像における異常画像区間以外の画像データは補正しないため、正常な画素も補正してしまうことで受信画像全体の画質が低下することを防ぐことができる。そして、受信画像の画質を低下させずに異常画像を補正することができる。
【0079】
また、本実施形態では、異常ライン画像における異常画像区間の画像データを補正するとともに、異常ライン画像における異常画像区間の両側に位置する追加補正画素数の画素の画像データを補正する。これにより、スキャナ2等の機器の特性に伴う、カウンタ回路427の動作クロックとスキャナ2からのLVDS転送クロックとの間の位相ずれや、ノイズ発生からPLLのロック外れまでの遅延時間等の影響を抑制し、異常ライン画像における適切な区間の画像データを補正することができる。
【0080】
また、本実施形態では、異常検出部42は、PLL425のロック状態に基づいて、異常画像区間を検出する。画像データに基づき異常ライン画像を検出すると、CRC(Cyclic Redundancy Check)確認回路や8b10b復号回路等を備えることで回路規模が大きくなる場合があるが、本実施形態では、PLL425のロック状態に基づき、異常ライン画像を検出するため、検出回路の規模を小さくすることができる。
【0081】
また、本実施形態では、iライン画像の画像データを、i-1ライン画像、又はi+1ライン画像の何れかの画像データに置き換えて異常画像を補正する。i-1ライン画像の画像データとi+1ライン画像の画像データの平均値に置き換えて補正する場合等、iライン画像の前後の2つのライン画像を用いる場合と比較して、1つのライン画像を用いればよいため、ラインバッファ41の蓄積容量を削減できる。
【0082】
[第2の実施形態]
次に、第2の実施形態に係る画像処理装置1aについて説明する。
【0083】
<第2の実施形態に係る画像処理装置1aの構成>
図9は、画像処理装置1aの備える画像処理ASIC4aの機能構成の一例を説明するブロック図である。
図9に示すように、画像処理ASIC4aに含まれる画像補正部45aは、類似度取得部454を含む補正処理部452aを備える。
【0084】
類似度取得部454は、異常ライン画像における画素番号が「始点画素番号-追加補正画素数」より小さい区間において、画像蓄積部43からの読み出し対象のライン画像であるiライン画像の画像データと、前後のライン画像であるi-1及びi+1ライン画像のそれぞれの画像データとの間の類似度を取得する。
【0085】
なお、異常ライン画像において、類似度を取得する区間は、上記の「始点画素番号-追加補正画素数」より小さい区間に代えて、「終点画素番号+追加補正画素数」より大きい区間であってもよい。換言すると、類似度取得部454は、異常ライン画像における異常画像区間以外の画像データを用いて、類似度を取得する。
【0086】
また、以下では、説明の便宜のため、iライン画像の画像データとi-1ライン画像の画像データの類似度を類似度Aといい、iライン画像の画像データとi+1ライン画像の画像データの類似度を類似度Bという。
【0087】
また、類似度は、画素毎の画像データを減算し、差分の絶対値の総和であるSAD(Sum of Absolute Difference)を算出することで取得できる。また、SAD以外の公知の算出方法を類似度の取得に適用してもよい。
【0088】
補正処理部452aは、類似度Aと類似度Bとを比較し、類似度Aが大きい場合は、iライン画像における異常画像区間の画像データをi-1ライン画像の画像データに置き換えて補正する。一方、類似度Bが大きい場合は、iライン画像における異常画像区間の画像データを、i+1ライン画像の画像データに置き換えて補正する。
【0089】
図10は、画像処理ASIC4aの画像補正部45aを実現するハードウェア構成の一例を説明するブロック図である。
図9に示すように、iライン画像の画像データは、画像出力I/F457に入力されるとともに、補正処理部452aの一例としての補正回路456aにも入力される。補正回路456aにより、上述した補正処理部452aの機能が実現される。
【0090】
<第2の実施形態に係る画像処理装置1aの作用効果>
異常ライン画像がカラー領域とモノクロ領域の境界であった場合は、前後のライン画像の画像データの平均値に置き換えて補正するよりも、前後のライン画像のうち、類似度の高い方のライン画像の画像データに置き換えて補正した方がより自然な画像となる。本実施形態によれば、前後のライン画像のうち、類似度の高い方のライン画像の画像データに置き換えて補正することで、より自然な補正画像を得ることができる。
【0091】
一方で、異常ライン画像が主走査方向のグラデーション画像の場合、前後のライン画像の何れかの画像データに置き換えて補正するよりも、第1の実施形態で示したように、前後のライン画像の画像データの平均値に置き換えて補正した方がより自然な画像になる。従って、類似度の閾値を予め定めておき、取得した類似度A及びBの何れもが閾値を超えない場合は、前後のライン画像の画像データの平均値を用いて補正すると好適である。
【0092】
なお、上記以外の効果は、第1の実施形態で説明したものと同様である。
【0093】
[第3の実施形態]
上述した実施形態では、1ラインの転送中にノイズによる異常が発生し、またこのラインの転送中に正常に復帰した場合の補正について説明した。しかし、異常が発生するタイミング及び正常に復帰するタイミングが1ラインの転送中に収まらず、複数ラインに跨って異常が生じる場合がある。
【0094】
図11は、複数ラインに跨って発生する異常の一例を説明するタイミングチャートである。(a)は画像データに異常が発生する場合のタイミングチャート、(b)は画像データとライン同期信号の両方に異常が発生する場合のタイミングチャートである。
【0095】
図11(a)に示すように、異常画像データ112は、1つのライン同期信号111を跨いで生じている。つまり2ラインに跨って異常画像データが生じている。
【0096】
また
図11(b)において、ライン同期信号113は、異常により消失したライン同期信号を示している。静電気等のノイズによっては、ライン同期信号113と、異常画像データ114の両方で異常が生じる場合がある。
【0097】
また
図12は、複数ラインに跨って異常が生じた異常画像の一例を説明する図である。
図12において塗り潰して示した画素121は、異常画像を構成する画素を示している。
図12の例では、2ライン目のm番目の画素及びn番目の画素は異常画素であり、また3ライン目のm番目の画素及びn番目の画素も異常画素である。
【0098】
従ってm番目及びn番目の画素では、異常が生じたラインの前側又は後側の何れか一方は異常画素となるため、異常が生じたラインの前側及び後側の両方のラインにおけるm番目及びn番目の画素を参照して、異常画素を補正する処理を実行できない。
【0099】
そのため、本実施形態では、異常画素が複数のラインに跨るか否かを判定し、複数ラインに跨る画素では、前側のラインと後側の両方のラインを参照せず、前側又は後側の何れかの異常が発生していない画素を参照して、異常画素を補正可能にする。
【0100】
ここで、
図13は、画像処理ASIC4aの機能構成の一例を説明するブロック図である。
図13に示すように、画像処理ASIC4aは、異常検出部42aと、画像補正部45aと、生成部47とを備える。また、異常検出部42aは判定部423と、予測部424とを備えている。画像補正部45aは補正処理部452aを備えている。
【0101】
判定部423は、異常画像区間検出部422により検出された異常画像区間における異常開始画素及び異常終了画素のそれぞれの位置に基づき、異常画素が複数ラインに跨るか否かを判定し、判定結果を画像補正部45aに出力する。
【0102】
補正処理部452aは、異常画素が複数ラインに跨っていると判定された場合には、異常画素が1ラインにのみ存在する画素では前後のラインの画素値の平均値で異常画素の画素値を補正する。また異常画素が2ラインに存在する画素の前側のラインではそのさらに前側のラインの画素値を用いて異常画素の画素値を補正する。異常画素が2ラインに存在する画素の後側のラインではそのさらに後側のラインの画素値を用いて異常画素の画素値を補正する。
【0103】
また予測部424は、静電気ノイズ等でライン同期信号が消失した場合に、カウント値countに基づき算出した過去のライン周期の平均値Avg及び標準偏差σを用いて、補正ライン同期信号のアサートタイミングを予測し、予測結果を生成部47に出力する。なお、予測部424は、ライン同期信号に異常が発生した場合にはノイズと判断し、補正ライン同期信号をアサートさせないようにすることができる。
【0104】
生成部47は、予測部424から予測結果を入力し、予測されたタイミングで補正ライン同期信号を生成して内部バス46を介して受信デバイスに出力する。これにより、次ラインの開始を受信デバイスが検出できないことに起因する1ライン分の画像データの欠落を防止する。
【0105】
図14は、補正処理部452aが補正処理で参照する画素の一例を説明する図である。
【0106】
補正処理部452aは、異常画素が複数ラインに跨っていると判定された場合には、異常画素が1ラインにのみ存在する画素、つまり
図14の画素121におけるm番目及びn番目以外の画素では、前後のラインの画素値の平均値で異常画素の画素値を補正する。
【0107】
また異常画素が2ラインに存在する画素、つまり
図14の画素121におけるm番目及びn番目の画素では、前側のライン(
図14の2ライン目)ではそのさらに前側のライン(
図14の1ライン目)の画素値により異常画素の画素値を補正する。一方、後側のライン(
図14の3ライン目)ではそのさらに後側のライン(
図14の4ライン目)の画素値により異常画素の画素値を補正する。
【0108】
このようにして、複数ラインに跨って異常が生じた場合にも、異常画素の画素値を補正することができる。
【0109】
次に
図15は、複数ラインに跨って異常が生じ、ライン同期信号が消失してしまった場合の補正ライン同期信号の生成方法の一例を説明する図である。
【0110】
予測部424(
図12参照)は、カウント値countによる過去のライン同期信号の平均値Avg及び標準偏差σを算出して、補正ライン同期信号のアサートタイミングを予測する。このような予測処理と、予測結果に基づく補正ライン同期信号の生成処理は、信号pll_lockが外れている期間に実行される。
【0111】
図15の信号141,142のように、Avg±3σの範囲外にライン同期信号がアサートされる場合には、予測部424はこれらの信号をノイズと判断し、生成部47は補正ライン同期信号をアサートしない。
【0112】
またAvg±3σの範囲内にライン同期信号がアサートされる場合には、正常なライン同期信号と判断し、補正ライン同期信号をアサートする。さらにAvg±3σの範囲内にライン同期信号がアサートされない場合には、予測部424はライン同期信号が消失したと判断し、生成部47は生成した補正ライン同期信号143をアサートする。
【0113】
また、前ラインでPLLのロックが外れている期間にライン同期信号をアサートした場合には、カウント値countの値をCNTとするとCNT<Avg-6σでアサートされるライン同期信号をノイズと判断し、補正ライン同期信号をアサートしない。
【0114】
ここで、6σとしている理由は、実際に前段デバイスから送信されたライン同期信号のアサートタイミングと補正ライン同期信号のアサートタイミングにはある程度の時間差が生じると考えられるので、この時間差を考慮して余裕を持たせるためである。
【0115】
カウント値countは、ノイズと判断したライン同期信号ではクリアされず、補正ライン同期信号をアサートするタイミングでクリアされる。
【0116】
以上説明したように、本実施形態では、異常画素が複数ラインに跨るか否かを判定し、跨ると判定された場合には、異常画素が1ラインにのみ存在する画素では前後のラインの画素値の平均値で異常画素の画素値を補正する。また異常画素が2ラインに存在する画素における前側のラインでは、そのさらに前側のラインの画素値を用いて異常画素の画素値を補正する。また後側のラインでは、そのさらに後側のラインの画素値を用いて異常画素の画素値を補正する。
【0117】
これにより、異常が生じたラインの前側及び後側の両方のラインの画素値を用いずに補正できるため、異常画素が複数ラインに跨る場合には、異常画像を補正することができる。
【0118】
また本実施形態では、静電気ノイズ等でライン同期信号が消失した場合に、カウント値countに基づき算出した過去のライン同期信号の平均値Avg及び標準偏差σを用いて、補正ライン同期信号のアサートタイミングを予測し、生成した補正ライン同期信号をアサートする。これにより、次ラインの開始を受信デバイスがライン同期信号を検出できないことに起因する1ライン分の画像データの欠落を防止することができる。
【0119】
以上、実施形態について説明してきたが、本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【0120】
実施形態では、画像処理装置としてMFPやプリンタの例を示したが、画像データとともにライン同期信号及び基準クロックを転送するライン同期転送を用いる機器にも広く適用可能である。また、実施形態では、電子回路及び電気回路等のハードウェアで各機能部を実現する例を説明したが、CPUによりソフトウェアで各機能部を実現しても良い。
【0121】
また、実施形態は、画像処理方法も含む。例えば、画像処理方法は、受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記異常画像の区間の画像データが補正された補正画像データを出力する工程を含む。このような画像処理方法により、上述した画像処理装置と同様の効果を得ることができる。
【0122】
さらに、実施形態は、プログラムも含む。例えば、プログラムは、受信画像における異常ライン画像に含まれる異常画像の区間を示す情報に基づいて、前記異常画像の区間の画像データが補正された補正画像データを出力する処理をコンピュータに実行させる。このようなプログラムにより、上述した画像処理装置と同様の効果を得ることができる。
【0123】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【符号の説明】
【0124】
1 画像処理装置
2 スキャナ
3 プロッタ
4 画像処理ASIC
41 ラインバッファ
42 異常検出部
421 異常ライン画像検出部
422 異常画像区間検出部
423 判定部
424 予測部
425 PLL
426 受信回路
427 カウンタ回路
43 画像蓄積部
44 異常情報蓄積部
45 画像補正部
47 生成部
451 出力選択部
452 補正処理部
453 補正画像出力部
454 類似度取得部
455 出力選択回路
456 補正処理回路
457 画像出力I/F
46 内部バス
【先行技術文献】
【特許文献】
【0125】
【文献】特開2003-046709号公報
【文献】特開2011-239176号公報