IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社キーエンスの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022135893
(43)【公開日】2022-09-15
(54)【発明の名称】光学的情報読取装置
(51)【国際特許分類】
   G06K 7/14 20060101AFI20220908BHJP
   G06K 7/10 20060101ALI20220908BHJP
   G06N 20/00 20190101ALI20220908BHJP
   G06T 1/40 20060101ALI20220908BHJP
   G06V 30/162 20220101ALI20220908BHJP
   G06T 5/00 20060101ALI20220908BHJP
【FI】
G06K7/14 082
G06K7/10 372
G06K7/14 017
G06K7/14 039
G06N20/00
G06T1/40
G06K9/38 Z
G06T5/00 700
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2021164236
(22)【出願日】2021-10-05
(31)【優先権主張番号】P 2021033619
(32)【優先日】2021-03-03
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000129253
【氏名又は名称】株式会社キーエンス
(74)【代理人】
【識別番号】110001427
【氏名又は名称】弁理士法人前田特許事務所
(72)【発明者】
【氏名】山田 郁生
【テーマコード(参考)】
5B029
5B057
【Fターム(参考)】
5B029AA01
5B029BB02
5B029BB12
5B029BB17
5B029DD04
5B029EE01
5B029EE13
5B057CA08
5B057CA12
5B057CA16
5B057CB02
5B057CB06
5B057CB12
5B057CB16
5B057CC01
5B057CE01
5B057CE02
5B057CE05
5B057CE06
5B057CE11
(57)【要約】
【課題】機械学習の推論処理によって読み取り精度を向上させながら、当該推論処理の負荷によって処理時間が長時間化してしまうのを抑制する。
【解決手段】光学的情報読取装置は、ニューラルネットワークに読取画像を入力し、読取画像に対応する理想画像を生成する推論処理を実行する推論処理部と、読取画像をデコードする第1デコード処理と推論処理部が生成した理想画像をデコードする第2デコード処理とを実行するデコード処理部とを有するプロセッサとを備えている。プロセッサは、推論処理と第1デコード処理とを並列的に実行するとともに、推論処理の完了後に、第2デコード処理を実行する。
【選択図】図16
【特許請求の範囲】
【請求項1】
ワークに付されたコードを読み取る光学的情報読取装置であって、
コードを撮影し、読取画像を生成するカメラと、
前記カメラにより生成された読取画像に対応する理想画像を推定するためのニューラルネットワークの構造及びパラメータを記憶する記憶部と、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像に対応する理想画像を生成する推論処理を実行する推論処理部と、前記カメラにより生成された読取画像をデコードする第1デコード処理と前記推論処理部が生成した理想画像をデコードする第2デコード処理とを実行するデコード処理部とを有するプロセッサとを備え、
前記プロセッサは、前記推論処理部による推論処理と前記デコード処理部による第1デコード処理とを並列的に実行するとともに、前記推論処理部による推論処理の完了後に、前記デコード処理部による前記第2デコード処理を実行するように構成されている光学的情報読取装置。
【請求項2】
請求項1に記載の光学的情報読取装置において、
前記デコード処理部は、前記第1デコード処理と前記第2デコード処理とを別スレッドで並列的に実行するコアを有している光学的情報読取装置。
【請求項3】
請求項1に記載の光学的情報読取装置において、
前記デコード処理部は、前記第1デコード処理と前記第2デコード処理とを異なるコアで実行可能なマルチコアで構成されている光学的情報読取装置。
【請求項4】
請求項1から3のいずれか1つに記載の光学的情報読取装置において、
前記デコード処理部は、前記カメラにより生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する抽出処理と、当該抽出処理により読取画像の中から抽出された部分画像をデコードする前記第1デコード処理とを実行する汎用コアを有し、
前記推論処理部は、抽出処理により読取画像の中から抽出された部分画像を入力し、当該読取画像に対応する理想画像を生成する推論処理を実行する推論処理専用コアを有している光学的情報読取装置。
【請求項5】
請求項4に記載の光学的情報読取装置において、
前記汎用コアは、前記推論処理専用コアによる推論処理で生成された理想画像をデコードする第2デコード処理を実行する光学的情報読取装置。
【請求項6】
請求項4または5に記載の光学的情報読取装置において、
前記汎用コアは、前記抽出処理を実行する第1コアと、前記第1デコード処理を実行する第2コアと、前記第2デコード処理を実行する第3コアとを有している光学的情報読取装置。
【請求項7】
請求項4から6のいずれか1つに記載の光学的情報読取装置において、
前記汎用コアは、前記推論処理専用コアによる推論処理で理想画像が生成された場合、前記第1デコード処理に優先して前記理想画像をデコードする前記第2デコード処理を実行する光学的情報読取装置。
【請求項8】
請求項5から7のいずれか1つに記載の光学的情報読取装置において、
前記推論処理専用コアは、前記汎用コアによる抽出処理の結果、複数の前記部分画像が抽出された場合、複数の前記部分画像に対して所定の順番に従って推論処理を実行し、
前記汎用コアは、前記抽出処理の結果、複数の前記部分画像が抽出された場合、複数の前記部分画像に対して所定の順番に従って前記第1デコード処理を実行する光学的情報読取装置。
【請求項9】
請求項8に記載の光学的情報読取装置において、
前記プロセッサは、前記第1デコード処理でデコードに成功した場合は、前記推論処理部による推論処理を終了させるように構成されている光学的情報読取装置。
【請求項10】
請求項4から9のいずれか1つに記載の光学的情報読取装置において、
前記汎用コアは、前記コード候補領域を第1の所定条件で抽出する第1抽出処理と、前記コード候補領域を前記第1の所定条件よりも精度の高い抽出を可能にする第2の所定条件で抽出する第2抽出処理と、前記第1抽出処理により読取画像の中から抽出された部分画像をデコードする前記第1デコード処理とを実行し、
前記推論処理専用コアは、前記第2抽出処理により読取画像の中から抽出された部分画像を入力し、当該読取画像に対応する理想画像を生成する推論処理を実行する光学的情報読取装置。
【請求項11】
請求項4から10のいずれか1つに記載の光学的情報読取装置において、
前記抽出処理により読取画像の中から抽出された部分画像が記憶されており、前記汎用コア及び前記推論処理専用コアが共にアクセス可能なメモリを備えている光学的情報読取装置。
【請求項12】
請求項4から11のいずれか1つに記載の光学的情報読取装置において、
前記汎用コア及び前記推論処理専用コアが同一の基板上に実装されており、
前記推論処理専用コアは、ニューラルネットワークによる推論処理専用の専用コアで構成されている光学的情報読取装置。
【請求項13】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記カメラにより生成された読取画像に対する第1デコード処理を実行する第1デコード処理部と、
前記画像修復部が生成した修復画像に対する第2デコード処理を実行する第2デコード処理部と、をさらに備え、
前記第2デコード処理部は、前記読取画像からコードが存在する可能性が高いコード候補領域を抽出するとともに、前記画像修復部に対し、推論処理を実行するようトリガ信号を送出し、
前記画像修復部は、前記第2デコード処理部から送出されたトリガ信号を受信すると、前記第2デコード処理部が抽出した前記コード候補領域に対応する部分画像を前記ニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行し、
前記第2デコード処理部は、前記修復画像に基づいてコードの各セル位置を示すグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコード処理を実行する光学的情報読取装置。
【請求項14】
請求項13に記載の光学的情報読取装置において、
前記画像修復部による推論処理と前記第1デコード処理部による第1デコード処理は並列に実行され、前記第2デコード処理部が第2デコード処理を実行している期間の少なくとも一部は前記画像修復部による推論処理が実行されない休止期間を有する光学的情報読取装置。
【請求項15】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記カメラにより生成された読取画像に対する第1デコード処理を実行する第1デコード処理部と、
前記画像修復部が生成した修復画像に対する第2デコード処理を実行する第2デコード処理部と、
前記第2デコード処理を実行するか否かを設定する設定部と、をさらに備え、
前記第1デコード処理部は、前記第2デコード処理にかかる時間よりも短い時間で前記第1デコード処理を実行可能であり、
前記設定部は、前記第2デコード処理を実行すると設定されている場合は、前記第2デコード処理の実行に必要な時間よりも長いデコードタイムアウト時間を設定されるとともに、前記第2デコード処理を実行しないと設定されている場合は、前記第2デコード処理の実行に必要な時間よりも短いデコードタイムアウト時間を設定可能に構成されている光学的情報読取装置。
【請求項16】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記カメラにより生成された読取画像に対する第1デコード処理と、前記第1デコード処理と並列に、前記画像修復部が生成した修復画像に対する第2デコード処理を実行するデコード処理部と、
前記第2デコード処理を実行するか否かを設定する設定部と、をさらに備え、
前記デコード処理部は、前記設定部により前記第2デコード処理を実行しないと設定されている場合は、前記第2デコード処理に使われる処理のリソースを前記第1デコード処理に振り分け、前記第2デコード処理を実行すると設定されている場合に比べ、前記第1デコード処理を高速化する光学的情報読取装置。
【請求項17】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記画像修復部が生成した修復画像に対するデコード処理を実行するデコード処理部と、をさらに備え、
前記デコード処理部は、前記読取画像からコードが存在する可能性が高いコード候補領域を抽出し、
前記画像修復部は、前記デコード処理部が抽出した前記コード候補領域に対応する部分画像を前記ニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行し、
前記デコード処理部は、前記修復画像に基づいてコードの各セル位置を示すグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコードを実行する光学的情報読取装置。
【請求項18】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記画像修復部が生成した修復画像に対するデコード処理を実行するデコード処理部と、
前記カメラの撮像条件及び前記デコード処理のデコード条件を変化させて、撮像及びデコード処理を繰り返し、各撮像条件及びデコード条件にて算出されたコードの読み取りのしやすさを示すマッチングレベルに基づいて、最適な撮像条件及びデコード条件を決定するとともに、読取対象のコードの大きさを設定するチューニング処理を実行するチューニング実行部と、を更に備え、
前記デコード処理部は、
前記チューニング処理により設定された読取対象のコードを包含できるサイズで、かつ前記読取画像の中でコードが存在する可能性が高いコード候補領域を抽出し、当該抽出された画像を、予め定められたサイズとなるように縮小又は拡大してから前記ニューラルネットワークに入力し、当該ニューラルネットワークで修復した修復画像をデコードする光学的情報読取装置。
【請求項19】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
少なくともコードを照明する照明光を発生する複数の光源と、
前記光源で発生した光のうち、第1の偏光成分の光を通過させる第1偏光板と、
前記第1の偏光成分と略直交する第2の偏光成分の光を通過させる第2偏光板と、をさらに備え、
前記カメラは、前記第1偏光板を通過し、コードから反射した光を前記第2偏光板を介して受光し、前記ワークの正反射成分を除去することにより、前記第1偏光板及び前記第2偏光板を介さない場合に比べて低コントラストな読取画像を生成し、
前記プロセッサは、前記低コントラストな読取画像を前記ニューラルネットワークに入力することにより、入力前に比べて高コントラストな修復画像に変換し、当該修復画像に対してデコード処理を実行する光学情報読取装置。
【請求項20】
請求項1から12のいずれか1つに記載の光学的情報読取装置において、
前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、
前記画像修復部が生成した修復画像に対するデコード処理を実行するデコード処理部と、
前記カメラの撮像条件を変化させて、撮像及びデコード処理を繰り返し、各撮像条件にて算出されたコードの読み取りのしやすさを示すマッチングレベルに基づいて、前記撮像条件及び読取対象のコードのコード条件を複数設定可能なチューニング実行部と、を更に備え、
前記記憶部は、前記チューニング実行部により設定された第1の撮像条件及びコード条件と第2の撮像条件及びコード条件とを含む複数の撮像条件及びコード条件を記憶し、
前記デコード処理部は、前記記憶部に記憶されている複数の読取条件の内、前記第1の撮像条件及びコード条件で生成された読取画像を前記ニューラルネットワークに入力して修復画像を生成し、当該修復画像のデコード処理に失敗した場合は前記第2の撮像条件及びコード条件で生成された読取画像を前記ニューラルネットワークに入力して修復画像を生成し、当該修復画像のデコードを実行する光学情報読取装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報を光学的に読み取る光学的情報読取装置に関する。
【背景技術】
【0002】
近年、たとえば物品の流通経路を製造段階から消費段階あるいは廃棄段階まで追跡可能にする、いわゆるトレーサビリティが重要視されてきており、このトレーサビリティを目的としたコードリーダが普及してきている。また、トレーサビリティ以外にもコードリーダは様々な分野で利用されている。
【0003】
一般的に、コードリーダは、ワークに付されたバーコードや二次元コード等のコードをカメラによって撮影し、得られた画像に含まれるコードを画像処理によって切り出して二値化し、デコード処理して情報を読み取ることができるように構成されており、情報を光学的に読み取る装置であることから光学的情報読取装置とも呼ばれている。
【0004】
この種の光学的情報読取装置としては、例えば特許文献1に開示されているように、ロボットの視覚センサにより取得したコードの画像と、理想的なコードの画像との関係を示すモデル構造を学習する機械学習装置を備えたものが知られている。特許文献1には、運用時に視覚センサにより取得したコードの画像に、機械学習装置による学習結果を適用することで、読み取りに適した画像に修復することが記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第6683666号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、機械学習による画像の修復、即ち理想画像の推論処理はプロセッサの演算負荷が重く、処理に時間がかかる。そのため、読み取りが難しくない読取画像、即ち印字状態が良好な読取画像であれば、ニューラルネットワークに入力して理想画像の推論処理を実行するまでもなく、ただちに読取画像に対してデコード処理を実行する方が処理時間を考慮すると好ましい。一方、機械学習による推論処理が必要かどうかを読取画像から事前に判断することは容易ではなく、また、デコード処理と機械学習による推論処理をシリアルに実施すると処理に時間がかかってしまう。
【0007】
本発明は、かかる点に鑑みてなされたものであり、その目的とするところは、機械学習の推論処理によって読み取り精度を向上させながら、当該推論処理の負荷によって処理時間が長時間化してしまうのを抑制することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本開示の一態様では、ワークに付されたコードを読み取る光学的情報読取装置を前提とすることができる。光学的情報読取装置は、コードを撮影し、読取画像を生成するカメラと、前記カメラにより生成された読取画像に対応する理想画像を推定するためのニューラルネットワークの構造及びパラメータを記憶する記憶部と、前記記憶部に記憶された構造及びパラメータで構成されたニューラルネットワークに前記カメラにより生成された読取画像を入力し、前記読取画像に対応する理想画像を生成する推論処理を実行する推論処理部と、前記カメラにより生成された読取画像をデコードする第1デコード処理と前記推論処理部が生成した理想画像をデコードする第2デコード処理とを実行するデコード処理部とを有するプロセッサとを備えている。前記プロセッサは、前記推論処理部による推論処理と前記デコード処理部による第1デコード処理とを並列的に実行するとともに、前記推論処理部による推論処理の完了後に、前記デコード処理部による前記第2デコード処理を実行するように構成されている。
【0009】
この構成によれば、コードの印字状態が悪い場合のように、光学的情報読取装置の運用時にカメラにより生成された読取画像がコードの読取に適していない場合には、カメラにより生成された読取画像を推論処理部に入力して推論処理を実行することで理想画像が生成される。一方、コードの印字状態が良好な場合のように、光学的情報読取装置の運用時にカメラにより生成された読取画像がコードの読取に適している場合には、カメラにより生成された読取画像を推論処理部に入力することなく、デコード処理部で第1デコード処理する。推論処理と、第1デコード処理とが並列的に実行されるので、推論処理が必要な読取画像に対する推論処理の実行中に、推論処理が不要な別の読取画像に対するデコード処理を実行すること、または、推論処理が不要な読取画像に対するデコード処理の実行中に、推論処理が必要な別の読取画像に対する推論処理を実行することができる。これにより、処理時間が短縮される。尚、第1デコード処理と、推論処理とが同じ読取画像に対して実行されてもよい。
【0010】
また、推論処理部による推論処理の完了後には、第2デコード処理を実行して理想画像をデコードするので、読み取り精度が高まる。
【0011】
本開示の他の態様では、前記デコード処理部が、前記第1デコード処理と前記第2デコード処理とを別スレッドで並列的に実行するコアを有していてもよい。
【0012】
本開示の他の態様では、前記デコード処理部が、前記第1デコード処理と前記第2デコード処理とを異なるコアで実行可能なマルチコアで構成されていてもよい。
【0013】
この構成によれば、第1デコード処理を実行するコアと、第2デコード処理を実行するコアとが別のコアになるので、第1デコード処理と第2デコード処理と並列的に実行でき、処理時間が短縮される。
【0014】
本開示の他の態様では、前記デコード処理部が、前記カメラにより生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する抽出処理と、当該抽出処理により読取画像の中から抽出された部分画像をデコードする前記第1デコード処理とを実行する汎用コアを有している。前記推論処理部は、抽出処理により読取画像の中から抽出された部分画像を入力し、当該読取画像に対応する理想画像を生成する推論処理を実行する推論処理専用コアを有している。
【0015】
この構成によれば、コード候補領域の抽出処理と、抽出処理により抽出された部分画像をデコードする第1デコード処理とを汎用コアで実行し、推論処理を汎用コアとは別の推論処理に特化した推論処理専用コアで実行することができるので、推論処理を高速化できる。
【0016】
本開示の他の態様では、前記汎用コアが、前記推論処理専用コアによる推論処理で生成された理想画像をデコードする第2デコード処理を実行するものである。
【0017】
本開示の他の態様では、前記汎用コアが、前記抽出処理を実行する第1コアと、前記第1デコード処理を実行する第2コアと、前記第2デコード処理を実行する第3コアとを有している。
【0018】
この構成によれば、抽出処理、第1デコード処理及び第2デコード処理を全て別のコアで実行することができる。特に、第2コア及び第3コアをデコード処理に特化したコアにすることができるので、処理がより一層高速化する。
【0019】
本開示の他の態様では、前記推論処理専用コアによる推論処理で理想画像が生成された場合、前記汎用コアが前記第1デコード処理に優先して前記理想画像をデコードする前記第2デコード処理を実行するものである。
【0020】
すなわち、推論処理で理想画像が生成される場合は、カメラで生成された読取画像に対する第1デコード処理の処理時間が長くかかり、読み取りにくい画像であると考えられる。従って、理想画像が生成された場合には、カメラで生成された読取画像に対する第1デコード処理に優先して理想画像をデコードすることで、結果的に短時間で高精度な読み取り結果が得られる。
【0021】
本開示の他の態様では、前記汎用コアによる抽出処理の結果、複数の前記部分画像が抽出された場合、前記推論処理専用コアが、複数の前記部分画像に対して所定の順番に従って推論処理を実行することができる。また、前記汎用コアは、前記抽出処理の結果、複数の前記部分画像が抽出された場合、複数の前記部分画像に対して所定の順番に従って前記第1デコード処理を実行することができる。
【0022】
すなわち、ワークを撮影して1枚の読取画像が生成された場合に、その1枚の読取画像に複数のコード候補領域が存在することがある。この場合、複数の部分画像が抽出されることになる。複数の部分画像に対して、例えば推論処理の優先度が高い順番に推論処理を実行することができる。また、複数の部分画像に対して、例えばデコード処理の優先度が高い順番に第1デコード処理を実行することができる。優先度は、所定の順番を決定するための条件に基づくものであってもよく、例えばコードの可能性が高い部分画像から処理を実行していってもよい。
【0023】
本開示の他の態様では、前記プロセッサが、前記第1デコード処理でデコードに成功した場合は、前記推論処理部による推論処理を終了させるように構成されている。
【0024】
すなわち、第1デコード処理は、推論処理をしていない読取画像に対するデコード処理である。この読取画像に対するデコード処理が成功したということは、読み取りが難しくない読取画像であったということであり、推論処理が不要な場合である。この場合に推論処理が途中であっても当該推論処理を終了させることで、次に入力された別の読取画像に対する推論処理を早期に開始させることが可能になる。
【0025】
本開示の他の態様では、前記汎用コアが、前記コード候補領域を第1の所定条件で抽出する第1抽出処理と、前記コード候補領域を前記第1の所定条件よりも精度の高い抽出を可能にする第2の所定条件で抽出する第2抽出処理と、前記第1抽出処理により読取画像の中から抽出された部分画像をデコードする前記第1デコード処理とを実行することができる。また、前記推論処理専用コアは、前記第2抽出処理により読取画像の中から抽出された部分画像を入力し、当該読取画像に対応する理想画像を生成する推論処理を実行することができる。
【0026】
この構成によれば、汎用コアが、比較的精度の低い第1抽出処理と、比較的精度の高い第2抽出処理とを行うことができる。第1抽出処理は、精度が低い分、高速な抽出が可能になるので、この第1抽出処理により読取画像の中から抽出された部分画像を第1デコード処理でデコードし、デコードに成功すれば、読み取り結果を短時間で出力することができる。
【0027】
一方、第1デコード処理でデコードを失敗する読取画像は、読み取りが難しい画像であり、第1抽出処理での抽出が困難な場合がある。この場合には、より高精度な抽出が可能な第2抽出処理で抽出された部分画像を推論処理専用コアによって推論処理し、理想画像を生成する。生成された理想画像に対して第2デコード処理することで、読み取り精度が高まる。
【0028】
すなわち、第1デコード処理は、読み取りが簡単な読取画像の読み取り結果を高速に出力することができ、また、第2デコード処理は、第1デコード処理でデコードを失敗する可能性の高い読取画像に対しても読み取りを可能にしてデコードが失敗する頻度を低くすることができる。
【0029】
本開示の他の態様では、前記抽出処理により読取画像の中から抽出された部分画像が記憶されており、前記汎用コア及び前記推論処理専用コアが共にアクセス可能なメモリを光学的情報読取装置が備えている。
【0030】
この構成によれば、抽出処理による抽出結果を汎用コアと推論処理専用コアとで共有することができるので、処理を高速化できる。メモリはRAM等で構成されており、汎用コアと推論処理専用コアとが同一のRAMにアクセス可能に構成できる。
【0031】
本開示の他の態様では、前記汎用コア及び前記推論処理専用コアが同一の基板上に実装されていてもよい。この場合、前記推論処理専用コアは、ニューラルネットワークによる推論処理専用のICやFPGA等で構成することができる。
【0032】
本開示の他の態様では、ニューラルネットワークに読取画像を入力し、読取画像を修復した修復画像を生成する推論処理を実行する画像修復部と、カメラにより生成された読取画像に対する第1デコード処理を実行する第1デコード処理部と、画像修復部が生成した修復画像に対する第2デコード処理を実行する第2デコード処理部とをさらに備えている。第2デコード処理部は、読取画像からコード候補領域を抽出するとともに、画像修復部に対し、推論処理を実行するようトリガ信号を送出する。画像修復部は、第2デコード処理部から送出されたトリガ信号を受信すると、コード候補領域に対応する部分画像をニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行する。第2デコード処理部は、修復画像に基づいてコードの各セル位置を示すグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコードを実行することができる。つまり、推論処理されていない通常の読取画像のデコードを第1デコード処理部が実行し、また、推論処理による修復画像の生成を画像修復部が実行し、また、推論処理により修復された修復画像のデコードを第2デコード処理部が実行することで、それぞれに適した処理回路を構築して処理速度の高速化を図ることができる。加えて、画像修復部は、コード候補領域に対応する部分画像を修復すればよいので、処理速度の更なる高速化が可能になる。
【0033】
本開示の他の態様では、画像修復部による推論処理と、第1デコード処理部による第1デコード処理を並列に実行することで、処理速度の高速化を図ることができる。また、第2デコード処理部が第2デコード処理を実行している期間の少なくとも一部は、画像修復部による推論処理が実行されない休止期間を有しているので、画像修復部の負荷低減や、発熱を抑制できる。この場合、第2デコード処理部は、複数のコアで構成されていてもよい。
【0034】
本開示の他の態様では、第1デコード処理部は、第2デコード処理にかかる時間よりも短い時間で第1デコード処理を実行できる。また、設定部により、第2デコード処理を実行するか否か、即ち、修復画像のデコード処理を実行するか否かを切り替えることができる。第2デコード処理は、修復画像のデコード処理を実行するため、通常の読取画像のデコード処理を実行する第1デコード処理に比べて処理にかかる時間が長い。これを前提としたとき、第2デコード処理を実行すると設定されている場合は、第2デコード処理の実行に必要な時間よりも長いデコードタイムアウト時間(デコード制限時間)を設定することができる。一方、第2デコード処理を実行しないと設定されている場合は、第2デコード処理の実行に必要な時間よりも短いデコードタイムアウト時間を設定することができるので、修復画像に対するデコードがデコードタイムアウト時間を超過すると、速やかに次に撮像された画像のデコード処理に移行できる。
【0035】
本開示の他の態様に係るデコード処理部は、カメラにより生成された読取画像に対する第1デコード処理と並列に、修復画像に対する第2デコード処理を実行できるので、読取画像と修復画像とが混在していても、処理速度を高速化できる。このデコード処理部は、設定部により第2デコード処理を実行しないと設定されている場合は、第2デコード処理に使われる処理のリソースを第1デコード処理に振り分けることができる。処理のリソースとは、例えばメモリの使用領域や、マルチコアCPUを構成しているコア等であり、第2デコード処理に使われる処理のリソースとしてメモリ領域やコアが予め設定されている場合に、第2デコード処理を実行しないと設定されると、そのメモリ領域やコアを第1デコード処理に使うことができるので、第1デコード処理をより一層高速化できる。
【0036】
本開示の他の態様に係るデコード処理部は、読取画像からコードが存在する可能性が高いコード候補領域を抽出する。画像修復部は、コード候補領域に対応する部分画像をニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する。デコード処理部は、画像修復部が生成した修復画像に基づいてグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコードを実行する。すなわち、修復画像の生成には時間がかかる場合が多いので、修復画像の生成前に、例えばコードらしさを示す特徴量に基づいてコード候補領域を抽出しておくことで、修復画像の生成に要する時間を短縮できる。また、グリッド位置の決定は修復後の画像に基づいて高精度に実行できるので、読取性能が向上する。
【0037】
本開示の他の態様では、最適な撮像条件及びデコード条件を決定するとともに、読取対象のコードの大きさを設定するチューニング処理を実行する。デコード処理部は、チューニング処理で設定されたコードの大きさに基づき、読取画像の中からコード候補領域を含む抽出画像のサイズを決定できる。その抽出画像を予め定められたサイズの画像に拡大・縮小してニューラルネットワークに入力することで、ニューラルネットワークに入力されるコード画像のPPCを所定の範囲内に収めることができ、ニューラルネットワークによる画像修復効果を安定的に引き出すことができる。また、読取対象のコードサイズは様々であることが考えられるが、最終的にニューラルネットワークに入力されるコードのサイズを固定できるので、処理の高速性とデコードのし易さのバランスを一定以上に保つことができる。
【0038】
本開示の他の態様に係るカメラは、第1偏光板を通過し、コードから反射した光を第2偏光板を介して受光し、第1偏光板及び第2偏光板を介さない場合に比べて低コントラストな読取画像を生成する。偏光板を使用することで、ワークの正反射成分が除去されるので、正反射成分の影響が軽減された読取画像を取得できる。例えば金属ワークを撮像した場合のように正反射成分が多くなる画像に偏光板は適しているものの、光量の低下によって読取画像が暗くなり、コントラストが低下することがある。このような場合に、ニューラルネットワークの推論処理によって高コントラストな修復画像に変換することで、読取性能が向上する。
【0039】
本開示の他の態様では、チューニング実行部により、第1の撮像条件及びコード条件と、第2の撮像条件及びコード条件とを含む複数の撮像条件及びコード条件を設定することができる。デコード処理部は、第1の撮像条件及びコード条件で生成された読取画像をニューラルネットワークに入力して修復画像を生成し、当該修復画像のデコード処理に失敗した場合は、第1の撮像条件及びコード条件とは異なる第2の撮像条件及びコード条件で生成された読取画像をニューラルネットワークに入力して修復画像を生成し、当該修復画像のデコードを実行することができる。
【発明の効果】
【0040】
以上説明したように、論処理部による推論処理とデコード処理部によるデコード処理とを並列的に実行するとともに、推論処理の完了後に理想画像にデコード処理を実行することができるので、推論処理によって読み取り精度を向上させながら、推論処理の負荷によって処理時間が長時間化してしまうのを抑制できる。
【図面の簡単な説明】
【0041】
図1】定置式の光学的情報読取装置の運用時を説明する図である。
図2】定置式の光学的情報読取装置の斜視図である。
図3】光学的情報読取装置のブロック図である。
図4】手持ち式の光学的情報読取装置の斜視図である。
図5】プロセッサによって構成される各部を説明する図である。
図6】ニューラルネットワークの概念図である。
図7】ニューラルネットワークの学習時の基本手順の一例を示すフローチャートである。
図8】不良画像と理想画像のペアを示し、(A)は不良画像、(B)は理想画像の例である。
図9】画像変換に用いられる畳み込みニューラルネットワークの概念図である。
図10】光学的情報読取装置の設定時に行われるチューニング工程の手順の一例を示すフローチャートである。
図11】縮小率及び拡大率決定前のデコード処理手順の一例を示すフローチャートである。
図12】縮小率及び拡大率決定後のデコード処理手順の一例を示すフローチャートである。
図13】(A)はカメラで生成された読取画像の例を示し、(B)は画像処理フィルタ実行後の画像の例を示す図である。
図14】(A)は縮小処理後の画像の例を示し、(B)はコード領域抽出後の画像の例を示す図である。
図15】ニューラルネットワークによって読取画像に対して推論処理を実行した例を示す図である。
図16】読取画像に対するデコード処理と、推論処理とを並列的に実行する場合の第1の例を示すフローチャートである。
図17A】第1の例のシーケンス例1を示すシーケンス図である。
図17B】第1の例のシーケンス例2を示すシーケンス図である。
図17C】第1の例のシーケンス例3を示すシーケンス図である。
図18】読取画像に対するデコード処理と、推論処理とを並列的に実行する場合の第2の例を示すフローチャートである。
図19】第2の例のシーケンス例を示すシーケンス図である。
図20】読取画像に対するデコード処理と、推論処理とを並列的に実行する場合の第3の例を示すフローチャートである。
図21】第3の例のシーケンス例を示すシーケンス図である。
図22】第1デコード処理で読み取りが成功した場合のタスクシーケンス図である。
図23】第2デコード処理で読み取りが成功した場合のタスクシーケンス図である。
図24】第1デコード処理と第2デコード処理で読み取りが成功した場合のタスクシーケンス図である。
図25】第2デコード処理で2回読み取りが成功した場合のタスクシーケンス図である。
図26】連続撮影時の読み取りシーケンス図である。
図27】連続撮影時のデコード処理シーケンス図である。
図28】その他の実施形態に係るデコード処理手順の一例を示す図である。
図29】第1デコード処理部及び第2デコード処理部によるデコード処理のタイムチャートである。
図30】デコード処理部によるデコード処理のタイムチャートである。
図31】第1デコード処理及び第2デコード処理の一例を示すフローチャートである。
図32】各処理の画像例を示す図である。
図33】複数のニューラルネットワークを用いてコードの白黒反転に対応する場合について説明する図である。
図34】1つのニューラルネットワークを用いてコードの白黒反転に対応する場合について説明する図である。
図35】コントラストとマッチングレベルの関係を示すグラフである。
図36】マッチングレベルの算出処理の一例を示すフローチャートである。
図37】表示部に表示されるユーザインターフェースの例を示す図である。
図38】AIチップ付き撮像素子を用いた例を示す図である。
【発明を実施するための形態】
【0042】
以下、本発明の実施形態を図面に基づいて詳細に説明する。尚、以下の好ましい実施形態の説明は、本質的に例示に過ぎず、本発明、その適用物或いはその用途を制限することを意図するものではない。
【0043】
(定置式の光学的情報読取装置)
図1は、本発明の実施形態に係る定置式の光学的情報読取装置1の運用時を模式的に示す図である。この例では、複数のワークWが搬送用ベルトコンベアBの上面に載置された状態で図1における矢印Yの方向へ搬送されており、そのワークWから上方へ離れた所に、実施形態に係る光学的情報読取装置1が設置されている。光学的情報読取装置1は、ワークWに付されているコードを撮影し、撮影された画像に含まれるコードをデコード処理して情報を読み取ることができるように構成されたコードリーダである。図1に示す例では、光学的情報読取装置1が定置式の場合である。この定置式の光学的情報読取装置1の運用時には、光学的情報読取装置1が動かないようにブラケット等(図示せず)に固定して使用する。尚、定置式の光学的情報読取装置1をロボット(図示せず)が把持した状態で使用してもよい。また、静止状態にあるワークWのコードを光学的情報読取装置1によって読み取るようにしてもよい。定置式の光学的情報読取装置1の運用時とは、搬送用ベルトコンベアBによって搬送されるワークWのコードを順に読み取る動作を行っている時である。
【0044】
また、各ワークWの外面にはコードが付されている。コードには、バーコード及び二次元コードの両方が含まれる。二次元コードとしては、たとえば、QRコード(登録商標)、マイクロQRコード、データマトリクス(Data matrix;Data code)、ベリコード(Veri code)、アズテックコード(Aztec code)、PDF417、マキシコード(Maxi code)などがある。二次元コードにはスタック型とマトリクス型があるが、本発明はいずれの二次元コードに対しても適用できる。コードは、ワークWに直接印刷あるいは刻印することによって付してもよいし、ラベルに印刷した後にワークWに貼付することによって付してもよく、その手段、方法は問わない。
【0045】
光学的情報読取装置1は、コンピュータ100及びプログラマブル・ロジック・コントローラ(PLC)101にそれぞれ信号線100a、101aによって有線接続されているが、これに限らず、光学的情報読取装置1、コンピュータ100及びPLC101に通信モジュールを内蔵し、光学的情報読取装置1と、コンピュータ100及びPLC101とを無線接続するようにしてもよい。PLC101は、搬送用ベルトコンベアB及び光学的情報読取装置1をシーケンス制御するための制御装置であり、汎用のPLCを利用することができる。コンピュータ100は、汎用あるいは専用の電子計算機や携帯型端末等を利用することができる。
【0046】
また、光学的情報読取装置1は、その運用時において、PLC101から信号線101aを介して、コード読取の開始タイミングを規定する読取開始トリガ信号を受信する。そして、光学的情報読取装置1は、この読取開始トリガ信号に基づいてコードの撮像やデコードを行う。その後、デコードした結果は、信号線101aを介してPLC101へ送信される。このように、光学的情報読取装置1の運用時には、光学的情報読取装置1とPLC101等の外部制御装置との間で、信号線101aを介して読取開始トリガ信号の入力とデコード結果の出力が繰り返し行われる。なお、読取開始トリガ信号の入力やデコード結果の出力は、上述したように、光学的情報読取装置1とPLC101との間の信号線101aを介して行ってもよいし、それ以外の図示しない信号線を介して行ってもよい。例えば、ワークWの到着を検知するためのセンサと光学的情報読取装置1とを直接的に接続し、そのセンサから光学的情報読取装置1へ読取開始トリガ信号を入力するようにしてもよい。
【0047】
図2に示すように、光学的情報読取装置1は、箱状のハウジング2と、偏光フィルタアタッチメント3と、照明部4と、カメラ5と、表示部6と、電源コネクタ7と、信号線コネクタ8とが設けられている。さらに、ハウジング2には、インジケータ9と、エイマー光照射部(光照射部)10と、操作ボタン11、12とが設けられており、インジケータ9、エイマー光照射部10及び操作ボタン11、12も光学的情報読取装置1の構成要素である。
【0048】
ハウジング2は、所定方向に長い形状となっているが、ハウジング2の形状は図示した形状に限られるものではない。ハウジング2の前側の外面には、偏光フィルタアタッチメント3が脱着可能に取り付けられている。このハウジング2の内部に、照明部4、カメラ5、エイマー光照射部10、プロセッサ20、記憶装置30、ROM40、RAM41等が収容されている。プロセッサ20、記憶装置30、ROM40及びRAM41も光学的情報読取装置1の構成要素である。
【0049】
ハウジング2の前側には、照明部4が設けられている。照明部4は、光学的情報読取装置1の前方へ向けて光を照射することによってワークWの少なくともコードを照明するための部分である。図3にも示すように、照明部4は、複数の発光ダイオード((LED:Light Emission Diode)からなる第1照明部4aと、複数の発光ダイオードからなる第2照明部4bと、第1照明部4a及び第2照明部4bを駆動するLEDドライバ等からなる照明駆動部4cとを備えている。第1照明部4a及び第2照明部4bは、照明駆動部4cにより個別に駆動され、別々に点灯及び消灯させることができるようになっている。照明駆動部4cはプロセッサ20に接続されており、プロセッサ20によって照明駆動部4cが制御されるようになっている。尚、第1照明部4a及び第2照明部4bのうち、一方を省略してもよい。
【0050】
図2に示すように、ハウジング2の前側の中央部には、カメラ5が設けられている。カメラ5の光軸方向は、照明部4による光の照射方向と略一致している。カメラ5は、コードを撮影し、読取画像を生成する部分である。図3に示すように、カメラ5は、ワークWに付されていて上記照明部4によって照明されているコードからの反射光を受光する撮像素子5aと、レンズ等を有する光学系5bと、AFモジュール(オートフォーカスモジュール)5cとを備えている。光学系5bには、ワークWのコードが付された部分から反射した光が入射するようになっており、入射した光は撮像素子5aへ向けて出射されて撮像素子5aの撮像面上で結像する。
【0051】
撮像素子5aは、光学系5bを通して得られたコードの画像を電気信号に変換するCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の受光素子からなるイメージセンサである。撮像素子5aはプロセッサ20に接続されていて、撮像素子5aによって変換された電気信号は、読取画像のデータとしてプロセッサ20に入力される。また、AFモジュール5cは、光学系5bを構成するレンズのうち、合焦用レンズの位置や屈折率を変更することによってピント合わせを行う機構である。AFモジュール5cもプロセッサ20に接続され、プロセッサ20により制御される。
【0052】
図2に示すように、ハウジング2の側面には表示部6が設けられている。表示部6は、たとえば有機ELディスプレイや液晶ディスプレイ等からなるものである。表示部6は、プロセッサ20に接続され、たとえば撮像部5で撮像されたコード、コードのデコード結果である文字列、読み取り成功率、マッチングレベル等を表示させることができる。読み取り成功率とは、複数回読み取り処理を実行したときの平均読み取り成功率である。マッチングレベルとは、デコードが成功したコードの読み取りのしやすさを示す読取余裕度である。これはデコード時に発生した誤り訂正の数等から求めることができ、たとえば数値で表すことができる。誤り訂正が少なければ少ないほどマッチングレベル(読取余裕度)が高くなり、一方、誤り訂正が多ければ多いほどマッチングレベル(読取余裕度)が低くなる。
【0053】
電源コネクタ7には、光学的情報読取装置1に外部から電源を供給するための電源ケーブル(図示せず)が接続される。また、信号線コネクタ8には、コンピュータ100及びPLC101と通信を行うための信号線100a、101a等が接続される。信号線コネクタ8は、例えばEthernetコネクタ、RS232C等のシリアル通信用コネクタ、USBコネクタ等で構成することができる。
【0054】
ハウジング2には、インジケータ9が設けられている。インジケータ9は、プロセッサ20に接続されていて、たとえば発光ダイオード等の発光体で構成することができる。光学的情報読取装置1の作動状態をインジケータ9の点灯状態によって外部に報知することができる。
【0055】
ハウジング2の前側には、カメラ5を挟むように一対のエイマー光照射部10が設けられている。図3に示すように、エイマー光照射部10は、発光ダイオード等からなるエイマー10aと、エイマー10aを駆動するエイマー駆動部10bとを備えている。エイマー10aは、光学的情報読取装置1の前方へ向けて光(エイマー光)を照射することによってカメラ5の撮影範囲や視野中心、照明部4の光軸の目安等を示すためのものである。具体的には、エイマー10aは、カメラ5の撮影視野範囲内へ向けて環境光とは異なる色(例えば赤色や緑色等)の可視光を照射し、その可視光が照射された面に肉眼で視認可能な目印を形成する。目印は各種図形や記号、文字等であってもよい。ユーザは、エイマー10aから照射される光を参照して光学的情報読取装置1を設置することもできる。
【0056】
図2に示すように、ハウジング2の側面には、光学的情報読取装置1の設定時等に使用する操作ボタン11、12が設けられている。操作ボタン11、12は、例えばセレクトボタンやエンターボタン等を含んでいる。操作ボタン11、12以外にも、例えばタッチパネル式の操作手段が設けられていてもよい。操作ボタン11、12はプロセッサ20に接続されていて、プロセッサ20は操作ボタン11、12の操作状態を検出可能になっている。操作ボタン11、12の操作により、表示部6に表示された複数の選択肢の中から1つを選択することや、選択した結果を確定することができる。
【0057】
(手持ち式の光学的情報読取装置)
上述した例では、光学的情報読取装置1が定置式である場合を示したが、本発明は定置式の光学的情報読取装置1以外にも適用可能である。図4は、手持ち式の光学的情報読取装置1Aを示すものであり、この図に示すような手持ち式の光学的情報読取装置1Aにも本発明を適用することができる。
【0058】
手持ち式の光学的情報読取装置1Aのハウジング2Aは、上下方向に長い形状とされている。尚、光学的情報読取装置1Aの使用時の向きは図示した向きに限定されるものではなく、様々な向きで使用可能であるが、説明の便宜上、光学的情報読取装置1Aの上下方向を特定している。
【0059】
ハウジング2Aの上側部分には、表示部6Aが設けられている。表示部6Aは、定置式の光学的情報読取装置1の表示部6と同様に構成されている。ハウジング2Aの下側部分は、運用時にユーザが把持するための把持部2Bである。把持部2Bは、一般的な成人が片手で握るようにして持つことが可能な部分であり、形状や大きさは自由に設定できる。この把持部2Bを持つことで、光学的情報読取装置1Aを携帯して移動することができる。つまり、この光学的情報読取装置1Aは、携帯型端末装置であり、例えばハンディターミナルと呼ぶこともできるものである。
【0060】
定置式の光学的情報読取装置1と同様に、手持ち式のハウジング2Aにも、照明部、カメラ、エイマー光照射部、プロセッサ、記憶部、ROM、RAM等(図示せず)が収容されている。照明部の光軸、カメラの光軸、エイマー光照射部の光軸は、ハウジング2Aの上端近傍から斜め上方に向いている。また、手持ち式のハウジング2Aには、ブザー(図示せず)も設けられている。
【0061】
把持部2Bやその近傍には、複数の操作ボタン11A及びトリガーキー11Bが設けられている。操作ボタン11Aは、定置式の光学的情報読取装置1の操作ボタン11等と同様である。ユーザが光学読取装置1Aの先端(上端)をワークWに向けてトリガーキー11Bを押下すれば、光学読取装置1Aの先端からエイマー光が照射される。ユーザは、ワークWの表面で反射されるエイマー光を目視しながら光学読取装置1Aの向きを調整し、エイマー光を読取対象のコードに合わせれば、コードの読み取り及びデコード処理が自動的に行われる。読み取りが完了すると、ブザーから完了報知音が発せられる。
【0062】
手持ち式の光学的情報読取装置1Aの使用例として、物流倉庫内におけるピッキング作業に手持ち式の光学的情報読取装置1Aを用いる例がある。例えば、受注した商品を物流倉庫から発送する場合、商品倉庫内の商品棚から必要な商品がピッキングされる。このピッキング作業は、コードが記載された受注伝票を持ったユーザが、商品棚まで移動した後、受注伝票のコードと、商品又は商品棚に付されたコードとを照合しながら行われる。この場合、受注伝票のコードと、商品又は商品棚に付されたコードとを交互に手持ち式の光学的情報読取装置1Aで読み取る。
【0063】
(プロセッサの構成)
以下の説明は、定置式の光学的情報読取装置1と、手持ち式の光学的情報読取装置1Aとで共通しており、特に断りがなければ、いずれの装置1、1Aでも適用できる。図3に示すように、プロセッサ20は、中央演算処理装置であるコアを複数有するマルチコアプロセッサで構成されている。具体的には、プロセッサ20は、第1汎用コア21、第2汎用コア22、第3汎用コア23、第4汎用コア24及びニューラルネットワークによる推論処理専用の専用コア25を備えている。第1~第4汎用コア21~24及び専用コア25は、いわゆるSystem-on-a-chip(SoC,SOC)であり、同一の基板上に実装されている。尚、第1~第4汎用コア21~24及び専用コア25は、SoCでなくてもよく、その場合は同じ基板上に実装されなくともよい形態となるが、その場合も本発明の範囲に含まれる。この実施形態では、汎用コアの数が4つの場合について説明するが、これに限らず、汎用コアは1つであってもよいし、2以上の任意の数(例えば6コア、8コア等)であってもよい。
【0064】
第1~第4汎用コア21~24及び専用コア25には、同一のメモリとしてのRAM41が接続されており、第1~第4汎用コア21~24及び専用コア25のいずれもが同一のRAM41にアクセス可能となっている。また、プロセッサ20には、同一のメモリとしてのROM40が接続されており、第1~第4汎用コア21~24及び専用コア25のいずれもが同一のROM40にもアクセス可能となっている。
【0065】
第1~第4汎用コア21~24は、いわゆる汎用プロセッサであり、例えばAF制御、照明制御、カメラ制御、コード候補領域を抽出する抽出処理、読取画像に対するデコード処理、読取画像に対する各種フィルタ処理等を実行する部分である。第1~第4汎用コア21~24の具体的な処理例については後述する。
【0066】
一方、専用コア25は、ニューラルネットワークを利用して、読取画像に対応する理想画像を生成する推論処理を実行するための推論処理専用コアであり、ニューラルネットワークによる処理に必要な積和演算を超高速に実行することに特化したものである。専用コア25は、例えばICやFPGA等を含む。尚、ニューラルネットワークによる学習結果を適用して推論処理することで、読取画像をデコードに適した画像に修復することができるので、推論処理によって理想画像を生成することを読取画像の修復とも呼ぶ。この場合、専用コア25は、ニューラルネットワークを利用して読取画像の修復を試行する部分である。
【0067】
図5に示すように、プロセッサ20により、AF制御部20a、撮像制御部20b、フィルタ処理部20c、チューニング実行部20d、デコード処理部20f、抽出部20g、縮小部20h、拡大部20i及び推論処理部20jが構成される。AF制御部20a、撮像制御部20b、フィルタ処理部20c、チューニング実行部20d、デコード処理部20f、抽出部20g、縮小部20h及び拡大部20iは、第1~第4汎用コア21~24の演算処理によって構成される部分である。一方、推論処理部20jは、専用コア25によって構成される部分であり、読取画像を修復した修復画像を生成する推論処理を実行する部分であることから画像修復部とも呼ぶ。
【0068】
(AF制御部の構成)
AF制御部20aは、図3に示すAFモジュール5cを制御するユニットであり、従来から周知のコントラストAFや位相差AFによって光学系5bのピント合わせを行うことができるように構成されている。AF制御部20aは、第1~第4汎用コア21~24のうち、デコード処理部20f及び抽出部20gとなるコアで構成してもよいし、デコード処理部20f及び抽出部20gとなるコア以外のコアで構成してもよい。
【0069】
(撮像制御部の構成)
撮像制御部20bは、カメラ5のゲインを調整したり、照明部4の光量を制御したり、撮像素子5aの露光時間(シャッタースピード)を制御するユニットである。ここで、カメラ5のゲインとは、撮像素子5aから出力された画像の明るさをデジタル画像処理によって増幅する際の増幅率(倍率とも呼ばれる)のことである。照明部4の光量については、第1照明部4aと第2照明部4bを別々に制御して変更することができる。ゲイン、照明部4の光量及び露光時間は、カメラ5の撮像条件である。撮像制御部20bは、第1~第4汎用コア21~24のうち、デコード処理部20f及び抽出部20gとなるコアで構成してもよいし、デコード処理部20f及び抽出部20gとなるコア以外のコアで構成してもよい。尚、上記AF制御部20aと撮像制御部20bとは、同じコアで構成してもよいし、別のコアで構成してもよい。
【0070】
(フィルタ処理部の構成)
フィルタ処理部20cは、読取画像に対して画像処理フィルタを実行する部分であり、デコード処理部20f及び抽出部20gとなるコアで構成してもよいし、デコード処理部20f及び抽出部20gとなるコア以外のコアで構成してもよい。フィルタ処理部20cを構成するコアはDSPコアであってもよい。
【0071】
フィルタ処理部20cは、カメラ5により生成された画像に含まれるノイズを除去するノイズ除去フィルタや、コントラストを補正するコントラスト補正フィルタ、平均化フィルタ等を実行する。フィルタ処理部20cが実行する画像処理フィルタは、ノイズ除去フィルタ、コントラスト補正フィルタ、平均化フィルタに限られるものではなく、他の画像処理フィルタを含んでいてもよい。
【0072】
フィルタ処理部20cは、後述する推論処理実行前の読取画像に対して画像処理フィルタを実行するように構成されている。また、フィルタ処理部20cは、後述する拡大、縮小前の読取画像に対して画像処理フィルタを実行するように構成されている。尚、フィルタ処理部20cは、推論処理実行後の読取画像に対して画像処理フィルタを実行するように構成されていてもよいし、拡大、縮小後の読取画像に対して画像処理フィルタを実行するように構成されていてもよい。
【0073】
(チューニング実行部の構成)
図5に示すチューニング実行部20dは、カメラ5の撮像条件及びデコード処理のデコード条件を変化させて、撮像及びデコード処理を繰り返し、各撮像条件及びデコード条件にて算出されたコードの読み取りのしやすさを示すマッチングレベルに基づいて、最適な撮像条件及びデコード条件を決定するとともに、読取対象のコードの大きさを設定するチューニング処理を実行する。具体的には、チューニング実行部20dは、光学的情報読取装置1、1Aの設定時に、カメラ5のゲイン、照明部4の光量及び露光時間等の撮像条件や、フィルタ処理部20cにおける画像処理条件を変更してデコードに適した条件となるように各種条件(チューニングパラメータ)を設定する部分である。フィルタ処理部20cにおける画像処理条件とは、画像処理フィルタの係数(フィルタの強弱)や、複数の画像処理フィルタがある場合に画像処理フィルタの切替、種類の異なる画像処理フィルタの組み合わせ等である。搬送時のワークWに対する外光の影響や、コードが付されている面の色及び材質等によって適切な撮像条件及び画像処理条件は異なる。よって、チューニング実行部20dは、より適切な撮像条件及び画像処理条件を探索して、AF制御部20a、撮像制御部20b、フィルタ処理部20cによる処理を設定する。
【0074】
チューニング実行部20dは、カメラ5により生成された読取画像に含まれるコードのサイズを取得可能に構成されている。コードのサイズを取得する場合、始めに、チューニング実行部20dは、コードらしさを示す特徴量に基づいてコードを探索する。次いで、チューニング実行部20dは、探索したコードのPPC、コード種、コードサイズ等を取得する。PPC、コード種、コードサイズ等は、コードパラメータまたはコード条件に含まれるものであり、従って、チューニング実行部20dは、探索したコードのコードパラメータまたはコード条件を取得可能に構成されている。
【0075】
二次元コードは、複数の白色のモジュールと黒色のモジュールとがランダムに配列されることによって構成されている。例えば、QRコードのモデル2ではモジュール数は21×21~177×177まである。定置式の光学的情報読取装置1の場合は事前に読み取り対象のコードを読み取ることで、モジュール数やPPCを限定し、コードの大きさ(ピクセルサイズ)をモジュール数×PPCに限定して運用する。
【0076】
コードを構成するモジュールのうち、1つのモジュールに着目した時、そのモジュールがいくつのピクセル(画素)で構成されているかを示すコードパラメータがPPCである。チューニング実行部20dは、1つのモジュールを特定した後、1つのモジュールを構成している画素数をカウントすることで、PPCを取得できる。
【0077】
コード種は、例えばQRコード、データマトリクスコード、ベリコードといったコードの種類のことである。各コードには特徴があるので、チューニング実行部20dは、例えばファインダパターンの有無等によってコード種を判別することが可能である。
【0078】
また、コードサイズは、コードの縦または横方向に並ぶモジュールの数とPPCとによって算出できる。チューニング実行部20dは、コードの縦または横方向に並ぶモジュールの数を算出するとともに、PPCを算出し、縦または横方向に並ぶモジュールの数とPPCとを積算することによってコードサイズを取得できる。
【0079】
(デコード処理部の構成)
デコード処理部20fは、白黒の二値化されたデータをデコードする部分である。デコードには、符号化されたデータの対照関係を示すテーブルを使用することができる。さらに、デコード処理部20fは、デコードした結果が正しいか否かを所定のチェック方式に従ってチェックする。データに誤りが発見された場合にはエラー訂正機能を使用して正しいデータを演算する。エラー訂正機能はコードの種類によって異なる。
【0080】
この実施形態では、デコード処理部20fは、後述する推論処理後の理想画像に含まれるコードをデコードするが、推論処理前の読取画像に含まれるコードをデコードすることもできる。デコード処理部20fは、コードをデコードして得られたデコード結果を図3に示すROM40のデコード結果記憶部40bに書き込むように構成されている。
【0081】
(抽出部の構成)
抽出部20gは、カメラ5により生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する部分である。コード候補領域は、コードらしさを示す特徴量に基づいて抽出することができ、この場合、コードらしさを示す特徴量はコードを特定するための情報となる。例えば、抽出部20gは、読取画像を取得し、取得した読取画像に対して、コードらしさを示す特徴量に基づいてコードを探索することができる。具体的には、取得した読取画像の中に、コードらしさを示す特徴量を所定以上持った部分が存在するか否かを探索し、その結果、コードらしさを示す特徴量を持った部分を探索することができれば、その部分を含む領域をコード候補領域として抽出する。コード候補領域には、コード以外の領域が含まれていてもよいが、少なくともコードである可能性が所定以上高い部分を含んでいる。尚、コード候補領域は、あくまでもコードが存在する可能性が高い領域であることから、結果的にコードが含まれない領域の場合もあり得る。
【0082】
抽出部20gは、エイマー光照射部10から照射されたエイマー光の位置情報を、コードを特定するための情報として利用し、コード候補領域を抽出することもできる。この場合、抽出部20gは、読取画像の中から、エイマー光照射部10により形成された目印に対応する部分を特定し、当該特定された部分をコード候補領域として抽出する。すなわち、上述したように、エイマー光はカメラ5の撮影範囲や視野中心を示すためのものであることから、エイマー光によって形成される目印は、予めカメラ5の視野中心と一致させておくことが可能である。特に、手持ち式の光学的情報読取装置1Aの場合、ユーザはエイマー光を読取対象のコードに合わせるので、エイマー光によって形成される目印は、コードと重なっている確率が高い。つまり、エイマー光照射部10により形成された目印に対応する部分をカメラ5の視野中心と一致させておくことで、抽出部20gがカメラ5の視野中心を含む領域を抽出すると、その領域はコードが存在する可能性が高い領域となる。この場合、エイマー光照射部10により形成された目印に対応する部分をカメラ5の視野中心と完全に一致させておかなくてもよく、視野の縦方向または横方向に多少ずれていてもよい。また、コードは所定の大きさを有しているので、抽出部20gが抽出する領域は、カメラ5の視野中心だけではなく、視野中心を含む所定の大きさを持った領域である。
【0083】
抽出部20gは、読取画像の中心部分を特定し、当該中心部分をコード候補領域として抽出することもできる。例えば、カメラ5の視野中心を、コードを特定するための情報として予め取得しておくことで、このカメラ5の視野中心となる部分を読取画像上で特定することができる。特に、手持ち式の光学的情報読取装置1Aの場合、読取画像上で特定した中心部分は、エイマー光照射部10により形成された目印に対応しているので、その中心部分はコードが存在する可能性が高い領域となる。
【0084】
抽出部20gは、読取画像の中から、ユーザによる所定の部分の指定を受け付けるように構成することができ、当該指定された部分をコード候補領域として抽出することができる。すなわち、ユーザは読取画像上の任意の位置(座標)で任意の大きさの領域指定を行うと、抽出部20gは、その位置の座標及び大きさの情報に基づいて読取画像の中から所定の部分の指定を受け付ける。抽出部20gは、受け付けた部分をコード候補領域として抽出する。例えば、定置式の光学的情報読取装置1の場合、図1に示すように搬送用ベルトコンベアBによって搬送されているワークWを撮影してコードのデコード処理を実行することになるが、搬送用ベルトコンベアBの幅方向中央部にワークWが存在しているとは限らず、端にワークWが存在していることがあり、この場合には、読取画像の中から、搬送用ベルトコンベアBの端に対応する部分を指定することで、コードが存在する可能性が高い領域として的確な抽出が可能になる。その他にも、大きなワークWで、その中央部から離れた端近傍にコードが表示されている場合もあり、この場合には、読取画像の中から、ワークWの端近傍に対応する部分を指定することで、コードが存在する可能性が高い領域として的確な抽出が可能になる。
【0085】
(記憶装置、ROMの構成)
図3に示す記憶装置30は、例えばSSD(ソリッドステートドライブ)等のような読み書き可能な記憶装置で構成することができる。記憶装置30には、各種プログラムや設定情報、画像データ等を記憶しておくことができる。
【0086】
ROM40には、画像データ記憶部40aと、デコード結果記憶部40bと、パラメータセット記憶部40cと、ニューラルネットワーク記憶部40dとが含まれている。画像データ記憶部40aは、カメラ5で生成された読取画像を記憶する部分である。デコード結果記憶部40bは、デコード処理部20fで実行されたコードのデコード結果を記憶する部分である。パラメータセット記憶部40cは、チューニング実行部20dが実行したチューニングの結果、設定された各種条件やユーザが設定した各種条件を記憶する部分である。ニューラルネットワーク記憶部40dは、後述する学習済みのニューラルネットワークの構造及びパラメータを記憶する部分である。
【0087】
上記記憶部40a、40b、40c、40dの少なくとも一部は、ROM40以外の部分に設けられていてもよく、例えば、記憶装置30に設けられていてもよい。
【0088】
(ニューラルネットワークを利用した推論処理)
光学的情報読取装置1、1Aは、カメラ5で取得した読取画像を、ニューラルネットワークを利用して推論処理することによって理想画像を生成する理想画像生成機能を有している。本実施形態では、光学的情報読取装置1、1Aで機械学習を行うのではなく、既に学習が終わったニューラルネットワークの構造及びパラメータを光学的情報読取装置1、1Aが予め保持しておき、その保持している構造及びパラメータで構成されたニューラルネットワークを利用して推論処理を実行するように構成されている例について説明するが、これに限らず、光学的情報読取装置1、1Aで機械学習を行ってニューラルネットワークの構造及びパラメータを変更してもよい。
【0089】
ニューラルネットワークは、図6に示すように、入力データ(本例では画像データ)が入力される入力層と、出力データを出力する出力層と、入力層及び出力層の間に設けられる中間層とを有している。中間層は例えば複数設けることができ、これにより、多層構造のニューラルネットワークとすることができる。
【0090】
(ニューラルネットワークの学習)
始めに、図7に示すフローチャートに基づいてニューラルネットワークの学習時の基本手順について説明する。ニューラルネットワークの学習は、光学的情報読取装置1、1A以外の学習用として用意したコンピュータを用いて行うことができるが、学習用以外の汎用コンピュータを用いて行ってもよい。また、光学的情報読取装置1、1Aで学習を行ってもよい。ニューラルネットワークの学習方法は従来から周知の方法を用いてもよい。
【0091】
スタート後のステップSA1では予め準備している不良画像のデータを読み込む。不良画像は、コードの読み取りに不適切な部分を有する画像であり、図8の左側に示すような画像を例示することができる。不適切な部分とは、例えば汚れた部分や着色された部分等である。その後、ステップSA2に進み、予め準備している理想画像のデータを読み込む。理想画像は、コードの読み取りに適切な画像であり、図8の右側に示すような画像を例示することができる。不良画像と理想画像とはペアとしておき、このようなペアを複数準備しておく。光学的情報読取装置1、1Aで学習を行う場合には、光学的情報読取装置1、1Aに不良画像と理想画像を入力する。
【0092】
ステップSA2では、損失関数を計算し、不良画像と理想画像との差分を求める。ステップSA3では、ステップSA2で求めた差分を反映させてニューラルネットワークのパラメータを更新する。
【0093】
ステップSA4では機械学習の完了条件を満たすか否かを判定する。機械学習の完了条件とは、ステップSA2で求めた差分に基づいて設定することができ、例えば差分が所定以下であれば、機械学習の完了条件を満たすと判定できる。ステップSA4でYESと判定されて機械学習の完了条件を満たしている場合には機械学習を終了する。一方、ステップSA4でNOと判定されて機械学習の完了条件を満たしていない場合にはステップSA1に戻り、別の不良画像を読み込んだ後、ステップSA2に進んで当該別の不良画像とペアになっている別の理想画像を読み込む。
【0094】
このようにして、複数の不良画像と、当該複数の不良画像にそれぞれ対応する複数の理想画像とを機械学習させることにより、学習済みのニューラルネットワークを予め生成することができる。学習済みのニューラルネットワークの構造及びパラメータを光学的情報読取装置1、1Aが保持しておくことで、光学的情報読取装置1、1A内で学習済みのニューラルネットワークを構築することができる。本例のように、光学的情報読取装置1、1A外で機械学習を行い、その結果得られたニューラルネットワークの構造及びパラメータを光学的情報読取装置1、1Aで保持しておけば、光学的情報読取装置1、1Aの小型軽量化を実現しながら、ニューラルネットワークによる推論処理が可能になる。尚、演算処理能力が十分に高いプロセッサ20を搭載している場合には、光学的情報読取装置1、1Aで学習を行っても問題とはならない。
【0095】
図9は、上述のようにして構成された畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)の概念図である。「Convolution」では、入力された画像の特徴の抽出を行う。この層は、画像処理フィルタのような畳み込み演算で構成される。フィルタの重みをカーネルと呼び、カーネルに合わせた特徴量の抽出を行う。畳み込み層は一般的に複数の異なるカーネルを持ち、カーネル数に応じてマップ数(D)が増えていく。カーネルサイズは、例えば3×3、5×5などを取ることができる。
【0096】
「pooling」では、縮小処理を行って各カーネルの反応をまとめる。「Deconvolution」では、逆畳み込みフィルタにより、特徴値から画像を再構成する。「Unpooling」では、拡大処理を行って反応値を先鋭化する。
【0097】
学習済みのニューラルネットワークの構造及びパラメータは、図3に示すROM40のニューラルネットワーク記憶部40dに記憶される。ニューラルネットワークの構造とは、入力層と出力層との間に設けられる中間層の数(D)や、画像処理フィルタの数等である。ニューラルネットワークのパラメータは、図7に示すフローチャートのステップSA3で設定されたパラメータである。
【0098】
また、ニューラルネットワーク記憶部40dには、層の数または画像処理フィルタの数が異なる複数のニューラルネットワークの構造及びパラメータを記憶することが可能になっている。この場合、複数のニューラルネットワークの構造及びパラメータと、コード条件とを関連付けた状態でニューラルネットワーク記憶部40dに記憶することができる。例えば、第1のニューラルネットワークを構成するための当該ニューラルネットワークの構造及びパラメータと、第1のニューラルネットワークに対応する第1のコード条件とを関連付ける。関連付けを行う際、第1のニューラルネットワークの層の数またはフィルタの数は、第1のコード条件、特に第1のPPCによって最適な数を事前に特定しておくことができるものなので、この関係が保たれるように関連付けておく。同様に、第1のニューラルネットワークとは異なる第2のニューラルネットワークの構造及びパラメータと、第1のコード条件とは異なる第2のコード条件とを関連付ける。
【0099】
複数のニューラルネットワークの構造及びパラメータをニューラルネットワーク記憶部40dに記憶している場合には、光学的情報読取装置1、1Aの設定時に、次のようにチューニング実行部20dが動作する。すなわち、チューニング実行部20dは、カメラ5により生成された読取画像に含まれるコード条件を設定する際、設定したコード条件に関連付けられたニューラルネットワークの構造及びパラメータをニューラルネットワーク記憶部40dから読み出して運用時に使用するニューラルネットワークとして特定する。例えば、チューニング実行部20dが読取画像に含まれるコード条件をして第1のコード条件を設定した場合には、第1のコード条件と関連付けられた第1のニューラルネットワークの構造及びパラメータをニューラルネットワーク記憶部40dから読み出す。そして、第1のニューラルネットワークの構造及びパラメータを光学的情報読取装置1、1Aの運用時に使用するニューラルネットワークとして特定する。これにより、コード条件に最適なニューラルネットワークの構造及びパラメータで読取画像に対して推論処理を実行できるので、読み取り精度を高めることができる。
【0100】
ニューラルネットワークの学習にあたっては、コードを構成するモジュールのピクセル分解能が特定範囲内である不良画像及び理想画像を機械学習させることもできる。モジュールのピクセル分解能は、例えばコードを構成する1つのモジュールのピクセル数(PPC)で表すことができ、PPCが特定範囲内にある不良画像及び理想画像のみでニューラルネットワークの機械学習を行ってもよい。
【0101】
上記特定範囲は、読取画像に対する推論処理効果の高いピクセル分解能を含み、かつ、読取画像に対する推論処理効果が殆ど向上しないピクセル分解能を除外する範囲であり、複数のモジュールで構成されたコードを含む画像に対する推論処理を前提として設定することができる。これにより、コードを含む画像に対する推論処理に特化したニューラルネットワーク構造として処理速度を向上させることができる。
【0102】
上記ピクセル数の特定範囲としては、例えば4PPC以上6PPC以下とすることができるが、4PPC未満であってもよいし、6PPCよりも多くてもよい。また、例えば特定範囲を4PPC以上6PPC以下に限定して機械学習することで、学習に用いる画像から余分なスケールの変動を排除することができ、学習済みニューラルネットワーク構造の適正化を図ることもできる。
【0103】
(推論処理)
図5に示すように、光学的情報読取装置1、1Aのプロセッサ20には、専用コア25によって構成される推論処理部20jが設けられている。推論処理部20jは、ROM40のニューラルネットワーク記憶部40dに記憶されたニューラルネットワークの構造及びパラメータを読み出し、読み出したニューラルネットワークの構造及びパラメータで光学的情報読取装置1、1A内にニューラルネットワークを構成する。光学的情報読取装置1、1A内に構成されたニューラルネットワークは、図7のフローチャートに示す手順で学習した学習済みニューラルネットワークと同じものである。
【0104】
推論処理部20jは、カメラ5により生成された読取画像をニューラルネットワークに入力することにより、ニューラルネットワーク記憶部40dに記憶されたニューラルネットワークの構造及びパラメータに従って読取画像に対応する理想画像を生成する推論処理を実行する。推論処理部20jが生成した理想画像は、あくまでも推論処理によって生成した画像であることから、上述した学習時に用いた理想画像と同じであるとは限らないが、本実施形態では推論処理部20jが生成した画像も理想画像と呼ぶ。
【0105】
フィルタ処理部20cは、カメラ5により生成された読取画像を推論処理部20jがニューラルネットワークに入力する前に、読取画像に対して画像処理フィルタを実行するように構成されている。これにより、ニューラルネットワークによる推論処理を実行する前に適切な画像処理を実行しておくことができ、その結果、推論処理がより的確なものになる。
【0106】
デコード処理部20fでデコード処理する全ての読取画像に対して推論処理部20jが推論処理を実行してもよいし、デコード処理部20fでデコード処理する一部の読取画像に対してのみ推論処理部20jが推論処理を実行してもよい。例えば、デコード処理部20fは、推論処理を実行する前の読取画像に対してデコード処理を実行し、デコードが成功したか否かを判定する。デコードに成功した場合には、推論処理が不要な読取画像であったということであり、そのまま結果を出力する。一方、デコードに失敗した場合には、推論処理部20jが推論処理を実行し、生成された理想画像に対してデコード処理部20fがデコード処理を実行する。
【0107】
(部分画像の入力)
推論処理部20jがニューラルネットワークに入力する画像は、カメラ5により生成された読取画像の全部であってもよいが、入力する画像のサイズが大きければ大きいほどニューラルネットワークによる演算量が増大し、プロセッサ20の演算負荷が重くなり、ひいては処理速度の低下を招くおそれがある。具体的には、図9に示すようなFCN(Fully Convolutional Network)型のニューラルネットワークでは、構造が等しいと仮定した場合、演算量は入力画像サイズに比例した量となり、入力画像サイズはコードの大きさの二乗に比例するため、演算量もコードの大きさの二乗に比例することになる。
【0108】
一方、カメラ5により生成された読取画像の全体にコードが存在しているケースは皆無といってよく、通常の運用時には読取画像の一部の領域にのみコードが存在しており、その領域のみニューラルネットワークによる推論処理を実行することができれば、読み取り精度を高めることができる。
【0109】
そこで、推論処理部20jがニューラルネットワークに入力する画像は、カメラ5により生成された読取画像の一部、即ちコードを含んだ部分画像とすることができる。具体的には、抽出部20gが抽出したコード候補領域に対応する部分画像を画像データ記憶部40aに記憶させておき、推論処理部20jがアクセス可能にしておく。推論処理部20jは部分画像をニューラルネットワークに入力することにより、ニューラルネットワーク記憶部40dに記憶された構造及びパラメータに従って部分画像に推論処理を実行する。そして、生成された理想画像に対してデコード処理部20fがデコード処理を実行する。また、後述するように、部分画像に推論処理を実行することなく、デコード処理を実行する場合には、デコード処理部20fが画像データ記憶部40aにアクセス可能にしておき、画像データ記憶部40aに記憶された部分画像をデコード処理部20fが読み込んでデコード処理を実行する。
【0110】
上述したように読取画像の全体にコードが存在しているケースは殆ど無いので、コード候補領域に対応する部分画像のサイズは、読取画像のサイズよりも小さくなる。これにより、ニューラルネットワークに入力する画像のサイズが小さくなるので、プロセッサ20の演算負荷が軽くなり、ひいては処理速度の高速化が実現される。また、部分画像は、コードが存在する可能性が高い領域に対応しているので、読み取りに必要な情報、即ちコードの全体を含んだ画像とすることが可能である。このコードの全体を含んだ画像をニューラルネットワークに入力するので、読み取り精度の低下は抑制される。
【0111】
推論処理部20jは、チューニング実行部20dで取得したコードサイズに基づいて部分画像のニューラルネットワークへの入力サイズを決定することができる。上述したように、チューニング実行部20dはコードサイズを取得することができる。推論処理部20jは、ニューラルネットワークへ入力する部分画像の入力サイズを、チューニング実行部20dで取得したコードサイズよりも所定量だけ大きくする。
【0112】
すなわち、部分画像をニューラルネットワークへ入力することで演算負荷を軽くすることができる反面、例えばコードが回転していたり、コードの位置が精密に検出できなかった場合には、部分画像中のコードの一部が欠けてしまい、デコード処理に失敗する可能性もある。本実施形態では、ニューラルネットワークへの入力サイズがチューニング実行部20dで取得したコードサイズと同じではなく、コードサイズよりも所定量だけ大きいので、部分画像中でコードの一部が欠けるのを抑制できる。尚、コードサイズよりも所定量だけ大きくしていることで、ニューラルネットワークへの入力サイズに上限を持たせることができ、よって、演算負荷が重くならないようにすることができる。「所定量」とは、例えばニューラルネットワークへ入力される部分画像の横(または縦)の長さが、チューニング実行部20dで取得したコードの横(または縦)の長さの1.5倍以上、または2.0倍以上、または3.0倍以上であってもよい。
【0113】
推論処理部20jがニューラルネットワークへ入力する部分画像の入力サイズを決定する際、チューニング実行部20dで取得したコードを構成する1つのモジュールのピクセル数と当該コードの縦または横方向に並ぶモジュール数とに基づいて決定することができる。
【0114】
また、チューニング実行部20dでは上述したようにコード条件を設定することができる。推論処理部20jは、チューニング実行部20dで設定されたコード条件に基づいて、ニューラルネットワークに入力する読取画像のサイズを設定することもできる。例えば、チューニング実行部20dで設定されたコード条件のうち、コードサイズを推論処理部20jが取得すると、取得したコードサイズよりも所定量だけ大きなサイズの部分画像をニューラルネットワークに入力する。コードサイズが大きければニューラルネットワークに入力する部分画像のサイズが大きくなる一方、コードサイズが小さければニューラルネットワークに入力する部分画像のサイズが小さくなる。つまり、ニューラルネットワークに入力する部分画像のサイズをコード条件に応じて変えることができる。
【0115】
(縮小・拡大機能)
ここで、図9に示すような畳み込みニューラルネットワークにおいてコードの特徴を十分に捉え、デコードに適した理想画像にするためには、一定量のモジュール数をカバーする範囲で特徴量を抽出する必要がある。例えば、ニューラルネットワークから得られる1つの特徴値が6×6モジュールの範囲から抽出される値であるとし、1つのモジュールが20ピクセルで撮影された画像の場合、120×120ピクセルの範囲から集約された特徴値を算出するようにニューラルネットワークを設計しなければならない。つまり、カバーしたいピクセル範囲が広ければ広い程、ニューラルネットワークの階層を深くしなければならず、例えば上述した120×120ピクセルの範囲から特徴値を集約しようとすると、6回の畳み込み層が必要となる。
【0116】
しかし、コードは白色のモジュールと黒色のモジュールとがランダムに配列されることによって構成されているため、広範囲でのピクセル値の関係は希薄であり、カバーするピクセル範囲を一定以上に広げても推論処理効果は殆ど向上しない。このような特徴を、本明細書では狭範囲特徴と呼ぶ。
【0117】
また、コードに含まれるファインダパターンなど決まったモジュールパターンの配置やコード全体として四角形状であることは広範囲特徴になり得るが、モジュールと背景とを大まかに分離するだけであれば、広範囲特徴を用いることなく、狭範囲特徴のみを用いても十分に推論処理可能である。尚、広範囲特徴とは、広範囲に渡って決まった形状を持つ特徴と定義することができる。
【0118】
そこで、図7に示すニューラルネットワークの学習の際、コードのPPCが特定範囲にある画像を用いることができる。これにより、コードを含む画像に対する推論処理に特化したニューラルネットワーク構造として処理速度を向上させることができる反面、PPCが特定範囲外にある読取画像に対する推論処理効果は低下する懸念がある。尚、ニューラルネットワークの学習の際、コードのPPCが特定範囲外にある画像を用いてもよい。
【0119】
本実施形態の光学的情報読取装置1、1Aでは、読取画像のPPCが特定範囲に入るようにするために、読取画像の縮小・拡大機能を備えている。図5に示すように、プロセッサ20には、縮小部20h及び拡大部20iが構成されている。縮小部20hは、カメラ5により生成された読取画像の中のコードを構成するモジュールのピクセル分解能が上述した特定範囲内となるように縮小した読取画像を生成する部分であり、また、拡大部20iは、カメラ5により生成された読取画像の中のコードを構成するモジュールのピクセル分解能が上述した特定範囲内となるように拡大した読取画像を生成する部分である。
【0120】
縮小部20h及び拡大部20iは、例えばカメラ5により生成された読取画像におけるコードのPPCが特定範囲(4PPC以上6PPC以下)外にあるか否かを判定し、特定範囲内である場合には、縮小または拡大を非実行にする一方、特定範囲外である場合には、縮小または拡大を実行する。縮小または拡大を実行することで、推論処理部20jがニューラルネットワークへ入力する部分画像におけるコードのPPCが特定範囲内に入る。
【0121】
推論処理部20jは、特定範囲内となるように拡大または縮小した読取画像を、ニューラルネットワーク記憶部40dに記憶された構造及びパラメータで構成されたニューラルネットワークに入力することにより、その構造及びパラメータに従って読取画像に対する推論処理を実行する。そして、生成された理想画像に対してデコード処理部20fがデコード処理を実行する。
【0122】
抽出部20gは、拡大部20iにより拡大した読取画像または縮小部20hにより縮小した読取画像に対してコードを探索し、探索されたコードを含む領域をコードが存在する可能性が高いコード候補領域として抽出するように構成してもよい。この場合、推論処理部20jは、抽出部20gが抽出したコード候補領域に対応する部分画像を、ニューラルネットワーク記憶部40dに記憶された構造及びパラメータで構成されたニューラルネットワークに入力することにより、その構造及びパラメータに従って読取画像に対する推論処理を実行する。
【0123】
光学的情報読取装置1、1Aの設定時には、チューニング実行部20dが、拡大率を変えた複数の読取画像(拡大画像)を生成すること、及び縮小率を変えた複数の読取画像(縮小画像)を生成することができる。チューニング実行部20dは、生成した複数の読取画像(拡大画像または縮小画像)をニューラルネットワークに入力して各読取画像の推論処理を実行し、生成された各理想画像に対してデコード処理を実行し、コードの読み取りのしやすさを示す読取余裕度を求める。チューニング実行部20dは、求めた読取余裕度が所定よりも高い読取画像の拡大率または縮小率を、運用時に使用する拡大率または縮小率として特定する。チューニング実行部20dが拡大率または縮小率を特定した場合、光学的情報読取装置1、1Aの運用時には、縮小部20h及び拡大部20iは、チューニング実行部20dが特定した拡大率または縮小率で読取画像を拡大または縮小する。
【0124】
すなわち、例えば特定範囲にある程度の広さがある場合、その特定範囲内であっても拡大率や縮小率を変えると、読取余裕度が変化することが考えられる。チューニング実行部20dが求めた読取余裕度が所定よりも高くなるように、運用時における読取画像の拡大率または縮小率を特定することができるので、処理速度及び読み取り精度が向上する。
【0125】
チューニング実行部20dは、各読取画像の読取余裕度を求めた後、求めた複数の読取余裕度のうち、最も高い読取余裕度の読取画像の拡大率または縮小率を、運用時に使用する拡大率または縮小率として特定することができる。これにより、処理速度及び読み取り精度を更に向上させることができる。
【0126】
また、縮小部20h及び拡大部20iで読取画像を縮小及び拡大できることを利用して、パラメータセットの種類を増やすこともできる。縮小部20hによる縮小率が異なる複数のパラメータセットと、拡大部20iによる拡大率が異なる複数のパラメータセットを生成し、これらパラメータセットをROM40のパラメータセット記憶部40cに記憶させることができる。例えば、縮小部20hによる縮小率が1/2、1/4、1/8のように複数設定可能な場合、縮小率が1/2のパラメータセット、縮小率が1/4のパラメータセット、縮小率が1/8のパラメータセットをパラメータセット記憶部40cに記憶させることができる。また、拡大部20iによる拡大率が2倍、4倍、8倍のように複数設定可能な場合、拡大率が2倍のパラメータセット、拡大率が4倍のパラメータセット、拡大率が8倍のパラメータセットをパラメータセット記憶部40cに記憶させることができる。そして、パラメータセット記憶部40cに記憶された複数のパラメータセットの中から任意の一のパラメータセットを適用することができる。
【0127】
(推論処理フィルタ)
推論処理部20jは、ニューラルネットワークを利用して推論処理を実行する推論処理フィルタを実行する部分であってもよい。推論処理フィルタは、読取画像を、ニューラルネットワーク記憶部40dに記憶された構造及びパラメータで構成されたニューラルネットワークに入力することにより、ニューラルネットワーク記憶部40dに記憶された構造及びパラメータに従って推論処理を実行するフィルタであり、上述した推論処理機能と同じ機能を発揮する。
【0128】
推論処理フィルタを実行可能にする場合、推論処理フィルタを設定するための設定部20e(図5に示す)を設けることができる。設定部20eは、ユーザによる推論処理フィルタの設定を受付可能に構成されている。設定部20eは、例えば光学的情報読取装置1、1Aの設定時に、「推論処理フィルタの適用」と「推論処理フィルタの非適用」との一方をユーザが選択可能なユーザインターフェースを生成して表示部6に表示させ、ユーザによる選択を受け付けるように構成することができる。したがって、推論処理部20jは、設定部20eにより設定された推論処理フィルタを読取画像に適用することで、当該読取画像に対して推論処理を実行する。
【0129】
設定部20eは、チューニング実行部20dに含まれていてもよいし、チューニング実行部20dとは別に構成されていてもよい。設定部20eがチューニング実行部20dに含まれている場合、チューニング時に推論処理フィルタに関するパラメータを設定することが可能になる。推論処理フィルタに関するパラメータとしては、「推論処理フィルタの適用」と「推論処理フィルタの非適用」とを含むことができる。「推論処理フィルタの適用」とは、推論処理フィルタを実行可能に設定することであり、「推論処理フィルタの非適用」とは、推論処理フィルタを設定しないことである。
【0130】
推論処理フィルタに関するパラメータは、推論処理フィルタに関する情報でもあり、この場合、推論処理フィルタの設定に関する情報を含むパラメータセットをパラメータセット記憶部40cに記憶することができる。推論処理フィルタに関するパラメータは、「推論処理フィルタの適用」と「推論処理フィルタの非適用」とがあるので、パラメータセット記憶部40cに記憶されるパラメータセットには、推論処理フィルタを実行可能に設定する第1のパラメータセットと、推論処理フィルタを設定しない第2のパラメータセットと含まれる。光学的情報読取装置1、1Aの運用時には、第1のパラメータセットと、第2のパラメータセットとの中から選択された一方のパラメータセットが適用される。第1のパラメータセットが適用された場合には、推論処理フィルタによって推論処理が実行された理想画像に対してデコード処理部20fによるデコード処理が実行される一方、第2のパラメータセットが適用された場合には、推論処理が実行されない読取画像に対してデコード処理部20fによるデコード処理が実行される。
【0131】
パラメータセット記憶部40cに記憶されるパラメータセットには、カメラ5により生成された読取画像に含まれるコード条件を設定する項目も含まれる。コード条件を設定する項目では、チューニング実行部20dが取得したPPC、コード種、コードサイズ等が設定される。例えば、1つのパラメータセットには、コード条件を設定する項目としてのPPC、コード種、コードサイズと、撮像条件としてのカメラ5のゲイン、照明部4の光量、露光時間と、フィルタ処理部20cが適用する画像処理フィルタの項目としての画像処理フィルタ種類、当該画像処理フィルタのパラメータと、推論処理フィルタの適用項目とを含むことができる。これら各項目は、チューニング実行部20dが設定した値等をそのまま用いてもよいし、ユーザが任意に変更することもできる。
【0132】
(チューニング工程の手順の一例)
光学的情報読取装置1、1Aの設定時にチューニング実行部20dによって行われるチューニング工程の手順の一例について、図10に示すフローチャートに基づいて具体的に説明する。図10に示すフローチャートのスタート後のステップSB1では、チューニング実行部20dが照明部4及びカメラ5を制御してカメラ5に読取画像を生成させ、チューニング実行部20dが読取画像を取得する。このとき、デコード処理前に実行される画像処理フィルタの有無や種類、ニューラルネットワークによる推論処理を適用するためのデコード処理パラメータは任意のパラメータに設定されている。次いでステップSB2に進み、取得した読取画像に対してチューニング実行部20dがデコード処理部20fにデコード処理を実行させる。
【0133】
デコード処理後、ステップSB3に進み、ステップSB2のデコード処理が成功したか否かをチューニング実行部20dが判定する。ステップSB3でNOと判定されてステップSB2のデコード処理が失敗した場合、即ちコードの読み取りができなかった場合には、ステップSB4に進み、デコード処理パラメータを別のパラメータに変更した後、ステップSB2で再度デコード処理を実行する。全てのデコード処理パラメータでデコード処理を失敗した場合にはこのフローを終了してユーザに報知する。
【0134】
一方、ステップSB3でYESと判定されてステップSB2のデコード処理が成功した場合には、ステップSB5に進み、チューニング実行部20dがコードパラメータ(PPC、コード種、コードサイズ等)を決定する。チューニング実行部20dがコードパラメータを決定すると、コードパラメータと関連付けられてニューラルネットワーク記憶部40dに記憶されているニューラルネットワークの構造及びパラメータも決定される(ステップSB6)。ステップSB6では、ニューラルネットワーク記憶部40dから読み出した構造及びパラメータでニューラルネットワークを構成する。
【0135】
ステップSB7では、推論処理部20jが、ステップSB6で構成されたニューラルネットワークに読取画像を入力することにより、推論処理を実行し、生成された理想画像に対してデコード処理部20fがデコード処理を実行する。その後、ステップSB8に進み、チューニング実行部20dがステップSB7のデコード処理結果に基づいて読取余裕度を評価し、一旦記憶しておく。
【0136】
ステップSB9では、全てのデコード処理パラメータでデコード処理の実行が完了したか否かを判定する。ステップSB9でNOと判定されて、全てのデコード処理パラメータでデコード処理の実行が完了していない場合にはステップSB10に進み、デコード処理パラメータを別のパラメータに変更した後、ステップSB7に進む。
【0137】
一方、ステップSB9でYESと判定されて全てのデコード処理パラメータでデコード処理の実行が完了するとステップSB11に進む。ステップSB11では、チューニング実行部20dが、全てのデコード処理パラメータの中から読取余裕度が最も高いデコード処理パラメータを選択し、その選択したデコード処理パラメータを運用時に適用するパラメータとして決定する。尚、チューニング工程では、撮像条件等も適切な条件に設定される。
【0138】
(縮小率及び拡大率決定前のデコード処理手順)
次に、縮小率及び拡大率決定前のデコード処理手順の一例について、図11に示すフローチャートに基づいて具体的に説明する。図11に示すフローチャートで特定される処理は、図10に示すフローチャートのステップSB2で実行することができる。
【0139】
図11に示すフローチャートのスタート後のステップSC1では、チューニング実行部20dが、複数の画像処理フィルタの中から任意の画像処理フィルタを選択する。この画像処理フィルタは、フィルタ処理部20cで実行されるフィルタである。その後、ステップSC2では、ステップSC1で選択した画像処理フィルタを読取画像に対してフィルタ処理部20cが実行する。
【0140】
次いで、ステップSC3に進み、画像ピラミッドを作成する。画像ピラミッドは、元の読取画像、元の読取画像を1/2に縮小した画像、元の読取画像を1/4に縮小した画像、元の読取画像を1/8に縮小した画像、…で構成されている。読取画像の縮小は、縮小部20hで実行される。また、画像ピラミッドは、元の読取画像、元の読取画像を2倍に拡大した画像、元の読取画像を4倍に拡大した画像、元の読取画像を8倍に拡大した画像、…で構成することもできる。読取画像の拡大は、拡大部20iで実行される。尚、縮小した画像と、拡大した画像とのうち、一方を省略してもよい。
【0141】
画像ピラミッドを作成した後、ステップSC4に進み、画像ピラミッドを構成する複数の読取画像の中から任意の読取画像を選択する。この選択された画像の中には、縮小及び拡大されていない元の読取画像が含まれる場合もある。ステップSC5では、抽出部20gが、ステップSC4で選択した読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する。その後、ステップSC6に進み、推論処理部20jが、ステップSC5で抽出されたコード候補領域に対応する部分画像をニューラルネットワークに入力して推論処理を実行する。ニューラルネットワークに入力する部分画像のサイズは、上述したコード条件によって決定する。
【0142】
推論処理を実行して理想画像を生成した後、ステップSC7に進み、コードの輪郭やコードを構成しているモジュールの位置決め処理を実行する。位置決め処理後、ステップSC8に進み、コードを構成している各モジュールが白であるか、黒であるかを判別する。白黒の判別後、ステップSC9に進み、生成された理想画像に対してデコード処理部20fがデコード処理を実行する。デコード処理では、例えばモジュールの0-1マトリックスから文字列を復元する手法を採用することができる。
【0143】
その後、ステップSC10に進み、ステップSC9のデコード処理が成功したか否かをチューニング実行部20dが判定する。ステップSC10でNOと判定されてステップSC9のデコード処理が失敗した場合には、ステップSC11に進み、画像ピラミッドを構成している全ての読取画像が選択されたか否かを判定する。ステップSC11でNOと判定されて画像ピラミッドを構成している全ての読取画像が選択されていない場合にはステップSC4に進み、画像ピラミッドを構成している別の縮小された読取画像または別の拡大された読取画像を選択し、ステップSC5に進む。
【0144】
一方、ステップSC11でYESと判定されて画像ピラミッドを構成している全ての読取画像が選択された場合にはこのフローを終了し、デコードが成功した条件を記憶しておく。
【0145】
(縮小率及び拡大率決定後のデコード処理手順)
次に、縮小率及び拡大率決定後のデコード処理手順の一例について、図12に示すフローチャートに基づいて具体的に説明する。図12に示すフローチャートで特定される処理は、図10に示すフローチャートのステップSB7及び光学的情報読取装置1、1Aの運用時に実行することができる。
【0146】
図12に示すフローチャートのスタート後のステップSD1では、図11に示すフローチャートのステップSC1で選択した画像処理フィルタを読取画像に対してフィルタ処理部20cが実行する。このとき、図13の上側に示すような読取画像に対してフィルタ処理部20cが平均化フィルタを実行した場合には、図13の下側に示すような画像処理フィルタ実行後の画像が得られる。
【0147】
その後、ステップSD2に進み、必要に応じて読取画像の縮小・拡大処理を実行する。具体的には、画像処理フィルタ実行後の読取画像におけるコードのPPCが特定範囲内である場合には、縮小または拡大を非実行にする一方、特定範囲外である場合には、縮小または拡大を実行し、PPCが特定範囲内に入るようにする。図14の上側に、縮小処理後の読取画像の例を示している。
【0148】
次いで、ステップSD3では、抽出部20gが、ステップSD2で縮小または拡大された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する。図14の下側に、コード候補領域抽出画像の例を示している。尚、ステップSD2で縮小または拡大されていない場合には、ステップSD3で元の読取画像に対して抽出処理が実行されることになる。
【0149】
その後、ステップSD4に進み、推論処理部20jが、ステップSD3で抽出されたコード候補領域に対応する部分画像をニューラルネットワークに入力して推論処理を実行する。図15に推論処理実行前の読取画像と推論処理実行後の理想画像の例を示している。理想画像の生成後、ステップSD5~SD7を経てこのフローが終了する。ステップSD5~SD7は、図11に示すフローチャートのステップSC7~SC9と同じである。
【0150】
(2種類のデコード処理)
上述したように本実施形態では、カメラ5により生成された読取画像に推論処理部20jが推論処理を実行することなく、当該読取画像に対してデコード処理部20fがデコード処理する場合と、カメラ5により生成された読取画像に推論処理部20jが推論処理を実行して理想画像を生成し、生成した理想画像に対してデコード処理部20fがデコード処理する場合とがある。前者の場合、即ち、読取画像に対してデコード処理する場合を第1デコード処理といい、後者の場合、即ち、推論処理で生成された理想画像に対してデコード処理する場合を第2デコード処理という。
【0151】
第1デコード処理及び第2デコード処理は、共にデコード処理部20fで実行されるが、異なるデコード処理部で実行するようにしてもよい。すなわち、プロセッサ20は、専用コア25と第1~第4汎用コア21~24とを有しているので、専用コア25で構成される推論処理部20jによる推論処理と、第1~第4汎用コア21~24の少なくとも1つで構成されるデコード処理部20fによる第1デコード処理とを並列的にかつ高速で実行することができる。さらに、プロセッサ20は、推論処理部20jによる推論処理の完了後に、デコード処理部20fによる第2デコード処理を実行することができる。以下、具体的について説明する。
【0152】
(第1の例)
図16は、第1デコード処理と推論処理とを並列的に実行する場合の第1の例を示すフローチャートである。このフローチャートのスタート後のステップSE1では、プロセッサ20が読取画像を取得する。その後、ステップSE2で第1デコード処理、即ち、読取画像に対してデコード処理部20fがデコード処理を実行する。第1デコード処理後にステップSE3に進み、読み取りが成功したか否かを判定する。読み取りが成功しなければ、ステップSE2に戻り、第1デコード処理を再度実行する。所定回数(時間)経過しても読み取りが成功しなければタイムアウトとなり、デコード処理を終了する。一方、ステップSE3で読み取りが成功したと判定された場合には、デコード処理を終了する。
【0153】
また、ステップSE1からステップSE2に進むのと並行してステップSE4に進む。ステップSE4では、カメラ5により生成された読取画像に推論処理部20jが推論処理を実行して理想画像を生成する。この理想画像の生成と、ステップSE2の第1デコード処理とは並行して実行され、別の読取画像である。ステップSE4で理想画像を生成した後、ステップSE5に進み、第2デコード処理、即ち、ステップSE4で生成した理想画像に対してデコード処理部20fがデコード処理を実行する。第2デコード処理後にステップSE6に進み、読み取りが成功したか否かを判定する。読み取りが成功しなければ、ステップSE5に戻り、第2デコード処理を再度実行する。所定回数(時間)経過しても読み取りが成功しなければタイムアウトとなり、デコード処理を終了する。一方、ステップSE6で読み取りが成功したと判定された場合には、デコード処理を終了する。
【0154】
ステップSE4~SE6をキャンセルする機能を光学的情報読取装置1に設けてもよい。ステップSE4~SE6は、推論処理及び第2デコード処理を実行するステップであるが、特に推論処理には時間を要するため、ステップSE4~SE6をキャンセルすることで、処理を高速化できる。ステップSE4~SE6をキャンセルする方法としては、例えばユーザの操作による方法がある。例えば、パラメータセット記憶部40cに記憶されるパラメータの一つとして、推論処理を実行するか否かの選択パラメータを含んでいてもよい。この選択パラメータをユーザが変更することで、推論処理を実行するモードと、実行しないモードとの一方に切り替えることができる。選択パラメータとしては、例えば「速度優先モード」の選択パラメータであってもよい。「速度優先モード」がユーザにより選択された場合には、推論処理を実行しないモードで動作させ、一方、「速度優先モード」が選択されない場合には、推論処理を実行するモードで動作させる。尚、チューニングによって得られた情報に基づいて、推論処理が不要な状況であると判定される場合には推論処理を自動的にキャンセルするようにしてもよい。
【0155】
図17Aは、上記第1の例のシーケンス例1を示すシーケンス図である。この図に示すように、第1~第4汎用コア21~24のうちの少なくとも1つの汎用コアが、第1デコード処理を実行している間に専用コア25が推論処理を実行する。汎用コアは、第1デコード処理が終了し、かつ、推論処理が終了すると、第2デコード処理を実行する。
【0156】
図17Bは、上記第1の例のシーケンス例2を示すシーケンス図である。この例では、第1汎用コア21が第1デコード処理と第2デコード処理とを別スレッドで並列的に実行する。具体的には、第1汎用コア21が第1デコード処理を実行する間に専用コア25が推論処理を実行する。第1汎用コア21は、推論処理が終了すると、第1デコード処理の終了を待つことなく、第1デコード処理とは別スレッドで第2デコード処理を実行する。
【0157】
図17Cは、上記第1の例のシーケンス例3を示すシーケンス図である。この例では、第1汎用コア21が第1デコード処理を実行し、第2汎用コア22が第2デコード処理を実行する。具体的には、第1汎用コア21が第1デコード処理を実行する間に専用コア25が推論処理を実行する。第2汎用コア22は、推論処理が終了すると、第1デコード処理の終了を待つことなく、第2デコード処理を実行する。これにより、第1デコード処理と第2デコード処理とをそれぞれ別の汎用コアで実行できるので、処理がより一層高速になる。
【0158】
(第2の例)
図18は、第1デコード処理と推論処理とを並列的に実行する場合の第2の例を示すフローチャートであり、この第2の例では、コード候補領域が複数抽出された場合を示す。このフローチャートのスタート後のステップSF1では、抽出部20gがカメラ5により生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する抽出処理を実行する。これにより、複数のコード候補領域からなる候補領域群が抽出される。複数のコード候補領域は、1枚の読取画像の中から抽出されており、実際にはコードが含まれていない領域が混在していることもある。
【0159】
ステップSF1を経た後、第1デコードシーケンス処理部による処理と、第2デコードシーケンス処理部による処理とに分かれる。第1デコードシーケンス処理部では、ステップSF2において、コード候補領域群の中から1つのコード候補領域を選択する。このとき、コードが存在する可能性が高い領域から低い領域に順番を付けておき、コードが存在する可能性が高い領域を優先して選択する。ステップSF3では、ステップSF2で選択したコード候補領域に対してデコード処理部20fが第1デコード処理を実行する。第1デコード処理後にステップSF4に進み、読み取りが成功したか否かを判定する。ステップSF4で読み取りが成功したと判定された場合には、デコード処理を終了する。
【0160】
一方、読み取りが成功しなければ、ステップSF2に戻り、コード候補領域群の中から第1デコード処理を実行していないコード候補領域を上記順番に従って1つだけ選択する。その後、ステップSF3に進んでステップSF2で選択したコード候補領域に対してデコード処理部20fが第1デコード処理を実行する。再び読み取りが成功しなければ、ステップSF2に戻る。読み取りが成功しなければ、これを繰り返して全てのコード候補領域に対してデコード処理部20fが第1デコード処理を実行する。読み取りが1つも成功しない場合であってもタイムアウトとなり、デコード処理を終了する。
【0161】
一方、第2デコードシーケンス処理部では、ステップSF5において、ステップSF2と同様に、コード候補領域群の中から1つのコード候補領域を選択する。ステップSF6では、ステップSF5で選択したコード候補領域に対して推論処理部20jが推論処理を実行して理想画像を生成する。この理想画像の生成と、ステップSF3の第1デコード処理とは並行して実行される。ステップSF6で理想画像を生成した後、ステップSF7に進み、第2デコード処理、即ち、ステップSF6で生成した理想画像に対してデコード処理部20fがデコード処理を実行する。第2デコード処理後にステップSF8に進み、読み取りが成功したか否かを判定する。ステップSF8で読み取りが成功したと判定された場合には、デコード処理を終了する。
【0162】
一方、読み取りが成功しなければ、ステップSF5に戻り、コード候補領域群の中から推論処理を実行していないコード候補領域を上記順番に従って1つだけ選択する。その後、ステップSF6に進んで理想画像を生成した後、ステップSF7に進む。ステップSF7では第2デコード処理を実行する。再び読み取りが成功しなければ、ステップSF5に戻る。読み取りが成功しなければ、これを繰り返して全てのコード候補領域に対して理想画像の生成及び第2デコード処理を実行する。読み取りが1つも成功しない場合もデコード処理を終了する。
【0163】
図19は、第2の例のシーケンス例を示すシーケンス図である。この例では、第1汎用コア21及び第2汎用コア22が共に抽出処理を実行する。これにより、コード候補領域が複数存在していても、高速に抽出処理が完了する。この例では、コード候補領域1~8が抽出された場合について説明する。
【0164】
抽出処理後、第1汎用コア21がコード候補領域1に対する第1デコード処理を実行する(第1デコード処理1)。また、第2汎用コア22がコード候補領域2に対する第1デコード処理を実行する(第1デコード処理2)。第1デコード処理1及び第1デコード処理2は並列的に実行される。また、専用コア25は、第1デコード処理1及び第1デコード処理2が実行されている間に、コード候補領域5に対して推論処理を実行する(推論処理1)。
【0165】
第1汎用コア21は、第1デコード処理1が終了すると、コード候補領域3に対する第1デコード処理を実行する(第1デコード処理3)。また、第2汎用コア22は、第1デコード処理2が終了すると、コード候補領域4に対する第1デコード処理を実行する(第1デコード処理4)。第1デコード処理3及び第1デコード処理4の実行中に専用コア25が推論処理1を終了すると、専用コア25はコード候補領域7に対して推論処理を実行する(推論処理2)。
【0166】
第1汎用コア21は、第1デコード処理3が終了すると、推論処理1が既に終了しているので、推論処理1によって生成された理想画像(コード候補領域5に対応する画像)に対して第2デコード処理を実行する(第2デコード処理5)。一方、第2汎用コア22は、第1デコード処理4が終了すると、推論処理2が終了していないので、コード候補領域6に対する第1デコード処理を実行する(第1デコード処理6)。
【0167】
第2デコード処理5及び第1デコード処理6の実行中に専用コア25が推論処理2を終了する。第1汎用コア21は、第1デコード処理5が終了すると、推論処理2が既に終了しているので、推論処理2によって生成された理想画像(コード候補領域7に対応する画像)に対して第2デコード処理を実行する(第2デコード処理7)。一方、第2汎用コア22は、第1デコード処理6が終了すると、コード候補領域8に対する第1デコード処理を実行する(第1デコード処理8)。このように、第1汎用コア21及び第2汎用コア22は、専用コア25による推論処理で理想画像が生成された場合、現在実行している第1デコード処理が完了すると、次の第1デコード処理を実行することなく、当該次の第1デコード処理に優先して第2デコード処理を実行するように構成されている。
【0168】
複数ある汎用コア21~24のうち、例えば第1汎用コア21が抽出処理を実行し、第2汎用コア22が第1デコード処理を実行し、第3汎用コア23が第2デコード処理を実行してもよい。また、第4コア24が、カメラ5の撮像制御や照明部4の制御を実行してもよい。このように複数種の処理を各汎用コア21~24に分担することで、処理をより一層高速化できる。
【0169】
(第3の例)
図20は、第1デコード処理と推論処理とを並列的に実行する場合の第3の例を示すフローチャートである。この第3の例では、コード候補領域が複数抽出された場合に、デコードが済んでいるコード候補領域であるか否かの判定ステップを経た後、デコードが済んでいないと判定されると第1デコード処理を行うようにしている。
【0170】
このフローチャートでは、スタート後、第1デコードシーケンス処理部による処理と、第2デコードシーケンス処理部による処理とに分かれる。第1デコードシーケンス処理部のステップSG1では、抽出部20gがカメラ5により生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する第1抽出処理を実行する。一方、第2デコードシーケンス処理部のステップSG7では、抽出部20gがカメラ5により生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出する第2抽出処理を実行する。
【0171】
ステップSG1の第1抽出処理と、ステップSG7の第2抽出処理とは、抽出の条件が異なっており、後述するように、第1抽出処理で抽出されたコード候補領域に対しては第1デコード処理を実行し(ステップSG4)、第2抽出処理で抽出されたコード候補領域に対しては推論処理を実行する(ステップSG14)。このように第1抽出処理と第2抽出処理とで抽出の条件を変えている理由は、第1デコードシーケンス処理部では読み取りが簡単な画像を高速に捉えて高速に読み取ることが狙いである一方、第2デコードシーケンス処理部では、第1デコードシーケンス処理部で失敗する可能性が高く、読み取りが難しい画像を精度良く捉えて正確に読み取ることが狙いとなっているからである。
【0172】
例えば、第1抽出処理は、コード候補領域を高速に抽出可能にする第1の所定条件で抽出する一方、第2抽出処理は、コード候補領域を前記第1の所定条件よりも精度の高い抽出を可能にする第2の所定条件で抽出する。言い換えると、第1の所定条件は第2の所定条件よりも抽出の精度が低い分、高速な抽出処理が可能になるので、第1の所定条件は、第2の所定条件よりも高速な抽出を可能にする条件である。
【0173】
具体的な条件設定としては、第1の所定条件の抽出閾値を第2の所定条件の抽出閾値よりも低くすること、第1の所定条件を構成する抽出条件の数を第2の所定条件を構成する抽出条件の数よりも少なくする等である。また、第1の所定条件を構成する抽出条件に別の抽出条件を組み合わせて第2の所定条件を構成してもよい。
【0174】
ステップSG1で高速な抽出処理を実行した後、ステップSG2に進み、コード候補領域群の中から1つのコード候補領域を選択する。その後、ステップSG3に進み、ステップSG2で選択したコード候補領域が既にデコード処理されたコード候補領域であるか否かを判定する。ステップSG3でYESと判定されて既にデコード処理されたコード候補領域である場合には、ステップSG2に戻ってコード候補領域群の中から別のコード候補領域を選択してステップSG3に進む。
【0175】
ステップSG3でYESと判定された場合には、ステップSG2で選択したコード候補領域が未だデコード処理されていないということであるので、ステップSG4に進み、ステップSG2で選択したコード候補領域に対してデコード処理部20fが第1デコード処理を実行する。第1デコード処理後にステップSG5に進み、読み取りが成功したか否かを判定する。ステップSG5で読み取りが成功したと判定された場合には、ステップSG6に進み、読み取りが終了したか否かを判定する。ステップSG5による第1デコード処理で読み取りが終了した場合には、このフローを終了するが、読み取りが終了していない場合には、ステップSG2に戻ってコード候補領域群の中から別のコード候補領域を選択してステップSG3に進む。また、ステップSG5で読み取りが成功しなければ、ステップSG2に戻る。
【0176】
一方、第2デコードシーケンス処理部のステップSG7を経てステップSG8に進むと、コード候補領域群の中から1つのコード候補領域を選択する。ステップSG9~SG12は、上記ステップSG3~SG6と同様なステップである。
【0177】
また、ステップSG7を経てステップSG13に進むと、コード候補領域群の中から1つのコード候補領域を選択する。ステップSG14では、ステップSG13で選択したコード候補領域に対して推論処理部20jが推論処理を実行して理想画像を生成する。この理想画像の生成と、ステップSG4及び/またはステップSG10の第1デコード処理とは並行して実行される。ステップSG14で理想画像を生成した後、ステップSG15に進み、第2デコード処理を実行する。第2デコード処理後にステップSG16に進み、読み取りが成功したか否かを判定する。ステップSG16で読み取りが成功したと判定された場合には、ステップSG17で読み取りが終了したか否かを判定する。ステップSG4、SG10による第1デコード処理やステップSG15による第2デコード処理で読み取りが終了した場合には、このフローを終了するが、読み取りが終了していない場合には、ステップSG13に戻ってコード候補領域群の中から別のコード候補領域を選択してステップSG14に進む。また、ステップSG16で読み取りが成功しなければ、ステップSG13に戻る。
【0178】
図21は、第3の例のシーケンス例を示すシーケンス図である。この例では、第1汎用コア21が比較的高速な第1抽出処理を実行し、第2汎用コア22が比較的高精度な第2抽出処理を実行するので、第2抽出処理の時間が第1抽出処理の時間よりも長くなっている。また、この例では、第1抽出処理及び第2抽出処理により、コード候補領域1~9が抽出された場合について説明する。
【0179】
第1抽出処理後、第1汎用コア21は、コード候補領域1に対する第1デコード処理を実行する(第1デコード処理1)。第1汎用コア21は、第1デコード処理1が終了すると、コード候補領域2に対する第1デコード処理を実行する(第1デコード処理2)。また、第2抽出処理後、第2汎用コア22は、コード候補領域3に対する第1デコード処理を実行する(第1デコード処理3)。第1デコード処理2及び第1デコード処理3は並列的に実行される。また、第2抽出処理後、専用コア25は、第1デコード処理2及び第1デコード処理3が実行されている間に、コード候補領域6(第2抽出処理で抽出されたコード候補領域)に対して推論処理を実行する(推論処理1)。
【0180】
また、第1汎用コア21は、第1デコード処理2が終了すると、コード候補領域4に対する第1デコード処理を実行する(第1デコード処理4)。第2汎用コア22は、第1デコード処理3が終了すると、コード候補領域5に対する第1デコード処理を実行する(第1デコード処理5)。第1デコード処理4及び第1デコード処理5の実行中に専用コア25が推論処理1を終了すると、専用コア25はコード候補領域8に対して推論処理を実行する(推論処理2)。
【0181】
第1汎用コア21は、第1デコード処理4が終了すると、推論処理1が既に終了しているので、推論処理1によって生成された理想画像(コード候補領域6に対応する画像)に対して第2デコード処理を実行する(第2デコード処理6)。一方、第2汎用コア22は、第1デコード処理5が終了すると、推論処理2が終了していないので、コード候補領域7に対する第1デコード処理を実行する(第1デコード処理7)。
【0182】
第2デコード処理6及び第1デコード処理7の実行中に専用コア25が推論処理2を終了する。第1汎用コア21は、第2デコード処理6が終了すると、推論処理2が既に終了しているので、推論処理2によって生成された理想画像(コード候補領域8に対応する画像)に対して第2デコード処理を実行する(第2デコード処理8)。一方、第2汎用コア22は、第1デコード処理7が終了すると、コード候補領域9に対する第1デコード処理を実行する(第1デコード処理9)。
【0183】
(タスクシーケンスの説明)
図22は、第1デコード処理で読み取りが成功した場合のタスクシーケンス図である。この図では、制御タスク、第1デコード処理タスク、第2デコード処理タスク及び推論処理タスクを示しており、制御タスクが第1デコード処理タスクに読み取り実行命令1を出すと、第1デコード処理を開始する。第1デコード処理で読み取りが成功した段階で読み取り成功通知2を制御タスクに出す。制御タスクは、読み取り成功通知2を受けると、処理終了命令3を第1デコード処理タスクに出し、第1デコード処理タスクは処理終了通知4を制御タスクに出す。
【0184】
また、制御タスクは、第2デコード処理タスクに読み取り実行命令5を出すと、第2デコード処理タスクは、推論処理タスクに推論開始命令6を出す。推論処理タスクは推論処理が完了すると推論完了通知7を第2デコード処理タスクに出す。その後、第2デコード処理タスクは、推論処理タスクに次の推論開始命令8を出す。その後、処理終了通知4が制御タスクに出されたので、制御タスクは、処理終了命令9を第2デコード処理タスクに出す。第2デコード処理タスクは、推論処理タスクに推論終了命令10を出し、推論処理タスクは推論終了通知11を第2デコード処理タスクに出す。次いで、第2デコード処理タスクは、処理終了通知12を制御タスクに出して読み取りを終了する。つまり、プロセッサ20は、第1デコード処理でデコードに成功した場合は、推論処理部20jによる推論処理が完了していなくても、推論処理を途中で終了させるように構成されている。これにより、次の推論処理を早期に開始できる。
【0185】
図23は、第2デコード処理で読み取りが成功した場合のタスクシーケンス図である。制御タスクが第1デコード処理タスクに読み取り実行命令1を出し、第2デコード処理タスクに読み取り実行命令2を出す。第2デコード処理タスクは、推論処理タスクに推論開始命令3を出す。推論処理タスクは推論処理が完了すると推論完了通知4を第2デコード処理タスクに出す。その後、第2デコード処理タスクは、推論処理タスクに次の推論開始命令5を出す。
【0186】
第2デコード処理タスクは、推論完了通知4を受けて第2デコード処理を開始する。第2デコード処理で読み取りが成功し、第2デコード処理タスクが制御タスクに読み取り成功通知6を出すと、制御タスクは第2デコード処理タスクに処理終了命令7を出す。このとき、制御タスクは第1デコード処理タスクにも処理終了命令8を出す。
【0187】
第2デコード処理タスクが処理終了命令7を受けると、推論処理タスクに推論終了命令9を出し、推論処理タスクは第2デコード処理タスクに推論終了通知10を出す。また、第1デコード処理タスクは制御タスクに処理終了通知11を出す。また、第2デコード処理タスクは制御タスクに処理終了通知12を出す。この例では、第2デコード処理でデコードに成功した場合に、推論処理部20jによる推論処理を終了させることができる。
【0188】
図24は、第1デコード処理と第2デコード処理で読み取りが成功した場合のタスクシーケンス図である。制御タスクが第1デコード処理タスクに読み取り実行命令1を出し、第2デコード処理タスクに読み取り実行命令2を出す。第2デコード処理タスクは、推論処理タスクに推論開始命令3を出す。第1デコード処理タスクは、第1デコード処理を開始する。第1デコード処理で読み取りが成功し、第1デコード処理タスクが制御タスクに読み取り成功通知4を出すと、制御タスクは第2デコード処理タスクに処理終了命令5を出す。第2デコード処理タスクは制御タスクに処理終了通知6を出す。
【0189】
一方、推論処理タスクは推論処理が完了すると推論完了通知7を第2デコード処理タスクに出す。その後、第2デコード処理タスクは、推論処理タスクに次の推論開始命令8を出す。第2デコード処理タスクは、推論完了通知7を受けて第2デコード処理を開始する。第2デコード処理で読み取りが成功し、第2デコード処理タスクが制御タスクに読み取り成功通知9を出すと、制御タスクは第2デコード処理タスクに処理終了命令10を出す。
【0190】
第2デコード処理タスクが処理終了命令10を受けると、推論処理タスクに推論終了命令11を出し、推論処理タスクは第2デコード処理タスクに推論終了通知12を出す。第2デコード処理タスクは推論終了通知12を受け取った後、制御タスクに処理終了通知13を出す。この例では、第1デコード処理及び第2デコード処理の両方でデコードに成功した場合に、推論処理部20jによる推論処理を終了させることができる。
【0191】
図25は、第2デコード処理で2回読み取りが成功した場合のタスクシーケンス図である。制御タスクが第1デコード処理タスクに読み取り実行命令1を出し、第2デコード処理タスクに読み取り実行命令2を出す。第2デコード処理タスクは、推論処理タスクに推論開始命令3を出す。推論処理タスクは推論処理が完了すると推論完了通知4を第2デコード処理タスクに出す。その後、第2デコード処理タスクは、推論処理タスクに次の推論開始命令5を出す。第2デコード処理タスクは、推論完了通知4を受けて第2デコード処理を開始する。第2デコード処理で読み取りが成功し、第2デコード処理タスクが制御タスクに読み取り成功通知6を出す。
【0192】
その後、推論処理タスクでは2回目の推論処理が完了して2回目の推論完了通知7を第2デコード処理タスクに出す。第2デコード処理タスクは、2回目の推論完了通知7を受けて2回目の第2デコード処理を開始する。2回目の第2デコード処理でも読み取りが成功し、第2デコード処理タスクが制御タスクに読み取り成功通知8を出す。この間、第1デコード処理タスクでは読み取りが成功していないので、第1デコード処理タスクから読み取り成功通知は出されない。
【0193】
制御タスクは第2デコード処理タスクに処理終了命令9を出す。第2デコード処理タスクが処理終了命令9を受けると、推論処理タスクに推論終了命令10を出し、推論処理タスクは第2デコード処理タスクに推論終了通知11を出す。第2デコード処理タスクは推論終了通知11を受け取った後、制御タスクに処理終了通知12を出す。また、制御タスクは第1デコード処理タスクに処理終了命令13を出すと、第1デコード処理タスクは制御タスクに処理終了通知14を出す。この例では、1回目の第2デコード処理及び2回目の第2デコード処理の両方でデコードに成功した場合に、推論処理部20jによる推論処理を終了させることができる。
【0194】
(カメラによる連続撮影)
図1に示すように、複数のワークWが連続して流れてくる現場で光学的情報読取装置1を使用した場合、ある時間間隔でコードがカメラ5の前を順に通過することになる。このため、カメラ5が所定の短い間隔で連続撮影して読取画像を順に取得し、光学的情報読取装置1は、決められた時間内で読み取りを終了させる必要がある。
【0195】
図26は、読取開始トリガ信号を受信してから一定時間は撮影とデコード処理を繰り返す場合の読み取りシーケンス図である。1回のデコード処理時間は予め設定されており、これをデコードタイムアウト時間とする。また、トータルの読み取り制限時間はデコードタイムアウト時間とは別に予め設定されており、これをタクトタイムアウト時間とする。また、デコード処理を強制的に終了したいタイミングとしては、デコード処理が成功したタイミング(タイミング1)、読み取りを開始してからデコードタイムアウト時間が経過した時点(タイミング2)読み取りを開始してからタクトタイムアウト時間が経過した時点(タイミング3)の3つがある。例えば、読み取り処理の強制終了命令に対する応答速度を10msec程度とした場合、デコード処理も同程度の時間内に終了応答可能にするのがよい場合がある。
【0196】
一方、推論処理は専用コア25での実行で、数十msec~数百msec程度の処理時間を要することがあるため、推論処理を途中で終了する機能、または、推論処理の途中で新たな推論処理を開始する機能のどちらか一方または両方の機能を備えているのが好ましい場合がある。
【0197】
図27は、連続撮影時のデコード処理シーケンス図である。このデコード処理シーケンス図は、図19に示すシーケンス図と同様であるが、推論処理の途中で、上記タイミング1~3のいずれかが到来して推論処理を中断した例を示している。
【0198】
(実施形態の作用効果)
以上説明したように、この実施形態によれば、光学的情報読取装置1、1Aの運用時に、カメラ5により生成された読取画像をニューラルネットワークに入力すると、推論処理によって理想画像が生成される。この推論処理後の理想画像に対してデコード処理が実行されるので、読み取り精度が高まる。
【0199】
また、読取画像がコードの読取に適している場合には、カメラ5により生成された読取画像を推論処理することなく、デコード処理する。上記推論処理と、推論処理をせずにデコードするデコード処理とが並列的に実行されるので、推論処理が必要な読取画像に対する推論処理の実行中に、推論処理が不要な別の読取画像に対するデコード処理を実行すること、または、推論処理が不要な読取画像に対するデコード処理の実行中に、推論処理が必要な別の読取画像に対する推論処理を実行することができる。これにより、処理時間が短縮される。
【0200】
(その他の実施形態)
図28は、その他の実施形態に係る光学的情報読取装置1の運用時における処理の手順の一例を説明する図である。この実施形態では、プロセッサ20により、前記推論処理部(画像修復部)20jの他に、前処理部200と、後処理部201と、第1デコード処理部202と、第2デコード処理部203とが構成されている。前処理部200は、上記フィルタ処理部20cと同様に、カメラ5により生成された読取画像に対してノイズ除去フィルタ、コントラスト補正フィルタ、平均化フィルタ等を実行する部分である。
【0201】
第1デコード処理部202は、カメラ5により生成された読取画像に対するデコード処理を実行する部分であり、この第1デコード処理部202によるデコード処理を第1デコード処理ともいう。プロセッサ20が複数のコア(N個のコア)を有している場合、そのうちのコア0~コアiによって第1デコード処理部202が構成される。1つのコアで第1デコード処理部202が構成されていてもよい。
【0202】
また、第2デコード処理部203は、推論処理部20jが生成した修復画像に対するデコード処理を実行する部分であり、この第2デコード処理部203によるデコード処理を第2デコード処理ともいう。プロセッサ20がN個のコアを有している場合、そのうちのコアi+1~コアN-1によって第2デコード処理部203が構成される。1つのコアで第2デコード処理部203が構成されていてもよい。
【0203】
図29にも示すように、コア0~コアiによって第1デコード処理部202が構成されている場合、コア0~コアiの各々がカメラ5により生成された読取画像の中からコードが存在する可能性が高いコード候補領域を抽出した後、コードの輪郭やコードを構成しているモジュールの位置決め処理を実行し、その後、コードを構成している各モジュールが白であるか、黒であるかを判別し、デコード処理を実行する。処理結果は後処理部201に出力される。
【0204】
一方、図29に示すように、コアi+1~コアN-1によって第2デコード処理部203が構成されている場合、コアi+1~コアN-1の各々が、読取画像からコードが存在する可能性が高いコード候補領域を修復用コード領域として抽出するとともに、推論処理部20jに対し、推論処理を実行するようトリガ信号を送出する。この図29では、2つのコアによって1つのタスクを実行するように記載しているが、任意の1つ以上のコアによって1つのタスクを実行すればよい。
【0205】
具体的には、第2デコード処理部203を構成しているコアN-2及びコアN-1が修復用コード候補領域を抽出すると、トリガ信号(トリガ1)を推論処理部20jに出力し、推論処理部20jに対して推論処理を実行させる。推論処理部20jは、コアN-2及びコアN-1から送出されたトリガ信号(トリガ1)を受信すると、コアN-2及びコアN-1が抽出した修復用コード候補領域に対応する部分画像をニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行する(画像修復1)。画像修復1で生成した修復画像は、コアN-2及びコアN-1へ送られる。コアN-2及びコアN-1は、画像修復1で生成した修復画像に基づいてコードの各セル位置を示すグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコード処理を実行する。
【0206】
一方、第2デコード処理部203を構成しているコアi+1及びコアi+2が修復用コード候補領域を抽出すると、トリガ信号(トリガ2)を推論処理部20jに出力し、推論処理部20jに対して推論処理を実行させる。推論処理部20jは、コアi+1及びコアi+2から送出されたトリガ信号(トリガ2)を受信すると、コアi+1及びコアi+2が抽出した修復用コード候補領域に対応する部分画像をニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行する(画像修復2)。画像修復2で生成した修復画像は、コアi+1及びコアi+2へ送られる。コアi+1及びコアi+2は、画像修復2で生成した修復画像に基づいてコードの各セル位置を示すグリッド位置を決定し、決定したグリッド位置に基づいて当該修復画像のデコード処理を実行する。
【0207】
以下、同様にして、コアN-2及びコアN-1から送出されたトリガ信号(トリガ3)により画像修復3が実行され、コアi+1及びコアi+2から送出されたトリガ信号(トリガ4)により画像修復4が実行され、コアN-2及びコアN-1から送出されたトリガ信号(トリガ5)により画像修復5が実行され、コアi+1及びコアi+2から送出されたトリガ信号(トリガ6)により画像修復6が実行され、コアN-2及びコアN-1から送出されたトリガ信号(トリガ7)により画像修復7が実行される。
【0208】
このタイムチャートに示すように、推論処理部20jによる推論処理と第1デコード処理部202による第1デコード処理とは並列的に実行される。例えば、第1デコード処理部202がコード領域抽出、グリッド位置決め、デコード処理を継続して行う間、推論処理部20jによる推論処理が1回または複数回実行される。また、第1デコード処理部202がコード領域抽出、グリッド位置決め、デコード処理を継続して行う間、第2デコード処理部203による修復用コード領域の抽出、トリガ信号の出力、グリッド位置決め、第2デコード処理が実行される。このように、推論処理部20jは、修復用コード候補領域に対応する部分画像の修復に特化すればよいので、推論処理速度を高速化できる。
【0209】
第2デコード処理部が第2デコード処理を実行している期間の少なくとも一部は、推論処理部20jによる推論処理が実行されない休止期間を有している。すなわち、図29に示すように、推論処理部20jの画像修復1の終了後、第2デコード処理部203が第2デコード処理を開始するのであるが、推論処理部20jが次の画像修復2を開始するまでの間に、所定の期間が設けられており、この所定の期間は、推論処理部20jが画像修復を行わない休止期間とされている。この休止期間は推論処理部20jが推論処理を行わない期間であり、休止期間を設けることにより、推論処理部20jの負荷を低減して、AIチップ23の発熱を抑制できる。なお、グリッド位置決めの処理時間は、処理対象の修復画像によって長い場合や短い場合が存在する。図29では各コアの処理が交互に実行される例を記載しているが、グリッド位置決めの処理時間によっては、各コアの処理は必ずしも交互に実行されない。すなわち、処理が空いているコアから順にトリガ発出や、グリッド位置決めを実行してもよい。
【0210】
上述したように、設定部20eは、「画像修復フィルタの適用」と「画像修復フィルタの非適用」との一方をユーザが選択可能に構成されている。画像修復フィルタを適用するということは、画像修復を行うということであり、また、画像修復フィルタを非適用にするということは、画像修復を行わないということなので、設定部20eは、第2デコード処理部203が第2デコード処理を実行するか否かを設定する部分にも相当する。この設定はユーザによって実行されるので、設定部20eはユーザによる操作を受け付けることができるように構成されている。画像修復フィルタの適用、非適用という設定形態に限定されるものではなく、例えば推論処理(修復処理)の適用、非適用、AIによる処理の適用、非適用といった設定形態であってもよい。ユーザによる操作は、例えばユーザインターフェース画面に表示したボタン等の操作を挙げることができる。
【0211】
光学的情報読取装置1では、露光時間やゲインなどの撮像条件、画像処理フィルタなどの設定をあらかじめ決定するチューニング処理行ってから運用される。例えばワークWがラベルのような場合では、コードが鮮明に印字されているので、チューニング処理により適切な条件設定がなされれば、高い読み取り率を実現できる。しかし、金属や樹脂などのワークWにおいては、チューニング処理時の最適な条件が設定されるものの、微弱な外乱光による読取画像の変化などが原因で読み取りにくい状態になったり、そもそも光学設計とアルゴリズム設計上、超低コントラストで読み取れないケースが発生してしまうことがある。
【0212】
本例の推論処理部20jが実行する画像修復アルゴリズムを、画像修復しないでデコード処理する場合と並列に実施することで、従来の読み取り性能を維持しながら金属や樹脂などのワークWに対しての読み取り性能を向上させ、読み取り安定性を高めることができる。また、従来の光学設計とアルゴリズムでは読めないワークWに対しても、画像修復アルゴリズムを適用することにより読み取りが可能になる。
【0213】
具体例を示すと、ある工場で箱に付されたシール上に印字されたコードを読み取る工程で、光学的情報読取装置1の設置条件に制約がなく、最適な設置が可能な場合においては、従来の読み取り性能でも安定した運用が可能であることから、画像修復フィルタを非適用にしてタクトを優先することができる。
【0214】
また、ある工場において、金属にはっきりと印字されたコードを読み取る工程があり、読み取り設定時のチューニング処理においては最適な条件が決定されるものの、実際に運用してみると、金属表面の傷、読み取り位置・角度のばらつき、周囲環境の明るさ変化などで読み取りが不安定になるケースがある。このようなケースでは、画像修復フィルタを適用して、画質改善することで、上記のような条件のばらつきに強くなり、読み取り性能が向上する。
【0215】
また、一部のワークでは、従来のアルゴリズムでの読み取りが不可能であるが、そのようなケースでは画像修復フィルタを適用することで、読み取りができるようになるケースがある。例えば、コードの損傷が著しかったり、コントラストが明確でない場合でも、画像修復フィルタを適用することによって、コントラストや傷を修復し、読み取りが可能になる。
【0216】
画像修復フィルタを適用した場合に実行される第2デコード処理は、修復画像に対してデコード処理を実行するため、通常の読取画像のデコード処理を実行する第1デコード処理に比べて処理にかかる時間が長い場合が多い。したがって、第1デコード処理部202は、第2デコード処理部203による第2デコード処理にかかる時間よりも短い時間で第1デコード処理を実行可能である。本例では、このことを前提とし、デコード処理の制限時間である、デコードタイムアウト時間を設定部20eが変更可能になっている。
【0217】
具体的には、設定部20eは、第2デコード処理を実行すると設定されている場合は、第2デコード処理の実行に必要な時間よりも長いデコードタイムアウト時間を設定可能に構成されるとともに、第2デコード処理を実行しないと設定されている場合は、第2デコード処理の実行に必要な時間よりも短いデコードタイムアウト時間を設定可能に構成されている。これにより、運用時には、第2デコード処理を実行する場合、一般的な第2デコード処理の実行に必要な時間よりも長いデコードタイムアウト時間を設定することができるので、修復画像に対するデコード処理を確実に実行できる。一方、第2デコード処理を実行しないと設定されている場合は、一般に第2デコード処理よりも短い時間でデコード処理が可能な第1デコード処理のみを実行することになるので、第1デコード処理に対応した短いデコードタイムアウト時間を設定できる。このようにデコードタイムアウト時間を変更することで、第1デコード処理及び第2デコード処理のそれぞれに対応したデコードタイムアウト時間にすることができる。
【0218】
また、図29では、第1デコード処理部202と第2デコード処理部203とを別にしているが、図30に示すように、第1デコード処理部202と第2デコード処理部203とをまとめてデコード処理部210としてもよい。デコード処理部210は、カメラ5により生成された読取画像に対する第1デコード処理と並列に、修復画像に対する第2デコード処理を実行する。このようにデコード処理を実行する部分は、ハードウエア上で任意に分けることもできるし、統合することもできる。以下、デコード処理を実行する部分を1つに統合した例で説明するが、これに限らず、複数に分けた場合にも同様に適用できる。
【0219】
デコード処理部210は、設定部20eにより第2デコード処理を実行しないと設定されている場合には、第2デコード処理に使われる処理のリソースを第1デコード処理に振り分け、第2デコード処理を実行すると設定されている場合に比べ、第1デコード処理を高速化するように構成されている。処理のリソースとは、例えばメモリの使用領域や、マルチコアCPUを構成しているコア等である。具体的には、第2デコード処理を実行しないと設定されている場合には、第2デコード処理を実行すると設定されている場合に比べて、第1デコード処理を受け持つコアの数を多くする。また、第2デコード処理を実行しないと設定されている場合には、第2デコード処理を実行すると設定されている場合に比べて、第1デコード処理で使用するメモリの領域を拡大する。コアの数を多くすることと、メモリの領域を拡大することとは、併用してもよいし、いずれか一方のみ実行してもよい。これにより、マルチコアCPUの性能を最大限に引き出して第1デコード処理を高速化できる。
【0220】
デコード処理部210は、画像修復に先立ち、読取画像からコードが存在する可能性が高いコード候補領域を抽出する。すなわち、ニューラルネットワークを用いた画像修復時に当該ニューラルネットワークに入力する画像が大きいと演算時間が長時間化してしまうという問題がある。また、処理の高速化の観点からは、デコードの試行回数もできるだけ少なくしたい。これらのことに対し、本例では、コード候補領域を多少時間がかかっても確実に抽出可能にするために、ラインサーチベースではなく、ヒートマップベースのサーチ手法を採用している。例えば、デコード処理部210は、コードの特徴量を定量化し、特徴量の大きさを各画素値に割り当てたヒートマップを生成し、当該ヒートマップ上で、コードが存在する可能性が高いコード候補領域を抽出する。具体例としては、ヒートマップにおいて相対的に熱く(特徴量が大きく)示されている領域で2次元コードの特徴部分(例:ファインダパターン等)を取得する方法がある。特徴部分が複数取得された場合には、優先づけをして抽出し、RAM41や記憶部30等に記憶させておくことができる。
【0221】
デコード処理部210がコード候補領域を抽出した後、抽出したコード候補領域に対応する部分画像を推論処理部20jに出力する。推論処理部20jは、デコード処理部210が抽出したコード候補領域に対応する部分画像をニューラルネットワークに入力し、当該部分画像を修復した修復画像を生成する推論処理を実行する。これにより、演算時間を短縮できる。
【0222】
また、デコード処理部210は、上述したチューニング処理により設定された読取対象のコードを包含できるサイズで、かつ読取画像の中でコードが存在する可能性が高いコード候補領域を抽出し、当該抽出された画像を、予め定められたサイズとなるように縮小又は拡大してからニューラルネットワークに入力し、当該ニューラルネットワークで修復した修復画像をデコードするように構成されていてもよい。抽出された画像を予め定められたサイズの画像に拡大・縮小してニューラルネットワークに入力することで、ニューラルネットワークに入力されるコード画像のPPCを所定の範囲内に収めることができ、ニューラルネットワークによる画像修復効果を安定的に引き出すことができる。また、読取対象のコードサイズは様々であることが考えられるが、最終的にニューラルネットワークに入力されるコードのサイズを固定できるので、処理の高速性とデコードのし易さのバランスを一定以上に保つことができる。
【0223】
以下、第1デコード処理及び第2デコード処理のフローチャートについて、図31に基づいて詳細に説明する。スタート後のステップSE1では、プロセッサ20がカメラ5に読取画像を生成させ、読取画像を取得する。ステップSE1で取得された読取画像は、デコード処理部210に入力される。ステップSE2では、ステップSE1で取得された読取画像に対して画像修復を施すことなく、第1デコード処理を実行する。第1デコード処理が成功すれば、ステップSE4に進んで終了処理、即ちデコード結果の出力処理を実行する。ステップSE2で第1デコード処理が失敗すれば、ステップSE2に戻り、第1デコード処理を再度実行する。所定のデコードタイムアウト時間が経過すると、当該読取画像に対する第1デコード処理を中止する。
【0224】
一方、ステップSE1からステップSE5に進むルートでは、デコード処理部210が読取画像から修復用コード領域を抽出する。具体的には、チューニング処理により設定された読取対象のコードを包含できるサイズで、かつ読取画像の中でコードが存在する可能性が高いコード候補領域を抽出する。このとき、修復用コード領域が複数抽出された場合には、候補領域R1、R2、…として一時的に保存しておく。抽出された修復用コード領域の一例を図32に示す。その後、ステップSE6に進み、kの値を1にしておく。
【0225】
ステップSE7では、候補領域Rkに対応する部分画像に対してリサイズ処理を実行する。リサイズ処理は、ステップSE5で抽出された修復用コード領域に対応する部分画像を、予め定められたサイズとなるように縮小又は拡大する処理である。このリサイズ処理により、後述するニューラルネットワークに入力する画像の大きさを予め所定の大きさにしておくことができる。図32に示す例では、ニューラルネットワークに入力する部分画像の大きさが256ピクセル×256ピクセルである場合について示しているが、部分画像の大きさはこれに限られるものではなく、処理速度等を勘案して任意の大きさにリサイズすることができる。
【0226】
ステップSE8では、白黒反転設定が「両方」になっているか否かを判定する。すなわち、画像修復は、数学的には写像を行っているだけであり、白から黒、黒から白、黒から黒、白から白の写像を単一のニューラルネットワークで実現することは難易度が高い場合がある。そのため、白地に黒印字された画像となるようにプロパティに基づいて白黒反転処理を実行する。ニューラルネットワークの学習のさせ方によっては、黒地に白印字された画像であってもよい。白黒反転処理の一例を図32に示す。白黒反転処理の詳細については後述する。
【0227】
ステップSE8でYESと判定されて白黒反転設定が「両方」になっている場合にはステップSE9に進み、リサイズ処理後の画像を推論処理部20jに入力して画像修復を実行する。その後、ステップSE10に進み、デコード処理部210が修復後の画像に対して第2デコード処理を実行する。ステップSE10で第2デコード処理が成功すれば、ステップSE4に進んで終了処理を実行する。ステップSE10で第2デコード処理が失敗すれば、ステップSE11に進み、リサイズ処理後の画像を白黒反転処理する。その後、ステップSE11で白黒反転処理後の画像を推論処理部20jに入力して画像修復を実行する(図32参照)。次いで、ステップSE13に進み、デコード処理部210が修復後の画像に対して第2デコード処理を実行する。ステップSE13で第2デコード処理が成功すれば、ステップSE4に進んで終了処理を実行する。ステップSE13で第2デコード処理が失敗すれば、ステップSE14に進む。ステップSE14では、ステップSE5で抽出した候補領域がまだあるか否かを判定し、候補領域がない場合にはステップSE4に進んで終了処理を実行する。
【0228】
一方、ステップSE8でNOと判定されて白黒反転設定が「両方」になっていない場合にはステップSE15に進み、白黒反転設定が「OFF」になっているか否かを判定する。ステップSE15でNOと判定されて白黒反転設定が「OFF」になっていない場合には、ステップSE16に進んでリサイズ処理後の画像を白黒反転する処理する。その後、ステップSE17で白黒反転処理後の画像を推論処理部20jに入力して画像修復を実行する。次いで、ステップSE18に進み、デコード処理部210が修復後の画像に対して第2デコード処理を実行する。ステップSE18で第2デコード処理が成功すれば、ステップSE4に進んで終了処理を実行する。ステップSE18で第2デコード処理が失敗すれば、ステップSE14に進む。ステップSE14で候補領域がまだあるか否かを判定し、候補領域がない場合にはステップSE4に進んで終了処理を実行する。
【0229】
ステップSE14で候補領域がまだあると判定された場合には、ステップSE19に進み、kの値に1を加えてステップSE7に進む。ステップSE7では、前回のフローからkの値が1つ増えているので、次の候補領域Rkに対応する部分画像に対して同様にリサイズ処理を実行する。ステップSE8以降は上述したとおりである。つまり、第1デコード処理または第2デコード処理の一方でデコードが成功すれば、成功した時点でデコード結果を出力して他の候補領域に対するデコード処理は行わず、次のワークWを撮像した読取画像を取得し、同様な処理を実行する。
【0230】
図32に示す後処理部201は、リサイズ処理後に画像修復していない部分画像と、リサイズ処理後に推論処理部20jが画像修復した部分画像とを合成する処理を実行する。すなわち、ニューラルネットワークを用いた画像修復では、修復前のコードが人間の目視で確認できるのに、画像修復がうまくいかないことや、画像修復するとセルが丸くなることが起こり得る。これらのことに対して、画像修復していない部分画像と、画像修復した部分画像とを適切な割合で重ね合わせると、その後のデコード処理が容易になる場合がある。画像修復していない部分画像と、画像修復した部分画像とを重ね合わせる割合は、所定の固定値であってもよいし、固定値以外であってもよく、例えば推論処理部20jによるの修復の安定度に基づいて、読み取り時に動的に、あるいは事前評価(チューニング)で最適化して決定してもよい。例えば事前評価において、その割合をユーザがスケールバー等で調整可能にし、合成後の画像をユーザに提示しながら調整が行えるようにしてもよい。
【0231】
(バンク切り替え機能)
本実施形態では、例えばカメラ5の撮像条件を構成するパラメータ及びデコード処理部210における処理条件等を構成するパラメータがセットになったパラメータセットを上記パラメータセット記憶部30cに記憶することができるように構成されている。パラメータセットは、バンクと呼ぶことができる。バンクは複数設けられており、それぞれに異なるパラメータが記憶されている。例えば、パラメータセット記憶部30cには、チューニング実行部20dにより設定された第1の撮像条件及びコード条件と、第2の撮像条件及びコード条件とを含む複数の撮像条件及びコード条件とがそれぞれ別のパラメータセットとして記憶されている。
【0232】
この光学的情報読取装置1では、パラメータセット記憶部35cに記憶されている複数のパラメータセットのうち、第1の撮像条件及びコード条件を含む一のパラメータセットから、第2の撮像条件及びコード条件を含む他のパラメータセットへ切り替えることや、その反対の切り替えができるように構成されている。パラメータセットの切替は、プロセッサ20が行うことや、ユーザが行うこともできるし、PLC101等の外部制御装置からの切替信号によって行うように構成することもできる。パラメータセットの切替をユーザが行う場合には、例えばユーザインターフェースに組み込まれているパラメータセット切替部を操作すればよい。パラメータセット切替部を「有効」にすることで、そのバンクのパラメータセットが光学的情報読取装置1の運用時に使用され、また、パラメータセット切替部を「無効」にすることで、そのバンクのパラメータセットが光学的情報読取装置1の運用時に使用されないようになる。つまり、パラメータセット切替部は、一のパラメータセットから他のパラメータセットに切り替えるためのものである。
【0233】
本例のデコード処理部210は、一のパラメータセットを使用して運用している時に、修復画像に対する第2デコード処理に失敗すると、他のパラメータセットに切り替えてから、別の条件で撮像された読取画像に対して画像修復、第2デコード処理を実行する。例えば、デコード処理部210が第2デコード処理に失敗したことを検出すると、現在しているパラメータセット以外のパラメータセットに切り替えた後、画像修復、第2デコード処理を実行し、このパラメータセットでも第2デコード処理に失敗したことを検出すると、これまで使用していない他のパラメータセットに切り替えた後、画像修復、第2デコード処理を実行する。パラメータセットを切り替えると、カメラ5の撮像条件だけなく、読取対象のコードサイズも変更される場合があり、この場合にはコードが存在する可能性が高いコード候補領域を抽出する際のサイズも変わることになる。その結果、ニューラルネットワークに入力する画像の縮小率又は拡大率も変わり、画像修復の結果も変わることになる。
【0234】
(白黒反転対応)
次に、図33及び図34に基づいてコードの白黒反転対応について説明する。図33は、2つのニューラルネットワーク、即ち、白地に黒印字のコードで学習したニューラルネットワークと、黒地に白印字のコードで学習したニューラルネットワークとを用いてコードの白黒反転に対応する場合について説明する図である。FIG.33Aは、読取画像(左端の画像)を、白地に黒印字のコードで学習したニューラルネットワークと、黒地に白印字のコードで学習したニューラルネットワークとにそれぞれ入力し、各ニューラルネットワークからデコード結果を出力させる方式を示しており、この方式を並行実施方式と呼ぶ。読取画像は、白地に黒印字のコードを撮像した画像なので、白地に黒印字のコードで学習したニューラルネットワークによる修復画像ではデコード処理に成功するが、黒地に白印字のコードで学習したニューラルネットワークによる修復画像ではデコード処理に失敗する。
【0235】
FIG.33Bは、読取画像(左端の画像)を、まず、黒地に白印字のコードで学習したニューラルネットワークのみに入力し、修復画像のデコード処理を試みる。デコード処理に失敗した場合のみ、読取画像を、白地に黒印字のコードで学習したニューラルネットワークに入力して修復画像を生成する。この方式は、失敗後に別ネットワークを使用する方式である。
【0236】
FIG.33Cは、ユーザによる設定に基づいて、読取画像を入力するニューラルネットワークを選択する方式である。左側に示すケースは、読取画像が白地に黒印字のコードを撮像した画像であると設定されている場合である。この場合、ネットワーク選択モジュールが白地に黒印字のコードで学習したニューラルネットワークを選択する。そして、読取画像(左端の画像)を白地に黒印字のコードで学習したニューラルネットワークに入力する。一方、右側に示すケースは、読取画像が黒地に白印字のコードを撮像した画像であると設定されている場合である。この場合、ネットワーク選択モジュールが黒地に白印字のコードで学習したニューラルネットワークを選択する。そして、読取画像(左端の画像)を黒地に白印字のコードで学習したニューラルネットワークに入力する。
【0237】
図34は、1つのニューラルネットワークのみを用いてコードの白黒反転に対応する場合について説明する図である。FIG.34Aでは、読取画像(左端の画像)を白黒反転処理することにより、白黒反転画像を生成する場合について示している。白黒反転処理しない画像と、白黒反転処理した画像とをそれぞれ白地に黒印字のコードで学習したニューラルネットワークに入力する。読取画像は、黒地に白印字のコードを撮像した画像なので、白地に黒印字のコードで学習したニューラルネットワークによる修復画像ではデコード処理に失敗するが、白黒反転処理した後の画像を使用することで、デコード処理に成功する。
【0238】
FIG.34Bの上に示す例では、読取画像(左端の画像)が黒地に白印字されたコードの画像であるため、白地に黒印字のコードで学習したニューラルネットワークに入力すると、デコード処理に失敗する。その後、白黒反転処理した画像を生成して白地に黒印字のコードで学習したニューラルネットワークに入力すると、デコード処理に成功する。
【0239】
FIG.34Bの下に示す例では、読取画像(左端の画像)が白地に黒印字されたコードの画像であるため、黒地に白印字のコードで学習したニューラルネットワークに入力すると、デコード処理に失敗する。その後、白黒反転処理した画像を生成して黒地に白印字のコードで学習したニューラルネットワークに入力すると、デコード処理に成功する。
【0240】
FIG.34Cは、ユーザによる設定に基づいて、白黒反転処理を実行するか否かを決定する方式である。上側に示すケースは、読取画像が白地に黒印字のコードを撮像した画像であると設定されている場合である。この場合、白黒反転処理モジュールが白黒反転処理を実行することなく、そのまま白地に黒印字のコードで学習したニューラルネットワークに入力する。一方、下側に示すケースは、読取画像が黒地に白印字のコードを撮像した画像であると設定されている場合である。この場合、白黒反転処理モジュールが白黒反転処理を実行する。そして、白黒反転処理した画像を白地に黒印字のコードで学習したニューラルネットワークに入力する。
【0241】
(コントラストとマッチングレベルの関係)
マッチングレベルは、例えばチューニング時のスコアとして使用したり、運用時の印字品質/読み取り性能の管理に使用される。例えば、マッチングレベルは0~100の正の整数値で定義されており、50以上では読み取り率テストを実施した場合に読み取り率100%になるように設計することができる。また、マッチングレベル0は読み取れない場合、マッチングレベル1は読み取れる場合の最低値である。
【0242】
図35は、コントラストとマッチングレベルの関係を示すグラフであり、実線は推論処理部20jにより画像修復された画像(修復画像)のコントラストとマッチングレベルの関係を示し、また、破線は推論処理部20jにより画像修復していない画像(読取画像)のコントラストとマッチングレベルの関係を示している。このグラフから明らかなように、修復画像のマッチングレベルは読取画像のマッチングレベルよりも全体的に高くなっているが、ある一定以上画質が悪化すると、マッチングレベルが急激に低下してしまう。
【0243】
(マッチングレベルの算出処理)
マッチングレベルはアルゴリズムごとに設定されており、一般的には1コード種につき、1つのアルゴリズムである。しかしながら、本実施形態では、画像修復機能の搭載により、1つのコード種で2つのアルゴリズム(画像修復するアルゴリズムと、画像修復しないアルゴリズム)が実行される。この2つのアルゴリズムのうち、デコード処理が早く成功した方の結果が出力されるため、仮に、2つのアルゴリズムで交互にデコード処理に成功するケースにおいてはマッチングレベルの値が不安定になるおそれがある。また、画像修復を実行することで読み取りやすい画像になるため、従来と類似したマッチングレベルの算出方法ではマッチングレベルが既存のものと比較して高くなりやすい。これらのことに対し、本実施形態では、2つのアルゴリズムのマッチングレベルの重みづけ和をとり、マッチングレベルの値を調整するようにした。以下、具体例について、図36に示すフローチャートに基づいて説明する。
【0244】
スタート後のステップSF1では読取画像をデコード処理部210に入力する。ステップSF2では、画像修復することなく、デコード処理部210が第1デコード処理を実行する。ステップSF3では、第1デコード処理によるマッチングレベルA(MLA)を算出する。一方、ステップSF4では、読取画像を推論処理部20jに入力して画像修復処理を実行する。その後、ステップSF5に進み、修復画像に対してデコード処理部210が第2デコード処理を実行する。ステップSF6では、第2デコード処理によるマッチングレベルB(MLB)を算出する。尚、ステップSF2でデコードに成功しなかった場合にはMLA=0となり、またステップSF5でデコードに成功しなかった場合にはMLB=0となる。
【0245】
ステップSF7では、例えば平均化関数等を用いてMLAとMLBの値を調整する。また、ステップSF2、SF5のどちらでデコードに成功しても、MLAの値に重みを付ける処理を行う。
【0246】
(ユーザインターフェースの例)
図37は、表示部6に表示されるユーザインターフェース300の例を示す図である。プロセッサ20は、ユーザインターフェース300を生成し、表示部6に表示させる。ユーザインターフェース300には、カメラ5で現在撮像されている画像(ライブビュー画像)が表示される第1画像表示領域301と、読取画像が表示される第2画像表示領域302と、推論処理部20jにより修復された修復画像が表示される第3表示領域303とが設けられている。これにより、読取画像と修復画像とを比較可能な形態でユーザに提示できる。また、デコード処理が実行される画像、またはデコード処理が実行された後の画像がどのような画像であるかをユーザが把握できる。
【0247】
(AIチップ付き撮像素子の例)
図38は、AIチップ付き撮像素子5aを用いた例を示す図であり、各図に示すようにカメラ5の撮像素子5aを構成することができる。FIG.38Aは、撮像素子5aに画像修復を実行するAIチップを設けてパッケージ化した場合を示す図であり、読取画像を画像修復した後に、プロセッサ20に出力する。また、FIG.38Bは、撮像素子5aに、修復用コード領域の抽出と、画像修復とを実行するAIチップを設けてパッケージ化した場合を示す図であり、読取画像の中から修復用コード領域を抽出した後、当該領域に対応する部分画像を画像修復した後に、プロセッサ20に出力する。また、FIG.38Cは、撮像素子5aに、修復用コード領域の抽出を実行するAIチップを設けてパッケージ化した場合を示す図であり、読取画像の中から修復用コード領域を抽出した後、当該領域に対応する部分画像をプロセッサ20に出力する。
【0248】
また、FIG.38Aに示す例において、撮像素子5aで取得した読取画像をプロセッサ20に出力するとともに、AIチップによって画像修復を実行し、修復画像をプロセッサ20に出力してもよい。FIG.38B,FIG.38Cに示す例についても同様である。
【0249】
(偏光フィルタアタッチメント3)
本実施形態では、図2に示すように、少なくともコードを照明する照明光を発生する光源として複数の発光ダイオードからなる第1照明部4a及び第2照明部4bを備えている。偏光フィルタアタッチメント3は、第2照明部4bを構成する発光ダイオードで発生した光のうち、第1の偏光成分の光を通過させる第1偏光板3aと、第1の偏光成分と略直交する第2の偏光成分の光を通過させる第2偏光板3bとを備えている。第1偏光板3a及び第2偏光板3bは、図2中、斜線を引いた範囲にそれぞれ設けることができ、例えば、第1偏光板3aは、第2照明部4bを覆うように配置され、また、第2偏光板3bは、カメラ5の光学系5bを光の入射側から覆うように配置されている。
【0250】
したがって、カメラ5は、第1偏光板3aを通過し、ワークWの表面(コード)から反射した光を、第2偏光板3bを介して受光する。これにより、ワークWの正反射成分が除去され、第1偏光板3a及び第2偏光板3bを介さない場合に比べて低コントラストな読取画像をカメラ5が生成する。この低コントラストな読取画像をプロセッサ20が取得する。プロセッサ20は、低コントラストな読取画像をニューラルネットワークに入力することにより、入力前に比べて高コントラストな修復画像に変換し、当該修復画像に対してデコード処理を実行する。
【0251】
すなわち、偏光板3a、3bを使用することで、ワークWの正反射成分が除去されるので、正反射成分の影響が軽減された読取画像を取得できる。例えば金属ワークを撮像した場合のように正反射成分が多くなる画像に偏光板3a、3bは適しているものの、光量の低下によって読取画像が暗くなり、コントラストが低下することがある。このような場合に、ニューラルネットワークの推論処理によって高コントラストな修復画像に変換することで、読取性能が向上する。
【0252】
上述の実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内のものである。
【産業上の利用可能性】
【0253】
以上説明したように、本発明に係る光学的情報読取装置は、例えばワークに付されたコードを読み取る場合に利用することができる。
【符号の説明】
【0254】
1 定置式の光学的情報読取装置
1A 手持ち式の光学的情報読取装置
5 カメラ
20 プロセッサ
20f デコード処理部
20j 推論処理部(画像修復部)
21~24 第1~第4汎用コア
25 専用コア(推論処理専用コア)
40 ROM
40d ニューラルネットワーク記憶部
41 RAM
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17A
図17B
図17C
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38