(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-06-12
(45)【発行日】2025-06-20
(54)【発明の名称】画像記録装置および画像処理方法
(51)【国際特許分類】
H04N 23/60 20230101AFI20250613BHJP
G06T 3/4038 20240101ALI20250613BHJP
H04N 23/698 20230101ALI20250613BHJP
G08G 1/00 20060101ALI20250613BHJP
【FI】
H04N23/60 300
G06T3/4038
H04N23/698
G08G1/00 D
(21)【出願番号】P 2023146823
(22)【出願日】2023-09-11
【審査請求日】2023-09-11
(32)【優先日】2022-09-29
(33)【優先権主張国・地域又は機関】TW
(73)【特許権者】
【識別番号】519011809
【氏名又は名称】佳能企業股▲分▼有限公司
(74)【代理人】
【識別番号】100124039
【氏名又は名称】立花 顕治
(74)【代理人】
【識別番号】100207217
【氏名又は名称】樋口 智夫
(72)【発明者】
【氏名】趙 俊雄
【審査官】越河 勉
(56)【参考文献】
【文献】米国特許出願公開第2013/0088597(US,A1)
【文献】特開2022-078837(JP,A)
【文献】国際公開第2008/038370(WO,A1)
【文献】特開2014-219843(JP,A)
【文献】特開2022-063068(JP,A)
【文献】特開2010-152026(JP,A)
【文献】特開2013-256167(JP,A)
【文献】特開2019-153138(JP,A)
【文献】米国特許出願公開第2020/0404191(US,A1)
【文献】特開2016-225805(JP,A)
【文献】特開2006-140908(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60
G06T 3/4038
H04N 23/698
G08G 1/00
(57)【特許請求の範囲】
【請求項1】
第1のレンズと、第1のレンズを透過した光束を取り込むとともに第1の画像を生成する第1のセンサとを含む第1の画像取込モジュールと、
第2の画像を取り込む第2の画像取込モジュールと、
前記第1の画像上で第1の部分領域を囲み選択し、前記第1の部分領域の画像データを複製するとともに第1の部分画像を生成し、かつ前記第1の画像を調整するとともに第1の調整画像を生成
し、前記第1の調整画像と前記第2の画像とを組み合わせるとともに整合画像を生成し、前記第1の調整画像の画素数は、前記第1の画像の画素数よりも小さい、プロセッサと、
前記第1の画像、前記第1の部分画像
、前記第1の調整画像
、前記第2の画像、および、前記整合画像を記憶する記憶モジュールと、
を含む、画像記録装置。
【請求項2】
光束を取り込むとともに第1の画像を生成する第1のセンサを含む第1の画像取込モジュールと、
光束を取り込むとともに第2の画像を生成する第2の画像取込モジュールと、
前記第1の画像により第1の部分画像を生成する、および/または第2の画像により第2の部分画像を生成するとともに、
前記第1の画像の画素数を削減して第1の調整画像を生成する、および/または前記第2の画像の画素数を削減して第2の調整画像を生成し、それらを組み合わせて整合画像を形成するプロセッサと、を含む、画像記録装置。
【請求項3】
前記第1
の画像はm
1×n
1個の画素を有し、前記第2の画像はm
2×n
2個の画素を有し、前記第1の部分画像はm
0×n
0個の画素を有し、および前記第1の調整画像はa
1m
1×b
1n
1個の画素を有しており、かつm
1、m
2、
m
0
、n
1、n
2、
n
0
、a
1m
1およびb
1n
1は正の整数であり、およびa
1、a
2、b
1およびb
2は1未満の正数である、請求項
1または
2に記載の画像記録装置。
【請求項4】
前記第1の画像は前記第1のセンサ上で作像を完成するか、または前記第1の画像の水平方向の両辺と前記第1のセンサの水平方向の両辺縁とが実質的に接する、請求項
1または2に記載の画像記録装置。
【請求項5】
前記プロセッサは、前記第1の画像/第2の画像中から2本の車線境界線を識別するとともに、前記2本の車線境界線の延長する交点を計算し、前記交点に基づいて前記第1の部分画像/第2の部分画像を決定する、請求項
2に記載の画像記録装置。
【請求項6】
第1の画像取込モジュールにより第1の画像を取り込むステップと、
第2の画像取込モジュールにより第2の画像を提供するステップと、
プロセッサを用いて前記第1の画像上で第1の部分領域を囲み選択し、前記第1の部分領域の画像データを複製するとともに第1の部分画像を生成し、
前記第1の画像の画素数を削減するとともに第1の調整画像を生成
し、前記第1の調整画像と前記第2の画像とを組み合わせるとともに整合画像を生成するステップと
を含む、画像処理方法。
【請求項7】
前記第1の部分領域は、前記第1の画像取込モジュールで撮影された水平方向で両側に展開した1つの特定角度に対応して固定し囲み選択した場景であるか、または前記第1の部分領域は、使用者が運転する車両が所在する車道の車線境界線に基づいて決定されるものである、請求項
6に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像記録装置および画像処理方法に関する。
【背景技術】
【0002】
現在、市場における、車両走行情報を記録するニーズはすでに、将来的に交通事故が発生した際に参考となる証拠データとして動画を継続的に記録するのに止まらず、更に使用者においては、長時間をかけて録画データを見るのではなく、事故発生後の鍵となる事故原因や、事故車両のナンバープレートを速やかに調査・確認できることを望んでいる。一方で、長時間録画を考慮すると大容量のメモリカードが必要になることから、従来のドライブレコーダでは解像度がいくらか低い録画機構を採用している。このため運転者が画像中から事故車両のナンバープレートなどの情報を確認できた後であっても、ナンバープレートを正確に識別できないという問題に直面することが多くなってしまうことから、車両走行情報を記録するために、速やかに調査でき、画像解像度が高く、かつ情報の信頼性が高い記録装置および画像処理方法を提供することが求められていることは間違いない。
【0003】
これに対して、従来の技術文献中では、例えば特許文献1~2中で提供する画像形成システム、特許文献3中で提供する撮像装置、および特許文献4中で提供する画像取得装置といったいくつかの解決方法を提案している。
【先行技術文献】
【特許文献】
【0004】
【0005】
【0006】
【0007】
【発明の概要】
【0008】
本発明の実施例は、第1の画像取込モジュールと、プロセッサと、記憶モジュールとを含む画像記録装置を開示している。第1の画像取込モジュールは、第1のレンズと、第1のセンサは第1のレンズを透過した光束を取り込むとともに第1の画像を生成する第1のセンサとを含み、
プロセッサは、第1の画像上で第1の部分領域を囲み選択し、第1の部分領域の画像データを複製するとともに第1の部分画像を生成し、かつ第1の画像を調整するとともに第1の調整画像を生成し、
そして、記憶モジュールは、第1の画像、第1の部分画像および第1の調整画像を記憶する。
【0009】
本発明の1つの実施例は更に、第1の画像取込モジュールと、第2の画像取込モジュールと、プロセッサとを含む。第1の画像取込モジュールは、第1のセンサを含み、第1のセンサは光束を取り込むとともに第1の画像を生成し、
第2の画像取込モジュールは、光束を取り込むとともに第2の画像を生成し、
プロセッサは、第1の画像により第1の部分画像を生成する、および/または第2の画像により第2の部分画像を生成するとともに、第1の画像と第2の画像とを組み合わせて整合画像を形成する。
【0010】
本発明の他の実施例は、
第1の画像取込モジュールにより第1の画像を取り込むステップと、
プロセッサを用いて第1の画像上で第1の部分領域を囲み選択し、第1の部分領域の画像データを複製するとともに第1の部分画像を生成し、かつ第1の画像を調整するとともに、第1の調整画像を生成するステップとを含む、画像処理方法を開示している。
【0011】
本発明の上記およびその他形態についてより好適に理解できるようにするために、以下では実施例を挙げるとともに、図面を合わせて以下の通り詳細な説明を行う。
【図面の簡単な説明】
【0012】
【
図1】本発明の第1の実施例に係る画像記録装置のブロック図である。
【
図2】本発明の第1の実施例に係る第1の画像における初期処理方法のフローチャートである。
【
図3】本発明の第1の実施例に係る第1の部分領域の第1の部分画像を取り込む模式図である。
【
図4】本発明の第1の実施例に係る第1の調整画像、第2の画像および第1の部分画像の模式図である。
【
図5】本発明の第1の実施例に係る画像処理手順の模式図である。
【
図6A】本発明の第1の実施例に係る第1の画像の模式図である。
【
図6B】本発明の第1の実施例に係る水平方向で撮像する模式図である。
【
図6C】本発明の第1の実施例に係る鉛直方向で撮像する模式図である。
【
図7A】本発明の第2の実施例の第1の画像の模式図である。
【
図7B】本発明の第2の実施例の水平方向で撮像する視角の模式図である。
【
図7C】本発明の第2の実施例の鉛直方向で撮像する視角の模式図である。
【
図8A】本発明の第3の実施例に係る第1の画像の模式図である。
【
図8B】本発明の第3の実施例の第1の画像の模式図である。
【
図8C】本発明の第4の実施例に係る第1の画像の模式図である。
【発明を実施するための形態】
【0013】
図1は本発明の第1の実施例に係る画像記録装置10のブロック図である。
図1に示すように、画像記録装置10は少なくとも、第1の画像取込モジュール102と、プロセッサ106と、記憶モジュール108とを含み、第1の画像取込モジュール102は、第1のレンズ1021と、第1のセンサ1022とを含み、プロセッサ106は第1の画像取込モジュール102および記憶モジュール108を電気的に接続する。1つの具体的な実施例において、画像記録装置10は、自動車、トラック、バス、オートバイなどを含むがこれに限定されない車両に装着されるドライブレコーダとすることができる。このうち、第1のセンサ1022は、CCD(Charge Coupled Device)センサまたはCMOS(Complementary Metal-Oxide Semiconductor)センサといったCMOSフォトトランジスタを含むがこれに限定されない光電変換素子とすることができる。プロセッサ106は画像処理チップとすることができる。記憶モジュール108は、例えばフラッシュメモリといった不揮発性メモリとすることができる。
【0014】
図2は本発明の第1の実施例に係る第1の画像IMG1の初期処理方法のフローチャートであり、
図3は本発明の第1の実施例に係る第1の部分領域R1の第1の部分画像ROI1を取り込む模式図である。
【0015】
図1から
図3を同時に参照する。ステップS201に示すように、第1の画像取込モジュール102は第1の方向で撮像するが、第1のセンサ1022は第1のレンズ1021を透過した光束を取り込むとともに第1の画像IMG1を生成した後、プロセッサ106により第1の画像IMG1を受け取る。ステップS202に示すように、プロセッサ106は第1の画像IMG1上で第1の部分領域R1を囲み選択し、かつ第1の部分領域R1の画像データを複製することで第1の部分画像ROI1を形成することができる。一方で、ステップS203に示すように、プロセッサ106は更に第1の画像IMG1に対して画像調整を行うとともに画像調整後の第1の調整画像SD1を生成する(ステップS203)。
【0016】
続いて、画像記録装置10は更に記憶モジュール108により第1の画像IMG1、第1の部分画像ROI1および第1の調整画像SD1を記憶することができる。このうち、画像調整は、画素を減らす方式で第1の調整画像SD1を生成するものであるが、縮小(scale down)画像、圧縮画像および切取り画像として、第1の調整画像SD1の画素を第1の画像IMG1の画素未満とすることを含むが、これらに限定されない。
【0017】
第1の実施例において、プロセッサ106は、第1の画像IMG1上で第1の部分領域R1を囲み選択する前に更に、第1の画像IMG1に対して画像の初期処理を先行することができる。このうち、画像の初期処理の項目には、画像のレターボックスの除去、歪んだ画像領域の改善、画像の色ずれを解決し、画像縁部の変形を修正することなどが含まれるが、これらに限定されない。1つの具体的な実施例において、画像調整のプログラムは画像の初期処理が完了した後に実行される。
【0018】
第1の実施例において、第1の画像IMG1はm1×n1個の画素を有することができ、第1の部分画像ROI1はm0×n0個の画素を有することができ、画像調整後の第1の調整画像SD1はa1m1×b1n1個の画素を有することができる。このうち、m1、a1m1およびm0はそれぞれ第1の画像IMG1、第1の調整画像SD1および第1の部分画像ROI1が鉛直方向に配列された列数であり、画像の長さを表すことができる。n1、b1n1およびn0はそれぞれ第1の画像IMG1、第1の調整画像SD1および第1の部分画像ROI1が水平方向に配列された行数であり、画像の幅を表すことができ、かつm1、n1、m0およびn0はいずれも正の整数であり、a1およびb1はいずれも1未満の整数であり、a1m1およびb1n1はいずれも正の整数である。
【0019】
1つの具体的な実施例において、m1はn1のx倍とすることができ、m0はn0のy倍とすることができ、xおよびyは正数であり、例えばxおよびyはそれぞれ1.7と2.3との間に介在させることができる。他の具体的な実施例において、a1およびb1はそれぞれ0.4と0.6との間に介在させることができる。更に他の具体的な実施例において、m1×n1=3840×1920、m0×n0=1920×1080,a1m1×b1n1=1920×960であるが、これらはいずれも本発明を限定するのに用いるものではない。
【0020】
図4は本発明の第1の実施例に係る第1の調整画像SD1、第2の画像IMG2および第1の部分画像ROI1の模式図であり、
図5は本発明の第2の実施例の画像記録装置20のブロック図である。
図1および
図5に示すように、画像記録装置20は実質的に画像記録装置10と類似するとともに、各構成要素では同じ符号を援用している。このうち、画像記録装置20と画像記録装置10との主な相違点は以下の通りである:画像記録装置20は、プロセッサ106に電気的に接続される第2の画像取込モジュール104を更に含む。第2の画像取込モジュール104は、第2のレンズ1041と、第2のセンサ1042とを含み、第2の画像取込モジュール104は第2の方向に向けて撮像することができ、第2のセンサ1042は第2のレンズ1041を透過した光束を取り込むとともに第2の画像IMG2を生成することができる。
【0021】
図3から
図5を参照する。第1の画像取込モジュール102および第2の画像取込モジュール104は、第1の画像IMG1および第2の画像IMG2をプロセッサ106にそれぞれ提供する。プロセッサ106は、第1の画像IMG1により第1の部分領域R1を囲み選択するとともに第1の部分画像ROI1を取得して、そして第1の画像IMG1に対して画像調整を行うとともに画像調整後の第1の調整画像SD1を生成することができる。また、プロセッサ106は第1の調整画像SD1および第2の画像IMG2を組み合わせるとともに整合画像を生成することができ、かつ記憶モジュール108により第1の画像IMG1、第2の画像IMG2、第1の部分画像ROI1、第1の調整画像SD1および整合画像IMGを記憶することができる。このうち、第1の画像取込モジュール102および第2の画像取込モジュール104は、同じ視角または異なる視角を有することができる。具体的には、プロセッサ106は、第1の調整画像SD1と第2の画像IMG2とが重なる領域の画像情報を計算することで組み合わせを行うことができる。このうち、画像情報は、輝度、彩度、RGB値を含むが、これらに限定されず、そして本発明を限定するのに用いるものではない。
【0022】
1つの具体的な実施例において、第1の部分領域R1を囲み選択する前に、プロセッサ106はそれぞれ第1の画像IMG1および第2の画像IMG2に対して画像の初期処理を行うことができる。他の具体的な実施例において、整合画像IMGは水平360度のパノラマ画像とすることができる。
【0023】
第1の実施例において、第2の画像IMG2はm2×n2個の画素を有することができる。このうち、m2は第2の画像IMG2が鉛直方向に配列された列数であり、画像の長さを表している。n2は第2の画像IMG2が水平方向に配列された列数であり、画像の幅を表すことができ、かつm2およびn2は正の整数である。
【0024】
第1の実施例において、第2の画像IMG2の長さは第1の調整画像SD1の長さと等しくなく、両者の幅は実質的に等しくする、つまりm2≠a1m1,n2=b1n1とすることができる。第2の実施例において、第2の画像IMG2の長さおよび幅はいずれも第1の調整画像SD1の長さおよび幅と実質的に等しく、つまりm2=a1m1,n2=b1n1となる。1つの具体的な実施例において、第2の画像IMG2の画素数はm2×n2=1920×960であるが、いずれも本発明を限定するのに用いるものではない。
【0025】
また、
図5を再度参照する。第1の実施例において、プロセッサ106も第2の画像IMG2の第2の部分領域を囲み選択するとともに第2の部分画像を生成し、画像調整により画像調整後の第2の調整画像を生成することができる。このうち、第1の画像IMG1はm1×n1個の画素を有し、第2の画像IMG2はm2×n2個の画素を有し、第1の部分画像ROI1はm0×n0個の画素を有し、第2の部分画像ROI2はm’0×n’0個の画素を有し、第1の調整画像SD1はa1m1×b1n1を有し、そして第2の調整画像SD2はa2m2×b2n2個の画素を有しており、かつm1、m2、m0、m’0、n1、n2、n0およびn’0は正の整数であり、a1、a2、b1およびb2は1未満の正数であり、a1m1、a2m2、b1n1およびb2n2は正の整数である。1つの具体的な実施例において、a1、a2、b1およびb2はそれぞれ0.4と0.6との間に介在させることができる。
【0026】
1つの具体的な実施例において、第1の画像取込モジュール102および第2の画像取込モジュール104は相反する方向に向けて撮像することができるものであって、つまりは第1の方向と第2の方向とは実質的に180度ずれているという意味である。他の具体的な実施例において、第1のレンズ1021は魚眼(fish eye)レンズとすることができ、第2のレンズ1041は魚眼レンズまたは広角レンズとすることができる。更に他の具体的な実施例において、第1の画像取込モジュール102の視角と第2の画像取込モジュール104の視角とは水平方向上で重ねることができる。例えば、第1の画像取込モジュール102および第2の画像取込モジュール104の水平方向における視角はいずれも182度であることで、第1の画像IMG1と第2の画像IMG2とに水平方向の両側でそれぞれ2度の重なりを持たせることができる。
【0027】
1つの具体的な実施例において、第1の画像取込モジュール102と第2の画像取込モジュール104とは背中合わせの方式で設置することができ、かつ画像記録装置10は車内のリアビューミラー、フロントウインドシールドに設けるか、またはダッシュボードの上に立設することで、第1の画像取込モジュール102が車前方の場景を撮影するようにし、一方で第2の画像取込モジュール104が車内の状況を撮影することができる。他の具体的な実施例において、第1の画像取込モジュール102はリアビューミラー、フロントウインドシールドに設けるか、またはダッシュボードの上に立設することができ、一方、第2の画像取込モジュール104はリアウインドシールドに設けることで車後方の場景を撮影することができる。
【0028】
図6Aは本発明の第1の実施例に係る第1の画像IMG1の模式図、
図6Bは本発明の第1の実施例に係る水平方向で撮像する模式図、
図6Cは本発明の第1の実施例に係る鉛直方向で撮像する模式図である。
【0029】
図6Aに示すように、もし第1のレンズ1021に魚眼レンズを採用した場合、作像面204上で円形となる第1の画像IMG1を取得するが、このとき円形の第1の画像IMG1は第1のセンサ1022上で完璧に作像される。このうち、領域209、210は第1のセンサ1022上で情報を含まないレターボックスであるが、実際には領域209、210は画像の初期処理よりレターボックスを除去する、つまり第1の画像IMG1における情報を含まないレターボックスは切除または完全に消去することができる。
【0030】
図6Aから
図6Cを同時に参照する。もし第2のレンズ1041にも魚眼レンズを採用し、かつ第2のレンズ1041を透過した光束も第2のセンサ1042上で完全に作像されると同時に、第1の画像取込モジュール102および第2の画像取込モジュール104の視角の合計が360度を超える場合、車両の水平方向および鉛直方向の画像のいずれもが重なることになり、このとき画像記録装置20は水平および鉛直方向のいずれでも360度の全視角パノラマとなる整合画像IMGを提供することができる。
【0031】
図7Aは本発明の第2の実施例の第1の画像の模式図、
図7Bは本発明の第2の実施例の水平方向で撮像する視角の模式図、
図7Cは本発明の第2の実施例の鉛直方向で撮像する視角の模式図である。
【0032】
図7Aに示すように、第2の実施例において、第1のレンズ1021を透過した円形となる第1の画像IMG1は第1のセンサ1022にて作像され、第1の画像IMG1の中心は第1のセンサ1022の中心と実質的に重なり得る。実際には、このとき第1の画像IMG1の初期サイズの水平方向の両辺は、第1のセンサ1022の水平方向の両辺と実質的に接する一方で、鉛直方向の両部分領域はいずれも第1のセンサ1022の外にはみ出して第1のセンサ1022により取り込まれなくなり、このときレターボックスの領域316の面積は小さく、第1のセンサ1022の使用率は高くなる。
【0033】
図7Aから
図7Cを同時に参照する。もし第2の画像IMG2の水平方向の両辺も第2のセンサ1042の水平方向の両辺と実質的に接して、第2の画像IMG2の初期サイズの鉛直方向の両部分領域も第2のセンサ1042の外にはみ出して第2のセンサ1042により取り込まれず、同時に第1の画像取込モジュール102および第2の画像取込モジュール104の視角の合計は360度を超えるのであれば、車両の水平方向の画像は重なるが鉛直方向の画像は重ならない。このとき、画像記録装置20は、水平方向360度であるが鉛直方向では連続しないパノラマの整合画像IMGを提供することができる。
【0034】
図8Aは本発明の第3の実施例の第1の画像の模式図、
図8Bは本発明の第3の実施例の第1の画像の模式図、
図8Cは本発明の第4の実施例の第1の画像の模式図である。
【0035】
図8Aおよび
図8Bを同時に参照する。第3の実施例でも、第1の画像IMG1の初期サイズの水平方向の両辺および鉛直方向の1つの辺が第1のセンサ1022の水平方向の両辺縁および鉛直方向の1つの辺縁と同時に実質的に接して、第1の画像IMG1の初期サイズの他方の鉛直方向の部分領域が第1のセンサ1022の外にはみ出して第1のセンサ1022に取り込まれないか、または、
図8Cに示すように、第4の実施例でも、第1の画像IMG1の初期サイズが大きく第1のセンサ1022の作像面204の外に接することで、第1の画像IMG1の初期サイズの水平方向および鉛直方向の部分領域のいずれもが第1のセンサ1022の外にはみ出すことになる。
【0036】
第1の実施例において、第1の画像IMG1の第1の部分領域R1は、運転者が興味を持つか、または後日調査を要する情報、例えば前方車両のナンバープレートである可能性があり、実用の上では、通常、画像記録装置10、20前方視線の約100~150度のセクタ範囲内に現れることから、本発明では、特にこの領域内の画像をプロセッサ106により取り込むとともに、元来の解像度を維持することで、歪みによって不十分な情報となることを防止することができる。同様に、プロセッサ106も第2の画像取込モジュール104が提供した第2の画像IMG2から第2の部分領域R2を囲み選択し、かつ第2の部分画像を複製することで、後日調査のために記憶することができる。
【0037】
第2の実施例において、プロセッサ106は、第1の画像IMG1における1つ以上の特徴に基づいて、囲み選択する第1の部分領域R1を決定する。具体的には、プロセッサ106は、第1の画像IMG1中から車線境界線を識別し、車線境界線の延長する交点を算出するとともに、交点を中心として、これに基づき囲み選択する第1の部分領域を決定することができる。同様に、プロセッサ106は、第2の画像IMG2中の車線境界線の延長する交点からも第2の部分領域を決定することができる。
【0038】
本発明の画像記録装置および画像処理方法によって、ハードウェアの性能が制限される場合であっても、整合画像IMG中にてレンズから一定距離離れた目標物体に十分な解像度を持たせて記録するとともに識別することが可能となる。
【0039】
上記をまとめるに、本発明ではすでに実施例を上記のように開示しているが、これは本発明を限定するためのものではない。本発明の当業者であれば、本発明の技術思想および範囲内で、各種変更および付加を行うことは可能である。よって、本発明の保護範囲は別紙の特許請求の範囲で限定されるものに準ずる。
【符号の説明】
【0040】
10、20:画像記録装置
102:第1の画像取込モジュール
106:プロセッサ
108:記憶モジュール
1021:第1のレンズ
1022:第1のセンサ
R1:第1の部分領域
ROI1:第1の部分画像
IMG1:第1の画像
SD1:第1の調整画像
S201~S203:ステップ
104:第2の画像取込モジュール
1041:第2のレンズ
1042:第2のセンサ
IMG2:第2の画像
IMG:整合画像
204:作像面
209、210、316:レターボックス