IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-07
(45)【発行日】2024-11-15
(54)【発明の名称】送信装置、受信装置及び伝送システム
(51)【国際特許分類】
   H04N 25/10 20230101AFI20241108BHJP
【FI】
H04N25/10
【請求項の数】 14
(21)【出願番号】P 2021527476
(86)(22)【出願日】2020-05-19
(86)【国際出願番号】 JP2020019707
(87)【国際公開番号】W WO2020261813
(87)【国際公開日】2020-12-30
【審査請求日】2023-04-06
(31)【優先権主張番号】P 2019121340
(32)【優先日】2019-06-28
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100103850
【弁理士】
【氏名又は名称】田中 秀▲てつ▼
(74)【代理人】
【識別番号】100114177
【弁理士】
【氏名又は名称】小林 龍
(74)【代理人】
【識別番号】100066980
【弁理士】
【氏名又は名称】森 哲也
(72)【発明者】
【氏名】松原 義明
(72)【発明者】
【氏名】染谷 英行
【審査官】越河 勉
(56)【参考文献】
【文献】特開2019-091967(JP,A)
【文献】特開2015-231103(JP,A)
【文献】国際公開第2019/092952(WO,A1)
【文献】米国特許出願公開第2016/0171651(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/10
(57)【特許請求の範囲】
【請求項1】
ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報の取得を制御する制御部と、
前記ROIの画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部と
を備え
前記制御部は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として取得する
送信装置。
【請求項2】
前記デモザイク情報は、前記ROI情報に含められて前記送信部から送出される
請求項1に記載の送信装置。
【請求項3】
前記制御部は、前記ROIの画像データの色配列を前記デモザイク情報として取得する
請求項1に記載の送信装置。
【請求項4】
前記制御部は、前記デモザイク情報が一定の条件を満たすように前記ROIの画像データの領域を制御する
請求項1に記載の送信装置。
【請求項5】
前記送信部は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格で信号を送出する
請求項1に記載の送信装置。
【請求項6】
ROI(Region Of Interest)の画像データをペイロードデータに含むとともに、ROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、
前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部と、
前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部と
を備え
前記制御部は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として抽出する
受信装置。
【請求項7】
前記制御部は、前記伝送信号に含まれた前記ROI情報から前記デモザイク情報を抽出する
請求項に記載の受信装置。
【請求項8】
前記制御部は、前記ROIの画像データの色配列を前記デモザイク情報として抽出する
請求項に記載の受信装置。
【請求項9】
前記処理部は、前記ROI内の周囲端部に配置された画像データに対して境界処理を施す
請求項に記載の受信装置。
【請求項10】
前記受信部は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格で信号を受信する
請求項に記載の受信装置。
【請求項11】
ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報を取得する制御部、及び前記画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部を有する送信装置と、
前記ROIの画像データを前記ペイロードデータに含むとともに、前記ROI情報を前記エンベデッドデータに含む伝送信号を受信する受信部、前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部、及び前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部を有する受信装置と
を備え
前記送信装置は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記送信部から送出し、
前記受信装置は、前記色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記受信部で受信する
伝送システム。
【請求項12】
前記送信装置は、前記ROIの情報に含められた前記デモザイク情報を前記送信部から送出し、
前記受信装置は、前記デモザイク情報を有する前記伝送信号を前記受信部で受信し、前記受信部で受信された前記伝送信号に含まれた前記ROIの情報から前記デモザイク情報を前記制御部で抽出する
請求項11に記載の伝送システム。
【請求項13】
前記送信装置は、前記ROIの画像データの色配列を前記デモザイク情報として前記送信部から送出し、
前記受信装置は、前記色配列を前記デモザイク情報として前記受信部で受信する
請求項11に記載の伝送システム。
【請求項14】
前記送信装置は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格の信号を前記送信部から送出し、
前記受信装置は、前記MIPID-PHY規格、前記MIPI C-PHY規格又は前記MIPI CSI-2規格の信号を前記受信部で受信する
請求項11に記載の伝送システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、送信装置、受信装置及び伝送システムに関する。
【背景技術】
【0002】
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
【0003】
伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われていることが知られている(例えば特許文献1~4)。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2016-201756号公報
【文献】特開2014-39219号公報
【文献】特開2013-164834号公報
【文献】特開2012-209831号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
撮像画像から切り出した一部の注目領域(ROI(Region Of Interest))を伝送する場合のデモザイク処理について、何ら検討されていない。
本開示の目的は、撮像画像から切り出した一部の注目領域(ROI)のデモザイク処理を実現することにある。
【課題を解決するための手段】
【0006】
本開示の一態様による送信装置は、ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報の取得を制御する制御部と、前記ROIの画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部とを備え、前記制御部は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として取得する
【0007】
本開示の一態様による受信装置は、ROI(Region Of Interest)の画像データをペイロードデータに含むとともに、ROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部と、前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部とを備え、前記制御部は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として抽出する
【0008】
本開示の一態様による伝送システムは、ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報を取得する制御部、及び前記画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部を有する送信装置と、前記ROIの画像データを前記ペイロードデータに含むとともに、前記ROI情報を前記エンベデッドデータに含む伝送信号を受信する受信部、前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部、及び前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部を有する受信装置とを備え、前記送信装置は、前記ROIの画像データの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記送信部から送出し、前記受信装置は、前記色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記受信部で受信する
【図面の簡単な説明】
【0009】
図1】映像伝送システムの概略構成例を表す図である。
図2図1の映像送信装置の概略構成例を表す図である。
図3】撮像画像に2つのROIが含まれているときの、伝送データの生成手順の一例を表す図である。
図4】パケットヘッダの構成例を表す図である。
図5】伝送データの構成例を表す図である。
図6】伝送データの構成例を表す図である。
図7】ロングパケットのペイロードデータの構成例を表す図である。
図8図1の映像受信装置の概略構成例を表す図である。
図9】伝送データに2つの画像が含まれているときの、撮像画像に含まれる2つのROI画像の生成手順の一例を表す図である。
図10】撮像画像において特定された物体が配置された領域を模式的に示す図である。
図11】特定された物体に対して設定されたROI領域の一例を示す図である。
図12】ROI画像の位置情報がロングパケットのペイロードデータに含められている伝送データの構成例を示す図である。
図13】撮像部の撮像領域に設けられた撮像素子の色配列の一例を模式的に示す図である。
図14A】撮像部の撮像領域に設けられた撮像素子の色配列の配列例Aを模式的に示す図である。
図14B図14Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンを示す図である。
図15A】撮像部の撮像領域に設けられた撮像素子の色配列の配列例Bを模式的に示す図である。
図15B図15Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンを示す図である。
図16A】撮像部の撮像領域に設けられた撮像素子の色配列の配列例Cを模式的に示す図である。
図16B図16Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンを示す図である。
図17A】撮像部の撮像領域に設けられた撮像素子の色配列の配列例Dを模式的に示す図である。
図17B図17Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンを示す図である。
図18】デモザイク処理を模式的に示す図である。
図19】第1実施形態による送信装置、受信装置及び伝送システムの概略構成を示すブロック図である。
図20】第1実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の流れの一例を示すフローチャートである。
図21】第1実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理のタイミングチャートの一例を示す図である。
図22】第1実施形態の変形例による送信装置、受信装置及び伝送システムの概略構成を示すブロック図である。
図23】第2実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の流れの一例を示すフローチャートである。
図24】第2実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理のタイミングチャートの一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本開示を実施するための形態について、図面を参照して詳細に説明する。以下の説明は本開示の一具体例であって、本開示は以下の態様に限定されるものではない。
【0011】
以下、本開示による技術を実施するための形態(以下、「実施形態」と称する)について、以下の順序により説明する。
1.本開示の前提技術1(撮像画像から切り出した一部(形状が矩形状)の注目領域(ROI)を伝送する技術)
2.本開示の前提技術2(撮像画像から切り出した一部(形状が非矩形状)の注目領域(ROI)を伝送する技術)
3.本開示の実施形態におけるデモザイク処理の原理
4.本開示の第1実施形態による送信装置、受信装置及び伝送システム
5.本開示の第1実施形態の変形例による送信装置、受信装置及び伝送システム
6.本開示の第2実施形態による送信装置、受信装置及び伝送システム
【0012】
1.本開示の前提技術1:
[構成]
近年、スマートフォンなどの携帯デバイスやカメラデバイスなどでは、扱う画像データの大容量化が進み、デバイス内又は異なるデバイス間でのデータ伝送に高速化、かつ低消費電力化が求められている。このような要求に応えるため、携帯デバイスやカメラデバイス向けの接続インタフェースとして、MIPIアライアンスが策定したC-PHY規格やD-PHY規格といった高速インタフェース規格の標準化が進められている。C-PHY規格やD-PHY規格は、通信プロトコルの物理層(physical layer:PHY)のインタフェース規格である。また、C-PHY規格やD-PHY規格の上位プロトコル・レイヤとして、携帯デバイスのディスプレイ向けのDSIや、カメラデバイス向けのCSIが存在する。
【0013】
本開示の前提技術に係る映像伝送システム1は、種々の規格で信号を送受信できるシステムであり、例えばMIPI CSI-2規格、MIPI CSI-3規格、又は、MIPI DSI規格で信号を送受信することができる。図1は、本開示の前提技術に係る映像伝送システム1の概要を表したものである。映像伝送システム1は、データ信号、クロック信号及び制御信号の伝送に適用されるものであり、映像送信装置100及び映像受信装置200を備えている。映像伝送システム1は、映像送信装置100と映像受信装置200とに跨がって、例えば画像データ等のデータ信号を伝送するデータレーンDLと、クロック信号を伝送するクロックレーンCLと、制御信号を伝送するカメラ制御インタフェースCCIとを備えている。図1には、1つのデータレーンDLが設けられている例が示されているが、複数のデータレーンDLが設けられていてもよい。カメラ制御インタフェースCCIは、IC(Inter-Integrated Circuit)規格と互換性を有する双方向制御インタフェースである。
【0014】
映像送信装置100は、MIPI CSI-2規格、MIPI CSI-3規格、又は、MIPI DSI規格で信号を送出する装置である。CSIトランスミッタ100Aと、CCIスレーブ100Bとを有している。映像受信装置200は、CSIレシーバ200Aと、CCIマスター200Bとを有している。クロックレーンCLにおいて、CSIトランスミッタ100AとCSIレシーバ200Aとの間は、クロック信号線で接続されている。データレーンDLにおいて、CSIトランスミッタ100AとCSIレシーバ200Aとの間は、クロック信号線で接続されている。カメラ制御インタフェースCCIにおいて、CCIスレーブ100BとCCIマスター200Bとの間は、制御信号線で接続されている。
【0015】
CSIトランスミッタ100Aは、例えば、クロック信号として差動のクロック信号を生成し、クロック信号線に出力する差動信号送信回路である。CSIトランスミッタ100Aは、差動に限られず、シングルエンドや3相の信号も送信できるように構成可能である。CSIトランスミッタ100Aは、さらに、データ信号として差動のデータ信号を生成し、データ信号線に出力する差動信号送信回路でもある。CSIレシーバ200Aは、クロック信号として差動のクロック信号を、クロック信号線を介して受信し、受信した差動のクロック信号に対して所定の処理を行う差動信号受信回路である。CSIレシーバ200Aは、さらに、データ信号として差動のデータ信号を、データ信号線を介して受信し、受信した差動のデータ信号に対して所定の処理を行う差動信号受信回路でもある。
【0016】
(映像送信装置100)
図2は、映像送信装置100の構成の一例を表したものである。映像送信装置100は、CSIトランスミッタ100Aの一具体例に相当する。映像送信装置100は、例えば、撮像部110、画像処理部120,130及び送信部140を備えている。映像送信装置100は、撮像部110で得られた撮像画像111に対して所定の処理を行うことにより生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に送信する。図3は、伝送データ147Aの生成手順の一例したものである。
【0017】
撮像部110は、例えば、光学レンズなどを通して得られた光学的な画像信号を画像データに変換する。撮像部110は、例えば、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含んで構成されている。撮像部110は、アナログ-デジタル変換回路を有しており、アナログの画像データをデジタルの画像データに変換する。変換した後のデータ形式は、各画素の色を輝度成分Y及び色差成分Cb,Crで表現するYCbCr形式であってもよいし、RGB形式などであってもよい。撮像部110は、撮像により得られた撮像画像111(デジタルの画像データ)を画像処理部120に出力する。
【0018】
画像処理部120は、撮像部110から入力された撮像画像111に対して所定の処理を行う回路である。前提技術1では、画像処理部120は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う場合について説明する。しかしながら、前提技術1では、映像送信装置100、すなわち送信側がROIの切り出しの座標指示する場合も適用できある。この場合、送信側は例えば、受信側から送出されるROIで取得すべき「人物」や「物体」等の情報を受信して切り出しの座標を判断および指示するように構成される。これにより、画像処理部120は、種々のデータ(120A,120B,120C)を生成し、送信部140に出力する。画像処理部130は、撮像部110から入力された撮像画像111に対して所定の処理を行う回路である。画像処理部130は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う。これにより、画像処理部130は、画像データ130Aを生成し、送信部140に出力する。
【0019】
画像処理部130は、例えば、エンコード部131を有している。エンコード部131は、撮像画像111をエンコードして圧縮像データ130Aを生成する。画像処理部130は、例えば、圧縮像データ130Aの形式として、JPEG(Joint Photographic Experts Group)規格に準拠した圧縮形式等により撮像画像111を圧縮する。
【0020】
画像処理部120は、例えば、ROI切り出し部121、ROI解析部122、重なり検出部123、優先度設定部124、エンコード部125及び画像処理制御部126を有している。
【0021】
ROI切り出し部121は、撮像部110から入力された撮像画像111に含まれる撮影対象の1又は複数の物体を特定し、特定した物体ごとに注目領域ROIを設定する。注目領域ROIは、例えば、特定した物体を含む方形状の領域である。ROI切り出し部121は、撮像画像111から、各注目領域ROIの画像(例えば図3中のROI画像112)を切り出す。ROI切り出し部121は、さらに、設定した注目領域ROIごとに、識別子として領域番号を付与する。ROI切り出し部121は、例えば、撮像画像111において、2つの注目領域ROIを設定した場合には、一方の注目領域ROI(例えば図3中の注目領域ROI1)に対して、領域番号1を付与し、他方の注目領域ROI(例えば図3中の注目領域ROI2)に対して、領域番号2を付与する。ROI切り出し部121は、例えば、付与した識別子(領域番号)を記憶部に格納する。ROI切り出し部121は、例えば、撮像画像111から切り出した各ROI画像112を記憶部に格納する。ROI切り出し部121は、さらに、例えば、各注目領域ROIに付与した識別子(領域番号)を、ROI画像112と関連づけて、記憶部に格納する。
【0022】
ROI解析部122は、注目領域ROIごとに、撮像画像111における注目領域ROIの位置情報113を導出する。位置情報113は、例えば、注目領域ROIの左上端座標(Xa,Ya)と、注目領域ROIのX軸方向の長さと、注目領域ROIのY軸方向の長さとによって構成されている。注目領域ROIのX軸方向の長さは、例えば、注目領域ROIのX軸方向の物理領域長さXLaである。注目領域ROIのY軸方向の長さは、例えば、注目領域ROIのY軸方向の物理領域長さYLaである。物理領域長さとは、注目領域ROIの物理的な長さ(データ長)を指している。位置情報113において、注目領域ROIの左上端とは異なる位置の座標が含まれていてもよい。ROI解析部122は、例えば、導出した位置情報113を記憶部に格納する。ROI解析部122は、例えば、注目領域ROIに対して付与された識別子(領域番号)と関連づけて、記憶部に格納する。
【0023】
ROI解析部122は、注目領域ROIごとに、位置情報113として、さらに、例えば、注目領域ROIのX軸方向の出力領域長さXLcや、注目領域ROIのY軸方向の出力領域長さYLcを導出してもよい。出力領域長さとは、例えば、注目領域ROIに対して間引き処理や画素加算などによる解像度変更がなされた後の注目領域ROIの物理的な長さ(データ長)である。ROI解析部122は、例えば、注目領域ROIごとに、位置情報113の他に、例えば、センシングインフォメーション、露光情報、ゲイン情報、AD(Analog-Digital)語長、画像フォーマットなどを導出し、記憶部に格納してもよい。
【0024】
センシングインフォメーションとは、注目領域ROIに含まれる物体についての演算内容や、ROI画像112に対する後段信号処理のための補足情報などを指している。露光情報とは、注目領域ROIの露光時間を指している。ゲイン情報とは、注目領域ROIのゲイン情報を指している。AD語長とは、注目領域ROI内でAD変換された1画素あたりのデータの語長を指している。画像フォーマットとは、注目領域ROIの画像のフォーマットを指している。ROI解析部122は、例えば、撮像画像111に含まれる注目領域ROIの数(ROI数)を導出し、記憶部に格納してもよい。
【0025】
重なり検出部123は、撮像画像111において、撮影対象の複数の物体が特定されたときには、撮像画像111における複数の注目領域ROIの位置情報113に基づいて、2以上の注目領域ROI同士が重なり合う重なり領域(ROO(Region Of Overlap))を検出する。つまり、重なり検出部123は、重なり領域ROOごとに、撮像画像111における重なり領域ROOの位置情報114を導出する。重なり検出部123は、例えば、導出した位置情報114を記憶部に格納する。重なり検出部123は、例えば、導出した位置情報114を重なり領域ROOと対応付けて、記憶部に格納する。重なり領域ROOは、例えば、互いに重なり合う2以上の注目領域ROIにおいて最も小さな注目領域ROIと同じ大きさか、それよりも小さな方形状の領域である。位置情報114は、例えば、重なり領域ROOの左上端座標(Xb,Yb)と、重なり領域ROOのX軸方向の長さと、重なり領域ROOのY軸方向の長さとによって構成されている。重なり領域ROOのX軸方向の長さは、例えば、物理領域長さXLbである。重なり領域ROOのY軸方向の長さは、例えば、物理領域長さYLbである。位置情報114において、注目領域ROIの左上端とは異なる位置の座標が含まれていてもよい。
【0026】
優先度設定部124は、撮像画像111において、注目領域ROIごとに優先度115を付与する。優先度設定部124は、例えば、付与した優先度115を記憶部に格納する。優先度設定部124は、例えば、付与した優先度115を注目領域ROIと対応付けて、記憶部に格納する。優先度設定部124は、注目領域ROIごとに付与されている領域番号とは別に、優先度115を注目領域ROIごとに付与してもよいし、注目領域ROIごとに付与されている領域番号を、優先度115の代わりとしてもよい。優先度設定部124は、例えば、優先度115を注目領域ROIと関連付けて、記憶部に格納してもよいし、注目領域ROIごとに付与されている領域番号を注目領域ROIと関連付けて、記憶部に格納してもよい。
【0027】
優先度115は、各注目領域ROIの識別子であり、撮像画像111における複数の注目領域ROIのいずれに対して重なり領域ROOの割愛が行われたかを判別することの可能な判別情報である。優先度設定部124は、例えば、それぞれが重なり領域ROOを含む2つの注目領域ROIにおいて、一方の注目領域ROIに対して優先度115として1を付与し、他方の注目領域ROIに対して優先度115として2を付与する。この場合には、後述の伝送画像116の作成に際して、優先度115の数値が大きい方の注目領域ROIに対して、重なり領域ROOの割愛が行われる。なお、優先度設定部124は、注目領域ROIごとに付与されている領域番号と同じ番号を、注目領域ROIに対して優先度115として付与してもよい。優先度設定部124は、例えば、各注目領域ROIに付与した優先度115を、ROI画像112と関連づけて、記憶部に格納する。
【0028】
エンコード部125は、各伝送画像116を、エンコードして圧縮像データ120Aを生成する。エンコード部125は、例えば、圧縮像データ120Aの形式として、JPEG規格に準拠した圧縮形式等により各伝送画像116を圧縮する。エンコード部125は、上記の圧縮処理を行う前に、各伝送画像116を生成する。エンコード部125は、撮像画像111から得られた複数のROI画像112において重なり領域ROOの画像118が重複して含まれないように、撮像画像111から得られた複数のROI画像112から画像118を割愛したものである複数の伝送画像116を生成する。
【0029】
エンコード部125は、例えば、注目領域ROIごとに付与されている優先度115に基づいて、複数のROI画像112のいずれに対して画像118の割愛を行うかを決定する。なお、エンコード部125は、例えば、注目領域ROIごとに付与されている領域番号を優先度115として用いることにより、複数のROI画像112のいずれに対して画像118の割愛を行うかを決定してもよい。エンコード部125は、上記のようにして特定されたROI画像112において画像118を割愛したものを、伝送画像116(例えば図3の伝送画像116a2)とする。エンコード部125は、重なり領域ROOを含まないROI画像112や、上記の決定により画像118が割愛されないこととなったROI画像112については、ROI画像112そのものを伝送画像116(例えば図3の伝送画像116a1)とする。
【0030】
画像処理制御部126は、ROI情報120B及びフレーム情報120Cを生成し、送信部140に送信する。ROI情報120Bは、例えば、各位置情報113を含んでいる。ROI情報120Bは、さらに、例えば、各注目領域ROIのデータタイプ、撮像画像111に含まれる注目領域ROIの数、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットのうち少なくとも1つを含んでいる。フレーム情報120Cは、例えば、フレームごとに付与されるバーチャルチャネルの番号、各注目領域ROIのデータタイプ、ラインごとのペイロード(Payload)長などを含んでいる。データタイプには、例えば、YUVデータ、RGBデータ又はRAWデータなどが含まれている。データタイプには、さらに、例えば、ROI形式のデータ又は通常形式のデータなどが含まれている。ペイロード長は、例えば、ロングパケット(LongPacket)のペイロードに含まれるピクセル数であり、例えば、注目領域ROIごとのピクセル数である。ここで、ペイロードとは、映像送信装置100及び映像受信装置200の間で伝送される主要なデータ(アプリケーションデータ)を指している。ロングパケットとは、パケットヘッダPHとパケットフッタPFとの間に配置されるパケットを指している。
【0031】
送信部140は、画像処理部120,130から入力された種々のデータ(120A,120B,120C,130A)に基づいて伝送データ147Aを生成し、送出する回路である。送信部140は、撮像画像111における各注目領域ROIについてのROI情報120Bをエンベデッドデータ(EmbeddedData)で送出する。送信部140は、さらに、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、各注目領域ROIの画像データ(圧縮像データ120A)をロングパケットのペイロードデータ(PayloadData)で送出する。このとき、送信部140は、各注目領域ROIの画像データ(圧縮像データ120A)を互いに共通のバーチャルチャネルで送出する。また、送信部140は、各注目領域ROIの画像データ(圧縮像データ120A)を画像データフレームによって送出するとともに、各注目領域ROIについてのROI情報120Bを画像データフレームのヘッダで送出する。送信部140は、また、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、通常の画像データ(圧縮像データ130A)をロングパケットのペイロードデータで送出する。
【0032】
送信部140は、例えば、LINK制御部141、ECC生成部142、PH生成部143、EBDバッファ144、ROIデータバッファ145、通常画像データバッファ146及び合成部147を有している。LINK制御部141、ECC生成部142、PH生成部143、EBDバッファ144及びROIデータバッファ145は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、合成部147への出力を行う。通常画像データバッファ146は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、合成部147への出力を行う。
【0033】
なお、ROIデータバッファ145が、通常画像データバッファ146を兼ねていてもよい。この場合、送信部140は、ROIデータバッファ145及びROIデータバッファ145のそれぞれの出力端と、合成部147の入力端との間に、ROIデータバッファ145及びROIデータバッファ145のいずれかの出力を選択するセレクタを有していてもよい。
【0034】
LINK制御部141は、例えば、フレーム情報120CをラインごとにECC生成部142及びPH生成部143に出力する。ECC生成部142は、例えば、フレーム情報120Cにおける1ラインのデータ(例えば、バーチャルチャネルの番号、各注目領域ROIのデータタイプ、ラインごとのペイロード長など)に基づいて、そのラインの誤り訂正符号を生成する。ECC生成部142は、例えば、生成した誤り訂正符号をPH生成部143に出力する。PH生成部143は、例えば、フレーム情報120Cと、ECC生成部142で生成された誤り訂正符号とを用いて、1ラインごとにパケットヘッダPHを生成する。このとき、パケットヘッダPHは、例えば、図4に示したように、ロングパケットのペイロードデータのパケットヘッダである。このパケットヘッダPHには、例えば、DI、WC及びECCが含まれている。WCは、映像受信装置200に対してパケットの終わりをワード数で示すための領域である。WCには、例えば、ペイロード長が含まれており、例えば、注目領域ROIごとのピクセル数が含まれている。ECCは、ビットエラーを修正するための値を格納する領域である。ECCには、誤り訂正符号が含まれている。DIは、データ識別子を格納する領域である。DIには、VC(バーチャルチャネル)の番号及びDataType(各注目領域ROIのデータタイプ)が含まれている。VC(バーチャルチャネル)は、パケットのフロー制御のために導入された概念であり、同一のリンクを共用する複数の独立したデータストリームをサポートするためのメカニズムである。PH生成部143は、生成したパケットヘッダPHを合成部147に出力する。
【0035】
EBDバッファ144は、ROI情報120Bを一次的に格納し、所定のタイミングでROI情報120Bをエンベデッドデータとして合成部147に出力する。エンベデッドデータとは、画像データフレーム(後述の図5参照)のヘッダ又はフッタに埋め込むことの可能な追加情報を指している。エンベデッドデータには、例えば、ROI情報120Bが含まれている。
【0036】
ROIデータバッファ145は、圧縮像データ120Aを一次的に格納し、所定のタイミングで圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。ROIデータバッファ145は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。通常画像データバッファ146は、圧縮像データ130Aを一次的に格納し、所定のタイミングで圧縮像データ130Aをロングパケットのペイロードデータとして合成部147に出力する。通常画像データバッファ146は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ130Aをロングパケットのペイロードデータとして合成部147に出力する。
【0037】
合成部147は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力されたデータ(圧縮像データ130A)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。一方、合成部147は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力された各種データ(パケットヘッダPH、ROI情報120B、及び圧縮像データ120A)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。つまり、合成部147は、DataType(各注目領域ROIのデータタイプ)をロングパケットのペイロードデータのパケットヘッダPHに含めて送出する。また、合成部147は、各注目領域ROIの画像データ(圧縮像データ120A)を互いに共通のバーチャルチャネルで送出する。
【0038】
伝送データ147Aは、例えば、図5に示したような画像データフレームによって構成されている。画像データフレームは、通常、ヘッダ領域、パケット領域、及びフッタ領域を有している。図5では、便宜的に、フッタ領域の記載が省略されている。伝送データ147Aのフレームヘッダ領域R1には、エンベデッドデータが含まれている。このとき、エンベデッドデータには、ROI情報120Bが含まれている。図5において、伝送データ147Aのパケット領域R2には、1ラインごとに、ロングパケットのペイロードデータが含まれており、さらに、ロングパケットのペイロードデータを挟み込む位置にパケットヘッダPH及びパケットフッタPFが含まれている。さらに、パケットヘッダPHとパケットフッタPFを挟み込む位置にローパワーモードLPが含まれている。
【0039】
このとき、パケットヘッダPHには、例えば、DI、WC及びECCが含まれている。WCには、例えば、ペイロード長が含まれており、例えば、注目領域ROIごとのピクセル数が含まれている。ECCには、誤り訂正符号が含まれている。DIには、VC(バーチャルチャネルの番号)及びDataType(各注目領域ROIのデータタイプ)が含まれている。本実施の形態では、各ラインのVCには、互いに共通のバーチャルチャネルの番号が付与されている。また、図5において、伝送データ147Aのパケット領域R2には、圧縮像データ147Bが含まれている。圧縮像データ147Bは、1つの圧縮像データ120A、又は複数の圧縮像データ120Aによって構成されている。ここで、図5において、パケットヘッダPH寄りのパケット群には、例えば、図3中の伝送画像116a1の圧縮像データ120A(120A1)が含まれており、パケットヘッダPHから離れたパケット群には、例えば、図3中の伝送画像116a2の圧縮像データ120A(120A2)が含まれている。これら2つの圧縮像データ120A1,120A2によって圧縮像データ147Bが構成されている。各ラインのロングパケットのペイロードデータには、圧縮像データ147Bにおける1ライン分のピクセルデータが含まれている。
【0040】
図6は、伝送データ147Aの構成例を表したものである。伝送データ147Aは、例えば、フレームヘッダ領域R1及びパケット領域R2を含んでいる。なお、図6には、フレームヘッダ領域R1の中身が詳細に例示されている。また、図6では、ローパワーモードLPが省略されている。
【0041】
フレームヘッダ領域R1には、例えば、伝送データ147Aの識別子としてのフレーム番号F1が含まれている。フレームヘッダ領域R1は、パケット領域R2に含まれる圧縮像データ147Bについての情報を含んでいる。フレームヘッダ領域R1は、例えば、圧縮像データ147Bに含まれる圧縮像データ120Aの数(ROI数)と、圧縮像データ147Bに含まれる各圧縮像データ120Aに対応するROI画像112についての情報(ROI情報120B)とを含んでいる。
【0042】
合成部147は、例えば、伝送データ147Aのパケット領域R2において、圧縮像データ147Bを、圧縮像データ120Aの画素行ごとに分けて配置する。したがって、伝送データ147Aのパケット領域R2には、重なり領域ROOの画像118に対応する圧縮像データが重複して含まれていない。また、合成部147は、例えば、伝送データ147Aのパケット領域R2において、撮像画像111のうち各伝送画像116と対応しない画素行を割愛している。したがって、伝送データ147Aのパケット領域R2には、撮像画像111のうち各伝送画像116に対応しない画素行は含まれていない。なお、図6のパケット領域R2において、破線で囲んだ箇所が、重なり領域ROOの画像118の圧縮像データに相当する。
【0043】
パケットヘッダPH寄りのパケット群(例えば図6中の1(n))と、パケットヘッダPHから離れたパケット群(例えば図6中の2(1))との境界は、パケットヘッダPH寄りのパケット群(例えば図6中の1(n))の圧縮像データに対応するROI画像112の物理領域長さXLa1によって特定される。パケットヘッダPH寄りのパケット群(例えば図6中の1(n))に含まれる重なり領域ROOの画像118に対応する圧縮像データにおいて、パケットの開始位置は、パケットヘッダPHから離れたパケット群(例えば図6中の2(1))に対応するROI画像112の物理領域長さXLa2によって特定される。
【0044】
合成部147は、例えば、伝送データ147Aのパケット領域R2において、1ラインごとに、ロングパケットのペイロードデータを生成する際に、ロングパケットのペイロードデータに、例えば、圧縮像データ147Bにおける1ライン分のピクセルデータの他に、例えば、図7に示したように、ROI情報120Bを含めてもよい。つまり、合成部147は、ROI情報120Bをロングパケットのペイロードデータに含めて送出してもよい。このとき、ROI情報120Bは、例えば、図7(A)~図7(K)に示したように、撮像画像111に含まれる注目領域ROIの数(ROI数)、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットのうち少なくとも1つを含んでいる。ROI情報120Bは、ロングパケットのペイロードデータにおいて、パケットヘッダPH側の端部(つまり、ロングパケットのペイロードデータの先頭)に配置されることが好ましい。
【0045】
(映像受信装置200)
次に、映像受信装置200について説明する。図8は、映像受信装置200の構成の一例を表したものである。図9は、映像受信装置200におけるROI画像223Aの生成手順の一例を表したものである。映像受信装置200は、映像送信装置100と共通の規格(例えば、MIPI CSI-2規格、MIPI CSI-3規格、又は、MIPIDSI規格)で信号を受信する装置である。映像受信装置200は、例えば、受信部210及び情報処理部220を有している。受信部210は、映像送信装置100から出力された伝送データ147Aを、データレーンDLを介して受信し、受信した伝送データ147Aに対して所定の処理を行うことにより、種々のデータ(214A,215A,215B)を生成し、情報処理部220に出力する回路である。情報処理部220は、受信部210から受信した種々のデータ(214A,215A)に基づいて、ROI画像223Aを生成したり、受信部210から受信したデータ(215B)に基づいて、通常画像224Aを生成したりする回路である。
【0046】
受信部210は、例えば、ヘッダ分離部211、ヘッダ解釈部212、ペイロード分離部213、EBD解釈部214及びROIデータ分離部215を有している。
【0047】
ヘッダ分離部211は、伝送データ147Aを、データレーンDLを介して映像送信装置100から受信する。つまり、ヘッダ分離部211は、撮像画像111における各注目領域ROIについてのROI情報120Bをエンベデッドデータに含むとともに、各注目領域ROIの画像データ(圧縮像データ120A)をロングパケットのペイロードデータに含む伝送データ147Aを受信する。ヘッダ分離部211は、受信した伝送データ147Aをフレームヘッダ領域R1とパケット領域R2とに分離する。ヘッダ解釈部212は、フレームヘッダ領域R1に含まれるデータ(具体的にはエンベデッドデータ)に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータの位置を特定する。ペイロード分離部213は、ヘッダ解釈部212によって特定されたロングパケットのペイロードデータの位置に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータを、パケット領域R2から分離する。
【0048】
EBD解釈部214は、エンベデッドデータをEBDデータ214Aとして、情報処理部220に出力する。EBD解釈部214は、さらに、エンベデッドデータに含まれるデータタイプから、ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データ120Aであるか、又は、通常画像データの圧縮像データ130Aであるか判別する。EBD解釈部214は、判別結果をROIデータ分離部215に出力する。
【0049】
ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データ120Aである場合、ROIデータ分離部215は、ロングパケットのペイロードデータをペイロードデータ215Aとして、情報処理部220(具体的にはROIデコード部222)に出力する。ペイロードデータに含まれる画像データが通常画像データの圧縮像データ130Aである場合、ROIデータ分離部215は、ロングパケットのペイロードデータをペイロードデータ215Bとして、情報処理部220(具体的には通常画像デコード部224)に出力する。ロングパケットのペイロードデータにROI情報120Bが含まれている場合には、ペイロードデータ215Aは、ROI情報120Bと、圧縮像データ147Bのうち1ライン分のピクセルデータとを含んでいる。
【0050】
情報処理部220は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報処理部220は、情報抽出部221で抽出したROI情報120Bに基づいて、受信部210で受信した伝送データ147Aに含まれるロングパケットのペイロードデータから、撮像画像111における各注目領域ROIの画像(ROI画像112)を抽出する。情報処理部220は、例えば、情報抽出部221、ROIデコード部222、ROI画像生成部223及び通常画像デコード部224を有している。
【0051】
通常画像デコード部224は、ペイロードデータ215Bをデコードし、通常画像224Aを生成する。ROIデコード部222は、ペイロードデータ215Aに含まれる圧縮像データ147Bをデコードし、画像データ222Aを生成する。この画像データ222Aは、1又は複数の伝送画像116によって構成されている。
【0052】
情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報抽出部221は、例えば、EBDデータ214Aに含まれるエンベデッドデータから、例えば、撮像画像111に含まれる注目領域ROIの数、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットを抽出する。つまり、伝送データ147Aは、当該伝送データ147Aから得られる複数の伝送画像116のいずれに対して重なり領域ROOの画像118の割愛が行われたかを判別することの可能な判別情報として、各伝送画像116に対応する注目領域ROIの領域番号(又は優先度115)を含んでいる。
【0053】
ROI画像生成部223は、情報抽出部221で得られたROI情報120Bに基づいて、2以上の注目領域ROI同士が重なり合う重なり領域ROOを検出する。
【0054】
情報抽出部221が、例えば、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a1に対応する注目領域ROIの座標(例えば左上端座標(Xa1,Ya1))、長さ(例えば物理領域長さXLa1,YLa1)及び領域番号1(又は優先度115(=1))を抽出する。情報抽出部221が、さらに、例えば、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a2に対応する注目領域ROIの座標(例えば左上端座標(Xa2,Ya2))、長さ(例えば物理領域長さXLa2,YLa2)及び領域番号2(又は優先度115(=2))を抽出する。
【0055】
このとき、ROI画像生成部223は、抽出したこれらの情報(以下、「抽出情報221A」と称する。)に基づいて、重なり領域ROOの位置情報114を導出する。ROI画像生成部223は、上記の重なり領域ROOの位置情報114として、例えば、重なり領域ROOの座標(例えば左上端座標(Xb1,Yb1))及び長さ(例えば物理領域長さXLb1,YLb1)を導出する。
【0056】
なお、ROI画像生成部223は、EBDデータ214Aに含まれるエンベデッドデータからROI情報120Bを取得する代わりに、ペイロードデータ215AからROI情報120Bを取得してもよい。この場合、ROI画像生成部223は、ペイロードデータ215Aに含まれるROI情報120Bに基づいて、2以上の注目領域ROI同士が重なり合う重なり領域ROOを検出してもよい。また、ROI画像生成部223は、ペイロードデータ215Aに含まれるROI情報120Bから、抽出情報221Aを抽出してもよく、そのようにして抽出した抽出情報221Aに基づいて、重なり領域ROOの位置情報114を導出してもよい。
【0057】
ROI画像生成部223は、さらに、画像データ222Aと、抽出情報221Aと、重なり領域ROOの位置情報114とに基づいて、撮像画像111における各注目領域ROIの画像(ROI画像112a1,112a2)を生成する。ROI画像生成部223は、生成した画像をROI画像223Aとして出力する。
【0058】
[手順]
次に、図3図9を参考にして、映像伝送システム1におけるデータ伝送の手順の一例について説明する。
【0059】
まず、撮像部110は、撮像により得られた撮像画像111(デジタルの画像データ)を画像処理部120に出力する。ROI切り出し部121は、撮像部110から入力された撮像画像111に含まれる2つの注目領域ROI1,ROI2を特定する。ROI切り出し部121は、撮像画像111から、各注目領域ROI1,ROI2の画像(ROI画像112a1,112a2)を切り出す。ROI切り出し部121は、注目領域ROI1に対して識別子として領域番号1を付与し、注目領域ROI2に対して識別子として領域番号2を付与する。
【0060】
ROI解析部122は、注目領域ROIごとに、撮像画像111における注目領域ROIの位置情報113を導出する。ROI解析部122は、注目領域ROI1に基づいて、注目領域ROI1の左上端座標(Xa1,Ya1)と、注目領域ROI1のX軸方向の長さ(XLa1)と、注目領域ROI1のY軸方向の長さ(YLa1)とを導出する。ROI解析部122は、注目領域ROI2に基づいて、注目領域ROI2の左上端座標(Xa2,Ya2)と、注目領域ROI2のX軸方向の長さ(XLa2)と、注目領域ROI2のY軸方向の長さ(YLa2)とを導出する。
【0061】
重なり検出部123は、撮像画像111における2つの注目領域ROI1,ROI2の位置情報113に基づいて、2つの注目領域ROI1,ROI2同士が重なり合う重なり領域ROOを検出する。つまり、重なり検出部123は、撮像画像111における重なり領域ROOの位置情報114を導出する。重なり検出部123は、撮像画像111における重なり領域ROOの位置情報114として、重なり領域ROOの左上端座標(Xb1,Yb1)と、重なり領域ROOのX軸方向の長さ(XLb1)と、重なり領域ROOのY軸方向の長さ(YLb1)とを導出する。
【0062】
優先度設定部124は、2つの注目領域ROI1,ROI2において、一方の注目領域ROI1に対して優先度115として1を付与し、他方の注目領域ROI2に対して優先度115として2を付与する。
【0063】
エンコード部125は、2つの注目領域ROI1,ROI2において重なり領域ROOの画像118が重複して含まれないように、撮像画像111から得られた2つのROI画像112a1,112a2から画像118を割愛したものである2つの伝送画像116a1,116a2を生成する。
【0064】
エンコード部125は、2つの注目領域ROI1,ROI2の領域番号(又は優先度115)に基づいて、2つのROI画像112a1,112a2のいずれに対して画像118の割愛を行うかを決定する。エンコード部125は、2つの注目領域ROI1,ROI2において、領域番号(又は優先度115)の大きい方である注目領域ROI2に対応するROI画像112a2に対して画像118の割愛を行い、これにより、伝送画像116a2を生成する。エンコード部125は、2つの注目領域ROI1,ROI2において、領域番号(又は優先度115)の小さな方である注目領域ROI1に対応するROI画像112a1については、ROI画像112a1そのものを伝送画像116a1とする。
【0065】
画像処理制御部126は、ROI情報120B及びフレーム情報120Cを生成し、送信部140に送信する。送信部140は、画像処理部120,130から入力された種々のデータ(120A,120B,120C,130A)に基づいて伝送データ147Aを生成する。送信部140は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に送出する。
【0066】
受信部210は、映像送信装置100から出力された伝送データ147Aを、データレーンDLを介して受信する。受信部210は、受信した伝送データ147Aに対して所定の処理を行うことにより、EBDデータ214A及びペイロードデータ215Aを生成し、情報処理部220に出力する。
【0067】
情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a1に対応する注目領域ROIの座標(例えば左上端座標(Xa1,Ya1))、長さ(例えば物理領域長さXLa1,YLa1)及び領域番号1(又は優先度115(=1))を抽出する。情報抽出部221は、さらに、ROI画像112a2に対応する注目領域ROIの座標(例えば左上端座標(Xa2,Ya2))、長さ(例えば物理領域長さXLa2,YLa2)及び領域番号2(又は優先度115(=2))を抽出する。ROIデコード部222は、ペイロードデータ215Aに含まれる圧縮像データ147Bをデコードし、画像データ222Aを生成する。
【0068】
ROI画像生成部223は、抽出したこれらの情報(抽出情報221A)に基づいて、重なり領域ROOの位置情報114を導出する。ROI画像生成部223は、上記の重なり領域ROOの位置情報114として、例えば、重なり領域ROOの座標(例えば左上端座標(Xb1,Yb1))及び長さ(例えば物理領域長さXLb1,YLb1)を導出する。ROI画像生成部223は、さらに、画像データ222Aと、抽出情報221Aと、重なり領域ROOの位置情報114とに基づいて、撮像画像111における各注目領域ROIの画像(ROI画像112a1,112a2)を生成する。
【0069】
[効果]
次に、本実施の形態に係る映像伝送システム1の効果について説明する。
【0070】
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
【0071】
従来では、伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われている。
【0072】
ところで、イメージセンサからアプリケーションプロセッサへの伝送に用いられる方式として、MIPI CSI-2が用いられることがある。この方式を用いてROIを伝送しようとした場合、様々な制約により、ROIの伝送が容易ではないことがある。
【0073】
一方、本実施の形態では、撮像画像111における各注目領域ROIについてのROI情報120Bがエンベデッドデータで送出されるとともに、各注目領域ROIの画像データがロングパケットのペイロードデータで送出される。これにより、映像送信装置100から送出された伝送データ147Aを受信した装置(映像受信装置200)において、伝送データ147Aから、各注目領域ROIの画像データ(ROI画像112)を容易に抽出することができる。その結果、様々な制約の下でも、注目領域ROIの伝送を行うことができる。
【0074】
また、本実施の形態では、各注目領域ROIの画像データ(圧縮像データ120A)が互いに共通のバーチャルチャネルで送出される。これにより、同一パケットの中で複数のROI画像112を送ることができるので、複数のROI画像112を送る間に、LPモードに入る必要がなく、高い伝送効率を得ることができる。
【0075】
また、本実施の形態では、各注目領域ROIのデータタイプがロングパケットのペイロードデータのパケットヘッダPHに含めて送出される。これにより、エンベデッドデータにアクセスしなくても、ロングパケットのペイロードデータのパケットヘッダPHにアクセスするだけで、各注目領域ROIのデータタイプが得られる。これにより、映像受信装置200における処理速度を速くすることができるので、高い伝送効率を得ることができる。
【0076】
また、本実施の形態において、ROI情報120Bがロングパケットのペイロードデータに含めて送出される場合には、エンベデッドデータにアクセスしなくても、ロングパケットのペイロードデータにアクセスするだけで、ROI情報120Bが得られる。これにより、映像受信装置200における処理速度を速くすることができるので、高い伝送効率を得ることができる。
【0077】
また、本実施の形態では、伝送データ147Aに含まれるエンベデッドデータから、各注目領域ROIについてのROI情報120Bが抽出されるとともに、抽出されたROI情報120Bに基づいて、伝送データ147Aに含まれるロングパケットのペイロードデータから、各注目領域ROIの画像(ROI画像112)が抽出される。これにより、伝送データ147Aから、各注目領域ROIの画像(ROI画像112)を容易に抽出することができる。その結果、様々な制約の下でも、注目領域ROIの伝送を行うことができる。
【0078】
2.本開示の前提技術2:
撮像画像から切り出した一部(形状が非矩形状)の注目領域(ROI)を伝送する技術について、図1から図9を参照しつつ図10から図12を用いて説明する。すなわち、方形状(矩形状)以外の形状を有する撮影対象の物体の画像を送受信する技術について、説明する。図10は、撮像画像111において特定された物体が配置された領域を模式的に示す図である。なお、図10では、理解を容易にするため、15行×23列の撮像素子で構成された撮像領域で撮像された撮像画像111が模式的に図示されている。図11は、特定された物体に対して設定されたROI領域の一例を示す図である。
【0079】
前提技術2では、前提技術1と同様に、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から映像送信装置100に入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う場合について説明する。しかしながら、前提技術2では、映像送信装置100、すなわち送信側がROIの切り出しの座標指示する場合も適用できある。この場合、送信側は例えば、受信側から送出されるROIで取得すべき「人物」や「物体」等の情報を受信して切り出しの座標を判断および指示するように構成される。
【0080】
ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力される。これにより、図10に示すように、ROI切り出し部121は、撮像画像111に含まれる撮影対象の4つの物体1~4を特定する。物体1は例えば、撮像画像111内の左上領域の一部を占める矩形状を有している。物体2は例えば、撮像画像111内で物体1の右側の一部の領域を占め、矩形の上側の両側角部及び下辺の一部が欠落した形状を有している。物体3は例えば、撮像画像111内で物体2の下方の一部の領域を占め、矩形の四隅が欠落した形状を有している。物体4は例えば、撮像画像111内で物体3の下方の一部の領域を占め、矩形の上側の両側角部が欠落した形状を有している。物体3及び物体4は一部が重なり合っている。
【0081】
図11に示すように、ROI切り出し部121(図2参照)は、特定した物体1~4をそれぞれ含む最小の矩形を注目領域ROI1~ROI4として設定する。ROI切り出し部121は、物体1に対して注目領域ROI1を設定し、ROI画像112a1を切り出す。また、ROI切り出し部121は、物体2に対して注目領域ROI2を設定し、ROI画像112a2を切り出す。また、ROI切り出し部121は、物体3に対して注目領域ROI3を設定し、ROI画像112a3を切り出す。さらに、ROI切り出し部121は、物体4に対して注目領域ROI4を設定し、ROI画像112a4を切り出す。
【0082】
ROI切り出し部121は、注目領域ROI1と、注目領域ROI1に付与した領域番号「1」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI2と、注目領域ROI2に付与した領域番号「2」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI3と、注目領域ROI3に付与した領域番号「3」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI4と、注目領域ROI4に付与した領域番号「4」とを関連付けて記憶部に格納する。
【0083】
ROI解析部122(図2参照)は、注目領域ROI1~ROI4のそれぞれの位置情報を導出する。ROI解析部122は、注目領域ROI1の位置情報として例えば、X軸方向の物理領域長さXLa1及びY軸方向の物理領域長さYLa1を導出する。ROI解析部122は、注目領域ROI2の位置情報として例えば、X軸方向の物理領域長さXLa2及びY軸方向の物理領域長さYLa2を導出する。ROI解析部122は、注目領域ROI3の位置情報として例えば、X軸方向の物理領域長さXLa3及びY軸方向の物理領域長さYLa3を導出する。ROI解析部122は、注目領域ROI4の位置情報として例えば、X軸方向の物理領域長さXLa4及びY軸方向の物理領域長さYLa4を導出する。ROI解析部122は、注目領域ROIごとに、位置情報113として、さらに、例えば、注目領域ROIのX軸方向の出力領域長さXLcや、注目領域ROIのY軸方向の出力領域長さYLcを導出してもよい。
【0084】
ROI解析部122は、注目領域ROIのそれぞれのX軸方向及びY軸方向の長さを導出することによって、後段への情報として注目領域ROI1~ROI4のそれぞれの大きさや総データ量を導出する。これにより、後段に相当する映像受信装置200はメモリ領域を確保できる。
【0085】
ROI解析部122は、撮影対象の物体及び注目領域の形状が一致していない場合には、注目領域ROIの位置情報ではなく、ROI画像112a1~112a4の位置情報を導出するように構成されている。ROI解析部122は、ROI画像112a1~112a4の位置情報として、各行の左端座標(xn,yn)及びX軸方向の物理領域長さXLnを導出する。また、ROI画像112a2の2行目のようにROI画像が分離している場合には、ROI解析部122は、分離している部分のそれぞれについて位置情報を導出する。ROI解析部122は、注目領域ROI1~ROI4の領域番号と、ROI画像112a1~112a4の位置情報とを対応付けて記憶部に格納する。
【0086】
また、ROI解析部122は、例えば、注目領域ROI1~ROI4ごとに、位置情報の他に、例えば、センシングインフォメーション、露光情報、ゲイン情報、AD語長、画像フォーマットなどを導出し、領域番号と対応付けて記憶部に格納してもよい。
【0087】
重なり検出部123(図2参照)は、撮影対象の物体が矩形状の場合には、注目領域同士が重なり合う領域ではなく、ROI画像同士が重なり合う領域を重なり領域として導出する。図11に示すように、重なり検出部123は、ROI画像112a3及びROI画像123a4が重なり合う領域として重なり領域ROOを導出する。重なり検出部123は、導出した重なり領域ROOを注目領域ROI3,ROI4の位置情報のそれぞれに対応付けて記憶部に格納する。
【0088】
優先度設定部124(図2参照)は、優先度「1」を注目領域ROI1に付与し、優先度1を注目領域ROI1に対応付けて記憶部に格納する。優先度設定部124は、優先度「1」よりも優先度が低い優先度「2」を注目領域ROI2に付与し、優先度2を注目領域ROI2に対応付けて記憶部に格納する。優先度設定部124は、優先度「2」よりも優先度が低い優先度「3」を注目領域ROI3に付与し、優先度3を注目領域ROI3に対応付けて記憶部に格納する。優先度設定部124は、優先度「3」よりも優先度が低い優先度「4」を注目領域ROI4に付与し、優先度4を注目領域ROI4に対応付けて記憶部に格納する。
【0089】
エンコード部125(図2参照)は、ROI画像112a1~112a4のそれぞれについて伝送画像を生成する。注目領域ROI4は注目領域ROI3よりも優先度が低いので、エンコード部125は、ROI画像112a4から重なり領域ROOを割愛して伝送画像を生成する。
【0090】
画像処理制御部126(図2参照)は、ROI情報及びフレーム情報を生成し、送信部140(図2参照)に送信する。ROI情報には例えば、ROI画像112a1~112a4のそれぞれの位置情報が含まれる。ROI情報にはその他に、上述の撮影対象の物体が矩形状の場合と同様の情報(例えば注目領域ROI1~ROI4のそれぞれデータタイプ、撮像画像111に含まれる注目領域ROI1~ROI4の数、注目領域ROI1~ROI4の領域番号及び優先度など)が含まれる。フレーム情報には例えば、注目領域ROI1~ROI4のデータタイプなど、上述の撮影対象の物体が矩形状の場合と同様の情報が含まれる。
【0091】
送信部140(図2参照)に設けられたLINK制御部141は、画像処理制御部126から入力されるフレーム情報及びROI情報をラインごとにECC生成部142及びPH生成部143(いずれも図2参照)に出力する。ECC生成部142は例えば、フレーム情報における1ラインのデータ(例えば、バーチャルチャネルの番号、注目領域ROI1~ROI4のそれぞれのデータタイプ、ラインごとのペイロード長など)に基づいて、そのラインの誤り訂正符号を生成する。ECC生成部142は例えば、生成した誤り訂正符号をPH生成部143に出力する。PH生成部143は例えば、フレーム情報と、ECC生成部142で生成された誤り訂正符号とを用いて、1ラインごとにパケットヘッダPH(図4参照)を生成する。
【0092】
EBDバッファ144(図2参照)は、ROI情報を一次的に格納し、所定のタイミングでROI情報をエンベデッドデータとして合成部147(図2参照)に出力する。
【0093】
ROIデータバッファ145(図2参照)は、エンコード部125から入力される圧縮像データを一次的に格納し、例えばROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。
【0094】
合成部147は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力された各種データ(パケットヘッダPH、ROI情報及びROIデータバッファ145を介してエンコード部125から入力された圧縮像データ)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。つまり、合成部147は、注目領域ROI1~ROI4のそれぞれのデータタイプをロングパケットのペイロードデータのパケットヘッダPHに含めて送出する。また、合成部147は、注目領域ROI1~ROI4のそれぞれの画像データ(圧縮像データ)を互いに共通のバーチャルチャネルで送出する。
【0095】
撮影対象の物体が矩形状でない場合、ROI画像112a1~112a4の位置情報は、パケットヘッダPH又はロングパケットのペイロードデータに含められる。ROI画像112a1~112a4の位置情報は、PH生成部143によってパケットヘッダPHに含められる。一方、ROI画像112a1~112a4の位置情報は、合成部147によってロングパケットのペイロードデータに含められる。
【0096】
図12は、ROI画像112a1~112a4の位置情報がロングパケットのペイロードデータに含められている伝送データ147Aの構成例を示す図である。図12に示すように、伝送データ147Aは例えば、フレームヘッダ領域R1及びパケット領域R2を含んでいる。なお、図12には、フレームヘッダ領域R1の中身が詳細に例示されている。また、図12では、ローパワーモードLPが省略されている。
【0097】
フレームヘッダ領域R1には例えば、伝送データ147Aの識別子としてのフレーム番号F1が含まれている。フレームヘッダ領域R1は、パケット領域R2に含まれる圧縮像データについての情報を含んでいる。フレームヘッダ領域R1は例えば、圧縮像データの数(ROI数)と、各圧縮像データに対応するROI画像112a1~112a4のそれぞれについての情報(ROI情報)とを含んでいる。ROI情報は、領域番号、物理領域長さ、矩形出力領域大きさ、優先度、露光情報、ゲイン情報、AD語長及び画像フォーマットを含んでいる。物理領域長さは、ROI画像の最大長さであり、矩形出力領域大きさは、注目領域ROIの大きさである。
【0098】
図12中に示す「Info」は、ロングパケットのペイロードに格納される領域情報を示している。ROI画像112a1~112a4の位置情報は、例えば「info」に格納される。ROI画像112a1~112a4の位置情報は、ロングパケットのペイロードの先頭部分に格納される。ROI画像を構成し連続する各画素行のX軸方向の物理領域長さが同じであり、かつ当該各画素行に異なる領域番号のROI画像が含まれていない場合には、当該各画素行のうちの2行目以降の画素行の画像データを含むロングパケットのペイロードには、領域情報「info」が格納されていなくてもよい。本例では、ROI画像112a1は、全ての画素行のうちの連続する1行目から4行目の画素行においてX軸方向の物理領域長さが同じであり、当該1行目から4行目の画素行には、異なる領域番号のROI画像が含まれていない。このため、ROI画像112a1を構成し連続する1行目から4行目の画素行のうちの2行目以降に相当する2行目から4行目の画素行の画像データを含むそれぞれのロングパケットのペイロードには、領域情報「info」が格納されていない。また、本例では、ROI画像112a4は、全ての画素行のうちの連続する2行目及び3行目の画素行においてX軸方向の物理領域長さが同じであり、当該2行目及び3行目の画素行には、異なる領域番号のROI画像が含まれていない。このため、ROI画像112a4を構成し連続する2行目及び3行目の画素行のうちの2行目以降に相当する3行目の画素行の画像データを含むロングパケットのペイロードには、領域情報「info」が格納されていない。なお、X軸方向の物理領域長さが同じであり、かつ当該各画素行に異なる領域番号のROI画像が含まれていない場合でも、各行のペイロードに領域情報「info」が格納されていてもよい。
【0099】
合成部147は例えば、伝送データ147Aのパケット領域R2において、ROI画像112a1~112a4のそれぞれを圧縮して生成された圧縮像データを画素行ごとに分けて配置する。図12中に示す「1」は、ロングパケットのペイロードに格納されたROI画像112a1の圧縮像データを示している。図12中に示す「2」は、ロングパケットのペイロードに格納されたROI画像112a2の圧縮像データを示している。図12中に示す「3」はROI画像112a3の圧縮像データを示している。図12中に示す「4」は、ロングパケットのペイロードに格納されたROI画像112a4の圧縮像データを示している。なお、図12では、理解を容易にするため、各圧縮像データが区切られて示されているが、ロングパケットのペイロードに格納されるデータに区切りはない。伝送データ147Aのパケット領域R2には、重なり領域ROOの画像に対応する圧縮像データ112bが重複して含まれていない。また、合成部147は、例えば、伝送データ147Aのパケット領域R2において、撮像画像111のうち各伝送画像と対応しない画素行を割愛している。したがって、伝送データ147Aのパケット領域R2には、撮像画像111のうち各伝送画像に対応しない画素行は含まれていない。
【0100】
次に、伝送データ147Aを受信した場合の映像受信装置200の動作について説明する。
受信部210に設けられたヘッダ分離部211(いずれも図8参照)は、伝送データ147Aを、データレーンDLを介して映像送信装置100から受信する。つまり、ヘッダ分離部211は、撮像画像111における注目領域ROI1~ROI4についてのROI情報をエンベデッドデータに含むとともに、注目領域ROI1~ROI4の画像データ(圧縮像データ)をロングパケットのペイロードデータに含む伝送データ147Aを受信する。ヘッダ分離部211は、受信した伝送データ147Aをフレームヘッダ領域R1とパケット領域R2とに分離する。
【0101】
ヘッダ解釈部212(図8参照)は、フレームヘッダ領域R1に含まれるデータ(具体的にはエンベデッドデータ)に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータの位置を特定する。
【0102】
ペイロード分離部213(図8参照)は、ヘッダ解釈部212によって特定されたロングパケットのペイロードデータの位置に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータをパケット領域R2から分離する。
【0103】
EBD解釈部214は、エンベデッドデータをEBDデータとして、情報処理部220(図8参照)に出力する。EBD解釈部214は、さらに、エンベデッドデータに含まれるデータタイプから、ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データであるか、又は、通常画像データの圧縮像データであるか判別する。EBD解釈部214は、判別結果をROIデータ分離部215(図8参照)に出力する。
【0104】
ROIデータ分離部215は、ロングパケットのペイロードデータに含まれる画像データがROIの画像データが入力されると、ロングパケットのペイロードデータをペイロードデータとして、情報処理部220(具体的にはROIデコード部222(図8参照))に出力する。ROI情報が含まれているロングパケットのペイロードデータには、ROI情報と圧縮像データのうち1ライン分のピクセルデータとが含まれている。
【0105】
情報処理部220に設けられた情報抽出部221(図8参照)は、EBD解釈部214から入力されるEBDデータに含まれるエンベデッドデータから、撮像画像111に含まれる注目領域ROI1~ROI4の数(本例では4つ)、注目領域ROI1~ROI4の領域番号1~4及び優先度1から4、注目領域ROI1~ROI4のそれぞれのデータ長、並びに注目領域ROI1~ROI4のそれぞれの画像フォーマットを抽出する。さらに、情報抽出部221は、当該エンベデッドデータから、ROI画像112a1~112a4の位置情報を抽出する。
【0106】
ROIデコード部222は、ペイロードデータに含まれている圧縮像データ147Bをデコードし、ROI画像112a1~112a4の位置情報を抽出するとともに、画像データ(伝送画像によって構成)を生成する。ROIデコード部222は、例えば6行目の画素行に対応するペイロードデータが入力された場合、当該ペイロードデータから、ROI画像112a1の1つの位置情報と、ROI画像112a2の2つの位置情報とを抽出し、6行目の画素行に対応するROI画像112a1,112b1の画像データ(伝送画像)をそれぞれ生成する。
【0107】
ROIデコード部222は、例えば10行目の画素行に対応するペイロードデータが入力された場合、当該ペイロードデータから、ROI画像112a3の1つの位置情報と、ROI画像112a4の1つの位置情報とを抽出し、ROI画像112a3,112b4の画像データ(伝送画像)をそれぞれ生成する。
【0108】
ROI画像生成部223(図8参照)は、情報抽出部221で得られたROI情報、ROIデコード部222で抽出されたROI画像112a1~112a4の位置情報及びROIデコード部222で生成された伝送画像に基づいて、撮像画像111における注目領域ROI1~ROI4のROI画像112a1~112a4を生成する。ROI画像生成部223は、例えば6行目の画素行に対応するペイロードデータから抽出されたROI画像112a1の1つの位置情報及びROI画像112a2の2つの位置情報並びにそれらの伝送画像が入力された場合、X軸方向に延在する5画素分のROI画像112a1と、当該ROI画像112a1とは5画素分離れた位置でX軸方向に延在する4画素分のROI画像112a2と、当該ROI画像112a2から2画素分離れた位置でX軸方向に延在する2画素分のROI画像112a2とを生成する(図10参照)。
【0109】
また、ROI画像生成部223は、情報抽出部221で得られたROI情報に基づいて、注目領域ROI3及び注目領域ROI4同士が重なり合う重なり領域ROOを検出する。ROI画像生成部223は、検出した重なり領域ROOと、10行目の画素行に対応するペイロードデータから抽出されたROI画像112a3,112a4のそれぞれ位置情報と、伝送画像とに基づいて、X軸方向に延在する4画素分のROI画像112a3と、当該ROI画像112a3に1画素分が重なった状態でX軸方向に延在する3画素分のROI画像112a4とを生成する(図10参照)。
【0110】
ROI画像生成部223は、生成した画像をROI画像として後段の装置(不図示)に出力する。
【0111】
このようにして、映像送信装置100及び映像受信装置200は、撮影対象の物体が矩形以外の形状を有していても、ROI画像として送受信することができる。
【0112】
3.本開示の実施形態におけるデモザイク処理の原理:
次に、本開示の実施形態におけるデモザイク処理の原理について図13から図18を用いて説明する。
【0113】
図13は、撮像部の撮像領域に設けられた撮像素子の色配列の一例を模式的に示す図である。図14Aは、撮像部の撮像領域に設けられた撮像素子の色配列の配列例Aを模式的に示す図である。図14Bは、図14Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンPA1~PA4を示す図である。図15Aは、撮像部の撮像領域に設けられた撮像素子の色配列の配列例Bを模式的に示す図である。図15Bは、図15Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンPB1~PB4を示す図である。図16Aは、撮像部の撮像領域に設けられた撮像素子の色配列の配列例Cを模式的に示す図である。図16Bは、図16Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンPC1~PC4を示す図である。図17Aは、撮像部の撮像領域に設けられた撮像素子の色配列の配列例Dを模式的に示す図である。図17Bは、図17Aに示す撮像領域から切り出される撮像素子の色配列の配列パターンPD1~PD4を示す図である。図18は、デモザイク処理を模式的に示す図である。
【0114】
図13に示すように、本例による撮像領域IRは、左上端部に配置された赤色画素(以下、「R画素」と略記する)を有している。また、撮像領域IRは、左端部がR画素であり、かつR画素及び緑色画素(以下、「G画素」と略記する)が交互に配置された奇数行と、左端部がG画素であり、かつG画素及び青色画素(以下、「B画素」と略記する)が交互に配置された偶数行とを有している。
【0115】
図13に示すように、撮像部の撮像領域IRに設けられた画素の色配列は確定されている。このため、撮像領域IRの全体についてデモザイク処理を行う通常のデモザイク処理では、映像受信装置が、撮像領域IRの全体の色配列の情報を有していれば、デモザイク処理を実行することができる。
【0116】
しかしながら、ROIでは、注目領域として切り出される範囲及び大きさか不明である。このため、図13に示すように、注目領域ROI-αでは左上端部がG画素であり、注目領域ROI-βでは左上端部がB画素である。このため、映像受信装置が、撮像領域IRの全体の色配列の情報を有していても、注目領域ROI-α及び注目領域ROI-βのそれぞれの左上端部をR画素としてデモザイク処理を実行してしまう。このため、デモザイク後の画像は、本来の画像とは異なる画像となる。このように、撮像領域IRのうち位置及び大きさが任意に選択されるROIでは、デモザイク処理を行うことができない。
【0117】
そこで、本実施形態では、ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を映像送信装置で取得するとともに、映像受信装置に伝送するように構成されている。映像受信装置は、映像送信装置から伝送されたデモザイク情報を用いてデモザイク処理を実行するように構成されている。
【0118】
図14Aに示すように、撮像素子の色配列の配列例Aは、図13に示す撮像領域IRと同じ色配列を有している。図14Bに示すように、配列例Aから切り出される色配列として4つの配列パターンPA1~PA4がある。図14Bに示すように、配列パターンPA1での左上端部は、奇数行(H)及び奇数列(V)のR画素に相当する。また、配列例Aでの撮像領域全体の色配列は既知である(図14A参照)。このため、切り出される領域の大きさが3行3列であれば、図14Bに示すように、配列パターンPA1は、1行目が「R画素、G画素、R画素」となり、2行目が「G画素、B画素、G画素」となり、3行目が「R画素、G画素、R画素」となることが確定される。
【0119】
図14Bに示すように、配列パターンPA2での左上端部は、偶数行(H)及び奇数列(V)のG画素に相当する。また、配列例Aでの撮像領域全体の色配列は既知である(図14A参照)。このため、切り出される領域の大きさが3行3列であれば、図14Bに示すように、配列パターンPA2は、1行目が「G画素、R画素、G画素」となり、2行目が「B画素、G画素、B画素」となり、3行目が「G画素、R画素、G画素」となることが確定される。
【0120】
図14Bに示すように、配列パターンPA3での左上端部は、奇数行(H)及び偶数列(V)のG画素に相当する。また、配列例Aでの撮像領域全体の色配列は既知である(図14A参照)。このため、切り出される領域の大きさが3行3列であれば、図14Bに示すように、配列パターンPA3は、1行目が「G画素、B画素、G画素」となり、2行目が「R画素、G画素、R画素」となり、3行目が「G画素、B画素、G画素」となることが確定される。
【0121】
図14Bに示すように、配列パターンPA4での左上端部は、偶数行(H)及び偶数列(V)のB画素に相当する。また、配列例Aでの撮像領域全体の色配列は既知である(図14A参照)。このため、切り出される領域の大きさが3行3列であれば、図14Bに示すように、配列パターンPA4は、1行目が「B画素、G画素、B画素」となり、2行目が「G画素、R画素、G画素」となり、3行目が「B画素、G画素、B画素」となることが確定される。
【0122】
図15Aに示すように、撮像素子の色配列の配列例Bは、左上端部に配置されたG画素を有している。また、配列例Bは、左端部がG画素であり、かつG画素及びR画素が交互に配置された奇数行と、左端部がB画素であり、かつB画素及びG画素が交互に配置された偶数行とを有している。
【0123】
図15Bに示すように、配列例Bから切り出される色配列として4つの配列パターンPB1~PB4がある。図15Bに示すように、配列パターンPB1での左上端部は、奇数行(H)及び奇数列(V)のG画素に相当する。また、配列例Bでの撮像領域全体の色配列は既知である(図15A参照)。このため、切り出される領域の大きさが3行3列であれば、図15Bに示すように、配列パターンPB1は、1行目が「G画素、R画素、G画素」となり、2行目が「B画素、G画素、B画素」となり、3行目が「G画素、R画素、G画素」となることが確定される。
【0124】
図15Bに示すように、配列パターンPB2での左上端部は、偶数行(H)及び奇数列(V)のR画素に相当する。また、配列例Bでの撮像領域全体の色配列は既知である(図15A参照)。このため、切り出される領域の大きさが3行3列であれば、図15Bに示すように、配列パターンPB2は、1行目が「R画素、G画素、R画素」となり、2行目が「G画素、B画素、G画素」となり、3行目が「R画素、G画素、R画素」となることが確定される。
【0125】
図15Bに示すように、配列パターンPB3での左上端部は、奇数行(H)及び偶数列(V)のB画素に相当する。また、配列例Bでの撮像領域全体の色配列は既知である(図15A参照)。このため、切り出される領域の大きさが3行3列であれば、図15Bに示すように、配列パターンPB3は、1行目が「B画素、G画素、B画素」となり、2行目が「G画素、R画素、G画素」となり、3行目が「B画素、G画素、B画素」となることが確定される。
【0126】
図15Bに示すように、配列パターンPB4での左上端部は、偶数行(H)及び偶数列(V)のG画素に相当する。また、配列例Bでの撮像領域全体の色配列は既知である(図15A参照)。このため、切り出される領域の大きさが3行3列であれば、図15Bに示すように、配列パターンPB4は、1行目が「G画素、B画素、G画素」となり、2行目が「R画素、G画素、R画素」となり、3行目が「G画素、B画素、G画素」となることが確定される。
【0127】
図16Aに示すように、撮像素子の色配列の配列例Cは、左上端部に配置されたB画素を有している。また、配列例Cは、左端部がB画素であり、かつB画素及びG画素が交互に配置された奇数行と、左端部がG画素であり、かつG画素及びR画素が交互に配置された偶数行とを有している。
【0128】
図16Bに示すように、配列例Cから切り出される色配列として4つの配列パターンPC1~PC4がある。図16Bに示すように、配列パターンPC1での左上端部は、奇数行(H)及び奇数列(V)のB画素に相当する。また、配列例Cでの撮像領域全体の色配列は既知である(図16A参照)。このため、切り出される領域の大きさが3行3列であれば、図16Bに示すように、配列パターンPC1は、1行目が「B画素、G画素、B画素」となり、2行目が「G画素、R画素、G画素」となり、3行目が「B画素、G画素、B画素」となることが確定される。
【0129】
図16Bに示すように、配列パターンPC2での左上端部は、偶数行(H)及び奇数列(V)のG画素に相当する。また、配列例Cでの撮像領域全体の色配列は既知である(図16A参照)。このため、切り出される領域の大きさが3行3列であれば、図16Bに示すように、配列パターンPC2は、1行目が「G画素、B画素、G画素」となり、2行目が「R画素、G画素、R画素」となり、3行目が「G画素、B画素、G画素」となることが確定される。
【0130】
図16Bに示すように、配列パターンPC3での左上端部は、奇数行(H)及び偶数列(V)のG画素に相当する。また、配列例Cでの撮像領域全体の色配列は既知である(図16A参照)。このため、切り出される領域の大きさが3行3列であれば、図16Bに示すように、配列パターンPC3は、1行目が「G画素、R画素、G画素」となり、2行目が「B画素、G画素、B画素」となり、3行目が「G画素、R画素、G画素」となることが確定される。
【0131】
図16Bに示すように、配列パターンPC4での左上端部は、偶数行(H)及び偶数列(V)のR画素に相当する。また、配列例Cでの撮像領域全体の色配列は既知である(図16A参照)。このため、切り出される領域の大きさが3行3列であれば、図16Bに示すように、配列パターンPC4は、1行目が「R画素、G画素、R画素」となり、2行目が「G画素、B画素、G画素」となり、3行目が「R画素、G画素、R画素」となることが確定される。
【0132】
図17Aに示すように、撮像素子の色配列の配列例Dは、左上端部に配置されたR画素を有している。また、配列例Dは、左端部がR画素であり、かつR画素及びG画素が交互に配置された奇数行と、左端部が白色画素(以下、「W画素」と略記する)であり、かつW画素及びB画素が交互に配置された偶数行とを有している。W画素は、例えば光電変換素子(例えばフォトダイオード)上に色素子(カラーフィルタ)を有さない画素である。
【0133】
図17Bに示すように、配列例Dから切り出される色配列として4つの配列パターンPD1~PD4がある。図17Bに示すように、配列パターンPD1での左上端部は、奇数行(H)及び奇数列(V)のR画素に相当する。また、配列例Dでの撮像領域全体の色配列は既知である(図17A参照)。このため、切り出される領域の大きさが3行3列であれば、図17Bに示すように、配列パターンPD1は、1行目が「R画素、G画素、R画素」となり、2行目が「W画素、B画素、W画素」となり、3行目が「R画素、G画素、R画素」となることが確定される。
【0134】
図17Bに示すように、配列パターンPD2での左上端部は、偶数行(H)及び奇数列(V)のG画素に相当する。また、配列例Dでの撮像領域全体の色配列は既知である(図17A参照)。このため、切り出される領域の大きさが3行3列であれば、図17Bに示すように、配列パターンPD2は、1行目が「G画素、R画素、G画素」となり、2行目が「B画素、W画素、B画素」となり、3行目が「G画素、R画素、G画素」となることが確定される。
【0135】
図17Bに示すように、配列パターンPD3での左上端部は、奇数行(H)及び偶数列(V)のW画素に相当する。また、配列例Dでの撮像領域全体の色配列は既知である(図17A参照)。このため、切り出される領域の大きさが3行3列であれば、図17Bに示すように、配列パターンPD3は、1行目が「W画素、B画素、W画素」となり、2行目が「R画素、G画素、R画素」となり、3行目が「W画素、B画素、W画素」となることが確定される。
【0136】
図17Bに示すように、配列パターンPD4での左上端部は、偶数行(H)及び偶数列(V)のB画素に相当する。また、配列例Dでの撮像領域全体の色配列は既知である(図17A参照)。このため、切り出される領域の大きさが3行3列であれば、図17Bに示すように、配列パターンPD4は、1行目が「B画素、W画素、B画素」となり、2行目が「G画素、R画素、G画素」となり、3行目が「B画素、W画素、B画素」となることが確定される。
【0137】
このように、撮像領域全体の色配列が既知である場合、左上端部の画素が何色であるかの情報、左上端部の行及び列のそれぞれが奇数及び偶数のいずれであるのかの情報、及び切り出される領域の大きさの情報が得られることにより、注目領域ROIに含まれる画素の色配列を確定することができる。このため、映像送信装置が注目領域ROIごとにこのような画素の色配列に関する情報をデモザイク情報として映像受信装置に伝送することにより、映像受信装置は、注目領域ROIに対してデモザイク処理を実行することができる。
【0138】
例えば、映像送信装置及び映像受信装置がそれぞれ、撮像部が配列例Aの色配列を有する撮像領域を有している情報を記憶部に格納しており、映像送信装置から配列パターンPA1における左上端部の情報及び注目領域ROI-γの大きさの情報がデモザイク情報として映像受信装置に伝送されたとする。映像受信装置は、当該デモザイク情報に基づいて、注目領域ROI-γの色配列が図18中の左側に示す配列であると判定できる。映像受信装置は、判定した注目領域ROI-γの色配列に基づいて、モザイク上のRGB値を画素ごとのRGB信号に変換するデモザイク処理を実行する。映像受信装置は、モザイク前に存在しない画素については周辺の同色画素から補間などの処理によって当該画素を生成する。映像受信装置は、注目領域ROI-γ内の色配列に基づいて画素の補間処理を実行し、図18中の太い矢印の右側に示すように、デモザイク処理後の赤色の画素データ、緑色の画素データ及び青色の画素データをそれぞれに生成することができる。
【0139】
4.本開示の第1実施形態:
次に、本開示の第1実施形態による送信装置、受信装置及び伝送システムについて図19から図22を用いて説明する。まず、本実施形態による送信装置、受信装置及び伝送システムの概略構成について図19を用いて説明する。図19は、本実施形態による映像送信装置3、映像受信装置4及び映像伝送システム10の概略構成を示すブロック図である。
【0140】
図19に示すように、本実施形態による映像伝送システム10は、イメージセンサとしての機能を発揮する映像送信装置(送信装置の一例)3と、画像処理(Image Signal Processor:ISP)の機能を発揮する映像受信装置(受信装置の一例)4とを備えている。映像伝送システム(伝送システムの一例)10では、映像送信装置3は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格の信号を送信部322から送出するように構成されている。また、映像伝送システム10では、映像受信装置4は、MIPID-PHY規格、MIPI C-PHY規格又はMIPI CSI-2規格の信号を受信部412で受信するように構成されている。また、映像伝送システム10は、上記前提技術1及び2に係る映像伝送システム1と同様に、映像送信装置3及び映像受信装置4との間でMIPI CSI-3規格又はMIPI DSI規格で信号を送受信するように構成されていてもよい。
【0141】
映像伝送システム10に備えられた映像送信装置3は、上記前提技術1及び2に係る映像送信装置100と同等の機能を発揮するように構成されている。つまり、映像送信装置3は、ROIの切り出しを指示する制御信号が映像受信装置4から入力された場合に、撮像部31から入力された撮像画像に対して、映像送信装置100と同様の処理を実行可能に構成されている。また、映像送信装置3は、通常画像の出力を指示する制御信号が映像受信装置4から入力された場合に、撮像部31から入力された撮像画像に対して、映像送信装置100と同様の処理を実行可能に構成されている。さらに、映像送信装置3は、上述のデモザイク処理に用いられるデモザイク情報を取得するとともに、当該デモザイク情報を映像受信装置4に送出できるように構成されている。
【0142】
映像受信装置4は、上記前提技術1及び2に係る映像受信装置200と同等の機能を発揮するように構成されている。つまり、映像受信装置4は、映像送信装置3から伝送された伝送データに対して、上記前提技術1及び2に係る映像受信装置200と同様の処理を実行可能に構成されている。さらに、映像受信装置4は、映像送信装置3から伝送されたデモザイク情報を用いてデモザイク処理を実行できるように構成されている。
【0143】
そこで、図19では、映像送信装置3及び映像受信装置4は、デモザイク処理に関連する構成を中心に図示されている。
【0144】
図19に示すように、映像送信装置3は、対象物を撮像する撮像部31を備えている。撮像部31は、例えば入射する光を電気信号に変換する光電変換部311を有している。光電変換部311は例えば、CCDイメージセンサやCMOSイメージセンサで構成されている。また、撮像部31は、光電変換部311から入力されるアナログの電気信号をデジタルの画像データに変換する信号変換部312を有している。信号変換部312は、光電変換部311から入力されるアナログの電気信号の信号増幅(AGC)処理と、増幅した電気信号をデジタル信号に変換するアナログデジタル変換(ADC)処理とを実行するように構成されている。撮像部31は、信号変換部312から入力される画像データに対してデジタルゲインを施す増幅部313を有している。増幅部313は、デジタルゲインを施した画像データを送信部322に出力するように構成されている。
【0145】
映像送信装置3は、撮像部31を制御したり所定の信号処理を制御したりする制御部32を備えている。制御部32は、センサCPU321と、送信部322とを有している。センサCPU321は、画像処理部120,130(図2参照)と同様の機能を発揮するように構成されている。送信部322は、送信部140(図2参照)と同様の機能を発揮するように構成されている。また、制御部32において、センサCPU321を画像処理部120,130に置き換え、送信部322を送信部140に置き換えてもよい。
【0146】
センサCPU321は、光電変換部311の露光条件を制御する露光制御部321aを有している。また、センサCPU321は、ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報の取得を制御する変換領域制御部(制御部の一例)321bを有している。変換領域制御部321bを有するセンサCPU321及び制御部32はそれぞれ、注目領域ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報の取得を制御する制御部の一例に相当する。
【0147】
変換領域制御部321bは、注目領域ROIのデモザイク情報を取得するように構成されている。複数の注目領域ROIが設定されている場合には、変換領域制御部321bは、注目領域ROIごとにデモザイク情報を取得するように構成されている。変換領域制御部321bは、注目領域ROIの画像データの色配列又は注目領域ROIの画像データの端部の色情報をデモザイク情報として取得するように構成されている。より具体的には、変換領域制御部321bは、色配列の情報として、注目領域ROIの端部の色情報と、当該端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とをデモザイク情報として取得する。本実施形態では、注目領域ROIの端部として左上端部の色情報などを取得するように構成されているが、注目領域ROIの色配列を特定できる情報であれば、四隅のいずれの端部であってもよく、その他の場所の情報であってもよい。変換領域制御部321bは、注目領域ROIの例えば左上端部の画素の色情報と、当該左上端部の偶数又は奇数の行情報及び列情報とを取得して、送信部322に出力する。
【0148】
また、変換領域制御部321bは、映像送信装置3及び映像受信装置4の起動後の最初のデモザイク情報の送出時又はデモザイク処理情報の送出ごとに撮像部31の撮像領域の全体の色配列の情報を映像受信装置4に送出するように構成されている。
【0149】
センサCPU321は、ROI切り出し部121(図2参照)と同様に、切り出し対象の物体が矩形状でなくても、当該物体を含む最小の矩形を注目領域ROIとして設定する。また、センサCPU321は、ROI解析部122(図2参照)と同様に、注目領域ROIの位置情報(左上端部、X軸方向の長さ、Y軸方向の長さ)を導出し、映像受信装置4に送出するように構成されている。
【0150】
映像受信装置4は、注目領域ROIの全体の大きさの情報と、当該注目領域ROIの左上端部のデモザイク情報と、撮像領域全体の色配列の情報とに基づいて、注目領域ROIの全体の色配列を認定することができる。これにより、映像受信装置4は、切り出し対象の物体の形状が矩形状でない場合でも、デモザイク処理において、モザイク前に存在しない画素を周辺の同色画素から補間することが可能になる。
【0151】
送信部322は、センサCPU321から入力される注目領域ROIの座標(切り出し座標)や大きさ及びデモザイク情報など、並びに撮像部31から入力される画像データなどを含む伝送データ(図6及び図12参照)を生成して映像受信装置4に送出する。デモザイク情報は、ROI情報に含められて送信部322から送出される。ROI情報は、エンベデッドデータに含められるので、デモザイク情報は、エンベデッドデータに含められて送信部322から送出される。
【0152】
このように、映像送信装置3は、ROI情報に含められたデモザイク情報を送信部322から送出する。また、換言すると、映像送信装置3は、注目領域ROIの画像データの色配列又は注目領域ROIの画像データの端部の色情報をデモザイク情報として送信部322から送出する。さらに換言すると、映像送信装置は、注目領域ROIの端部(本実施形態では左上端部)の色情報と、当該端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とをデモザイク情報として送信部322から送出する。
【0153】
図19に示すように、映像送信装置3は、注目領域ROIの画像データをロングパケットのペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部322を備えている。送信部322は、ROI情報の1つとしてデモザイク情報をエンベデッドデータに含めて映像受信装置4に送出する。送信部322は、MIPI D-PHY規格、MIPI C-PHY規格又はMIPI CSI-2規格でデモザイク情報などを含む伝送データを送出するように構成されている。
【0154】
図19に示すように、映像受信装置4は、映像送信装置3から伝送された伝送データを用いて所定の信号処理を制御する制御部41を備えている。制御部41は、CamCPU411と、受信部412と、Raw処理部413と、エンベデッドデータ取得部414とを有している。CamCPU411は、情報抽出部221及びROI画像生成部223(図8参照)を除いて、情報処理部220(図8参照)と同様の機能を発揮するように構成されている。映像受信装置4は、Raw処理部413がROI画像生成部223と同様の機能を発揮するように構成されている。受信412は、EBD解釈部214(図8参照)を除いて、受信部210(図8参照)と同様の機能を発揮するように構成されている。映像受信装置4は、エンベデッドデータ取得部414がEBD解釈部214及び情報抽出部221と同様の機能を発揮するように構成されている。また、制御部41において、受信部412およびエンベデッドデータ取得部414を受信部210に置き換え、CamCPU411およびRaw処理部413を情報処理部220に置き換えてもよい。この場合、エンベデッドデータ取得部414が発揮する情報抽出部221の機能は、受信部220で発揮されるようになる。
【0155】
図19に示すように、映像受信装置4は、注目領域ROIの画像データをペイロードデータに含むとともに、ROI情報をエンベデッドデータに含む伝送信号を受信する受信部412を備えている。受信部412は、映像送信装置3から入力される伝送データを受信するように構成されている。受信部412は、MIPI D-PHY規格、MIPI C-PHY規格又はMIPI CSI-2規格で当該伝送データを受信する。受信部412は、入力される伝送データから種々のデータを生成し、CamCPU411、Raw処理部413及びエンベデッドデータ取得部414に出力するように構成されている。
【0156】
Raw処理部413は、CamCPU411から入力される注目領域ROIに関する情報(ROI情報やペイロードデータに含まれている画像データなど)に基づいて、注目領域ROIの画像データを生成するように構成されている。Raw処理部413で生成される画像データは、Rawデータ、Raw画像あるいは未現像データなどと呼ばれる、光電変換部311で取得された未加工の画像データである。Raw処理部413は、生成した画像データを画像加工部42(詳細は後述)に出力するように構成されている。
【0157】
図19に示すように、映像受信装置4は、注目領域ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を受信部412で受信した伝送信号(伝送データ)からの抽出を制御するエンベデッドデータ取得部(制御部の一例)414を備えている。エンベデッドデータ取得部414を有する制御部41は、注目領域ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を受信部412で受信した伝送信号(伝送データ)からの抽出を制御する制御部の一例に相当する。エンベデッドデータ取得部414は、受信部412から入力される伝送信号(伝送データ)に含まれたROI情報からデモザイク情報を抽出するように構成されている。ROI情報はエンベデッドデータに含まれるので、エンベデッドデータ取得部414は、受信部412から入力される伝送信号(伝送データ)に含まれたエンベデッドデータからデモザイク情報を抽出する。エンベデッドデータ取得部414は、注目領域ROIの画像データの色配列又は注目領域ROIの画像データの端部の色情報をデモザイク情報として抽出するように構成されている。より具体的には、エンベデッドデータ取得部414は、色配列の情報として、注目領域ROIの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とをデモザイク情報として抽出するように構成されている。本実施形態では、エンベデッドデータ取得部414は、注目領域ROIの端部として左上端部の色情報などを取得するように構成されているが、注目領域ROIの色配列を特定できる情報であれば、四隅のいずれの端部であってもよく、その他の場所の情報であってもよい。エンベデッドデータ取得部414は、注目領域ROIの例えば左上端部の画素の色情報と、当該左上端部の偶数又は奇数の行情報及び列情報とを取得して、CamCPU411に出力する。
【0158】
エンベデッドデータ取得部414は、デモザイク情報の他にエンベデッドデータに含まれている各種情報(例えば注目領域ROIの数、注目領域ROIの領域番号及び優先度、注目領域ROIのデータ長並びに注目領域ROIの画像フォーマットなど)を取得する。エンベデッドデータ取得部414は、取得した各種情報もCamCPU411に出力する。
【0159】
図19に示すように、CamCPU411は、座標判定部411aを有している。座標判定部411aは、エンベデッドデータ取得部414から入力される各種情報に基づいて、注目領域ROIの座標(位置及び大きさ)や色配列を判定するように構成されている。座標判定部411aは、複数の注目領域ROIに関する情報がエンベデッドデータ取得部414から入力された場合は、注目領域ROIごとに座標や色配列を判定する。座標判定部411aは、判定した注目領域ROIの左上端部の座標に基づいて、デモザイク処理用の注目領域ROIの左上端部の座標を設定する。
【0160】
CamCPU411は、座標判定部411aで判定された注目領域ROIの座標や色配列に関する情報やエンベデッドデータ取得部414から入力された注目領域ROIの領域番号及び優先度などの情報を画像加工部42に出力する。
【0161】
図19に示すように、映像受信装置4は、画像加工部42を備えている。画像加工部42は、エンベデッドデータ取得部414で抽出されたデモザイク情報を用いて注目領域ROIの画像データのデモザイク処理を実行するデモザイク処理部421を有している。また、画像加工部42は、デモザイク処理が施された画像データの画質を調整する画質調整部422を有している。
【0162】
デモザイク処理部421は、エンベデッドデータ取得部414で抽出されてCamCPU411を介して入力されるデモザイク情報(注目領域ROIの座標及び色配列の情報)に基づいて、Raw処理部413から入力される画像データに対してデモザイク処理を施すように構成されている。図14から図18を用いて説明したように、デモザイク処理部421は例えば、図14Bに示す配列パターンPA1に基づいて、図18中の太矢印の左側に示すデモザイク前の画像データ(Raw処理部413から入力される画像データに相当)に対してデモザイク処理を実行する。これにより、デモザイク処理部421は、図18中の太矢印の右側に示すデモザイク後の画像データを生成する。
【0163】
また、デモザイク処理部421は、注目領域ROI内の周囲端部に配置された画像データに対して境界処理を施すように構成されている。すなわち、デモザイク処理部421は、注目領域ROIの輪郭部(エッジ部)に配置された画素に対して境界処理を施す。デモザイク処理部421は、注目領域ROIにおける1行目の画像データに対して、当該注目領域ROIにおける2行目の画像データを用いて境界処理を実行する。また、デモザイク処理部421は、注目領域ROIにおける最後の行の画像データに対して、当該注目領域ROIにおける最後の行の1つ前の行の画像データを用いて境界処理を実行する。したがって、デモザイク処理部421は、伝送データのパケット領域に含まれる1行目の画素行のペイロードデータの画像データに含まれる画像データに対して、当該パケット領域に含まれる2行目の画素行のペイロードデータに含まれる画像データを用いて境界処理を実行したのと等価の処理を実行する。また、デモザイク処理部421は、伝送データのパケット領域に含まれる最後の画素行のペイロードデータに含まれる画像データに対して、当該パケット領域に含まれる最後の行の1つ前の画素行のペイロードデータに含まれる画像データを用いて境界処理を実行したのと等価の処理を実行する。
【0164】
デモザイク処理部421は、デモザイク処理を施した画像データを画質調整部422に出力するように構成されている。
【0165】
画質調整部422は、デモザイク処理部421から入力される画像データに対して、ガンマ補正やホワイトバランスを調整するRGB処理と、画質の濃淡や明るさを調整するYC処理とを実行して画質を調整するように構成されている。画質調整部422は、画質調整した画像を例えば表示装置(不図示)に出力するように構成されている。これにより、当該表示装置に所望の画像が表示される。
【0166】
(デモザイク処理方法)
次に、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理方法について図19を参照しつつ図20及び図21を用いて説明する。まず、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の流れについて図20を用いて説明する。図20は、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の流れの一例を示すフローチャートである。
【0167】
(ステップS31)
図20に示すように、映像送信装置3に備えられたセンサCPU321は、フレーム開始トリガを検出すると、まず、撮像部31の撮像領域から画像を切り出す切り出し位置を決定し、ステップS33の処理に移行する。ステップS31において、センサCPU321は、切り出し位置、すなわち注目領域ROIの左上端部の座標及び画像サイズ(X軸方向及びY軸方向の長さ)を決定し、決定した座標及び画像サイズの情報をエンベデッドデータに設定する。また、センサCPU321は、当該注目領域ROIにおけるデモザイク情報(左上端部の色情報、当該左上端部の行列の奇数及び偶数の情報)を取得して、ROI情報に含めるとともに、当該ROI情報をエンベデッドデータに設定する。センサCPU321は、デモザイク情報として図14Aから図17Bに示す撮像領域の全体の色配列及び配列パターンの情報をROI情報に含めるとともに、当該ROI情報をエンベデッドデータに設定してもよい。
【0168】
(ステップS33)
センサCPU321は、注目領域ROIの左上端部の座標及び画像サイズやデモザイク情報が設定されたエンベデッドデータを含む伝送データを送信部322に設定し、デモザイク処理を終了する。
【0169】
ステップS33において設定された伝送データは、MIPIを用いたハードウェア(HW)による通信によって、映像送信装置3から映像受信装置4に送信される。
【0170】
映像受信装置4に備えられた受信部412は、受信した伝送データからエンベデッドデータを抽出してエンベデッドデータ取得部414に出力する。エンベデッドデータ取得部414は、受信部412から入力されたエンベデッドデータをデコードし、各種情報(例えば注目領域ROIの数、注目領域ROIの領域番号及び優先度、注目領域ROIのデータ長並びに注目領域ROIの画像フォーマットなど)を取得し、取得した当該各種情報をCamCPU411に出力する。
【0171】
(ステップS41)
CamCPU411は、エンベデッドデータ取得部414でエンベデッドデータがデコードされたタイミングをトリガとして、受信部412で受信した伝送データからエンベデッドデータ取得部414が取得して入力される各種情報に基づいて、優先度が最も高い注目領域ROIの座標(位置及び大きさ)を取得して、ステップS43の処理に移行する。また、ステップS41においてCamCPU411は、優先度が最も高い注目領域ROIの左上端部の画素の色や当該左上端部が奇数及び偶数のどのような組み合わせの行列であるのかを判定する。
【0172】
(ステップS43)
CamCPU411は、取得した注目領域ROIのデモザイク情報に基づいて、当該注目領域ROIの左上端部の座標を計算し、ステップS45の処理に移行する。
【0173】
(ステップS45)
CamCPU411は、ステップS43において計算した注目領域ROIの左上端部の座標に基づいて、デモザイク処理用の注目領域ROIの左上端部の座標を設定する。さらに、CamCPU411は、設定したデモザイク処理用の注目領域ROIの左上端部の座標やデモザイク情報(注目領域ROIの座標及び色配列の情報)をデモザイク処理部421に出力し、ステップS47の処理に移行する。
【0174】
デモザイク処理部421は、CamCPU411から入力されたデモザイク情報などを用いて、Raw処理部413から入力される画像データに対してデモザイク処理を施す。これにより、優先度が最も高い注目領域ROIの画像データに対してデモザイク処理が実行される。
【0175】
(ステップS47)
CamCPU411は、エンベデッドデータ取得部414から入力された全ての注目領域ROIに対してステップS41からステップS45の処理を実行したか否かを判定する。CamCPU411は、全ての注目領域ROIに当該処理を実行したと判定した場合(Yes)には、デモザイク処理を終了する。一方、CamCPU411は、全ての注目領域ROIに当該処理を実行していないと判定した場合(No)には、ステップS41の処理に戻る。CamCPU411は、全ての注目領域ROIに対するデモザイク処理が完了するまで、ステップS41からステップS47の処理を繰り返す。
【0176】
次に、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の処理タイミングについて図21を用いて説明する。図21は、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理のタイミングチャートの一例を示す図である。図21中に示す「センサV Sync」は、センサCPU321に入力される垂直同期信号を示している。図21中に示す「センサ処理」は、センサCPU321が実行する処理を示している。図21中に示す「ISP Sync」は、CamCPU411に入力される垂直同期信号を示している。図21中に示す「IPS処理」は、CamCPU411が実行する処理を示している。図21中に示す注目領域ROI-ε1~ROI-ε3は、一のフレーム期間で処理される注目領域を模式的に示している。図21では、理解を容易にするため、1回目のフレーム期間で処理される注目領域は、注目領域ROI-ε1ではあるが、注目領域の大きさを比較するために、2回目及び3回目のフレーム期間で処理される注目領域ROI-ε2,ROI-ε3も併せて図示されている。図21では、左から右に向かって時間の経過が表されている。
【0177】
図21に示すように、時刻t1において、センサCPU321は、フレーム開始トリガを検出すると、エンベデッド設定処理として上述のステップS31の処理を実行する。すなわち、センサCPU321は、エンベデッド設定処理として、撮像部31の撮像領域から画像を切り出す切り出し位置の設定や注目領域ROI-ε1におけるデモザイク情報(左上端部の色情報、当該左上端部の行列の奇数及び偶数の情報)を取得する。
【0178】
センサCPU321は、エンベデッド設定処理が終了した時刻t2において、MIPIを用いたハードウェア(HW)による通信によって、エンベデッド設定処理で設定した情報を有するエンベデッドデータを含む伝送データを映像受信装置4に送信する。
【0179】
センサCPU321は、伝送データの送信を開始すると、当該フレームにおける露光・読出、すなわち撮像部31で撮像を開始する。
【0180】
時刻t2から受信を開始した伝送データに含まれているエンベデッドデータのデコードをエンベデッドデータ取得部414が終了した時刻t3において、CamCPU411は、エンベデッドデータ取得部414が取得して入力される各種情報に基づいて、注目領域ROI-ε1の座標及び大きさの計算並びに色配列の判定などを開始して時刻t4において注目領域ROI-ε1の座標及び大きさの計算並びに色配列の設定が終了する。すなわち、時刻t3から時刻t4の期間において、図20に示すステップS41からステップS45の処理が1回実行される。
【0181】
映像受信装置4は、時刻t4からISP処理として、デモザイク処理や画質調整を実行する。
【0182】
詳細な説明は省略するが、注目領域の位置や大きさが異なる注目領域ROI-ε2,RO-ε3についても、注目領域ROI―ε1と同じタイミングによって、デモザイク処理が実行される。
【0183】
図20及び図21を用いて説明したように、映像伝送システム10は、注目領域ROIに関するデモザイク情報を含むエンベデッドデータ有する伝送データを、MIPIを用いた通信によって映像送信装置3から映像受信装置4に伝送することができる。これにより、映像伝送システム10は、注目領域ROIごとにデモザイク処理を実行することができる。
【0184】
5.本開示の第1実施形態の変形例:
次に、本実施形態の変形例による送信装置、受信装置及び伝送システムについて図22を用いて説明する。図22は、本変形例による映像送信装置3、映像受信装置4z及び映像伝送システム10zの概略構成を示すブロック図である。なお、本実施形態による映像送信装置3、映像受信装置4及び映像伝送システム10と同一の作用・機能を奏する構成要素には同一の符号を付して説明は省略する。
【0185】
図22に示すように、本変形例による映像伝送システム10zは、本実施形態による映像送信装置3と同一構成の映像送信装置3と、本実施形態による映像受信装置4とは一部の構成が異なる映像受信装置4zを備えている。本変形例による映像受信装置4zは、注目領域ROIの座標判定や色配列を判定する判定部423を備えている点に特徴を有している。
【0186】
図22に示すように、映像受信装置4zは、エンベデッドデータ取得部414が出力する各種情報が入力される判定部423を有している。一方、CamCPU411zは、座標判定部を有していない。判定部423は、ハードウェアで構成されている。判定部423は、座標判定部423aと、制御値生成部423bとを有している。
【0187】
座標判定部423aは、エンベデッドデータ取得部414から入力される各種情報に基づいて、注目領域ROIの座標(位置及び大きさ)や色配列を判定するように構成されている。座標判定部411aは、複数の注目領域ROIに関する情報がエンベデッドデータ取得部414から入力された場合は、注目領域ROIごとに座標や色配列を判定する。
【0188】
制御値生成部423bは、座標判定部411aにおいて判定された注目領域ROIの左上端部の座標に基づいて、デモザイク処理用の注目領域ROIの左上端部の座標を設定するように構成されている。
【0189】
このように、本変形例による映像受信装置4zは、注目領域ROIの座標を判定する判定部がハードウェアで構成されているが、作用・機能は本実施形態による映像受信装置4と同一である。また、本変形例による映像伝送システム10zは、本実施形態による映像伝送システム10と同一である。このため、本変形例におけるデモザイク処理方法の説明は省略する。
【0190】
以上説明したように、本実施形態及び変形例による送信装置、受信装置及び伝送システムは、撮像画像から切り出した一部の注目領域(ROI)のデモザイク処理を実現することができる。
【0191】
また、本実施形態及び変形例では、撮像画像から切り出される一部の位置、大きさ及び個数は、任意である。このため、本実施形態及び変形例による送信装置、受信装置及び伝送システムは、ROIのデモザイク処理を1画素単位の切り出しで実施可能となる。
【0192】
本実施形態及び変形例による送信装置、受信装置及び伝送システムは、送信装置において撮像された撮影領域から切り出した一部の座標及び大きさを後段のセンサCPUに伝達できるように構成されている。
【0193】
本実施形態及び変形例による受信装置は、送信装置に設けられた撮像部の撮影領域から切り出した一部の座標及び大きさを受け取り、デモザイク処理の制御に使用するように構成されている。
【0194】
本実施形態及び変形例による受信装置は、送信装置から送信された切り出し部である注目領域ROIのデモザイク情報(左上端部の色情報などの色配列情報)を受信してデモザイク処理の制御に使用するように構成されている。
【0195】
本実施形態及び変形例による受信装置は、注目領域ROIの座標及び大きさからデモザイクの先頭位置(例えば左上端部)の画素の色を算出し、デモザイクの先頭画素(例えば左上端部の画素)の色指定を制御できる。
【0196】
本実施形態及び変形例による送信装置、受信装置及び伝送システムは、1フレーム内(すなわち1つの撮像画像内)に複数の注目領域ROIがある場合には、複数の注目領域ROIのそれぞれの先頭画素(例えば左上端部の画素)の色を指定できる。これにより、注目領域ROIのそれぞれに対して、適切なデモザイク処理を実行することができる。
【0197】
6.本開示の第2実施形態:
次に、本開示の第2実施形態による送信装置、受信装置及び伝送システムについて図23及び図24を用いて説明する。まず、本実施形態による送信装置、受信装置及び伝送システムの概略構成について図23を用いて説明する。図23は、本実施形態による映像送信装置(送信装置の一例)5、映像受信装置(受信装置の一例)6及び映像伝送システム(伝送システムの一例)20の概略構成を示すブロック図である。なお、上記第1実施形態による映像送信装置3、映像受信装置4及び映像伝送システム10と同一の作用・機能を奏する構成要素には同一の符号を付して説明は省略する。
【0198】
本実施形態による映像送信装置5、映像受信装置6及び映像伝送システム20は、映像受信装置6がデモザイク処理の色配置に制約を有する場合に、映像送信装置5に対して色配置制約を示す制御信号を送信するように構成されている。
【0199】
図23に示すように、映像受信装置6に備えられたCamCPU611は、映像送信装置5に対して、デモザイク色配置制約を通知する制御信号を送出できるように構成されている。映像受信装置6は、当該制御信号が送出できる点を除いて、上記第1実施形態による映像受信装置4と同様の構成を有し、同様の機能を発揮するように構成されているため、説明は省略する。
【0200】
図23に示すように、映像受信装置6から送出されるデモザイク色配置制約を通知する制御信号は、映像送信装置5に備えられたセンサCPU521に入力される。センサCPU521は、当該制御信号が入力された場合、注目領域ROIの色配列に通知された色配置が含まれている場合は、制約された色配置に関するデモザイク情報を映像受信装置6に送信しない。
【0201】
例えば、映像受信装置6において注目領域ROIの水平画素(X軸方向の画素)が奇数の場合にデモザイク処理ができないという制約があるとする。この場合例えば、センサCPU521は、注目領域ROIの水平画素及び垂直画素の起点となる画素(例えば左上端部の画素)の座標と大きさに偶数制約を設けるようにしてもよい。例えば注目領域ROIの水平画素が151画素である場合、センサCPU521は、151画素を2で除した値(75.5)を整数化(75)し、整数化して得た値を2倍とする。これにより、注目領域ROIの水平画素の個数が偶数(本例では150画素)となるので、映像送信装置5は、この情報をデモザイク情報として映像受信装置6に送出することにより、映像受信装置6は、注目領域ROIのデモザイク処理を実行することができる。
【0202】
映像送信装置5は、映像受信装置6から送出されるデモザイク色配置制約を通知する制御信号を受信し、かつ当該制御信号に基づく上記処理を実行できる点を除いて、上記第1実施形態による映像送信装置3と同様の構成を有し、同様の機能を発揮するように構成されているため、説明は省略する。
【0203】
(デモザイク処理方法)
次に、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理方法について図23を参照しつつ図24を用いて説明する。図24は、本実施形態による送信装置、受信装置及び伝送システムにおけるデモザイク処理の流れの一例を示すフローチャートである。
【0204】
本実施形態による映像伝送システム20に電源が投入され、映像送信装置5及び映像受信装置6が動作を開始すると、映像送信装置5はセンサ初期化処理を開始し、映像受信装置6はIPS初期化処理を開始する。
【0205】
(ステップS60)
図24に示すように、映像受信装置6に備えられたCamCPU611は、IPS初期化処理を開始すると、デモザイク処理の色配置に制約を有することを示すIPS制約通知信号を、例えばMIPIを用いたハードウェア(HW)による通信によって映像送信装置5に送出し、IPS初期化処理を終了する。
【0206】
(ステップS50)
図24に示すように、映像送信装置5に備えられたセンサCPU521は、センサ初期化処理を開始する。センサCPU321は、ステップS50において、IPS制約通知信号を受信していると判定した場合、当該IPS制約通知信号に含まれている制約に関する情報を受領するとともに記憶領域に格納し、センサ初期化処理を終了する。一方、センサCPU321は、ステップS50において、IPS制約通知信号を受信していないと判定した場合、特別な処理を実行することなくセンサ初期化処理を終了する。
【0207】
(ステップS51)
図24に示すように、センサCPU521は、フレーム開始トリガを検出すると、まず、送信座標制御処理を実行する。センサCPU521は、デモザイク処理の色配置の制約に関する情報を記憶している場合、映像受信装置6に送出するデモザイク処理が当該制約違反とならないように、注目領域ROIの左上端部の座標及び画像サイズ、あるいは色配列などに所定の処理を施して、ステップS53の処理に移行する。一方、センサCPU521は、デモザイク処理の色配置の制約に関する情報を記憶していない場合、上記第1実施形態におけるステップS31と同様の処理を実行し、ステップS53の処理に移行する。
【0208】
(ステップS53)
センサCamCPU521は、エンベデッドデータ送信処理を実行し、デモザイク処理を終了する。ステップS53における処理は、上記第1実施形態におけるステップS33と同様の処理であるため、説明は省略する。
【0209】
(ステップS61からステップS67)
CamCPU411は、エンベデッドデータ取得部414でエンベデッドデータがデコードされたタイミングをトリガとして、ステップS61の処理を開始する。ステップS61における処理は、上記第1実施形態におけるステップS41における処理と同様であり、ステップS63における処理は、上記第1実施形態におけるステップS43における処理と同様であり、ステップS65における処理は、上記第1実施形態におけるステップS45における処理と同様であり、ステップS67における処理は、上記第1実施形態におけるステップS47における処理と同様である。このため、ステップS61からステップS67については説明を省略する。
【0210】
映像受信装置6は、デモザイク処理の色配置に所定の制約を有している。しかしながら、センサCPU521が当該制約違反とならないようにデモザイク情報を設定している。このため、CamCPU611は、デモザイク情報が当該制約違反に当たるか否かを判断することなく、デモザイク処理を実行することができ、デモザイク処理の処理負荷の抑制が図られている。
【0211】
以上説明したように、本実施形態による送信処理、受信処理及び伝送システムは、上記第1実施形態と比較して所定の制約を有するものの、撮像画像から切り出した一部の注目領域(ROI)のデモザイク処理を実現することができる。
【0212】
本開示は、上記実施形態に限らず、種々の変形が可能である。
上記第1及び第2実施形態による映像送信装置3,5は、切り出し対象の物体が矩形状でない場合も、当該物体を含む最小の矩形を注目領域ROIとして設定する。さらに、映像送信装置3,5は、当該注目領域ROIの位置情報(左上端部、X軸方向の長さ、Y軸方向の長さ)及び当該注目領域ROIのデモザイク情報(左上端部の色情報など)をエンベデッドデータに含めるように構成されているが、本開示はこれに限られない。
【0213】
例えば映像送信装置3,5は、前提技術2のように、対象の物体の位置情報及びデモザイク情報を画素行ごとにペイロードデータに含めて映像受信装置4,6に送出するように構成されていてもよい。この場合、対象の物体が矩形状でないため、デモザイク処理の対象の画素の周囲に画像データが存在しない場合があるが、例えば境界処理と同様の処理によって画像データを補間することにより、このような場合もデモザイク処理を実行することができる。
【0214】
上記第1及び第2実施形態による映像送信装置3,5に備えられた変換領域制御部321b、センサCPU321又は制御部32は、デモザイク情報が一定の条件を満たすように注目領域ROIの画像データの領域を制御するように構成されていてもよい。すなわち、変換領域制御部321b、センサCPU321又は制御部32は、デモザイク情報が撮像素子の色配列の例えば配列例A~Dに応じて配列パターンPA1~PA4,PB1~PB4,PC1~PC4,PD1~PD4のいずれかのパターン(一定の条件の一例)を満たすように注目領域ROIの画像データを制御してもよい。このように、送信装置がデモザイクのために一定のパターンとなるように注目領域を制御してもよい。
【0215】
以上、前提技術、実施形態及びその変形例を挙げて本開示を説明したが、本開示は上記実施形態等に限定されるものではなく、種々変形が可能である。なお、本明細書中に記載された効果は、あくまで例示である。本開示の効果は、本明細書中に記載された効果に限定されるものではない。本開示が、本明細書中に記載された効果以外の効果を持っていてもよい。
【0216】
また、例えば、本開示は以下のような構成を取ることができる。
(1)
ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報の取得を制御する制御部と、
前記ROIの画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部と
を備える送信装置。
(2)
前記デモザイク情報は、前記ROI情報に含められて前記送信部から送出される
上記(1)に記載の送信装置。
(3)
前記制御部は、前記ROIの画像データの色配列又は前記ROIの画像データの端部の色情報を前記デモザイク情報として取得する
上記(1)に記載の送信装置。
(4)
前記制御部は、前記デモザイク情報が一定の条件を満たすように前記ROIの画像データの領域を制御する
上記(1)に記載の送信装置。
(5)
前記制御部は、前記端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として取得する
上記(4)に記載の送信装置。
(6)
前記送信部は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格で信号を送出する
上記(1)に記載の送信装置。
(7)
ROI(Region Of Interest)の画像データをペイロードデータに含むとともに、ROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、
前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部と、
前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部と
を備える受信装置。
(8)
前記制御部は、前記伝送信号に含まれた前記ROI情報から前記デモザイク情報を抽出する
上記(7)に記載の受信装置。
(9)
前記制御部は、前記ROIの画像データの色配列又は前記ROIの画像データの端部の色情報を前記デモザイク情報として抽出する
上記(7)に記載の受信装置。
(10)
前記制御部は、前記ROIの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として抽出する
上記(9)に記載の受信装置。
(11)
前記処理部は、前記ROI内の周囲端部に配置された画像データに対して境界処理を施す
上記(7)に記載の受信装置。
(12)
前記受信部は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格で信号を受信する
上記(7)に記載の受信装置。
(13)
ROI(Region Of Interest)の画像データのデモザイク処理に用いられる情報であるデモザイク情報を取得する制御部、及び前記画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信部を有する送信装置と、
前記ROIの画像データを前記ペイロードデータに含むとともに、前記ROI情報を前記エンベデッドデータに含む伝送信号を受信する受信部、前記ROIの画像データのデモザイク処理に用いられる情報であるデモザイク情報を前記受信部で受信した前記伝送信号からの抽出を制御する制御部、及び前記制御部で抽出された前記デモザイク情報を用いて前記ROIの画像データのデモザイク処理を実行する処理部を有する受信装置と
を備える伝送システム。
(14)
前記送信装置は、前記ROIの情報に含められた前記デモザイク情報を前記送信部から送出し、
前記受信装置は、前記デモザイク情報を有する前記伝送信号を前記受信部で受信し、前記受信部で受信された前記伝送信号に含まれた前記ROIの情報から前記デモザイク情報を前記制御部で抽出する
上記(13)に記載の伝送システム。
(15)
前記送信装置は、前記ROIの画像データの色配列又は前記ROIの画像データの端部の色情報を前記デモザイク情報として前記送信部から送出し、
前記受信装置は、前記色配列又は前記ROIの画像データの端部の色情報を前記デモザイク情報として前記受信部で受信する
上記(13)に記載の伝送システム。
(16)
前記送信装置は、前記ROIの端部の色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記送信部から送出し、
前記受信装置は、前記色情報と、前記端部が奇数行及び偶数行並びに奇数列及び偶数列のいずれの組み合わせであるのかを示す情報とを前記デモザイク情報として前記受信部で受信する
上記(15)に記載の伝送システム。
(17)
前記送信装置は、MIPI(Mobile Industry Processor Interface) D-PHY規格、MIPI C-PHY規格又はMIPI CSI(Camera Serial Interface)-2規格の信号を前記送信部から送出し、
前記受信装置は、前記MIPID-PHY規格、前記MIPI C-PHY規格又は前記MIPI CSI-2規格の信号を前記受信部で受信する
上記(13)に記載の伝送システム。
【0217】
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、及び変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。
【符号の説明】
【0218】
1,10,10z,20 映像伝送システム
3,5,100 映像送信装置
4,4z,6,200 映像受信装置
31,110 撮像部
32,41 制御部
42 画像加工部
100A CSIトランスミッタ
100B CCIスレーブ
111 撮像画像
112,112a1,112a2,112a3,112a4,112b1,112b4,123a4,223A ROI画像
112b 圧縮像データ
113,114 位置情報
115 優先度
116,116a1,116a2 伝送画像
118 画像
120,130 画像処理部
120A,120A1,120A2,130A,147B 圧縮像データ
120B ROI情報
120C フレーム情報
121 ROI切り出し部
122 ROI解析部
123 検出部
124 優先度設定部
125,131 エンコード部
126 画像処理制御部
140 送信部
141 LINK制御部
142 ECC生成部
143 PH生成部
144,145 ROIデータバッファ
144 EBDバッファ
146 通常画像データバッファ
147 合成部
147A 伝送データ
200A CSIレシーバ
200B CCIマスター
210 受信部
211 ヘッダ分離部
212 ヘッダ解釈部
213 ペイロード分離部
214 EBD解釈部
214A EBDデータ
215 ROIデータ分離部
215A,215B ペイロードデータ
220 情報処理部
221 情報抽出部
221A 抽出情報
222 ROIデコード部
222A 画像データ
223 ROI画像生成部
224 通常画像デコード部
224A 通常画像
311 光電変換部
312 信号変換部
313 増幅部
321,521 センサCPU
321a 露光制御部
321b 変換領域制御部
322 送信部
411,411z,611 CamCPU
411a 座標判定部
412 受信部
413 Raw処理部
414 エンベデッドデータ取得部
421 デモザイク処理部
422 画質調整部
423 判定部
423a 座標判定部
423b 制御値生成部
521 センサCPU
A,B,C 配列例
ADC アナログデジタル変換
AGC 信号増幅
Cb 色差成分
CCI カメラ制御インタフェース
CL クロックレーン
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14A
図14B
図15A
図15B
図16A
図16B
図17A
図17B
図18
図19
図20
図21
図22
図23
図24