(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-07
(45)【発行日】2024-11-15
(54)【発明の名称】受信装置及び伝送システム
(51)【国際特許分類】
H04N 21/436 20110101AFI20241108BHJP
H04N 21/434 20110101ALI20241108BHJP
H04N 21/236 20110101ALI20241108BHJP
【FI】
H04N21/436
H04N21/434
H04N21/236
(21)【出願番号】P 2022509417
(86)(22)【出願日】2021-02-19
(86)【国際出願番号】 JP2021006374
(87)【国際公開番号】W WO2021192764
(87)【国際公開日】2021-09-30
【審査請求日】2024-01-18
(31)【優先権主張番号】P 2020054537
(32)【優先日】2020-03-25
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100103850
【氏名又は名称】田中 秀▲てつ▼
(74)【代理人】
【識別番号】100114177
【氏名又は名称】小林 龍
(74)【代理人】
【識別番号】100066980
【氏名又は名称】森 哲也
(72)【発明者】
【氏名】佐藤 弘和
【審査官】大西 宏
(56)【参考文献】
【文献】特開2019-049705(JP,A)
【文献】特開2019-091967(JP,A)
【文献】特表2016-504890(JP,A)
【文献】特表2016-506669(JP,A)
【文献】特表2016-529789(JP,A)
【文献】国際公開第2006/008787(WO,A1)
【文献】国際公開第2018/225449(WO,A1)
【文献】韓国公開特許第10-2017-0131806(KR,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00 -21/858
(57)【特許請求の範囲】
【請求項1】
所定の撮像画像から切り出された所定数のROI(Region Of Interest)の画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、
前記ROIの画像データを格納可能なフレームメモリと、
前記エンベデッドデータから抽出した前記ROI情報に基づいて前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部と、
を備え
、
前記処理部は、
前記ROI情報から生成したROI復元情報に基づいて、前記ペイロードデータ単位で前記ROIの画像データを前記フレームメモリに書込み、
所定条件が成立している場合に、前記ペイロードデータ内の2以上の前記ROIの画像データの間にダミー画像データを挿入して前記2以上の前記ROIの画像データを連結したダミー挿入画像データを生成し、生成したダミー挿入画像データを1回の指示によって連続して前記フレームメモリに書込み、
前記所定条件は、前記2以上の前記ROIの画像データの間の空隙が狭く、当該空隙に挿入する前記ダミー画像データのメモリサイズが所定サイズ以内となることである
受信装置。
【請求項2】
前記処理部は、前記撮像画像における所定数の前記ROIそれぞれの位置情報及びサイズ情報を前記ROI情報として抽出する
請求項1に記載の受信装置。
【請求項3】
前記処理部は、抽出した前記位置情報および前記サイズ情報を並び替えて、前記ROIの画像データの復元に用いる
前記ROI復元情報を生成する
請求項2に記載の受信装置。
【請求項4】
前記位置情報には、前記撮像画像における前記ROIの左上端部を示すX座標およびY座標が含まれ、
前記処理部は、前記ROI復元情報として、前記位置情報および前記サイズ情報を前記X座標の値の昇順に並び替えたX座標順データと、前記位置情報および前記サイズ情報を前記Y座標の値の昇順に並び替えたY座標順データとを生成する
請求項3に記載の受信装置。
【請求項5】
前記処理部は、前記ROI復元情報に基づいて前記ペイロードデータ内の前記ROIの画像データを前記ROIごとに分割して、前記フレームメモリに書込む
請求項
1に記載の受信装置。
【請求項6】
前記処理部は、前記ROI復元情報に基づいて前記撮像画像内での前記ROIの相対位置に対応する前記フレームメモリ内の復元位置を特定し、前記復元位置に前記ROIの画像データを書込む
請求項
1に記載の受信装置。
【請求項7】
前記処理部は、前記ROI復元情報に基づいて前記表示装置の画面内において所定数の前記ROIの画像データが重ならずに表示可能なように前記ROIの画像データを前記フレームメモリに書込む
請求項
1に記載の受信装置。
【請求項8】
前記処理部は、前記ROI復元情報に基づいて、前記フレームメモリにおける前記ROIの画像データの書込み先を示すアドレスを生成する
請求項
1に記載の受信装置。
【請求項9】
前記処理部は、前記ROI復元情報に基づいて、前記フレームメモリにおける前記ダミー挿入画像データの書込み先を示すアドレスを生成する
請求項
1に記載の受信装置。
【請求項10】
前記処理部は、前記ROIの画像データが前記表示装置に表示される場合に、前記フレームメモリに格納された前記表示装置の画面単位の画像データのうち、前記ROIの画像データに該当しない非ROI画像データを固定値画像データに差替える
請求項
1に記載の受信装置。
【請求項11】
前記処理部は、前記ROI復元情報に基づいて前記非ROI画像データを特定する
請求項1
0に記載の受信装置。
【請求項12】
前記処理部は、
前記ROI復元情報に基づいて前記画面単位の画像データの各画素が前記ROIの画像データに含まれるか、または前記非ROI画像データに含まれるかを判定する
請求項1
1に記載の受信装置。
【請求項13】
ROI(Region Of Interest)の画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信装置と、
所定の撮像画像から切り出された所定数の前記ROIの画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部、
前記ROIの画像データを格納可能なフレームメモリ、前記エンベデッドデータから抽出した前記ROI情報に基づいて前記所定数の前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部を有する受信装置と、
を備え
、
前記受信装置は、前記処理部において、
前記ROI情報から生成したROI復元情報に基づいて、前記ペイロードデータ単位で前記ROIの画像データを前記フレームメモリに書込み、
所定条件が成立している場合に、前記ペイロードデータ内の2以上の前記ROIの画像データの間にダミー画像データを挿入して前記2以上の前記ROIの画像データを連結したダミー挿入画像データを生成し、生成したダミー挿入画像データを1回の指示によって連続して前記フレームメモリに書込み、
前記所定条件は、前記2以上の前記ROIの画像データの間の空隙が狭く、当該空隙に挿入する前記ダミー画像データのメモリサイズが所定サイズ以内となることである
伝送システム。
【請求項14】
前記受信装置は、
前記ROI情報として抽出された前記撮像画像における所定数の前記ROIそれぞれの位置情報およびサイズ情報を前記処理部において並び替えて、前記ROIの画像データの復元に用いる
前記ROI復元情報を生成する
請求項1
3に記載の伝送システム。
【請求項15】
前記受信装置は、前記ROIの画像データが前記表示装置に表示される場合に、前記フレームメモリに格納された前記表示装置の画面単位の画像データのうち、前記ROIの画像データに該当しない非ROI画像データを前記処理部で固定値画像データに差替える
請求項1
3に記載の伝送システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、受信装置及び伝送システムに関する。
【背景技術】
【0002】
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
【0003】
伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われていることが知られている(例えば特許文献1~4)。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2016-201756号公報
【文献】特開2014-39219号公報
【文献】特開2013-164834号公報
【文献】特開2012-209831号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
撮像画像から切り出されて伝送された一部の注目領域(ROI(Region Of Interest))を効率的に表示装置に表示するための処理について、何ら検討されていない。
本開示の目的は、撮像画像から切り出した一部の注目領域(ROI)を効率的に表示装置に表示可能とすることができる受信装置及び伝送システムを提供することにある。
【課題を解決するための手段】
【0006】
本開示の一態様による受信装置は、所定の撮像画像から切り出された所定数のROI(Region Of Interest)の画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、前記ROIの画像データを格納可能なフレームメモリと、前記エンベデッドデータから抽出した前記ROI情報に基づいて前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部と、を備え、前記処理部は、前記ROI情報から生成したROI復元情報に基づいて、前記ペイロードデータ単位で前記ROIの画像データを前記フレームメモリに書込み、所定条件が成立している場合に、前記ペイロードデータ内の2以上の前記ROIの画像データの間にダミー画像データを挿入して前記2以上の前記ROIの画像データを連結したダミー挿入画像データを生成し、生成したダミー挿入画像データを1回の指示によって連続して前記フレームメモリに書込み、前記所定条件は、前記2以上の前記ROIの画像データの間の空隙が狭く、当該空隙に挿入する前記ダミー画像データのメモリサイズが所定サイズ以内となることである。
【0007】
本開示の一態様による伝送システムは、ROI(Region Of Interest)の画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信装置と、所定の撮像画像から切り出された所定数の前記ROIの画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部、前記ROIの画像データを格納可能なフレームメモリ、前記エンベデッドデータから抽出した前記ROI情報に基づいて前記所定数の前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部を有する受信装置と、を備え、前記受信装置は、前記処理部において、前記ROI情報から生成したROI復元情報に基づいて、前記ペイロードデータ単位で前記ROIの画像データを前記フレームメモリに書込み、所定条件が成立している場合に、前記ペイロードデータ内の2以上の前記ROIの画像データの間にダミー画像データを挿入して前記2以上の前記ROIの画像データを連結したダミー挿入画像データを生成し、生成したダミー挿入画像データを1回の指示によって連続して前記フレームメモリに書込み、前記所定条件は、前記2以上の前記ROIの画像データの間の空隙が狭く、当該空隙に挿入する前記ダミー画像データのメモリサイズが所定サイズ以内となることである。
【図面の簡単な説明】
【0008】
【
図1】映像伝送システムの概略構成例を表す図である。
【
図2】
図1の映像送信装置の概略構成例を表す図である。
【
図3】撮像画像に2つのROIが含まれているときの、伝送データの生成手順の一例を表す図である。
【
図7】ロングパケットのペイロードデータの構成例を表す図である。
【
図8】
図1の映像受信装置の概略構成例を表す図である。
【
図9】伝送データに2つの画像が含まれているときの、撮像画像に含まれる2つのROI画像の生成手順の一例を表す図である。
【
図10】撮像画像において特定された物体が配置された領域を模式的に示す図である。
【
図11】特定された物体に対して設定されたROI領域の一例を示す図である。
【
図12】ROI画像の位置情報がロングパケットのペイロードデータに含められている伝送データの構成例を示す図である。
【
図13】本開示の実施形態における撮像画像の一例を模式的に示す図である。
【
図14】
図13に示す注目領域の座標及び画像サイズを示す図である。
【
図15】
図13に示す注目領域の画像データを含むペイロードデータの一例を示す図である。
【
図16】本開示の実施形態におけるROI復元情報を構成する第一座標データ、第二座標データについて説明する図である。
【
図17】本開示の実施形態におけるX座標順データおよびY座標順データの一例を示す図である。
【
図18】本開示の実施形態における映像伝送システムの概略構成を示すブロック図である。
【
図19】本開示の実施形態による映像受信装置の概略構成例を表す図である。
【
図20】本開示の本実施形態による映像受信装置における復元処理の流れの一例を示すフローチャートである。
【
図21】本開示の実施形態による映像受信装置200aにおける画像データ差替え処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、本開示を実施するための形態について、図面を参照して詳細に説明する。以下の説明は本開示の一具体例であって、本開示は以下の態様に限定されるものではない。
【0010】
以下、本開示による技術を実施するための形態(以下、「実施形態」と称する)について、以下の順序により説明する。
1.本開示の前提技術1(撮像画像から切り出した一部(形状が矩形状)の注目領域(ROI)を伝送する技術)
2.本開示の前提技術2(撮像画像から切り出した一部(形状が非矩形状)の注目領域(ROI)を伝送する技術)
3.本開示の実施形態における復元処理の原理
4.本開示の実施形態による映像受信装置及び映像伝送システム
5.本開示の実施形態による映像受信における画像データの表示に係る処理
6.本開示の実施形態における復元処理の変形例
【0011】
1.本開示の前提技術1:
[構成]
近年、スマートフォンなどの携帯デバイスやカメラデバイスなどでは、扱う画像データの大容量化が進み、デバイス内又は異なるデバイス間でのデータ伝送に高速化、かつ低消費電力化が求められている。このような要求に応えるため、携帯デバイスやカメラデバイス向けの接続インタフェースとして、MIPIアライアンスが策定したC-PHY規格やD-PHY規格といった高速インタフェース規格の標準化が進められている。C-PHY規格やD-PHY規格は、通信プロトコルの物理層(physical layer:PHY)のインタフェース規格である。また、C-PHY規格やD-PHY規格の上位プロトコル・レイヤとして、携帯デバイスのディスプレイ向けのDSIや、カメラデバイス向けのCSIが存在する。
【0012】
本開示の前提技術に係る映像伝送システム1は、種々の規格で信号を送受信できるシステムであり、例えばMIPICSI-2規格、MIPICSI-3規格、又は、MIPIDSI規格で信号を送受信することができる。
図1は、本開示の前提技術に係る映像伝送システム1の概要を表したものである。映像伝送システム1は、データ信号、クロック信号及び制御信号の伝送に適用されるものであり、映像送信装置100及び映像受信装置200を備えている。映像伝送システム1は、映像送信装置100と映像受信装置200とに跨がって、例えば画像データ等のデータ信号を伝送するデータレーンDLと、クロック信号を伝送するクロックレーンCLと、制御信号を伝送するカメラ制御インタフェースCCIとを備えている。
図1には、1つのデータレーンDLが設けられている例が示されているが、複数のデータレーンDLが設けられていてもよい。カメラ制御インタフェースCCIは、I2C(Inter-Integrated Circuit)規格と互換性を有する双方向制御インタフェースである。
【0013】
映像送信装置100は、MIPICSI-2規格、MIPICSI-3規格、又は、MIPIDSI規格で信号を送出する装置である。CSIトランスミッタ100Aと、CCIスレーブ100Bとを有している。映像受信装置200は、CSIレシーバ200Aと、CCIマスター200Bとを有している。クロックレーンCLにおいて、CSIトランスミッタ100AとCSIレシーバ200Aとの間は、クロック信号線で接続されている。データレーンDLにおいて、CSIトランスミッタ100AとCSIレシーバ200Aとの間は、クロック信号線で接続されている。カメラ制御インタフェースCCIにおいて、CCIスレーブ100BとCCIマスター200Bとの間は、制御信号線で接続されている。
【0014】
CSIトランスミッタ100Aは、例えば、クロック信号として差動のクロック信号を生成し、クロック信号線に出力する差動信号送信回路である。CSIトランスミッタ100Aは、差動に限られず、シングルエンドや3相の信号も送信できるように構成可能である。CSIトランスミッタ100Aは、さらに、データ信号として差動のデータ信号を生成し、データ信号線に出力する差動信号送信回路でもある。CSIレシーバ200Aは、クロック信号として差動のクロック信号を、クロック信号線を介して受信し、受信した差動のクロック信号に対して所定の処理を行う差動信号受信回路である。CSIレシーバ200Aは、さらに、データ信号として差動のデータ信号を、データ信号線を介して受信し、受信した差動のデータ信号に対して所定の処理を行う差動信号受信回路でもある。
【0015】
(映像送信装置100)
図2は、映像送信装置100の構成の一例を表したものである。映像送信装置100は、CSIトランスミッタ100Aの一具体例に相当する。映像送信装置100は、例えば、撮像部110、画像処理部120,130及び送信部140を備えている。映像送信装置100は、撮像部110で得られた撮像画像111に対して所定の処理を行うことにより生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に送信する。
図3は、伝送データ147Aの生成手順の一例したものである。
【0016】
撮像部110は、例えば、光学レンズなどを通して得られた光学的な画像信号を画像データに変換する。撮像部110は、例えば、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含んで構成されている。撮像部110は、アナログ-デジタル変換回路を有しており、アナログの画像データをデジタルの画像データに変換する。変換した後のデータ形式は、各画素の色を輝度成分Y及び色差成分Cb,Crで表現するYCbCr形式であってもよいし、RGB形式などであってもよい。撮像部110は、撮像により得られた撮像画像111(デジタルの画像データ)を画像処理部120に出力する。
【0017】
画像処理部120は、撮像部110から入力された撮像画像111に対して所定の処理を行う回路である。前提技術1では、画像処理部120は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う場合について説明する。しかしながら、前提技術1では、映像送信装置100、すなわち送信側がROIの切り出しの座標指示する場合も適用できある。この場合、送信側は例えば、受信側から送出されるROIで取得すべき「人物」や「物体」等の情報を受信して切り出しの座標を判断および指示するように構成される。これにより、画像処理部120は、種々のデータ(120A,120B,120C)を生成し、送信部140に出力する。画像処理部130は、撮像部110から入力された撮像画像111に対して所定の処理を行う回路である。画像処理部130は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う。これにより、画像処理部130は、画像データ130Aを生成し、送信部140に出力する。
【0018】
画像処理部130は、例えば、エンコード部131を有している。エンコード部131は、撮像画像111をエンコードして圧縮像データ130Aを生成する。画像処理部130は、例えば、圧縮像データ130Aの形式として、JPEG(Joint Photographic Experts Group)規格に準拠した圧縮形式等により撮像画像111を圧縮する。
【0019】
画像処理部120は、例えば、ROI切り出し部121、ROI解析部122、重なり検出部123、優先度設定部124、エンコード部125及び画像処理制御部126を有している。
【0020】
ROI切り出し部121は、撮像部110から入力された撮像画像111に含まれる撮影対象の1又は複数の物体を特定し、特定した物体ごとに注目領域ROIを設定する。注目領域ROIは、例えば、特定した物体を含む方形状の領域である。ROI切り出し部121は、撮像画像111から、各注目領域ROIの画像(例えば
図3中のROI画像112)を切り出す。ROI切り出し部121は、さらに、設定した注目領域ROIごとに、識別子として領域番号を付与する。ROI切り出し部121は、例えば、撮像画像111において、2つの注目領域ROIを設定した場合には、一方の注目領域ROI(例えば
図3中の注目領域ROI1)に対して、領域番号1を付与し、他方の注目領域ROI(例えば
図3中の注目領域ROI2)に対して、領域番号2を付与する。ROI切り出し部121は、例えば、付与した識別子(領域番号)を記憶部に格納する。ROI切り出し部121は、例えば、撮像画像111から切り出した各ROI画像112を記憶部に格納する。ROI切り出し部121は、さらに、例えば、各注目領域ROIに付与した識別子(領域番号)を、ROI画像112と関連づけて、記憶部に格納する。
【0021】
ROI解析部122は、注目領域ROIごとに、撮像画像111における注目領域ROIの位置情報113を導出する。位置情報113は、例えば、注目領域ROIの左上端座標(Xa,Ya)と、注目領域ROIのX軸方向の長さと、注目領域ROIのY軸方向の長さとによって構成されている。注目領域ROIのX軸方向の長さは、例えば、注目領域ROIのX軸方向の物理領域長さXLaである。注目領域ROIのY軸方向の長さは、例えば、注目領域ROIのY軸方向の物理領域長さYLaである。物理領域長さとは、注目領域ROIの物理的な長さ(データ長)を指している。位置情報113において、注目領域ROIの左上端とは異なる位置の座標が含まれていてもよい。ROI解析部122は、例えば、導出した位置情報113を記憶部に格納する。ROI解析部122は、例えば、注目領域ROIに対して付与された識別子(領域番号)と関連づけて、記憶部に格納する。
【0022】
ROI解析部122は、注目領域ROIごとに、位置情報113として、さらに、例えば、注目領域ROIのX軸方向の出力領域長さXLcや、注目領域ROIのY軸方向の出力領域長さYLcを導出してもよい。出力領域長さとは、例えば、注目領域ROIに対して間引き処理や画素加算などによる解像度変更がなされた後の注目領域ROIの物理的な長さ(データ長)である。ROI解析部122は、例えば、注目領域ROIごとに、位置情報113の他に、例えば、センシングインフォメーション、露光情報、ゲイン情報、AD(Analog-Digital)語長、画像フォーマットなどを導出し、記憶部に格納してもよい。
【0023】
センシングインフォメーションとは、注目領域ROIに含まれる物体についての演算内容や、ROI画像112に対する後段信号処理のための補足情報などを指している。露光情報とは、注目領域ROIの露光時間を指している。ゲイン情報とは、注目領域ROIのゲイン情報を指している。AD語長とは、注目領域ROI内でAD変換された1画素あたりのデータの語長を指している。画像フォーマットとは、注目領域ROIの画像のフォーマットを指している。ROI解析部122は、例えば、撮像画像111に含まれる注目領域ROIの数(ROI数)を導出し、記憶部に格納してもよい。
【0024】
重なり検出部123は、撮像画像111において、撮影対象の複数の物体が特定されたときには、撮像画像111における複数の注目領域ROIの位置情報113に基づいて、2以上の注目領域ROI同士が重なり合う重なり領域(ROO(Region Of Overlap))を検出する。つまり、重なり検出部123は、重なり領域ROOごとに、撮像画像111における重なり領域ROOの位置情報114を導出する。重なり検出部123は、例えば、導出した位置情報114を記憶部に格納する。重なり検出部123は、例えば、導出した位置情報114を重なり領域ROOと対応付けて、記憶部に格納する。重なり領域ROOは、例えば、互いに重なり合う2以上の注目領域ROIにおいて最も小さな注目領域ROIと同じ大きさか、それよりも小さな方形状の領域である。位置情報114は、例えば、重なり領域ROOの左上端座標(Xb,Yb)と、重なり領域ROOのX軸方向の長さと、重なり領域ROOのY軸方向の長さとによって構成されている。重なり領域ROOのX軸方向の長さは、例えば、物理領域長さXLbである。重なり領域ROOのY軸方向の長さは、例えば、物理領域長さYLbである。位置情報114において、注目領域ROIの左上端とは異なる位置の座標が含まれていてもよい。
【0025】
優先度設定部124は、撮像画像111において、注目領域ROIごとに優先度115を付与する。優先度設定部124は、例えば、付与した優先度115を記憶部に格納する。優先度設定部124は、例えば、付与した優先度115を注目領域ROIと対応付けて、記憶部に格納する。優先度設定部124は、注目領域ROIごとに付与されている領域番号とは別に、優先度115を注目領域ROIごとに付与してもよいし、注目領域ROIごとに付与されている領域番号を、優先度115の代わりとしてもよい。優先度設定部124は、例えば、優先度115を注目領域ROIと関連付けて、記憶部に格納してもよいし、注目領域ROIごとに付与されている領域番号を注目領域ROIと関連付けて、記憶部に格納してもよい。
【0026】
優先度115は、各注目領域ROIの識別子であり、撮像画像111における複数の注目領域ROIのいずれに対して重なり領域ROOの割愛が行われたかを判別することの可能な判別情報である。優先度設定部124は、例えば、それぞれが重なり領域ROOを含む2つの注目領域ROIにおいて、一方の注目領域ROIに対して優先度115として1を付与し、他方の注目領域ROIに対して優先度115として2を付与する。この場合には、後述の伝送画像116の作成に際して、優先度115の数値が大きい方の注目領域ROIに対して、重なり領域ROOの割愛が行われる。なお、優先度設定部124は、注目領域ROIごとに付与されている領域番号と同じ番号を、注目領域ROIに対して優先度115として付与してもよい。優先度設定部124は、例えば、各注目領域ROIに付与した優先度115を、ROI画像112と関連づけて、記憶部に格納する。
【0027】
エンコード部125は、各伝送画像116を、エンコードして圧縮像データ120Aを生成する。エンコード部125は、例えば、圧縮像データ120Aの形式として、JPEG規格に準拠した圧縮形式等により各伝送画像116を圧縮する。エンコード部125は、上記の圧縮処理を行う前に、各伝送画像116を生成する。エンコード部125は、撮像画像111から得られた複数のROI画像112において重なり領域ROOの画像118が重複して含まれないように、撮像画像111から得られた複数のROI画像112から画像118を割愛したものである複数の伝送画像116を生成する。
【0028】
エンコード部125は、例えば、注目領域ROIごとに付与されている優先度115に基づいて、複数のROI画像112のいずれに対して画像118の割愛を行うかを決定する。なお、エンコード部125は、例えば、注目領域ROIごとに付与されている領域番号を優先度115として用いることにより、複数のROI画像112のいずれに対して画像118の割愛を行うかを決定してもよい。エンコード部125は、上記のようにして特定されたROI画像112において画像118を割愛したものを、伝送画像116(例えば
図3の伝送画像116a2)とする。エンコード部125は、重なり領域ROOを含まないROI画像112や、上記の決定により画像118が割愛されないこととなったROI画像112については、ROI画像112そのものを伝送画像116(例えば
図3の伝送画像116a1)とする。
【0029】
画像処理制御部126は、ROI情報120B及びフレーム情報120Cを生成し、送信部140に送信する。ROI情報120Bは、例えば、各位置情報113を含んでいる。ROI情報120Bは、さらに、例えば、各注目領域ROIのデータタイプ、撮像画像111に含まれる注目領域ROIの数、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットのうち少なくとも1つを含んでいる。フレーム情報120Cは、例えば、フレームごとに付与されるバーチャルチャネルの番号、各注目領域ROIのデータタイプ、ラインごとのペイロード(Payload)長などを含んでいる。データタイプには、例えば、YUVデータ、RGBデータ又はRAWデータなどが含まれている。データタイプには、さらに、例えば、ROI形式のデータ又は通常形式のデータなどが含まれている。ペイロード長は、例えば、ロングパケット(LongPacket)のペイロードに含まれるピクセル数であり、例えば、注目領域ROIごとのピクセル数である。ここで、ペイロードとは、映像送信装置100及び映像受信装置200の間で伝送される主要なデータ(アプリケーションデータ)を指している。ロングパケットとは、パケットヘッダPHとパケットフッタPFとの間に配置されるパケットを指している。
【0030】
送信部140は、画像処理部120,130から入力された種々のデータ(120A,120B,120C,130A)に基づいて伝送データ147Aを生成し、送出する回路である。送信部140は、撮像画像111における各注目領域ROIについてのROI情報120Bをエンベデッドデータ(EmbeddedData)で送出する。送信部140は、さらに、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、各注目領域ROIの画像データ(圧縮像データ120A)をロングパケットのペイロードデータ(PayloadData)で送出する。このとき、送信部140は、各注目領域ROIの画像データ(圧縮像データ120A)を互いに共通のバーチャルチャネルで送出する。また、送信部140は、各注目領域ROIの画像データ(圧縮像データ120A)を画像データフレームによって送出するとともに、各注目領域ROIについてのROI情報120Bを画像データフレームのヘッダで送出する。送信部140は、また、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、通常の画像データ(圧縮像データ130A)をロングパケットのペイロードデータで送出する。
【0031】
送信部140は、例えば、LINK制御部141、ECC生成部142、PH生成部143、EBDバッファ144、ROIデータバッファ145、通常画像データバッファ146及び合成部147を有している。LINK制御部141、ECC生成部142、PH生成部143、EBDバッファ144及びROIデータバッファ145は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、合成部147への出力を行う。通常画像データバッファ146は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、合成部147への出力を行う。
【0032】
なお、ROIデータバッファ145が、通常画像データバッファ146を兼ねていてもよい。この場合、送信部140は、ROIデータバッファ145及びROIデータバッファ145のそれぞれの出力端と、合成部147の入力端との間に、ROIデータバッファ145及びROIデータバッファ145のいずれかの出力を選択するセレクタを有していてもよい。
【0033】
LINK制御部141は、例えば、フレーム情報120CをラインごとにECC生成部142及びPH生成部143に出力する。ECC生成部142は、例えば、フレーム情報120Cにおける1ラインのデータ(例えば、バーチャルチャネルの番号、各注目領域ROIのデータタイプ、ラインごとのペイロード長など)に基づいて、そのラインの誤り訂正符号を生成する。ECC生成部142は、例えば、生成した誤り訂正符号をPH生成部143に出力する。PH生成部143は、例えば、フレーム情報120Cと、ECC生成部142で生成された誤り訂正符号とを用いて、1ラインごとにパケットヘッダPHを生成する。このとき、パケットヘッダPHは、例えば、
図4に示したように、ロングパケットのペイロードデータのパケットヘッダである。このパケットヘッダPHには、例えば、DI、WC及びECCが含まれている。WCは、映像受信装置200に対してパケットの終わりをワード数で示すための領域である。WCには、例えば、ペイロード長が含まれており、例えば、注目領域ROIごとのピクセル数が含まれている。ECCは、ビットエラーを修正するための値を格納する領域である。ECCには、誤り訂正符号が含まれている。DIは、データ識別子を格納する領域である。DIには、VC(バーチャルチャネル)の番号及びDataType(各注目領域ROIのデータタイプ)が含まれている。VC(バーチャルチャネル)は、パケットのフロー制御のために導入された概念であり、同一のリンクを共用する複数の独立したデータストリームをサポートするためのメカニズムである。PH生成部143は、生成したパケットヘッダPHを合成部147に出力する。
【0034】
EBDバッファ144は、ROI情報120Bを一次的に格納し、所定のタイミングでROI情報120Bをエンベデッドデータとして合成部147に出力する。エンベデッドデータとは、画像データフレーム(後述の
図5参照)のヘッダ又はフッタに埋め込むことの可能な追加情報を指している。エンベデッドデータには、例えば、ROI情報120Bが含まれている。
【0035】
ROIデータバッファ145は、圧縮像データ120Aを一次的に格納し、所定のタイミングで圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。ROIデータバッファ145は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。通常画像データバッファ146は、圧縮像データ130Aを一次的に格納し、所定のタイミングで圧縮像データ130Aをロングパケットのペイロードデータとして合成部147に出力する。通常画像データバッファ146は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ130Aをロングパケットのペイロードデータとして合成部147に出力する。
【0036】
合成部147は、通常画像の出力を指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力されたデータ(圧縮像データ130A)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。一方、合成部147は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力された各種データ(パケットヘッダPH、ROI情報120B、及び圧縮像データ120A)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。つまり、合成部147は、DataType(各注目領域ROIのデータタイプ)をロングパケットのペイロードデータのパケットヘッダPHに含めて送出する。また、合成部147は、各注目領域ROIの画像データ(圧縮像データ120A)を互いに共通のバーチャルチャネルで送出する。
【0037】
伝送データ147Aは、例えば、
図5に示したような画像データフレームによって構成されている。画像データフレームは、通常、ヘッダ領域、パケット領域、及びフッタ領域を有している。
図5では、便宜的に、フッタ領域の記載が省略されている。伝送データ147Aのフレームヘッダ領域R1には、エンベデッドデータが含まれている。このとき、エンベデッドデータには、ROI情報120Bが含まれている。
図5において、伝送データ147Aのパケット領域R2には、1ラインごとに、ロングパケットのペイロードデータが含まれており、さらに、ロングパケットのペイロードデータを挟み込む位置にパケットヘッダPH及びパケットフッタPFが含まれている。さらに、パケットヘッダPHとパケットフッタPFを挟み込む位置にローパワーモードLPが含まれている。
【0038】
このとき、パケットヘッダPHには、例えば、DI、WC及びECCが含まれている。WCには、例えば、ペイロード長が含まれており、例えば、注目領域ROIごとのピクセル数が含まれている。ECCには、誤り訂正符号が含まれている。DIには、VC(バーチャルチャネルの番号)及びDataType(各注目領域ROIのデータタイプ)が含まれている。本実施の形態では、各ラインのVCには、互いに共通のバーチャルチャネルの番号が付与されている。また、
図5において、伝送データ147Aのパケット領域R2には、圧縮像データ147Bが含まれている。圧縮像データ147Bは、1つの圧縮像データ120A、又は複数の圧縮像データ120Aによって構成されている。ここで、
図5において、パケットヘッダPH寄りのパケット群には、例えば、
図3中の伝送画像116a1の圧縮像データ120A(120A1)が含まれており、パケットヘッダPHから離れたパケット群には、例えば、
図3中の伝送画像116a2の圧縮像データ120A(120A2)が含まれている。これら2つの圧縮像データ120A1,120A2によって圧縮像データ147Bが構成されている。各ラインのロングパケットのペイロードデータには、圧縮像データ147Bにおける1ライン分のピクセルデータが含まれている。
【0039】
図6は、伝送データ147Aの構成例を表したものである。伝送データ147Aは、例えば、フレームヘッダ領域R1及びパケット領域R2を含んでいる。なお、
図6には、フレームヘッダ領域R1の中身が詳細に例示されている。また、
図6では、ローパワーモードLPが省略されている。
【0040】
フレームヘッダ領域R1には、例えば、伝送データ147Aの識別子としてのフレーム番号F1が含まれている。フレームヘッダ領域R1は、パケット領域R2に含まれる圧縮像データ147Bについての情報を含んでいる。フレームヘッダ領域R1は、例えば、圧縮像データ147Bに含まれる圧縮像データ120Aの数(ROI数)と、圧縮像データ147Bに含まれる各圧縮像データ120Aに対応するROI画像112についての情報(ROI情報120B)とを含んでいる。
【0041】
合成部147は、例えば、伝送データ147Aのパケット領域R2において、圧縮像データ147Bを、圧縮像データ120Aの画素行ごとに分けて配置する。したがって、伝送データ147Aのパケット領域R2には、重なり領域ROOの画像118に対応する圧縮像データが重複して含まれていない。また、合成部147は、例えば、伝送データ147Aのパケット領域R2において、撮像画像111のうち各伝送画像116と対応しない画素行を割愛している。したがって、伝送データ147Aのパケット領域R2には、撮像画像111のうち各伝送画像116に対応しない画素行は含まれていない。なお、
図6のパケット領域R2において、破線で囲んだ箇所が、重なり領域ROOの画像118の圧縮像データに相当する。
【0042】
パケットヘッダPH寄りのパケット群(例えば
図6中の1(n))と、パケットヘッダPHから離れたパケット群(例えば
図6中の2(1))との境界は、パケットヘッダPH寄りのパケット群(例えば
図6中の1(n))の圧縮像データに対応するROI画像112の物理領域長さXLa1によって特定される。パケットヘッダPH寄りのパケット群(例えば
図6中の1(n))に含まれる重なり領域ROOの画像118に対応する圧縮像データにおいて、パケットの開始位置は、パケットヘッダPHから離れたパケット群(例えば
図6中の2(1))に対応するROI画像112の物理領域長さXLa2によって特定される。
【0043】
合成部147は、例えば、伝送データ147Aのパケット領域R2において、1ラインごとに、ロングパケットのペイロードデータを生成する際に、ロングパケットのペイロードデータに、例えば、圧縮像データ147Bにおける1ライン分のピクセルデータの他に、例えば、
図7に示したように、ROI情報120Bを含めてもよい。つまり、合成部147は、ROI情報120Bをロングパケットのペイロードデータに含めて送出してもよい。このとき、ROI情報120Bは、例えば、
図7(A)~
図7(K)に示したように、撮像画像111に含まれる注目領域ROIの数(ROI数)、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットのうち少なくとも1つを含んでいる。ROI情報120Bは、ロングパケットのペイロードデータにおいて、パケットヘッダPH側の端部(つまり、ロングパケットのペイロードデータの先頭)に配置されることが好ましい。
【0044】
(映像受信装置200)
次に、映像受信装置200について説明する。
図8は、映像受信装置200の構成の一例を表したものである。
図9は、映像受信装置200におけるROI画像223Aの生成手順の一例を表したものである。映像受信装置200は、映像送信装置100と共通の規格(例えば、MIPICSI-2規格、MIPICSI-3規格、又は、MIPIDSI規格)で信号を受信する装置である。映像受信装置200は、例えば、受信部210及び情報処理部220を有している。受信部210は、映像送信装置100から出力された伝送データ147Aを、データレーンDLを介して受信し、受信した伝送データ147Aに対して所定の処理を行うことにより、種々のデータ(214A,215A,215B)を生成し、情報処理部220に出力する回路である。情報処理部220は、受信部210から受信した種々のデータ(214A,215A)に基づいて、ROI画像223Aを生成したり、受信部210から受信したデータ(215B)に基づいて、通常画像224Aを生成したりする回路である。
【0045】
受信部210は、例えば、ヘッダ分離部211、ヘッダ解釈部212、ペイロード分離部213、EBD解釈部214及びROIデータ分離部215を有している。
【0046】
ヘッダ分離部211は、伝送データ147Aを、データレーンDLを介して映像送信装置100から受信する。つまり、ヘッダ分離部211は、撮像画像111における各注目領域ROIについてのROI情報120Bをエンベデッドデータに含むとともに、各注目領域ROIの画像データ(圧縮像データ120A)をロングパケットのペイロードデータに含む伝送データ147Aを受信する。ヘッダ分離部211は、受信した伝送データ147Aをフレームヘッダ領域R1とパケット領域R2とに分離する。ヘッダ解釈部212は、フレームヘッダ領域R1に含まれるデータ(具体的にはエンベデッドデータ)に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータの位置を特定する。ペイロード分離部213は、ヘッダ解釈部212によって特定されたロングパケットのペイロードデータの位置に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータを、パケット領域R2から分離する。
【0047】
EBD解釈部214は、エンベデッドデータをEBDデータ214Aとして、情報処理部220に出力する。EBD解釈部214は、さらに、エンベデッドデータに含まれるデータタイプから、ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データ120Aであるか、又は、通常画像データの圧縮像データ130Aであるか判別する。EBD解釈部214は、判別結果をROIデータ分離部215に出力する。
【0048】
ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データ120Aである場合、ROIデータ分離部215は、ロングパケットのペイロードデータをペイロードデータ215Aとして、情報処理部220(具体的にはROIデコード部222)に出力する。ペイロードデータに含まれる画像データが通常画像データの圧縮像データ130Aである場合、ROIデータ分離部215は、ロングパケットのペイロードデータをペイロードデータ215Bとして、情報処理部220(具体的には通常画像デコード部224)に出力する。ロングパケットのペイロードデータにROI情報120Bが含まれている場合には、ペイロードデータ215Aは、ROI情報120Bと、圧縮像データ147Bのうち1ライン分のピクセルデータとを含んでいる。
【0049】
情報処理部220は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報処理部220は、情報抽出部221で抽出したROI情報120Bに基づいて、受信部210で受信した伝送データ147Aに含まれるロングパケットのペイロードデータから、撮像画像111における各注目領域ROIの画像(ROI画像112)を抽出する。情報処理部220は、例えば、情報抽出部221、ROIデコード部222、ROI画像生成部223及び通常画像デコード部224を有している。
【0050】
通常画像デコード部224は、ペイロードデータ215Bをデコードし、通常画像224Aを生成する。ROIデコード部222は、ペイロードデータ215Aに含まれる圧縮像データ147Bをデコードし、画像データ222Aを生成する。この画像データ222Aは、1又は複数の伝送画像116によって構成されている。
【0051】
情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報抽出部221は、例えば、EBDデータ214Aに含まれるエンベデッドデータから、例えば、撮像画像111に含まれる注目領域ROIの数、各注目領域ROIの領域番号(又は優先度115)、各注目領域ROIのデータ長、及び各注目領域ROIの画像フォーマットを抽出する。つまり、伝送データ147Aは、当該伝送データ147Aから得られる複数の伝送画像116のいずれに対して重なり領域ROOの画像118の割愛が行われたかを判別することの可能な判別情報として、各伝送画像116に対応する注目領域ROIの領域番号(又は優先度115)を含んでいる。
【0052】
ROI画像生成部223は、情報抽出部221で得られたROI情報120Bに基づいて、2以上の注目領域ROI同士が重なり合う重なり領域ROOを検出する。
【0053】
情報抽出部221が、例えば、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a1に対応する注目領域ROIの座標(例えば左上端座標(Xa1,Ya1))、長さ(例えば物理領域長さXLa1,YLa1)及び領域番号1(又は優先度115(=1))を抽出する。情報抽出部221が、さらに、例えば、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a2に対応する注目領域ROIの座標(例えば左上端座標(Xa2,Ya2))、長さ(例えば物理領域長さXLa2,YLa2)及び領域番号2(又は優先度115(=2))を抽出する。
【0054】
このとき、ROI画像生成部223は、抽出したこれらの情報(以下、「抽出情報221A」と称する。)に基づいて、重なり領域ROOの位置情報114を導出する。ROI画像生成部223は、上記の重なり領域ROOの位置情報114として、例えば、重なり領域ROOの座標(例えば左上端座標(Xb1,Yb1))及び長さ(例えば物理領域長さXLb1,YLb1)を導出する。
【0055】
なお、ROI画像生成部223は、EBDデータ214Aに含まれるエンベデッドデータからROI情報120Bを取得する代わりに、ペイロードデータ215AからROI情報120Bを取得してもよい。この場合、ROI画像生成部223は、ペイロードデータ215Aに含まれるROI情報120Bに基づいて、2以上の注目領域ROI同士が重なり合う重なり領域ROOを検出してもよい。また、ROI画像生成部223は、ペイロードデータ215Aに含まれるROI情報120Bから、抽出情報221Aを抽出してもよく、そのようにして抽出した抽出情報221Aに基づいて、重なり領域ROOの位置情報114を導出してもよい。
【0056】
ROI画像生成部223は、さらに、画像データ222Aと、抽出情報221Aと、重なり領域ROOの位置情報114とに基づいて、撮像画像111における各注目領域ROIの画像(ROI画像112a1,112a2)を生成する。ROI画像生成部223は、生成した画像をROI画像223Aとして出力する。
【0057】
[手順]
次に、
図3、
図9を参考にして、映像伝送システム1におけるデータ伝送の手順の一例について説明する。
【0058】
まず、撮像部110は、撮像により得られた撮像画像111(デジタルの画像データ)を画像処理部120に出力する。ROI切り出し部121は、撮像部110から入力された撮像画像111に含まれる2つの注目領域ROI1,ROI2を特定する。ROI切り出し部121は、撮像画像111から、各注目領域ROI1,ROI2の画像(ROI画像112a1,112a2)を切り出す。ROI切り出し部121は、注目領域ROI1に対して識別子として領域番号1を付与し、注目領域ROI2に対して識別子として領域番号2を付与する。
【0059】
ROI解析部122は、注目領域ROIごとに、撮像画像111における注目領域ROIの位置情報113を導出する。ROI解析部122は、注目領域ROI1に基づいて、注目領域ROI1の左上端座標(Xa1,Ya1)と、注目領域ROI1のX軸方向の長さ(XLa1)と、注目領域ROI1のY軸方向の長さ(YLa1)とを導出する。ROI解析部122は、注目領域ROI2に基づいて、注目領域ROI2の左上端座標(Xa2,Ya2)と、注目領域ROI2のX軸方向の長さ(XLa2)と、注目領域ROI2のY軸方向の長さ(YLa2)とを導出する。
【0060】
重なり検出部123は、撮像画像111における2つの注目領域ROI1,ROI2の位置情報113に基づいて、2つの注目領域ROI1,ROI2同士が重なり合う重なり領域ROOを検出する。つまり、重なり検出部123は、撮像画像111における重なり領域ROOの位置情報114を導出する。重なり検出部123は、撮像画像111における重なり領域ROOの位置情報114として、重なり領域ROOの左上端座標(Xb1,Yb1)と、重なり領域ROOのX軸方向の長さ(XLb1)と、重なり領域ROOのY軸方向の長さ(YLb1)とを導出する。
【0061】
優先度設定部124は、2つの注目領域ROI1,ROI2において、一方の注目領域ROI1に対して優先度115として1を付与し、他方の注目領域ROI2に対して優先度115として2を付与する。
【0062】
エンコード部125は、2つの注目領域ROI1,ROI2において重なり領域ROOの画像118が重複して含まれないように、撮像画像111から得られた2つのROI画像112a1,112a2から画像118を割愛したものである2つの伝送画像116a1,116a2を生成する。
【0063】
エンコード部125は、2つの注目領域ROI1,ROI2の領域番号(又は優先度115)に基づいて、2つのROI画像112a1,112a2のいずれに対して画像118の割愛を行うかを決定する。エンコード部125は、2つの注目領域ROI1,ROI2において、領域番号(又は優先度115)の大きい方である注目領域ROI2に対応するROI画像112a2に対して画像118の割愛を行い、これにより、伝送画像116a2を生成する。エンコード部125は、2つの注目領域ROI1,ROI2において、領域番号(又は優先度115)の小さな方である注目領域ROI1に対応するROI画像112a1については、ROI画像112a1そのものを伝送画像116a1とする。
【0064】
画像処理制御部126は、ROI情報120B及びフレーム情報120Cを生成し、送信部140に送信する。送信部140は、画像処理部120,130から入力された種々のデータ(120A,120B,120C,130A)に基づいて伝送データ147Aを生成する。送信部140は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に送出する。
【0065】
受信部210は、映像送信装置100から出力された伝送データ147Aを、データレーンDLを介して受信する。受信部210は、受信した伝送データ147Aに対して所定の処理を行うことにより、EBDデータ214A及びペイロードデータ215Aを生成し、情報処理部220に出力する。
【0066】
情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI情報120Bを抽出する。情報抽出部221は、EBDデータ214Aに含まれるエンベデッドデータから、ROI画像112a1に対応する注目領域ROIの座標(例えば左上端座標(Xa1,Ya1))、長さ(例えば物理領域長さXLa1,YLa1)及び領域番号1(又は優先度115(=1))を抽出する。情報抽出部221は、さらに、ROI画像112a2に対応する注目領域ROIの座標(例えば左上端座標(Xa2,Ya2))、長さ(例えば物理領域長さXLa2,YLa2)及び領域番号2(又は優先度115(=2))を抽出する。ROIデコード部222は、ペイロードデータ215Aに含まれる圧縮像データ147Bをデコードし、画像データ222Aを生成する。
【0067】
ROI画像生成部223は、抽出したこれらの情報(抽出情報221A)に基づいて、重なり領域ROOの位置情報114を導出する。ROI画像生成部223は、上記の重なり領域ROOの位置情報114として、例えば、重なり領域ROOの座標(例えば左上端座標(Xb1,Yb1))及び長さ(例えば物理領域長さXLb1,YLb1)を導出する。ROI画像生成部223は、さらに、画像データ222Aと、抽出情報221Aと、重なり領域ROOの位置情報114とに基づいて、撮像画像111における各注目領域ROIの画像(ROI画像112a1,112a2)を生成する。
【0068】
[効果]
次に、本実施の形態に係る映像伝送システム1の効果について説明する。
【0069】
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
【0070】
従来では、伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われている。
【0071】
ところで、イメージセンサからアプリケーションプロセッサへの伝送に用いられる方式として、MIPICSI-2が用いられることがある。この方式を用いてROIを伝送しようとした場合、様々な制約により、ROIの伝送が容易ではないことがある。
【0072】
一方、本実施の形態では、撮像画像111における各注目領域ROIについてのROI情報120Bがエンベデッドデータで送出されるとともに、各注目領域ROIの画像データがロングパケットのペイロードデータで送出される。これにより、映像送信装置100から送出された伝送データ147Aを受信した装置(映像受信装置200)において、伝送データ147Aから、各注目領域ROIの画像データ(ROI画像112)を容易に抽出することができる。その結果、様々な制約の下でも、注目領域ROIの伝送を行うことができる。
【0073】
また、本実施の形態では、各注目領域ROIの画像データ(圧縮像データ120A)が互いに共通のバーチャルチャネルで送出される。これにより、同一パケットの中で複数のROI画像112を送ることができるので、複数のROI画像112を送る間に、LPモードに入る必要がなく、高い伝送効率を得ることができる。
【0074】
また、本実施の形態では、各注目領域ROIのデータタイプがロングパケットのペイロードデータのパケットヘッダPHに含めて送出される。これにより、エンベデッドデータにアクセスしなくても、ロングパケットのペイロードデータのパケットヘッダPHにアクセスするだけで、各注目領域ROIのデータタイプが得られる。これにより、映像受信装置200における処理速度を速くすることができるので、高い伝送効率を得ることができる。
【0075】
また、本実施の形態において、ROI情報120Bがロングパケットのペイロードデータに含めて送出される場合には、エンベデッドデータにアクセスしなくても、ロングパケットのペイロードデータにアクセスするだけで、ROI情報120Bが得られる。これにより、映像受信装置200における処理速度を速くすることができるので、高い伝送効率を得ることができる。
【0076】
また、本実施の形態では、伝送データ147Aに含まれるエンベデッドデータから、各注目領域ROIについてのROI情報120Bが抽出されるとともに、抽出されたROI情報120Bに基づいて、伝送データ147Aに含まれるロングパケットのペイロードデータから、各注目領域ROIの画像(ROI画像112)が抽出される。これにより、伝送データ147Aから、各注目領域ROIの画像(ROI画像112)を容易に抽出することができる。その結果、様々な制約の下でも、注目領域ROIの伝送を行うことができる。
【0077】
2.本開示の前提技術2:
撮像画像から切り出した一部(形状が非矩形状)の注目領域(ROI)を伝送する技術について、
図1から
図9を参照しつつ
図10から
図12を用いて説明する。すなわち、方形状(矩形状)以外の形状を有する撮影対象の物体の画像を送受信する技術について、説明する。
図10は、撮像画像111において特定された物体が配置された領域を模式的に示す図である。なお、
図10では、理解を容易にするため、15行×23列の撮像素子で構成された撮像領域で撮像された撮像画像111が模式的に図示されている。
図11は、特定された物体に対して設定されたROI領域の一例を示す図である。
【0078】
前提技術2では、前提技術1と同様に、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から映像送信装置100に入力された場合に、撮像部110から入力された撮像画像111に対して所定の処理を行う場合について説明する。しかしながら、前提技術2では、映像送信装置100、すなわち送信側がROIの切り出しの座標指示する場合も適用できある。この場合、送信側は例えば、受信側から送出されるROIで取得すべき「人物」や「物体」等の情報を受信して切り出しの座標を判断および指示するように構成される。
【0079】
ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力される。これにより、
図10に示すように、ROI切り出し部121は、撮像画像111に含まれる撮影対象の4つの物体1~4を特定する。物体1は例えば、撮像画像111内の左上領域の一部を占める矩形状を有している。物体2は例えば、撮像画像111内で物体1の右側の一部の領域を占め、矩形の上側の両側角部及び下辺の一部が欠落した形状を有している。物体3は例えば、撮像画像111内で物体2の下方の一部の領域を占め、矩形の四隅が欠落した形状を有している。物体4は例えば、撮像画像111内で物体3の下方の一部の領域を占め、矩形の上側の両側角部が欠落した形状を有している。物体3及び物体4は一部が重なり合っている。
【0080】
図11に示すように、ROI切り出し部121(
図2参照)は、特定した物体1~4をそれぞれ含む最小の矩形を注目領域ROI1~ROI4として設定する。ROI切り出し部121は、物体1に対して注目領域ROI1を設定し、ROI画像112a1を切り出す。また、ROI切り出し部121は、物体2に対して注目領域ROI2を設定し、ROI画像112a2を切り出す。また、ROI切り出し部121は、物体3に対して注目領域ROI3を設定し、ROI画像112a3を切り出す。さらに、ROI切り出し部121は、物体4に対して注目領域ROI4を設定し、ROI画像112a4を切り出す。
【0081】
ROI切り出し部121は、注目領域ROI1と、注目領域ROI1に付与した領域番号「1」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI2と、注目領域ROI2に付与した領域番号「2」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI3と、注目領域ROI3に付与した領域番号「3」とを関連付けて記憶部に格納する。ROI切り出し部121は、注目領域ROI4と、注目領域ROI4に付与した領域番号「4」とを関連付けて記憶部に格納する。
【0082】
ROI解析部122(
図2参照)は、注目領域ROI1~ROI4のそれぞれの位置情報を導出する。ROI解析部122は、注目領域ROI1の位置情報として例えば、X軸方向の物理領域長さXLa1及びY軸方向の物理領域長さYLa1を導出する。ROI解析部122は、注目領域ROI2の位置情報として例えば、X軸方向の物理領域長さXLa2及びY軸方向の物理領域長さYLa2を導出する。ROI解析部122は、注目領域ROI3の位置情報として例えば、X軸方向の物理領域長さXLa3及びY軸方向の物理領域長さYLa3を導出する。ROI解析部122は、注目領域ROI4の位置情報として例えば、X軸方向の物理領域長さXLa4及びY軸方向の物理領域長さYLa4を導出する。ROI解析部122は、注目領域ROIごとに、位置情報113として、さらに、例えば、注目領域ROIのX軸方向の出力領域長さXLcや、注目領域ROIのY軸方向の出力領域長さYLcを導出してもよい。
【0083】
ROI解析部122は、注目領域ROIのそれぞれのX軸方向及びY軸方向の長さを導出することによって、後段への情報として注目領域ROI1~ROI4のそれぞれの大きさや総データ量を導出する。これにより、後段に相当する映像受信装置200はメモリ領域を確保できる。
【0084】
ROI解析部122は、撮影対象の物体及び注目領域の形状が一致していない場合には、注目領域ROIの位置情報ではなく、ROI画像112a1~112a4の位置情報を導出するように構成されている。ROI解析部122は、ROI画像112a1~112a4の位置情報として、各行の左端座標(xn,yn)及びX軸方向の物理領域長さXLnを導出する。また、ROI画像112a2の2行目のようにROI画像が分離している場合には、ROI解析部122は、分離している部分のそれぞれについて位置情報を導出する。ROI解析部122は、注目領域ROI1~ROI4の領域番号と、ROI画像112a1~112a4の位置情報とを対応付けて記憶部に格納する。
【0085】
また、ROI解析部122は、例えば、注目領域ROI1~ROI4ごとに、位置情報の他に、例えば、センシングインフォメーション、露光情報、ゲイン情報、AD語長、画像フォーマットなどを導出し、領域番号と対応付けて記憶部に格納してもよい。
【0086】
重なり検出部123(
図2参照)は、撮影対象の物体が矩形状の場合には、注目領域同士が重なり合う領域ではなく、ROI画像同士が重なり合う領域を重なり領域として導出する。
図11に示すように、重なり検出部123は、ROI画像112a3及びROI画像123a4が重なり合う領域として重なり領域ROOを導出する。重なり検出部123は、導出した重なり領域ROOを注目領域ROI3,ROI4の位置情報のそれぞれに対応付けて記憶部に格納する。
【0087】
優先度設定部124(
図2参照)は、優先度「1」を注目領域ROI1に付与し、優先度1を注目領域ROI1に対応付けて記憶部に格納する。優先度設定部124は、優先度「1」よりも優先度が低い優先度「2」を注目領域ROI2に付与し、優先度2を注目領域ROI2に対応付けて記憶部に格納する。優先度設定部124は、優先度「2」よりも優先度が低い優先度「3」を注目領域ROI3に付与し、優先度3を注目領域ROI3に対応付けて記憶部に格納する。優先度設定部124は、優先度「3」よりも優先度が低い優先度「4」を注目領域ROI4に付与し、優先度4を注目領域ROI4に対応付けて記憶部に格納する。
【0088】
エンコード部125(
図2参照)は、ROI画像112a1~112a4のそれぞれについて伝送画像を生成する。注目領域ROI4は注目領域ROI3よりも優先度が低いので、エンコード部125は、ROI画像112a4から重なり領域ROOを割愛して伝送画像を生成する。
【0089】
画像処理制御部126(
図2参照)は、ROI情報及びフレーム情報を生成し、送信部140(
図2参照)に送信する。ROI情報には例えば、ROI画像112a1~112a4のそれぞれの位置情報が含まれる。ROI情報にはその他に、上述の撮影対象の物体が矩形状の場合と同様の情報(例えば注目領域ROI1~ROI4のそれぞれデータタイプ、撮像画像111に含まれる注目領域ROI1~ROI4の数、注目領域ROI1~ROI4の領域番号及び優先度など)が含まれる。フレーム情報には例えば、注目領域ROI1~ROI4のデータタイプなど、上述の撮影対象の物体が矩形状の場合と同様の情報が含まれる。
【0090】
送信部140(
図2参照)に設けられたLINK制御部141は、画像処理制御部126から入力されるフレーム情報及びROI情報をラインごとにECC生成部142及びPH生成部143(いずれも
図2参照)に出力する。ECC生成部142は例えば、フレーム情報における1ラインのデータ(例えば、バーチャルチャネルの番号、注目領域ROI1~ROI4のそれぞれのデータタイプ、ラインごとのペイロード長など)に基づいて、そのラインの誤り訂正符号を生成する。ECC生成部142は例えば、生成した誤り訂正符号をPH生成部143に出力する。PH生成部143は例えば、フレーム情報と、ECC生成部142で生成された誤り訂正符号とを用いて、1ラインごとにパケットヘッダPH(
図4参照)を生成する。
【0091】
EBDバッファ144(
図2参照)は、ROI情報を一次的に格納し、所定のタイミングでROI情報をエンベデッドデータとして合成部147(
図2参照)に出力する。
【0092】
ROIデータバッファ145(
図2参照)は、エンコード部125から入力される圧縮像データを一次的に格納し、例えばROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、圧縮像データ120Aをロングパケットのペイロードデータとして合成部147に出力する。
【0093】
合成部147は、ROIの切り出しを指示する制御信号がカメラ制御インタフェースCCIを介して映像受信装置200から入力された場合に、入力された各種データ(パケットヘッダPH、ROI情報及びROIデータバッファ145を介してエンコード部125から入力された圧縮像データ)に基づいて、伝送データ147Aを生成する。合成部147は、生成した伝送データ147Aを、データレーンDLを介して映像受信装置200に出力する。つまり、合成部147は、注目領域ROI1~ROI4のそれぞれのデータタイプをロングパケットのペイロードデータのパケットヘッダPHに含めて送出する。また、合成部147は、注目領域ROI1~ROI4のそれぞれの画像データ(圧縮像データ)を互いに共通のバーチャルチャネルで送出する。
【0094】
撮影対象の物体が矩形状でない場合、ROI画像112a1~112a4の位置情報は、パケットヘッダPH又はロングパケットのペイロードデータに含められる。ROI画像112a1~112a4の位置情報は、PH生成部143によってパケットヘッダPHに含められる。一方、ROI画像112a1~112a4の位置情報は、合成部147によってロングパケットのペイロードデータに含められる。
【0095】
図12は、ROI画像112a1~112a4の位置情報がロングパケットのペイロードデータに含められている伝送データ147Aの構成例を示す図である。
図12に示すように、伝送データ147Aは例えば、フレームヘッダ領域R1及びパケット領域R2を含んでいる。なお、
図12には、フレームヘッダ領域R1の中身が詳細に例示されている。また、
図12では、ローパワーモードLPが省略されている。
【0096】
フレームヘッダ領域R1には例えば、伝送データ147Aの識別子としてのフレーム番号F1が含まれている。フレームヘッダ領域R1は、パケット領域R2に含まれる圧縮像データについての情報を含んでいる。フレームヘッダ領域R1は例えば、圧縮像データの数(ROI数)と、各圧縮像データに対応するROI画像112a1~112a4のそれぞれについての情報(ROI情報)とを含んでいる。ROI情報は、領域番号、物理領域長さ、矩形出力領域大きさ、優先度、露光情報、ゲイン情報、AD語長及び画像フォーマットを含んでいる。物理領域長さは、ROI画像の最大長さであり、矩形出力領域大きさは、注目領域ROIの大きさである。
【0097】
図12中に示す「Info」は、ロングパケットのペイロードに格納される領域情報を示している。ROI画像112a1~112a4の位置情報は、例えば「info」に格納される。ROI画像112a1~112a4の位置情報は、ロングパケットのペイロードの先頭部分に格納される。ROI画像を構成し連続する各画素行のX軸方向の物理領域長さが同じであり、かつ当該各画素行に異なる領域番号のROI画像が含まれていない場合には、当該各画素行のうちの2行目以降の画素行の画像データを含むロングパケットのペイロードには、領域情報「info」が格納されていなくてもよい。本例では、ROI画像112a1は、全ての画素行のうちの連続する1行目から4行目の画素行においてX軸方向の物理領域長さが同じであり、当該1行目から4行目の画素行には、異なる領域番号のROI画像が含まれていない。このため、ROI画像112a1を構成し連続する1行目から4行目の画素行のうちの2行目以降に相当する2行目から4行目の画素行の画像データを含むそれぞれのロングパケットのペイロードには、領域情報「info」が格納されていない。また、本例では、ROI画像112a4は、全ての画素行のうちの連続する2行目及び3行目の画素行においてX軸方向の物理領域長さが同じであり、当該2行目及び3行目の画素行には、異なる領域番号のROI画像が含まれていない。このため、ROI画像112a4を構成し連続する2行目及び3行目の画素行のうちの2行目以降に相当する3行目の画素行の画像データを含むロングパケットのペイロードには、領域情報「info」が格納されていない。なお、X軸方向の物理領域長さが同じであり、かつ当該各画素行に異なる領域番号のROI画像が含まれていない場合でも、各行のペイロードに領域情報「info」が格納されていてもよい。
【0098】
合成部147は例えば、伝送データ147Aのパケット領域R2において、ROI画像112a1~112a4のそれぞれを圧縮して生成された圧縮像データを画素行ごとに分けて配置する。
図12中に示す「1」は、ロングパケットのペイロードに格納されたROI画像112a1の圧縮像データを示している。
図12中に示す「2」は、ロングパケットのペイロードに格納されたROI画像112a2の圧縮像データを示している。
図12中に示す「3」はROI画像112a3の圧縮像データを示している。
図12中に示す「4」は、ロングパケットのペイロードに格納されたROI画像112a4の圧縮像データを示している。なお、
図12では、理解を容易にするため、各圧縮像データが区切られて示されているが、ロングパケットのペイロードに格納されるデータに区切りはない。伝送データ147Aのパケット領域R2には、重なり領域ROOの画像に対応する圧縮像データ112bが重複して含まれていない。また、合成部147は、例えば、伝送データ147Aのパケット領域R2において、撮像画像111のうち各伝送画像と対応しない画素行を割愛している。したがって、伝送データ147Aのパケット領域R2には、撮像画像111のうち各伝送画像に対応しない画素行は含まれていない。
【0099】
次に、伝送データ147Aを受信した場合の映像受信装置200の動作について説明する。
受信部210に設けられたヘッダ分離部211(いずれも
図8参照)は、伝送データ147Aを、データレーンDLを介して映像送信装置100から受信する。つまり、ヘッダ分離部211は、撮像画像111における注目領域ROI1~ROI4についてのROI情報をエンベデッドデータに含むとともに、注目領域ROI1~ROI4の画像データ(圧縮像データ)をロングパケットのペイロードデータに含む伝送データ147Aを受信する。ヘッダ分離部211は、受信した伝送データ147Aをフレームヘッダ領域R1とパケット領域R2とに分離する。
【0100】
ヘッダ解釈部212(
図8参照)は、フレームヘッダ領域R1に含まれるデータ(具体的にはエンベデッドデータ)に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータの位置を特定する。
【0101】
ペイロード分離部213(
図8参照)は、ヘッダ解釈部212によって特定されたロングパケットのペイロードデータの位置に基づいて、パケット領域R2に含まれるロングパケットのペイロードデータをパケット領域R2から分離する。
【0102】
EBD解釈部214は、エンベデッドデータをEBDデータとして、情報処理部220(
図8参照)に出力する。EBD解釈部214は、さらに、エンベデッドデータに含まれるデータタイプから、ロングパケットのペイロードデータに含まれる画像データがROIの画像データ116の圧縮像データであるか、又は、通常画像データの圧縮像データであるか判別する。EBD解釈部214は、判別結果をROIデータ分離部215(
図8参照)に出力する。
【0103】
ROIデータ分離部215は、ロングパケットのペイロードデータに含まれる画像データがROIの画像データが入力されると、ロングパケットのペイロードデータをペイロードデータとして、情報処理部220(具体的にはROIデコード部222(
図8参照))に出力する。ROI情報が含まれているロングパケットのペイロードデータには、ROI情報と圧縮像データのうち1ライン分のピクセルデータとが含まれている。
【0104】
情報処理部220に設けられた情報抽出部221(
図8参照)は、EBD解釈部214から入力されるEBDデータに含まれるエンベデッドデータから、撮像画像111に含まれる注目領域ROI1~ROI4の数(本例では4つ)、注目領域ROI1~ROI4の領域番号1~4及び優先度1から4、注目領域ROI1~ROI4のそれぞれのデータ長、並びに注目領域ROI1~ROI4のそれぞれの画像フォーマットを抽出する。さらに、情報抽出部221は、当該エンベデッドデータから、ROI画像112a1~112a4の位置情報を抽出する。
【0105】
ROIデコード部222は、ペイロードデータに含まれている圧縮像データ147Bをデコードし、ROI画像112a1~112a4の位置情報を抽出するとともに、画像データ(伝送画像によって構成)を生成する。ROIデコード部222は、例えば6行目の画素行に対応するペイロードデータが入力された場合、当該ペイロードデータから、ROI画像112a1の1つの位置情報と、ROI画像112a2の2つの位置情報とを抽出し、6行目の画素行に対応するROI画像112a1,112b1の画像データ(伝送画像)をそれぞれ生成する。
【0106】
ROIデコード部222は、例えば10行目の画素行に対応するペイロードデータが入力された場合、当該ペイロードデータから、ROI画像112a3の1つの位置情報と、ROI画像112a4の1つの位置情報とを抽出し、ROI画像112a3,112b4の画像データ(伝送画像)をそれぞれ生成する。
【0107】
ROI画像生成部223(
図8参照)は、情報抽出部221で得られたROI情報、ROIデコード部222で抽出されたROI画像112a1~112a4の位置情報及びROIデコード部222で生成された伝送画像に基づいて、撮像画像111における注目領域ROI1~ROI4のROI画像112a1~112a4を生成する。ROI画像生成部223は、例えば6行目の画素行に対応するペイロードデータから抽出されたROI画像112a1の1つの位置情報及びROI画像112a2の2つの位置情報並びにそれらの伝送画像が入力された場合、X軸方向に延在する5画素分のROI画像112a1と、当該ROI画像112a1とは5画素分離れた位置でX軸方向に延在する4画素分のROI画像112a2と、当該ROI画像112a2から2画素分離れた位置でX軸方向に延在する2画素分のROI画像112a2とを生成する(
図10参照)。
【0108】
また、ROI画像生成部223は、情報抽出部221で得られたROI情報に基づいて、注目領域ROI3及び注目領域ROI4同士が重なり合う重なり領域ROOを検出する。ROI画像生成部223は、検出した重なり領域ROOと、10行目の画素行に対応するペイロードデータから抽出されたROI画像112a3,112a4のそれぞれ位置情報と、伝送画像とに基づいて、X軸方向に延在する4画素分のROI画像112a3と、当該ROI画像112a3に1画素分が重なった状態でX軸方向に延在する3画素分のROI画像112a4とを生成する(
図10参照)。
【0109】
ROI画像生成部223は、生成した画像をROI画像として後段の装置(不図示)に出力する。
【0110】
このようにして、映像送信装置100及び映像受信装置200は、撮影対象の物体が矩形以外の形状を有していても、ROI画像として送受信することができる。
【0111】
3.本開示の実施形態における復元処理の原理:
次に、本開示の実施形態における復元処理の原理について
図13から
図17を用いて説明する。本開示の実施形態(以下、本実施形態という)における復元処理は、映像送信装置から映像受信装置に入力された注目領域(ROI)の画像データを、所定の表示装置に表示可能な状態に復元する処理である。映像受信装置において復元処理を実行し、注目領域の画像データを復元することにより、例えば、注目領域の画像データの表示に係る種々の処理(例えばフレームメモリへの書込みや、所定の表示装置への注目領域の画像データの出力など)を効率的に実施することができる。
【0112】
3-1.映像送信装置における注目領域の画像データの送出
まず、復元処理の前段階として、映像受信装置に注目領域の画像データが入力されるまでの処理について説明する。上述のように、撮像画像から切り出された注目領域)の画像データは、映像送信装置からペイロードデータで送出される。
図13は、映像送信装置の撮像部で得られた撮像画像の一例を模式的に示す図である。
図13では、撮像画像αをピクセル座標と対応付けて示している。本例では撮像画像αにおいて、複数(本例では3つ)の注目領域(ROI0,ROI1,ROI2)が設定されている。以降、復元処理について、
図13に示す注目領域ROI0~ROI2を具体例として説明する。
【0113】
本例において、撮像画像αの座標系は、左上端部の画素を原点α_оとし、撮像画像αのX軸方向(横方向)及びY軸方向(縦方向)で形成されるXY直交座標系となっている。また、
図13に示すように、撮像画像αの右下端部(終点)α_eの座標は(1759,989)となっている。つまり、本例の撮像画像αは、幅(X軸方向の長さ)が1760画素(Pixel)、高さ(Y軸方向の長さ)が990画素で構成される矩形状の画像である。本例では、撮像画像αについて、例えば映像受信装置からの制御信号での指示に基づいて設定された3つの注目領域(ROI0,ROI1,ROI2)が切り出されたとする。注目領域ROI0~2は、いずれも矩形状の領域である。また、注目領域ROI0~2のそれぞれは、互いに重複することなく所定間隔を設けて配置されている。また撮像画像αにおいて、注目領域ROIが配置されていない領域を、注目外領域OEとする。
【0114】
図14は、撮像画像αに含まれる3つの注目領域(ROI1,ROI2,ROI3)それぞれの撮像画像α内における座標及び画像サイズを示す図である。注目領域の座標において、撮像画像αの原点α_оに最も近い座標が左上端座標(始点座標)であり、原点α_оから最も離れた座標が右下端座標(終点座標)となる。また、注目領域のサイズには、注目領域の幅を示すX軸方向長さと、注目領域の高さを示すY軸方向長さとがある。矩形状の注目領域は、少なくとも始点座標、X軸方向長さおよびY軸方向長さを用いることで、撮像画像内における配置状態、つまり撮像画像内における位置、および画像サイズを求めることができる。
【0115】
図14に示すように、本例において注目領域ROI0は、撮像画像α内において、始点座標が始点X座標i0=520、始点Y座標j0=300であり、終点座標が終点X座標k0=919、終点Y座標l0=899となる位置に配置されている。また、注目領域ROI1は、始点座標が始点X座標i1=1040、始点Y座標j1=140であり、終点座標が終点X座標k1=1439、終点Y座標l1=739となる座標位置に配置されている。また、注目領域ROI2は、始点座標が始点X座標i2=100、始点Y座標j2=100であり、終点座標が終点X座標k2=499、終点Y座標l2=699となる座標位置に配置されている。また、本例において、注目領域ROI0~2は、いずれもX軸方向長さが400ピクセル、Y軸方向長さが600ピクセルである。
【0116】
図13および
図14に示すように、本例において注目領域ROI0~2の始点座標におけるX座標は、注目領域ROI2のX座標i2(100)が最も原点α_оに近く、次いで注目領域ROI0の始点X座標i0(520),ROI1の始点X座標i1(1040)の順となる。したがって、撮像画像αにおいて注目領域ROI0~2のX軸方向の相対位置は、注目領域ROI2,ROI0,ROI1の順となる。また、本例において注目領域ROI0~2の始点座標におけるY座標は、注目領域ROI2が最も原点α_оに近く、次いで注目領域ROI1,ROI0の順となる。したがって、
図13に示すように、撮像画像αにおいて注目領域ROI0~2のY軸方向の相対位置は、注目領域ROI2,ROI1,ROI0の順となる。
【0117】
映像送信装置では、例えば
図13に示すROI0~2の切り出しを指示する制御信号が映像受信装置から入力された場合に、撮像部31の撮像領域から画像を切り出す切り出し位置、すなわち注目領域ROI0~2のそれぞれの始点座標及び画像サイズ(X軸方向及びY軸方向の長さ)を決定する。決定された始点座標及び画像サイズは、それぞれ位置情報、サイズ情報としてROI情報に含まれる。つまり、ROI情報には、撮像画像から切り出された所定数の注目領域(ROI)に対応する位置情報およびサイズ情報が含まれる。ROI情報は、伝送データのフレームヘッダ領域においてエンベデッドデータに設定され、映像送信装置から送出される。
【0118】
エンベデッドデータに設定されるROI情報は、伝送規格の仕様などによって制限される場合がある。本実施形態では、映像受信装置において撮像画像における注目領域の位置、サイズを判定可能な最小限のデータとして、始点座標および画像サイズをそれぞれ位置情報、サイズ情報としてROI情報を生成している。本実施形態において、注目領域の右下端を示す終点座標はROI情報に含まれないが、
図14では理解を容易にするため、始点座標と合わせて終点座標を表示している。なお、本開示はROI情報における位置情報として注目領域の終点座標を含むように構成されてもよい。本開示における位置情報は、注目領域が矩形状の場合、4つの角部のいずれかを示す座標であればよい。
【0119】
図15は、注目領域ROI0~2の各画像データを含んで構成されるペイロードデータの一例を示す図である。ペイロードデータは、伝送データのパケット領域に設定されて、映像送信装置から送出される。本実施形態では、ペイロードデータの各ラインには、注目領域の画像データが画素行単位、つまり撮像画像におけるY軸座標単位で格納される。
【0120】
本実施形態において、注目領域を格納するペイロードデータには、撮像画像内の注目領域の画像データのみが含まれ、注目外領域OEの画像データは格納されない。したがって、撮像画像内において注目外領域OEの画像データのみで構成される画素行は、ペイロードデータに含まれない。また、ペイロードデータ内において注目領域の画像データは、ペイロードヘッダPH(上記前提技術1及び2における「パケットヘッダPH」に対応)側に左詰めにされた状態でペイロードデータに格納される。
図15に示すように、撮像画像内の注目領域の画像データは、左上方向、つまり、撮像画像の原点(本例では、原点α_о)方向に詰めた状態で、ペイロードデータに格納される。本例において、注目領域ROI0~2の各画像データは、撮像画像α内のY軸座標800行分の画素行に相当する。このため、本例において注目領域ROI0~2の各画像データを格納するペイロードデータは、先頭から順にラインPL1~800の全800ラインで構成され、撮像画像α内のY軸座標800行分の画素行を格納するデータ群を構成している。
【0121】
本例において、撮像画像α内の3つの注目領域(ROI)のうち、始点座標のY座標が最も小さい領域は、注目領域ROI2である。このため、
図15に示すように、ペイロードデータの先頭行であるラインPL1には、注目領域ROI2の画素行のうち1行目の画像データ(本例では、画像データROI2(L1))が左詰で格納される。また、本例において、撮像画像α内の3つの注目領域のうち、始点座標のY座標が最も大きい領域は、注目領域ROI0である。このため、
図15に示すように、ペイロードデータの最終行であるラインPL800には、注目領域ROI0の画素行のうち最終行の画像データ(本例では、画像データROI0(L600))が左詰めで格納される。
【0122】
このように、本例の撮像画像αにおける注目領域ROI0~2の画像データは、始点座標のY座標(Y座標j0~2)の値が小さい領域の画像データから順に左詰めされて、ペイロードデータの各ラインに格納されることとなる。例えば
図15に示すペイロードデータのラインPL1~40には、注目領域ROI2の始点座標のY座標j2に相当する画素行1行目(Y座標=100)から画素行140行目(Y座標=139)までの画像データROI2(L1)~(L40)が左詰で格納されている。
【0123】
また、上述のように、ペイロードデータの各ラインには撮像画像におけるY軸座標単位(画素行単位)で、注目領域の画像データが格納される。ペイロードデータに格納される画素行単位の注目領域の画像データを、ROI画素行データという。ROI画素行データは、圧縮された注目領域の画像データを含むパケット群で構成される。撮像画像内の同一のY座標に複数の注目領域が配置されている場合、ROI画素行データには、複数の注目領域Iの画像データそれぞれを含む複数のパケット群が左詰で連続して格納される。
【0124】
また例えば
図13に示すように、撮像画像αでは注目領域ROI1の始点座標のY座標i1(140)と同一Y座標上に、注目領域ROI2も存在している。このため
図15に示すように、本例においてペイロードデータのラインPL41には、撮像画像αにおけるY座標140に相当する画素行の画像データとして、注目領域ROI2の41行目の画素行の画像データROI2(L41)および注目領域ROI1の1行目の画像行の画像データROI1(L1)がこの順に左詰で格納されている。同様にして、ペイロードデータのラインPL41以降、ラインPL42(不図示)からラインPL200にも、2つの注目領域ROI2,ROI1の画像データがこの順に左詰で格納されている。
【0125】
また例えば
図13に示すように、撮像画像αでは注目領域ROI0の始点座標のY座標i1(300)と同一Y座標上に、注目領域ROI2,ROI1も存在している。このため
図15に示すように、本例においてペイロードデータのラインPL201には、撮像画像αにおけるY座標300に相当する画素行の画像データとして、注目領域ROI2の201行目の画素行の画像データROI2(L201)、注目領域ROI0の1行目の画素行の画像データROI0(L1)および注目領域ROI1の161行目の画像行の画像データROI1(L161)がこの順に左詰で格納されている。同様にして、ペイロードデータのラインPL201以降、ラインPL202(不図示)からラインPL600にも、3つの注目領域ROI2,ROI0,ROI1の画像データがこの順に左詰で格納されている。
【0126】
また、ペイロードデータのラインPL600には、注目領域ROI2の終点座標のY座標l2(撮像画像αにおけるY座標=699)の画像データとして、注目領域ROI2の最終行である600行目の画素行の画像データROI2(L600)が含まれる。以降、ペイロードデータのラインPL601からラインPL640には、2つの注目領域ROI0,ROI1の画像データがこの順に左詰で格納される。また、ペイロードデータのラインPL640には、注目領域ROI1の終点座標のY座標l1(撮像画像αにおけるY座標=739)の画像データとして、注目領域ROI1の最終行である600行目の画素行の画像データROI1(L600)が含まれる。以降、ペイロードデータのラインPL641からラインPL800には、1つの注目領域ROI0の画像データがこの順に左詰で格納される。ペイロードデータのラインPL800には、注目領域ROI0の終点座標のY座標l0(撮像画像αにおけるY座標=899)の画像データとして、注目領域ROI0の最終行である600行目の画素行の画像データROI0(L600)が含まれる。このようにして、本例の注目領域ROI0~2の画像データを含む800ライン分のペイロードデータが構成される。
【0127】
このようにして、所定の撮像画像(本例では、撮像画像α)から切り出された所定数(本例では3つ)の注目領域(ROI)の画像データを格納したペイロードデータは、切りだされた所定数のROIに対応するROI情報を含むエンベデッドデータとともに映像送信装置から映像受信装置に送出される。
【0128】
3-2.映像受信装置における復元処理
本実施形態において、映像受信装置では注目領域の画像データを含む伝送データを受信すると、受信した伝送データに含まれる注目領域の画像データの復元処理を行う。映像送信装置と映像受信装置との間では、画像データを含んだ伝送データが画像データフレーム単位で通信されている。例えば、画像データフレームのヘッダ領域およびパケット領域の各領域内のデータは、トランザクション単位で映像受信装置に伝送される。映像受信装置では画像データフレームの開始を示すパケット(SOF:Start Of Frame)を受信することで伝送データに含まれる画像データに係る種々の処理が行われるが、復元処理もその一例である。
【0129】
本実施形態における復元処理においては、受信した伝送データから注目領域に対応するROI情報を抽出し、抽出したROI情報に基づいて復元処理に用いるROI復元情報が生成される。注目領域の画像データは、映像送信装置において圧縮された状態からデコードされた上で、ROI復元情報に基づいて表示可能状態に復元され、フレームメモリに書込まれる。
【0130】
復元処理の実行により、エンベデッドデータから抽出した所定数の注目領域に対応するROI情報に基づいて、注目領域の画像データが所定の表示装置に表示可能な状態(表示可能状態)に復元される。これにより、撮像画像において任意の位置および画像サイズで切り出された注目領域の画像データを、効率的に表示装置に表示することができる。以下、理解を容易にするため、復元処理について、情報抽出プロセスと書込みプロセスとに分けて説明する。情報抽出プロセスは抽出したROI情報から復元処理に用いるROI復元情報を生成するプロセスであり、書込みプロセスはROI復元情報に基づいて注目領域の画像データをフレームメモリに書込むプロセスである。
【0131】
〔情報抽出プロセス〕
情報抽出プロセスにおいては、まず伝送データ内のエンベデッドデータを解析し、撮像画像から切り出された所定数の注目領域(ROI)に対応するROI情報を、エンベデッドデータから抽出する。情報抽出プロセスにおいては、エンベデッドデータからROI情報として、注目領域の位置情報およびサイズ情報が抽出される。
【0132】
本実施形態において位置情報は、撮像画像内における注目領域の位置を示す情報であって、例えば注目領域の左上端部を示す始点座標(X座標およびY座標)に相当する。また、本実施形態においてサイズ情報は、撮像画像内における注目領域のサイズ(画素数)を示す情報であって、例えば注目領域のX軸方向長さおよびY軸方向長さに相当する。したがって、本実施形態における情報抽出プロセスでは、ROI情報における位置情報として注目領域の始点座標が抽出される。また、ROI情報におけるサイズ情報として注目領域のX軸方向長さおよびY軸方向長さが抽出される。
【0133】
本例では、
図13に示すように撮像画像αにおいて3つの注目領域ROI0~2が切り出されている。このため、本例では情報抽出プロセスにおいて、エンベデッドデータからROI情報として、注目領域ROI0~2それぞれの始点座標、X軸方向長さおよびY軸方向長さ(
図14参照)が抽出される。
【0134】
(ROI復元情報)
情報抽出プロセスでは、ROI情報(位置情報、サイズ情報)の抽出を行うと、抽出したROI情報に基づいて、注目領域の画像データの復元に用いるROI復元情報を生成する。ここで、
図16を用いてROI復元情報について詳細に説明する。
図16は、ROI復元情報を構成する第一座標データおよび第二座標データについて説明する図である。情報抽出プロセスでは、ROI復元情報の生成にあたり、抽出したROI情報(位置情報およびサイズ情報)に基づいて、注目領域ごとに
図16に示す第一座標データおよび第二座標データを生成する。例えば、本例では3つの注目領域ROI0~2が復元処理の対象となっている。したがって、本例におけるROI復元情報生成にあたっては、3つの注目領域ROI0~2のそれぞれに対応した第一座標データおよび第二座標データが生成される。
【0135】
第一座標データは、注目領域を識別するためのROI識別データと、撮像画像における注目領域の相対的な位置を示す相対座標データとで構成される。第一座標データは、ROI識別データと相対座標データとを紐づけたデータである。ROI識別情報は、復元処理の対象となっている伝送データにおける、複数の注目領域のそれぞれを識別可能とする情報であって、例えば任意の数値や文字列である。
【0136】
また
図16に示すように、相対座標データは、撮像画像における注目領域の左上端を示す始点座標および右下端を示す終点座標で構成される。具体的には、第一座標データに含まれる相対座標データは、始点座標のX座標(始点X座標)、始点座標のY座標(始点Y座標)、終点座標のX座標(終点X座標)および終点座標のY座標(終点Y座標)を示す4つの数値で構成される。第一座標データにおける相対座標データは、例えば始点座標(X、Y)および終点座標(X、Y)を示す各数値が
図16上段に示す順にカンマ区切りで配置された数値配列である。
【0137】
上述したように、本実施形態において映像送信装置から送出されるROI情報には、位置情報として始点座標の情報が含まれるものの、終点座標の情報は含まれていない。このため、情報抽出プロセスにおいて、第一座標データの生成時には、位置情報に含まれる始点座標、およびサイズ情報に含まれるX軸方向長さ、Y軸方向長さから終点座標の算出を行う。
【0138】
第二座標データは、第一座標データと同様に、ROI識別データと相対座標データとで構成される。ただし、
図16に示すように第二座標データの相対座標データは、始点Y座標および終点Y座標で構成され、始点X座標および終点X座標が含まれない点で、第一座標データと異なる。第二座標データにおける相対座標データは、例えば始点Y座標および終点Y座標を示す各数値が
図16下段に示す順にカンマ区切りで配置された数値配列である。
【0139】
本実施形態における情報抽出プロセスでは、復元処理の対象となる注目領域(ROI)に対応する第一座標データおよび第二座標データを生成すると、各注目領域の第一座標データを始点X座標の昇順に並び替えたX座標順データを生成する。また、第二座標データを始点Y座標の昇順に並び替えたY座標順データを生成する。本実施形態において、X座標順データおよびY座標順データがROI復元情報に相当する。
【0140】
このように、ROI復元情報は、ROI情報における位置情報およびサイズ情報を並び替えて生成される情報である。より具体的には、ROI復元情報は、位置情報およびサイズ情報から生成されるデータ(第一座標データ、第二座標データ)を並び替えて生成される情報である。本実施形態における情報抽出プロセスでは、ROI復元情報として、上述のようにX座標順データおよびY座標順データを生成する。生成されたX座標順データおよびY座標順データは、映像受信装置の所定の記憶領域(例えば、レジスタなど)に一時的に記憶されて、以降の復元処理のプロセス(例えば、書込みプロセス)に用いられる。
【0141】
ここで、
図17を用いて、X座標順データおよびY座標順データの具体例を説明する。
図17は、本例において復元処理の対象となる注目領域ROI0~2に対応するX座標順データおよびY座標順データの一例を示す図である。
【0142】
本例における情報抽出プロセスでは、X座標順データおよびY座標順データを構成する第一座標データ、第二座標データの生成にあたり、注目領域ROI0~2の終点座標を算出する。注目領域の終点X座標は、「始点X座標+X軸方向長さ-1」で求められる。
図14に示すように、注目領域ROI0の始点X座標i0の値は「520」であり、X軸方向長さは「400」である。このため、終点X座標k0の値「919」=「始点X座標i0(520)+X軸方向長さ(400)-1」で算出される。同様にして、注目領域ROI1の終点X座標k1の値「1439」、注目領域ROI2の終点X座標k2の値「499」が算出される。
【0143】
また、注目領域の終点Y座標は、「始点Y座標+Y軸方向長さ-1」で求められる。
図14に示すように、注目領域ROI0の始点Y座標j0の値は「300」であり、X軸方向長さは「600」である。このため、終点Y座標l0の値「899」=「始点Y座標i0(300)+Y軸方向長さ(600)-1」で算出される。同様にして、注目領域ROI1の終点Y座標l1の値「739」、注目領域ROI2の終点Y座標l2の値「699」が算出される。このようにして、各注目領域の終点座標が算出される。
【0144】
本例における情報抽出プロセスでは、終点座標が算出されると、ROI情報に含まれる始点座標情報と算出された終点座標を用いて、注目領域ROI0~2の第一座標データ、第二座標データが生成される。
【0145】
本例において、注目領域ROI0の第一座標データは、「R0(520,300,919,899)」で表される。ここで、「R0」は、注目領域ROI0を示すROI識別情報である。同様に、注目領域ROI1の第一座標データは、「R1(1040,140,1439,739)」で表され、注目領域ROI2の第一座標データは、「R2(100,100,499,699)」で表される。注目領域ROI0~2の始点X座標を昇順に並べると、注目領域ROI2の始点X座標i2を示す値「100」、注目領域ROI0の始点X座標i0を示す値「520」、注目領域ROI1の始点X座標i1を示す値「1040」の順となる。したがって、注目領域ROI0~2の第一座標データを始点X座標の昇順(注目領域ROI2,ROI0,ROI1の順)に並び替えることにより、
図17左側に示す注目領域ROI0~2に対応するX座標順データが生成される。
【0146】
また本例において、注目領域ROI0の第二座標データは、「R0(300,899)」で表される。同様に、注目領域ROI1の第二座標データは、「R1(140,739)」で表され、注目領域ROI2の第二座標データは、「R2(100,699)」で表される。注目領域ROI0~2の始点Y座標を昇順に並べると、注目領域ROI2の始点Y座標l2を示す値「100」、注目領域ROI1の始点Y座標l1を示す値「140」、注目領域ROI1の始点Y座標l0を示す値「899」の順となる。したがって、注目領域ROI0~2の第二座標データを始点Y座標の昇順(注目領域ROI2,ROI1,ROI0の順)に並び替えることにより、
図17右側に示す注目領域ROI0~2に対応するY座標順データが生成される。本例において、生成された注目領域ROI0~2に対応するX座標順データおよびY座標順データは、
図17に示す順序を維持した状態でレジスタ内に記憶される。
【0147】
なお
図17では、理解を容易にするため左端において、X座標順データおよびY座標順データにおける並び順を1~3の数値で示している。また
図17において、理解を容易にするため、X座標順データを注目領域ROI0~2の第一座標データが行単位で始点X座標の昇順に格納されたテーブル形式で表示し、Y座標順データを注目領域ROI0~2の第二座標データが行単位で始点Y座標の昇順に格納されたテーブル形式で表示したが、X座標順データおよびY座標順データの記憶様式はこれに限られない。本実施形態において、X座標順データおよびY座標順データは、所定数の注目領域の順序が維持されるように記憶されていれば良い。
【0148】
例えば、X座標順データは、各注目領域の第一座標データと、始点X座標の昇順で並べ替えた場合の順序を示す数値とを合わせて記憶してもよい。また、同様に、Y座標順データでは、各注目領域の第二座標データと、始点Y座標の昇順で並べ替えた場合の順序を示す数値とを合わせて記憶してもよい。また、X座標順データは各注目領域の第一座標データを所定の区切り文字(例えば、カンマ)で区切った配列として記憶してもよい。同様に、Y座標順データは各注目領域の第二座標データを所定の区切り文字(例えば、カンマ)で区切った配列として記憶してもよい。
【0149】
本例の情報抽出プロセスにおいて、注目領域ROI0~2に対応するX座標順データ、Y座標順データを生成することにより、復元処理対象となる注目領域ROI0~2の撮像画像α(
図13参照)における相対位置を判定することが可能となる。これにより、情報抽出プロセス以降の復元処理のプロセス(書込みプロセス)において、注目領域ROI0~2の相対位置を利用した処理を行うことができる。
【0150】
このように、X座標順データは、撮像画像から切り出された所定数の注目領域(ROI)の位置情報およびサイズ情報を、位置情報に相当する始点座標のX座標(始点X座標)の値の昇順に並び替えたデータである。より具体的には、X座標順データは、注目領域の位置情報およびサイズ情報から生成された相対座標情報を始点X座標の昇順に並び替えたデータである。また、Y座標順データは、撮像画像から切り出された所定数の注目領域の位置情報およびサイズ情報を、位置情報に相当する始点座標のY座標の値の昇順に並び替えたデータである。より具体的には、Y座標順データは、注目領域の位置情報およびサイズ情報から生成された相対座標情報におけるY座標を、始点Y座標の昇順に並び替えたデータである。
【0151】
復元処理における情報抽出プロセスで、ROI復元情報を生成することにより、撮像画像内における注目領域の相対位置が判定可能となる。これにより、復元処理の以降のプロセス(例えば、書込みプロセス)において、当該相対位置を用いて円滑な処理を行うことができる。詳しくは後述するが、記憶されたX座標順データおよびY座標順データは、映像受信装置において伝送データが受信されて新たな情報抽出プロセスが開始される度に更新される。
【0152】
〔書込みプロセス〕
次に、復元処理における書込みプロセスについて説明する。書込みプロセスは、情報抽出プロセスにおいて生成されたROI復元情報に基づいて、注目領域の画像データを映像受信装置内のメモリ装置に書き込むプロセスである。本実施形態では、ROIの画像データを書込むメモリ装置として、例えばフレームメモリを想定している。フレームメモリは、表示装置(例えば、ディスプレイなど)に表示する画像データを画面単位で保持可能なメモリICである。
【0153】
本実施形態では、上述のようにSOFの受信により伝送データを通信するフレームが開始され、映像送信装置において伝送データが受信されると、まずエンベデッドデータが入力され、次いでペイロードデータの各ラインが先頭から順に入力される。上述の情報抽出プロセスはエンベデッドデータの入力に基づいて実行されるが、復元処理における書込みプロセスは、ペイロードデータの各ラインの入力に基づいて実行される。本実施形態における書込みプロセスでは、ROI復元情報に基づいてペイロードデータ単位で注目領域の画像データがフレームメモリに書込まれる。書込みプロセスにおいて、フレームメモリには、ペイロードデータの各ラインのROI画素行データが書き込まれることとなる。
【0154】
本実施形態では復元処理の書込みプロセスにおいて、ペイロードデータ内の注目領域の画像データ、つまりROI画素行データは、ROI復元情報に基づいて注目領域ごとに分割される。つまり、ROI画素行データは、ROI復元情報に基づいて注目領域ごとのパケット群、すなわち注目領域(ROI)の画像データとして分割される。また、書込みプロセスでは、ROI復元情報に基づいて、フレームメモリにおける注目領域(ROI)の画像データの書込み先を示すアドレスが生成される。ROI画素行データから分割された各注目領域の画像データは、フレームメモリ内において当該アドレスに書き込まれる。
【0155】
詳しくは後述するが、本実施形態では、注目領域の画像データの書込み先として、ROI復元情報に基づいて撮像画像内での各注目領域の相対位置に対応するフレームメモリ内の復元位置が特定され、復元位置を示すアドレスが生成される。これにより、フレームメモリ内において撮像画像内における注目領域の相対位置が復元される。このため、注目領域の画像データは、ディスプレイの画面状において、撮像画像における相対位置に対応する表示位置に表示可能となる。
【0156】
(ROI復元情報の解析)
本実施形態における書込みプロセスでは、ROI復元情報(X座標順データ、Y座標順データ)を解析し、ROI復元情報に基づいてペイロードデータの各ラインにおけるROI画素行データに対応する情報を抽出して、書込みに用いる情報(書込み情報)を生成する。ROI復元情報から生成された書込み情報に基づいて、ROI画素行データの分割、分割されたROI画素行データのフレームメモリ内の書込み先を示すアドレスの生成が行われる。本実施形態では、書込み情報として、例えば書込みY座標、書込み開始X座標、書込みサイズを生成する。復元処理の書込みプロセスにおいては、ペイロードデータの各ラインの入力ごとに、X座標順データ、Y座標順データを抽出し、書込み情報を生成する。書込み情報(書込みY座標、書込み開始X座標、書込みサイズ)ついて以下、具体的に説明する。
【0157】
(書込みY座標)
書込みY座標は、撮像画像内におけるROI画素行データのY座標である。書込みY座標は、ROI画素行データの書込み時において、フレームメモリ内のY軸方向の位置を判定するために用いられる。ペイロードデータの各ライン内に格納されたROI画素行データは、撮像画像内における同一Y座標の注目領域の画像データで構成されている。したがって、書込みY座標は、ペイロードデータのライン単位で共通の値となる。書込みY座標は、ROI復元情報のうちY座標順データから生成される。例えば、ペイロードデータの各ラインが入力されると、Y座標順データから第二座標データが格納順(始点X座標の昇順)に抽出される。抽出された第二座標データを用いて、入力されたペイロードデータの各ラインに相当する書込みY座標が生成される。
【0158】
本例では、ペイロードデータのラインPL1(
図15参照)の入力時において、Y座標順データ(
図17右側参照)の1番目の注目領域ROI2に係る第二座標データが抽出され、注目領域ROI2の始点Y座標(100)を示す書込みY座標が生成される。つまり、ペイロードデータの先頭ライン(1ライン目)の入力時には、Y座標順データの1番目の第二座標データを抽出し、当該第二座標データ内の始点Y座標、すなわちY座標順データ内で最も小さい値の始点Y座標を、書込みY座標と判定すればよい。
【0159】
先頭ラインの入力以降、書込みY座標の値はペイロードデータの新たなラインが入力される度に、1ずつ加算されて更新される。また、書込みY座標の更新値が終点Y座標の値を超過した場合には、Y座標順データから次の第二座標データが抽出される。本例では、ペイロードデータの601行目のラインPL601の入力時には、書込みY座標の更新値が「700」となり、注目領域ROI2の終点Y座標の値「699」を超過する。このため、Y座標順データ(
図17右側参照)から2番目の注目領域ROI1に係る第二座標データが抽出される。
【0160】
新たな第二座標データが抽出されると、書込みY座標の更新値が新たに抽出された第二座標データの始点Y座標から終点Y座標の範囲内に含まれるか否かの判定を行う。書込みY座標の更新値が当該範囲内であれば、書込みY座標の更新値を、入力されたラインに対応する書込みY座標として用いる。本例では、書込みY座標の更新値「700」が、注目領域ROI1の始点Y座標の値「140」から終点Y座標の値「739」の範囲内であると判定される。このため、書込みY座標の更新値「700」が、ペイロードデータのラインPL601のROI画素行データの書込みY座標として用いられる。
【0161】
一方、書込みY座標の更新値が当該範囲に含まれない場合、書込みY座標の更新値は入力されたライン内のROI画素行データのY座標に相当しない。このため、新たに抽出された第二座標データに基づいて書込みY座標を生成する。例えば、書込みY座標の更新値が新たに抽出された第二座標データの始点Y座標の値よりも小さい場合には、当該第二座標データの始点Y座標の値で書込みY座標を生成すればよい。また、書込みY座標の更新値が新たに抽出された第二座標データの終点Y座標の値よりも大きい場合は、Y座標順データから次の第二座標データを抽出して書込みY座標を生成すればよい。これにより、各注目領域の撮像画像におけるY座標位置を、書込みY座標に反映することができる。
【0162】
(書込み開始X座標および書込みサイズ)
次に、書込み開始X座標、書込みサイズの生成について説明する。ROI画素行単位で生成される書込みY座標に対し、書込み開始X座標および書込みサイズは、注目領域ごとに生成される。書込み開始X座標は、ROI画素行データを構成する各パケット群、すなわち各注目領域の画像データの撮像画像内におけるX座標を示す。また、書込みサイズは、各注目領域の画像データの画像サイズ(ここでは、X軸方向長さ)を示す。ROI画素行データは、フレームメモリへの書込み時において、書込み開始X座標および書込みサイズに基づいて注目領域ごとに分割される。このため、書込みサイズは「分割サイズ」ともいう。
【0163】
また、書込み開始X座標は、各注目領域の画像データの書込み時において、各注目領域に対応するフレームメモリ内のX軸方向の書込み開始位置(先頭アドレス)を算出するために用いられる。また、書込みサイズは、ROI画素行データから分割された注目領域の画像データを格納するための、フレームメモリ内の連続したアドレスを算出するために用いられる。
【0164】
書込み開始X座標および書込みサイズは、ROI復元情報のうちX座標順データから生成される。例えば、ペイロードデータの各ラインが入力されると、X座標順データから第一座標データが格納順(始点X座標の昇順)に抽出される。抽出された第一座標データに対しては、現在の書込みY座標の値が抽出された第一座標データの始点Y座標から終点Y座標の範囲内に含まれるか否かの判定を行う。これにより、各注目領域の画像データが各ラインのROI画素行データ内に含まれているか否かが判定される。ここで、ROI画素行データに含まれる画像データに対応付いた注目領域を、書込み対象ROIという。なお、本実施形態では、ペイロードデータの所定のラインが入力された場合、まず書込みY座標の値が生成(更新)され、次いで、書込み開始X座標および書込みサイズの生成が行われる。
【0165】
本例では、ペイロードデータの1行目のラインPL1(
図15参照)の入力時において、まずX座標順データ(
図17右側参照)の1番目の注目領域ROI2に係る第一座標データが抽出される。このとき、上述のように書込みY座標の値が「100」であり、注目領域ROI2の始点Y座標の値「100」から終点Y座標の値「699」の範囲内に含まれる。したがって、ラインPL1のROI画素行データには、注目領域ROI2の画像データが含まれており、注目領域ROI2が書込み対象ROIであると判定される。一方で、書込みY座標の値「100」は、X座標順データの2番目の注目領域ROI1に係る第一座標データの始点Y座標の値「140」から終点Y座標の値「739」の範囲内には含まれない。同様に、書込みY座標の値「100」は、X座標順データの3番目の注目領域ROI0に係る第一座標データの始点Y座標の値「300」から終点Y座標の値「899」の範囲内には含まれない。したがって、注目領域ROI0,ROI1は書込み対象ROIでないと判定される。
【0166】
本実施形態では、書込み対象ROIであると判定された注目領域(ROI)ごとに、書込み開始X座標、書込みサイズが生成される。具体的には、書込み対象ROIの始点X座標が書込み開始X座標として生成される。本例において、注目領域ROI2の書込み開始X座標は始点X座標の値「100」として生成される。また書込みサイズは、書込み対象ROIの第一座標データにおける始点X座標の値と終点X座標の値との差分に、1を加算することで生成される。本例において、注目領域ROI2の書込みサイズは「400画素(=終点X座標(499)-始点X座標(100)+1)」となる。
【0167】
注目領域ROI0が書込み対象ROIであると判定された場合、注目領域ROI0の書込み開始X座標は始点X座標の値「300」として生成され、注目領域ROI0の書込みサイズは「400画素(=終点X座標(919)-始点X座標(520)+1)」となる。また、注目領域ROI1が書込み対象ROIであると判定された場合、注目領域ROI1の書込み開始X座標は始点X座標の値「1040」として生成され、注目領域ROI1の書込みサイズは「400画素(=終点X座標(1439)-始点X座標(1040)+1)」となる。
【0168】
本例では、ペイロードデータのラインPL1からラインPL40の入力時においては、書込み対象ROIが注目領域ROI2のみとなる。このため、注目領域ROI2の書込み開始X座標および書込みサイズが生成される。また、ペイロードデータのラインPL41からラインPL200の入力時においては、書込み対象ROIが注目領域ROI2,ROI1となる。このため、注目領域ROI2,ROI1のそれぞれの書込み開始X座標および書込みサイズが生成される。さらに、ペイロードデータのラインPL201からラインPL600の入力時においては、書込み対象ROIが注目領域ROI2,ROI0,ROI1となる。このため、注目領域ROI2,ROI0,ROI1のそれぞれの書込み開始X座標および書込みサイズが生成される。
【0169】
また、ペイロードデータのラインPL601の入力以降は、注目領域ROI2が書込み対象ROIに相当しなくなる。このため、注目領域ROI0,ROI1のそれぞれの書込み開始X座標および書込みサイズが生成される。また、ペイロードデータのラインPL641の入力以降は、注目領域ROI1が書込み対象ROIに相当しなくなる。このため、注目領域ROI0の書込み開始X座標および書込みサイズのみが生成される。このように、本実施形態では、ROI復元情報における位置情報(本例ではX座標順データ)に基づいて、フレームメモリに書込む注目領域(ROI)の画像データの書込みサイズが算出される。
【0170】
(フレームメモリのアドレス生成)
本実施形態の復元処理における書込みプロセスでは、ROI復元情報から書込み情報(書込みY座標、書込み開始X座標および書込みサイズ)が生成されると、書込み情報に基づいて、フレームメモリにROI画素行データに含まれる注目領域(書込み対象ROI)の画像データを書き込むためのアドレスが特定される。本実施形態では、上述のように、フレームメモリ内において撮像画像内での注目領域の相対位置を示す復元位置に対応するアドレスが生成される。また、書込み対象ROIの画像データは、X座標順データの格納順(始点X座標が小さい順)に、アドレスが生成される。
【0171】
例えば、ROI画素行単位で共通となる書込みY座標に基づいて、各注目領域(ここでは書込み対象ROI)の復元位置のうちフレームメモリ内のY軸方向の位置が特定される。また書込み対象ROIごとの書込み開始X座標に基づいて、各書込み対象ROIの復元位置のうちフレームメモリ内のX軸方向の先頭位置が特定される。これにより、フレームメモリ内における書込み対象ROIの画像データの書込み開始位置が特定される。
【0172】
本例において、ペイロードデータの1行目のラインPL41(
図15参照)の入力時に、ROI画素行データについての書込みY座標「140」、注目領域ROI2についての書込み開始X座標「100」、注目領域ROI1の書込み開始X座標「140」が生成されたとする。この場合、撮像画像α(
図13参照)内のピクセル座標「100,140(X座標,Y座標)」に相当する位置が、PL41内のROI画素行データに含まれる注目領域ROI2の画像データのフレームメモリ内における書込み開始位置として判定される。また、撮像画像α内のピクセル座標「520,140(X座標,Y座標)」に相当する位置が、当該ROI画素行データに含まれる注目領域ROI1の画像データのフレームメモリ内における書込み開始位置として判定される。
【0173】
このように、ROI画素行データにおける書込み対象ROIごとに、書込み開始位置が判定されることで、当該書込み開始位置を示すフレームメモリ内の先頭アドレスが算出される。本実施形態において、フレームメモリにおける画像データの書込み領域は、例えば撮像画像と同等のピクセル座標を適用可能である。この場合、例えば書込み開始位置の座標が特定されることで、フレームメモリ内の当該座標を示すアドレスを算出することができる。なお、アドレスの具体的な算出方法(算出式)は、フレームメモリの仕様等に応じて適宜設計すればよい。
【0174】
さらに、各注目領域の先頭アドレスと注目領域ごとに生成された書込みサイズを用いて、書込みサイズが示す画素数分の連続したアドレスを算出する。例えば、先頭アドレスの値を、書込みサイズが示す画素数分だけ1ずつ加算(インクリメント)していく。これにより、書込みサイズが示す画素数分の連続したアドレスが算出される。この連続したアドレスに、書込み対象ROIの画像データの各画素を書き込むことで、一連の書込み対象ROIの画像データをフレームメモリに書き込むことができる。フレームメモリにおいて、書込み開始位置から書込みサイズ分の領域が書込み対象ROIの画素行単位での復元位置に相当する。
【0175】
本例において、ペイロードデータの41行目のラインPL41(
図15参照)の入力時には、注目領域ROI2の先頭アドレスを書込みサイズ「400画素」分のアドレスを算出すための加算を繰り返す。これにより、フレームメモリにおいて注目領域ROI2の先頭アドレスから400画素分の連続したアドレスが生成される。また同様にして、注目領域ROI1の先頭アドレスから400画素分の連続したアドレスが生成される。これにより、注目領域ROI2,ROI1の各400画素分の画像データが、フレームメモリ内に書込まれる。
【0176】
(画像データの分割)
本実施形態における書込みプロセスでは、ROI復元情報に基づいてペイロードデータ内の注目領域(ROI)の画像データ(ROI画素行データ)を注目領域ごとに分割して転送し、フレームメモリに書込む。具体的には、ROI復元情報から生成された書込み情報(書込みY座標、書込み開始X座標および書込みサイズ)に基づいて、ペイロードデータの各ラインにおけるROI画素行データが注目領域(書込み対象ROI)ごとに分割される。本実施形態の復元処理における書込みプロセスでは、書込み情報のうち書込みサイズに基づいて、ROI画素行データが注目領域ごとに分割される。
【0177】
例えば、書込み対象ROIの画像データは、X座標順データの格納順(始点X座標が小さい順)で、ROI画素行データから分割される。つまり、ROI画素行データは、ペイロードヘッダ側から順に、書込み対象ROIごとの画像データに分割される。分割された書込み対象ROI単位の画像データは、書込み対象ROIごとにROI画素行データから分離され、書込み対象画像データが生成される。書込み対象画像データはフレームメモリに転送され、書込み情報に基づいて生成されたアドレスに書込まれる。このため、ROI画素行データは、書込み対象ROIごとの分割数に応じた書込み回数で、フレームメモリに書き込まれる。
【0178】
本例において、ペイロードデータの41行目のラインPL41(
図15参照)の入力時には、書込み対象ROIである注目領域ROI2,ROI1それぞれの書込みサイズに基づいて、ROI画素行データが分割される。ラインPL41の画素行データは、ROI画素行データの先頭、つまりラインPL41のペイロードヘッダPH側を起点として、注目領域ROI2の画像データ(ROI2(L41))と、ROI1の画像データ(ROI1(L1))とに2分割される。このため、ラインPL41のROI画素行データのフレームメモリへの書込み回数は2回となる。具体的には、ペイロードデータの41行目のラインPL41において、注目領域ROI2の分割サイズ(書込みサイズ)は400画素であり、注目領域ROI1の分割サイズは400画素である。このため、ROI画素行データにおいて先頭から400画素分の画像データが分割されて注目領域ROI2の書込み対象画像データが生成される。また、ROI画素行データにおける残余の400画素分の画像データから注目領域ROI1の書込み対象画像データが生成される。
【0179】
注目領域(書込み対象ROI)ごとに生成された書込み対象画像データは、例えばROI画素行データから分割された順(書込み開始X座標が小さい順)にフレームメモリに転送され、各注目領域(ROI)に対応する復元位置を示すアドレスに書込まれる。これにより、フレームメモリ内における書込み対象ROIに対応する復元位置に、書込み対象ROIの書込み対象画像データが書込まれる。なお、書込み対象ROIが1つの場合(例えば、ペイロードデータの1行目のラインPL1の入力時)、画素行データは分割せずにフレームメモリに転送可能であるが、バスの仕様と画素行データの画素数を鑑みて、適宜分割してもよい。
【0180】
以上、本実施形態の復元処理における書込みプロセスについて説明した。上述のように、ペイロードデータの各ラインが入力される度に、書込み対象ROIのアドレス生成およびROI画素行データの分割を行い、ペイロードデータの全ラインのROI画素行データがフレームメモリ内に書き込まれる。これにより、撮像画像から切り出された注目領域のそれぞれが、フレームメモリ内において復元位置に書き込まれる。したがって、映像受信装置において注目領域の画像データが、所定の表示装置に表示可能な状態に復元される。本例では、フレームメモリ内において、注目領域ROI0~2がそれぞれ撮像画像α(
図13参照)での相対位置に対応する復元位置に書込まれることとなる。つまり、注目領域ROI0~2が所定の表示装置の画面上において、撮像画像α(
図13参照)での相対位置に対応する表示位置に表示可能な状態に復元される。
【0181】
このように、本実施形態では、復元処理における情報抽出プロセスおよび書込みプロセスを経て、注目領域の画像データが表示可能状態に復元されてフレームメモリに書込まれることで、当該画像データをディスプレイなどの表示装置に効率的に表示することができる。
【0182】
4.本開示の映像伝送システム
4-1.映像伝送システムの概要
次に、本実施形態による映像伝送システム、映像受信装置について、
図18および
図19を用いて説明する。まず、本実施形態による映像伝送システムの概略構成について
図18を用いて説明する。
図18は、映像伝送システム(伝送システムの一例)2の概略構成を示すブロック図である。また、
図19は、本実施形態による映像受信装置200aの構成の一例を示すブロック図である。
【0183】
図18に示すように、映像伝送システム2は、映像送信装置(送信装置の一例)100および映像受信装置(受信装置の一例)200aを備えている。なお、上記前提技術1及び2に係る映像伝送システム1(
図1参照)と同一の作用・機能を奏する構成要素には同一の符号を付して説明は省略する。
【0184】
映像伝送システム2において、映像送信装置100は、エンベデッドデータおよび注目領域の画像データや通常画像のデータが格納されたペイロードデータを含む伝送データを生成する。映像送信装置100において生成された伝送データは、データレーンDLを介して映像受信装置200aに送出される。映像受信装置200aは、伝送データを受信すると、伝送データに対して所定の処理を行う。本実施形態による映像受信装置200aは、注目領域の画像データを含む伝送データを受信すると、注目領域の画像データに対して復元処理を実行する。
【0185】
また本実施形態において、映像受信装置200aは表示装置300と接続されている。表示装置300は、例えば画像を表示可能な画面を有するディスプレイ装置である。映像受信装置200aは、伝送データに含まれる画像データ(通常画像のデータ、注目領域(ROI)の画像データ)を表示装置300に出力する。これにより、例えば映像送信装置100において撮像画像から切り出されて伝送データで送出された注目領域の画像データが、映像受信装置200aにおいて復元処理がなされた上で、表示装置300の画面上に表示されることとなる。
【0186】
次に、本実施形態による映像受信装置200aについて説明する。映像受信装置200aは、復元処理を実行可能に構成されている点で、前提技術1及び2に係る映像受信装置200(
図8参照)と異なる。なお、映像受信装置200aにおいて、前提技術1及び2に係る映像受信装置200と同一の作用・機能を奏する構成要素には同一の符号を付して説明は適宜省略する。
【0187】
図19に示すように、映像受信装置200aは、例えば、受信部210、情報処理部(処理部の一例)230およびフレームメモリ250を備えている。詳しくは後述するが、本実施形態において、情報処理部230は、第一情報処理部230aと第二情報処理部230bとで構成される。情報処理部230(第一情報処理部230a、第二情報処理部230b)とフレームメモリ250とは、バス240を介して画像データを転送可能に接続されている。また、第二情報処理部230bおよびフレームメモリ250は、DMAコントローラ20の制御に基づいてバス240を介して画像データを転送可能に接続されている。
【0188】
映像受信装置200aにおける受信部210は、所定の撮像画像から切り出された所定数の注目領域(ROI:Region Of Interest)の画像データをペイロードデータに含むとともに、所定数の注目領域に対応するROI情報をエンベデッドデータに含む伝送信号(本例では伝送データ147A)を受信する。前提技術1及び2における映像送信装置100と同様に、本実施形態による伝送システム2を構成する映像送信装置100(
図18参照)は、撮像画像111における各注目領域(ROI)の画像データをロングパケットのペイロードデータで送出するとともに、当該注目領域についてのROI情報120Bをエンベデッドデータで送出する。これにより、映像送信装置100から送出された伝送データ147Aを受信した装置(映像受信装置200)において、伝送データ147Aから、各注目領域ROIの画像データ(ROI画像112)を容易に抽出することができる。受信部210は、受信した伝送データ147Aに対して所定の処理を行うことにより、種々のデータ(214A,215A,215B)を生成し、情報処理部220に出力する回路である。本実施形態において受信部210は、映像送信装置100との間の画像データフレームの通信が開始されたことを示すパケット(SOF)を受信すると、SOFの受信を示す所定の信号を第一情報処理部230aに出力する。
【0189】
上記前提技術1及び2における映像受信装置200と同様に、映像受信装置200aにおいても、受信部210は、例えば、ヘッダ分離部211、ヘッダ解釈部212、ペイロード分離部213、EBD解釈部214及びROIデータ分離部215を有している。このうち、ヘッダ分離部211、ヘッダ解釈部212は、映像受信装置200と同様の構成であるため説明は省略する。
【0190】
EBD解釈部214は、ペイロード分離部213から入力されたエンベデッドデータ213Aに含まれるデータタイプから、伝送データ147Aのペイロードデータに含まれる画像データがROIの画像データ(前提技術1及び2における注目領域の画像データ116の圧縮像データ120A)であるか、又は、通常画像のデータ(圧縮像データ130A)であるかを判別する。またEBD解釈部214は、データタイプの判別結果をROIデータ分離部215に出力する。また、EBD解釈部214は、ROI情報を含む(注目領域の画像データがペイロードデータに含まれることを示す)エンベデッドデータをEBDデータ214Aとして、第一情報処理部230a(具体的には、第一情報抽出部231)に出力する。
【0191】
ROIデータ分離部215は、EBD解釈部214によるデータタイプの判別結果に基づいて、伝送データ147Aのペイロードデータに含まれる画像データが注目領域の画像データ(画像データ116の圧縮像データ120A)であると判定すると、ペイロードデータの各ラインをペイロードデータ215Aとして、1ラインごとに第一情報処理部230a(具体的にはROIデコード部232)に出力する。ペイロードデータ215Aは、圧縮像データ147Bのうち1ライン分のピクセルデータ(ROI画素行データ)を含んでいる。
【0192】
本実施形態では、例えば映像送信装置100から送出された伝送データ147Aに係る画像データフレームを構成するトランザクション単位でペイロードデータの各ラインが映像受信装置200aに伝送される。受信部210のヘッダ解釈部212においてロングパケットのペイロードデータの各ラインのヘッダが検出されると、ペイロード分離部213においてペイロードデータの各ラインがパケット領域R2から分離され、ROIデータ分離部215において各ラインのペイロードヘッダPH、ROI画素行データおよびペイロードフッタPFを含むペイロードデータ215Aが生成される。
【0193】
例えば
図15に示すペイロードデータをパケット領域に含む画像データフレームが映像送信装置100から伝送される場合、ROIデータ分離部215が生成するペイロードデータ215Aには、ペイロードデータのラインPL1~800のうちの1ライン分のピクセルデータが含まれる。またこのとき、ROIデータ分離部215は、画像データフレームのパケット領域を構成するラインPL1~800のペイロードデータをラインPL1から順に、ペイロードデータ215AとしてROIデコード部232に出力する。なお、ロングパケットのペイロードデータにROI情報120Bが含まれている場合には、ペイロードデータ215Aには、ROI情報120Bが含まれてもよい。
【0194】
一方、ペイロードデータに含まれる画像データが通常画像データの圧縮像データ130Aである場合、ROIデータ分離部215は、当該ペイロードデータをペイロードデータ215Bとして、第一情報処理部230a(具体的には通常画像デコード部236)に出力する。また、ROIデータ分離部215は、EBD解釈部214から入力されたデータタイプの判別結果(画像データが通常画像データであることを示す判別結果)を、第一情報処理部230a(具体的には通常画像アドレス生成部235)に出力する。
【0195】
第一情報処理部230aは、エンベデッドデータから抽出した所定数の注目領域(ROI)に対応するROI情報に基づいて注目領域の画像データ(ペイロードデータ215A)を表示装置300に表示可能な状態に復元する復元処理を行う回路である。また、第一情報処理部230aは、通常画像のデータ(ペイロードデータ215B)に対する所定の処理(通常画像処理)を行う。
【0196】
第一情報処理部230aは、復元処理の実行に係る構成として、第一情報抽出部231、ROIデコード部232、ROI画像アドレス生成部233およびROI画像生成部234を有している。まず、復元処理を行うこれらの構成について説明する。
【0197】
第一情報処理部230aは、エンベデッドデータ(EBDデータ214A)から、ROI情報を抽出する。第一情報処理部230aは、復元処理における上述の情報抽出プロセスおよび書込みプロセスを行い、注目領域(ROI)の画像データを復元してフレームメモリ250に書き込む一連の処理を実行する。
【0198】
第一情報抽出部231は、復元処理における情報抽出プロセスを実行する。具体的には、第一情報抽出部231は、エンベデッドデータ(EBDデータ214A)に含まれるROI情報(ROI情報120B)から、撮像画像における所定数の注目領域それぞれの位置情報及びサイズ情報をROI情報として抽出する。本例では、第一情報抽出部231は、位置情報として撮像画像αにおける3つの注目領域ROI0~2それぞれの始点座標を抽出し、サイズ情報として注目領域ROI0~2それぞれのX軸方向長さおよびY軸方向長さを抽出する。
【0199】
第一情報抽出部231は、抽出したROI情報に基づいて、注目領域の画像データの復元に用いるROI復元情報(X座標順データ、Y座標順データ)を生成する。具体的には、ROI情報における位置情報には、注目領域(ROI)の左上端部を示すX座標およびY座標が含まれている。第一情報抽出部231は、撮像画像から切り出された所定数の注目領域の位置情報およびサイズ情報を始点X座標の値の昇順に並び替えたX座標順データを生成する。本例において第一情報抽出部231は、注目領域ROI0~2のそれぞれに対応した第一座標データ(
図16参照)を生成し、生成した第一座標データを始点X座標の値の昇順(注目領域ROI2,ROI0,ROI1の順)に並び替えたX座標順データ(
図17左側参照)を生成する。
【0200】
また、第一情報抽出部231は、撮像画像から切り出された所定数の注目領域の位置情報およびサイズ情報を始点Y座標の値の昇順に並び替えたY座標順データを生成する。本例において第一情報抽出部231は、注目領域ROI0~2のそれぞれに対応した第二座標データ(
図16参照)を生成し、生成した第二座標データを始点Y座標の値の昇順(注目領域ROI2,ROI1,ROI0の順)に並び替えたY座標順データ(
図17右側参照)を生成する。第一情報抽出部231は、X座標順データとY座標順データとを生成すると、例えば生成したX座標順データおよびY座標順データをROI復元情報としてレジスタに記憶する。
【0201】
第一情報抽出部231は、ROI復元情報を生成する際に、最終ライン判定情報を生成してもよい。最終ライン判定情報は、例えばY座標順データに基づいて生成される。第一情報抽出部231は、例えばY座標順データ内の第二座標データにおける終点Y座標を比較し、最も値が大きいY座標を最終ラインY座標としてレジスタに記憶してもよい。これにより、第一情報抽出部231は、最終ライン判定情報を用いることで、ペイロードデータ内の全ライン分の注目領域の画像データの書込みが終了したか否かを判定することができる。
【0202】
また、第一情報抽出部231は、情報抽出プロセスにおける復元情報の生成を行うと、次いで、ROI復元情報を解析して書込みプロセスにおける書込み情報(書込みY座標、書込み開始X座標、書込みサイズ)の生成を行う。第一情報抽出部231は第一情報処理部230a(具体的にはROIデコード部232)にペイロードデータ215Aが入力される度に、入力されたペイロードデータ215Aについての書込み情報を生成する。つまり、第一情報抽出部231は、ペイロードデータ単位で書込み情報を生成する。ROIデコード部232は、ヘッダ解釈部212においてペイロードデータの各ラインのヘッダが検出されたことに基づいて、ROIデータ分離部215からペイロードデータ215Aが入力されると、当該入力を示す所定の信号を第一情報抽出部231に出力する。これにより、第一情報抽出部231は、ペイロードデータの各ラインが入力されたことを検出可能となる。
【0203】
本例において、第一情報抽出部231は、
図15に示すペイロードデータのラインPL1~800の各ラインについてのペイロードデータ215AがROIデコード部232に入力される度に、各ラインに対応するペイロードデータ215Aについての書込み情報の生成を行う。
【0204】
第一情報抽出部231は、書込み情報としてROI復元情報のうちY座標順データからペイロードデータ215Aに対応する書込みY座標を生成する。書込みY座標の生成方法は、上述のとおりである。例えば、第一情報抽出部231は、ペイロードデータのラインPL1(
図15参照)に相当するペイロードデータ215Aの入力を検出すると、Y座標順データ(
図17右側参照)の1番目の注目領域ROI2に係る第二座標データを抽出し、注目領域ROI2の始点Y座標の値「100」を書込みY座標と判定する。以降、第一情報抽出部231は、ペイロードデータ215Aの入力の度に書込みY座標の値を更新(インクリメント)する。第一情報抽出部231は、ペイロードデータの601行目のラインPL601の入力時には、Y座標順データから2番目の注目領域ROI1に係る第二座標データを抽出し、書込みY座標の更新値「700」を書込みY座標として用いる。
【0205】
また、第一情報抽出部231は、書込み情報としてROI復元情報のうちX座標順データからペイロードデータ215Aに含まれる各注目領域(書込み対象ROI)の画像データに対応する書込み開始X座標、書込みサイズを生成する。書込み開始X座標および書込みサイズの生成方法は、上述のとおりである。
【0206】
例えば、ペイロードデータのラインPL1に相当するペイロードデータ215Aの入力を検出して、第一情報抽出部231が書込みY座標(Y=100)を生成したとする。この場合、X座標順データの1番目の注目領域ROI2の第一座標データにおける始点Y座標の値「100」から終点Y座標の値「699」の範囲内に含まれる。このため、第一情報抽出部231は、注目領域ROI2が書込み対象ROIであると判定し、注目領域ROI2の始点X座標(X=100)を注目領域ROI2の画像データの書込み開始X座標とする。また、第一情報抽出部231は、注目領域ROI2の書込みサイズとして「400画素(=終点X座標(499)-始点X座標(100)+1)」を算出する。
【0207】
第一情報抽出部231は、X座標順データに基づいてペイロードデータ215Aにおける書込み対象ROIを判定すると、書込み対象ROIごとに書込み情報(書込みY座標、書込み開始X座標および書込みサイズ)を生成し、生成した書込み情報をROI画像アドレス生成部233、ROI画像生成部234に出力する。
【0208】
ROI画像アドレス生成部233、ROI画像生成部234には、第一情報抽出部23から、X座標順データにおける格納順(始点X座標が小さい順)に、書込み対象ROIごとの書込み情報が入力される。例えば、第一情報抽出部231は、ペイロードデータのラインPL41(
図15参照)に相当するペイロードデータ215Aの入力を検出すると、書込み対象ROIについての書込み情報を注目領域ROI2,ROI1の順でROI画像アドレス生成部233、ROI画像生成部234に出力する。これにより、ROI画像アドレス生成部233、ROI画像生成部234は、復元処理の書込みプロセスに係る処理(アドレス生成、ROI画像行データの分割)を、注目領域ROI2,ROI1の順、つまりX座標順データにおける格納順(始点X座標(書込み開始X座標)の昇順)で実行可能となる。
【0209】
ROI画像アドレス生成部233は、復元処理の書込みプロセスにおけるアドレス生成処理を行う。ROI画像アドレス生成部233は、ROI復元情報に基づいて、フレームメモリ250における注目領域(ROI)の画像データの書込み先を示すアドレスを生成する。ROI画像アドレス生成部233は、ROI復元情報から生成された書込み情報が第一情報抽出部231から入力されたことに基づいて、ペイロードデータ215A内のROI画素行データを構成する注目領域(書込み対象ROI)の画像データをフレームメモリ250に書き込むためのアドレスを生成する。
【0210】
本実施形態において、ROI画像アドレス生成部233が生成するアドレスは、フレームメモリ250内において撮像画像内での注目領域の相対位置を示す復元位置に対応するアドレスである。ROI画像アドレス生成部233は、第一情報抽出部231から入力される書込み対象ROIの書込み情報に基づいて、当該書込み対象ROIの復元位置に対応するアドレスを算出する。ROI画像アドレス生成部233は、上述のとおり、書込みY座標と書込み開始X座標に基づいて書込み対象ROIの書込み開始位置を示す座標を特定し、当該書込み開始位置から先頭アドレスを算出する。
【0211】
また、ROI画像アドレス生成部233は、上述のとおり、先頭アドレスと書込みサイズに基づいて当該書込み対象ROIの画像データの画素数分の連続したアドレスを算出する。このように、ROI画像アドレス生成部233は、書込み開始位置の座標と書込みサイズとを用いて、画素行単位での書込み対象ROIの画像データのフレームメモリ250内での復元位置を特定し、復元位置に相当するアドレスを生成する。なお、具体的なアドレス値の算出方法は、フレームメモリ250のアドレス領域の割り当てに応じて適宜設計される。
【0212】
上述のように、ROI画像アドレス生成部233には、第一情報抽出部231から、始点X座標(書込み開始X座標)の昇順で、書込み対象ROIごとの書込み情報が入力される。このため、ROI画像アドレス生成部233は、書込み開始X座標の昇順で書込み対象ROIごとのアドレスを生成する。
【0213】
ROI画像アドレス生成部233は、生成したアドレスを含むアドレスコマンドを発行する。発行したアドレスコマンドは、バスを介してフレームメモリ250に転送される。また、ROI画像アドレス生成部233は、アドレスコマンド発行時において、書込み対象ROIの書込みサイズ、つまりフレームメモリ250に書込まれる書込み対象ROIの画像データの画素数(転送数)を、ROI画像生成部234に出力する。
【0214】
ROI画像生成部234は、ROI復元情報に基づいてペイロードデータ単位で注目領域の画像データをフレームメモリ250に書込む。より詳細には、ROI画像生成部234は、復元処理の書込みプロセスにおけるROI画素行データの分割、書込みを行う。ROI画像生成部234は、ROI復元情報に基づいてペイロードデータ215A内のROI画素行データを注目領域(書込み対象ROI)ごとに分割してフレームメモリ250に書込む。ROI画像生成部234は、ROI復元情報から生成された書込み情報が第一情報抽出部231から入力されると、当該書込み情報に基づいて、ペイロードデータ内のROI画素行データを分割する。ROI画像生成部234は、ROI画素行データから分割した書込み対象ROIの画像データである書込み対象画像データ234Aを生成し、当該書込み対象画像データ234Aをフレームメモリ250に書込む。
【0215】
ROI画像生成部234には、ROIデコード部232からペイロードデータ215A内のROI画素行データをデコードしたROIデコード画像データ232Aが入力される。ROIデコード部232は、ROIデータ分離部215から入力されたペイロードデータ215A内のROI画素行データ(圧縮像データ147B)をデコードしてROIデコード画像データ232Aを生成する。なお、本実施形態においてROIデコード画像データ232Aは、ペイロードヘッダPHおよびペイロードフッタPF(
図15参照)が含まれる。
【0216】
ROI画像生成部234は、第一情報抽出部231から入力される書込み対象ROIの書込み情報に基づいて、ROIデコード画像データ232Aを書込み対象ROI単位に分割する。ROI画像生成部234は、書込み情報のうち書込みサイズに基づいてROIデコード画像データ232Aを書込み対象ROIごとに分割する。上述のように、ROI画像生成部234には、第一情報抽出部231から、始点X座標(書込み開始X座標)の昇順で、書込み対象ROIごとの書込み情報が入力される。このため、ROI画像生成部234は、書込み開始X座標の昇順、つまりROIデコード画像データ232Aのペイロードヘッダ側から順に、書込み対象ROIごとの画像データを分割する。例えばROI画像生成部234は、ROIデコード画像データ232Aから書込み対象ROI単位の画像データを分離し、書込み対象ROIごとの書込み対象画像データを生成する。
【0217】
例えば、ペイロードデータの41行目のラインPL41(
図15参照)の入力時には、ROI画像生成部234は、書込み対象ROIである注目領域ROI2,ROI1それぞれの書込みサイズ(400画素)に基づいて、ROIデコード画像データ232Aを400画素ずつに分割する。具体的には、ROI画像生成部234は、ROIデコード画像データ232Aの先頭(ペイロードヘッダPH側)から400画素分が注目領域ROI2の画像データとして分割し、残余の400画素分を注目領域ROI1の画像データとして分割する。ROI画像生成部234は、分割した注目領域ROI2の画像データをROIデコード画像データ232Aから分離して注目領域ROI2の書込み対象画像データ234Aを生成し、同様にして注目領域ROI1の書込み対象画像データ234Aを生成する。
【0218】
ROI画像生成部234は、書込み対象画像データ234Aを生成すると、書込み対象画像データ234Aを含むデータコマンドを発行する。発行されたデータコマンドは、バス240を介してフレームメモリ250に転送される。これにより、書込み対象ROIの書込み対象画像データ234Aがフレームメモリ250に書込まれる。ROI画像生成部234は、書込み対象画像データ234Aを圧縮し、圧縮した書込み対象画像データ234Aでデータコマンドを生成してもよい。この場合、書込み対象画像データ234Aは、圧縮された状態でフレームメモリ250に書込まれる。
【0219】
本実施形態において、上述のように、ROI画像生成部234にはROI画像アドレス生成部233でのアドレスコマンド発行時において、転送数が入力される。また、ROI画像アドレス生成部233は、書込み対象ROIの書込み開始X座標の昇順でアドレスを生成する。このため、本実施形態において、フレームメモリ250には、同一の書込み対象ROIに関するアドレスコマンドおよびデータコマンドが、ほぼ同じタイミングで転送される。つまり、映像受信装置200aにおいて、アドレスコマンドおよびデータコマンドの発行は同期している。したがって、ROI画像生成部234は、ROI画像アドレス生成部233から転送数が入力されることを契機として、データコマンドを発行することで、一の書込み対象ROIの書込み先を示すアドレスに、当該一の書込み対象ROIの書込み対象画像データ234Aを書込むことができる。つまり、フレームメモリ250には、アドレスコマンドが示す書込み対象ROIの各アドレスにおいて、データコマンドに含まれる当該書込み対象ROIの書込み対象画像データ234Aの各画素が書き込まれる。
【0220】
また、ROI画像生成部234は、書込み対象ROIの全ての画像データがROIデコード画像データ232Aから分離されて書込み対象画像データ234Aのペイロードデータ単位での書込み対象画像データ234Aの生成が完了うすると、書込み終端信号を生成してを第一情報抽出部231に出力する。ROI画像生成部234は、例えばROIデコード画像データ232Aから書込み対象ROIの全ての画像データを分離し、画像データの終端を示すペイロードフッタPF(
図15参照)を検出すると書込み終端信号を第一情報抽出部231に出力する。第一情報抽出部231は、書込み終端信号が入力されることで、ペイロードデータの各ライン(ペイロードデータ215A)内における全ての注目領域の画像データの書込みが終了したことを認識することができる。
【0221】
このように、本実施形態による映像受信装置200aにおける第一情報処理部230aは、生成したROI復元情報に基づいて、フレームメモリ250に注目領域の画像データを書込む。また、第一情報処理部230aは、(具体的には、ROI画像アドレス生成部233)は、ROI復元情報に基づいて撮像画像内での注目領域の相対位置に対応するフレームメモリ250内の復元位置を特定する。さらに、第一情報処理部230aは、(具体的には、ROI画像生成部234)は、フレームメモリ250内の復元位置に注目領域の画像データ(書込み対象画像データ234A)を書込む。このように、映像受信装置200aは、復元処理の実行により、注目領域の画像データを所定の表示装置に表示可能な状態に復元することができる。
【0222】
本実施形態では、映像受信装置200aの第一情報処理部230aが復元処理における情報抽出プロセスおよび書込みプロセスを実行し、注目領域の画像データを表示可能状態に復元してフレームメモリ250に書込むことにより、当該画像データを表示装置300(
図18参照)に効率的に表示することができる。また、本実施形態において、第一情報処理部230aは、復元処理における情報抽出プロセスおよび書込みプロセスを実行可能なハードウェア(例えば、復元処理回路)として構成される。これにより、映像受信装置200aは、注目領域の画像データの復元に係る処理を高速化し、伝送システム2における単位時間あたりの画像データフレームの処理数を向上させる、すなわち高フレームレートでの処理を実現することができる。また、本実施形態による映像受信装置200a全体がハードウェア(例えば、映像受信回路)として構成されてもよい。このた場合、エンベデッドデータおよびペイロードデータを含む伝送データ147Aを受信する受信部210もハードウェア(例えば、受信回路)として構成される。これにより、映像受信装置200aの処理全体を高速化し、伝送システム2における単位時間あたりの画像データフレームの処理数をより向上させる、すなわちより高フレームレートでの処理を実現することができる。
【0223】
ここで、書込み対象ROIの画像データが書き込まれるフレームメモリ250について説明する。フレームメモリ250は、例えば一のアドレスが示す領域において1画素の画像データ(1バイト)を格納可能である。なお、例えばフルカラーの画像データの場合、1画素のデータはRGBの要素ごとに1バイト、計3バイトのメモリサイズとなる。このため、フレームメモリ250は、RGBの要素ごとに設けられ、フルカラーの画像データの1画素(3バイト)を1バイトずつ書込むように構成されてもよい。このとき、例えばRGBごとのフレームメモリ250はそれぞれ共通のアドレスを有し、一の共通アドレスを指定することで、各フレームメモリの同等の位置に1画素分の画像データを書込み可能であってもよい。
【0224】
また、フレームメモリ250には、例えば画像データとは異なる領域において、一のフレームで映像送信装置100から送出される伝送データ147Aの内容を書き込み可能である。本実施形態では、フレームメモリ250には、伝送データ147Aのフレームヘッダ領域に設定されたエンベデッドデータ(EBDデータ214A)の内容も書込まれる。例えば、第一情報抽出部231は、ペイロードデータ215A内の全ての注目領域(ROI)の画像データの書込みを終了したこと(書込み終端信号の入力)に伴い、EBDデータ214AをROI画像生成部234に出力する。ROI画像生成部234は、入力されたEBDデータ214Aをフレームメモリ250に転送する。EBDデータ214Aはフレームメモリにおいて画像付加情報として記憶される。これにより、一の画像データフレームにおいて伝送された注目領域の画像データとエンベデッドデータとが、フレームメモリ250に格納される。
【0225】
本実施形態による映像受信装置200aでは、注目領域の画像データを表示装置300に出力する際に、当該画像データとともにフレームメモリ250に格納されたエンベデッドデータを用いた処理を行う。これにより、フレームメモリ250内に書込まれた注目領域の画像データを含む表示用データをより認識し易い状態で表示装置300に表示させることができる。
【0226】
また、詳しくは後述するが、フレームメモリ250内に書き込まれた注目領域の画像データは、フレームメモリ単位で読み出されて映像受信装置200aから表示装置300(
図18参照)に出力されて、表示装置300が有する画面内に表示される。したがって、第一情報処理部230aにおいて復元され、フレームメモリ250内に書き込まれた注目領域の画像データは、撮像画像内の相対位置を維持した状態で所定の表示装置の画面内に表示可能となる。これにより、注目領域の画像データを効率的に表示装置300に表示することができる。なお、フレームメモリ250から読出された目領域ROIの画像データの表示に係る処理については、後述する。
【0227】
次に、本実施形態による映像受信装置200aにおける復元処理の流れについて
図20を用いて説明する。
図20は、本実施形態による映像受信装置200aにおける復元処理の流れの一例を示すフローチャートである。
【0228】
(ステップS101)
映像受信装置200aに備えられた受信部210は、映像送信装置100から所定のパケットを受信すると、当該パケットがフレーム(本例では、画像データフレーム)の開始を示すパケット(SOF)か否かを判定する。受信部210は、SOFを受信したと判定するとSOFを受信したことを示す制御信号を第一情報処理部230aに出力する。これに基づいて、第一情報処理部230aはステップS103の処理を実行する。一方、受信部210は、受信したパケットがSOFでないと判定すると、所定間隔でステップS101の処理を繰り返してSOFの受信を待機する。
【0229】
(ステップS103)
第一情報処理部230aは、前回の画像データフレームにおいて復元処理に用いられた情報(ROI復元情報など)をリセットして、ステップS105に処理を移す。第一情報処理部230aは、レジスタに記憶されているROI復元情報(X座標順データ、Z座標順データ)の消去またはレジスタへの既定値のセットを行うことで、前回の画像データフレームにおけるROI復元情報などのリセットを行う。
【0230】
(ステップS105)
第一情報処理部230aは、エンベデッドデータが入力されたか否かを判定する。具体的には、第一情報処理部230aに備えられた第一情報抽出部231は、受信部210が備えるEBD解釈部214からROI情報を含むエンベデッドデータ(EBDデータ214A)が入力されたか否かを判定する。第一情報抽出部231は、EBDデータ214Aが入力されたと判定すると、ステップS107に処理を移す。一方、第一情報抽出部231は、EBDデータ214Aが入力されていないと判定すると、所定間隔でステップS105の処理を繰り返して、EBDデータ214Aが入力されるまでステップS107以降の処理の実行を待機する。
【0231】
(ステップS107)
第一情報抽出部231は、エンベデッドデータ(EBDデータ214A)からROI情報(位置情報およびサイズ情報)を抽出し、ステップS109に処理を移す。例えば、第一情報抽出部231は、EBDデータ214Aから、撮像画像αから切り出された注目領域ROI0~2に対応する位置情報として始点座標を抽出し、サイズ情報としてX軸方向長さおよびY軸方向長さを抽出する。
【0232】
(ステップS109)
第一情報抽出部231は、抽出したROI情報を並び替えて、ROI復元情報(X座標順データ、Y座標順データ)を生成し、ステップS111に処理を移す。具体的には、第一情報抽出部231は、抽出したROI情報に基づいて生成した第一座標データおよび第二座標データ(
図16参照)を上述のように並び替えて、ROI復元情報(X座標順データ、Y座標順データ)を生成する。また、第一情報抽出部231はROI復元情報と合わせて最終ライン判定情報を生成する。例えば、第一情報抽出部231は、注目領域ROI0~2の第一座標データを始点X座標の昇順に並び替えてX座標順データ(
図17左側参照)を生成し、注目領域ROI0~2の第二座標データを始点Y座標の昇順に並び替えてY座標順データ(
図17右側参照)を生成する。また第一情報抽出部231は、Y座標順データのうち最も値が大きい注目領域ROI0の終点Y座標(899)を最終ライン判定情報として生成する。
【0233】
(ステップS111)
第一情報抽出部231は、ペイロードデータのヘッダ入力があるか否かを判定する。本実施形態において第一情報抽出部231は、ROIデコード部232においてペイロードデータ215Aが入力されたことを示す信号を検出すると、ペイロードデータのヘッダ入力があったと判定してステップS113に処理を移す。一方、第一情報抽出部231は、ペイロードデータ215Aが入力されたことを示す信号を検出していない場合、当該信号の入力を検出するまで、つまりペイロードデータのヘッダ入力があるまで、所定間隔でステップS111の処理を繰り返す。
【0234】
(ステップS113)
第一情報抽出部231は、ROI復元情報から注目領域(書込み対象ROI)の画像データの書込みに用いる書込み情報(書込みY座標、書込み開始X座標および書込みサイズ)を生成してステップS115に処理を移す。第一情報抽出部231は、Y座標順データから書込みY座標を生成し、生成した書込みY座標を用いてX座標順データから書込み開始X座標および書込みサイズを生成する。第一情報抽出部231は、書込み対象ROIごとに生成した書込み情報を、書込み開始X座標の昇順でROI画像アドレス生成部233、ROI画像生成部234に出力する。入力された書込み情報が入力に基づいて、ROI画像アドレス生成部233はステップS115の処理を実行し、ROI画像生成部234はステップS117、ステップS119の処理を実行する。
【0235】
(ステップS115)
ROI画像アドレス生成部233は、入力された書込み情報に基づいて、書込み対象ROIの復元位置に対応するフレームメモリ250内のアドレスを算出する。算出されたアドレスは、アドレスコマンドとして発行されフレームメモリ250に転送される。また、ROI画像アドレス生成部233は、アドレスコマンドの発光に伴い、書込み対象ROIの画素数を示す転送数をROI画像生成部234に出力する。
【0236】
(ステップS117)
ROI画像生成部234は、第一情報抽出部231から入力された書込み情報に基づいて書込み対象画像データ234Aを生成してステップS119に処理を移す。ROI画像生成部234は、入力される書込み情報に基づいて、ROIデコード部232から入力されたROIデコード画像データ232Aを書込み対象ROI単位に分割し、書込み対象画像データ234Aを生成する。
【0237】
(ステップS119)
ROI画像生成部234は、書込み対象画像データ234Aを含むデータコマンドを発行し、バス240を介してフレームメモリ250に書込み対象画像データ234Aを書込む。ROI画像生成部234は、ROI画像アドレス生成部233から転送数が入力されたタイミングでデータコマンドを発する。またROI画像生成部234は、データコマンドを発行したことを示す所定の信号を第一情報抽出部231に出力する。第一情報抽出部231は、当該信号が入力されるとステップS121の処理を実行する。またROI画像生成部234は、ROIデコード画像データ232AのペイロードフッタPFを検出した場合には、書込み終端信号を第一情報抽出部231に出力する。
【0238】
(ステップS121)
第一情報抽出部231は、入力された1ライン分のペイロードデータ(ペイロードデータ215A)内の書込み対象ROIの画像データ(ROIデコード画像データ232A内のROI画素行データ)が、フレームメモリ250に全て書込まれたか否かを判定する。第一情報抽出部231は、ROI画像生成部234からデータコマンドを発行したことを示す所定の信号が入力されると、当該判定を行う。第一情報抽出部231は、ROI画像生成部234から書込み終端信号が入力されている場合に、1ライン分のペイロードデータにおける書込み対象ROIの画像データの書込みが終了したと判定して、ステップS123に処理を移す。一方、第一情報抽出部231は、書込み終端信号が入力されていない場合に、フレームメモリ250に書込まれていない書込み対象ROIの画像データが残存していると判定してステップS115に処理を戻す。
【0239】
このようにして、本実施形態における復元処理では、ステップS115からステップS119の処理が、ペイロードデータの各ライン内の書込み対象ROIの数だけ繰り返される。これにより、ペイロードデータの各ライン内の全ての書込み対象ROIの画像データを書込み開始X座標の昇順でフレームメモリ250内に書込むことができる。例えば、ペイロードデータのラインPL600(
図15参照)の書込み対象ROIである注目領域ROI2,ROI0,ROI1の全ての画像データを、この順にフレームメモリ250内に書込むことができる。
【0240】
(ステップS123)
第一情報抽出部231は、ペイロードデータの最終ラインの処理か否かを判定する。第一情報抽出部231は、書込み終端信号が入力されたことに基づいて、現在の書込み情報における書込みY座標の値と最終ライン判定情報の値とを比較し、書込みY座標の値と最終ライン判定情報の値とが等しい場合に、ペイロードデータの最終ラインの処理であると判定する。一方、第一情報抽出部231は、書込みY座標の値と最終ライン判定情報の値とが等しくない場合に、ペイロードデータの最終ラインの処理でないと判定してステップS111に処理を戻す。これにより、伝送データ147A内のパケット領域R2に格納された全ラインのペイロードデータの注目領域の画像データに対して復元処理を実行することができる。
【0241】
例えば、
図15に示すペイロードデータのラインPL1~800についての復元処理を実行する場合、第一情報抽出部231は、書込みY座標の値が最終ライン判定情報の値「899」と等しい場合に、ペイロードデータの最終ラインの処理であると判定する。これにより、映像受信装置200aにおいてラインPL1~800の全800ラインについて注目領域の画像データの復元処理が実行され、注目領域ROI0~2の画像データがフレームメモリ250に書込まれる。
【0242】
このように、本実施形態による映像受信装置200a及び映像伝送システム2は、注目領域の画像データの復元処理を行うことができる。
【0243】
次に、第一情報処理部230aにおける通常画像処理に係る構成について説明する。第一情報処理部230aは、通常画像処理を行う構成として、通常画像アドレス生成部235、通常画像デコード部236および通常画像生成部237を有している。
通常画像デコード部236は、ROIデータ分離部215から入力されたペイロードデータ215Bをデコードし、通常画像224Aを生成する。通常画像デコード部236は、ペイロードデータ215Aに含まれる圧縮像データ147Bをデコードして通常画像生成部237に出力する。また、通常画像アドレス生成部235は、ペイロードデータに含まれる画像データが通常画像データであること(通常画像デコード部236に通常画像のデータを含むペイロードデータ215B出力されたこと)を示す判別結果がROIデータ分離部215から入力されたことに基づいて、通常画像のデータを画素行単位でフレームメモリ250に書込むための通常画像アドレスを生成する。
【0244】
本実施形態において、フレームメモリ250は撮像画像(例えば、撮像画像α)の全領域の画像データを格納可能に構成されている。このため、通常画像アドレス生成部235は、ROIデータ分離部215から上述の判別結果が入力される度に、撮像画像の画素行単位(X軸方向の左端から右端まで)のアドレスを生成すればよい。本例において、通常画像アドレス生成部235は、撮像画像αの先頭の画素行に相当する通常画像のデータのアドレスを生成する場合に、まず先頭アドレスとして撮像画像αの原点α_оを示す座標「0,0(X,Y)」に対応するフレームメモリ250のアドレスを算出する。さらに、通常画像アドレス生成部235は、先頭アドレスを算出すると、ROI画像アドレス生成部233におけるアドレス生成と同様に、撮像画像αの画素行単位のX軸方向の書込みサイズ(1760画素)から、撮像画像αの先頭の画素行の各画素を格納するための連続したアドレスを生成する。以降、Y座標を1ずつ加算しながら先頭の画素行のアドレスと同様にして、通常画像のデータのアドレスを生成し、アドレスコマンドを発行すればよい。
【0245】
なお、通常画像のデータは、バス240の仕様等に応じて、分割してフレームメモリ250に転送されてもよい。この場合、通常画像アドレス生成部235は、撮像画像の画素行単位の所定画素数ごとに分割してアドレスコマンドを生成、発行してもよい。この場合、通常画像アドレス生成部235は、アドレスの分割数に基づく通常画像のデータの転送時の画素数(転送数)を、通常画像生成部237に出力すればよい。
【0246】
通常画像生成部237は、通常画像デコード部236から入力されたデコード済みの通常画像のデータに基づいて、フレームメモリ250の当該データを書込むためのデータコマンドを生成、発行する。また、通常画像生成部237は、通常画像アドレス生成部235から入力された転送数に基づいて、通常画像のデータを分割し、分割した通常画像のデータを含むデータコマンドを生成、発行してもよい。また通常画像生成部237は、通常画像のデータを圧縮し、圧縮した通常画像のデータでデータコマンドを生成してもよい。この場合、フレームメモリ250には、圧縮された状態の通常画像のデータが書き込まれる。
【0247】
また、通常画像アドレス生成部235は、所定のコマンドを発行して、ROIデータ分離部215から入力された画像データのデータタイプの判別結果をフレームメモリ250に転送する。当該判別結果はフレームメモリにおいて画像付加情報として記憶される。これにより、一の画像データフレームにおいて伝送された通常画像のデータと通常画像のデータに対応するデータタイプを示す判別結果が、フレームメモリ250に格納される。
【0248】
5.映像受信装置における画像データの表示に係る処理
次に、フレームメモリ250に格納された画像データの表示に係る処理について説明する。
図19に戻って、本実施形態による映像受信装置200aは、フレームメモリ250に格納された画像データの表示に係る処理を行う構成として、第二情報処理部230bを備えている。第二情報処理部230bは、例えば注目領域の画像データの表示に係る処理として、画像データ差替え処理を実行する。
【0249】
5-1.画像データ差替え処理に係る構成
詳しくは後述するが、画像データ差替え処理は、注目領域の画像データが表示装置300に表示される場合に、フレームメモリ250に格納された表示装置300の画面単位の画像データのうち、注目領域の画像データに該当しない非ROI画像データを、固定値画像データに差替える処理である。以下、第二情報処理部230bにおける画像データ差替え処理について説明する。
【0250】
本実施形態では、例えば映像送信装置100(
図18参照)から画像データフレーム単位で伝送された画像データ(注目領域(ROI)の画像データ、通常画像のデータ)がフレームメモリ250に書込まれると、当該画像データフレームに基づいて書込まれたDMAコントローラ260によってフレームメモリ250内のデータ(付加情報および画像データ)が順次読み出される。読み出されたデータは第二情報処理部230bに出力される。
【0251】
本実施形態におけるDMAコントローラ260は、フレームメモリ250および第二情報処理部230b間におけるデータの転送を制御するものである。なお、本開示におけるDMAコントローラ260はこれに限られず、フレームメモリ250および第一情報処理部230a間におけるデータの転送を制御するように構成されてもよい。
【0252】
DMAコントローラ260は、バス240を介してフレームメモリ250と第二情報処理部230bとの間で、DMA(Direct Memory Access)によりデータを転送するためのコントローラである。DMAコントローラ260は、フレームメモリ250から読み出した付加情報を第二情報抽出部271に出力する。またDMAコントローラ260は、フレームメモリ250から読み出した表示対象の画像データである表示対象画像データRDを画像データ差替え部272に出力する。DMAコントローラ260は、例えばフレームメモリ250内の画像データの各画素をアドレスごとに読み出すと、フレームメモリ250における画素行単位の表示対象画像データRDとして画像データ差替え部272に出力する。
【0253】
例えば、フレームメモリ250が1画素行あたり1760画素(X座標=0~1759)の画像データを格納可能な場合、表示対象画像データRDは当該1760画素分の画像データで構成される。なお、DMAコントローラ260が画像データ差替え部272に出力する表示対象画像データRDは、画素行単位に限られず、例えば、画素単位(1画素ごと)であってもよい。また、DMAコントローラ260は画素行単位の画像データを複数の表示対象画像データRDに分割して画像データ差替え部272に出力してもよい。
【0254】
第二情報処理部230bにおける第二情報抽出部271は、DMAコントローラ260から入力された付加情報を解析する。具体的には、第二情報抽出部271は、入力された付加情報がエンベデッドデータ(EBDデータ214A)であるか否かを判定し、エンベデッドデータである場合には、エンベデッドデータに含まれるROI情報(ROI情報120B)に基づいてROI復元情報を生成する。
【0255】
第二情報抽出部271は、第一情報処理部230aにおける第一情報抽出部231と同様に、エンベデッドデータ(EBDデータ214A)に含まれるROI情報(ROI情報120B)から、注目領域の位置情報(始点座標)及びサイズ情報(X軸方向長さおよびY軸方向長さ)を抽出してROI復元情報(X座標順データおよびY座標順データ)を生成する。第二情報抽出部271は生成したROI復元情報を、所定のレジスタに記憶する。また、第二情報抽出部271は、ROI復元情報を生成したことを示す信号を画像データ差替え部272に出力してもよい。本実施形態において第二情報抽出部271によるROI復元情報の生成は、画像データ差替え処理における情報抽出プロセスに相当する。
【0256】
第二情報処理部230bにおける画像データ差替え部272は、注目領域の画像データが表示装置300(
図18参照)に表示される場合に、フレームメモリ250に格納された表示装置300の画面単位の画像データのうち、注目領域の画像データに該当しない非ROI画像データを、固定値画像データに差替える。本実施形態において画像データ差替え部272における非ROI画像データの差替えは、画像データ差替え処理における差替えプロセスに相当する。
【0257】
ここで、固定値画像データとは、例えば固定の態様を有する画像データである。本実施形態において固定値画像データは、例えば固定色(例えば、白色)の画像データである。このため、本実施形態における画像データ差替え処理が実行されると、非ROI画像のデータが白色の画像データに差替えられる。通常、フレームメモリの各アドレス領域には、画像データフレームにおいて伝送された画像データが順次上書きされる。また、画像データフレーム単位での画像データの書込みに際して、通常フレームメモリの初期化は行われない。このため、フレームメモリにおいて新たに注目領域の画像データが上書きされた場合、上書き対象のアドレス以外のアドレスには、前回までの画像データフレームで伝送された画像データが残存することとなる。
【0258】
本実施形態による映像受信装置200aでは、注目領域の画像データが表示される場合に、画像データ差替え処理を実行することで、非ROI画像のデータ、つまり上書き対象のアドレス以外のアドレスに残存している画像データを固定値画像データに差替える。これにより、映像受信装置200aは、表示装置300において表示対象となる注目領域の画像データの視認性を向上させることができる。なお、フレームメモリ250において注目領域の画像データが復元位置(撮像画像における相対位置に対応する位置)に書込まれている場合、固定値画像データは、撮像画像における注目外領域OEを示す画像として表示装置300に表示されることとなる。
【0259】
画像データ差替え部272は、第二情報抽出部271からROI復元情報を生成した旨の信号が入力されると、注目領域の画像データが表示対象であってDMAコントローラ260から入力される表示対象画像データRDに注目領域の画像データが含まれると判定する。これにより、画像データ差替え部272は、第二情報抽出部271が生成したROI復元情報に基づいて表示対象画像データRDに対して非ROI画像データの差替え(差替えプロセス)を実行する。
【0260】
画像データ差替え部272は、画像データ差替え処理の差替えプロセスにおいて、第二情報抽出部271が生成したROI復元情報に基づいて非ROI画像データを特定する。画像データ差替え部272は、X座標順データおよびY座標順データに基づいてフレームメモリ250に格納された画面単位の画像データ内の非ROI画像データを特定する。また、画像データ差替え部272は、ROI復元情報に基づいてフレームメモリ250内の画面単位の画像データの各画素が注目領域の画像データに含まれるか、または前記非ROI画像データに含まれるかを判定する。
【0261】
具体的には、画像データ差替え部272は、画面単位の画像データ(フレームメモリ250内の画像データ)の各画素の座標位置を取得し、当該座標位置が注目領域に含まれているか否かを判定する。例えば画像データ差替え部272は、フレームメモリ250から読み出された画素行単位の表示対象画像データRDが入力されると、表示対象画像データRDの各画素の座標位置を取得する。画像データ差替え部272は、例えば表示対象画像データRD(例えばX座標=0~1759))の先頭(X座標=0)から順に各画素の座標位置を取得する。
【0262】
本実施形態において画像データ差替え部272は、カウンタを用いて読出された画像データ(表示対象画像データRD)の座標位置を取得する。本実施形態において、第二情報処理部230bは、種々の計測処理に用いるカウンタ部を有している。本実施形態において第二情報処理部230bは、カウンタ部として、水平カウンタXctと垂直カウンタYctとを有している。水平カウンタXctは、フレームメモリ250から読み出された表示対象画像データRDの撮像画像内におけるX軸方向位置(水平位置)を計測するカウンタである。水平カウンタXctのカウンタ値は、撮像画像(例えば撮像画像α)内のX座標に相当する。また、垂直カウンタYctは、表示対象画像データRDの撮像画像内におけるY軸方向位置(垂直位置)を計測するカウンタである。垂直カウンタYctの値は撮像画像内のY座標に相当し、撮像画像内の画素行の位置を示す。例えば、水平カウンタXctおよび垂直カウンタYctの値が「0」の場合、撮像画像内の原点α_о(0,0)を示す。
【0263】
画像データ差替え部272は、表示対象画像データRDが入力されると、水平カウンタXctの値を参照して表示対象画像データRDの各画素の座標を先頭から順に取得する。本実施形態において、映像受信装置200aは、所定のクロック信号に同期して装置内の各処理を行う。このため、水平カウンタXctのカウンタ値は、当該クロック信号に同期して1ずつ更新(加算)される。また、本実施形態において水平カウンタXctのカウンタ値が撮像画像のX座標の終端、つまり撮像画像の右端部を示す値に到達すると、垂直カウンタYctの値が更新(1加算)される。例えば撮像画像αの右端部のX座標は「1759」である。このため、水平カウンタXctのカウンタ値が「1759」になると水平カウンタXctのカウンタ値はリセットされて「0」となる。このとき、垂直カウンタYctの値が更新(1加算)される。
【0264】
画像データ差替え部272は、表示対象画像データRDの各画素の座標位置を取得すると、ROI復元情報(X座標順データおよびY座標順データ)に基づいて取得した座標位置が注目領域に含まれているか否かを判定する。画像データ差替え部272は、表示対象画像データRDの各画素のうち注目領域に含まれている画素の画像データを表示装置300に出力する。一方、画像データ差替え部272は表示対象画像データRDの各画素のうち注目領域に含まれていない画素のデータを非ROI画像のデータと判定し、当該画素の画像データを固定値画像データに差替えて表示装置300に出力する。
【0265】
例えば画像データ差替え部272は、非ROI画像のデータを特定するために、表示対象画像データRDの各画素の撮像画像内でのY座標(画素Y座標)およびX座標(画素X座標)のそれぞれが、注目領域に含まれているか否かを判定する。例えば画像データ差替え部272は、まずROI復元情報のY座標順データを用いて画素Y座標の判定を行う。
【0266】
ここで、画像データ差替え処理の差替えプロセスにおける画素Y座標の判定の一例を説明する。画像データ差替え部272は、例えば画素Y座標を示す垂直カウンタYctのカウンタ値とY座標順データとを用いて画素Y座標の判定を行う。画像データ差替え部272は、Y座標順データの先頭から順(始点Y座標の昇順)に第二座標データを抽出し、抽出した第二座標データにおける始点Y座標から終点Y座標の範囲(ROI垂直範囲)内に垂直カウンタYctのカウンタ値が含まれるか否か(第一判定条件)を判定する。
【0267】
また、画像データ差替え部272は、ROI垂直範囲内に垂直カウンタYctのカウンタ値が含まれる(第一判定条件が成立している)と判定すると、当該第二座標データと紐付いた注目領域(ROI)の第一座標データをX座標順データから抽出して、画素X座標の判定を行う。一方、画像データ差替え部272は、垂直カウンタYctのカウンタ値がY座標順データのいずれの第二座標データにおけるROI垂直範囲内にも含まれていない(第一判定条件が成立していない)と判定すると、表示対象画像データRDにおける処理中の画素が注目領域の画像データに含まれておらず、非ROI画像データに含まれていると判定する。
【0268】
次に、画像データ差替え処理の差替えプロセスにおける画素X座標の判定の一例を説明する。画像データ差替え部272は、画像データ差替え部272は上記第一判定条件が成立した際の第二座標データに紐つく第一座標データをX座標順データから抽出し、抽出した第一座標データにおける始点X座標から終点X座標の範囲(ROI水平範囲)内に水平カウンタXctのカウンタ値が含まれるか否か(第二判定条件)を判定する。このように、画像データ差替え部272は、例えば画素X座標を示す水平カウンタXctのカウンタ値とX座標順データとを用いて画素X座標の判定を行う。
【0269】
画像データ差替え部272は、ROI水平範囲内に水平カウンタXctのカウンタ値が含まれる(第二判定条件が成立している)と判定すると、表示対象画像データRDにおける処理中の画素が注目領域に含まれており、注目領域の画像データに含まれると判定する。つまり、画像データ差替え部272は、上述の第一判定条件および第二判定条件の両方が成立し、し表示対象画像データRDのうち処理対象(注目領域内か否かの判定対象)の画素の座標位置が注目領域に含まれていると判定された場合に、処理中の画素が注目領域の画像データに含まれると判定する。
【0270】
一方、画像データ差替え部272は、水平ROI範囲内に水平カウンタXctのカウンタ値が含まれていない(第二判定条件が成立していない)と判定すると、表示対象画像データRDにおける処理中の画素が注目領域の画像データに含まれておらず、非ROI画像データに含まれていると判定する。このように、画像データ差替え部272は上述の第一判定条件および第二判定条件のいずれかが不成立となり、処理中の画素の座標位置が注目領域に含まれていないと判定された場合に、非ROI画像データに含まれると判定する。
【0271】
画像データ差替え部272は、画像データ差替え処理の差替えプロセスにおいて、表示対象画像データRDにおける処理中の画素の座標位置が注目領域に含まれていると判定すると、当該画素を表示対象の画像データとして表示装置300に出力(送出)する。一方、画像データ差替え部272は、画像データ差替え処理の差替えプロセスにおいて、表示対象画像データRDにおける処理中の画素の座標位置が注目領域ではなく非ROI画像データに含まれていると判定すると、当該画素のデータ(表示対象の画像データ)を固定値画像データに差替えて、表示装置300に出力(送出)する。
【0272】
5-2.画像データ差替え処理方法
次に、本実施形態による映像受信装置200aにおける画像データ差替え処理の流れ(画像データ差替え処理方法)について
図22を用いて説明する。
図21は、本実施形態による映像受信装置200aにおける画像データ差替え処理の流れの一例を示すフローチャートである。
【0273】
(ステップS201)
映像受信装置200aに備えられた第二情報処理部230bにおいて第二情報抽出部271は、画像データフレームの開始か否かを判定する。本実施形態において、画像データ差替え処理における画像データフレームは、DMAコントローラ26によってフレームメモリ250から読み出される一連のデータを示す。つまり、フレームメモリ250から順次読み出される付加情報および画像データを含む一連の読出しデータが画像データ差替え処理における画像データフレームに相当する。
【0274】
第二情報抽出部271は、ステップS201において、DMAコントローラ260がフレームメモリ250からデータの読出しを開始したか否かを判定する。第二情報抽出部271は、例えばDMAコントローラ260から所定の信号またはコマンドが入力されることにより、フレームメモリ250からのデータの読出しが開始された(画像データフレームが開始された)と判定すると、ステップS203に処理を移す。一方、第二情報抽出部271は、フレームメモリ250からのデータの読出しが開始されていない(画像データフレームが開始されていない)と判定すると、当該読み出しが開始されるまでステップS201の処理を所定間隔で繰り返す。
【0275】
(ステップS203)
第二情報抽出部271は、画像データ差替え処理における前回の画像データフレームの読出し時において生成された種々の情報をリセットして、ステップS205に処理を移す。第二情報抽出部271は、レジスタに記憶されているROI復元情報(X座標順データ、Z座標順データ)の消去またはレジスタへの既定値のセットを行うことで、前回の画像データフレームにおけるROI復元情報などのリセットを行う。
【0276】
(ステップS205)
第二情報抽出部271は、エンベデッドデータが入力されたか否かを判定する。具体的には、第二情報抽出部271は、DMAコントローラ260から付加情報としてROI情報を含むエンベデッドデータ(EBDデータ214A)が入力されたか否かを判定する。第一情報抽出部231は、フレームメモリ250から読出されたEBDデータ214Aが入力されたと判定すると、ステップS207に処理を移す。一方、第二情報抽出部271は、EBDデータ214Aが入力されていないと判定すると、所定間隔でステップS205の処理を繰り返して、EBDデータ214Aが入力されるまでステップS207以降の処理の実行を待機する。
【0277】
なお、第二情報処理部230bは、DMAコントローラ260から第二情報抽出部271に付加情報として通常画像のデータタイプを示す判別結果が入力された場合、通常画像のデータの表示に係る処理を実行すればよい。当該処理については後述する。
【0278】
(ステップS207)
第二情報抽出部271は、復元処理におけるステップS107(
図20参照)における第一情報抽出部231の処理と同様にして、エンベデッドデータ(EBDデータ214A)からROI情報(位置情報およびサイズ情報)を抽出し、ステップS209に処理を移す。
【0279】
(ステップS209)
第二情報抽出部271は、復元処理におけるステップS109(
図20参照)における第一情報抽出部231の処理と同様にして、抽出したROI情報を並び替えて、ROI復元情報(X座標順データ、Y座標順データ)を生成し、ステップS211に処理を移す。またこのとき、第二情報抽出部271は、ROI復元情報をレジスタに記憶し、ROI復元情報を生成したことを示す信号を、画像データ差替え部272に出力する。なお、例えば画像データ差替え処理において第二情報抽出部271が生成したROI復元情報が記憶されるレジスタは、復元処理において第一情報抽出部231が生成したROI復元情報が記憶されるレジスタとは異なるものである。
【0280】
(ステップS211)
映像受信装置200aに備えられた第二情報処理部230bにおいて画像データ差替え部272は、ペイロードデータの入力があったかを判定する。画像データ差替え処理におけるペイロードデータは、DMAコントローラ260によってフレームメモリ250からアドレスごとに読み出された画素行単位の表示対象画像データRDを示す。第二情報抽出部271は、DMAコントローラ260から表示対象画像データRDが入力された場合、ペイロードデータが入力されたと判定してステップS213に処理を移す。一方、第二情報抽出部271は、DMAコントローラ260から表示対象画像データRDが入力されていない場合、ペイロードデータが入力されていないと判定して、表示対象画像データRDの入力があるまで所定間隔(例えばクロック信号と同期した周期)でステップS211の処理を繰り返す。
【0281】
以下、ステップS213、ステップS215の処理およびステップS217もしくはステップS219の処理は、ペイロードデータ(表示対象画像データRD)内の全画素について実行する、すなわち各画素を網羅するように実行する処理である。このため、画像データ差替え部272は、表示対象画像データRD内の全ての画素について画像データ差替え処理の差替えプロセスにおける処理が終了する(ステップS221のYES)まで、ステップS213およびステップS215の処理を繰り返し、ステップS215の結果に応じてステップS217またはステップS219の処理を実行する。
【0282】
(ステップS213)
画像データ差替え部272は、表示対象の画像データ、すなわちフレームメモリ250から読出された表示対象画像データRD内の表示対象の画素の座標を取得してステップS215に処理を移す。画像データ差替え部272は、垂直カウンタYctのカウンタ値を画素Y座標として取得する。また画像データ差替え部272は、水平カウンタXctのカウンタ値を画素X座標として取得する。これにより、各画素の座標が取得される。画像データ差替え処理において、画像データ差替え部272は、例えばクロック信号と同期した周期でステップS213を実行する度に、表示対象画像データRD内の各画素について先頭(X座標=0)から順に座標を取得する。
【0283】
画像データ差替え部272は、ステップS213で取得した表示対象の画素の座標位置が注目領域(ROI)に含まれるか否かを判定する。画像データ差替え部272は、上述のように、垂直カウンタYctの値(画素Y座標)をY座標順データに基づいて判定し、かつ水平カウンタXctの値(画素X座標)をX座標順データに基づいて判定する。画像データ差替え部272は、画素Y座標がROI垂直範囲に含まれ(第一判定条件が成立)、且つ画素X座標がROI水平範囲に含まれる(第二判定条件が成立)と判定すると表示対象の画素が注目領域(ROI)に含まれると判定してステップS217に処理を移す。一方、画像データ差替え部272は、第一判定条件および第二判定条件のいずれか一方が不成立であると判定すると、表示対象の画素が注目領域に含まれずに非ROI画像データに含まれると判定してステップS219に処理を移す。
【0284】
(ステップS217)
画像データ差替え部272は、表示対象の画素が注目領域に含まれると判定されたことに基づいて、当該画素を表示装置300(
図18参照)に出力し、ステップS221に処理を移す。
【0285】
(ステップS219)
画像データ差替え部272は、非ROI画像データに含まれると判定されたことに基づいて、表示対象の画素を固定値画像データに差し替える。具体的には、画像データ差替え部272は、表示対象の画素に代えて固定値画像データを表示装置300に出力し、ステップS221に処理を移す。
【0286】
(ステップS221)
画像データ差替え部272はペイロードデータにおける処理中のラインにおける全ての画像データ、すなわち画素行単位の表示対象画像データRD内の全ての画素を出力したか否かを判定する。画像データ差替え部272は、水平カウンタXctのカウンタ値(画素X座標)が撮像画像内の右端部に相当する終端X座標(X軸方向の終端座標)の値に到達している場合に、表示対象画像データRD内の全ての画素を出力したと判定してステップS223に処理を移す。このとき、画像データ差替え部272は、水平カウンタXctのカウンタ値をリセット(カウンタ値に「0」をセット)する。例えば、撮像画像αの右端部のX座標が「1759」であって、フレームメモリ250が1画素行あたり1760画素(X座標=0~1759)の画像データを格納可能であるとする。この場合、画像データ差替え部272は水平カウンタXctのカウンタ値が「1759」である場合に表示対象画像データRD内の全ての画素を出力したと判定する。上述のように、水平カウンタXctがリセットされると、垂直カウンタYctのカウンタ値が更新(1加算)される。これにより、画素行単位の表示対象画像データRDにおいて共通となる画素Y座標の値が更新される。
【0287】
一方、画像データ差替え部272は、水平カウンタXctのカウンタ値がフレームメモリ250内の終端X座標の値未満であると判定すると、ステップS213に処理を戻す。これにより、画素行単位の表示対象画像データRD内の全画素に対して画像データ差替え処理における差替えプロセスが実行される。
【0288】
(ステップS223)
画像データ差替え部272は、ペイロードデータの最終ラインの処理、すなわちフレームメモリ内の全ての画像データについて処理(画像データ差替え処理の差替えプロセスにおける処理)を終了したか否かを判定する。画像データ差替え部272は、垂直カウンタYctの値(カウンタ値)を更新(1加算)する。画像データ差替え部272は、例えば垂直カウンタYctの値(画素Y座標)が、撮像画像の下端部に対応するY座標の値に到達している場合に、フレームメモリ250内から読み出された全ての表示対象画像データRDについての処理を終了したと判定して画像データ差替え処理を終了する。このとき、画像データ差替え部272は、水平カウンタXct、垂直カウンタYctの順に、各カウンタをリセット(カウンタ値に「0」をセット)する。これにより、水平カウンタXct、垂直カウンタYctのいずれのカウンタ値も「0」となる。
【0289】
例えば、撮像画像αの下端部のY座標が「989」であって、フレームメモリ250が989行分の画素行の画像データを格納可能であるとする。この場合、画像データ差替え部272は、垂直カウンタYctの値が「989」である場合にフレームメモリ250内から読み出された全ての画像データについて処理を終了したと判定して、画像データ差替え処理を終了する。一方、画像データ差替え部272は、垂直カウンタYctのカウンタ値が、撮像画像αの下端部のY座標の値未満であると判定すると、ステップS211に処理を戻す。これにより、フレームメモリ250内の全画素行分の表示対象画像データRD内の全画素、つまりフレームメモリ250内の全ての画像データに対して画像データ差替え処理における差替えプロセスが実行される。
【0290】
以上説明したように、本実施形態による映像受信装置200a(
図19参照)は、所定の撮像画像から切り出された所定数の注目領域(ROI)の画像データをペイロードデータに含むとともに、ROI情報をエンベデッドデータに含む伝送信号を受信する受信部210と、エンベデッドデータから抽出した所定数の注目領域に対応するROI情報に基づいて注目領域の画像データを表示装置300(
図18参照)に表示可能な状態に復元する復元処理を実行可能な情報処理部230(具体的には、第一情報処理部230a)と、を備える。これにより、注目領域の画像データを効率的に表示装置300に表示することができる。
【0291】
また、本実施形態による映像受信装置200aにおける情報処理部230(具体的には、第二情報処理部230b)は、注目領域の画像データが表示装置300に表示される場合に、フレームメモリ250に格納された表示装置300の画面単位の画像データのうち、注目領域の画像データに該当しない非ROI画像データを、固定値画像データに差替える。これにより、表示装置300において表示対象となる注目領域の画像データの視認性を向上させることができる。
【0292】
また、本実施形態による映像受信装置200aにおいて、受信部210および情報処理部230(第一情報処理部230a、第二情報処理部230b)はハードウェアとして構成される。これにより、映像受信装置200aは、第一情報処理部230aにおける注目領域の画像データの復元に係る処理、および第二情報処理部230bにおける画像データの差替え処理を高速化し、単位時間あたりの画像データフレームの処理数を向上させることができる。
【0293】
5-3.通常画像のデータの表示に係る処理
次に、第二情報処理部230bにおける通常画像のデータの表示に係る処理(通常画像表示処理)についての概要を説明する。第二情報処理部230bは、DMAコントローラ260から第二情報抽出部271に付加情報として通常画像のデータタイプを示す判別結果が入力された場合に、通常画像表示処理を実行する。
【0294】
具体的には、第二情報抽出部271は、入力された付加情報が通常画像のデータに対応するデータタイプを示す判別結果である場合には、当該判別結果を画像データ差替え部272に出力する。画像データ差替え部272は、判別結果が入力されると、DMAコントローラ260から入力される表示対象画像データRDが通常画像のデータであると判定する。この場合、画像データ差替え部272は、画像データ差替え処理を実行せずに通常画像のデータを含む表示対象画像データRDを表示装置300に出力する。例えば、画像データ差替え部272は通常画像のデータを含む表示対象画像データRDを画素単位(1画素ずつ)に分割して表示装置300に出力してもよいし、画素行単位で出力してもよい。このように、画像データ差替え部272は、表示装置300に画像データを出力する出力部としての機能を有する。
【0295】
6.復元処理の変形例
6-1.変形例1
本実施形態の復元処理における書込みプロセスを実行するROI画像生成部234は、ROI画素行データを注目領域(ROI)ごとに分割してフレームメモリ250に書込むとしたが、本開示はこれに限られない。ペイロードデータ215A内のROI画素行データのフレームメモリへの書込みに関しては種々の方法が想定される。
【0296】
例えば第一情報処理部230aにおけるROI画像生成部234は、ROI復元情報に基づいてペイロードデータ215A内の注目領域の画像データ(ROI画素行データ)を、バースト転送によってフレームメモリ250に転送して書込むようにしてもよい。例えば、ROI画像生成部234は、書込みプロセスにおいて、所定条件が成立している場合に、ペイロードデータ内の2以上の注目領域の画像データの間にダミー画像データを挿入して、当該2以上の注目領域の画像データを連結したダミー挿入画像データ234Bを生成する。そして、例えばROI画像生成部234は、生成したダミー挿入画像データ234Bを1回の指示(例えば1回のデータコマンドの発行)によって連続してフレームメモリに書込むようにしてもよい。
【0297】
つまり、ROI画像生成部234は、生成したダミー挿入画像データ234Bをバースト転送によってフレームメモリ250に転送し、ダミー挿入画像データ234Bをフレームメモリ250に連続して書き込んでもよい。ここで、ダミー挿入画像データ234Bに含まれるダミー画像データとは、例えば2以上の注目領域間の空隙を埋める所定の画像データ(例えば、上記画像データ差替え処理における固定値画像データと同様の画像データなど)であればよい。
【0298】
本変形例において、第一情報抽出部231は、例えばペイロードデータ215Aにおける一のROI画素行データ内に2つの書込み対象ROIの画像データが含まれる場合、書込み対象ROIの画像データ間の距離、つまり空隙の長さに応じて、上述のバースト転送の実行可否を判定してもよい。例えば、第一情報抽出部231は、書込み対象の注目領域(書込み対象ROI)の画像データ間の空隙が狭く、当該空隙に挿入するダミー画像データのメモリサイズ(バイト数)が所定サイズ以内となる場合(所定条件の一例)にバースト転送を実行可能であると判定してもよい。この場合、第一情報抽出部231は、ROI復元情報に基づく書込み情報として書込み対象ROIの画像データそれぞれの書込みサイズに加えてダミー画像サイズを生成する。
【0299】
例えば、第一情報抽出部231は、ダミー画像データのメモリサイズが128バイト以内となる場合に、バースト転送を実行可能であると判定し、書込み情報としてダミー画像サイズを生成してもよい。なお、バースト転送の実行可否の判定に用いるダミー画像データのメモリサイズや、バースト転送可能な画像データのサイズは、例えば映像受信装置200a内において画像データの転送に用いるバス240の仕様などに応じて適宜選択される。なお、ダミー画像データのメモリサイズが128バイトを超過し、バースト転送が不可能である場合には、第一情報抽出部231は上記実施形態のように書込み対象ROIごとに画像データの書込みを行うと判定すればよい。
【0300】
ROI画像生成部234は、第一情報抽出部231からダミー画像サイズを含む書込み情報が入力されると、当該ダミー画像サイズを有するダミー画像データを生成し、例えば2つの書込み対象ROIの画像データの間に挿入してダミー挿入画像データ234Bを生成する。このとき、ROI画像生成部234は各注目領域ROIの書込みサイズ(分割サイズ)に基づいて、ダミー画像データの挿入位置を判定すればよい。ROI画像生成部234は、ダミー挿入画像データ234Bを生成すると、生成したダミー挿入画像データ234Bを含むデータコマンドを発行し、複数(例えば2つ)の書込み対象ROIの画像データをバースト転送によってフレームメモリ250に書込む。
【0301】
ROI画像生成部234が、2以上の書込み対象ROIの画像データについてバースト転送を行う場合、一のデータコマンドによってフレームメモリ250に転送される画像データのサイズ(バースト転送サイズ)、すなわちダミー挿入画像データ234Bの画像サイズは、バースト転送の対象となる書込み対象ROIの画像データの書込みサイズの合計にダミー画像データのサイズ(ダミー画像サイズ)を加算したサイズとなる。
【0302】
また、第一情報抽出部231が複数(例えば2つ)の書込み対象ROIの画像データについてバースト転送を行うと判定した場合、ROI画像アドレス生成部233はダミー画像サイズを含む書込み情報に基づいて、フレームメモリ250のアドレスをバースト転送単位で生成する。ROI画像アドレス生成部233は、ダミー挿入画像データ234Bのバースト転送が行われる場合、ROI復元情報に基づいて、フレームメモリ250におけるダミー挿入画像データ234Bの書込み先を示すアドレスを生成する。具体的には、ROI画像アドレス生成部233は、第一情報抽出部231が生成したダミー画像サイズを含む書込み情報に基づいて、ダミー挿入画像データ234Bの書込み先を示すアドレスを生成する。
【0303】
この場合、ROI画像アドレス生成部233は、書込み情報に含まれる書込み開始X座標と書込みY座標とに基づいてダミー挿入画像データ234Bの先頭アドレスを生成する。さらに、ROI画像アドレス生成部233は、当該先頭アドレスに対してダミー挿入画像データ234Bの書込みサイズ(書込み対象ROIの画像データそれぞれの書込みサイズの合計にダミー画像サイズを加算したサイズ)に応じた加算をする。これにより、ダミー挿入画像データ単位での書き込み先となる連続したアドレスが生成される。
【0304】
また、ROI画像アドレス生成部233は、バースト転送によって書込まれるダミー挿入画像データ234Bの画像サイズ(画素数)を、バースト転送数としてROI画像生成部234に出力する。ROI画像生成部234は、バースト転送数が入力されると当該バースト転送数に応じたサイズの書込みダミー挿入画像データ234Bを含むデータコマンドを発行する。こうして、ダミー挿入画像データ234Bがバースト転送によってフレームメモリ250に送信されて書き込まれる。
【0305】
また、ペイロードデータ215Aに3以上の書込み対象ROIが含まれ、注目領域間の空隙が2以上となる場合、第一情報抽出部231は当該空隙のそれぞれについてダミー画像データのメモリサイズを判定すればよい。第一情報抽出部231が、ペイロードデータ215A内の全ての書込み対象ROIの画像データを含めたダミー挿入画像データ234Bのフレームメモリ250への転送が可能と判定した場合(全ての空隙に係るダミー画像サイズが所定数以下である場合)、全ての書込み対象ROIの画像データを含むダミー挿入画像データ234Bが1回のデータコマンドの発行でフレームメモリ250に書込まれる。つまり、フレームメモリ250への書込み回数が1回となる。
【0306】
一方で、例えば書込み対象ROIの画像データ間の複数の空隙(例えば4つの書込み対象ROIの画像データ間の3つの空隙)に、ダミー画像サイズが所定数(例えば128バイト)を超える広い空隙が含まれているとする。この場合、第一情報抽出部231は、ペイロードデータ215A内のROI画素行データを当該広い空隙の前後に分けて、バースト転送を行うように判定してもよい。例えば4つの書込み対象ROIのうち先頭から2つの書込み対象ROIの画像データを含めたダミー挿入画像データ234B-1と残余(先頭から3つ目および4つ目)の書込み対象ROIの画像データを含めたダミー挿入画像データ234B-2とを生成してもよい。この場合、フレームメモリ250への書込み回数は、2回となる。
【0307】
また、第一情報抽出部231は、ペイロードデータ215A内の複数の書込み対象ROIの画像データについて、2以上の所定数の書込み対象ROIをバースト転送し、残余の書込み対象ROIの画像データを通常のとおり注目領域単位で書込むと判定してもよい。
【0308】
このように、ROI画素行データ単位でのバースト転送を行うことで、注目領域(ROI)単位でフレームメモリへの画像データの書込みを行う場合と比べて書込み回数を削減し、書込み処理を高速化することができる。
【0309】
6-2.変形例2
本実施形態では、ROI画像アドレス生成部233が生成するアドレスは、フレームメモリ250内において撮像画像内での注目領域の相対位置を示す復元位置に対応するアドレスであるとしたが、本開示はこれに限られない。例えば、ROI画像アドレス生成部233は、表示装置300の画面内において所定数の注目領域の画像データが重ならずに表示可能な任意の位置(所定位置の一例)を示すアドレスを生成するように構成されてもよい。つまり、ROI画像生成部234は、表示装置300の画面内において所定数の注目領域の画像データが重ならずに表示可能なように注目領域の画像データを書込むように構成されてもよい。
【0310】
例えば、ROI画像アドレス生成部233は、所定数の注目領域の画像データを互いに重ならないように表示装置300のY軸方向に順次表示可能な任意の位置(Y軸任意位置)を示すアドレスを生成してもよい。また、ROI画像生成部234は、表示装置300の画面内においてY軸任意位置に注目領域の画像データを書込むように構成されてもよい。この場合、第一情報抽出部231は、ROI復元情報のX座標順データ、Y座標順データを用いて、当該Y軸任意位置に応じたアドレス生成が可能な書込み情報を生成する。例えば、第一情報抽出部231は、X座標順データ、Y軸座標順データ(
図17参照)を用いて、注目領域ROI0~2(
図13参照)をそれぞれ表示装置300におけるY軸任意位置に表示するためのアドレス生成に用いる書込み情報を生成する。
【0311】
例えば、第一情報抽出部231はY軸座標順データに基づいて、表示装置300における注目領域ROI0~2の表示順を決定する。例えば、第一情報抽出部231は、Y軸座標順データの格納順、すなわち始点Y座標の昇順を注目領域ROI0~2の表示順として決定する。本例では、注目領域ROI2,ROI1,ROI0の順が表示装置300の画面内でのY軸方向の表示順となる。
【0312】
第一情報抽出部231は、表示順を決定すると、例えば各注目領域(ROI)の画像データを表示装置300に表示する際の先頭Y座標である表示開始Y座標を決定する。上述のように、フレームメモリ250には、表示装置300の画面単位の画像データが書き込まれる。したがって、表示装置300の画面上での表示位置(座標)は、フレームメモリ350での書込み位置に相当する。
【0313】
例えば、表示順が先頭となる注目領域ROI2の画像データは、表示装置300の先頭の画素行から表示される。このため、第一情報抽出部231は、注目領域ROI2の画像データの書込み開始Y座標を「0」とする。また、注目領域ROI1の画像データは、注目領域ROI2の画像データと重ならないようにして注目領域ROI2の画像データ下方に表示される。したがって、第一情報抽出部231は、注目領域ROI1の画像データの表示開始Y座標を「600(=0+600(注目領域ROI2のY軸方向の長さ)」とする。なお、Y軸方向の長さは、Y座標順データにおける「終点Y座標-始点Y座標」で算出される。同様にして、第一情報抽出部231は、注目領域ROI1の画像データの下方に表示される注目領域ROI0の画像データの表示開始Y座標を「1200(=600(注目領域ROI1の画像データの表示開始Y座標)+600(注目領域ROI1のY軸方向の長さ)」とする。
【0314】
第一情報抽出部231は、各注目領域の画像データの表示開始Y座標を決定すると、以降、各注目領域の画像データがペイロードデータとして入力される度に、各注目領域に対応する表示開始Y座標の値を1ずつ加算して更新する。これにより、Y軸任意位置に対応する表示開始Y座標を生成することができる。
【0315】
また、表示装置300の画面上においてY軸任意位置に注目領域の画像データを表示装置300に表示する際の先頭X座標である表示開始X座標を決定する。本変形例において、各注目領域の画像データの書込み開始X座標は一定の値となる。例えば、Y軸任意位置に各注目領域の画像データを表示する場合、表示装置300の画面上において、各注目領域の画像データは左揃えの状態で表示されるとする。この場合、第一情報抽出部231は、表示開始X座標として各注目領域で共通の値「0」を生成する。つまり、Y軸任意位置に注目領域の画像データを表示する場合、各注目領域の画像データは、表示装置300の画面の左上端(原点位置)を始点とした左揃えの状態で、画面の上端から順にY軸方向に並んで表示される。また、第一情報抽出部231は、上記実施形態と同様にして書込みサイズを生成する。
【0316】
ROI画像アドレス生成部233は、注目領域の画像データのY軸任意位置での表示に対応した書込み情報が第一情報抽出部231から入力されると、当該書込み情報に基づいてフレームメモリ250に注目領域の画像データを書込むためのアドレスを生成する。ROI画像アドレス生成部233は、上記実施形態と同様に入力された書込み情報に基づいてアドレスを生成することで、Y軸任意位置に対応したフレームメモリ250内のアドレスを生成することができる。また、ROI画像生成部234は、上記実施形態と同様に、書込み対象画像データ234Aを生成し、ROI画像アドレス生成部233のアドレス発行と同期したタイミングでデータコマンドを発行する。これにより、ROI画像生成部234は、表示装置300の画面内において所定数の注目領域の画像データが重ならずにY軸方向に順次表示可能なY軸任意位置に注目領域(ROI)の画像データを書込むことができる。
【0317】
なお、本変形例はこれに限られず、例えば、ROI画像アドレス生成部233は、所定数の注目領域の画像データを互いに重ならないように表示装置300のX軸方向に順次表示可能な任意の位置(X軸任意位置)を示すアドレスを生成してもよい。また、ROI画像生成部234は、表示装置300の画面内においてX軸任意位置に注目領域の画像データを書込むように構成されてもよい。この場合、第一情報抽出部231は、ROI復元情報のX座標順データ、Y座標順データを用いて、当該X軸任意位置に応じたアドレス生成が可能な書込み情報を生成する。このとき、第一情報抽出部231は、各注目領域の表示順をX座標順データの格納順、すなわち始点X座標の昇順(注目領域RI2,ROI0、ROI1の順)として決定する。
【0318】
X軸任意位置に注目領域の画像データを表示する場合、各注目領域の画像データは、表示装置300の画面の左上端を始点として画面の左端から順にX軸方向に向かって順次表示される。
【0319】
第一情報抽出部231は、表示順を決定すると、表示開始X座標を決定する。例えば、表示順が先頭となる注目領域ROI2は、表示装置300の左上端位置から表示される。このため、第一情報抽出部231は、注目領域ROI2の表示開始X座標を「0」とする。また、注目領域ROI0は、注目領域ROI2と重ならないようにして注目領域ROI2の右方に表示される。したがって、第一情報抽出部231は、注目領域ROI0の書込み開始X座標を「400(=0+400(注目領域ROI2のX軸方向の長さ)」とする。なお、X軸方向の長さは、X座標順データにおける「終点X座標-始点X座標」で算出される。同様にして、第一情報抽出部231は、注目領域ROI0の右方に表示される注目領域ROI1の表示開始X座標を「800(=400(注目領域ROI0の画像データの表示開始X座標)+400(注目領域ROI0のX軸方向の長さ)」とする。
【0320】
また、表示装置300の画面上においてX軸任意位置に注目領域の画像データを表示する場合、各注目領域の画像データの表示開始Y座標は一定の値となる。例えば、X軸任意位置で注目領域の画像データを表示する場合、表示装置300の画面上において、各注目領域の画像データは上詰めで表示されるとする。この場合、第一情報抽出部231は、表示開始Y座標として各注目領域で共通の値「0」を生成する。また、第一情報抽出部231は、各注目領域の画像データがペイロードデータとして入力される度に、各注目領域に対応する表示開始Y座標の値を1ずつ加算して更新する。これにより、X軸任意位置に対応する表示開始Y座標を生成することができる。また、第一情報抽出部231は、上記実施形態と同様にして書込みサイズを生成する。
【0321】
ROI画像アドレス生成部233は、第一情報抽出部231から注目領域の画像データのX軸任意位置での表示に対応した書込み情報が入力されると、上記実施形態と同様に、入力された書込み情報に基づいてアドレスを生成する。これにより、X軸任意位置に対応したフレームメモリ250内のアドレスを生成することができる。また、ROI画像生成部234は、表示装置300の画面内において所定数の注目領域の画像データが重ならずにX軸方向に順次表示可能なX軸任意位置に注目領域の画像データを書込むことができる。
【0322】
このように、映像受信装置200aは、本変形例における復元処理の実行により、注目領域(ROI)の画像データを表示装置300の任意の位置(例えばX軸任意位置、Y軸任意位置)に表示可能な状態に復元することができる。これにより、注目領域の画像データを表示装置300(
図18参照)に効率的に表示することができる。また、所定数の注目領域の画像データが一方向(X軸方向またはY軸方向)に互いに重ならないように並んだ状態で表示されることで、例えば各注目領域の画像データの認識処理や比較処理を効率的に行うことができる。
【0323】
6-3.その他の変形例
また、上記実施形態では、映像受信装置200aの第一情報処理部230aの第一情報抽出部231において、復元処理における情報抽出プロセス(抽出したROI情報からのROI復元情報の生成)を行うとしたが、本開示はこれに限られない。例えば、本開示による映像受信装置200aにおいて、受信部210のEBD解釈部214が情報抽出プロセスにおけるエンベデッドデータからROI情報(位置情報およびサイズ情報)を抽出してもよい。この場合、EBD解釈部214は、抽出したROI情報を第一情報抽出部231に出力すればよい。また、第一情報抽出部231は、入力されたROI情報に基づいてROI復元情報を生成すればよい。
【0324】
また、上記実施形態では一例として撮像画像における注目領域を矩形状としたが、本開示はこれに限られない。注目領域ROIが矩形状でない場合であっても、映像受信装置200aにおいて上記実施形態における復元処理および画像データ差替え処理を実行することができる。
【0325】
以上、前提技術、実施形態及びその変形例を挙げて本開示を説明したが、本開示は上記実施形態等に限定されるものではなく、種々変形が可能である。なお、本明細書中に記載された効果は、あくまで例示である。本開示の効果は、本明細書中に記載された効果に限定されるものではない。本開示が、本明細書中に記載された効果以外の効果を持っていてもよい。
【0326】
また、例えば、本開示は以下のような構成を取ることができる。
(1)
所定の撮像画像から切り出された所定数のROI(Region Of Interest)の画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部と、
前記エンベデッドデータから抽出した前記ROI情報に基づいて前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部と、
を備える受信装置。
(2)
前記処理部は、前記撮像画像における所定数の前記ROIそれぞれの位置情報及びサイズ情報を前記ROI情報として抽出する
上記(1)に記載の受信装置。
(3)
前記処理部は、抽出した前記位置情報および前記サイズ情報を並び替えて、前記ROIの画像データの復元に用いるROI復元情報を生成する
上記(2)に記載の受信装置。
(4)
前記位置情報には、前記撮像画像における前記ROIの左上端部を示すX座標およびY座標が含まれ、
前記処理部は、前記ROI復元情報として、前記位置情報および前記サイズ情報を前記X座標の値の昇順に並び替えたX座標順データと、前記位置情報および前記サイズ情報を前記Y座標の値の昇順に並び替えたY座標順データとを生成する
上記(3)に記載の受信装置。
(5)
前記ROIの画像データを格納可能なフレームメモリを備え、
前記処理部は、前記ROI情報から生成したROI復元情報に基づいて、前記フレームメモリに前記ROIの画像データを書込む
上記(1)から(4)までのいずれか1項に記載の受信装置。
(6)
前記処理部は、前記ROI復元情報に基づいて前記ペイロードデータ単位で前記ROIの画像データを前記フレームメモリに書込む
上記(5)に記載の受信装置。
(7)
前記処理部は、前記ROI復元情報に基づいて前記ペイロードデータ内の前記ROIの画像データを前記ROIごとに分割して、前記フレームメモリに書込む
上記(6)に記載の受信装置。
(8)
前記処理部は、所定条件が成立している場合に、前記ペイロードデータ内の2以上の前記ROIの画像データの間にダミー画像データを挿入して前記2以上の前記ROIの画像データを連結したダミー挿入画像データを生成し、生成したダミー挿入画像データを1回の指示によって連続して前記フレームメモリに書込む
上記(6)に記載の受信装置。
(9)
前記処理部は、前記ROI復元情報に基づいて前記撮像画像内での前記ROIの相対位置に対応する前記フレームメモリ内の復元位置を特定し、前記復元位置に前記ROIの画像データを書込む
上記(5)から(8)までのいずれか1項に記載の受信装置。
(10)
前記処理部は、前記ROI復元情報に基づいて前記表示装置の画面内において所定数の前記ROIの画像データが重ならずに表示可能なように前記ROIの画像データを前記フレームメモリに書込む
上記(5)から(8)までのいずれか1項に記載の受信装置。
(11)
前記処理部は、前記ROI復元情報に基づいて、前記フレームメモリにおける前記ROIの画像データの書込み先を示すアドレスを生成する
上記(5)から(10)までのいずれか1項に記載の受信装置。
(12)
前記処理部は、前記ROI復元情報に基づいて、前記フレームメモリにおける前記ダミー挿入画像データの書込み先を示すアドレスを生成する
上記(8)に記載の受信装置。
(13)
前記処理部は、前記ROIの画像データが前記表示装置に表示される場合に、前記フレームメモリに格納された前記表示装置の画面単位の画像データのうち、前記ROIの画像データに該当しない非ROI画像データを、固定値画像データに差替える
上記(5)から(12)までのいずれか1項に記載の受信装置。
(14)
前記処理部は、前記ROI復元情報に基づいて前記非ROI画像データを特定する
上記(13)に記載の受信装置。
(15)
前記処理部は、
前記ROI復元情報に基づいて前記画面単位の画像データの各画素が前記ROIの画像データに含まれるか、または前記非ROI画像データに含まれるかを判定する
上記(14)に記載の受信装置。
(16)
ROI(Region Of Interest)の画像データをペイロードデータで送出するとともに、ROI情報をエンベデッドデータで送出する送信装置と、
所定の撮像画像から切り出された所定数の前記ROIの画像データをペイロードデータに含むとともに、所定数の前記ROIに対応するROI情報をエンベデッドデータに含む伝送信号を受信する受信部、前記エンベデッドデータから抽出した前記ROI情報に基づいて前記所定数の前記ROIの画像データを所定の表示装置に表示可能な状態に復元する復元処理を実行可能な処理部を有する受信装置と、を備える
伝送システム。
(17)
前記受信装置は、
前記ROI情報として抽出された前記撮像画像における所定数の前記ROIそれぞれの位置情報およびサイズ情報を前記処理部において並び替えて、前記ROIの画像データの復元に用いるROI復元情報を生成する
上記(16)に記載の伝送システム。
(18)
前記受信装置は、前記ROIの画像データを格納可能なフレームメモリを備え、前記ROI復元情報に基づいて前記フレームメモリに前記ROIの画像データを前記処理部で書込む
上記(17)に記載の伝送システム。
(19)
前記受信装置は、前記ROIの画像データが前記表示装置に表示される場合に、前記フレームメモリに格納された前記表示装置の画面単位の画像データのうち前記ROIの画像データに該当しない非ROI画像データを、前記処理部で固定値画像データに差替える
上記(18)に記載の伝送システム。
【符号の説明】
【0327】
1,2 映像伝送システム
31,110 撮像部
32,41 制御部
42 画像加工部
100 映像送信装置
100A CSIトランスミッタ
100B CCIスレーブ
111 撮像画像
112,112a1,112a2,112a3,112a4,112b1,112b4,123a4,223A ROI画像
112b 圧縮像データ
113,114 位置情報
115 優先度
116,116a1,116a2 伝送画像
118 画像
120,130 画像処理部
120A,120A1,120A2,130A,147B 圧縮像データ
120B ROI情報
120C フレーム情報
121 ROI切り出し部
122 ROI解析部
123 検出部
124 優先度設定部
125,131 エンコード部
126 画像処理制御部
140 送信部
141 LINK制御部
142 ECC生成部
143 PH生成部
144 EBDバッファ
145 ROIデータバッファ
146 通常画像データバッファ
147 合成部
147A 伝送データ
200,200a 映像受信装置
200A CSIレシーバ
200B CCIマスター
210 受信部
211 ヘッダ分離部
212 ヘッダ解釈部
213 ペイロード分離部
214 EBD解釈部
214A EBDデータ
215 ROIデータ分離部
215A,215B ペイロードデータ
220 情報処理部
221 情報抽出部
221A 抽出情報
222、232 ROIデコード部
222A 画像データ
223 ROI画像生成部
224 通常画像デコード部
224A 通常画像
230 情報処理部
230a 第一情報処理部
230b 第二情報処理部
231 第一情報抽出部
232A ROIデコード画像データ
233 ROI画像アドレス生成部
234 ROI画像生成部
234A 書込み対象画像データ
235 通常画像アドレス生成部
236 通常画像デコード部
237 通常画像生成部
240 バス
250 フレームメモリ
260 DMAコントローラ
271 第二情報抽出部
272 画像データ差替え部
300 表示装置
Cb 色差成分
CCI カメラ制御インタフェース
CL クロックレーン
RD 表示対象画像データ