(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023163310
(43)【公開日】2023-11-10
(54)【発明の名称】送信装置、送信方法、受信装置、受信方法、プログラム、および伝送システム
(51)【国際特許分類】
H04N 23/60 20230101AFI20231102BHJP
G06F 13/38 20060101ALI20231102BHJP
【FI】
H04N5/232 300
G06F13/38 330Z
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2022074122
(22)【出願日】2022-04-28
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100121131
【弁理士】
【氏名又は名称】西川 孝
(74)【代理人】
【識別番号】100082131
【弁理士】
【氏名又は名称】稲本 義雄
(74)【代理人】
【識別番号】100168686
【弁理士】
【氏名又は名称】三浦 勇介
(72)【発明者】
【氏名】馬原 久美子
(72)【発明者】
【氏名】小澤 美穂
(72)【発明者】
【氏名】岡澤 大介
(72)【発明者】
【氏名】長尾 昭彦
(72)【発明者】
【氏名】奥野 健一
(72)【発明者】
【氏名】長尾 剛司
(72)【発明者】
【氏名】藤井 勝
(72)【発明者】
【氏名】土屋 隆
(72)【発明者】
【氏名】山本 康二
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122DA03
5C122EA07
5C122FC02
5C122FC06
5C122FC07
5C122GC37
5C122GC52
5C122GC76
5C122HA01
5C122HA13
5C122HA26
5C122HA35
5C122HB01
5C122HB02
5C122HB09
(57)【要約】
【課題】機能安全やセキュリティの実現に用いられる情報をフレーム単位のデータ毎に付加して出力できるようにする。
【解決手段】本技術の一実施形態に係る送信装置は、セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成し、フレームデータを構成する各ラインのデータを各パケットに格納し、送信する。本技術は、本技術は、SLVS-EC規格の通信を行う装置に適用することができる。
【選択図】
図5
【特許請求の範囲】
【請求項1】
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成する生成部と、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する信号処理部と
を備える送信装置。
【請求項2】
前記生成部は、前記センサのセキュリティの実現に用いられる情報であるセキュリティ関連情報と、前記出力データのセキュリティの実現に用いられる情報である出力データセキュリティ情報を含む前記セキュリティ情報を生成し、前記センサの機能安全の実現に用いられる情報である機能安全関連情報と、前記出力データの機能安全の実現に用いられる情報である出力データ機能安全情報を含む前記機能安全情報を生成する
請求項1に記載の送信装置。
【請求項3】
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報が前記出力データの前に配置され、前記出力データセキュリティ情報と前記出力データ機能安全情報が前記出力データの後に配置されたフォーマットを有する前記フレームデータを生成する
請求項2に記載の送信装置。
【請求項4】
前記生成部は、前記セキュリティ関連情報が配置されたラインの次のラインに前記機能安全関連情報が配置され、前記出力データ機能安全情報が配置されたラインの次のラインに前記出力データセキュリティ情報が配置された前記フレームデータを生成する
請求項3に記載の送信装置。
【請求項5】
前記生成部は、前記出力データセキュリティ情報の一部の情報が、前記セキュリティ関連情報とともに前記出力データの前の同じラインに配置され、前記出力データ機能安全情報の一部の情報が、前記機能安全関連情報とともに前記出力データの前の同じラインに配置された前記フレームデータを生成する
請求項2に記載の送信装置。
【請求項6】
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報に共通する一部の情報がEmbeddedデータとして前記出力データの前のラインに配置された前記フレームデータを生成する
請求項2に記載の送信装置。
【請求項7】
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報がEmbeddedデータとして前記出力データの前のラインに配置された前記フレームデータを生成する
請求項2に記載の送信装置。
【請求項8】
前記生成部は、前記フレームデータのフォーマットの種類を示す情報を含むEmbeddedデータのラインが、前記セキュリティ関連情報が配置されたラインの前に配置された前記フレームデータを生成する
請求項2に記載の送信装置。
【請求項9】
前記信号処理部は、前記パケットに格納されたデータが前記セキュリティ情報が配置されたラインのデータであるか否かを示す第1のフラグと、前記パケットに格納されたデータが前記機能安全情報が配置されたラインのデータであるか否かを示す第2のフラグとを含むパケットヘッダを付加した前記パケットを生成する
請求項2に記載の送信装置。
【請求項10】
前記信号処理部は、前記セキュリティ関連情報または前記機能安全関連情報が配置されたラインのデータを格納する前記パケットに対して、Embeddedデータが配置されたラインのデータであることを示す値が設定された第3のフラグを含む前記パケットヘッダを付加する
請求項9に記載の送信装置。
【請求項11】
前記出力データセキュリティ情報としての認証用情報と、前記出力データ機能安全情報としての誤り検出用情報を前記出力データに基づいて生成する付加情報生成部をさらに備える
請求項2に記載の送信装置。
【請求項12】
前記出力データは、前記センサによる撮像によって得られた1フレームの画像データである
請求項1に記載の送信装置。
【請求項13】
送信装置が、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成し、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する
送信方法。
【請求項14】
コンピュータに、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成し、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する
処理を実行させるプログラム。
【請求項15】
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信する信号処理部と、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う情報処理部と
を備える受信装置。
【請求項16】
前記信号処理部は、前記センサのセキュリティの実現に用いられる情報であるセキュリティ関連情報と、前記出力データのセキュリティの実現に用いられる情報である出力データセキュリティ情報を前記セキュリティ情報として含む前記パケットを受信し、前記センサの機能安全の実現に用いられる情報である機能安全関連情報と、前記出力データの機能安全の実現に用いられる情報である出力データ機能安全情報を前記機能安全情報として含む前記パケットを受信する
請求項15に記載の受信装置。
【請求項17】
パケットヘッダに含まれる、前記パケットに格納されたデータが前記セキュリティ情報が配置されたラインのデータであるか否かを示す第1のフラグと、前記パケットに格納されたデータが前記機能安全情報が配置されたラインのデータであるか否かを示す第2のフラグとに基づいて、前記パケットに格納されているデータを識別する識別部をさらに備える
請求項15に記載の受信装置。
【請求項18】
受信装置が、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信し、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、
機能安全を実現する処理を前記機能安全情報に基づいて行う
受信方法。
【請求項19】
コンピュータに、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信し、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、
機能安全を実現する処理を前記機能安全情報に基づいて行う
処理を実行させるプログラム。
【請求項20】
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成する生成部と、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する信号処理部と
を備える送信装置と、
前記パケットを受信する信号処理部と、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う情報処理部と
を備える受信装置と
を含む伝送システム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、特に、機能安全やセキュリティの実現に用いられる情報をフレーム単位のデータ毎に付加して出力できるようにした送信装置、送信方法、受信装置、受信方法、プログラム、および伝送システムに関する。
【背景技術】
【0002】
イメージセンサの通信IFの規格としてSLVS-EC(Scalable Low Voltage Signaling-Embedded Clock)がある。SLVS-ECの伝送方式は、送信側においてクロックを重畳した形でデータを送信し、受信側においてクロックを再生してデータを復調・復号する方式である。
【0003】
SLVS-ECのデータ伝送は、例えば、イメージセンサと、HostとなるDSPとの間のデータ伝送に用いられる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
イメージセンサ-Host間のデータ伝送においても、通常のデバイス間のデータ伝送などと同様に機能安全やセキュリティに関する対策が求められる。
【0006】
本技術はこのような状況に鑑みてなされたものであり、機能安全やセキュリティの実現に用いられる情報をフレーム単位のデータ毎に付加して出力できるようにするものである。
【課題を解決するための手段】
【0007】
本技術の第1の側面の送信装置は、セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成する生成部と、前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する信号処理部とを備える。
【0008】
本技術の第2の側面の受信装置は、セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信する信号処理部と、セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う情報処理部とを備える。
【0009】
本技術の第1の側面においては、セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されることによってフレームデータが生成され、フレームデータを構成する各ラインのデータが各パケットに格納され、送信される。
【0010】
本技術の第2の側面においては、セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットが受信され、セキュリティを実現する処理がセキュリティ情報に基づいて行われ、機能安全を実現する処理が機能安全情報に基づいて行われる。
【図面の簡単な説明】
【0011】
【
図1】本技術の一実施形態に係る伝送システムの構成例を示す図である。
【
図2】送信部と受信部の構成例を示すブロック図である。
【
図3】各フレームの画像データの伝送に用いられるフォーマットの例を示す図である。
【
図5】本技術の一実施形態に係るフレームフォーマットの例を示す図である。
【
図8】画像データの暗号化と復号の例を示す図である。
【
図9】各情報の送信に用いられるパケットの例を示す図である。
【
図10】他のフレームフォーマットの例を示す図である。
【
図11】アプリケーションレイヤ処理部の機能構成例を示すブロック図である。
【
図12】ヘッダ情報を構成する各ビットの割り当ての例を示す図である。
【
図13】ヘッダ情報を構成する各ビットの割り当ての例を示す図である。
【
図14】Safety InfoとSecurity Infoの値の例を示す図である。
【
図16】イメージセンサの処理について説明するフローチャートである。
【
図17】DSPの処理について説明するフローチャートである。
【
図18】フレームフォーマットの第1の変形例を示す図である。
【
図19】フレームフォーマットの第2の変形例を示す図である。
【
図20】フレームフォーマットの第3の変形例を示す図である。
【
図21】アプリケーションレイヤ処理部の機能構成例を示すブロック図である。
【
図22】フレームフォーマットの第4の変形例を示す図である。
【
図25】ペイロードデータの他の例を示す図である。
【
図26】パリティが挿入されたペイロードデータの例を示す図である。
【
図27】ペイロードデータにヘッダを付加した状態を示す図である。
【
図28】ペイロードデータにヘッダとフッタを付加した状態を示す図である。
【
図29】パリティが挿入されたペイロードデータにヘッダを付加した状態を示す図である。
【
図30】パケットデータの割り当ての例を示す図である。
【
図32】制御コード挿入後のパケットデータの例を示す図である。
【
図33】Data Skewの補正の例を示す図である。
【
図34】MAC演算の対象範囲の例を示す図である。
【
図35】CRC演算の対象範囲の例を示す図である。
【
図36】MAC演算とCRC演算の対象範囲の例を示す図である。
【
図37】アプリケーションレイヤ処理部の構成例を示すブロック図である。
【
図40】SLVS/SubLVDSのデータの伝送タイミングの例を示す図である。
【
図41】イメージセンサの構成例を示すブロック図である。
【
図42】長畜画像と短畜画像の伝送に用いられるヘッダ情報の例を示す図である。
【
図43】コンピュータの構成例を示すブロック図である。
【発明を実施するための形態】
【0012】
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
1.SLVS-ECの伝送システム
2.機能安全情報・セキュリティ情報の伝送
3.フレームフォーマットのバリエーションの例
4.SLVS-ECについて
5.適用例
【0013】
<<SLVS-ECの伝送システム>>
<伝送システムの構成>
図1は、本技術の一実施形態に係る伝送システムの構成例を示す図である。
【0014】
図1の伝送システム1は、イメージセンサ11とDSP12から構成される。イメージセンサ11とDSP12は、カメラやスマートフォンなどの、撮像機能を有する同じ装置内に設けられる。イメージセンサ11には撮像部21と送信部22が設けられ、DSP12には受信部31と画像処理部32が設けられる。
【0015】
イメージセンサ11の撮像部21は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子より構成され、レンズを介して受光した光の光電変換を行う。撮像部21は、光電変換によって得られた信号のA/D変換などを行い、1フレームの画像を構成する画素データを、例えば1画素のデータずつ送信部22に順に出力する。
【0016】
送信部22は、撮像部21から供給された各画素のデータを複数の伝送路に割り当て、複数の伝送路を介して並列にDSP12に送信する。
図1の例においては、8本の伝送路を用いて画素データの伝送が行われている。イメージセンサ11とDSP12の間の伝送路は有線の伝送路であってもよいし、無線の伝送路であってもよい。以下、適宜、イメージセンサ11とDSP12の間の伝送路をレーン(Lane)という。
【0017】
DSP12の受信部31は、8本のレーンを介して送信部22から伝送されてきた画素データを受信し、各画素のデータを画像処理部32に順に出力する。
【0018】
画像処理部32は、受信部31から供給された画素データに基づいて1フレームの画像を生成し、生成した画像を用いて各種の画像処理を行う。
【0019】
イメージセンサ11からDSP12に伝送される画像データは、例えばRAWデータである。画像処理部32においては、画像データの圧縮、画像の表示、記録媒体に対する画像データの記録などの各種の処理が行われる。RAWデータ以外に、JPEGデータや、画素データ以外の付加データがイメージセンサ11からDSP12に対して伝送されるようにしてもよい。
【0020】
以上のように、伝送システム1のイメージセンサ11に設けられる送信部22と、Host側の情報処理部となるDSP12に設けられる受信部31との間では、複数のレーンを用いたデータの送受信が行われる。
【0021】
送信部22と受信部31の組が複数設けられるようにすることも可能である。この場合、複数のレーンを用いたデータの送受信が、それぞれの送信部22と受信部31の組の間で行われる。
【0022】
送信部22と受信部31の間のデータの送受信は、例えば、通信IFの規格であるSLVS-ECに従って行われる。
【0023】
SLVS-ECにおいては、信号処理の内容に応じて、アプリケーションレイヤ(Application Layer)、リンクレイヤ(LINK Layer)、および物理レイヤ(PHY Layer)が定義されている。各レイヤの信号処理が、送信側(Tx)である送信部22と、受信側(Rx)である受信部31のそれぞれにおいて行われる。
【0024】
詳細については後述するが、リンクレイヤにおいては、基本的に、以下の機能を実現するための信号処理が行われる。
1.ピクセルデータ-バイトデータ変換
2.ペイロードデータのエラー訂正
3.パケットデータと補助データの伝送
4.パケットフッタを用いた、ペイロードデータのエラー訂正
5.レーンマネジメント
6.パケット生成のためのプロトコルマネジメント
【0025】
一方、物理レイヤにおいては、基本的に、以下の機能を実現するための信号処理が行われる。
1.制御コードの生成と抽出
2.バンド幅の制御
3.レーン間のskewの制御
4.シンボルの配置
5.ビット同期のためのシンボルコーディング
6.SERDES(SERializer/DESerializer)
7.クロックの生成と再生
8.SLVS(Scalable Low Voltage Signaling)信号の伝送
【0026】
図2は、送信部22と受信部31の構成例を示すブロック図である。
【0027】
図2に示すように、送信部22は、アプリケーションレイヤ処理部41、リンクレイヤ信号処理部42、および物理レイヤ信号処理部43により構成される。送信部22は、送信側のリンクレイヤの信号処理を行う信号処理部と、送信側の物理レイヤの信号処理を行う信号処理部をそれぞれ有する。
【0028】
アプリケーションレイヤ処理部41は、イメージセンサ11から出力された画素データを取得し、伝送対象となる出力データに対してアプリケーションレイヤの処理を行う。アプリケーションレイヤ処理部41においては、各フレームの画像データを出力データとしてアプリケーションレイヤの処理が施される。アプリケーションレイヤの処理により、所定のフォーマットを有するフレームデータが生成される。アプリケーションレイヤ処理部41は、フレームデータを構成するデータをリンクレイヤ信号処理部42に出力する。
【0029】
リンクレイヤ信号処理部42は、アプリケーションレイヤ処理部41から供給されたデータに対してリンクレイヤの信号処理を施す。リンクレイヤ信号処理部42においては、上述した処理の他に、フレームデータを格納するパケットの生成と、パケットのデータを複数のレーンに分配する処理が少なくとも行われる。リンクレイヤ信号処理部42からは、フレームデータを構成するデータを格納したパケットが出力される。
【0030】
物理レイヤ信号処理部43は、リンクレイヤ信号処理部42から供給されたパケットに対して物理レイヤの信号処理を施す。物理レイヤ信号処理部43においては、各レーンに分配されたパケットに対して制御コードを挿入する処理を含む処理がレーン毎に並列に行われる。物理レイヤ信号処理部43からは、各レーンのデータストリームが出力され、受信部31に対して送信される。
【0031】
一方、受信部31は、物理レイヤ信号処理部51、リンクレイヤ信号処理部52、およびアプリケーションレイヤ処理部53により構成される。受信部31は、受信側の物理レイヤの信号処理を行う信号処理部と、受信側のリンクレイヤの信号処理を行う信号処理部をそれぞれ有する。
【0032】
物理レイヤ信号処理部51は、送信部22の物理レイヤ信号処理部43から送信されてきたデータストリームを受信し、受信したデータストリームに対して物理レイヤの信号処理を施す。物理レイヤ信号処理部51においては、上述した処理の他に、シンボルの同期処理と制御コードの除去とを含む処理がレーン毎に並列に行われる。物理レイヤ信号処理部51からは、フレームデータを構成するデータを格納したパケットからなるデータストリームが複数のレーンを用いて出力される。
【0033】
リンクレイヤ信号処理部52は、物理レイヤ信号処理部51から供給された各レーンのデータストリームに対してリンクレイヤの信号処理を施す。リンクレイヤ信号処理部52においては、複数のレーンのデータストリームを一系統のデータに統合する処理と、データストリームを構成するパケットを取得する処理が少なくとも行われる。リンクレイヤ信号処理部52からは、パケットから抽出されたデータが出力される。
【0034】
アプリケーションレイヤ処理部53は、リンクレイヤ信号処理部52から供給されたデータにより構成されるフレームデータに対してアプリケーションレイヤの処理を行う。アプリケーションレイヤの処理として、機能安全(Function safety)の実現、セキュリティの実現のための処理が行われる。アプリケーションレイヤ処理部53は、アプリケーションレイヤの処理後の出力データを後段の画像処理部32に出力する。受信側においてアプリケーションレイヤの処理を行うために送信側において行われるアプリケーションレイヤの処理も、機能安全(Function safety)の実現、セキュリティの実現のための処理となる。
【0035】
<SLVS-ECのフレームフォーマット>
図3は、各フレームの画像データの伝送に用いられるフォーマットの例を示す図である。
【0036】
有効画素領域A1は、撮像部21により撮像された1フレームの画像の有効画素の領域である。有効画素領域A1の左側にはマージン領域A2が設定される。
【0037】
有効画素領域A1の上側には前ダミー領域A3が設定される。
図3の例においては、前ダミー領域A3にEmbedded Dataが挿入されている。Embedded Dataは、シャッタスピード、絞り値、ゲインなどの、撮像部21による撮像に関する設定値の情報などが含まれる。Contents, format, data size等がEmbedded Dataとして含まれるようにしてもよい。
【0038】
有効画素領域A1の下側には後ダミー領域A4が設定される。後ダミー領域A4にEmbedded Dataが挿入されることもある。
【0039】
有効画素領域A1、マージン領域A2、前ダミー領域A3、および後ダミー領域A4から画像データ領域A11が構成される。
【0040】
画像データ領域A11を構成する各ラインの前にはヘッダが付加され、ヘッダの前にはStart Codeが付加される。また、画像データ領域A11を構成する各ラインの後ろにはフッタがオプションで付加され、フッタの後ろにはEnd Codeなどの制御コードが付加される。フッタが付加されない場合、画像データ領域A11を構成する各ラインの後ろにEnd Codeなどの制御コードが付加される。
【0041】
撮像部21により撮像された1フレームの画像毎に、
図3に示すフォーマットのフレームデータを用いてデータ伝送が行われる。
【0042】
図3の上側の帯は、下側に示すフレームデータの伝送に用いられるパケットの構造を示す。水平方向のデータの並びをラインとすると、パケットのペイロードには、画像データ領域A11の1ラインを構成するデータが格納される。1フレームのフレームデータ全体の伝送は、画像データ領域A11の垂直方向の画素数以上の数のパケットを用いて行われる。また、1フレームのフレームデータ全体の伝送は、例えば上のラインに配置されたデータから順に、ライン単位のデータを格納したパケットを送信することによって行われる。
【0043】
1ライン分のデータが格納されたペイロードにヘッダとフッタが付加されることによって1パケットが構成される。各パケットには、制御コードであるStart CodeとEnd Codeが少なくとも付加される。
【0044】
図4は、パケットのデータ構造を拡大して示す図である。
【0045】
1パケット全体は、ヘッダと、フレームデータを構成する1ライン分のデータであるペイロードデータから構成される。
【0046】
ヘッダには、Frame Start, Frame End, Line Valid, Line Number, ECCなどの、ペイロードに格納されているデータの付加的な情報が含まれる。
図4の例においては、ヘッダ情報として、Frame Start, Frame End, Line Valid, Line Numberが示されている。
【0047】
Frame Startは、フレームの先頭を示す1ビットの情報である。フレームデータの1ライン目のデータの伝送に用いられるパケットのヘッダのFrame Startには1の値が設定され、他のラインのデータの伝送に用いられるパケットのヘッダのFrame Startには0の値が設定される。
【0048】
Frame Endは、フレームの終端を示す1ビットの情報である。フレームデータの終端ラインのデータを含むパケットのヘッダのFrame Endには1の値が設定され、他のラインのデータの伝送に用いられるパケットのヘッダのFrame Endには0の値が設定される。
【0049】
Frame StartとFrame Endが、フレームに関する情報であるフレーム情報となる。
【0050】
Line Validは、パケットに格納されているデータのラインが有効画素のラインであるのか否かを表す1ビットの情報である。有効画素領域A1内のラインの画素データの伝送に用いられるパケットのヘッダのLine Validには1の値が設定され、他のラインのデータの伝送に用いられるパケットのヘッダのLine Validには0の値が設定される。
【0051】
Line Numberは、パケットに格納されているデータが配置されたラインのライン番号を表す13ビットの情報である。
【0052】
Line ValidとLine Numberが、ラインに関する情報であるライン情報となる。
【0053】
後述するように、機能安全情報、セキュリティ情報がパケットに含まれているか否かを示すフラグなどの情報もヘッダ情報に含まれる。
【0054】
ヘッダ情報に続けて配置されるHeader ECCには、6バイトのヘッダ情報に基づいて計算された2バイトの誤り検出符号であるCRC(Cyclic Redundancy Check)符号が含まれる。また、Header ECCには、CRC符号に続けて、ヘッダ情報とCRC符号の組である8バイトの情報と同じ情報が2つ含まれる。
【0055】
<<機能安全情報・セキュリティ情報の伝送>>
<フレームフォーマット>
図5は、本技術の一実施形態に係るフレームフォーマットの例を示す図である。
【0056】
図5に示すフレームフォーマットは、セキュリティ関連情報、機能安全関連情報、および、EBD(Embedded Data)が、1フレーム分の画像データ(RAWデータ)の前の各ラインに配置されることによって構成される。セキュリティ関連情報が配置されたラインの次のラインに機能安全関連情報が配置され、機能安全関連情報が配置されたラインの次のラインにEBDが配置される。EBDが配置されたラインの後に、複数のラインのデータとなる、1フレーム分の画像データが配置される。
【0057】
また、
図5に示すフレームフォーマットは、出力データ機能安全情報と出力データセキュリティ情報が、1フレーム分の画像データの後の各ラインに配置されることによって構成される。出力データ機能安全情報が配置されたラインの次のラインに出力データセキュリティ情報が配置される。
【0058】
フレームフォーマットの先頭と終端には、それぞれFS(Frame Start)のラインとFE(Frame End)のラインが配置される。Frame Startのラインは、パケットヘッダのFrame Startに1の値が設定されるデータのラインである。また、Frame Endのラインは、パケットヘッダのFrame Endに1の値が設定されるデータのラインである。
【0059】
セキュリティ関連情報、機能安全関連情報、EBD、出力データセキュリティ情報、出力データ機能安全情報のそれぞれの情報が配置されるラインとして1ラインが設定されるようにしてもよいし、複数のラインが設定されるようにしてもよい。
【0060】
図5の各ラインの左端には、各ラインのデータに付加されるパケットヘッダ(PH)が示されている。なお、
図5においては、
図3を参照して説明したマージン領域などの図示が省略されている。
【0061】
セキュリティ関連情報は、イメージセンサ11のセキュリティの実現に用いられる情報である。イメージセンサ11とDSP12の間の通信のセキュリティの実現に用いられる情報もセキュリティ関連情報に含まれる。イメージセンサ11に対する攻撃などの、悪意のある行為に関する情報がセキュリティ関連情報に含まれる。
【0062】
図6に示すように、セキュリティ関連情報には以下の情報が含まれる。
・レジスタ通信のセキュリティエラー/ワーニングの情報
・センサ内部への攻撃を検出したことを示す情報
・セキュリティエラー/ワーニング解析のための情報
・内部ステート情報
・動作モード関連情報
・レジスタ通信が発生したことを通知するための情報
・フレームカウンタ
・1フレームのデータサイズの情報
【0063】
レジスタ通信のセキュリティエラー/ワーニングの情報は、イメージセンサ11とDSP12の間で行われるレジスタ通信のセキュリティに障害(エラー/ワーニング)があることがイメージセンサ11側で検出された場合に、そのことをDSP12側に通知する情報として用いられる。イメージセンサ11とDSP12の間では、レーンを介したデータ伝送の他に、所定の信号線を介したレジスタ通信が行われる。
【0064】
センサ内部への攻撃を検出したことを示す情報は、イメージセンサ11に対する攻撃があったことがイメージセンサ11側で検出された場合に、そのことをDSP12側に通知する情報として用いられる。
【0065】
セキュリティエラー/ワーニング解析のための情報は、障害の発生回数などの情報である。DSP12においては、障害の発生回数などの情報に基づいて、セキュリティエラー、ワーニングの解析が行われる。
【0066】
内部ステート情報は、イメージセンサ11の状態を示す情報である。セキュリティ動作のオン/オフなどが内部ステート情報により表される。
【0067】
セキュリティ動作がオンである場合、イメージセンサ11が送信するフレームデータには、セキュリティ関連情報と出力データセキュリティ情報がイメージセンサ11のアプリケーションレイヤ処理部41による処理によって含められる。また、セキュリティ動作がオンである場合、DSP12のアプリケーションレイヤ処理部53においては、セキュリティ関連情報と出力データセキュリティ情報を用いて、セキュリティを実現するための処理が行われる。
【0068】
動作モード関連情報は、画素データの読み出し方、画角などの、イメージセンサ11の動作モードを示す情報である。
【0069】
レジスタ通信が発生したことを通知するための情報は、通信の発生回数をカウントするカウンタ値である。
【0070】
フレームカウンタは、フレームの数のカウンタ値である。
【0071】
1フレームのデータサイズの情報は、1つのフレームデータのデータサイズの情報である。
【0072】
図5の説明に戻り、機能安全関連情報は、イメージセンサ11の機能安全の実現に用いられる情報である。機能安全は、イメージセンサ11の機能として許容不可能なリスクが存在しない状態を達成することを意味する。イメージセンサ11とDSP12の間の通信の機能安全の実現に用いられる情報も機能安全関連情報に含まれる。
【0073】
図6に示すように、機能安全関連情報には以下の情報が含まれる。
・レジスタ通信の機能安全エラー/ワーニングの情報
・センサ内部の故障の情報
・センサのイレギュラー動作を検出したことを示す情報
・機能安全エラー/ワーニング解析のための情報
・内部ステート情報
・動作モード関連情報
・レジスタ通信が発生したことを通知するための情報
・フレームカウンタ
・1フレームのデータサイズの情報
【0074】
破線で囲んで示すように、内部ステート情報、動作モード関連情報、レジスタ通信が発生したことを通知するための情報、フレームカウンタ、および1フレームのデータサイズの情報は、セキュリティ関連情報と機能安全関連情報に共通に含まれる情報となる。重複する説明については適宜省略する。
【0075】
レジスタ通信の機能安全エラー/ワーニングの情報は、イメージセンサ11とDSP12の間で行われるレジスタ通信の機能安全に障害があることがイメージセンサ11側で検出された場合に、そのことをDSP12側に通知する情報として用いられる。レジスタ通信をノイズによって正常に行うことができない場合などに、機能安全に障害があることが検出される。
【0076】
センサ内部の故障の情報は、イメージセンサ11の故障があった場合にそのことを示す情報である。
【0077】
センサのイレギュラー動作を検出したことを示す情報は、イレギュラーな動作がイメージセンサ11において行われた場合にそのことを示す情報である。
【0078】
機能安全エラー/ワーニング解析のための情報は、故障やイレギュラーな動作の発生回数などの情報である。DSP12においては、故障の発生回数などの情報に基づいて、機能安全エラー、ワーニングの解析が行われる。
【0079】
機能安全関連情報の内部ステート情報により、機能安全動作のオン/オフなどが表される。
【0080】
機能安全動作がオンである場合、イメージセンサ11が送信するフレームデータには、機能安全関連情報と出力データ機能安全情報がイメージセンサ11のアプリケーションレイヤ処理部41による処理によって含められる。また、機能安全動作がオンである場合、DSP12のアプリケーションレイヤ処理部53においては、機能安全関連情報と出力データ機能安全情報を用いて、機能安全を実現するための処理が行われる。
【0081】
出力データ機能安全情報は、出力データ(伝送対象となる画像データ)自体の機能安全の実現に用いられる情報である。例えば、出力データを用いた演算によって求められる誤り検出符号であるCRC値が出力データ機能安全情報に含まれる。CRC演算の演算モードを示す情報などの他の情報が出力データ機能安全情報に含まれるようにしてもよい。
【0082】
出力データセキュリティ情報は、出力データ自体のセキュリティの実現に用いられる情報である。例えば、出力データを用いた演算によって求められる認証コードであるMAC(Message Authentication Code)値や、IV(Initialization Vector)情報が出力データセキュリティ情報に含まれる。MAC演算の演算モードを示す情報などの他の情報が出力データセキュリティ情報に含まれるようにしてもよい。
【0083】
図7は、出力データセキュリティ情報を用いた処理の例を示す図である。
【0084】
図7の左側はイメージセンサ11のアプリケーションレイヤ処理部41において行われる処理を示し、
図7の右側はDSP12のアプリケーションレイヤ処理部53において行われる処理を示す。アプリケーションレイヤ処理部41とアプリケーションレイヤ処理部53には共通鍵Kが用意される。
【0085】
図7の左側に示すように、アプリケーションレイヤ処理部41においては、出力データとなるフレームNの画像データに対して、共通鍵KとIV
N情報を用いたMAC演算が施され、MAC
N値が生成される。IV
N情報とMAC
N値は、フレームNの画像データに出力データセキュリティ情報として付加され、DSP12に対して送信される。
【0086】
一方、
図7の右側に示すように、アプリケーションレイヤ処理部53においては、フレームNの画像データに対して、共通鍵Kと、画像データに付加されていたIV
N情報を用いたMAC演算が施され、MAC
N値が生成される。矢印A1に示すように、アプリケーションレイヤ処理部53において生成されたMAC
N値と、画像データに付加されていたMAC
N値を比較する処理が、フレームNの画像データのセキュリティを実現するための処理として行われる。
【0087】
セキュリティを実現するための処理においては、両者のMACN値が一致する場合には、セキュリティが確保されている(データが改ざんされていない)ものとして判定され、両者のMACN値が異なる場合には、セキュリティが確保されていないものとして判定される。MAC値を各フレームの画像データに付加することにより、画像データの完全性を保証することが可能となる。
【0088】
出力データ機能安全情報であるCRC値を用いた誤り検出の処理も同様にして行われる。CRC値の演算においては、IV情報は不要である。なお、MAC値を用いた処理も、アルゴリズムによってはIV情報が不要となる。MACの方式としてGMACを使用する場合はIV情報が必要になる。
【0089】
図8は、出力データの暗号化と復号の例を示す図である。
【0090】
図8の左側はイメージセンサ11のアプリケーションレイヤ処理部41において行われる処理を示し、
図8の右側はDSP12のアプリケーションレイヤ処理部53において行われる処理を示す。アプリケーションレイヤ処理部41とアプリケーションレイヤ処理部53には共通鍵Kが用意される。
【0091】
図8の左側に示すように、アプリケーションレイヤ処理部41においては、出力データであるフレームNの画像データに対して、共通鍵KとIV
N情報を用いた暗号化処理が施される。暗号化処理に用いられたIV
N情報は、暗号化処理によって得られたフレームNの暗号データに付加され、DSP12に対して送信される。
【0092】
一方、
図8の右側に示すように、アプリケーションレイヤ処理部53においては、フレームNの暗号データに対して、アプリケーションレイヤ処理部53が有している共通鍵Kと、暗号データに付加されていたIV
N情報を用いた復号処理が施され、フレームNの画像データが復号される。
【0093】
各フレームの画像データ自体を暗号化することにより、出力データの機密性を保証することが可能となる。暗号データの改ざんを防ぐために、MAC演算がさらに行われるようにしてもよい。この場合、MAC値が付加された暗号データがDSP12に対して送信される。
【0094】
以下、適宜、セキュリティ関連情報と機能安全関連情報を区別する必要がない場合、まとめて関連情報という。また、出力データ機能安全情報と出力データセキュリティ情報を区別する必要がない場合、出力データに付加される情報という意味で、まとめて出力データ付加情報という。
【0095】
さらに、セキュリティ関連情報と出力データセキュリティ情報の組をセキュリティ情報といい、機能安全関連情報と出力データ機能安全情報の組を機能安全情報という。
【0096】
それぞれの情報は、
図9のA乃至Dに示すようにライン単位で1つのパケットに格納され、イメージセンサ11からDSP12に対して伝送される。それぞれのパケットのパケットヘッダには、それぞれのパケットに格納されている情報の識別に用いられるフラグが設定される。
【0097】
このように、
図1の伝送システム1においては、出力データとなる各フレームの画像データに対して、CRC値やMAC値などの情報が付加される。イメージセンサ11から送信されてきたフレームデータを受信したDSP12は、セキュリティの実現や機能安全の実現をフレーム単位で行うことができる。
【0098】
また、各フレームの画像データとともに伝送される関連情報と出力データ付加情報は、SLVS-ECの受信側における物理レイヤの処理とリンクレイヤの処理を経て、DSP12のアプリケーションレイヤ処理部53に供給される。DSP12は、フレーム単位でのセキュリティの実現や機能安全の実現を、アプリケーションレイヤの処理として行うことができる。
【0099】
図10は、他のフレームフォーマットの例を示す図である。
【0100】
図10に示すように、1フレームの画像データの後のラインにEBDが配置されるようにしてもよい。
図10においては、1フレームの画像データの前のラインに配置されたEBDがEBD1とされ、1フレームの画像データの後のラインに配置されたEBDがEBD2とされている。
【0101】
<アプリケーションレイヤ処理部の構成>
図11は、アプリケーションレイヤ処理部の機能構成例を示すブロック図である。
図11には、主に、イメージセンサ11の送信部22を構成するアプリケーションレイヤ処理部41と、DSP12の受信部31を構成するアプリケーションレイヤ処理部53の構成が示されている。
【0102】
・イメージセンサ側のアプリケーションレイヤ処理部の構成
イメージセンサ11のアプリケーションレイヤ処理部41は、関連情報生成部101、画像データ処理部102、EBD生成部103、および機能安全・セキュリティ付加情報生成部104により構成される。
【0103】
関連情報生成部101は、関連情報を生成する。すなわち、関連情報生成部101は、セキュリティ動作がオンである場合、セキュリティ関連情報を生成し、機能安全動作がオンである場合、機能安全関連情報を生成する。セキュリティ動作のオン/オフ、機能安全動作のオン/オフは図示せぬ制御部により設定される。関連情報生成部101により生成された関連情報はリンクレイヤ信号処理部42に供給される。
【0104】
画像データ処理部102は、撮像部21から出力された画素データに基づいて、出力データとなる画像データを取得する。画像データ処理部102は、出力データの暗号化を共通鍵などを用いて行い、暗号データをリンクレイヤ信号処理部42に出力する。
【0105】
EBD生成部103は、撮像に関する設定値の情報を取得し、EBDを生成する。撮像に関する設定値以外の情報がEBDに含まれることもある。EBD生成部103により生成されたEBDはリンクレイヤ信号処理部42に供給される。
【0106】
機能安全・セキュリティ付加情報生成部104は、出力データ付加情報を生成する。すなわち、機能安全・セキュリティ付加情報生成部104は、セキュリティ動作がオンである場合、出力データセキュリティ情報を生成し、機能安全動作がオンである場合、出力データ機能安全情報を生成する。
図7を参照して説明したように、出力データセキュリティ情報と出力データ機能安全情報は、共通鍵などを用いた演算を出力データに対して行うことによって生成される。機能安全・セキュリティ付加情報生成部104により生成された出力データ付加情報はリンクレイヤ信号処理部42に供給される。
【0107】
このように、関連情報生成部101、画像データ処理部102、EBD生成部103、および機能安全・セキュリティ付加情報生成部104により構成されるイメージセンサ11のアプリケーションレイヤ処理部41は、
図5を参照して説明したようなフォーマットを有するフレームデータを生成する生成部として機能する。
【0108】
アプリケーションレイヤ処理部41により生成されたフレームデータに対して、リンクレイヤの処理がリンクレイヤ信号処理部42において施され、物理レイヤの処理が物理レイヤ信号処理部43において施される。物理レイヤの処理によって得られたデータストリームが、吹き出しに示すようにDSP12に対して送信される。
【0109】
・ヘッダ情報の詳細
ここで、パケットヘッダに含まれるヘッダ情報の詳細について説明する。
図4を参照して説明したように、パケットヘッダには、ヘッダ情報とヘッダのCRC値が含まれる。ヘッダ情報とヘッダのCRC値の1つの組は8バイトの情報である。
【0110】
図12および
図13は、ヘッダ情報を構成する各ビットの割り当ての例を示す図である。
【0111】
図12には、ヘッダ情報とヘッダのCRC値の1つの組を構成する64ビットのうちの、最上位ビットであるビット[63]から、ビット[32]までの32ビット([63:32])が示されている。
【0112】
主な情報について説明すると、ビット[63]の1ビットにはFrame Startが割り当てられ、ビット[62]の1ビットにはFrame Endが割り当てられる。ビット[61]の1ビットにはLine Validが割り当てられ、ビット[60:48]の13ビットにはLine Numberが割り当てられる。ビット[47]の1ビットにはEBD Lineが割り当てられ、ビット[42:40]の3ビットにはHeader Info Typeが割り当てられる。
【0113】
EBD Lineは、パケットに格納されているデータが、EBDが配置されたラインのデータであるか否かを示すフラグである。例えば、EBD Lineの値が1であることは、当該EBD Lineを含むパケットヘッダが付加されたパケットにEBDが格納されていることを示す。また、EBD Lineの値が0であることは、当該EBD Lineを含むパケットヘッダが付加されたパケットにEBDが格納されていないことを示す。
【0114】
ビット[42:40]のHeader Info Typeは、ビット[31:16]の内容を指定する情報である。
【0115】
例えば、Header Info Typeの値が“000”または“001”である場合、
図13に示すように、ビット[17]の1ビットにはSafety Infoが割り当てられ、ビット[16]の1ビットにはSecurity Infoが割り当てられるなどのように、Header Info Typeの値によりビット[17]/ビット[16]の意味を変更してもよい。
図13のAは、Header Info Typeの値が“000”である場合の割り当てを示し、
図13のBは、Header Info Typeの値が“001”である場合の割り当てを示す。
【0116】
Safety Infoは、パケットに格納されているデータが、機能安全情報が配置されたラインのデータであるか否かを示すフラグである。
【0117】
Security Infoは、パケットに格納されているデータが、セキュリティ情報が配置されたラインのデータであるか否かを示すフラグである。
【0118】
図14は、Safety InfoとSecurity Infoの値の例を示す図である。
【0119】
図14の上段に示すように、Safety Infoの値が1であることは、当該Safety Infoを含むパケットヘッダが付加されたパケットに、機能安全関連情報と出力データ機能安全情報のうちの少なくともいずれかが格納されていることを示す。Safety Infoの値が0であることは、当該Safety Infoを含むパケットヘッダが付加されたパケットに、機能安全関連情報および出力データ機能安全情報が格納されていないことを示す。
【0120】
一方、
図14の下段に示すように、Security Infoの値が1であることは、当該Security Infoを含むパケットヘッダが付加されたパケットに、セキュリティ関連情報と出力データセキュリティ情報のうちの少なくともいずれかが格納されていることを示す。Security Infoの値が0であることは、当該Security Infoを含むパケットヘッダが付加されたパケットに、セキュリティ関連情報および出力データセキュリティ情報が格納されていないことを示す。
【0121】
【0122】
セキュリティ関連情報が配置されたラインの右側に示すように、セキュリティ関連情報を格納するパケットに付加されるパケットヘッダのEBD Line(ビット[47])、Safety Info(ビット[17])、Security Info(ビット[16])には、それぞれ、1,0,1の値が設定される。
【0123】
機能安全関連情報が配置されたラインの右側に示すように、機能安全関連情報を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,1,0の値が設定される。
【0124】
EBD1が配置されたラインの右側に示すように、EBD1を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,0,0の値が設定される。
【0125】
このように、セキュリティ関連情報を格納したパケットと機能安全関連情報を格納したパケットには、EBD1を格納するパケットと同様に、EBD Lineの値として値1が設定されたパケットヘッダが付加される。受信側のDSP12においては、セキュリティ関連情報と機能安全関連情報がEBDと同様の情報として処理されることになる。
【0126】
EBD2が配置されたラインの右側に示すように、EBD2を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,0,0の値が設定される。
【0127】
出力データ機能安全情報が配置されたラインの右側に示すように、出力データ機能安全関連情報を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、0,1,0の値が設定される。
【0128】
出力データセキュリティ情報が配置されたラインの右側に示すように、出力データセキュリティ情報を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、0,0,1の値が設定される。
【0129】
図15に示すような値のヘッダ情報を含むパケットヘッダが、アプリケーションレイヤ処理部41による制御に従ってリンクレイヤ信号処理部42により生成される。以下、適宜、
図15に示すフレームフォーマットを基本フォーマットとして説明する。
【0130】
・DSP側のアプリケーションレイヤ処理部の構成
図11の説明に戻り、DSP12のアプリケーションレイヤ処理部53は、識別部111、機能安全・セキュリティ処理部112、処理対象データ抽出部113、比較対象データ抽出部114、および演算部115により構成される。リンクレイヤの処理がリンクレイヤ信号処理部52において施されることによって得られたフレームデータを構成する各ラインのデータが識別部111に対して入力される。識別部111に対しては、各パケットに付加されたパケットヘッダの情報も入力される。
【0131】
なお、イメージセンサ11から送信されてきたデータに対しては、物理レイヤの処理が物理レイヤ信号処理部51において施され、物理レイヤの処理によって得られたデータに対して、リンクレイヤの処理がリンクレイヤ信号処理部52において施される。物理レイヤ信号処理部51とリンクレイヤ信号処理部52により、イメージセンサ11から送信されてきたパケットが受信される。
【0132】
識別部111は、ヘッダ情報を参照するなどして、リンクレイヤ信号処理部52から供給されたデータを識別し、出力する。
【0133】
例えば、識別部111は、EBD Line、Safety Info、Security Infoのそれぞれの値が1,0,1であるパケットヘッダが付加されたパケットに格納されたデータをセキュリティ関連情報として識別し、出力する。同様に、識別部111は、EBD Line、Safety Info、Security Infoのそれぞれの値が1,1,0であるパケットヘッダが付加されたパケットに格納されたデータを機能安全関連情報として識別し、出力する。識別部111から出力された関連情報は、機能安全・セキュリティ処理部112と処理対象データ抽出部113に供給される。
【0134】
識別部111は、EBD Line、Safety Info、Security Infoのそれぞれの値が1,0,0であるパケットヘッダが付加されたパケットに格納されたデータをEBDとして識別し、出力する。識別部111は、Line Valid、Line Numberなどに基づいて識別した画像データを出力する。識別部111から出力されたEBDと画像データは演算部115に供給される。
【0135】
識別部111は、EBD Line、Safety Info、Security Infoのそれぞれの値が0,0,1であるパケットヘッダが付加されたパケットに格納されたデータを出力データセキュリティ情報として識別し、出力する。識別部111は、EBD Line、Safety Info、Security Infoのそれぞれの値が0,1,0であるパケットヘッダが付加されたパケットに格納されたデータを出力データ機能安全情報として識別し、出力する。識別部111から出力された出力データ付加情報は比較対象データ抽出部114に供給される。
【0136】
機能安全・セキュリティ処理部112は、セキュリティ動作がオンである場合、識別部111から供給されたセキュリティ関連情報に基づいて、セキュリティを実現するための処理を行う。
【0137】
例えば、機能安全・セキュリティ処理部112は、レジスタ通信のセキュリティエラーが発生したことを示す情報がセキュリティ関連情報に含まれる場合、エラーの発生回数に基づいて、外部からの攻撃によるセキュリティエラーなのか否かを解析する。外部からの攻撃によるセキュリティエラーであることを特定した場合、機能安全・セキュリティ処理部112は、画像データを無効にするなどの処理を行う。
【0138】
また、機能安全・セキュリティ処理部112は、機能安全動作がオンである場合、識別部111から供給された機能安全関連情報に基づいて、機能安全を実現するための処理を行う。
【0139】
例えば、機能安全・セキュリティ処理部112は、センサのイレギュラー動作が発生したことを示す情報が機能安全関連情報に含まれる場合、イレギュラー動作の発生回数に基づいて、イメージセンサ11の故障なのか否かを解析する。
【0140】
機能安全・セキュリティ処理部112は、ヘッダ情報に含まれるFrame Numberに基づいて、フレーム欠けが生じていないか否かの確認なども行う。
【0141】
処理対象データ抽出部113は、演算部115における演算に用いられる情報が関連情報に含まれている場合、その情報を抽出し、演算部115に出力する。MAC値の情報や、CRC値の演算モードを示す情報が関連情報に含まれている場合、その情報が演算部115に対して出力される。
【0142】
後述するように、IV情報をセキュリティ関連情報に含めるフレームフォーマットもある。IV情報がセキュリティ関連情報に含まれている場合、処理対象データ抽出部113は、セキュリティ関連情報から抽出したIV情報を演算部115に出力する。
【0143】
比較対象データ抽出部114は、セキュリティ動作がオンである場合、演算結果との比較に用いられる比較対象データであるMAC値の情報を、識別部111から供給された出力データセキュリティ情報から抽出し、演算部115に出力する。IV情報が出力データセキュリティ情報に含まれる場合、比較対象データ抽出部114は、出力データセキュリティ情報から抽出したIV情報を演算部115に出力する。
【0144】
また、比較対象データ抽出部114は、機能安全動作がオンである場合、比較対象データであるCRC値の情報を、識別部111から供給された出力データ機能安全情報から抽出し、演算部115に出力する。
【0145】
演算部115は、セキュリティ動作がオンである場合、識別部111から供給された画像データやEBDを対象として、
図7を参照して説明したようにしてMAC演算を行う。演算部115は、演算によって求められたMAC値と、比較対象データ抽出部114から供給されたMAC値とを比較することによって、出力データのセキュリティを実現するための処理を行う。
【0146】
また、演算部115は、機能安全動作がオンである場合、識別部111から供給された画像データやEBDを対象としてCRC演算を行う。演算部115は、演算によって求められたCRC値と、比較対象データ抽出部114から供給されたCRC値とを比較することによって、出力データの機能安全を実現するための処理を行う。
【0147】
演算部115による処理結果を示す情報は、適宜、アプリケーションレイヤ処理部53の後段に設けられた信号処理部に画像データとともに供給される。機能安全・セキュリティ処理部112と演算部115は、機能安全を実現するための処理を機能安全情報に基づいて行うとともに、セキュリティを実現するための処理をセキュリティ情報に基づいて行う情報処理部として機能する。
【0148】
<イメージセンサとDSPの動作>
ここで、以上のような構成を有するイメージセンサ11とDSP12の処理について説明する。
【0149】
・イメージセンサ11の動作
はじめに、
図16のフローチャートを参照して、イメージセンサ11の処理について説明する。
図16に示す処理は、例えば、撮像部21から出力された画素データが送信部22のアプリケーションレイヤ処理部41に入力されたときに開始される。
【0150】
なお、
図16の各ステップの処理は、必ずしも
図16に示される順番に行われるものではない。各ステップの処理は、適宜、他のステップの処理と並行して、または、他のステップの処理と順番を変えて行われる。他のフローチャートにおいても同様である。
【0151】
ステップS1において、アプリケーションレイヤ処理部41の画像データ処理部102は、撮像部21から出力された画素データに基づいて、出力データとなる画像データを取得する。
【0152】
ステップS2において、画像データ処理部102は、画像データの暗号化を行う。
【0153】
ステップS3において、関連情報生成部101は、セキュリティ関連情報と機能安全関連情報を生成する。ここでは、セキュリティ動作と機能安全動作がいずれもオンであるものとする。
【0154】
ステップS4において、機能安全・セキュリティ付加情報生成部104は、出力データセキュリティ情報と出力データ機能安全情報を画像データに基づいて生成する。
【0155】
ステップS5において、EBD生成部103は、撮像に関する設定値の情報を取得し、EBDを生成する。出力データとなる画像データの生成の前にEBDの生成が行われることもある。
【0156】
ステップS6において、リンクレイヤ信号処理部42は、アプリケーションレイヤ処理部41の各部により生成されたデータにより構成されるフレームデータに対してリンクレイヤの信号処理を行う。
【0157】
ステップS7において、物理レイヤ信号処理部43は、リンクレイヤの信号処理によって得られた各パケットのデータに対して物理レイヤの信号処理を行う。
【0158】
ステップS8において、物理レイヤ信号処理部43は、物理レイヤの処理によって得られたデータストリームを送信する。以上の処理が、撮像部21において撮像が行われる毎に繰り返される。
【0159】
・DSP12の動作
次に、
図17のフローチャートを参照して、DSP12の処理について説明する。
【0160】
ステップS11において、物理レイヤ信号処理部51は、送信部22の物理レイヤ信号処理部43から送信されてきたデータストリームを受信する。
【0161】
ステップS12において、物理レイヤ信号処理部51は、受信したデータストリームに対して物理レイヤの信号処理を行う。
【0162】
ステップS13において、リンクレイヤ信号処理部52は、物理レイヤの信号処理が行われたデータストリームに対してリンクレイヤの信号処理を行う。リンクレイヤの信号処理によって得られた各パケットのデータがアプリケーションレイヤ処理部53に対して入力される。
【0163】
ステップS14において、アプリケーションレイヤ処理部53の識別部111は、パケットヘッダの情報を参照し、EBD Line、Safety Info、Security Infoのそれぞれの値に基づいて、各パケットに格納されているデータを識別する。
【0164】
ステップS15において、機能安全・セキュリティ処理部112は、機能安全関連情報に基づいて機能安全を実現するための処理を行う。また、機能安全・セキュリティ処理部112は、セキュリティ関連情報に基づいて、セキュリティを実現するための処理を行う。
【0165】
ステップS16において、処理対象データ抽出部113は、識別部111により識別された機能安全管理情報とセキュリティ関連情報から処理対象データを抽出する。
【0166】
ステップS17において、比較対象データ抽出部114は、識別部111により識別された出力データ機能安全情報と出力データセキュリティ情報から比較対象データを抽出する。
【0167】
ステップS18において、演算部115は、識別部111により識別された画像データに基づいて、MAC値・CRC値の演算を行う。MAC値の演算とCRC値の演算においては、適宜、処理対象データ抽出部113により抽出されたIV情報や、比較対象データ抽出部114により抽出されたMAC値、CRC値などの情報が用いられる。
【0168】
ステップS19において、アプリケーションレイヤ処理部53は、機能安全を実現するための処理とセキュリティを実現するための処理の対象となった画像データを出力する。
【0169】
以上の一連の処理により、イメージセンサ11のアプリケーションレイヤ処理部41は、機能安全の実現に用いられる機能安全情報とセキュリティの実現に用いられるセキュリティ情報をフレーム単位の画像データ毎に付加してDSP12に送信することができる。また、イメージセンサ11から送信されてきたフレームデータを受信したDSP12は、セキュリティの実現や機能安全の実現をフレーム単位で行うことができる。
【0170】
<<フレームフォーマットのバリエーションの例>>
ここで、フレームフォーマットのバリエーションについて説明する。イメージセンサ11とDSP12の間では、例えば、どのフレームフォーマットを用いてデータ伝送が行われるのかがあらかじめ決定される。基本フォーマットの説明と重複する説明については適宜省略する。
【0171】
<バリエーション1>
図18は、フレームフォーマットの第1の変形例を示す図である。
【0172】
図18に示すフレームフォーマットにおいては、出力データセキュリティ情報に含まれる情報の一部が、セキュリティ関連情報と同じラインに配置される。出力データセキュリティ情報に含まれる情報の一部が、セキュリティ関連情報と同じパケットに格納され、伝送される。例えば、出力データセキュリティ情報に含まれる情報のうちの、IV情報などが、セキュリティ関連情報と同じパケットを用いて画像データより先に伝送される。
【0173】
セキュリティ関連情報と出力データセキュリティ情報に含まれる情報の一部とを格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,0,1の値が設定される。
【0174】
また、
図18に示すフレームフォーマットにおいては、出力データ機能安全情報に含まれる情報の一部が、機能安全関連情報と同じラインに配置される。出力データ機能安全情報に含まれる情報の一部が、機能安全関連情報と同じパケットに格納され、伝送される。例えば、出力データ機能安全情報に含まれる情報のうちの、CRC値の演算モードを示す情報などが、機能安全関連情報と同じパケットを用いて画像データより先に伝送される。
【0175】
機能安全関連情報と出力データ機能安全情報に含まれる情報の一部とを格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,1,0の値が設定される。
【0176】
図18に示すフレームフォーマットにおいて、他のラインのデータを格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoの値は、それぞれ、
図15を参照して説明した基本フォーマットにおける値と同じ値である。
【0177】
IV情報やCRC値の演算モードを示す情報を画像データより先に配置することにより、DSP12のアプリケーションレイヤ処理部53は、出力データ機能安全情報を取得する前にCRC値の演算を開始することができる。また、アプリケーションレイヤ処理部53は、出力データセキュリティ情報を取得する前にMAC値の演算を開始したり、画像データの復号を開始したりすることができる。
【0178】
<バリエーション2>
図19は、フレームフォーマットの第2の変形例を示す図である。
【0179】
図19に示すフレームフォーマットにおいては、セキュリティ関連情報と機能安全関連情報に共通する情報がEBD1として配置される。EBD1の所定の領域には、共通情報の配置領域が確保される。
【0180】
共通情報を含むEBD1を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,1,1の値が設定される。
【0181】
上述したように、共通情報としての内部ステート情報、動作モード関連情報、レジスタ通信が発生したことを通知するための情報、フレームカウンタ、および、1フレームのデータサイズの情報は、セキュリティ関連情報と機能安全関連情報の両方に含まれる情報である。共通情報は、機能安全の実現とセキュリティの実現の両方に適宜用いられる。
【0182】
共通情報がEBD1として送信されることにより、セキュリティ関連情報と機能安全関連情報に同じ情報を含めて送信する必要がなくなり、フレームデータのデータ量を抑えることが可能となる。
【0183】
図19の例においては、出力データセキュリティ情報に含まれる情報の一部がセキュリティ関連情報に含まれるものとされているが、セキュリティ関連情報に含まれないようにしてもよい。また、出力データ機能安全情報に含まれる情報の一部が機能安全関連情報に含まれるものとされているが、機能安全関連情報に含まれないようにしてもよい。後述する
図22のフレームフォーマットにおいても同様である。
【0184】
<バリエーション3>
図20は、フレームフォーマットの第3の変形例を示す図である。
【0185】
図20に示すフレームフォーマットにおいては、セキュリティ関連情報と機能安全関連情報がEBD1として配置される。EBD1が配置されたラインには、セキュリティ関連情報の配置領域と機能安全関連情報の配置領域が確保される。また、共通情報の配置領域が、共通情報以外のセキュリティ関連情報、機能安全関連情報の配置領域とは別に確保される。それぞれの情報の配置位置を示す情報がEBD1に含まれるようにしてもよい。
【0186】
セキュリティ関連情報と機能安全関連情報を含むEBD1を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,1,1の値が設定される。
【0187】
また、
図20に示すフレームフォーマットにおいては、出力データセキュリティ情報と出力データ機能安全情報がEBD2として配置される。EBD2が配置されたラインには、出力データセキュリティ情報の配置領域と出力データ機能安全情報の配置領域が確保される。
【0188】
出力データセキュリティ情報と出力データ機能安全情報を含むEBD2を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、1,1,1の値が設定される。
【0189】
このように、セキュリティ情報と機能安全情報がEBDにマージされた状態で伝送されるようにすることが可能である。
【0190】
セキュリティ情報、機能安全情報のデータ量は、1ラインのデータのデータ量に対してあまり大きくないことが想定される。セキュリティ情報、機能安全情報をEBDにマージして伝送することにより、データの伝送効率を高めることが可能となる。伝送効率を高めることは、イメージセンサ11が出力するフレーム間の垂直ブランキング期間が短い場合に特に有効となる。
【0191】
図21は、
図20のフォーマットを有するフレームデータの伝送が行われる場合のアプリケーションレイヤ処理部の機能構成例を示すブロック図である。
図21に示す構成のうち、
図11を参照して説明した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【0192】
図21に示すように、イメージセンサ11のアプリケーションレイヤ処理部41が有する関連情報生成部101と機能安全・セキュリティ付加情報生成部104は、EBD生成部103において実現される。EBD生成部103は、関連情報生成部101が生成する関連情報と機能安全・セキュリティ付加情報生成部104が生成する出力データ付加情報を含むEBDを生成することになる。一方、アプリケーションレイヤ処理部53の処理対象データ抽出部113は、識別部111により識別されたEBD1から処理対象データを抽出し、出力する。また、比較対象データ抽出部114は、識別部111により識別されたEBD1から比較対象データを抽出し、出力する。
【0193】
<バリエーション4>
図22は、フレームフォーマットの第4の変形例を示す図である。
【0194】
図22に示すフレームフォーマットにおいては、セキュリティ関連情報が配置されたラインの前のラインにEBD1が配置される。EBD1には、例えば、フレームフォーマットの種類を示すフォーマット情報が含まれる。
【0195】
フォーマット情報を含むEBD1を格納するパケットに付加されるパケットヘッダのEBD Line、Safety Info、Security Infoには、それぞれ、基本フォーマットにおける値と同様に1,0,0の値が設定される。
【0196】
また、
図22に示すフレームフォーマットにおいては、画像データの次のラインにEBD2が配置される。
【0197】
このように、フォーマット情報を含むEBDが最初に(Frame Startの次に)伝送されるようにすることが可能である。
【0198】
最初に伝送されるEBDにフォーマット情報が含まれることにより、DSP12のアプリケーションレイヤ処理部53は、最初に処理の対象となるEBDに基づいて、フレームフォーマットを特定することが可能となる。最初に伝送されるEBDにフォーマット情報が含まれていることは、データ伝送に用いるフレームフォーマットがイメージセンサ11とDSP12の間であらかじめ決まっていない場合に特に有効となる。
【0199】
以上のフォーマットとは異なるフォーマットがフレームデータのフォーマットとして用いられるようにしてもよい。例えば、関連情報が出力データ付加情報とともに出力データの後に配置されたフォーマットが用いられるようにすることが可能である。
【0200】
<<SLVS-ECについて>>
ここで、SLVS-ECのリンクレイヤの処理と物理レイヤの処理について説明する。
【0201】
図23は、送信部22と受信部31の構成例を示す図である。
【0202】
図23の左側に破線で囲んで示す構成が送信部22の構成であり、右側に破線で囲んで示す構成が受信部31の構成である。送信部22と受信部31は、それぞれ、リンクレイヤの構成と物理レイヤの構成からなる。
【0203】
実線L2より上側に示す構成がリンクレイヤの構成であり、実線L2より下側に示す構成が物理レイヤの構成である。送信部22において、実線L2より上側に示す構成がリンクレイヤ信号処理部42の構成に対応し、実線L2より下側に示す構成が物理レイヤ信号処理部43の構成に対応する。
【0204】
また、受信部31において、実線L2より下側に示す構成が物理レイヤ信号処理部51の構成に対応し、実線L2より上側に示す構成がリンクレイヤ信号処理部52の構成に対応する。
【0205】
実線L1の上がアプリケーションレイヤの構成(アプリケーションレイヤ処理部41、アプリケーションレイヤ処理部53)となる。
【0206】
<送信部22のリンクレイヤの構成>
はじめに、送信部22のリンクレイヤの構成(リンクレイヤ信号処理部42の構成)について説明する。
【0207】
リンクレイヤ信号処理部42には、リンクレイヤの構成として、LINK-TXプロトコル管理部151、Pixel to Byte変換部152、ペイロードECC挿入部153、パケット生成部154、およびレーン分配部155が設けられる。LINK-TXプロトコル管理部151は、状態制御部161、ヘッダ生成部162、データ挿入部163、およびフッタ生成部164から構成される。
【0208】
LINK-TXプロトコル管理部151の状態制御部161は、送信部22のリンクレイヤの状態を管理する。
【0209】
ヘッダ生成部162は、1ライン分のデータが格納されたペイロードに付加されるパケットヘッダを生成し、パケット生成部154に出力する。例えば、ヘッダ生成部162は、アプリケーションレイヤ処理部41による制御に従って、Safety Info、Security Infoなどを含む上述したようなヘッダ情報を生成する。ヘッダ生成部162は、ヘッダ情報を生成多項式に適用するなどして、パケットヘッダのCRC値の演算なども行う。
【0210】
データ挿入部163は、スタッフィング(stuffing)に用いられるデータを生成し、Pixel to Byte変換部152とレーン分配部155に出力する。Pixel to Byte変換部152に供給されたスタッフィングデータであるペイロードスタッフィングデータは、Pixel to Byte変換後のデータに付加され、ペイロードに格納されるデータのデータ量の調整に用いられる。また、レーン分配部155に供給されたスタッフィングデータであるレーンスタッフィングデータは、レーン割り当て後のデータに付加され、レーン間のデータ量の調整に用いられる。
【0211】
フッタ生成部164は、ペイロードデータを生成多項式に適用して32ビットのCRC値を計算し、計算により求めたCRC値をフッタとしてパケット生成部154に出力する。
【0212】
Pixel to Byte変換部152は、アプリケーションレイヤ処理部41から供給されたデータを取得し、取得したデータを1バイト単位のデータに変換するPixel to Byte変換を行う。例えば、撮像部21により撮像された画像の各画素の画素値(RGB)は、8ビット、10ビット、12ビット、14ビット、16ビットのうちのいずれかのビット数で表される。各画素の画素データを含む各種のデータが1バイト単位のデータに変換される。
【0213】
Pixel to Byte変換部152は、Pixel to Byte変換を例えばラインの左端の画素から順に各画素を対象として行う。また、Pixel to Byte変換部152は、Pixel to Byte変換によって得られたバイト単位のデータに、データ挿入部163から供給されたペイロードスタッフィングデータを付加することによってペイロードデータを生成し、ペイロードECC挿入部153に出力する。
【0214】
【0215】
図24は、各画素の画素値が10ビットで表される場合のPixel to Byte変換によって得られた画素データを含むペイロードデータを示している。色を付していない1つのブロックが、Pixel to Byte変換後のバイト単位の画素データを表す。また、色を付している1つのブロックが、データ挿入部163により生成されたペイロードスタッフィングデータを表す。
【0216】
Pixel to Byte変換後の画素データは、変換によって得られた順に、所定の数のグループにグループ化される。
図24の例においては、各画素データがグループ0~15の16グループにグループ化されており、画素P0のMSBを含む画素データがグループ0に割り当てられ、画素P1のMSBを含む画素データがグループ1に割り当てられている。また、画素P2のMSBを含む画素データがグループ2に割り当てられ、画素P3のMSBを含む画素データがグループ3に割り当てられ、画素P0~P3のLSBを含む画素データがグループ4に割り当てられている。
【0217】
画素P4のMSBを含む画素データ以降の画素データについても、グループ5以降の各グループに順に割り当てられる。なお、画素データを表すブロックのうち、3本の破線が内側に付されているブロックは、Pixel to Byte変換時に、画素N~N+3のLSBを含むようにして生成されたバイト単位の画素データを表す。
【0218】
送信部22のリンクレイヤにおいては、このようにしてグループ化が行われた後、クロック信号によって規定される期間毎に、各グループにおいて同じ位置にある画素データを対象として処理が並行して行われる。すなわち、
図24に示すように16のグループに画素データが割り当てられた場合、各列に並ぶ16の画素データを同じ期間内に処理するようにして画素データの処理が進められる。
【0219】
上述したように、1つのパケットのペイロードには1ラインの画素データが含まれる。
図24に示す画素データ全体が、1ラインを構成する画素データである。ここでは、
図24の有効画素領域A1の画素データの処理について説明しているが、セキュリティ情報や機能安全情報などの、他のラインのデータについても、有効画素領域A1の画素データと同様の処理が行われる。
【0220】
1ライン分の画素データがグループ化された後、各グループのデータ長が同じ長さになるように、ペイロードスタッフィングデータが付加される。ペイロードスタッフィングデータは1バイトのデータである。
【0221】
図24の例においては、グループ0の画素データにはペイロードスタッフィングデータが付加されず、破線で囲んで示すように、グループ1~15の各画素データには、終端にペイロードスタッフィングデータが1つずつ付加されている。
【0222】
図25は、ペイロードデータの他の例を示す図である。
図25は、各画素の画素値が12ビットで表される場合のPixel to Byte変換によって得られた画素データを含むペイロードデータを示している。
【0223】
このような構成を有するペイロードデータがPixel to Byte変換部152からペイロードECC挿入部153に供給される。
【0224】
ペイロードECC挿入部153は、Pixel to Byte変換部152から供給されたペイロードデータに基づいて、ペイロードデータの誤り訂正に用いられる誤り訂正符号を計算し、誤り訂正符号であるパリティをペイロードデータに挿入する。
【0225】
図26は、パリティが挿入されたペイロードデータの例を示す図である。
【0226】
図26に示すペイロードデータは、
図25を参照して説明した、各画素の画素値が12ビットで表される場合のPixel to Byte変換によって得られた画素データを含むペイロードデータである。斜線を付して示すブロックがパリティを表す。
【0227】
図26の例においては、グループ0~15の各グループの先頭の画素データから順に14個選択され、選択された224個(224バイト)の画素データに基づいて2バイトのパリティが求められている。2バイトのパリティが、その計算に用いられた224個の画素データに続けてグループ0,1の15番目のデータとして挿入され、224個の画素データと2バイトのパリティから1つ目のBasic Blockが形成される。
【0228】
ペイロードECC挿入部153は、パリティを挿入したペイロードデータをパケット生成部154に出力する。パリティの挿入が行われない場合、Pixel to Byte変換部152からペイロードECC挿入部153に供給されたペイロードデータは、そのままパケット生成部154に出力される。
【0229】
パケット生成部154は、ペイロードECC挿入部153から供給されたペイロードデータに、ヘッダ生成部162により生成されたヘッダを付加することによってパケットを生成する。フッタ生成部164によりフッタの生成が行われている場合、パケット生成部154は、ペイロードデータにフッタを付加することも行う。
【0230】
図27は、ペイロードデータにヘッダを付加した状態を示す図である。
【0231】
H7~H0の文字を付して示す24個のブロックは、ヘッダ情報、またはヘッダ情報のCRC符号である、バイト単位のヘッダデータを表す。
図4を参照して説明したように1つのパケットのヘッダには、ヘッダ情報とCRC符号の組が3組含まれる。例えばヘッダデータH7~H2はヘッダ情報(6バイト)であり、ヘッダデータH1,H0はCRC符号(2バイト)である。
【0232】
図28は、ペイロードデータにヘッダとフッタを付加した状態を示す図である。
【0233】
F3~F0の文字を付して示す4個のブロックは、フッタとして生成された4バイトのCRC符号であるフッタデータを表す。
図28の例においては、フッタデータF3~F0が、グループ0からグループ3のそれぞれのペイロードデータに付加されている。
【0234】
図29は、パリティが挿入されたペイロードデータにヘッダを付加した状態を示す図である。
【0235】
図29の例においては、パリティが挿入された
図26のペイロードデータに対して、
図27、
図28の場合と同様にヘッダデータH7~H0が付加されている。
【0236】
パケット生成部154は、このようにして生成した1パケットを構成するデータであるパケットデータをレーン分配部155に出力する。レーン分配部155に対しては、ヘッダデータとペイロードデータからなるパケットデータ、ヘッダデータとペイロードデータとフッタデータからなるパケットデータ、または、ヘッダデータと、パリティが挿入されたペイロードデータからなるパケットデータが供給される。
【0237】
レーン分配部155は、パケット生成部154から供給されたパケットデータを、先頭のデータから順に、Lane0~7のうちのデータ伝送に用いる各レーンに割り当てる。
【0238】
図30は、パケットデータの割り当ての例を示す図である。
【0239】
ここでは、ヘッダデータとペイロードデータとフッタデータからなるパケットデータ(
図28)の割り当てについて説明する。Lane0~7の8レーンを用いてデータ伝送を行う場合のパケットデータの割り当ての例を白抜き矢印#1の先に示す。
【0240】
この場合、ヘッダデータH7~H0の3回繰り返しを構成するそれぞれのヘッダデータは、先頭のヘッダデータから順にLane0~7に割り当てられる。あるヘッダデータがLane7に割り当てられたとき、それ以降のヘッダデータは、Lane0以降の各レーンに順に割り当てられる。Lane0~7の各レーンには同じヘッダデータが3個ずつ割り当てられることになる。
【0241】
また、ペイロードデータは、先頭のペイロードデータから順にLane0~7に割り当てられる。あるペイロードデータがLane7に割り当てられたとき、それ以降のペイロードデータは、Lane0以降の各レーンに順に割り当てられる。
【0242】
フッタデータF3~F0は、先頭のフッタデータから順に各レーンに割り当てられる。
図30の例においては、ペイロードデータを構成する最後のペイロードスタッフィングデータがLane7に割り当てられており、フッタデータF3~F0がLane0~3に1つずつ割り当てられている。
【0243】
黒色を付して示すブロックはデータ挿入部163により生成されたレーンスタッフィングデータを表す。
図30の例においては、データの割り当て数の少ないレーンであるLane4~7に対して、レーンスタッフィングデータが1つずつ割り当てられている。
【0244】
Lane0~5の6レーンを用いてデータ伝送を行う場合のパケットデータの割り当ての例を白抜き矢印#2の先に示す。また、Lane0~3の4レーンを用いてデータ伝送を行う場合のパケットデータの割り当ての例を白抜き矢印#3の先に示す。
【0245】
レーン分配部155は、このようにして各レーンに割り当てたパケットデータを物理レイヤに出力する。以下、Lane0~7の8レーンを用いてデータを伝送する場合について主に説明するが、データ伝送に用いるレーンの数が他の数の場合であっても同様の処理が行われる。
【0246】
<送信部22の物理レイヤの構成>
次に、送信部22の物理レイヤの構成(物理レイヤ信号処理部42の構成)について説明する。
【0247】
物理レイヤ信号処理部42には、物理レイヤの構成として、PHY-TX状態制御部171、クロック生成部172、信号処理部173-0乃至173-Nが設けられる。信号処理部173-0は、制御コード挿入部181、8B10Bシンボルエンコーダ182、同期部183、および送信部184から構成される。レーン分配部155から出力された、Lane0に割り当てられたパケットデータは信号処理部173-0に入力され、Lane1に割り当てられたパケットデータは信号処理部173-1に入力される。また、LaneNに割り当てられたパケットデータは信号処理部173-Nに入力される。
【0248】
このように、送信部22の物理レイヤには、信号処理部173-0乃至173-Nがレーンの数と同じ数だけ設けられ、各レーンを用いて伝送するパケットデータの処理が、信号処理部173-0乃至173-Nのそれぞれにおいて並行して行われる。信号処理部173-0の構成について説明するが、信号処理部173-1乃至173-Nも同様の構成を有する。
【0249】
PHY-TX状態制御部171は、信号処理部173-0乃至173-Nの各部を制御する。例えば、信号処理部173-0乃至173-Nにより行われる各処理のタイミングがPHY-TX状態制御部171により制御される。
【0250】
クロック生成部172は、クロック信号を生成し、信号処理部173-0乃至173-Nのそれぞれの同期部183に出力する。
【0251】
信号処理部173-0の制御コード挿入部181は、レーン分配部155から供給されたパケットデータに対して制御コードを付加する。制御コードは、予め用意された複数種類のシンボルの中から選択された1つのシンボルにより、または複数種類のシンボルの組み合わせにより表されるコードである。制御コード挿入部181により挿入される各シンボルは8ビットのデータである。
【0252】
図31は、制御コード挿入部181により付加される制御コードの例を示す図である。
【0253】
制御コードには、Idle Code, Start Code, End Code, Pad Code, Sync Code, Deskew Code, Standby Codeがある。
【0254】
Idle Codeは、パケットデータの伝送時以外の期間に繰り返し送信されるシンボル群である。
【0255】
Start Codeは、パケットの開始を示すシンボル群である。上述したように、Start Codeはパケットの前に付加される。
【0256】
End Codeは、パケットの終了を示すシンボル群である。End Codeはパケットの後ろに付加される。
【0257】
Pad Codeは、画素データ帯域とPHY伝送帯域の差を埋めるためにペイロードデータ中に挿入されるシンボル群である。画素データ帯域は、撮像部21から出力され、送信部22に入力される画素データの伝送レートであり、PHY伝送帯域は、送信部22から送信され、受信部31に入力される画素データの伝送レートである。
【0258】
Pad Codeは、画素データ帯域が狭く、PHY伝送帯域が広い場合に、双方の帯域の差を調整するために挿入される。例えば、Pad Codeが挿入されることによって、画素データ帯域とPHY伝送帯域の差が一定の範囲内に収まるように調整される。
【0259】
Sync Codeは、送信部22-受信部31間のビット同期、シンボル同期を確保するために用いられるシンボル群である。Sync Codeは、例えば送信部22-受信部31間でパケットデータの伝送が開始される前のトレーニングモード時に繰り返し送信される。
【0260】
Deskew Codeは、レーン間のData Skew、すなわち、受信部31の各レーンで受信されるデータの受信タイミングのずれの補正に用いられるシンボル群である。
【0261】
Standby Codeは、送信部22の出力がHigh-Z(ハイインピーダンス)などの状態になり、データ伝送が行われなくなることを受信部31に通知するために用いられるシンボル群である。
【0262】
制御コード挿入部181は、このような制御コードを付加したパケットデータを8B10Bシンボルエンコーダ182に出力する。
【0263】
図32は、制御コード挿入後のパケットデータの例を示す図である。
【0264】
図32に示すように、信号処理部173-0乃至173-Nにおいては、それぞれ、パケットデータの前にStart Codeが付加され、ペイロードデータにPad Codeが挿入される。パケットデータの後ろにはEnd Codeが付加され、End Codeの後ろにDeskew Codeが付加される。
図32の例においては、Deskew Codeの後ろにIdle Codeが付加されている。
【0265】
8B10Bシンボルエンコーダ182は、制御コード挿入部181から供給されたパケットデータ(制御コードが付加されたパケットデータ)に対して8B10B変換を施し、10ビット単位のデータに変換したパケットデータを同期部183に出力する。
【0266】
同期部183は、8B10Bシンボルエンコーダ182から供給されたパケットデータの各ビットを、クロック生成部172により生成されたクロック信号に従って送信部184に出力する。なお、送信部22に同期部183が設けられないようにしてもよい。
【0267】
送信部184は、Lane0を構成する伝送路を介して、同期部183から供給されたパケットデータを受信部31に送信する。8レーンを用いてデータ伝送が行われる場合、Lane1~7を構成する伝送路をも用いてパケットデータが受信部31に送信される。
【0268】
<受信部31の物理レイヤの構成>
次に、受信部31の物理レイヤの構成(物理レイヤ信号処理部51の構成)について説明する。
【0269】
物理レイヤ信号処理部51には、物理レイヤの構成として、PHY-RX状態制御部201、信号処理部202-0乃至202-Nが設けられる。信号処理部202-0は、受信部211、クロック生成部212、同期部213、シンボル同期部214、10B8Bシンボルデコーダ215、スキュー補正部216、および制御コード除去部217から構成される。Lane0を構成する伝送路を介して送信されてきたパケットデータは信号処理部202-0に入力され、Lane1を構成する伝送路を介して送信されてきたパケットデータは信号処理部202-1に入力される。また、LaneNを構成する伝送路を介して送信されてきたパケットデータは信号処理部202-Nに入力される。
【0270】
このように、受信部31の物理レイヤには、信号処理部202-0乃至202-Nがレーンの数と同じ数だけ設けられ、各レーンを用いて伝送されてきたパケットデータの処理が、信号処理部202-0乃至202-Nのそれぞれにおいて並行して行われる。信号処理部202-0の構成について説明するが、信号処理部202-1乃至202-Nも同様の構成を有する。
【0271】
受信部211は、Lane0を構成する伝送路を介して送信部22から伝送されてきたパケットデータを表す信号を受信し、クロック生成部212に出力する。
【0272】
クロック生成部212は、受信部211から供給された信号のエッジを検出することによってビット同期をとり、エッジの検出周期に基づいてクロック信号を生成する。クロック生成部212は、受信部211から供給された信号を、クロック信号とともに同期部213に出力する。
【0273】
同期部213は、クロック生成部212により生成されたクロック信号に従って、受信部211において受信された信号のサンプリングを行い、サンプリングによって得られたパケットデータをシンボル同期部214に出力する。クロック生成部212と同期部213によりCDR(Clock Data Recovery)の機能が実現される。
【0274】
シンボル同期部214は、パケットデータに含まれる制御コードを検出することによって、または制御コードに含まれる一部のシンボルを検出することによってシンボル同期をとる。例えば、シンボル同期部214は、Start Code, End Code, Deskew Codeに含まれる特定のシンボルを検出し、シンボル同期をとる。シンボル同期部214は、各シンボルを表す10ビット単位のパケットデータを10B8Bシンボルデコーダ215に出力する。
【0275】
また、シンボル同期部214は、パケットデータの伝送が開始される前のトレーニングモード時に送信部22から繰り返し送信されてくるSync Codeに含まれるシンボルの境界を検出することによってシンボル同期をとる。
【0276】
10B8Bシンボルデコーダ215は、シンボル同期部214から供給された10ビット単位のパケットデータに対して10B8B変換を施し、8ビット単位のデータに変換したパケットデータをスキュー補正部216に出力する。
【0277】
スキュー補正部216は、10B8Bシンボルデコーダ215から供給されたパケットデータからDeskew Codeを検出する。スキュー補正部216によるDeskew Codeの検出タイミングの情報はPHY-RX状態制御部201に供給される。
【0278】
また、スキュー補正部216は、Deskew Codeのタイミングを、PHY-RX状態制御部201から供給された情報により表されるタイミングに合わせるようにしてレーン間のData Skewを補正する。
【0279】
図33は、Deskew Codeを用いたレーン間のData Skewの補正の例を示す図である。
【0280】
図33の例においては、Lane0~7の各レーンにおいて、Sync Code, Sync Code,…,Idle Code, Deskew Code, Idle Code, …, Idle Code, Deskew Codeの伝送が行われ、それぞれの制御コードが受信部31において受信されている。同じ制御コードの受信タイミングがレーン毎に異なり、レーン間のData Skewが生じている状態になっている。
【0281】
この場合、スキュー補正部216は、1つ目のDeskew CodeであるDeskew Code C1を検出し、Deskew Code C1の先頭のタイミングを、PHY-RX状態制御部201から供給された情報により表される時刻t1に合わせるように補正する。PHY-RX状態制御部201からは、Lane0~7の各レーンにおいてDeskew Code C1が検出されたタイミングのうち、最も遅いタイミングであるLane7においてDeskew Code C1が検出された時刻t1の情報が供給されてくる。
【0282】
また、スキュー補正部216は、2つ目のDeskew CodeであるDeskew Code C2を検出し、Deskew Code C2の先頭のタイミングを、PHY-RX状態制御部201から供給された情報により表される時刻t2に合わせるように補正する。PHY-RX状態制御部201からは、Lane0~7の各レーンにおいてDeskew Code C2が検出されたタイミングのうち、最も遅いタイミングであるLane7においてDeskew Code C2が検出された時刻t2の情報が供給されてくる。
【0283】
信号処理部202-1乃至202-Nのそれぞれにおいて同様の処理が行われることによって、
図33の矢印#1の先に示すようにレーン間のData Skewが補正される。
【0284】
スキュー補正部216は、Data Skewを補正したパケットデータを制御コード除去部217に出力する。
【0285】
制御コード除去部217は、パケットデータに付加された制御コードを除去し、Start CodeからEnd Codeまでの間のデータをパケットデータとしてリンクレイヤに出力する。
【0286】
PHY-RX状態制御部201は、信号処理部202-0乃至202-Nの各部を制御し、レーン間のData Skewの補正などを行わせる。
【0287】
<受信部31のリンクレイヤの構成>
次に、受信部31のリンクレイヤの構成(リンクレイヤ信号処理部52の構成)について説明する。
【0288】
リンクレイヤ信号処理部52には、リンクレイヤの構成として、LINK-RXプロトコル管理部221、レーン統合部222、パケット分離部223、ペイロードエラー訂正部224、およびByte to Pixel変換部225が設けられる。LINK-RXプロトコル管理部221は、状態制御部231、ヘッダエラー訂正部232、データ除去部233、およびフッタエラー検出部234から構成される。
【0289】
レーン統合部222は、物理レイヤの信号処理部202-0乃至202-Nから供給されたパケットデータを、送信部22のレーン分配部155による各レーンへの分配順と逆順で並び替えることによって統合する。
【0290】
例えば、レーン分配部155によるパケットデータの分配が
図30の矢印#1の先に示すようにして行われている場合、各レーンのパケットデータの統合が行われることによって
図30の左側のパケットデータが取得される。各レーンのパケットデータの統合時、データ除去部233による制御に従って、レーンスタッフィングデータがレーン統合部222により除去される。レーン統合部222は、統合したパケットデータをパケット分離部223に出力する。
【0291】
パケット分離部223は、レーン統合部222により統合された1パケット分のパケットデータを、ヘッダデータを構成するパケットデータとペイロードデータを構成するパケットデータに分離する。パケット分離部223は、ヘッダデータをヘッダエラー訂正部232に出力し、ペイロードデータをペイロードエラー訂正部224に出力する。
【0292】
また、パケット分離部223は、パケットにフッタが含まれている場合、1パケット分のデータを、ヘッダデータを構成するパケットデータとペイロードデータを構成するパケットデータとフッタデータを構成するパケットデータに分離する。パケット分離部223は、ヘッダデータをヘッダエラー訂正部232に出力し、ペイロードデータをペイロードエラー訂正部224に出力する。また、パケット分離部223は、フッタデータをフッタエラー検出部234に出力する。
【0293】
ペイロードエラー訂正部224は、パケット分離部223から供給されたペイロードデータにパリティが挿入されている場合、パリティに基づいて誤り訂正演算を行うことによってペイロードデータのエラーを検出し、検出したエラーの訂正を行う。例えば、
図26に示すようにしてパリティが挿入されている場合、ペイロードエラー訂正部224は、1つ目のBasic Blockの最後に挿入されている2つのパリティを用いて、パリティの前にある224個の画素データの誤り訂正を行う。
【0294】
ペイロードエラー訂正部224は、各Basic Block, Extra Blockを対象として誤り訂正を行うことによって得られた誤り訂正後の画素データをByte to Pixel変換部225に出力する。パケット分離部223から供給されたペイロードデータにパリティが挿入されていない場合、パケット分離部223から供給されたペイロードデータはそのままByte to Pixel変換部225に出力される。
【0295】
Byte to Pixel変換部225は、ペイロードエラー訂正部224から供給されたペイロードデータに含まれるペイロードスタッフィングデータをデータ除去部233による制御に従って除去する。
【0296】
また、Byte to Pixel変換部225は、ペイロードスタッフィングデータを除去して得られたバイト単位の各画素データを、8ビット、10ビット、12ビット、14ビット、または16ビット単位の画素データに変換するByte to Pixel変換を行う。Byte to Pixel変換部225においては、送信部22のPixel to Byte変換部152によるPixel to Byte変換と逆の変換が行われる。
【0297】
Byte to Pixel変換部225は、Byte to Pixel変換によって得られた8ビット、10ビット、12ビット、14ビット、または16ビット単位の画素データをアプリケーションレイヤ処理部53に出力する。アプリケーションレイヤ処理部53においては、例えば、ヘッダ情報のLine Validにより特定される有効画素の各ラインがByte to Pixel変換部225により得られた画素データに基づいて生成され、ヘッダ情報のLine Numberに従って各ラインが並べられることによって1フレームの画像を含むフレームデータが生成される。
【0298】
LINK-RXプロトコル管理部221の状態制御部231は、受信部31のリンクレイヤの状態を管理する。
【0299】
ヘッダエラー訂正部232は、パケット分離部223から供給されたヘッダデータに基づいてヘッダ情報とCRC符号の組を取得する。ヘッダエラー訂正部232は、ヘッダ情報とCRC符号の各組を対象として、ヘッダ情報のエラーを検出するための演算である誤り検出演算を行い、誤り検出後のヘッダ情報を出力する。
【0300】
データ除去部233は、レーン統合部222を制御してレーンスタッフィングデータを除去し、Byte to Pixel変換部225を制御してペイロードスタッフィングデータを除去する。
【0301】
フッタエラー検出部234は、パケット分離部223から供給されたフッタデータに基づいて、フッタに格納されたCRC符号を取得する。フッタエラー検出部234は、取得したCRC符号を用いて誤り検出演算を行い、ペイロードデータのエラーを検出する。フッタエラー検出部234は、誤り検出結果を出力する。
【0302】
イメージセンサ11を構成する送信部22のリンクレイヤ信号処理部42、物理レイヤ信号処理部43と、DSP12を構成する受信部31の物理レイヤ信号処理部51、リンクレイヤ信号処理部52においては、それぞれ以上の処理が行われる。
【0303】
<<適用例>>
<汎用のイメージセンサへの適用>
イメージセンサ11が汎用のイメージセンサである場合、イメージセンサ11を搭載する製品に応じて、機能安全動作とセキュリティ動作のそれぞれの要・不要が変わる。フレームフォーマットとして、機能安全動作とセキュリティ動作のオン/オフを設定しやすいフォーマットが求められる。
【0304】
・機能安全動作とセキュリティ動作のオン/オフのためのフォーマット1
図34は、MAC演算の対象範囲の例を示す図である。
【0305】
図34には、
図19を参照して説明したフレームフォーマットを用いた場合のMAC演算の対象範囲が示されている。他のフレームフォーマットを用いた場合も同様である。
【0306】
図34の右側に示すように、MAC演算の対象となる範囲は、セキュリティ関連情報が配置されたラインを含む矢印A1で示す範囲と、EBD1が配置されたラインから、EBD2が配置されたラインまでの矢印A2で示す範囲として設定される。この場合、機能安全情報は、MAC値を用いた認証の対象外の情報となる。
【0307】
MAC演算の対象となる範囲が同じであるから、矢印A3に示すように、機能安全動作がオンの場合でもオフの場合でも、同じ値がMAC演算により求められることになる。機能安全動作がオンの場合でもオフの場合でも同じMAC値を認証に用いることができるから、MAC演算の対象を
図34に示すように設定しておくことにより、機能安全動作のオン/オフに対応可能となる。
【0308】
図35は、CRC演算の対象範囲の例を示す図である。
【0309】
図35の右側に示すように、CRC演算の対象となる範囲は、機能安全関連情報が配置されたラインから、EBD2が配置されたラインまでの矢印A11で示す範囲として設定される。この場合、セキュリティ情報は、CRC値を用いたエラー検出の対象外の情報となる。
【0310】
CRC演算の対象となる範囲が同じであるから、矢印A12に示すように、セキュリティ動作がオンの場合でもオフの場合でも、同じ値がCRC演算により求められることになる。セキュリティ動作がオンの場合でもオフの場合でも同じCRC値をエラー検出に用いることができるから、CRC演算の対象を
図35に示すように設定しておくことにより、セキュリティ動作のオン/オフに対応可能となる。
【0311】
・機能安全動作とセキュリティ動作のオン/オフのためのフォーマット2
図36は、MAC演算とCRC演算の対象範囲の例を示す図である。
【0312】
図36の中央に示すように、MAC演算の対象となる範囲は、セキュリティ関連情報が配置されたラインを含む矢印A21で示す範囲と、機能安全関連情報が配置されたラインから、出力データ機能安全情報が配置されたラインまでの矢印A22で示す範囲として設定される。この場合、機能安全情報は、MAC値を用いた認証の対象の情報となる。
【0313】
DSP12のアプリケーションレイヤ処理部53においては、実線Lで囲んで示すように、機能安全関連情報が配置されたラインをEBD1のラインとみなして、EBD1に対する処理と同様の処理が行われる。機能安全動作のオン/オフに応じて、EBDのラインの増減にアプリケーションレイヤ処理部53が対応することになる。
【0314】
例えば、機能安全動作がオンである場合、アプリケーションレイヤ処理部53は、機能安全関連情報が配置されたラインをEBD1のラインとみなして、機能安全関連情報が配置されたラインを演算対象に含めてMAC演算を行う。また、機能安全動作がオフである場合、アプリケーションレイヤ処理部53は、EBD1のライン以降を演算対象に含めてMAC演算処理を行う。
【0315】
どの範囲をMAC演算の対象とするのかをイメージセンサ11が選択できるようにしてもよい。
【0316】
図36の例においては機能安全情報がMAC値を用いた認証の対象となっているが、反対に、セキュリティ情報がCRC値を用いたエラー検出の対象となるようにしてもよい。
【0317】
・オン/オフの設定例
機能安全動作とセキュリティ動作のそれぞれのオン/オフは、例えばイメージセンサ11を搭載する製品の製造時に設定される。
【0318】
図37は、機能安全動作とセキュリティ動作のオン/オフの切り替え機能を有するアプリケーションレイヤ処理部41の構成例を示すブロック図である。
図37に示す構成のうち、上述した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。なお、EBD生成部103の図示が省略されている。
【0319】
図37に示すアプリケーションレイヤ処理部41には、上述した構成の他に、制御部121とFuse122が設けられる。
【0320】
制御部121は、I2C、SPIなどの通信IFを介して、外部の装置との間で通信を行う。制御部121は、外部の装置から送信されてきた設定情報を受信し、Fuse122に出力する。設定情報は、Fuse122の設定内容を示す情報である。
【0321】
Fuse122は、OTP(One Time Programmable)機能を有する回路である。Fuse122は、制御部121から供給された設定情報に基づいて、機能安全動作とセキュリティ動作のオン/オフを含む各種の設定に関する情報を出力する。
【0322】
Fuse122から関連情報生成部101と機能安全・セキュリティ付加情報生成部104に対しては、機能安全動作とセキュリティ動作のオン/オフの設定内容を示す情報が供給される。また、Fuse122からリンクレイヤ信号処理部42(フォーマット生成部)に対しては、フレームフォーマットの種類を指定する情報、機能安全情報のラインとセキュリティ情報のラインのオン/オフを指定する情報、ヘッダ情報の値を指定する情報が供給される。
【0323】
このように、機能安全動作とセキュリティ動作のオン/オフは、例えばFuse122を用いて設定される。
【0324】
上述したように、機能安全動作とセキュリティ動作のそれぞれの要・不要は、イメージセンサ11を搭載する製品に応じて異なり、それぞれに対応した製品を製造するとコストがかかる。機能安全動作とセキュリティ動作のオン/オフをFuse122を用いて設定できるようにすることにより、それぞれに対応した異なる製品を製造する場合に較べてコストを抑えることができる。
【0325】
また、機能安全動作とセキュリティ動作のオン/オフをレジスタ等を用いて任意のタイミングで設定できるとした場合、機能安全やセキュリティに問題がある。機能安全動作とセキュリティ動作のオン/オフをFuse122を用いて例えば製造時にのみ設定できるようにすることにより、そのような問題を解消することが可能となる。
【0326】
機能安全動作がオンであり、セキュリティ動作がオフである場合、出力データとなる1フレームの画像データに対して機能安全情報を付加したフレームデータが生成される。一方、機能安全動作がオフであり、セキュリティ動作がオンである場合、出力データとなる1フレームの画像データに対してセキュリティ情報を付加したフレームデータが生成される。アプリケーションレイヤ処理部41は、セキュリティ情報と機能安全情報のうちの少なくともいずれかを1フレームの画像データに付加したフレームデータを生成する生成部として機能することになる。
【0327】
<他の通信規格への適用>
SLVS-ECのデータ伝送におけるフレームフォーマットについて説明したが、上述した技術は、フレーム単位のデータ伝送を行う他の通信IFにも適用可能である。
【0328】
・MIPI(Mobile Industry Processor Interface)への適用例
MIPIのパケットヘッダの0x30-0x37の領域には、User Defineという、用途を製品毎に決めることができるDT(Data Type)領域が用意される。0x30-0x37の下位3bitが、EBD Line、Safety Info、Security Infoとして用いられる。
【0329】
例えば、パケットに格納されたデータが、EBDが配置されたラインのデータであることは、0x12の下位3ビットを用いて表される(MIPIの仕様)。
【0330】
パケットに格納されたデータが、セキュリティ関連情報が配置されたラインのデータであることは、0x35の下位3ビットを用いて表される。パケットに格納されたデータが、機能安全関連情報が配置されたラインのデータであることは、0x36の下位3ビットを用いて表される。
【0331】
同様に、パケットに格納されたデータが、出力データセキュリティ情報が配置されたラインのデータであることは、0x31の下位3ビットを用いて表される。パケットに格納されたデータが、出力データ機能安全情報が配置されたラインのデータであることは、0x32の下位3ビットを用いて表される。
【0332】
図38は、DT領域の値の例を示す図である。
図38には、
図18を参照して説明したフレームフォーマットが示されている。
【0333】
セキュリティ関連情報と出力データセキュリティ情報に含まれる情報の一部とが配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[1, 0, 1]は、0x35を用いて表される。機能安全関連情報と出力データ機能安全情報に含まれる情報の一部とが配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[1, 1, 0]は、0x36を用いて表される。
【0334】
EBD1が配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[1, 0, 0]は、0x12を用いて表される。EBD2が配置されたラインのデータであることについても、同様に0x12を用いて表される。
【0335】
出力データ機能安全情報が配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[0, 1, 0]は、0x32を用いて表される。出力データセキュリティ情報が配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[0, 0, 1]は、0x31を用いて表される。
【0336】
図39は、DT領域の値の他の例を示す図である。
図39には、
図19を参照して説明したフレームフォーマットが示されている。
図38の説明と重複する説明については省略する。
【0337】
機能安全関連情報とセキュリティ関連情報の共通情報を含むEBDが配置されたラインのデータであることを示す[EBD Line, Safety Info, Security Info]=[1, 1, 1]は、0x37を用いて表される。
【0338】
user defineを他の種類の処理にも使用する場合などにDT領域の情報が足りなくなることが想定される。その対策として、Reserveのbitなどの他のビットが用いられるようにしてもよいし、使用するDT領域が制限されるようにしてもよい。使用するDT領域が制限される場合、例えば、同じDT領域を用いて、セキュリティ関連情報が配置されたラインのデータと出力データセキュリティ情報が配置されたラインのデータであることが示される。
【0339】
機能安全情報・セキュリティ情報がEBDに含まれており、それらの情報の配置位置が仕様として決められている場合、機能安全情報・セキュリティ情報が含まれていることが、EBDに割り当てられた0x12を用いて表されるようにしてもよい。
【0340】
・SLVS/SubLVDSへの適用例
SLVSとSubLVDSにおいては、各ラインのデータの種類を示す情報を含むパケットヘッダなどのフォーマットが定義されていない。各ラインのデータの種類を示す3bitのライン情報を、各ラインに配置されたデータの先頭に付加することにより、EBD Line、Safety Info、Security Infoと同様の情報が伝送されるようにしてもよい。
【0341】
図40は、SLVS/SubLVDSのデータの伝送タイミングの例を示す図である。
【0342】
図40に示すように、セキュリティ関連情報、機能安全関連情報、出力データ機能安全情報、出力データセキュリティ情報が配置されたラインが用意される。ハッチを付して示すように、各ラインの先頭には、各ラインのデータの種類を示すライン情報が付加される。
【0343】
このように、SLVS-ECだけでなく、MIPI、SLVS、SubLVDSなどの、通信IFの他の規格に上述した技術を適用することが可能である。
【0344】
図41は、イメージセンサ11の構成例を示すブロック図である。
【0345】
図41に示すイメージセンサ11は、データ伝送に使用する通信IFをMIPI、SLVS-EC、SubLVDSの中から選択可能なイメージセンサである。この場合、MIPIに対応した信号処理部、SLVS-ECに対応した信号処理部、SubLVDSに対応した信号処理部がそれぞれ設けられる。
【0346】
MIPI リンクレイヤ信号処理部42-1、SLVS-EC リンクレイヤ信号処理部42-2、SubLVDS リンクレイヤ信号処理部42-3は、それぞれ、アプリケーションレイヤ処理部41から供給されたデータに対して、MIPI、SLVS-EC、SubLVDSのリンクレイヤの信号処理を行う。なお、SubLVDS リンクレイヤ信号処理部42-3にはライン情報の生成部も設けられる。
【0347】
MIPI 物理レイヤ信号処理部43-1、SLVS-EC 物理レイヤ信号処理部43-2、SubLVDS 物理レイヤ信号処理部43-3は、それぞれ、前段でのリンクレイヤの信号処理結果のデータに対して、MIPI、SLVS-EC、SubLVDSの物理レイヤの信号処理を行う。
【0348】
選択部44は、MIPI 物理レイヤ信号処理部43-1乃至SubLVDS 物理レイヤ信号処理部43-3から供給されたデータのうち、所定の規格のデータを選択し、DSP12に送信する。
【0349】
各ラインに配置されたデータの種類を上述したようにしてアプリケーションレイヤにおいて指定できるようにすることにより、通信IFの規格の違いを意識することなく、リンクレイヤの信号処理、物理レイヤの信号処理をイメージセンサ11とDSP12は行うことができる。
【0350】
図41にはイメージセンサ11側の構成しか示されていないが、DSP12側には
図11等を参照して説明した構成と同じ構成が設けられる。Host側がFPGA(Field Programmable Gate Array)を用いて実現される場合においても、FPGAがどの規格の通信IFに対応しているかに関わらず、処理の設計が容易となる。
【0351】
<その他>
・長畜画像と短畜画像の出力の例
イメージセンサ11の撮像モードとして、長畜画像と短畜画像を撮像するモードがある。長畜画像は、長い露光時間で撮像して得られた画像である。短畜画像は、長畜画像の露光時間より短い露光時間で撮像して得られた画像である。長畜画像と短畜画像のSLVS-ECによる伝送は、例えば、長畜画像の1ラインのデータと短畜画像の1ラインのデータを、上方のラインから交互に伝送するようにして行われる。
【0352】
図42は、長畜画像と短畜画像の伝送に用いられるヘッダ情報の例を示す図である。
【0353】
図42の左側は、長畜画像の各ラインのデータを格納するパケットに付加されるパケットヘッダのヘッダ情報を示す。右側は、短畜画像の各ラインのデータを格納するパケットに付加されるパケットヘッダのヘッダ情報を示す。
【0354】
図42に示すように、ビット[45]のData ID(
図12)は長畜画像と短畜画像の識別に用いられる。ビット[45]の値が1であることは、パケットに格納されたデータが短畜画像のデータであることを示し、0であることは、パケットに格納されたデータが長畜画像のデータであることを示す。長蓄画像のラインと短蓄画像のラインを交互に伝送する場合に、各ラインの内容がヘッダ情報によって区別される。ライン単位で交互に伝送される場合でも、フレームとしては別のフレームとして扱われることになる。
【0355】
ビット[47]のEBD Line、ビット[17]のSafety Info、ビット[16]のSecurity Infoのそれぞれに設定される値は上述した値と同じである。
【0356】
このように、長畜画像と短畜画像を伝送する場合においても、SLVS-ECの規格に準拠した形で機能安全情報とセキュリティ情報を送信することが可能となる。
【0357】
イメージセンサ11による撮像によって得られた画像データを出力データとしてフレームデータが生成され、DSP12に対して送信されるものとしたが、フレーム単位の他の種類のデータが出力データとして用いられるようにしてもよい。例えば、被写体の各位置までの距離を各画素の画素値とする距離画像を出力データとして用いることが可能である。
【0358】
・コンピュータの構成例
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0359】
図43は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0360】
CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003は、バス1004により相互に接続されている。
【0361】
バス1004には、さらに、入出力インタフェース1005が接続されている。入出力インタフェース1005には、キーボード、マウスなどよりなる入力部1006、ディスプレイ、スピーカなどよりなる出力部1007が接続される。また、入出力インタフェース1005には、ハードディスクや不揮発性のメモリなどよりなる記憶部1008、ネットワークインタフェースなどよりなる通信部1009、リムーバブルメディア1011を駆動するドライブ1010が接続される。
【0362】
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを入出力インタフェース1005及びバス1004を介してRAM1003にロードして実行することにより、上述した一連の処理が行われる。
【0363】
CPU1001が実行するプログラムは、例えばリムーバブルメディア1011に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部1008にインストールされる。
【0364】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0365】
本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
【0366】
本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【0367】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0368】
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0369】
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0370】
・構成の組み合わせ例
本技術は、以下のような構成をとることもできる。
【0371】
(1)
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成する生成部と、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する信号処理部と
を備える送信装置。
(2)
前記生成部は、前記センサのセキュリティの実現に用いられる情報であるセキュリティ関連情報と、前記出力データのセキュリティの実現に用いられる情報である出力データセキュリティ情報を含む前記セキュリティ情報を生成し、前記センサの機能安全の実現に用いられる情報である機能安全関連情報と、前記出力データの機能安全の実現に用いられる情報である出力データ機能安全情報を含む前記機能安全情報を生成する
前記(1)に記載の送信装置。
(3)
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報が前記出力データの前に配置され、前記出力データセキュリティ情報と前記出力データ機能安全情報が前記出力データの後に配置されたフォーマットを有する前記フレームデータを生成する
前記(2)に記載の送信装置。
(4)
前記生成部は、前記セキュリティ関連情報が配置されたラインの次のラインに前記機能安全関連情報が配置され、前記出力データ機能安全情報が配置されたラインの次のラインに前記出力データセキュリティ情報が配置された前記フレームデータを生成する
前記(3)に記載の送信装置。
(5)
前記生成部は、前記出力データセキュリティ情報の一部の情報が、前記セキュリティ関連情報とともに前記出力データの前の同じラインに配置され、前記出力データ機能安全情報の一部の情報が、前記機能安全関連情報とともに前記出力データの前の同じラインに配置された前記フレームデータを生成する
前記(2)乃至(4)のいずれかに記載の送信装置。
(6)
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報に共通する一部の情報がEmbeddedデータとして前記出力データの前のラインに配置された前記フレームデータを生成する
前記(2)乃至(5)のいずれかに記載の送信装置。
(7)
前記生成部は、前記セキュリティ関連情報と前記機能安全関連情報がEmbeddedデータとして前記出力データの前のラインに配置された前記フレームデータを生成する
前記(2)または(3)に記載の送信装置。
(8)
前記生成部は、前記フレームデータのフォーマットの種類を示す情報を含むEmbeddedデータのラインが、前記セキュリティ関連情報が配置されたラインの前に配置された前記フレームデータを生成する
前記(2)乃至(5)のいずれかに記載の送信装置。
(9)
前記信号処理部は、前記パケットに格納されたデータが前記セキュリティ情報が配置されたラインのデータであるか否かを示す第1のフラグと、前記パケットに格納されたデータが前記機能安全情報が配置されたラインのデータであるか否かを示す第2のフラグとを含むパケットヘッダを付加した前記パケットを生成する
前記(2)乃至(8)のいずれかに記載の送信装置。
(10)
前記信号処理部は、前記セキュリティ関連情報または前記機能安全関連情報が配置されたラインのデータを格納する前記パケットに対して、Embeddedデータが配置されたラインのデータであることを示す値が設定された第3のフラグを含む前記パケットヘッダを付加する
前記(9)に記載の送信装置。
(11)
前記出力データセキュリティ情報としての認証用情報と、前記出力データ機能安全情報としての誤り検出用情報を前記出力データに基づいて生成する付加情報生成部をさらに備える
前記(2)乃至(10)のいずれかに記載の送信装置。
(12)
前記出力データは、前記センサによる撮像によって得られた1フレームの画像データである
前記(1)乃至(11)のいずれかに記載の送信装置。
(13)
送信装置が、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成し、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する
送信方法。
(14)
コンピュータに、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成し、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する
処理を実行させるプログラム。
(15)
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信する信号処理部と、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う情報処理部と
を備える受信装置。
(16)
前記信号処理部は、前記センサのセキュリティの実現に用いられる情報であるセキュリティ関連情報と、前記出力データのセキュリティの実現に用いられる情報である出力データセキュリティ情報を前記セキュリティ情報として含む前記パケットを受信し、前記センサの機能安全の実現に用いられる情報である機能安全関連情報と、前記出力データの機能安全の実現に用いられる情報である出力データ機能安全情報を前記機能安全情報として含む前記パケットを受信する
前記(15)に記載の受信装置。
(17)
パケットヘッダに含まれる、前記パケットに格納されたデータが前記セキュリティ情報が配置されたラインのデータであるか否かを示す第1のフラグと、前記パケットに格納されたデータが前記機能安全情報が配置されたラインのデータであるか否かを示す第2のフラグとに基づいて、前記パケットに格納されているデータを識別する識別部をさらに備える
前記(15)または(16)に記載の受信装置。
(18)
受信装置が、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信し、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う
受信方法。
(19)
コンピュータに、
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかが、センサが出力するフレーム単位の出力データに付加されたフレームデータを構成する各ラインのデータを格納したパケットを受信し、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う
処理を実行させるプログラム。
(20)
セキュリティの実現に用いられる情報であるセキュリティ情報と、機能安全の実現に用いられる情報である機能安全情報とのうちの少なくともいずれかを、センサが出力するフレーム単位の出力データに付加することによってフレームデータを生成する生成部と、
前記フレームデータを構成する各ラインのデータを各パケットに格納し、送信する信号処理部と
を備える送信装置と、
前記パケットを受信する信号処理部と、
セキュリティを実現する処理を前記セキュリティ情報に基づいて行い、機能安全を実現する処理を前記機能安全情報に基づいて行う情報処理部と
を備える受信装置と
を含む伝送システム。
【符号の説明】
【0372】
1 伝送システム, 11 イメージセンサ, 12 DSP, 21 撮像部, 22 送信部, 31 受信部, 32 画像処理部, 41 アプリケーションレイヤ処理部, 42 リンクレイヤ信号処理部, 43 物理レイヤ信号処理部, 51 物理レイヤ信号処理部, 52 リンクレイヤ信号処理部, 53 アプリケーションレイヤ処理部