(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024145997
(43)【公開日】2024-10-15
(54)【発明の名称】受信装置、送信装置、通信システム、受信方法、送信方法、および、通信方法
(51)【国際特許分類】
G09G 5/00 20060101AFI20241004BHJP
H04N 21/234 20110101ALI20241004BHJP
H04N 21/44 20110101ALI20241004BHJP
G09G 5/02 20060101ALI20241004BHJP
G09G 5/10 20060101ALI20241004BHJP
G09G 5/37 20060101ALI20241004BHJP
【FI】
G09G5/00 530M
H04N21/234
H04N21/44
G09G5/00 555D
G09G5/00 555G
G09G5/00 555A
G09G5/02 B
G09G5/10 B
G09G5/37 100
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023058651
(22)【出願日】2023-03-31
(71)【出願人】
【識別番号】500112146
【氏名又は名称】サイレックス・テクノロジー株式会社
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(72)【発明者】
【氏名】奥間 啓二
【テーマコード(参考)】
5C164
5C182
【Fターム(参考)】
5C164SB01P
5C164UB01P
5C182AC43
5C182BA03
5C182BA06
5C182BA14
5C182BC01
5C182BC22
5C182BC25
5C182BC26
5C182BC29
5C182BC43
5C182CA01
5C182CA12
5C182CA22
5C182CA36
5C182CB52
5C182DA04
5C182DA14
(57)【要約】
【課題】ネットワークを通じて伝送される画像の表示における遅延を抑制する。
【解決手段】受信装置20は、ベイヤ配列画像データであるRAW画像データがプレーンごとに分離された、複数の分離画像データを受信する受信部21と、バッファ231を有する表示制御部23であって、受信部21が受信した複数の分離画像データを含む画像データをバッファ231に格納し、格納した画像データをバッファ231から取り出して表示装置へ出力する表示制御部23と、バッファ231に格納されている画像データに含まれる複数の分離画像データを合成する合成処理と、合成処理により生成されたRAW画像データからRGB画像データへの変換処理とを含む画像処理を行う画像処理部24とを備える。
【選択図】
図3
【特許請求の範囲】
【請求項1】
ベイヤ配列画像データであるRAW画像データがプレーンごとに分離された、複数の分離画像データを受信する受信部と、
バッファを有する表示制御部であって、前記受信部が受信した前記複数の分離画像データを含む画像データを前記バッファに格納し、格納した前記画像データを前記バッファから取り出して表示装置へ出力する表示制御部と、
前記バッファに格納されている前記画像データに含まれる前記複数の分離画像データを合成する合成処理と、前記合成処理により生成された前記RAW画像データからRGB画像データへの変換処理とを含む画像処理を行う画像処理部とを備える
受信装置。
【請求項2】
前記受信装置は、
前記受信部が受信した前記複数の分離画像データに対して伸張処理を行う伸張部を備え、
前記表示制御部は、
前記伸張部によって前記伸張処理が施された前記複数の分離画像データを含む前記画像データを前記バッファに格納する
請求項1に記載の受信装置。
【請求項3】
前記画像処理は、さらに、
前記RGB画像データに対するブラックレベル調整処理、ガンマ補正処理およびカラーマトリクス変換処理の少なくとも1つを含む
請求項1に記載の受信装置。
【請求項4】
各画素に所定色の画素値のみが設定された、ベイヤ配列画像データであるRAW画像データを取得する取得部と、
前記取得部が取得した前記RAW画像データをプレーンごとに分離することで複数の分離画像データを生成する分離部と、
前記分離部が生成した前記複数の分離画像データを受信装置へ送信する送信部とを備える
送信装置。
【請求項5】
前記送信装置は、さらに、
前記分離部が生成した前記複数の分離画像データに対して圧縮処理を行う圧縮部を備え、
前記送信部は、
前記圧縮部によって前記圧縮処理が施された前記複数の分離画像データを前記受信装置へ送信する
請求項4に記載の送信装置。
【請求項6】
前記取得部は、カメラが繰り返し撮影することで生成した複数のRAW画像データに含まれる一のRAW画像データを順次に、前記RAW画像データとして取得する
請求項4に記載の送信装置。
【請求項7】
請求項4に記載の送信装置と、
請求項1に記載の受信装置とを備え、
前記受信装置は、前記送信装置が送信した前記複数の分離画像データを受信する
通信システム。
【請求項8】
ベイヤ配列画像データであるRAW画像データがプレーンごとに分離された、複数の分離画像データを受信する受信ステップと、
前記受信ステップが受信した前記複数の分離画像データを含む画像データをバッファに格納し、格納した前記画像データを前記バッファから取り出して表示装置へ出力する表示制御ステップと、
前記バッファに格納されている前記画像データに含まれる前記複数の分離画像データを合成する合成処理と、前記合成処理により生成された前記RAW画像データからRGB画像データへの変換処理とを含む画像処理を行う画像処理ステップとを含む
受信方法。
【請求項9】
各画素に所定色の画素値のみが設定された、ベイヤ配列画像データであるRAW画像データを取得する取得ステップと、
前記取得ステップで取得した前記RAW画像データをプレーンごとに分離することで複数の分離画像データを生成する分離ステップと、
前記分離ステップで生成した前記複数の分離画像データを受信装置へ送信する送信ステップとを含む
送信方法。
【請求項10】
請求項9に記載の送信方法と、
請求項8に記載の受信方法とを含み、
前記受信方法の前記受信ステップでは、前記送信方法の前記送信ステップで送信した前記複数の分離画像データを受信する
通信方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、受信装置、送信装置、通信システム、受信方法、送信方法、および、通信方法に関する。
【背景技術】
【0002】
高解像度の映像をネットワークを通じて低遅延で伝送する技術がある。
【0003】
例えば、特許文献1には、外部装置からの映像信号を、ネットワークを介して送信する送信機が示されている。
【先行技術文献】
【特許文献】
【0004】
【非特許文献】
【0005】
【非特許文献1】ITU-R BT.601、International Telecommunication Union
【非特許文献2】ITU-R BT.709、International Telecommunication Union
【発明の概要】
【発明が解決しようとする課題】
【0006】
カメラが対象物を撮影することにより生成した画像データをネットワークを介して伝送して表示する場合、画像データに対してさまざまな画像処理が施される。画像処理には、一般に、複雑な演算が多く含まれるので、画像処理には比較的長い時間を要する。そのため、カメラが対象物を撮影してからその画像データがネットワークを通じて伝送され、表示されるまでに比較的長い時間を要し、言い換えれば、比較的大きな遅延が発生するという問題がある。このような大きな遅延が発生する要因の1つは、例えば、デジタルカメラなどで撮影された画像データをネットワークを介して伝送する場合、当該デジタルカメラのイメージセンサから出力されるRAW画像データに対して、レンズなど光学系の補正処理、または、イメージセンサのばらつき補正などを行う画像処理(ISP(Image Signal Processing)とも呼ばれる)が送信装置側で行われることである。
【0007】
本発明は、上記問題を解決するためになされたものであり、ネットワークを通じて伝送される画像の表示における遅延を抑制する受信装置、送信装置および通信システムなどを提供することを目的とする。
【課題を解決するための手段】
【0008】
以下、本明細書の開示内容から得られる発明を例示し、その発明から得られる効果等を説明する。
【0009】
(1)ベイヤ配列画像データであるRAW画像データがプレーンごとに分離された、複数の分離画像データを受信する受信部と、バッファを有する表示制御部であって、前記受信部が受信した前記複数の分離画像データを含む画像データを前記バッファに格納し、格納した前記画像データを前記バッファから取り出して表示装置へ出力する表示制御部と、前記バッファに格納されている前記画像データに含まれる前記複数の分離画像データを合成する合成処理と、前記合成処理により生成された前記RAW画像データからRGB画像データへの変換処理とを含む画像処理を行う画像処理部とを備える、受信装置。
【0010】
上記態様によれば、受信装置は、表示装置へ出力する前に画像データをバッファに格納してから、バッファに格納されている画像データに対して画像処理を行うので、画像データを受信してから表示するまでの時間に、専ら画像処理を行う時間が含まれない。そのため、受信装置は、画像データを受信してから表示するまでに専ら画像処理を行う時間を含む場合に比べて、画像データを受信してから表示するまでの時間を短くすることができる。さらに、受信装置は、画像データの表示にあたり表示装置と同期を取る必要があるが、表示装置へ出力する前に画像データをバッファに格納することで当該同期による待ち時間を吸収することができる。よって、受信装置は、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0011】
(2)前記受信装置は、前記受信部が受信した前記複数の分離画像データに対して伸張処理を行う伸張部を備え、前記表示制御部は、前記伸張部によって前記伸張処理が施された前記複数の分離画像データを含む前記画像データを前記バッファに格納する、(1)に記載の受信装置。
【0012】
上記態様によれば、受信装置は、RAW画像データがプレーンごとに分離された複数の分離画像データに対して伸張処理を行うので、伸張処理の対象であるデータ量が、RAW画像データのデータ量と同じである。例えば、仮に、RAW画像データに対してデモザイク処理がなされた後に伸張処理をするとすれば、伸張処理の対象であるデータ量が、RAW画像データのデータ量より多くなることがある。上記態様に係る受信装置は、伸張処理の対象であるデータ量を、RAW画像データのデータ量より多くすることなく維持することにより、ネットワークを通じて伝送される画像の表示における遅延の増大を抑制することができる。よって、受信装置は、ネットワークを通じて伝送される画像の表示における遅延を抑制することにさらに寄与する。
【0013】
(3)前記画像処理は、さらに、前記RGB画像データに対するブラックレベル調整処理、ガンマ補正処理およびカラーマトリクス変換処理の少なくとも1つを含む、(1)に記載の受信装置。
【0014】
上記態様によれば、受信装置は、RGB画像データに対するブラックレベル調整処理、ガンマ補正処理およびカラーマトリクス変換処理の少なくとも1つを含むので、より適切な画像を表示することができる。よって、受信装置は、ネットワークを通じて伝送される画像をより適切に表示しながら、その表示における遅延を抑制することができる。
【0015】
(4)各画素に所定色の画素値のみが設定された、ベイヤ配列画像データであるRAW画像データを取得する取得部と、前記取得部が取得した前記RAW画像データをプレーンごとに分離することで複数の分離画像データを生成する分離部と、前記分離部が生成した前記複数の分離画像データを受信装置へ送信する送信部とを備える、送信装置。
【0016】
上記態様によれば、送信装置は、取得したRAW画像データを分離した分離画像データを受信装置に送信するので、RAW画像データに対するデモザイク処理などの画像処理を行わない。言い換えれば、仮に、RAW画像データに対するデモザイク処理などの画像処理を行うとすれば、上記画像処理を行うための時間を経た後に画像データを送信することになり、言い換えれば、その画像データの撮影から送信までの時間に上記画像処理を行うための時間が含まれる。上記態様に係る送信装置は、RAW画像データに対するデモザイク処理などの画像処理を行わないので、画像データを早期に送信することができる。よって、送信装置は、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0017】
(5)前記送信装置は、さらに、前記分離部が生成した前記複数の分離画像データに対して圧縮処理を行う圧縮部を備え、前記送信部は、前記圧縮部によって前記圧縮処理が施された前記複数の分離画像データを前記受信装置へ送信する、(4)に記載の送信装置。
【0018】
上記態様によれば、送信装置は、RAW画像データがプレーンごとに分離された複数の分離画像データに対して圧縮処理を行うので、圧縮処理の対象であるデータ量が、RAW画像データのデータ量と同じである。例えば、仮に、RAW画像データに対してデモザイク処理がなされた後に圧縮処理をするとすれば、圧縮処理の対象であるデータ量が、RAW画像データのデータ量より多くなることがある。上記態様に係る送信装置は、圧縮処理の対象であるデータ量を、RAW画像データのデータ量より多くすることなく維持することにより、ネットワークを通じて伝送される画像の表示における遅延の増大を抑制することができる。よって、送信装置は、ネットワークを通じて伝送される画像の表示における遅延を抑制することにさらに寄与する。
【0019】
(6)前記取得部は、カメラが繰り返し撮影することで生成した複数のRAW画像データに含まれる一のRAW画像データを順次に、前記RAW画像データとして取得する、(4)に記載の送信装置。
【0020】
上記態様によれば、送信装置は、動画を構成する複数のRAW画像データを順次に取得することで、ネットワークを通じて伝送される動画の表示における遅延を抑制することができる。
【0021】
(7)(4)に記載の送信装置と、(1)に記載の受信装置とを備え、前記受信装置は、前記送信装置が送信した前記複数の分離画像データを受信する、通信システム。
【0022】
上記態様によれば、通信システムは、上記受信装置および上記送信装置と同様に、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0023】
(8)ベイヤ配列画像データであるRAW画像データがプレーンごとに分離された、複数の分離画像データを受信する受信ステップと、前記受信ステップが受信した前記複数の分離画像データを含む画像データをバッファに格納し、格納した前記画像データを前記バッファから取り出して表示装置へ出力する表示制御ステップと、前記バッファに格納されている前記画像データに含まれる前記複数の分離画像データを合成する合成処理と、前記合成処理により生成された前記RAW画像データからRGB画像データへの変換処理とを含む画像処理を行う画像処理ステップとを含む、受信方法。
【0024】
上記態様によれば、受信方法は、上記受信装置と同様の効果を奏する。
【0025】
(9)各画素に所定色の画素値のみが設定された、ベイヤ配列画像データであるRAW画像データを取得する取得ステップと、前記取得ステップで取得した前記RAW画像データをプレーンごとに分離することで複数の分離画像データを生成する分離ステップと、前記分離ステップで生成した前記複数の分離画像データを受信装置へ送信する送信ステップとを含む、送信方法。
【0026】
上記態様によれば、送信方法は、上記送信装置と同様の効果を奏する。
【0027】
(10)(9)に記載の送信方法と、(8)に記載の受信方法とを含み、前記受信方法の前記受信ステップでは、前記送信方法の前記送信ステップで送信した前記複数の分離画像データを受信する、通信方法。
【0028】
上記態様によれば、通信方法は、上記通信システムと同様の効果を奏する。
【0029】
なお、本発明は、装置として実現できるだけでなく、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを記録したコンピュータ読み取り可能なCD-ROMなどの記録媒体として実現したり、そのプログラムを示す情報、データ又は信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。
【発明の効果】
【0030】
本発明により、受信装置等は、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【図面の簡単な説明】
【0031】
【
図1】実施の形態に係る通信システムの構成を示す模式図である。
【
図2】実施の形態に係る送信装置の構成を示すブロック図である。
【
図3】実施の形態に係る受信装置の構成を示すブロック図である。
【
図4】実施の形態に係る送信装置の処理を示すフロー図である。
【
図5】実施の形態に係るベイヤ配列画像の例を示す説明図である。
【
図6】実施の形態に係る分離部が生成する分離画像データの例を示す説明図である。
【
図7】実施の形態に係る受信装置の処理を示すフロー図である。
【
図8】比較例に係る送信装置の構成を示すブロック図である。
【
図9】比較例に係る受信装置の構成を示すブロック図である。
【
図10】比較例に係る送信装置の処理を示すフロー図である。
【
図11】比較例に係る受信装置の処理を示すフロー図である。
【発明を実施するための形態】
【0032】
以下、実施の形態について、図面を参照しながら具体的に説明する。
【0033】
以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、より好ましい形態を構成する任意の構成要素として説明される。なお、同一の構成要素には同一の符号を付し、説明を省略する場合がある。
【0034】
(実施の形態)
本実施の形態において、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる受信装置、送信装置および通信システムなどについて説明する。
【0035】
図1は、本実施の形態に係る通信システム1の構成を示す模式図である。
【0036】
図1に示されるように、通信システム1は、送信装置10と受信装置20とを備える。
【0037】
送信装置10と受信装置20とは、ネットワークNを通じて通信可能に接続されている。ネットワークNは、広域のネットワーク(例えば、インターネット等)を含んでもよいし、ローカルエリアネットワーク(例えば、特定の地域内、または、特定の企業内のネットワーク等)を含んでもよい。また、ネットワークNは、有線ネットワークを含んでもよいし、無線ネットワークを含んでもよい。送信装置10と受信装置20とは、ネットワークNを通じて、例えばIP(Internet Protocol)による通信をすることができ、TCP(Transmission Control Protocol)またはUDP(User Datagram Protocol)による通信をすることができてもよい。
【0038】
送信装置10は、カメラ2と処理装置3とに接続されている。送信装置10は、カメラ2から提供された画像を受信装置20に送信するとともに、受信装置20から送信された操作情報を処理装置3に送信する。
【0039】
カメラ2は、周囲を撮影し、カメラ2の周囲の光景が撮影された画像データを生成する撮影装置である。カメラ2と送信装置10との接続は、映像伝送規格に従う接続であってもよいし、有線LANまたは無線LANの通信規格(例えばEthernet(登録商標)またはWi-Fi(登録商標)等)に従う接続であってもよい。ここで、映像伝送規格に従う接続は、例えば、モバイル機器または組み込み機器などで用いられるMIPI(Mobile Industry Processor Interface)規格、または、映像および音声などを1本のケーブルにまとめて送れるHDMI(登録商標)等であり得る。
【0040】
カメラ2は、生成した画像データを送信装置10に提供する。上記画像データは、送信装置10、ネットワークNおよび受信装置20を通じて表示装置5に送信され、表示される。なお、カメラ2が生成する画像データが動画の画像データである場合を例として説明するが、静止画の画像データであってもよい。動画の画像データは、時間的に連続して生成された静止画の画像データの集合である。カメラ2は、例えば、処理装置3がワークWに対する処理を行っている様子を動画として撮影して動画を構成する複数の画像データを生成し、送信装置10に提供する。
【0041】
処理装置3は、ワークWに対して処理を行う装置である。処理装置3がワークWに対して行う処理は、例えば、ワークWの移載、梱包または加工などを含み得る。処理装置3は、操作情報を受信した場合には、操作情報に従って動作することができる。操作情報は、例えば、ユーザUの入力に基づいて生成される操作情報である。処理装置3は、上記操作情報を操作装置6から、送信装置10、ネットワークNおよび受信装置20を介して受信することができる。
【0042】
受信装置20は、表示装置5と操作装置6とに接続されている。
【0043】
表示装置5は、画像を表示する表示装置である。表示装置5が表示する画像は、カメラ2が生成した画像データに係る画像であり、送信装置10、ネットワークNおよび受信装置20を介して表示装置5が受信して表示する。
【0044】
表示装置5と受信装置20との接続は、映像伝送規格(例えばMIPI等)に従う接続であってもよいし、有線LANまたは無線LANの通信規格(例えばEthernetまたはWi-Fi等)に従う接続であってもよい。
【0045】
操作装置6は、ユーザUによる操作を受け付ける装置である。操作装置6は、入力装置(例えばボタンまたはスティック型の入力装置等)を備える。操作装置6は、具体的には、上記画像を視認したユーザUが行う処理装置3に対する操作を受け付けて、上記操作の内容を示す操作情報を受信装置20に提供する。上記操作情報は、受信装置20、ネットワークNおよび送信装置10を通じて処理装置3に送信され、処理装置3の動作に用いられる。
【0046】
なお、通信システム1は、送信装置10と受信装置20とに加えて、カメラ2、処理装置3、表示装置5および操作装置6の少なくとも1つを備えて構成されてもよい。例えば、通信システム1は、送信装置10と受信装置20とに加えて、カメラ2および表示装置5を備えて構成されてもよい。この場合、通信システム1は、カメラ2が撮影により生成した画像をネットワークNを通じて伝送して表示装置5に表示させる画像伝送システムとして構成され得る。
【0047】
また、例えば、通信システム1は、送信装置10と受信装置20とに加えて、カメラ2、処理装置3、表示装置5および操作装置6の全部を備えて構成されてもよい。この場合、通信システム1は、カメラ2が撮影により生成した画像をネットワークNを通じて伝送して表示装置5に表示させながら、上記画像を視認したユーザUが行う処理装置3に対する操作を操作装置6により受け付けて、処理装置3の動作を制御する画像伝送システム(言い換えれば、遠隔制御システム)として構成され得る。なお、この場合、表示装置5および操作装置6が一体の装置として構成されてもよい。例えば、表示装置5および操作装置6が、画像を表示しつつ、ユーザUによる操作を受け付けることができる装置として構成されてもよい。上記装置は、例えばタッチパネル式のパーソナルコンピュータ端末により実現され得る。さらには、受信装置20も、後述する具体的な機能を損なうことなく、表示装置5および操作装置6と一体化されてもよい。
【0048】
以降では、送信装置10と受信装置20との画像データの送受信処理および画像処理について主に説明する。
【0049】
図2は、本実施の形態に係る送信装置10の構成を示すブロック図である。
【0050】
図2に示されるように、送信装置10は、取得部11と、分離部12と、圧縮部13と、送信部14とを備える。取得部11と、分離部12と、圧縮部13とは、送信装置10が備えるプロセッサ(例えばCPU(Central Processing Unit)等)がメモリを用いて所定のプログラムを実行することで実現される。
【0051】
取得部11は、カメラ2が撮影によって生成した画像データ(RAW画像データとよぶ)を取得する。RAW画像データは、各画素に所定色の画素値のみが設定された画像データであり、ベイヤ配列画像である。RAW画像データは、一般に、Raw image formatまたはRAWデータなどとも呼ばれる。RAW画像データに含まれる画素数は、例えば、横1280画素×縦720画素、または、横1920画素×縦1080画素などである。また、取得部11は、カメラ2の性能(または仕様)により定められるRGB特性データ(R(赤)、G(緑)、B(青)の割合を示す情報などを含む)を取得し、送信部14およびネットワークNを介して受信装置20に提供する。RGB特性データは、後述する受信装置20の画像処理部24で行う画像処理にて用いられ得る。
【0052】
取得部11は、カメラ2が繰り返し撮影することで生成した複数のRAW画像データ、つまり、動画を構成する複数のRAW画像データに含まれる一のRAW画像データを、順次に取得する。
【0053】
分離部12は、取得部11が取得したRAW画像データをプレーン(後述する)ごとに分離することで複数の画像データ(分離画像データともいう)を生成する分離処理を行う。
【0054】
圧縮部13は、分離部12が生成した複数の分離画像データに対して圧縮処理を行う。なお、圧縮部13は、必須の構成要素ではない。以降では、送信装置10が圧縮部13を備える場合を例として説明する。
【0055】
送信部14は、複数の分離画像データを、ネットワークNを介して受信装置20へ送信する。送信部14は、ネットワークNに接続可能である通信インタフェースを有し、通信インタフェースを用いて複数の分離画像データを受信装置20へ送信する。送信部14が送信する複数の分離画像データは、分離部12が生成した複数の分離画像データであって、圧縮部13により圧縮処理が施された複数の分離画像データである。なお、送信装置10が圧縮部13を備えない場合は、送信部14が送信する複数の分離画像データは、分離部12が生成した複数の分離画像データである。
【0056】
図3は、本実施の形態に係る受信装置20の構成を示すブロック図である。
【0057】
図3に示されるように、受信装置20は、受信部21と、伸張部22と、表示制御部23と、画像処理部24とを備える。
【0058】
受信部21は、複数の分離画像データを、送信装置10からネットワークNを介して受信する。受信部21は、ネットワークNに接続可能である通信インタフェースを有し、通信インタフェースを用いて複数の分離画像データを送信装置10から受信する。受信部21が受信する複数の分離画像データは、送信装置10により生成された複数の分離画像データであり、ベイヤ配列画像であるRAW画像データがプレーンごとに分離された、複数の分離画像データである。
【0059】
伸張部22は、受信部21が受信した複数の分離画像データに対して伸張処理を行う。なお、伸張部22は、必須の構成要素ではない。伸張部22は、送信装置10が圧縮部13を備えている場合に必要であり、そうでない場合には不要である。
【0060】
表示制御部23は、画像データを表示装置5に出力する制御をする。表示制御部23は、バッファ231を有する。表示制御部23は、受信部21が受信した複数の分離画像データを含む画像データをバッファ231に格納する。また、表示制御部23は、格納した画像データをバッファ231から取り出して表示装置5へ出力する。なお、バッファ231は、DRAM(Dynamic Random Access Memory)などの揮発性記憶装置でもよいし、HDD(Hard Disk Drive)またはSSD(Solid State Drive)等の不揮発性記憶装置でもよい。
【0061】
画像処理部24は、バッファ231に格納されている画像データに対して画像処理を行う。画像処理部24が行う画像処理は、少なくとも、バッファ231に格納されている画像データに含まれる複数の分離画像データを合成する合成処理と、合成処理により生成されたRAW画像データからRGB画像データへの変換処理とを含む。RGB画像データは、当該画像データに含まれる画素の画素値が、赤、緑および青の各成分で示されている画像データである。
【0062】
言い換えれば、画像処理部24は、少なくとも、合成部241とデモザイク部242とを有する。
【0063】
合成部241は、表示制御部23が伸張処理を行った後の画像データに含まれる複数の分離画像データを合成する合成処理を行うことでRAW画像データを取得する。
【0064】
デモザイク部242は、合成部241が取得したRAW画像データに対してデモザイク処理を行う。デモザイク処理は、RAW画像データからRGB画像データへ変換する処理である。デモザイク処理では、RAW画像データにおける、赤、緑または青の画素値を有しない画素の当該画素値を、当該画素の周囲の画素の画素値から補間することで設定する。デモザイク処理は、周知のデモザイク処理と同様である。
【0065】
なお、画像処理部24は、さらに、ブラックレベル調整部243、ガンマ補正部244およびカラーマトリクス調整部245の少なくとも1つを有してもよい。
【0066】
ブラックレベル調整部243は、RGB画像データに対してブラックレベル調整処理を行う。ブラックレベル調整処理は、RGB画像データにおける所定の輝度値を黒(つまり、R=0、G=0、B=0)とするように、RGB画像データの画素値を調整する処理である。ブラックレベル調整処理は、周知のブラックレベル調整処理と同様である。
【0067】
ガンマ補正部244は、RGB画像データに対してガンマ補正処理を行う。ガンマ補正処理は、RGB画像データにおける輝度値を、輝度値ごとに所定の係数(いわゆるガンマカーブで示される、入力値に対する出力値の割合)を乗ずることで変換する処理である。ガンマ補正処理は、周知のガンマ補正処理と同様である。
【0068】
カラーマトリクス調整部245は、RGB画像データに対してカラーマトリクス調整処理を行う。カラーマトリクス調整処理は、RGB画像データの画像の全体的な色合いを調整するように、RGB画像データに含まれる画素の画素値を変換する処理である。カラーマトリクス調整処理は、周知のカラーマトリクス調整処理と同様である。
【0069】
なお、ブラックレベル調整部243によるブラックレベル調整処理、ガンマ補正部244によるガンマ補正処理、または、カラーマトリクス調整部245によるカラーマトリクス調整処理は、カメラ2のRGB特性データに基づいて、行われ得る。カメラ2のRGB特性データは、取得部11が取得し、ネットワークNを介して受信部21が受信したものであり得る。
【0070】
以降では、画像処理部24がブラックレベル調整部243、ガンマ補正部244およびカラーマトリクス調整部245の全部を有する場合を例として説明する。
【0071】
以上のように構成された通信システム1の処理について以降で説明する。
【0072】
図4は、本実施の形態に係る送信装置10の処理を示すフロー図である。
図5は、本実施の形態に係るベイヤ配列画像の例を示す説明図である。
図6は、本実施の形態に係る分離部12が生成する分離画像データの例を示す説明図である。
図4~
図6を参照しながら送信装置10の処理を説明する。
【0073】
ステップS101において、取得部11は、カメラ2からRAW画像データを取得する。RAW画像は、各画素に所定色の画素値のみが設定された画像である。RAW画像は、ベイヤ配列画像であり、その一例が
図5に示されている。
【0074】
図5には、取得部11がカメラ2から取得するRAW画像データのうちの横4画素×縦4画素のみが図示されている。
図5において、Rは赤色に対応する画素値を有する画素であり、Gは緑色に対応する画素値を有する画素であり、Bは青色に対応する画素値を有する画素である。
【0075】
図5に示されるように、ベイヤ配列画像では、横2画素×縦2画素の4画素を含む画素群Sを1単位とし、画素群Sのうちの左上の隅にRが含まれ、右上の隅と左下の隅とにGが含まれ、右下の隅にBが含まれている。
図5に示されるベイヤ配列画像は、「RGGB」と呼ばれる配置パターンである。なお、ベイヤ配列画像の他の例として、「GRBG」、「GBRG」または「BGGR」と呼ばれる配置パターンもあり、利用可能である。
【0076】
ステップS102において、分離部12は、ステップS101で取得部11が取得したRAW画像データをプレーンごとに分離することで、複数の分離画像データを生成する。プレーンは、ベイヤ配列画像に含まれる画素のうち、画素群Sにおける当該画素の相対位置が同じ画素により構成されている。分離画像データの例を
図6に示す。
【0077】
図6には、
図5に示されるベイヤ配列画像をプレーンごとに分離することで生成される4つの分離画像データが示されている。
【0078】
図6の(a)は、
図5の画素群Sの左上の隅のR画素信号を分離したプレーンを示している。同様に、(b)は、
図5の画素群Sの左上の隅のG画素信号を分離したプレーンを示しており、(c)は、
図5の画素群Sの左下の隅のG画素信号を分離したプレーンを示しており、(d)は、
図5の画素群Sの右下の隅のB画素信号を分離したプレーンを示している。
【0079】
なお、
図6において、ドット埋めで示される位置には画素データが存在しない。言い換えれば、
図5に示されるベイヤ配列画像に含まれる画素数と、
図6の(a)~(d)に示される分離画像データに含まれる画素数の合計とは、同じである。
【0080】
ステップS103において、圧縮部13は、ステップS102で分離部12が生成した複数の分離画像データをプレーンごとに圧縮する圧縮処理を行う。圧縮処理は、周知の画像圧縮規格(例えば、MPEGまたはMJPEG(Motion JPEG(Joint Photographic Experts Group))等)に従う圧縮処理によりなされ得る。以降でも同様とする。
【0081】
ステップS104において、送信部14は、ステップS103で圧縮部13が圧縮した分離画像データを受信装置20に送信する。送信部14は、例えば、上記分離画像データをIP(Internet Protocol)パケットに含めて受信装置20に送信する。
【0082】
図7は、本実施の形態に係る受信装置20の処理を示すフロー図である。受信装置20は、
図7の(a)に示される処理と、
図7の(b)に示される処理とを並行して実行する。
【0083】
まず、
図7の(a)の処理を説明する。
図7の(a)の処理は、受信装置20が送信装置10から分離画像データを受信するときに実行する一連の処理を示している。
【0084】
ステップS201において、受信部21は、複数の分離画像データを受信する。受信部21が受信する複数の分離画像データは、RAW画像データがプレーンごとに分離された複数の分離画像データであり、ステップS104(
図4参照)で送信装置10が送信した複数の分離画像データである。受信部21は、上記複数の分離画像データを受信するまで待機し、上記複数の分離画像データを受信したらステップS202に進む。
【0085】
ステップS202において、伸張部22は、ステップS201で受信部21が受信した上記複数の分離画像データを伸張する伸張処理を行う。伸張処理は、送信装置10が用いた画像圧縮規格(例えば、MPEGまたはMJPEG等)に従う伸張処理によりなされ得る。以降でも同様とする。伸張処理は、ステップS103で圧縮部13が行った圧縮処理と反対の処理であるといえる。
【0086】
ステップS203において、表示制御部23は、ステップS202で伸張部22が伸張処理を行った後の複数の分離画像データを含む画像データを、バッファ231に格納する。
【0087】
ステップS204において、画像処理部24は、ステップS203でバッファ231に格納された画像データに対して画像処理を行う。ステップS204において画像処理部24が行う画像処理を具体的に説明する。
【0088】
ステップS204において、合成部241は、表示制御部23が伸張処理を行った後の画像データに含まれる複数の分離画像データを合成する合成処理を行うことでRAW画像データを取得する。合成部241は、具体的には、
図6の(a)、(b)、(c)および(d)に示される4つの分離画像データを合成することで、
図5に示されるRAW画像データを取得する。合成処理は、分離部12が行った分離処理と反対の処理であるといえる。
【0089】
また、ステップS204において、デモザイク部242は、合成部241が取得したRAW画像データに対してデモザイク処理を行うことでRGB画像データを取得する。また、ブラックレベル調整部243は、RGB画像データに対してブラックレベル調整処理を行う。また、ガンマ補正部244は、RGB画像データに対してガンマ補正処理を行う。また、カラーマトリクス調整部245は、RGB画像データに対してカラーマトリクス調整処理を行う。
【0090】
受信装置20は、ステップS204の処理を終えたら、ステップS201に進んで処理を継続する。
【0091】
次に、
図7の(b)の処理を説明する。
図7の(b)の処理は、受信装置20が表示装置5に画像を表示させる処理を示している。
【0092】
ステップS211において、表示制御部23は、バッファ231に格納されているRGB画像データを取り出して表示装置5へ出力する。上記RGB画像データは、ステップS203でバッファ231に格納された後にステップS204で画像処理が施された画像データである。
【0093】
表示制御部23は、RGB画像データを表示装置5に出力する際には、表示装置5が表示画像を更新する速度(いわゆるリフレッシュレートであり、表示更新速度ともいう)で画像データを表示装置5に出力する。例えば、表示制御部23が表示装置5に出力する垂直同期信号に同期して、画像データを表示装置5に出力する。
【0094】
また、表示制御部23は、ステップS211を繰り返し実行する。これにより、表示制御部23は、バッファ231に格納されている画像データを、その画像データが格納された順番で順次に表示装置5に出力して表示させる。
【0095】
以降において、比較例に係る送信装置90および受信装置80について説明する。比較例では、送信装置90が画像処理を行った後の画像データを受信装置80に送信し、受信装置80が画像データに係る画像を表示する。言い換えれば、比較例に係る通信システムは、通信システム1における送信装置10に代えて送信装置90を用い、受信装置20に代えて受信装置80を用いる通信システムである。
【0096】
図8は、比較例に係る送信装置90の構成を示すブロック図である。
【0097】
図8に示されるように、送信装置90は、取得部91と、画像処理部92と、圧縮部93と、送信部94とを備える。
【0098】
取得部91は、カメラ2が撮影によって生成したRAW画像データを取得する。取得部91は、送信装置10が備える取得部11と同様である。また、取得部91は、カメラ2のRGB特性データを取得する。カメラ2のRGB特性データは、後述する画像処理部92で行う画像処理にて用いられ得る。
【0099】
画像処理部92は、取得部91が取得したRAW画像データに対して画像処理を行う。画像処理部92が行う画像処理は、デモザイク処理、ブラックレベル調整処理、ガンマ補正処理、カラーマトリクス調整処理、および、YUV変換処理を含む。
【0100】
画像処理部92は、デモザイク部921と、ブラックレベル調整部922と、ガンマ補正部923と、カラーマトリクス調整部924と、YUV変換部925とを有する。
【0101】
デモザイク部921は、取得部91が取得したRAW画像データに対してデモザイク処理を行う。デモザイク処理は、受信装置20が備えるデモザイク部242が行うデモザイク処理と同様である。
【0102】
ブラックレベル調整部922は、RGB画像データに対してブラックレベル調整処理を行う。ブラックレベル調整処理は、受信装置20が備えるブラックレベル調整部243が行うブラックレベル調整処理と同様である。
【0103】
ガンマ補正部923は、RGB画像データに対してガンマ補正処理を行う。ガンマ補正処理は、受信装置20が備えるガンマ補正部244が行うガンマ補正処理と同様である。
【0104】
カラーマトリクス調整部924は、RGB画像データに対してカラーマトリクス調整処理を行う。カラーマトリクス調整処理は、受信装置20が備えるカラーマトリクス調整部245が行うカラーマトリクス調整処理と同様である。
【0105】
なお、ブラックレベル調整部922によるブラックレベル調整処理、ガンマ補正部923によるガンマ補正処理、または、カラーマトリクス調整部924によるカラーマトリクス調整処理は、取得部91が取得したカメラ2のRGB特性データに基づいて、行われ得る。
【0106】
YUV変換部925は、RGB画像データに対してYUV変換処理を行うことでYUV画像データを生成する。YUV画像データは、当該画像データに含まれる画素の画素値が、YUV形式の信号(つまり、輝度信号(Y)および色差信号(UおよびV、または、CbおよびCr等))で示されている画像データである。YUV変換処理は、RGB画像データに含まれる画素の画素値をYUV形式の信号に変換する処理である。YUV変換処理は、画像データに含まれる画素の画素値を所定の変換式(例えば非特許文献1または2参照)に代入することなされ得る。YUV変換処理は、周知のYUV変換処理と同様である。
【0107】
圧縮部93は、画像処理部92により画像処理が施された後の画像データに対して圧縮処理を行う。なお、圧縮部93は、必須の構成要素ではない。以降では、送信装置90が圧縮部93を備える場合を例として説明する。
【0108】
送信部94は、画像データを受信装置80へ送信する。送信部94が送信する画像データは、画像処理部92により画像処理が施された後の画像データであって、圧縮処理が施された画像データである。なお、送信装置90が圧縮部93を備えない場合には、送信部94が送信する画像データは、画像処理部92により画像処理が施された後の画像データである。
【0109】
図9は、比較例に係る受信装置80の構成を示すブロック図である。
【0110】
図9に示されるように、受信装置80は、受信部81と、伸張部82と、表示制御部83とを備える。
【0111】
受信部81は、画像データを送信装置90からネットワークNを介して受信する。受信部81が受信する画像データは、送信装置90により取得されて画像処理が施された画像データである。
【0112】
伸張部82は、受信部81が受信した画像データに対して伸張処理を行う。なお、伸張部82は、必須の構成要素ではない。伸張部82は、送信装置90が圧縮部93を備える場合に必要であり、そうでない場合には不要である。
【0113】
表示制御部83は、画像データを表示装置5に出力する制御をする。表示制御部83は、バッファ831を有する。表示制御部83は、受信部81が受信した画像データをバッファ831に格納する。また、表示制御部83は、格納した画像データをバッファ831から取り出して表示装置5へ出力する。なお、バッファ831は、受信装置20が備えるバッファ231と同様に、DRAMなどの揮発性記憶装置でもよいし、HDDまたはSSD等の不揮発性記憶装置でもよい。
【0114】
図10は、比較例に係る送信装置90の処理を示すフロー図である。
【0115】
ステップS901において、取得部91は、カメラ2からRAW画像データを取得する。RAW画像は、上記ステップS101で取得部11が取得するRAW画像と同じである。
【0116】
ステップS902において、画像処理部92は、ステップS901で取得部91が取得したRAW画像に対して画像処理を行う。ステップS902において画像処理部92が行う画像処理を具体的に説明する。
【0117】
ステップS902において、デモザイク部921は、取得部91が取得したRAW画像に対してデモザイク処理を行うことでRGB画像データを取得する。また、ブラックレベル調整部922は、RGB画像データに対してブラックレベル調整処理を行う。また、ガンマ補正部923は、RGB画像データに対してガンマ補正処理を行う。また、カラーマトリクス調整部924は、RGB画像データに対してカラーマトリクス調整を行う。また、YUV変換部925は、RGB画像データに対してYUV変換処理を行うことでYUV画像データを生成する。
【0118】
ステップS903において、圧縮部93は、ステップS902で画像処理部92が画像処理を行った後のYUV画像データに対して、圧縮処理を行う。
【0119】
ステップS904において、送信部94は、ステップS903で圧縮部93が圧縮処理を行ったYUV画像データを受信装置80に送信する。送信部94は、例えば、上記YUV画像データをIPパケットに含めて受信装置80に送信する。
【0120】
図11は、比較例に係る受信装置80の処理を示すフロー図である。受信装置80は、
図11の(a)に示される処理と、
図11の(b)に示される処理とを並行して実行する。
【0121】
まず、
図11の(a)の処理を説明する。
図11の(a)の処理は、受信装置80が送信装置90からYUV画像データを受信するときに実行する一連の処理を示している。
【0122】
ステップS801において、受信部81は、YUV画像データを受信する。受信部81が受信するYUV画像データは、ステップS904(
図10参照)で送信装置90が送信したYUV画像データである。受信部81は、上記YUV画像データを受信するまで待機し、上記YUV画像データを受信したらステップS802に進む。
【0123】
ステップS802において、伸張部82は、ステップS801で受信部81が受信した上記YUV画像データを伸張する伸張処理を行う。伸張処理は、ステップS903で圧縮部93が行った圧縮処理と反対の処理であるといえる。
【0124】
ステップS803において、表示制御部83は、ステップS802で伸張部82が伸張処理を行った後のYUV画像データを、バッファ831に格納する。
【0125】
受信装置80は、ステップS803の処理を終えたら、ステップS801に進んで処理を継続する。
【0126】
次に、
図11の(b)の処理を説明する。
図11の(b)の処理は、受信装置80が表示装置5に画像を表示させる処理を示している。
【0127】
ステップS811において、表示制御部83は、バッファ831に格納されているYUV画像データを取り出して表示装置5へ出力する。上記YUV画像データは、ステップS803でバッファ831に格納されたYUV画像データである。表示制御部83がYUV画像データを表示装置5に出力する処理は、ステップS211(
図7の(b)参照)で表示制御部23がRGB画像に対して実行する処理と同様である。これにより、表示制御部83は、バッファ831に格納されているYUV画像データを、そのYUV画像データが格納された順番で順次に表示装置5に出力して表示させる。
【0128】
以上のようにして、本実施の形態における通信システム1は、比較例に係る通信システムに対して、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。このように通信システム1が、ネットワークを通じて伝送される画像の表示における遅延を抑制することができることについて説明する。
【0129】
本実施の形態における通信システム1では、画像の撮影から表示までに要する時間には、主に、圧縮部13が行う圧縮処理に要する時間、および、表示制御部23がRGB画像をバッファ231に格納してから取り出すまでの時間(表示待ち時間ともいう)が含まれ得る。
【0130】
一方、比較例に係る通信システムでは、画像の撮影から表示までに要する時間には、主に、圧縮部93が行う圧縮処理に要する時間、および、表示制御部83がYUV画像をバッファ831に格納してから取り出すまでの時間(表示待ち時間ともいう)に加えて、画像処理部92が行う画像処理(YUV変換処理を含む)に要する時間が含まれ得る。比較例に係る通信システムでは、一般に、MPEGまたはJPEGのように、輝度信号(Y成分)のデータ量を圧縮するアルゴリズムが主流であるので、輝度信号(Y成分)に対して色差信号(UおよびV成分)の圧縮率が高めに設定されることがあり、静止画または動画の圧縮では、RGB画像よりもYUV画像での圧縮が行われている。
【0131】
(1)まず、本実施の形態における通信システム1では、受信装置20が、画像データの表示待ち時間内に当該画像に対する画像処理を行う。そのため、画像の撮影から表示までの時間に、専ら画像処理を行う時間が含まれないので、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0132】
これに対して、比較例においては、画像処理部92が行う画像処理のあとに、表示制御部83における表示待ちがなされる。そのため、画像の撮影から表示までの時間に、画像処理部92が専ら画像処理を行う時間が含まれる。
【0133】
このように、通信システム1では、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0134】
(2)また、本実施の形態における通信システム1では、圧縮処理の対象である画像データのデータ量が小さいことにより、圧縮処理に要する時間が短い。圧縮部13による圧縮処理の対象である画像データは、RAW画像データが分離された複数の分離画像データであるので、RAW画像データと同じ画素数(言い換えれば、カメラ2のイメージセンサの画素数と同じ画素数)分の画素値を有する。これに対して、比較例における画像処理部92による圧縮処理の対象である画像データは、YUV画像データである。YUV画像は、YUV444フォーマットである場合には、カメラ2のイメージセンサの画素数の3倍の画素数の画素値を有し、また、YUV420フォーマットである場合には、カメラ2のイメージセンサの画素数の1.5倍の画素値を有する。ここで、「YUV444フォーマット」は、色差信号のダウンサンプリングをしないフォーマットを意味し、「YUV420フォーマット」は、輝度信号8ビットに対して色差信号を2ビットとするダウンサンプリングをするフォーマットを意味する。
【0135】
よって、圧縮部13による圧縮処理の対象である画像データのデータ量が、比較例における画像処理部92による圧縮処理の対象である画像データのデータ量の1/3倍(YUV444フォーマットの場合)、または、1/1.5倍(YUV420フォーマットの場合)と小さい。よって、通信システム1は、比較例に係る通信システムに対して、圧縮処理の要する時間が、1/3倍(YUV444フォーマットの場合)、または、1/1.5倍(YUV420フォーマットの場合)と短い。これにより、通信システム1は、ネットワークを通じて伝送される画像の表示における遅延を抑制することができる。
【0136】
(3)また、本実施の形態における通信システム1では、画像処理部24が実行する画像処理に、YUV変換処理が含まれないことにより、画像処理に要する時間が短い。これに対して、比較例による画像処理では、画像処理部92が実行する画像処理に、YUV変換部925によるYUV変換処理が含まれる。YUV変換処理は、RGB画像に含まれる画素値ごとの演算処理を含むので、処理量が比較的大きく、処理に時間を要する。
【0137】
そのため、本実施の形態における通信システム1は、比較例における画像処理と比較して処理量が小さく、処理に要する時間が短い。
【0138】
なお、YUV画像データにおいて、色差信号のダウンサンプリングを行う場合には、色差信号のダウンサンプリングにより画像の画質が劣化する。そのため、本実施の形態における通信システム1は、比較例における画像処理と比較して、画像の画質を劣化させずに維持することができる効果もある。
【0139】
なお、本発明は、装置として実現できるだけでなく、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを記録したコンピュータ読み取り可能なCD-ROMなどの記録媒体として実現したり、そのプログラムを示す情報、データ又は信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。
【0140】
以上、本発明の受信装置、送信装置および通信システム等について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
【産業上の利用可能性】
【0141】
本発明は、ネットワークを通じて画像を伝送して表示する通信システム等に利用可能である。
【符号の説明】
【0142】
1 通信システム
2 カメラ
3 処理装置
5 表示装置
6 操作装置
10、90 送信装置
11、91 取得部
12 分離部
13、93 圧縮部
14、94 送信部
20、80 受信装置
21、81 受信部
22、82 伸張部
23、83 表示制御部
24、92 画像処理部
231、831 バッファ
241 合成部
242、921 デモザイク部
243、922 ブラックレベル調整部
244、923 ガンマ補正部
245、924 カラーマトリクス調整部
925 YUV変換部
N ネットワーク
S 画素群
U ユーザ
W ワーク