IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社デンソーの特許一覧

特開2023-181086映像処理システム、映像処理方法、映像処理プログラム
<>
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図1
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図2
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図3
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図4
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図5
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図6
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図7
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図8
  • 特開-映像処理システム、映像処理方法、映像処理プログラム 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023181086
(43)【公開日】2023-12-21
(54)【発明の名称】映像処理システム、映像処理方法、映像処理プログラム
(51)【国際特許分類】
   H04N 23/60 20230101AFI20231214BHJP
   H04N 21/235 20110101ALI20231214BHJP
   H04N 21/24 20110101ALI20231214BHJP
【FI】
H04N23/60 300
H04N21/235
H04N21/24
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023071013
(22)【出願日】2023-04-24
(31)【優先権主張番号】P 2022093934
(32)【優先日】2022-06-09
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000004260
【氏名又は名称】株式会社デンソー
(74)【代理人】
【識別番号】100106149
【弁理士】
【氏名又は名称】矢作 和行
(74)【代理人】
【識別番号】100121991
【弁理士】
【氏名又は名称】野々部 泰平
(74)【代理人】
【識別番号】100145595
【弁理士】
【氏名又は名称】久保 貴則
(72)【発明者】
【氏名】竹内 隆
(72)【発明者】
【氏名】加藤 碧
【テーマコード(参考)】
5C122
5C164
【Fターム(参考)】
5C122DA03
5C122DA14
5C122EA06
5C122GC07
5C122GC37
5C122GC52
5C122GC75
5C122HA02
5C122HA13
5C122HA35
5C122HB01
5C122HB02
5C122HB10
5C164FA07
5C164MC06S
5C164SB08P
5C164SB41P
5C164YA21
5C164YA22
(57)【要約】
【課題】汎用性と信頼性とを両立する映像処理システムの提供。
【解決手段】ネットワークNWを通じてインフラカメラ10から取得される映像フレームFmを処理する映像処理システム20のプロセッサ201は、映像フレームFmを時系列順に取得することと、正規間隔Tiで取得される映像フレームFmよりも遅延した遅延フレームFdとして、取得間隔Trが遅延許容範囲Ra外に増大した映像フレームFmを、特定することと、遅延フレームFdに遅延情報Idを付加することと、遅延情報Idの付加された遅延フレームFdを内包する、映像フレームFmの時系列な映像データDmを出力することと、を実行するように構成される。
【選択図】図3
【特許請求の範囲】
【請求項1】
プロセッサ(201)を有し、ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)を処理する映像処理システム(20,20A)であって、
前記プロセッサは、
前記映像フレームを時系列順に取得することと、
正規間隔(Ti)で取得される前記映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した前記映像フレームを、特定することと、
前記遅延フレームに遅延情報(Id)を付加することと、
前記遅延情報の付加された前記遅延フレームを内包する、前記映像フレームの時系列な映像データ(Dm)を出力することと、
を実行するように構成される映像処理システム。
【請求項2】
前記遅延フレームを特定することは、
定常に設定される前記正規間隔と、前記遅延許容範囲外の前記取得間隔である遅延取得間隔(Td)との比率に応じたフレーム数の前記映像フレームを前記遅延フレームとして特定することを、含む請求項1に記載の映像処理システム。
【請求項3】
前記遅延フレームを特定することは、
前記フレーム数の前記遅延フレームを特定後に前記取得間隔が前記遅延許容範囲内のうち復帰判定範囲(Rr)内に減少している前記映像フレームを準遅延フレーム(Fs)として特定し、
前記遅延情報を付加することは、
前記遅延情報とは区別される準遅延情報(Is)を、前記準遅延フレームに付加することを、含み、
前記映像データを出力することは、
前記準遅延情報の付加された前記準遅延フレームを内包する、前記映像データを出力することを含む、請求項2に記載の映像処理システム。
【請求項4】
前記遅延フレームを特定することは、
前記取得間隔が前記遅延許容範囲内で前記復帰判定範囲内から前記復帰判定範囲外に増大するのに応じて、前記準遅延フレームの特定を中止することを、含む請求項3に記載の映像処理システム。
【請求項5】
前記復帰判定範囲は、前記正規間隔未満の範囲である請求項3に記載の映像処理システム。
【請求項6】
前記遅延情報を付加することは、
前記正規間隔と前記フレーム数とに相関する正規取得時刻(To)を、前記遅延情報と共に前記遅延フレームに付加することを、含む請求項2に記載の映像処理システム。
【請求項7】
前記遅延情報を付加することは、
前記映像フレームの前記カメラによる送信に対して自システムによる取得までに定常に生じる定常遅延時間(Trd)分、前記正規取得時刻から遡った時刻を前記遅延フレームの送信時刻として、前記遅延情報及び前記正規取得時刻と共に前記遅延フレームに付加することを、含む請求項6に記載の映像処理システム。
【請求項8】
前記遅延情報を付加することは、
前記映像フレームの前記カメラによる送信に対して自システムによる取得までに定常に生じる定常遅延時間(Trd)分、前記正規間隔と前記フレーム数とに相関する正規取得時刻(To)から遡った時刻を前記遅延フレームの送信時刻として、前記遅延情報と共に前記遅延フレームに付加することを、含む請求項2に記載の映像処理システム。
【請求項9】
前記映像フレームを出力することは、
前記映像データを、出力先のユーザーへ配信又は送信することを、含む請求項1又は2に記載の映像処理システム。
【請求項10】
前記ネットワークとしてのインフラネットワーク(NW)を通じて前記カメラとしてのインフラカメラ(10)から取得される前記映像フレームを処理する請求項1又は2に記載の映像処理システム。
【請求項11】
前記ネットワークとしての車載ネットワーク(NWA)を通じて前記カメラとしての車載カメラ(10A)から取得される前記映像フレームを処理する請求項1又は2に記載の映像処理システム。
【請求項12】
ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)における遅延を検出するために、プロセッサ(201)に実行される映像処理方法であって、
前記映像フレームを時系列順に取得することと、
正規間隔(Ti)で取得される前記映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した前記映像フレームを、特定することと、
前記遅延フレームに遅延情報(Id)を付加することと、
前記遅延情報の付加された前記遅延フレームを内包する、前記映像フレームの時系列な映像データ(Dm)を出力することと、
を含む映像処理方法。
【請求項13】
記憶媒体(202)に記憶され、ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)における遅延を検出するためにプロセッサ(201)に実行させる命令を含む映像処理プログラムであって、
前記命令は、
前記映像フレームを時系列順に取得させることと、
正規間隔(Ti)で取得される前記映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した前記映像フレームを、特定させることと、
前記遅延フレームに遅延情報(Id)を付加させることと、
前記遅延情報の付加された前記遅延フレームを内包する、前記映像フレームの時系列な映像データ(Dm)を出力させることと、
を含む映像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ネットワークを通じてカメラから取得される映像フレームを処理する映像処理技術に、関する。
【背景技術】
【0002】
特許文献1には、カメラにより撮像時刻と共に取得された撮像データを、処理する映像処理システムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6443145号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
一般にカメラからネットワークを通じて撮像データを取得する場合、例えばネットワークにおける外乱等により、撮像データのカメラによる送信から映像処理システムでの取得までの間に遅延が生じるおそれがある。この点について、カメラが撮像データと共に撮像時刻を提供する特許文献1の如きタイムスタンプ機能を有していない仕様の場合、撮像データの遅延状況を認識することができず、システムの信頼性が低下するおそれがあった。逆に、特許文献1の映像処理システムは、信頼性を確保するためにタイムスタンプ機能を有する仕様のカメラを用いることを前提としており、汎用性に欠けるおそれがあった。
【0005】
本開示の課題は、汎用性と信頼性とを両立する映像処理システムを、提供することにある。本開示の別の課題は、汎用性と信頼性とを両立する映像処理方法を、提供することにある。本開示の別の課題は、汎用性と信頼性とを両立する映像処理プログラムを、提供することにある。
【課題を解決するための手段】
【0006】
以下、課題を解決するための本開示の技術的手段について、説明する。尚、特許請求の範囲及び本欄に記載された括弧内の符号は、後に詳述する実施形態に記載された具体的手段との対応関係を示すものであり、本開示の技術的範囲を限定するものではない。
【0007】
本開示の第一態様は、
プロセッサ(201)を有し、ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)を処理する映像処理システム(20,20A)であって、
プロセッサは、
映像フレームを時系列順に取得することと、
正規間隔(Ti)で取得される映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した映像フレームを、特定することと、
遅延フレームに遅延情報(Id)を付加することと、
遅延情報の付加された遅延フレームを内包する、映像フレームの時系列な映像データ(Dm)を出力することと、
を実行するように構成される。
【0008】
本開示の第二態様は、
ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)における遅延を検出するために、プロセッサ(201)に実行される映像処理方法であって、
映像フレームを時系列順に取得することと、
正規間隔(Ti)で取得される映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した映像フレームを、特定することと、
遅延フレームに遅延情報(Id)を付加することと、
遅延情報の付加された遅延フレームを内包する、映像フレームの時系列な映像データ(Dm)を出力することと、
を含む。
【0009】
本開示の第三態様は、
記憶媒体(202)に記憶され、ネットワーク(NW,NWA)を通じてカメラ(10,10A)から取得される映像フレーム(Fm)における遅延を検出するためにプロセッサ(201)に実行させる命令を含む映像処理プログラムであって、
命令は、
映像フレームを時系列順に取得させることと、
正規間隔(Ti)で取得される映像フレームよりも遅延した遅延フレーム(Fd)として、取得間隔(Tr)が遅延許容範囲(Ra)外に増大した映像フレームを、特定させることと、
遅延フレームに遅延情報(Id)を付加させることと、
遅延情報の付加された遅延フレームを内包する、映像フレームの時系列な映像データ(Dm)を出力させることと、
を含む。
【0010】
これら第一~第三態様によると、取得間隔が遅延許容範囲外に増大した映像フレームは、正規間隔で取得される映像フレームよりも遅延した遅延フレームとして、遅延情報を付加される。これによれば、遅延情報の付加された遅延フレームを内包する、映像フレームの時系列な映像データが出力されることで、カメラの仕様に関わらず、遅延フレームに付加された遅延情報に基づき、映像フレームの遅延状況を認識することができる。故に、汎用性と信頼性とを両立させることが可能となる。
【図面の簡単な説明】
【0011】
図1】第一実施形態による映像配信システムの全体構成を示す模式図である。
図2】第一実施形態による映像処理システムの構成を示すブロック図である。
図3】第一実施形態による映像処理方法を示すフローチャートである。
図4】正常状態について説明するための模式図である。
図5】遅延フレーム及び準遅延フレームについて説明するための模式図である。
図6】第二実施形態による映像処理方法を示すフローチャートである。
図7】第三実施形態による映像配信システムの全体構成を示す模式図である。
図8】第三実施形態による映像配信システムの別な全体構成を示す模式図である。
図9】第三実施形態による映像配信システムのさらに別な全体構成を示す模式図である。
【発明を実施するための形態】
【0012】
以下、本開示の実施形態を図面に基づき複数説明する。尚、各実施形態において対応する構成要素には同一の符号を付すことで、重複する説明を省略する場合がある。また、各実施形態において構成の一部分のみを説明している場合、当該構成の他の部分については、先行して説明した他の実施形態の構成を適用することができる。さらに、各実施形態の説明において明示している構成の組み合わせばかりではなく、特に組み合わせに支障が生じなければ、明示していなくても複数の実施形態の構成同士を部分的に組み合わせることができる。
【0013】
(第一実施形態)
以下、本開示の第一実施形態を図面に基づき説明する。
【0014】
図1に示すように第一実施形態による映像配信ネットワークシステム1は、インフラカメラ10により撮像された映像フレームFmを処理して情報を付加した映像データDmを、配信先システム30へと配信する。そのために映像配信ネットワークシステム1は、インフラカメラ10と共に、映像処理システム20、配信先システム30、及び通信ネットワークNWを含んで構成されている。ここで通信ネットワークNWとは、無線通信と有線通信とを融合させた、インフラネットワークである。
【0015】
道路周辺の定点に設置された、固定式又は可動式カメラであるインフラカメラ10は、対象とする道路上の、例えば道路ユーザー、及び障害物等を撮像する。インフラカメラ10は、撮像した時系列の画像である映像フレームFmを、通信ネットワークNWを通じて映像処理システム20へと送信する。このときインフラカメラ10は、定常的な送信周期毎に時系列に、映像フレームFmの送信を実行する。こうしたインフラカメラ10としては、複数台のカメラが想定されるが、以下の説明では、一台のインフラカメラ10による処理が代表的にとりあげられる。
【0016】
映像処理システム20は、例えばクラウドサーバ、又はエッジサーバ等、少なくとも一つのネットワークサーバによって構築される。映像処理システム20は、インフラカメラ10との間の通信ネットワークNWを通じてインフラカメラ10から映像フレームFmを受信し、復号によって取得される映像フレームFmを、処理する。映像処理システム20は、映像フレームFmを処理することで得られる映像データDmを、通信ネットワークNWを通じて配信先システム30へ出力する。このような映像処理システム20は、例えば通信混雑等によって通信ネットワークNWに生じる遅延として、インフラカメラ10による映像フレームFmの送信から自システム20による取得までの間の遅延を、検出する。そこで映像処理システム20は、遅延検出結果を表す情報を、映像データDmに付加して配信先システム30へと提供する。
【0017】
ここで配信先システム30は、映像処理システム20から出力される映像フレームFmの時系列な映像データDmを必要とする、当該出力先の受信ユーザーによって管理される。配信先システム30は、映像処理システム20からの出力によって配信される映像データDmを、受信ユーザー別の受信目的に応じて利用する。配信先システム30は、例えば自動運転車等の道路ユーザーである車両の制御に映像データDmを利用する、当該車両のECU(Electronic Control Unit)によって構築されてもよい。配信先システム30は、例えば交通関連等のサービスに映像データDmを利用する、ユーザーとしてのサービサのネットワークサーバによって構築されてもよい。
【0018】
こうした配信先システム30へと情報提供する、映像処理システム20を構成の専用コンピュータは、メモリ202及びプロセッサ201を、少なくとも一つずつ有している。メモリ202は、コンピュータにより読み取り可能なプログラム及びデータ等を非一時的に記憶する、例えば半導体メモリ、磁気媒体、及び光学媒体等のうち、少なくとも一種類の非遷移的実体的記憶媒体(non-transitory tangible storage medium)である。プロセッサ201は、例えばCPU(Central Processing Unit)、GPU(Graphics Processing Unit)、及びRISC(Reduced Instruction Set Computer)-CPU等のうち、少なくとも一種類をコアとして含む。
【0019】
プロセッサ201は、メモリ202に記憶された映像処理プログラムに含まれる複数の命令を、実行する。これにより映像処理システム20は、映像フレームFmを処理するための機能ブロックを、複数構築する。このように映像処理システム20では、映像フレームにおける遅延を検出するためにメモリ202に記憶された映像処理プログラムが複数命令をプロセッサ201に実行させることで、機能ブロックが複数構築される。図2に示すように、映像処理システム20により構築される複数の機能ブロックには、映像フレーム取得ブロック200、遅延判定ブロック210、及び映像データ出力ブロック220が含まれる。
【0020】
これら映像フレーム取得ブロック200、遅延判定ブロック210、及び映像データ出力ブロック220の共同により、映像フレームFmにおける遅延を検出する映像処理方法のフロー(以下、映像処理フロー)を、図3に従って以下に説明する。本フローは、映像処理システムの起動時に開始され、停止時に終了される。尚、本フローにおいて「S」とは、映像処理プログラムに含まれた複数命令により実行される、複数ステップをそれぞれ意味する。
【0021】
映像処理フローのS100において遅延判定ブロック210は、遅延フレーム残数Ndを初期化する(Nd=0)。遅延フレーム残数Ndは、後述のS103にて算出された数の遅延フレームFdのうち、S104での遅延情報付加を受けていない遅延フレームFdの数である。
【0022】
S101において映像フレーム取得ブロック200は、インフラカメラ10から時系列順に送信される映像フレームFmを、図4に示すように受信する。ここで映像フレーム取得ブロック200は、インフラカメラ10にて定常に設定される送信周期を正規間隔Tiとして、映像フレームFmを定期的に取得する。
【0023】
図3に示すS102において遅延判定ブロック210は、正規間隔Tiで取得される映像フレームFmよりも遅延した遅延フレームFdを特定するために、図5に示すように映像フレームFmを取得する間隔(以下、取得間隔という)Trが遅延許容範囲Ra外に増大しているか、及び、遅延フレーム残数Ndが1以上であるか、を判定する。ここで、遅延許容範囲Raは正規間隔Tiを超過する範囲であればよい。特に本実施形態では、遅延許容範囲Raは正規間隔Tiの2倍の時間(2Ti)として設定されている。尚、映像処理システム20の起動後における初回の映像処理フローでは、取得間隔Trの基準となる前回取得の映像フレームFmが存在しない。そのため、初回のサイクルにおけるS102では、取得間隔Trが遅延許容範囲Ra外に増大していないと判定する。
【0024】
図3に示すS102により、映像フレームFmの取得間隔Trが遅延許容範囲Ra外に増大している(図5参照)、かつ/又は遅延フレーム残数Ndが1以上、と判定された場合のS103において遅延判定ブロック210は、正規間隔Tiと、遅延許容範囲Ra外の取得間隔Trである遅延取得間隔Tdとの比率Td/Tiに応じたフレーム数Nの映像フレームFmを、遅延フレームFdとして特定する。具体的に遅延判定ブロック210は、比率Td/Tiに応じた、遅延フレームFdのフレーム数Nを、以下の数1に従って算出する。
【0025】
【数1】
S103における、数1によるフレーム数Nの算出により遅延フレームFdを特定する原理を、図5に基づき詳細に説明する。図5では、正規間隔Tiによる映像フレームFmの取得タイミングが、二点鎖線で示されている。図5の例では、映像フレームFm1の取得間隔Trが、遅延取得間隔Tdとして4Ti以上5Ti未満に増大している。この場合、映像フレームFm1の遅延により、映像フレームFm1に続く3枚の映像フレームFmも、正規間隔Tiによる取得タイミングよりも遅延して取得されることとなる。そこで遅延判定ブロック210は、遅延した映像フレームFm1である遅延フレームFdの遅延取得間隔Tdに基づいて、当該映像フレームFm1に続く3枚の映像フレームFmも、遅延フレームFdとして特定する。
【0026】
図3に示すように、S103に続くS104において遅延判定ブロック210は、通信の遅延状態を示す、例えばフラグ等の遅延情報Idを、遅延フレームFdに付加する。
【0027】
S104に続くS105において遅延判定ブロック210は、遅延フレーム残数Ndを、N―1に設定する(Nd=N-1)。S105の実行後、映像処理フローはS109へ進む。
【0028】
上述のS102により、映像フレームFmの取得間隔Trが遅延許容範囲Ra外に増大していない、かつ、遅延フレーム残数Ndが1以上ではない、と判定された場合に映像処理フローはS106へ進む。S106において遅延判定ブロック210は、映像フレームFmの取得間隔Trが復帰判定範囲Rr内から復帰判定範囲Rr外に増大したか否かを、判定する。ここで復帰判定範囲Rrは、正規間隔Ti未満の範囲であればよい。特に本実施形態では、復帰判定範囲Rrは正規間隔Tiの1/2の時間(Ti/2)として設定されている。
【0029】
S106により、取得間隔Trが復帰判定範囲Rr外に増大したと判定された場合、映像処理フローはS107へ進む。この場合、映像フレームFmは、取得間隔Trが遅延許容範囲Ra内かつ復帰判定範囲Rr外となっている正常フレームである。S107において遅延判定ブロック210は、遅延が生じていない正常状態を示す、例えばフラグ等の正常情報Inを正常な映像フレームFmに付加する。これにより遅延判定ブロック210は、映像フレームFmの取得間隔Trが遅延許容範囲Ra内において復帰判定範囲Rr内から復帰判定範囲Rr外に増大するのに応じて、後述の準遅延フレームFs特定を中止することとなる。S107の実行後、映像処理フローはS109へ進む。
【0030】
一方、S106において取得間隔Trが復帰判定範囲Rr外に増大していないと判定される場合であっても、今回取得した映像フレームFmは、遅延フレームFdではない。しかし、この場合に今回取得の映像フレームFmは、図5に示すように正規の取得時刻よりも遅延して取得された、準遅延フレームFsであると考えられる。そこで遅延判定ブロック210は、比率Td/Tiに応じたフレーム数Nの遅延フレームFdを特定後に、取得間隔Trが遅延許容範囲Ra内のうち復帰判定範囲Rr内に減少している映像フレームFmを、準遅延フレームFsとして特定する。S106により、取得間隔Trが復帰判定範囲Rr外に増大していないと判定された場合、映像処理フローはS108へ進む。S108において遅延判定ブロック210は、遅延情報Idとは区別して通信の準遅延状態を示す、例えばフラグ等の準遅延情報Isを準遅延フレームFsに付加する。S108の実行後、映像処理フローはS109へ進む。
【0031】
S109において映像データ出力ブロック220は、遅延情報Id、正常情報In、又は準遅延情報Isが付加された映像フレームFmを内包するデータとして、映像フレームFmの時系列な映像データDmを、配信先システム30へ向けて出力する。このとき出力される映像データDmは、情報Id,In,Isのいずれかが付加された映像フレームFm自体であってもよい。このとき出力される映像データDmは、情報Id,In,Isのいずれかが付加されてから、例えば認識処理による認識情報等の他情報も映像データ出力ブロック220によって付加された映像フレームFmであってもよい。S109の実行後、映像処理フローはS101へと戻る。
【0032】
以上の映像処理フローのS101~S109が繰り返されることにより、インフラカメラ10より時系列に受信される映像フレームFmを処理した映像データDmが、当該時系列順に出力されることとなる
【0033】
(作用効果)
以上説明した第一実施形態の作用効果を、以下に説明する。
【0034】
第一実施形態では、取得間隔Trが遅延許容範囲Ra外に増大した映像フレームFmは、正規間隔Tiで取得される映像フレームFmよりも遅延した遅延フレームFdとして、遅延情報Idを付加される。これによれば、遅延情報Idの付加された遅延フレームFdを内包する、映像フレームFmの時系列な映像データDmが出力されることで、インフラカメラ10の仕様に関わらず、遅延フレームFdに付加された遅延情報Idに基づき、映像フレームFmの遅延状況を認識することができる。故に、汎用性と信頼性とを両立させることが可能となる。
【0035】
第一実施形態では、定常に設定される正規間隔Tiと、遅延許容範囲Ra外の取得間隔Trである遅延取得間隔Tdとの比率に応じたフレーム数Nの映像フレームFmが、遅延フレームFdとして特定される。これによれば、遅延取得間隔Td内に取得されたフレーム数Nの映像フレームFmを全て遅延フレームFdとして、遅延情報Idを付加することができる。故に、汎用性を確保しつつ、遅延フレームFdの数の見極めにより信頼性を向上させることが可能となる。
【0036】
第一実施形態では、正規間隔Tiと遅延取得間隔Tdとの比率に応じたフレーム数Nの遅延フレームFdを特定後に取得間隔Trが遅延許容範囲Ra内のうち復帰判定範囲Rr内に減少している映像フレームFmが、準遅延フレームFsとして特定される。そして、遅延情報Idとは区別される準遅延情報Isが、準遅延フレームFsに付加される。これによれば、遅延フレームFdの影響によって副次的に遅延した準遅延フレームFsを特定して、準遅延情報Isを付加することができる。故に、汎用性を確保しつつ、副次的な遅延まで考慮して信頼性を向上させることが可能となる。
【0037】
第一実施形態では、取得間隔Trが遅延許容範囲Ra内で復帰判定範囲Rr内から復帰判定範囲Rr外に増大するのに応じて、遅延フレームFdの特定が中止される。これによれば、映像フレームFmの遅延が解消されるまで遅延フレームFdの特定が継続されることになるので、当該遅延の影響を受けた遅延フレームFdに限定して正確に遅延情報Idを付加することができる。故に、汎用性を確保しつつ、信頼性を向上させることが可能となる。
【0038】
第一実施形態の復帰判定範囲Rrは、正規間隔Ti未満の範囲である。これによれば、遅延フレームFdの影響によって副次的に遅延した準遅延フレームFsを正確に特定して、準遅延情報Isを付加することができる。故に、副次的な遅延まで考慮した高い信頼性を担保することが可能となる。
【0039】
第一実施形態の映像処理システムは、遅延情報Idが付加された遅延フレームFdを内包する、映像フレームFmの時系列な映像データDmを、出力先のユーザーへ配信する。これにより出力先のユーザーには、遅延フレームFdの遅延情報Idに基づく映像フレームFmの遅延状況を考慮して、映像データDmを利用させることができる。故に、出力先のユーザーに対して汎用性と信頼性とを両立させることが可能となる。
【0040】
(第二実施形態)
第二実施形態は、第一実施形態の変形例である。
【0041】
第二実施形態による映像処理フローでは、図6に示すように、第一実施形態と同様のS100~S105が実行される。第二実施形態による映像処理フローのS102において、映像フレームを取得する間隔Trが遅延許容範囲Ra外に増大していない、かつ、遅延フレーム残数Ndが1以上でないと判定された場合、映像処理フローはS110へ進む。S110において遅延判定ブロック210は、現在時刻を、映像フレームFmの正規取得時刻Toとして設定する。S110の実行後、映像処理フローはS106へ進む。尚、S106~S108は、第一実施形態と同様である。
【0042】
一方、S105に続くS111において遅延判定ブロック210は、正規間隔Tiと、遅延フレームFdのフレーム数Nとに相関する時刻として、正規取得時刻Toを推定する。具体的に、遅延判定ブロック210は、遅延フレームFdが特定される直前に取得した映像フレームFmの取得時刻に対して、正規間隔Tiに遅延フレームFdのフレーム数Nを掛けた値(Ti×N)を足すことで算出される時刻を、映像フレームFmの正規取得時刻Toとして推定する。
【0043】
S111の実行後、映像処理フローはS112へ進む。またS107の実行後も、映像処理フローはS112へ進む。さらにS108の実行後も、映像処理フローはS112へ進む。S112において遅延判定ブロック210は、正規取得時刻Toを映像フレームFmに付加する。
【0044】
S112に続くS113において遅延判定ブロック210は、インフラカメラ10からの映像フレームFmの送信時刻を推定する。具体的に遅延判定ブロック210は、正規取得時刻Toから定常遅延時間Trd分遡った時刻を、映像フレームFmの送信時刻として推定する。ここで定常遅延時間Trdとは、通信ネットワークNWにおける例えば外乱等の影響が存在しない正常な場合に、インフラカメラ10による映像フレームFmの送信から、映像処理システム20による当該映像フレームFmの取得までに定常的に生じる時間に、定義される。さらにS113において遅延判定ブロック210は、上記したように推定した送信時刻を、映像フレームFmに付加する。尚、S113に続くS109は、第一実施形態と同様である。
【0045】
以上の映像処理フローにより、映像処理システム20は、正規取得時刻Toを、遅延情報Id、準遅延情報Is、又は正常情報と共に映像フレームFmに付加することとなる。さらに映像処理システム20は、定常遅延時間Trd分、正規取得時刻Toから遡った時刻を遅延フレームFdの送信時刻として、遅延情報Id、準遅延情報Is、又は正常情報と共に映像フレームFmに付加することとなる。
【0046】
(作用効果)
以上説明した第二実施形態の作用効果を、以下に説明する。
【0047】
第二実施形態では、正規間隔Tiと遅延フレームFdのフレーム数Nとに相関する正規取得時刻Toが、遅延情報Idと共に遅延フレームFdに付加される。これによれば、遅延情報Idだけでなく、映像処理システム20による正規取得時刻Toにも基づき遅延フレームFdの遅延を、正確に認識することができる。故に、汎用性を確保しつつ、信頼性を向上させることが可能となる。
【0048】
第二実施形態の映像処理システム20では、映像フレームFmのインフラカメラ10による送信に対して自システム20による取得までに定常に生じる定常遅延時間Trd分、正規取得時刻Toから遡った時刻が遅延フレームFdの送信時刻として、遅延情報Id及び正規取得時刻Toと共に遅延フレームFdに付加される。これによれば、遅延情報Idだけでなく、映像処理システム20による正規取得時刻Toとインフラカメラ10からの送信時刻とにも基づき遅延フレームFdの遅延を、正確に認識することができる。故に、特に高い信頼性を担保することが可能となる。
【0049】
(第三実施形態)
第三実施形態は、第一実施形態の変形例である。
【0050】
図7~9に示すように第三実施形態による映像送信ネットワークシステム1Aは、車載カメラ10Aによって撮像された映像フレームFmを処理して情報を付加した映像データDmを、送信先システム30Aへと送信する。そのために映像送信ネットワークシステム1Aは、車載カメラ10Aと共に、映像処理システム20A、送信先システム30A、並びに車載ネットワークNWA及び/又は通信ネットワークNWを含んで構成されている。ここで車載ネットワークNWAは、ホスト車両40Aに構築された、例えばLAN(local area network)等であって、ホスト車両40Aにおける車載カメラ10A以外の、例えばセンサ及び/又はアクチュエータ等といった複数の電子機器と接続されている。
【0051】
映像送信ネットワークシステム1Aのうち車載カメラ10A及び映像処理システム20Aは、ホスト車両40Aに搭載されて、車載ネットワークNWAを介して相互接続されている。図7,9に示すように映像送信ネットワークシステム1Aのうち送信先システム30Aは、ホスト車両40A(即ち、自車両)に搭載されて、車載ネットワークNWAを介して映像処理システム20Aと接続されていてもよい。図8,9に示すように映像送信ネットワークシステム1Aのうち送信先システム30Aは、ホスト車両40A外の他車両に搭載されて、又はホスト車両40A外のネットワークサーバによって構築されて、通信ネットワークNWを介して映像処理システム20Aと接続されていてもよい。
【0052】
図7~9に示すように、第一実施形態のインフラカメラ10に対応する第三実施形態の車載カメラ10Aは、ホスト車両40Aに対して固定式、又は可動式のカメラである。車載カメラ10Aは、ホスト車両40A外における道路上の、例えば道路ユーザー、及び障害物等を撮像する。車載カメラ10Aは、撮像した時系列の画像である映像フレームFmを、車載ネットワークNWAを通じて、映像処理システム20Aへと送信する。このとき車載カメラ10Aは、定常的な送信周期毎に時系列に、映像フレームFmの送信を実行する。こうした車載カメラ10Aとしては、ホスト車両40Aにおいて単一又は複数のカメラが想定されるが、以下の説明では、単一の車載カメラ10Aによる処理が代表的にとりあげられる。
【0053】
第一実施形態の映像処理システム20に対応する第三実施形態の映像処理システム20Aは、例えば自動運転車等のホスト車両40Aにおいて車載カメラ10Aを制御することにより映像データDmを処理する、ECUによって構築される。映像処理システム20Aは、車載カメラ10Aとの間の車載ネットワークNWAを通じて車載カメラ10Aから映像フレームFmを受信し、復号によって取得される映像フレームFmを、処理する。映像処理システム20Aは、映像フレームFmを処理することで得られる映像データDmを、車載ネットワークNWA及び/又は通信ネットワークNWを通じて送信先システム30Aへと出力する。このような映像処理システム20Aは、例えば通信混雑等によって車載ネットワークNWAに生じる遅延として、車載カメラ10Aによる映像フレームFmの送信から映像処理システム20Aによる取得までの間の遅延を、検出する。そこで映像処理システム20Aは、遅延検出結果を表す情報を、映像データDmに付加して送信先システム30Aに提供する。
【0054】
第一実施形態の配信先システム30に対応する第三実施形態の送信先システム30Aは、映像処理システム20Aから出力される映像フレームFmの時系列な映像データDmを必要とする、当該出力先の受信ユーザーによって管理される。送信先システム30Aは、映像処理システム20Aからの出力によって送信される映像データDmを、受信ユーザー別の受信目的に応じて利用する。送信先システム30Aは、例えば自動運転車等の道路ユーザである、ホスト車両40A又は他車両の制御に映像データDmを利用する、ECUによって構築されてもよい。送信先システム30Aは、例えば交通関連等のサービスに映像データDmを利用する、ユーザとしてのサービサのネットワークサーバによって構築されてもよい。
【0055】
こうした送信先システム30Aへと情報提供する、映像処理システム20Aを構成の専用コンピュータは、第一実施形態に準ずるメモリ202及びプロセッサ201を、少なくとも一つずつ有している。そこで、映像処理システム20Aによって構築される複数の機能ブロックには、図2の第一実施形態に準じて映像フレーム取得ブロック200、遅延判定ブロック210、及び映像データ出力ブロック220が含まれることになる。但し、これらブロック200,210,220の共同による第三実施形態の映像処理フローでは、第一実施形態で説明のフローにおいてインフラカメラ10、映像処理システム20、及び配信先システム30を、それぞれ車載カメラ10A、映像処理システム20A、及び送信先システム30Aと読み替えた処理が、実行される。
【0056】
このような第三実施形態によると、第一実施形態に準ずる作用効果が発揮され得る。ここで第三実施形態によっても、遅延情報Idの付加された遅延フレームFdを内包する、映像フレームFmの時系列な映像データDmが出力されることで、車載カメラ10Aの仕様に関わらず映像フレームFmの遅延状況を認識することができるので、汎用性と信頼性とを両立させることが可能となる。
【0057】
(他の実施形態)
以上、複数の実施形態について説明したが、本開示は、それらの実施形態に限定して解釈されるものではなく、本開示の要旨を逸脱しない範囲内において種々の実施形態及び組み合わせに適用することができる。
【0058】
変形例では、第二実施形態で説明の映像処理フローにおいてS111~S113が省略されて、映像フレームFmに正規取得時刻Toが付加されなくてもよい。変形例では、第三実施形態に第二実施形態が適用されてもよい。但し、第三実施形態に適用される第二実施形態の映像処理フローにおける定常遅延時間Trdは、車載ネットワークNWAにおける例えば外乱等の影響が存在しない正常な場合に、車載カメラ10Aによる映像フレームFmの送信から、映像処理システム20Aによる当該映像フレームFmの取得までに定常的に生じる時間に、定義されるとよい。
【0059】
(技術的思想の開示)
この明細書は、以下に列挙する複数の項に記載された複数の技術的思想を開示している。いくつかの項は、後続の項において先行する項を択一的に引用する多項従属形式(a multiple dependent form)により記載されている場合がある。さらに、いくつかの項は、他の多項従属形式の項を引用する多項従属形式(a multiple dependent form referring to another multiple dependent form)により記載されている場合がある。これらの多項従属形式で記載された項は、複数の技術的思想を定義している。尚、本思想の開示欄に記載された括弧内の符号は、先に詳述の実施形態に記載された具体的手段との対応関係を示すものであり、本開示の技術的範囲を限定するものではない。
【0060】
(技術的思想1)
プロセッサを有し、ネットワークを通じてカメラから取得される映像フレームを処理する映像処理システムであって、
プロセッサは、
映像フレームを時系列順に取得することと、
正規間隔で取得される映像フレームよりも遅延した遅延フレームとして、取得間隔が遅延許容範囲外に増大した映像フレームを、特定することと、
遅延フレームに遅延情報を付加することと、
遅延情報の付加された遅延フレームを内包する、映像フレームの時系列な映像データを出力することと、
を実行するように構成される映像処理システム。
【0061】
(技術的思想2)
遅延フレームを特定することは、
定常に設定される正規間隔と、遅延許容範囲外の取得間隔である遅延取得間隔との比率に応じたフレーム数の映像フレームを遅延フレームとして特定することを、含む技術的思想1に記載の映像処理システム。
【0062】
(技術的思想3)
遅延フレームを特定することは、
比率に応じたフレーム数の遅延フレームを特定後に取得間隔が遅延許容範囲内のうち復帰判定範囲内に減少している映像フレームを準遅延フレームとして特定し、
遅延情報を付加することは、
遅延情報とは区別される準遅延情報を、準遅延フレームに付加することを、含み、
映像データを出力することは、
準遅延情報の付加された準遅延フレームを内包する、映像データを出力することを含む、技術的思想2に記載の映像処理システム。
【0063】
(技術的思想4)
遅延フレームを特定することは、
取得間隔が遅延許容範囲内で復帰判定範囲内から復帰判定範囲外に増大するのに応じて、準遅延フレームの特定を中止することを、含む技術的思想3に記載の映像処理システム。
【0064】
(技術的思想5)
復帰判定範囲は、正規間隔未満の範囲である技術的思想3又は4に記載の映像処理システム。
【0065】
(技術的思想6)
遅延情報を付加することは、
正規間隔とフレーム数とに相関する正規取得時刻を、遅延情報と共に遅延フレームに付加することを、含む技術的思想2ないし5のいずれか一項に記載の映像処理システム。
【0066】
(技術的思想7)
遅延情報を付加することは、
映像フレームのカメラによる送信に対して自システムによる取得までに定常に生じる定常遅延時間分、正規取得時刻から遡った時刻を遅延フレームの送信時刻として、遅延情報及び正規取得時刻と共に遅延フレームに付加することを、含む技術的思想6に記載の映像処理システム。
【0067】
(技術的思想8)
遅延情報を付加することは、
映像フレームのカメラによる送信に対して自システムによる取得までに定常に生じる定常遅延時間分、正規間隔とフレーム数とに相関する正規取得時刻から遡った時刻を遅延フレームの送信時刻として、遅延情報と共に遅延フレームに付加することを、含む技術的思想2ないし5のいずれか一項に記載の映像処理システム。
【0068】
(技術的思想9)
映像フレームを出力することは、
映像データを、出力先のユーザーへ配信又は送信することを、含む技術的思想1ないし8のいずれか一項に記載の映像処理システム。
【0069】
(技術的思想10)
ネットワークとしてのインフラネットワークを通じてカメラとしてのインフラカメラから取得される映像フレームを処理する技術的思想1ないし9のいずれか一項に記載の映像処理システム。
【0070】
(技術的思想11)
ネットワークとしての車載ネットワークを通じてカメラとしての車載カメラから取得される映像フレームを処理する技術的思想1ないし9のいずれか一項に記載の映像処理システム。
【0071】
尚、上述した技術的思想1ないし11は、方法及びプログラムの各形態で実現されてもよい。
【符号の説明】
【0072】
1:映像配信ネットワークシステム、1A:映像送信ネットワークシステム、10:インフラカメラ、10A:車載カメラ、20,20A:映像処理システム、201:プロセッサ、202:記憶媒体、Dm:映像データ、Fd:遅延フレーム、Fm:映像フレーム、Fs:準遅延フレーム、Id:遅延情報、Is:準遅延情報、NW:通信ネットワーク、NWA:車載ネットワーク、Ra:遅延許容範囲、Rr:復帰判定範囲、Td:遅延取得間隔、Ti:正規間隔、To:正規取得時刻、Tr:取得間隔、Trd:定常遅延時間
図1
図2
図3
図4
図5
図6
図7
図8
図9