IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ クラリオン株式会社の特許一覧

<>
  • 特開-映像音声同期方法及び再生装置 図1
  • 特開-映像音声同期方法及び再生装置 図2
  • 特開-映像音声同期方法及び再生装置 図3
  • 特開-映像音声同期方法及び再生装置 図4
  • 特開-映像音声同期方法及び再生装置 図5
  • 特開-映像音声同期方法及び再生装置 図6
  • 特開-映像音声同期方法及び再生装置 図7
  • 特開-映像音声同期方法及び再生装置 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024064129
(43)【公開日】2024-05-14
(54)【発明の名称】映像音声同期方法及び再生装置
(51)【国際特許分類】
   H04N 21/44 20110101AFI20240507BHJP
   H04N 21/436 20110101ALI20240507BHJP
   H04N 5/93 20060101ALI20240507BHJP
【FI】
H04N21/44
H04N21/436
H04N5/93
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2022172491
(22)【出願日】2022-10-27
(71)【出願人】
【識別番号】000001487
【氏名又は名称】フォルシアクラリオン・エレクトロニクス株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】大野 宣浩
【テーマコード(参考)】
5C053
5C164
【Fターム(参考)】
5C053HA01
5C053LA06
5C053LA11
5C053LA14
5C164FA16
5C164GA06
5C164MA02S
5C164MB01S
5C164PA41
5C164UB05P
5C164UB10S
5C164UB71P
5C164UD01S
(57)【要約】
【課題】音声出力機器に出力させる音声と、映像との同期の精度を向上させる映像音声同期方法を提供する。
【解決手段】映像及び音声を再生する車載装置100が、外部のBluetoothデバイス200との間で、近距離無線通信によるペアリングを行うステップと、Bluetoothデバイス200に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置300に送信するステップと、音声データに基づく音声をBluetoothデバイス200に出力し、サーバ装置300から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整するステップと、を実行する車載制御部170を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
映像及び音声を再生する再生装置が、
外部の音声出力機器との間で、近距離無線通信によるペアリングを行うステップと、
前記音声出力機器に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置に送信するステップと、
音声データに基づく音声を前記音声出力機器に出力し、前記サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整するステップと、
を実行する、映像音声同期方法。
【請求項2】
前記再生装置が、
前記遅延量を変更する操作を受け付けるステップと、
前記操作により変更された遅延量である変更遅延量と、前記コーデック情報と、前記ペアリングした前記音声出力機器を識別する機器識別情報とを、前記サーバ装置に送信するステップと、を実行する、請求項1記載の映像音声同期方法。
【請求項3】
前記サーバ装置が、
前記再生装置から受信する前記変更遅延量を、前記コーデック情報及び機器識別情報に対応づけて前記サーバ装置が備える記憶部に記憶するステップと、
前記コーデック情報及び機器識別情報に対応づけて記憶する前記変更遅延量の数が予め設定された設定数以上になると、前記変更遅延量に基づいて前記遅延量を補正した補正遅延量を決定するステップと、
決定した前記補正遅延量を、前記コーデック情報及び機器識別情報に対応づけて前記記憶部に記憶させるステップと、
前記再生装置から前記コーデック情報及び前記機器識別情報を含む前記遅延量の取得要求を受信すると、前記コーデック情報及び前記機器識別情報に対応する前記補正遅延量を前記記憶部から取得し、前記補正遅延量を前記再生装置に送信するステップと、
を備える、請求項2記載の映像音声同期方法。
【請求項4】
前記補正遅延量を決定するステップは、
前記再生装置から受信する前記変更遅延量のうち、値が同一の前記変更遅延量の数が最も多い前記変更遅延量を第1補正遅延量として決定するステップと、
値が同一の前記変更遅延量の数が前記第1補正遅延量の次に多い前記変更遅延量を第2補正遅延量として決定するステップと、を含み、
前記補正遅延量を前記再生装置に送信するステップは、
前記再生装置から前記コーデック情報及び前記機器識別情報を含む前記遅延量の取得要求を受信すると、前記コーデック情報及び前記機器識別情報に対応する前記第1補正遅延量及び前記第2補正遅延量を前記再生装置に送信するステップである、請求項3記載の映像音声同期方法。
【請求項5】
映像及び音声を再生する再生装置であって、
外部の音声出力機器との間で、近距離無線通信によるペアリングを行うペアリング部と、
前記音声出力機器に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置に送信する通信制御部と、
音声データに基づく音声を前記音声出力機器に出力し、前記サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整する再生制御部と、
を備える、再生装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像音声同期方法及び再生装置に関する。
【背景技術】
【0002】
無線音声出力機器が出力する音声と、表示される映像との同期がずれていると、ユーザに不快感を与えるため、精度の高い映像と音声との同期再生方法が求められている。
特許文献1に開示された映像音声出力装置は、遅延時間検出手段と、音声信号遅延手段と、音声信号送信手段と、映像信号出力手段と、を備える。
遅延時間検出手段は、複数の無線音声出力機器に対して無線通信により基準音声信号を送信し、各無線音声出力機器から出力される音声を入力し、各無線音声出力機器の音声出力遅延時間を検出する。
音声信号遅延手段は、各無線音声出力機器の音声出力遅延時間のうちの最大遅延時間と各無線音声出力機器の音声出力遅延時間との差分時間相当だけ各無線音声出力機器へ送信する各音声信号を遅延する。
音声信号送信手段は、音声信号遅延手段により遅延された各音声信号を、無線通信により各無線音声出力機器に送信する。
映像信号出力手段は、音声信号に同期した映像信号を最大遅延時間相当だけ遅延して出力する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010-11274号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示された技術では、検出された音声出力遅延時間と機器情報とが対応付けられて記憶されるが、初めて接続する無線音声出力機器については、音声出力の遅延時間の検出を省略することができず、ユーザの負担になっていた。
【0005】
本発明は上記事情に鑑みてなされたものであり、ユーザの負担を抑えつつ、無線音声出力機器が出力する音声との同期の精度を向上させる映像音声同期方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は、映像及び音声を再生する再生装置が、外部の音声出力機器との間で、近距離無線通信によるペアリングを行うステップと、前記音声出力機器に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置に送信するステップと、音声データに基づく音声を前記音声出力機器に出力し、前記サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整するステップと、を実行する、映像音声同期方法である。
【発明の効果】
【0007】
本発明によれば、ユーザの負担を抑えつつ、音声出力機器に出力させる音声と、再生する映像との同期の精度を向上させることができる。
【図面の簡単な説明】
【0008】
図1】再生システムのシステム構成を示す図である。
図2】第1遅延量テーブルの構成を示す図である。
図3】第2遅延量テーブルの構成を示す図である。
図4】選択画面の一例を示す図である。
図5】車載装置の動作を示すフローチャートである。
図6】車載装置の動作を示すフローチャートである。
図7】サーバ装置の動作を示すフローチャートである。
図8】サーバ装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0009】
[1.再生システム1のシステム構成]
以下、図面を参照して本発明の実施形態について説明する。
図1は、再生システム1のシステム構成を示す図である。
再生システム1は、車両に搭載された車載装置100と、サーバ装置300とを備える。車載装置100とサーバ装置300とは、ネットワーク50に接続される。車載装置100は、再生装置に相当する。車載装置100は、無線通信によりネットワーク50に接続され、サーバ装置300は、有線によりネットワーク50に接続される。
【0010】
車載装置100は、操作部110、表示部120、音声入力部130、音声出力部140、第1無線通信I/F150、第2無線通信I/F160及び車載制御部170を備える。
【0011】
操作部110は、ユーザの操作入力を受け付け、受け付けた操作に対応した操作信号を車載制御部170に出力する。操作部110は、例えば、キー、タッチセンサ、タッチパネルなどを含む入力装置によって実現することができる。
【0012】
表示部120は、車載制御部170の制御に従い、コンテンツ等の映像や、操作画面、通知などの様々な情報を表示する。表示部120は、例えば、LCD(Liquid Crystal Display)、OLED(Organic Electro-Luminescence Display)などを含む表示装置である。
【0013】
音声入力部130は、ユーザの音声の入力を受け付け、音声信号を車載制御部170に出力する。音声入力部130は、例えば、マイクロフォンである。
【0014】
音声出力部140は、車載制御部170の制御に従い、音楽やコンテンツの音声、操作音、通知などを出力する。音声出力部140は、例えば、スピーカである。
【0015】
第1無線通信I/F150は、例えば、Bluetooth(登録商標)等の近距離無線通信の通信規格に対応したインターフェイス回路を備える無線通信デバイスである。
【0016】
第2無線通信I/F160は、アンテナ及びインターフェイス回路を含む通信モジュールを備え、ネットワーク50を介してサーバ装置300と相互にデータ通信を行う。第2無線通信I/F160の通信方式には、例えば、4G(Generation)、5G、LTE(Long Term Evolution)等の移動体通信網を利用した通信規格、又は、Wi-Fi(登録商標)等の無線LAN(Local Area Network)等の無線通信規格が採用される。
【0017】
車載制御部170は、記憶部180と、プロセッサ190と、を備えるコンピュータ装置であり、車載装置100の処理動作を統括的に制御する。
【0018】
記憶部180は、RAM(Random Access Memory)といった揮発性メモリと、ROM(Read Only Memory)といった不揮発性メモリと、を備える。この他に、記憶部180は、SDカードや、USB(Universal Serial Bus)メモリ、SSD(Solid State Drive)等の補助記憶装置を不揮発性メモリとして備えてもよい。
【0019】
RAMは、プロセッサ190の演算領域として使用される。ROMは、プロセッサ190が実行する制御プログラム181や、コンテンツデータ183、車載装置100の各種の設定に関するデータである設定データ185を記憶する。コンテンツデータ183は、映像データ及び音声データを含むデータである。
【0020】
プロセッサ190は、CPU(Central Processing Unit)や、MPU(Micro Processor Unit)により構成される。プロセッサ190は、単一のプロセッサにより構成してもよいし、複数のプロセッサにより構成してもよい。
【0021】
プロセッサ191は、機能ブロックとして、ペアリング部191、通信制御部193、再生制御部195を備える。これらの機能ブロックは、プロセッサ190が、制御プログラム181を実行することで実現される機能である。
【0022】
ペアリング部191は、Bluetoothデバイス200とのペアリングを実行する。本実施形態では、ペアリングしたBluetoothデバイス200が、Bluetoothイヤホン200Aである場合について説明するが、Bluetoothデバイス200は、Bluetoothによる通信機能を備えるデバイスであればよい。Bluetoothイヤホン200Aは、音声出力機器に相当する。
【0023】
ペアリング部191は、ペアリングしたBluetoothイヤホン200Aから、Bluetoothイヤホン200Aを識別するデバイス識別情報を取得する。デバイス識別情報には、例えば、型番や、機種名等が用いられる。
【0024】
また、ペアリング部191は、Bluetoothイヤホン200Aに出力する音声を圧縮するコーデックを決定する。コーデックとは、例えば、SBCや、AAC、aptX、LDAC等の音声データの圧縮変換方式を示す。ペアリング部191は、Bluetoothイヤホン200Aが対応可能であり、かつ、車載装置100が対応可能なコーデックのうち、音質等に基づいて決定した優先順位に従って、コーデックを決定する。
【0025】
通信制御部193は、第1無線通信I/F150を制御して、ペアリングされたBluetoothイヤホン200Aと相互にデータ通信を行う。また、通信制御部193は、第2無線通信I/F160を制御して、ネットワーク50に接続されたサーバ装置300と相互にデータ通信を行う。
【0026】
再生制御部195は、操作部110により選択されたコンテンツデータ183を読み出し、読み出したコンテンツデータに含まれる音声データを読み出し、読み出した音声データを、ペアリング部191が決定したコーデックに従って圧縮する。再生制御部195は、圧縮した音声を、ペアリングされたBluetoothイヤホン200Aに出力する。
【0027】
再生制御部195は、また、読み出したコンテンツデータに含まれる映像データを再生する。再生制御部195は、再生した映像データに基づく映像を表示部120に表示させる。このとき、再生制御部195は、サーバ装置300から受信するリップシンクの遅延量に基づき、音声データに基づく音声がBluetoothイヤホン200Aから出力されるタイミングと、映像データに基づく映像が表示部120に表示されるタイミングとを同期させる。
【0028】
次に、車載制御部170のペアリング時の動作について説明する。
まず、車載制御部170は、ペアリングの実行を指示する操作を操作部110により受け付けると、ペアリング可能なBluetoothデバイス200を検出し、検出したBluetoothイヤホン200Aとのペアリングを実行する。
【0029】
次に、車載制御部170は、ペアリングしたBluetoothイヤホン200Aから、Bluetoothイヤホン200Aを識別するデバイス識別情報を取得する。
【0030】
次に、車載制御部170は、Bluetoothイヤホン200Aに音声データを送信するときに使用するコーデックを決定する。車載制御部170は、Bluetoothイヤホン200Aが対応するコーデックと、車載装置100が対応するコーデックとに共通するコーデックのうち、音質等に基づいて決定した優先順位に従って、コーデックを決定する。
【0031】
次に、車載制御部170は、デバイス識別情報、及び、決定したコーデックの情報であるコーデック情報を含む遅延量の取得要求をサーバ装置300に送信する。遅延量とは、リップシンクの遅延量である。Bluetoothイヤホン200Aを使用して音声を出力する場合、映像での口の動きと、Bluetoothイヤホン200Aから出力される音声とにずれが生じる場合がある。遅延量は、車載装置100が表示部120に表示させる映像の表示タイミングを遅延させる時間を示す。車載制御部170は、表示部120に表示する映像を遅延量に基づいて遅延させることで、Bluetoothイヤホン200Aから出力される音声と、表示部120に表示する映像とを同期させる。
【0032】
車載制御部170は、サーバ装置300から遅延量を受信すると、受信した遅延量をリップシンクの遅延量として設定する。具体的には、車載制御部170は、サーバ装置300から受信した遅延量に基づき、Bluetoothイヤホン200Aが出力する音声に同期するように映像データの再生タイミングを調整する。
【0033】
次に、サーバ装置300の構成について説明する。
サーバ装置300は、有線通信I/F310と、サーバ制御部330と、を備える。
【0034】
有線通信I/F310は、例えば、NIC(Network Interface Card)等のネットワークアダプタを備える。有線通信I/F310は、ネットワーク50に接続された車載装置100と相互にデータ通信を行う。なお、有線通信I/F310に代えて、Wi-Fi規格等のネットワークアダプタを備える無線通信I/Fを用いても良い。
【0035】
サーバ制御部330は、記憶部340と、プロセッサ350とを備えるコンピュータ装置である。
【0036】
記憶部340は、RAMといった揮発性メモリ、ROMといった不揮発性メモリ、及び補助記憶装置を備える。
補助記憶装置は、SSD(Solid State Drive)や、HDD(Hard Disk Drive)により構成される。
RAMは、プロセッサ350の演算領域として使用される。
プロセッサ350が実行する制御プログラム341は、ROM又は補助記憶装置に記憶される。補助記憶装置は、ユーザデータベース343、第1遅延量テーブル345及び第2遅延量テーブル347等を記憶する。以下、データベースをDBと略記する。
【0037】
ユーザDB343は、ユーザ登録したユーザを識別するデータベースである。
ユーザDB343には、ユーザを識別するユーザIDや、パスワード、使用するデバイスを識別するデバイス識別情報等が登録される。
【0038】
図2は、第1遅延量テーブル345の構成を示す図である。
第1遅延量テーブル345は、コーデックごとのデフォルトの遅延量(以下、デフォルト遅延量という)を登録したデータベースである。第1遅延量テーブル345の1レコードには、コーデックの方式を示すコーデック情報と、デフォルト遅延量とが含まれる。
【0039】
図3は、第2遅延量テーブル347の構成を示す図である。第2遅延量テーブル347は、補正遅延量を登録したテーブルである。補正遅延量とは、デフォルト遅延量をダウンロードした車載装置100において、ユーザの操作によって変更された遅延量である。第2遅延量テーブル347の1レコードには、デバイス識別情報と、コーデック情報と、第1補正遅延量及び第2補正遅延量とが含まれる。図3には、コーデックaに対応する第2遅延量テーブル347を示す図である。第2遅延量テーブル347は、コーデックごとに生成される。第1補正遅延量及び第2補正遅延量の詳細については後述する。
【0040】
プロセッサ350は、CPUや、MPUにより構成される。プロセッサ350は、単一のプロセッサにより構成してもよいし、複数のプロセッサにより構成してもよい。
【0041】
サーバ制御部330は、車載装置100からデバイスを識別するデバイス識別情報と、コーデックを示すコーデック情報と、を含む遅延量の取得要求を受信する。
サーバ制御部330は、取得要求を受信すると、受信したデバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が第2遅延量テーブル347に登録されているか否かを判定する。
【0042】
サーバ制御部330は、受信したデバイス識別情報に対応する第1補正遅延量及び第2補正遅延量が第2遅延量テーブル347に登録されていない場合、第1遅延量テーブル345からデフォルト遅延量を取得する。サーバ制御部330は、受信したコーデック情報に対応するデフォルト遅延量を第1遅延量テーブル345から取得し、取得したデフォルト遅延量を、取得要求を受信した車載装置100に送信する。
【0043】
また、サーバ制御部330は、受信したデバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が第2遅延量テーブル347に登録されている場合、第2遅延量テーブル347に登録された第1補正遅延量及び第2補正遅延量を取得する。サーバ制御部330は、取得した第1補正遅延量及び第2補正遅延量を、取得要求を受信した車載装置100に送信する。
【0044】
また、サーバ制御部330は、デフォルト遅延量をダウンロードした車載装置100から変更された遅延量を受信する。
車載装置100は、サーバ装置300からダウンロードしたデフォルト遅延量がユーザの操作により変更されると、変更後のデフォルト遅延量と、デバイス識別情報及びコーデック情報とをサーバ装置300にアップロードする。
サーバ制御部330は、車載装置100から遅延量と、デバイス識別情報と、コーデック情報とを受信すると、車載装置100から受信する遅延量を、コーデック及びデバイス識別情報で区分して記憶部340に記憶させる。
【0045】
その後、サーバ装置300は、コーデック及びデバイス識別情報により分類した各区分での遅延量の数が予め設定された設定値以上になると、この区分での遅延量を決定する。サーバ装置300は、区分において数が最も多い遅延量を、補正遅延量に決定する。また、サーバ装置300は、数が最も多い遅延量を第1補正遅延量として決定し、第1補正遅延量の次に数が多い遅延量を第2補正遅延量として決定してもよい。サーバ装置300は、決定した第1補正遅延量をパターンA、第2補正遅延量をパターンBとして車載装置100に提供する。この他に、サーバ装置300は、各区分での遅延時間の平均値を算出し、算出した平均値を、この区分の補正遅延量として決定してもよい。サーバ装置300は、決定した補正遅延量を第2遅延量テーブル347に登録する。
【0046】
そして、サーバ制御部330は、第2遅延量テーブル347に第1補正遅延量及び第2遅延補正量が登録された区分の遅延量の取得要求を受信すると、この第2遅延量テーブル347に登録された第1補正遅延量及び第2遅延補正量を取得する。サーバ制御部330は、取得した第1補正遅延量及び第2遅延補正量を車載装置100に送信する。
【0047】
図4は、第1補正遅延量及び第2遅延補正量を受信した車載装置100の表示部120に表示される選択画面230を示す図である。
選択画面230には、選択ボタン231、選択ボタン233、再生ボタン235及び決定ボタン237が表示される。
選択ボタン231は、サーバ装置300から受信した第1補正遅延量をパターンAとして選択するボタンである。
選択ボタン233は、サーバ装置300から受信した第2補正遅延量をパターンBとして選択するボタンである。
再生ボタン235は、コンテンツデータに含まれる音声データに基づく音声を再生し、再生した音声をBluetoothデバイス200に出力し、コンテンツデータに含まれる映像データに基づく映像を再生し、再生した映像を表示部120に表示するボタンである。
決定ボタン237は、選択ボタン231により選択された第1補正遅延量、又は選択ボタン233により選択された第2補正遅延量を、リップシンクの遅延量として決定するボタンである。
【0048】
車載制御部170は、選択ボタン231が押下された場合、リップシンクの遅延量として第1補正遅延量を選択する。その後、車載制御部170は、再生ボタン235が押下されると、記憶部180からコンテンツデータ183を読み出し、読み出したコンテンツデータに含まれる音声データを再生して音声を生成し、生成した音声を、決定したコーデックにより圧縮してペアリングされたBluetoothイヤホン200Aに出力する。
【0049】
また、再生制御部195は、読み出したコンテンツデータに含まれる映像データを再生する。再生制御部195は、再生した映像データに基づく映像を表示部120に表示させる。このとき、再生制御部195は、サーバ装置300から受信するリップシンクの第1補正遅延量に基づき、音声データに基づく音声がBluetoothイヤホン200Aから出力されるタイミングと、映像データに基づく映像が表示部120に表示されるタイミングとを同期させる。
ユーザは、Bluetoothイヤホン200Aと、表示部120に表示される映像とを比較して、映像と音声とに同期が取れていると判定した場合には、決定ボタン237を押下する。これにより、車載制御部170は、選択ボタン231により選択された第1補正遅延量を、リップシンクの遅延量に設定する。
【0050】
また、車載制御部170は、選択ボタン233が押下された場合、リップシンクの遅延量として第2補正遅延量を選択する。この後の動作は、選択ボタン231が押下された場合と同様であるため、省略する。この後、ユーザにより決定ボタン237が押下されると、車載制御部170は、選択ボタン231により選択された第2補正遅延量を、リップシンクの遅延量に設定する。
【0051】
[2.車載装置100の動作]
図5は、車載装置100の動作を示すフローチャートである。
図5に示すフローチャートを参照しながら車載装置100の動作を説明する。
【0052】
まず、車載制御部170は、ペアリング実行の操作を受け付けたか否かを判定する(ステップS1)。車載制御部170は、ペアリング実行の操作を受け付けていない場合(ステップS1/NO)、ペアリング実行の操作を受け付けるまで待機する。
【0053】
車載制御部170は、ペアリング実行の操作を受け付けると(ステップS1/YES)、Bluetoothイヤホン200Aとのペアリングを実行する(ステップS2)。次に、車載制御部170は、ペアリングしたBluetoothデバイス200が、遅延量であるデフォルト遅延量、又は、第1補正遅延量及び第2補正遅延量をサーバ装置300から取得済みのデバイスであるか否かを判定する(ステップS3)。
【0054】
車載制御部170は、ペアリングしたBluetoothデバイス200が、遅延量を取得済みであると判定すると(ステップS3/YES)、取得済みの遅延量を記憶部180から読み出し、リップシンクを、読み出した遅延量により設定する(ステップS9)。
【0055】
また、車載制御部170は、ペアリングしたBluetoothデバイス200が、遅延量を取得済みではないと判定すると(ステップS3/NO)、遅延量の取得要求をサーバ装置300に送信する(ステップS4)。車載制御部170は、Bluetoothデバイス200を識別するデバイス識別情報と、決定したコーデックを示すコーデック情報と、を含む遅延量の取得要求をサーバ装置300に送信する(ステップS4)。
【0056】
次に、車載制御部170は、サーバ装置300から遅延量を受信したか否かを判定する(ステップS5)。車載制御部170は、サーバ装置300から遅延量を受信していない場合(ステップS5/NO)、遅延量を受信するまで待機する。車載制御部170は、サーバ装置300から遅延量を受信すると(ステップS5/YES)、受信した遅延量が複数であるか否かを判定する(ステップS6)。つまり、車載制御部170は、サーバ装置300から受信した遅延量がデフォルト遅延量であるのか、第1補正遅延量及び第2補正遅延量であるのかを判定する。
【0057】
車載制御部170は、サーバ装置300から受信した遅延量が1つであると判定すると(ステップS6/NO)、リップシンクの遅延量を、受信した遅延量に設定する(ステップS9)。
また、車載制御部170は、サーバ装置300から受信した遅延量が複数であると判定すると(ステップS6/YES)、図4に示す選択画面を表示部120に表示させる(ステップS7)。
【0058】
次に、車載制御部170は、第1補正遅延量又は第2補正遅延量の選択を受け付けたか否かを判定する(ステップS8)。より詳細には、車載制御部170は、パターンAの選択ボタン231、又は、パターンBの選択ボタン233が選択され、決定ボタン237が押下されたか否かを判定する。
【0059】
車載制御部170は、第1補正遅延量又は第2補正遅延量の選択を受け付けていない場合(ステップS8/NO)、選択を受け付けるまで待機する。また、車載制御部170は、第1補正遅延量又は第2補正遅延量の選択を受け付けると(ステップS8/YES)、リップシンクの遅延量を、選択された第1補正遅延量又は第2補正遅延量に設定する(ステップS9)。
【0060】
図6は、遅延量の設定を変更する変更要求が入力された場合の車載制御部170の動作を示すフローチャートである。図6に示すフローチャートを参照しながら遅延量の設定を変更する変更要求が入力された場合の車載制御部170の動作について説明する。
まず、車載制御部170は、リップシンクの設定を変更する操作を受け付けたか否かを判定する(ステップS11)。車載制御部170は、リップシンクの設定を変更する操作を受け付けていない場合(ステップS11/NO)、リップシンクの設定を変更する操作を受け付けるまで待機する。
【0061】
車載制御部170は、リップシンクの設定を変更する操作を受け付けると(ステップS11/YES)、遅延量を変更する変更操作と、操作を確定させる確定操作と、を受け付けたか否かを判定する(ステップS12)。車載制御部170は、変更操作と、確定操作とを、受け付けていない場合(ステップS12/NO)、リップシンクの設定変更をキャンセルするキャンセル操作を受け付けたか否かを判定する(ステップS13)。
【0062】
車載制御部170は、キャンセル操作を受け付けた場合(ステップS13/YES)、この処理フローを終了する。また、車載制御部170は、キャンセル操作を受け付けていない場合(ステップS13/NO)、ステップS12の判定に戻る。
【0063】
また、車載制御部170は、遅延量を変更する変更操作と、操作を確定させる確定操作と、を受け付けると(ステップS12/YES)、リップシンクの遅延量を、変更した遅延量に設定する(ステップS14)。そして、車載制御部170は、変更された遅延量の送信要求をサーバ装置300に送信する(ステップS15)。
【0064】
次に、車載制御部170は、許可通知をサーバ装置300から受信したか否かを判定する(ステップS16)。車載制御部170は、許可通知をサーバ装置300から受信していない場合(ステップS16/NO)、許可通知を受信するまで待機する。
【0065】
車載制御部170は、許可通知をサーバ装置300から受信すると(ステップS16/YES)、デバイス識別情報と、コーデック情報とを含む遅延量をサーバ装置300に送信し(ステップS17)、この処理フローを終了させる。
【0066】
[3.サーバ装置300の動作]
図7は、遅延量の取得要求を車載装置100から受信した場合のサーバ装置300の動作を示すフローチャートである。
図7に示すフローチャートを参照しながらサーバ装置300の動作について説明する。
まず、サーバ制御部330は、遅延量の取得要求を車載装置100から受信したか否かを判定する(ステップT1)。サーバ制御部330は、遅延量の取得要求を受信していない場合(ステップT1/NO)、遅延量の取得要求を受信するまで待機する。
【0067】
サーバ制御部330は、遅延量の取得要求を受信すると(ステップT1/YES)、受信した取得要求に含まれるデバイス識別情報及びコーデック情報を取得する。そして、サーバ制御部330は、取得したデバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が第2遅延量テーブル347に登録されているか否かを判定する(ステップT2)。
【0068】
サーバ制御部330は、デバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が登録されていない場合(ステップT2/NO)、コーデック情報に対応するデフォルト遅延量を第1遅延量テーブル345から取得する。そして、サーバ制御部330は、取得したデフォルト遅延量を車載装置100に送信する(ステップT3)。
【0069】
また、サーバ制御部330は、デバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が登録されている場合(ステップT2/YES)、この第2遅延量テーブル347に登録される第1補正遅延量及び第2補正遅延量を取得する。サーバ制御部330は、取得した第1補正遅延量及び第2補正遅延量を車載装置100に送信する(ステップT4)。
【0070】
図8は、遅延量の送信要求を車載装置100から受信した場合のサーバ装置300の動作を示すフローチャートである。
図8に示すフローチャートを参照しながらサーバ装置300の動作について説明する。
まず、サーバ制御部330は、遅延量の送信要求を車載装置100から受信したか否かを判定する(ステップT11)。サーバ制御部330は、遅延量の送信要求を車載装置100から受信していない場合(ステップT11/NO)、遅延量の送信要求を受信するまで待機する。
【0071】
サーバ制御部330は、遅延量の送信要求を車載装置100から受信すると(ステップT11/YES)、遅延量の送信を許可する許可通知を車載装置100に送信する(ステップT12)。サーバ制御部330は、デバイス識別情報と、コーデック情報とを含む遅延量を受信したか否かを判定する(ステップT13)。サーバ制御部330は、車載装置100から遅延量を受信していない場合(ステップT13/NO)、遅延量を受信するまで待機する。
【0072】
サーバ制御部330は、デバイス識別情報と、コーデック情報とを含む遅延量を車載装置100から受信すると(ステップT13/YES)、受信した遅延量を、デバイス識別情報と、コーデック情報とに対応づけて記憶部340に記憶させる(ステップT14)。
次に、サーバ制御部330は、ステップT13で受信したデバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が、第2遅延量テーブル347に登録されているか否かを判定する(ステップT15)。
【0073】
サーバ制御部330は、デバイス識別情報及びコーデック情報に対応する第1補正遅延量及び第2補正遅延量が、第2遅延量テーブル347に登録されている場合(ステップT15/YES)、第1補正遅延量及び第2補正遅延量を再度、算出する(ステップT16)。そして、サーバ制御部330は、算出した第1補正遅延量及び第2補正遅延量と、第2遅延量テーブル347に登録された第1補正遅延量及び第2補正遅延量とが異なるか否かを判定し、第1補正遅延量及び第2補正遅延量が更新されたか否かを判定する(ステップT17)。
【0074】
サーバ制御部330は、第1補正遅延量及び第2補正遅延量が更新されていない場合(ステップT17/NO)、第2遅延量テーブル347に登録された値を更新することなく、この処理を終了する。
また、サーバ制御部330は、第1補正遅延量及び第2補正遅延量が更新されている場合(ステップT17/YES)、ステップT16で算出した第1補正遅延量及び第2補正遅延量を第2遅延量テーブル347に登録して第2遅延量テーブル347を更新する(ステップT18)。その後、サーバ制御部330は、この処理フローを終了する。
【0075】
また、サーバ制御部330は、第1補正遅延量及び第2補正遅延量が、第2遅延量テーブル347に登録されていないと判定した場合(ステップT15/NO)、記憶部340に記憶させた遅延量の数が、予め設定された設定数以上になったか否かを判定する(ステップT19)。より詳細には、サーバ制御部330は、同一のデバイス識別情報及びコーデック情報に対応づけて記憶部340に記憶した遅延量の数が設定数以上になったか否かを判定する(ステップT19)。
【0076】
サーバ制御部330は、同一のデバイス識別情報及びコーデック情報に対応づけて記憶部340に記憶した遅延量の数が設定数以上ではない場合(ステップT19/NO)、この処理フローを終了させる。
また、サーバ制御部330は、同一のデバイス識別情報及びコーデック情報で記憶部340に記憶した遅延量の数が設定数以上である場合(ステップT19/YES)、第1補正遅延量及び第2補正遅延量を算出する(ステップT20)。
【0077】
次に、サーバ制御部330は、算出した第1補正遅延量及び第2補正遅延量を第2遅延量テーブル347に登録する(ステップT21)。サーバ制御部330は、算出したデバイス識別情報及びコーデック情報に対応する第2遅延量テーブル347のレコードに、第1補正遅延量及び第2補正遅延量を登録する(ステップT21)。サーバ制御部330は、第2遅延量テーブル347に第1補正遅延量及び第2補正遅延量を登録すると、この処理フローを終了する。
【0078】
[4.本開示のまとめ]
以下、本開示のまとめを記載する。
(構成1)
映像及び音声を再生する再生装置が、
外部の音声出力機器との間で、近距離無線通信によるペアリングを行うステップと、
前記音声出力機器に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置に送信するステップと、
音声データに基づく音声を前記音声出力機器に出力し、前記サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整するステップと、
を実行する、映像音声同期方法。
【0079】
これにより再生装置は、音声データに基づく音声を音声出力機器に出力し、サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整する。従って、リップシンクの遅延量として、精度の高い値をサーバ装置に記憶させておくことで、ユーザに調整を行なわせることなく、音声出力機器に出力させる音声と、再生する映像との同期の精度を向上させることができる。
【0080】
(構成2)
前記再生装置が、
前記遅延量を変更する操作を受け付けるステップと、
前記操作により変更された遅延量である変更遅延量と、前記コーデック情報と、前記ペアリングした前記音声出力機器を識別する機器識別情報とを、前記サーバ装置に送信するステップと、を実行する、構成1記載の映像音声同期方法。
【0081】
これにより、ユーザにより遅延量が変更されると、変更された遅延量である変更遅延量と、コーデック情報と、ペアリングした音声出力機器を識別する機器識別情報とをサーバ装置に登録することができる。従って、再生装置から受信する変更遅延量に基づいて、サーバ装置が、再生装置に提供する遅延量を補正することができる。この補正された遅延量は、他の多数のユーザによって利用されることになる。
【0082】
(構成3)
前記サーバ装置が、
前記再生装置から受信する前記変更遅延量を、前記コーデック情報及び機器識別情報に対応づけて前記サーバ装置が備える記憶部に記憶するステップと、
前記コーデック情報及び機器識別情報に対応づけて記憶する前記変更遅延量の数が予め設定された設定数以上になると、前記変更遅延量に基づいて前記遅延量を補正した補正遅延量を決定するステップと、
決定した前記補正遅延量を、前記コーデック情報及び機器識別情報に対応づけて前記記憶部に記憶させるステップと、
前記再生装置から前記コーデック情報及び前記機器識別情報を含む前記遅延量の取得要求を受信すると、前記コーデック情報及び前記機器識別情報に対応する前記補正遅延量を前記記憶部から取得し、前記補正遅延量を前記再生装置に送信するステップと、
を備える、構成2記載の映像音声同期方法。
【0083】
これにより、同一の機器識別情報の音声出力機器で、同一のコーデックを使用して再生するユーザにより変更された変更遅延量に基づいて、再生装置に提供する補正遅延量を決定することができる。このため、音声出力機器に出力させる音声と、再生する映像との同期の精度をさらに向上させることができる。そして、精度が向上された補正遅延量は、他の多数のユーザによって利用される。
【0084】
(構成4)
前記補正遅延量を決定するステップは、
前記再生装置から受信する前記変更遅延量のうち、値が同一の前記変更遅延量の数が最も多い前記変更遅延量を第1補正遅延量として決定するステップと、
値が同一の前記変更遅延量の数が前記第1補正遅延量の次に多い前記変更遅延量を第2補正遅延量として決定するステップと、を含み、
前記補正遅延量を前記再生装置に送信するステップは、
前記再生装置から前記コーデック情報及び前記機器識別情報を含む前記遅延量の取得要求を受信すると、前記コーデック情報及び前記機器識別情報に対応する前記第1補正遅延量及び前記第2補正遅延量を前記再生装置に送信するステップである、構成3記載の映像音声同期方法。
【0085】
これにより、再生装置のユーザは、自分で調整をすることなく、サーバ装置から提供される第1補正遅延量と、第2補正遅延量とのうち、好みの補正遅延量を、リップシンクの遅延量として設定することができる。
【0086】
(構成5)
映像及び音声を再生する再生装置であって、
外部の音声出力機器との間で、近距離無線通信によるペアリングを行うペアリング部と、
前記音声出力機器に出力する音声の圧縮方式を示すコーデック情報を含むリップシンクの遅延量の取得要求をサーバ装置に送信する通信制御部と、
音声データに基づく音声を前記音声出力機器に出力し、前記サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整する再生制御部と、
を備える、再生装置。
【0087】
これにより再生装置は、音声データに基づく音声を音声出力機器に出力し、サーバ装置から受信する遅延量に基づいて映像データに基づく映像の再生タイミングを調整する。従って、リップシンクの遅延量として、精度の高い値をサーバ装置に記憶させておくことで、ユーザに調整を行なわせることなく、音声出力機器に出力させる音声と、再生する映像との同期の精度を向上させることができる。
【0088】
[5.他の構成]
上述した実施形態、あくまでも本発明の一態様を示すものであり、本発明の主旨を逸脱しない範囲で任意に変形及び応用が可能である。
例えば、図1は、本願発明を理解容易にするために、表示システム1の機能構成を主な処理内容に応じて分類して示した概略図であり、表示システム1の各々の構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素が更に多くの処理を実行するように分類することもできる。また、各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。また、各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
【0089】
また、上述した実施形態では、外部の音声出力機器がBluetoothデバイス200である場合について説明したが、再生装置と音声出力機器との接続は、同様にコーデックによる圧縮が行なわれるHDMI(登録商標)等の有線ケーブルにより接続された、再生装置と音声出力機器との接続においても有用である。例えば、再生装置がテレビであって、音声出力機器が、HDMIケーブルで接続されたサウンドバー等の外部スピーカであってもよい。
【0090】
また、図5及び図6に示したフローチャートの処理単位は、車載制御部170の処理を理解容易にするために、主な処理内容に応じて分割したものである。処理単位の分割の仕方や名称によって、本願発明が制限されることはない。車載制御部170の処理は、処理内容に応じて、更に多くの処理単位に分割することもできる。また、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、フローチャートの処理順序も、図示した例に限られるものではない。また、図7及び図8に示すサーバ制御部330の処理についても同様である。
【符号の説明】
【0091】
100 車載装置
193 通信制御部
195 再生制御部
200 Bluetoothイヤホン200A
300 サーバ装置
図1
図2
図3
図4
図5
図6
図7
図8