特開2022-3555(P2022-3555A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 華為技術有限公司の特許一覧
特開2022-3555VRマルチメディアの経験品質を決定するための方法および装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2022-3555(P2022-3555A)
(43)【公開日】2022年1月11日
(54)【発明の名称】VRマルチメディアの経験品質を決定するための方法および装置
(51)【国際特許分類】
   G06T 19/00 20110101AFI20211217BHJP
   H04N 21/442 20110101ALI20211217BHJP
【FI】
   G06T19/00
   H04N21/442
【審査請求】有
【請求項の数】32
【出願形態】OL
【外国語出願】
【全頁数】88
(21)【出願番号】特願2021-153774(P2021-153774)
(22)【出願日】2021年9月22日
(62)【分割の表示】特願2019-561969(P2019-561969)の分割
【原出願日】2017年12月31日
(31)【優先権主張番号】201710318426.5
(32)【優先日】2017年5月8日
(33)【優先権主張国】CN
(71)【出願人】
【識別番号】503433420
【氏名又は名称】華為技術有限公司
【氏名又は名称原語表記】HUAWEI TECHNOLOGIES CO.,LTD.
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100091214
【弁理士】
【氏名又は名称】大貫 進介
(72)【発明者】
【氏名】リー,イー
(72)【発明者】
【氏名】ユイ,ハオピーン
【テーマコード(参考)】
5B050
5C164
【Fターム(参考)】
5B050BA09
5B050BA11
5B050CA07
5B050DA10
5B050EA07
5B050EA18
5B050EA27
5B050FA02
5B050FA10
5B050GA08
5C164UA31S
5C164UA45S
5C164UB41P
5C164UB81S
5C164YA11
5C164YA12
(57)【要約】      (修正有)
【課題】VRマルチメディアの経験品質を決定するための方法及び装置を提供する。
【解決手段】方法は、VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ及び第三の感覚パラメータを得る段階を含む。第一の感覚パラメータ、第二の感覚パラメータ及び第三の感覚パラメータは、少なくとも二つの同じ知覚次元に従って別個にサンプリングを実行することによって得られ、それぞれ、忠実度経験、享受経験及び対話経験に影響するパラメータである、方法はさらに、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ及び第三の感覚パラメータに基づいてVRマルチメディアのMOSを決定する段階を含む。
【選択図】図4
【特許請求の範囲】
【請求項1】
仮想現実VRマルチメディアの経験品質を決定する方法であって、当該方法は:
VRマルチメディアを再生するプロセスにおいて、少なくとも一つの知覚次元に従ってサンプリングを実行して前記VRマルチメディアの第一の感覚パラメータおよび第二の感覚パラメータを得る段階であって、前記少なくとも一つの知覚次元は視覚次元を含む、段階と;
少なくとも二つの知覚次元に従ってサンプリングを実行して前記VRマルチメディアの第三の感覚パラメータを得る段階であって、前記少なくとも二つの知覚次元は視覚次元およびフィードバック次元を含む、段階と;
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて前記VRマルチメディアの平均オピニオン・スコアMOSを決定する段階とを含む、
方法。
【請求項2】
前記第一の感覚パラメータは、前記少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られる、請求項1に記載の方法。
【請求項3】
前記第一の感覚パラメータは忠実度経験に影響し、前記第二の感覚パラメータは享受経験に影響し、前記第三の感覚パラメータは対話経験に影響する、請求項1に記載の方法。
【請求項4】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて前記VRマルチメディアの平均オピニオン・スコアMOSを決定する前記段階は:
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し;
前記忠実度経験スコア、前記享受経験スコア、および前記対話経験スコアを前記MOSを計算するための第一入力パラメータとして決定することを含む、
請求項1に記載の方法。
【請求項5】
前記忠実度経験スコア、前記享受経験スコア、および前記対話経験スコアを、事前設定されたVRマルチメディアMOS計算モデルを使って前記VRマルチメディアの前記MOSを計算するための第一入力パラメータとして設定ことをさらに含む、
請求項4記載の方法。
【請求項6】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合に、現在時刻に対応する前記第一の感覚パラメータに基づいて前記VRマルチメディアの前記忠実度経験スコアを決定することであって、前記ネットワーク・メディア・イベントはネットワーク条件の変化により生起するイベントであり、前記対話的メディア・イベントはユーザーとの対話により生起するイベントである、ことと;
現在時刻において生起している前記イベントが前記ネットワーク・メディア・イベントである場合、現在時刻に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定し、前記VRマルチメディアの前記対話経験スコアを初期値に設定すること;または
現在時刻において生起している前記イベントが前記対話的メディア・イベントである場合、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定し、前記VRマルチメディアの前記享受経験スコアを初期値に設定することとを含む、
請求項4記載の方法。
【請求項7】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する前記第一の感覚パラメータに基づいて前記VRマルチメディアの前記忠実度経験スコアを決定し、現在時刻に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することを含む、
請求項4記載の方法。
【請求項8】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、前記ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する前記第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて、前記VRマルチメディアの前記享受経験スコアを決定し、前記VRマルチメディアの前記対話経験スコアを初期値に設定すること;
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、前記対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定し、前記VRマルチメディアの前記享受経験スコアを初期値に設定すること;または
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記ネットワーク・メディア・イベントおよび/または前記対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する前記第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて、前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することを含み、
対応して、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを使って前記VRマルチメディアの前記MOSを計算することは:
現在時刻より前に最近決定された前記忠実度経験スコアと、現在時刻において決定された前記享受経験スコアおよび前記対話経験スコアとを前記入力パラメータとして使用して、前記事前設定されたVRマルチメディアMOS計算モデルを使って前記VRマルチメディアの前記MOSを計算することを含む、
請求項4記載の方法。
【請求項9】
前記第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第一の継続時間を含み、前記第一の継続時間は前記ネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定することは:
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる前記第一の継続時間、前記現在決定された忠実度経験スコア、および前記前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアの前記MOSを入力パラメータとして使って、前記再生イベントに対応する享受経験スコア計算モデルを使って前記VRマルチメディアの前記享受経験スコアを計算すること;
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型がフリーズ・イベントである場合、現在時刻に対応する前記第二の感覚パラメータに含まれる前記第一の継続時間、前記現在決定された忠実度経験スコア、および前記前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアの前記MOSを前記入力パラメータとして使って、前記フリーズ・イベントに対応する享受経験スコア計算モデルを使って前記VRマルチメディアの前記享受経験スコアを計算すること;または
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型がメディア品質変化イベントである場合、前記現在決定された忠実度経験スコアと、現在時刻より前に最近決定された忠実度経験スコアとの間の差を、前記VRマルチメディアの前記享受経験スコアとして決定することを含む、
請求項6または7記載の方法。
【請求項10】
前記第三の感覚パラメータは、対話的メディア・イベントの型および第二の継続時間を含み、前記第二の継続時間は前記対話的メディア・イベントの継続時間であり;
現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する前記第三の感覚パラメータに含まれる前記対話的メディア・イベントの前記型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する前記第三の感覚パラメータに含まれる前記対話的メディア・イベントの前記型および前記第二の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いて前記VRマルチメディアの前記対話経験スコアを計算することを含む、
請求項7または8記載の方法。
【請求項11】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する前記第一の感覚パラメータに基づいて前記VRマルチメディアの前記忠実度経験スコアを決定することと;
現在時刻において生起している前記イベントが前記ネットワーク・メディア・イベントである場合、現在時刻点に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定し、前記VRマルチメディアの前記対話経験スコアを初期値に設定する;または
現在時刻において生起している前記イベントが前記対話的メディア・イベントである場合、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定し、前記VRマルチメディアの享受経験スコアを初期値に設定することとを含む、
請求項4記載の方法。
【請求項12】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する前記第一の感覚パラメータに基づいて前記VRマルチメディアの前記忠実度経験スコアを決定し、現在時刻に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することを含む、
請求項4記載の方法。
【請求項13】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて、前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、前記ネットワーク・メディア・イベントが終了するか、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する前記第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて前記VRマルチメディアの前記享受経験スコアを決定し、前記VRマルチメディアの前記対話経験スコアを初期値に設定すること;
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、前記対話的メディア・イベントが終了するか、または、前記単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定し、前記VRマルチメディアの前記享受経験スコアを初期値に設定すること;または
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記単位時間期間が終了することが現在時刻において検出される場合、または、現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記ネットワーク・メディア・イベントおよび/または前記対話的メディア・イベントが終了することが現在時刻において検出され、前記単位時間期間が終了することは検出されない場合、現在時刻に対応する前記第二の感覚パラメータ、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて、前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することとを含み、
対応して、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いて前記VRマルチメディアの前記MOSを計算することは:
現在の単位時間期間において現在時刻より前に最近決定された前記忠実度経験スコアと、現在時刻において決定された前記享受経験スコアおよび前記対話経験スコアとを前記入力パラメータとして使って、前記事前設定されたVRマルチメディアMOS計算モデルを用いて前記VRマルチメディアの前記MOSを計算することを含む、
請求項4記載の方法。
【請求項14】
前記第一の感覚パラメータは、視覚次元におけるビデオ属性情報およびビデオ・パラメータならびに聴覚次元におけるオーディオ属性情報およびオーディオ・パラメータを含み;
現在時刻に対応する前記第一の感覚パラメータに基づいて前記VRマルチメディアの前記忠実度経験スコアを決定することは:
複数の記憶された視覚的忠実度経験スコア計算モデルから、現在時刻に対応する前記第一の感覚パラメータに含まれる前記ビデオ属性情報に対応する視覚的忠実度経験スコア計算モデルを選択し;
現在時刻に対応する前記第一の感覚パラメータに含まれる前記ビデオ・パラメータを入力パラメータとして使って、選択された視覚的忠実度経験スコア計算モデルを用いて現在時刻における視覚的忠実度経験スコアを計算し;
複数の記憶された聴覚的忠実度経験スコア計算モデルから、現在時刻に対応する前記第一の感覚パラメータに含まれる前記オーディオ属性情報に対応する聴覚的忠実度経験スコア計算モデルを選択し;
現在時刻の前記第一の感覚パラメータに含まれる前記オーディオ・パラメータを入力パラメータとして使って、選択された聴覚的忠実度経験スコア計算モデルを用いて現在時刻における聴覚的忠実度経験スコアを計算し;
前記VRマルチメディアの前記忠実度経験スコアを、現在時刻における前記視覚的忠実度経験スコアおよび前記聴覚的忠実度経験スコアに基づいて決定することを含む、
請求項6、7、11または12記載の方法。
【請求項15】
前記第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第三の継続時間を含み、前記第三の継続時間は、単位時間期間における前記ネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する前記第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて、前記VRマルチメディアの前記享受経験スコアを決定することは:
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型が再生イベントである場合、現在時刻に対応する前記第二の感覚パラメータに含まれる前記第三の継続時間、現在決定された忠実度経験スコア、および前記前の単位時間期間の終了時における前記VRマルチメディアの前記MOSを入力パラメータとして使って、前記再生イベントに対応する享受経験スコア計算モデルを用いて前記VRマルチメディアの前記享受経験スコアを計算すること;
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型がフリーズ・イベントである場合、現在時刻に対応する前記第二の感覚パラメータに含まれる前記第三の継続時間、現在決定された忠実度経験スコア、および前記前の単位時間期間の終了時における前記VRマルチメディアの前記MOSを入力パラメータとして使って、前記フリーズ・イベントに対応する享受経験スコア計算モデルを用いて前記VRマルチメディアの前記享受経験スコアを計算すること;または
現在時刻に対応する前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型がメディア品質変化イベントである場合、現在決定された忠実度経験スコアと、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコアとの間の差を、前記VRマルチメディアの前記享受経験スコアとして決定することとを含む、
請求項11または12記載の方法。
【請求項16】
前記第三の感覚パラメータは、対話的メディア・イベントの型および第四の継続時間とを含み、前記第四の継続時間は、前記単位時間期間における前記対話的メディア・イベントの継続時間であり;
現在時刻に対応する前記第三の感覚パラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する前記第三の感覚パラメータに含まれる前記対話的メディア・イベントの前記型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する前記第三の感覚パラメータに含まれる前記対話的メディア・イベントの前記型および前記第四の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いて前記VRマルチメディアの前記対話経験スコアを計算することを含む、
請求項12または13記載の方法。
【請求項17】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータに基づいて前記VRマルチメディアの平均オピニオン・スコアMOSを決定することは:
前記少なくとも二つの知覚次元のそれぞれについて、前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し;
前記知覚次元における前記VRマルチメディアの前記忠実度経験スコア、前記享受経験スコア、および前記対話経験スコアを入力パラメータとして使って、前記知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、前記知覚次元における前記VRマルチメディアの経験スコアを計算し;
前記少なくとも二つの知覚次元における前記VRマルチメディアの経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いて前記VRマルチメディアの経験スコアを計算することを含む、
請求項1記載の方法。
【請求項18】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する、前記第一の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの前記忠実度経験スコアを決定することと;
現在時刻において生起している前記イベントが前記ネットワーク・メディア・イベントである場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、前記知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記対話経験スコアを初期値に設定するか;または
現在時刻において生起している前記イベントが前記対話的メディア・イベントである場合、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを初期値に設定することとを含む、
請求項17記載の方法。
【請求項19】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する、前記第一の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記忠実度経験スコアを決定し、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、前記知覚次元における現在決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することを含む、
請求項17記載の方法。
【請求項20】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、前記ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された前記知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記対話経験スコアを初期値に設定すること;
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、前記対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを初期値に設定すること;または
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記ネットワーク・メディア・イベントおよび/または前記対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された前記知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時における前記VRマルチメディアのMOSに基づいて、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定することとを含み;
対応して、前記知覚次元における前記VRマルチメディアの前記忠実度経験スコア、前記享受経験スコア、および前記対話経験スコアを入力パラメータとして使って、前記知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、前記知覚次元における前記VRマルチメディアの経験スコアを計算することは:
現在時刻より前に最近決定された前記知覚次元における前記忠実度経験スコアと、現在時刻において決定される前記知覚次元における前記享受経験スコアおよび前記対話経験スコアとを前記入力パラメータとして使って、前記知覚次元における前記事前設定されたVRマルチメディア経験スコア計算モデルを用いて、前記知覚次元における前記VRマルチメディアの前記経験スコアを計算することを含む、
請求項17記載の方法。
【請求項21】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する、前記第一の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの前記忠実度経験スコアを決定することと;
現在時刻において生起している前記イベントが前記ネットワーク・メディア・イベントである場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、前記知覚次元における現在決定された忠実度経験スコア、および前回の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記対話経験スコアを初期値に設定するか;または
現在時刻において生起している前記イベントが前記対話的メディア・イベントである場合、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを初期値に設定することとを含む、
請求項17記載の方法。
【請求項22】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する、前記第一の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記忠実度経験スコアを決定し、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、前記知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記VRマルチメディアの前記対話経験スコアを決定することを含む、
請求項17記載の方法。
【請求項23】
前記VRマルチメディアの前記第一の感覚パラメータ、前記第二の感覚パラメータ、および前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、前記ネットワーク・メディア・イベントが終了するか、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記対話経験スコアを初期値に設定すること;
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、前記対話的メディア・イベントが終了するか、または、前記単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定し、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを初期値に設定すること;または
現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記単位時間期間が終了することが現在時刻において検出される場合、または、現在時刻が前記VRマルチメディアの前記第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、前記ネットワーク・メディア・イベントおよび/または前記対話的メディア・イベントが終了することが現在時刻において検出され、前記単位時間期間が終了することは検出されない場合、現在時刻に対応する、前記第二の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在の単位時間期間において現在時刻より前に最近決定された前記知覚次元における忠実度経験スコア、および、前の単位時間期間の終了時における前記VRマルチメディアのMOSに基づいて、前記知覚次元における前記VRマルチメディアの前記享受経験スコアを決定し、現在時刻に対応する、前記第三の感覚パラメータにおいて前記知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて前記知覚次元における前記VRマルチメディアの前記対話経験スコアを決定することとを含み、
対応して、前記知覚次元における前記VRマルチメディアの前記忠実度経験スコア、前記享受経験スコア、および前記対話経験スコアを入力パラメータとして使用して、前記知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて前記知覚次元における前記VRマルチメディアの経験スコアを計算することは:
現在の単位時間期間において現在時刻より前に最近決定された前記知覚次元における前記忠実度経験スコアと、現在時刻において決定された前記享受経験スコアおよび前記対話経験スコアとを前記入力パラメータとして使って、前記知覚次元における前記事前設定されたVRマルチメディア経験スコア計算モデルを用いて前記知覚次元における前記VRマルチメディアの前記経験スコアを計算することを含む、
請求項17記載の方法。
【請求項24】
前記第一の感覚パラメータに含まれる視覚次元におけるビデオ属性情報は、投影フォーマット、ステレオ度、および自由度のうちの少なくとも一つを含み、前記第一の感覚パラメータに含まれる視覚次元におけるビデオ・パラメータは、全視野解像度および視野のうちの少なくとも一つを含み、前記第一の感覚パラメータに含まれる聴覚次元におけるオーディオ属性情報は、オーディオ・ステレオ度を含む、請求項1ないし23のうちいずれか一項記載の方法。
【請求項25】
前記第二の感覚パラメータは、ネットワーク・メディア・イベントの型および対応する継続時間を含み、前記対応する継続時間は前記ネットワーク・メディア・イベントの継続時間である、請求項1、4または17記載の方法。
【請求項26】
前記第二の感覚パラメータに含まれる前記ネットワーク・メディア・イベントの前記型は、再生イベント、フリーズ・イベント、またはメディア品質変化イベントを含む、請求項25記載の方法。
【請求項27】
前記第三の感覚パラメータは、対話的メディア・イベントの型および対応する継続時間を含み、前記対応する継続時間は前記対話的メディア・イベントの継続時間である、請求項1、4または17記載の方法。
【請求項28】
前記第三の感覚パラメータに含まれる前記対話的メディア・イベントの前記型は、初期ロード・イベント、対話的ロード・イベント、またはメディア・ヒステリシス・イベントを含み、前記初期ロード・イベントは、前記VRマルチメディアが最初に再生されるときのロード・イベントであり、前記対話的ロード・イベントは、前記VRマルチメディアとユーザーとの間の対話によって生じるロード・イベントであり、前記メディア・ヒステリシス・イベントは、ユーザー・アクションに起因する、メディア更新とアクションとの間で生じるヒステリシス・イベントである、請求項10、16または27記載の方法。
【請求項29】
前記少なくとも二つの知覚次元はフィードバック次元をさらに含み、フィードバック次元は、視覚次元と、前記少なくとも二つの知覚次元における視覚次元とは別の次元との間の同期および関連付け関係であり、ここで、
前記第一の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、時間同期度、方位角同期度、および力フィードバック・インジケーターのうちの少なくとも一つを含み、前記時間同期度は視覚次元と聴覚次元との間の時間同期度であり、前記方位角同期度は視覚次元と聴覚次元との間の方位角同期度であり、前記力フィードバック・インジケーターは、視覚次元にマッチする力フィードバックがあるかどうかを示すために使用され;
前記第二の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、第一の同期度変化インジケーター、第二の同期度変化インジケーター、および第三の同期度変化インジケーターのうちの少なくとも一つを含み、前記第一の同期度変化インジケーターは、前記時間同期度が変化するか否かを示すために使用され、前記第二の同期度変化インジケーターは、前記方位角同期度が変化するか否かを示すために使用され、前記第三の同期度変化インジケーターは、視覚次元と前記力フィードバックとの間の時間同期度が変化するか否かを示すために使用され;
前記第三の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、ヒステリシス・インジケーターを含み、前記ヒステリシス・インジケーターは、前記力フィードバックとアクションとの間でヒステリシス・イベントが生起するか否かを示すために使用される、
請求項1ないし28のうちいずれか一項記載の方法。
【請求項30】
前記VRマルチメディアの平均オピニオン・スコアMOSを決定した後、当該方法はさらに:
事前設定された試験期間内に計算を通じて得られる前記VRマルチメディアのすべてのMOSの平均値を決定することを含み、ここで、前記事前設定された試験期間は、前記VRマルチメディアの経験品質を決定する期間である、請求項1ないし29のうちいずれか一項記載の方法。
【請求項31】
前記VRマルチメディアの平均オピニオン・スコアMOSを決定した後、当該方法はさらに:
事前設定された試験期間内に計算を通じて得られる前記VRマルチメディアのすべてのMOSの平均二乗誤差を決定することを含み、前記平均二乗誤差は、前記VRマルチメディアのMOSの安定性を示すために使用される、請求項1ないし30のうちいずれか一項記載の方法。
【請求項32】
仮想現実VRマルチメディアの経験品質を決定する装置であって、当該装置は請求項1ないし31のうちいずれか一項記載の方法を実行するよう構成されている、装置。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、仮想現実(Virtual Reality、VR)技術の分野に関し、特に、VRマルチメディアの経験品質を決定するための方法および装置に関する。
【背景技術】
【0002】
VRマルチメディアは、複数のカメラとサウンド捕捉装置を使って現実の環境のパノラマ的な捕捉および再生を行なう、またはコンピュータ・アニメーション(Computer Animation、CG)または仮想エンジンのような技術を使って現実の環境に匹敵する仮想環境を生成して、三次元空間における表示機能を実現するマルチメディアである。ユーザーがVRマルチメディアを見るとき、ユーザーは、VRマルチメディアを再生するために使用される端末をVR装置内に配置し、ユーザーが着用するVR装置を使用することにより、上下左右などの任意の角度からビデオ画像を観察し、VRマルチメディアと同期して再生されるオーディオを聴くことができる。VRマルチメディアを楽しむプロセスにおいて、ユーザーは、現実の環境と同様に、VRマルチメディアの仮想環境に完全に没入しうる。さらに、VRマルチメディアによって提示されるビデオ画像と、同期して再生されるオーディオは、ユーザーの身体の姿勢または行動が変わると変化する。具体的には、ユーザーの身体の姿勢または行動が変化すると、端末は対応する挙動パラメータを取得し、該行動パラメータを処理することができる。よって、VRマルチメディアによって提示されるビデオ画像および同期して再生されるオーディオは、処理結果に基づいてリアルタイムで調整される。よって、従来のマルチメディアとは異なり、VRマルチメディアは、対話、没入、および複数感覚の統合の特徴をもつことがわかる。実際の応用では、VRマルチメディアのユーザー経験を改善するために、VRマルチメディアのユーザー経験品質が判別される必要がある。
【0003】
関連技術では、従来のマルチメディアの経験品質を決定する方法が、VRマルチメディアの経験品質を決定するために使用される。具体的には、一方では、平均オピニオン・スコア・ビデオ(Mean Opinion Score Video、MOSV)が、VRマルチメディアのコンテンツの複雑さ、ピクセル当たりのビットレート、符号化型、解像度、ビデオ一時停止レート、およびパケット損失レートなどのパラメータに基づく計算を通じて得られる。他方、平均オピニオン・スコア・オーディオ(Mean Opinion Score Audio、MOSA)は、オーディオのビットレート、符号化型、およびパケット損失レートなどのパラメータに基づく計算を通じて得られる。MOSVおよびMOSAを計算を通じて得た後、異なる重みに基づいてMOSVおよびMOSAに対して重み付け演算が実行される。このようにして、VRマルチメディアの平均オピニオン・スコアが得られ、計算を通じて得られた平均オピニオン・スコアに基づいてVRマルチメディアの経験品質が決定される。
【0004】
しかしながら、VRマルチメディアは従来のマルチメディアとは異なる特徴をもつので、従来のマルチメディアの経験品質を決定する方法に従ってVRマルチメディアの経験品質を決定する精度は比較的低く、よって、VRマルチメディアのユーザー経験をよりよく改善することはできない。
【発明の概要】
【0005】
関連技術におけるVRマルチメディアの経験品質を決定する精度が比較的低いという問題を解決するために、本願は、VRマルチメディアの経験品質を決定するための方法および装置を提供する。技術的解決策は以下の通りである。
【0006】
第一の側面によれば、VRマルチメディアの経験品質を決定するための方法が提供され、本方法は:
VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを得る段階であって、
第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータは、少なくとも二つの同じ知覚次元に従って別個にサンプリングを実行することによって得られ、前記少なくとも二つの知覚次元は、視覚次元および聴覚次元を含み、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータは、それぞれ、忠実度経験、享受経験、および対話経験に影響するパラメータである、段階と;
VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいてVRマルチメディアの平均オピニオン・スコアMOSを決定する段階とを含む。
【0007】
視覚次元および聴覚次元に加えて、前記少なくとも二つの知覚次元は、フィードバック次元、触覚次元および嗅覚次元などの他の次元をさらに含んでもよいことを注意しておくべきである。さらに、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータはすべて、同じ知覚次元に基づいてサンプリングされる。さらに、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータはすべて、少なくとも一つのパラメータを含み、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータをサンプリングするためのサンプリング周期は、同じであってもよく、または異なっていてもよい。
【0008】
本願では、VRマルチメディアのMOSは、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて決定されるが、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータは、それぞれ、忠実度経験、享受経験、および対話経験に影響するパラメータである。すなわち、本願においてVRマルチメディアのMOSが決定されるとき、従来のマルチメディアとは異なるVRマルチメディアの没入および対話などの特徴が考慮される。よって、計算を通じて得られるVRマルチメディアのMOSはより正確である。
【0009】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいてVRマルチメディアの平均オピニオン・スコアMOSを決定することは:
VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し;
決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを使ってVRマルチメディアのMOSを計算することを含む。
【0010】
VRマルチメディアのMOSが、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて決定されるとき、まず、第一の感覚パラメータに基づいて忠実度経験スコアが決定されてもよく、第二の感覚パラメータに基づいて享受経験スコアが決定されてもよく、第三の感覚パラメータに対話経験スコアが基づいて決定されてもよく、次いで、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアが入力パラメータとして使用されて、VRマルチメディアのMOSが、事前設定されたVRマルチメディアMOS計算モデルを使用することによって、計算を通じて得られる。
【0011】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合に、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定することであって、ネットワーク・メディア・イベントはネットワーク条件の変化により生起するイベントであり、対話的メディア・イベントはユーザーとの対話により生起するイベントである、ことと;
現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定すること;または
現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定することを含む。
【0012】
第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータのサンプリング周期が異なるため、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、忠実度経験スコア、享受経験スコア、および対話スコアを決定する機会も異なる。加えて、VRマルチメディアのMOSが決定されるとき、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアは、VRマルチメディアを再生するプロセスで生起するイベントを単位として使用するか、または、事前設定された単位時間期間を単位として使用することにより、計算されうる。
【0013】
VRマルチメディアのMOSがイベントを単位として用いて決定されるとき、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントが生起しているが、対話的メディア・イベントは同時に生起していない場合、忠実度経験スコアは、サンプリングを通じて得られた第一の感覚パラメータに基づいて決定されうる。享受経験スコアは忠実度経験スコアに関係しているため、忠実度経験スコアが更新されると、享受経験スコアも対応して更新される。よって、忠実度経験スコアが計算を通じて得られた後に、享受経験スコアが決定されてもよい。対話的メディア・イベントは生起していないため、対話経験スコアは計算されなくてもよい。
【0014】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することを含む。
【0015】
イベントを単位として使ってVRマルチメディアのMOSが決定されるとき、現在時刻がVRマルチメディアの第一感覚パラメータのサンプリング時刻に到達し、かつ、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが同時に生起している場合、端末は、忠実度経験スコアおよび享受経験スコアに加えて、さらに対話経験スコアを計算する必要があることを注意しておくべきである。
【0016】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定すること;
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定すること;または
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することを含み、
対応して、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを使ってVRマルチメディアのMOSを計算することは:
現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアとを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを使ってVRマルチメディアのMOSを計算することを含む。
【0017】
VRマルチメディアのMOSがイベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合には、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起しているかどうか、および現在時刻が生起しているイベントに対応する終了時刻であるかどうかに依存して、享受経験スコアおよび対話経験スコアを決定し、さらにVRマルチメディアのMOSを決定するために異なる方法を使うことができる。現在時刻は第一の感覚パラメータのサンプリング時間ではないため、忠実度経験スコアは計算されない。よって、享受経験スコアが決定されると、現在時刻より前に最近決定された忠実度経験スコアが入力パラメータとしてサンプリングされてもよい。
【0018】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第一の継続時間を含み、第一の継続時間は該ネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定することは:
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSを入力パラメータとして使って、再生イベントに対応する享受経験スコア計算モデルを使ってVRマルチメディアの享受経験スコアを計算すること;
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSを入力パラメータとして使って、フリーズ・イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算すること;または
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がメディア品質変化イベントである場合、現在決定された忠実度経験スコアと、現在時刻より前に最近決定された忠実度経験スコアとの間の差を、VRマルチメディアの享受経験スコアとして決定することを含む。
【0019】
第二の感覚パラメータが、ネットワーク・メディア・イベントの型と対応する第一の継続時間とを含むことを注意しておくべきである。複数の型のネットワーク・メディア・イベントがありうるので、異なるネットワーク・メディア・イベントについては、異なる計算モデルが使用されて、対応する享受経験スコアを決定してもよい。
【0020】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型および第二の継続時間を含み、第二の継続時間は該対話的メディア・イベントの継続時間であり;
現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型および第二の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いてVRマルチメディアの対話経験スコアを計算することを含む。
【0021】
第三の感覚パラメータは、対話的メディア・イベントの型および対応する第二の継続時間を含むことを注意しておくべきである。複数の型の対話的メディア・イベントがありうるので、異なる対話的メディア・イベントについては、異なる計算モデルが使用されて、対応する対話経験スコアを決定してもよい。
【0022】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定することと;
現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻点に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時のVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定する;または
現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定することとを含む。
【0023】
VRマルチメディアのMOSが決定されるとき、単位時間期間がさらに単位として使用されうることを注意しておくべきである。この場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起していない場合、忠実度経験スコアは、サンプリングを通じて得られる第一の感覚パラメータに基づいて決定されうる。享受経験スコアは忠実度経験スコアに関係しているので、忠実度経験スコアが更新されると、享受経験スコアも対応して更新される。よって、忠実度経験スコアが計算を通じて得られた後に、享受経験スコアが決定されてもよい。さらに、前の単位イベント期間の終わりにおけるVRマルチメディアのMOSが、享受経験スコアを計算するための入力パラメータとして使用されてもよい。これは、VRマルチメディアの以前の再生の影響を考慮することと等価であり。よって、より包括的で、より正確である。対話的メディア・イベントは生起していないため、対話経験スコアは計算されなくてもよい。
【0024】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することを含む。
【0025】
VRマルチメディアのMOSが単位時間期間を単位として使って決定されるとき、現在時刻がVRマルチメディアの第一感覚パラメータのサンプリング時刻に到達し、現在時刻において同時にネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合には、端末は、忠実度経験スコアおよび享受経験スコアに加えて、さらに対話経験スコアを計算する必要があることを注意しておくべきである。
【0026】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了するか、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時のVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定すること;
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了するか、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定すること;または
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、単位時間期間が終了することが現在時刻において検出される場合、または、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、単位時間期間が終了することは検出されない場合、現在時刻に対応する第二の感覚パラメータ、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することとを含み、
対応して、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算することは:
現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコア、および現在時刻において決定される享受経験スコアおよび対話経験スコアを、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算するための入力パラメータとして使用することを含む。
【0027】
VRマルチメディアのMOSが単位時間期間を単位として用いて決定される場合、現在時刻がVRマルチメディアの第一感覚パラメータのサンプリング時刻に達しない場合、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しているかどうか、現在時刻が生起しているイベントに対応する終了時間であるかどうか、および現在時刻が単位時間期間の終了時間であるかどうかに依存して、享受経験スコアおよび対話経験スコアを決定し、さらにVRマルチメディアのMOSを決定するために異なる方法を用いることができる。現在時刻は第一の感覚パラメータのサンプリング時間ではないため、忠実度経験スコアは計算されない。よって、享受経験スコアが決定されるとき、現在時刻より前に最近決定された忠実度経験スコアが入力パラメータとしてサンプリングされてもよい。
【0028】
任意的に、第一の感覚パラメータは、視覚次元におけるビデオ属性情報およびビデオ・パラメータならびに聴覚次元におけるオーディオ属性情報およびオーディオ・パラメータを含み;
現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定することは:
記憶された複数の視覚的忠実度経験スコア計算モデルから、現在時刻に対応する第一の感覚パラメータに含まれるビデオ属性情報に対応する視覚的忠実度経験スコア計算モデルを選択し;
現在時刻に対応する第一の感覚パラメータに含まれるビデオ・パラメータを入力パラメータとして使って、選択された視覚的忠実度経験スコア計算モデルを用いて現在時刻における視覚的忠実度経験スコアを計算し;
複数の記憶された聴覚的忠実度経験スコア計算モデルから、現在時刻に対応する第一の感覚パラメータに含まれるオーディオ属性情報に対応する聴覚的忠実度経験スコア計算モデルを選択し;
現在時刻の第一の感覚パラメータに含まれるオーディオ・パラメータを入力パラメータとして使って、選択された聴覚的忠実度経験スコア計算モデルを用いて現在時刻における聴覚的忠実度経験スコアを計算し;
VRマルチメディアの忠実度経験スコアを、現在時刻における視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアに基づいて決定することを含む。
【0029】
第一の感覚パラメータは、視覚次元における視覚的属性情報およびビデオ・パラメータならびに聴覚次元における聴覚的属性情報および聴覚パラメータを含んでもよいことを注意しておく。視覚的忠実度経験スコアは、視覚的属性情報およびビデオ・パラメータに基づいて決定されてもよい。聴覚的忠実度経験スコアは、聴覚的属性情報および聴覚パラメータに基づいて決定されてもよい。次いで、決定された視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアに基づく計算を通じて、忠実度経験スコアを得ることができる。
【0030】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第三の継続時間を含み、第三の継続時間は、単位時間期間におけるネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定することは:
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第三の継続時間、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSを入力パラメータとして使って、再生イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算すること;
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第三の継続時間、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSを入力パラメータとして使って、フリーズ・イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算すること;または
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がメディア品質変化イベントである場合、現在決定された忠実度経験スコアと、現在の単位時間期間における現在時刻の前に最近決定された忠実度経験スコアとの間の差を、VRマルチメディアの享受経験スコアとして決定することとを含む。
【0031】
VRマルチメディアのMOSが単位時間期間を単位として決定される場合、享受経験スコアが決定されるとき、対応する享受経験スコアは、第二の感覚パラメータに含まれる、ネットワーク・メディア・イベントの型および単位時間期間におけるネットワーク・メディア・イベントの継続時間に基づいて決定されうることを注意しておくべきである。
【0032】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型および第四の継続時間とを含み、第四の継続時間は、単位時間期間における対話的メディア・イベントの継続時間であり;
現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型および第四の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いてVRマルチメディアの対話経験スコアを計算することを含む。
【0033】
VRマルチメディアのMOSが単位時間期間を単位として用いて決定される場合、対話経験スコアが決定されるとき、対応する対話経験スコアは、第三の感覚パラメータに含まれる対話的メディア・イベントの型および単位時間期間における対話的メディア・イベントの継続時間に基づいて決定されうることを注意しておくべきである。
【0034】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいてVRマルチメディアの平均オピニオン・スコアMOSを決定することは:
前記少なくとも二つの知覚次元のそれぞれについて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて、その知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し;
その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算し;
前記少なくとも二つの知覚次元におけるVRマルチメディアの経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアの経験スコアを計算することを含む。
【0035】
VRマルチメディアのMOSが、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて決定される場合、前記少なくとも二つの知覚次元のそれぞれについて、まず、その知覚次元における忠実度経験スコアが第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定されてもよく、その知覚次元における享受経験スコアが、第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定されてもよく、その知覚次元における対話経験スコアが、第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定されてもよく、次いで、その知覚次元における決定された忠実度経験スコア、享受経験スコア、および対話経験スコアが入力パラメータとして使用され、その知覚次元におけるVRマルチメディア経験スコア計算モデルを用いることによる計算を通じて、その知覚次元におけるVRマルチメディアのMOSが得られる。
【0036】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの忠実度経験スコアを決定することと;
現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、その知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、その知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定するか;または
現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいてその知覚次元におけるVRマルチメディアの対話経験スコアを決定し、その知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定することとを含む。
【0037】
第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータのサンプリング周期が異なるため、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、それぞれ、知覚次元における忠実度経験スコア、享受経験スコア、および対話スコアを決定する機会も異なる。さらに、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアは、VRマルチメディアを再生するプロセスで生起するイベントを単位として使用するか、または事前設定された単位時間を単位として使用することによって計算することができる。
【0038】
知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアが、イベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起していない場合、知覚次元における忠実度経験スコアは、サンプリングを通じて得られた第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定されうる。知覚次元における享受経験スコアは知覚次元における忠実度経験スコアに関係しているため、知覚次元における忠実度経験スコアが更新されると、知覚次元における享受経験スコアも対応して更新される。よって、知覚次元における忠実度経験スコアが計算を通じて得られた後に、知覚次元における享受経験スコアが決定されてもよい。対話的メディア・イベントは生起していないため、知覚次元における対話経験スコアは計算されなくてもよい。
【0039】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいてVRマルチメディアの対話経験スコアを決定することを含む。
【0040】
知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアが、イベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻において同時にネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、端末は、知覚次元における忠実度経験スコアおよび享受経験スコアに加えて、さらに知覚次元における対話経験スコアを計算する必要があることを注意しておく。
【0041】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実施することによって得られるパラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定すること;
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定する;または
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定することとを含み;
対応して、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算することは:
現在時刻より前に最近決定された知覚次元における忠実度経験スコアと、現在時刻において決定される知覚次元における享受経験スコアおよび対話経験スコアとを入力パラメータとして使って、知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算することを含む。
【0042】
知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアが、イベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しているか否か、および現在時刻が生起しているイベントに対応する終了時刻であるか否かに依存して、知覚次元における享受経験スコアおよび対話経験スコアを決定し、さらに知覚次元におけるVRマルチメディアの経験スコアを決定するために異なる方法が使用されうることを注意しておく。現在時刻は第一の感覚パラメータのサンプリング時刻ではないため、知覚次元における忠実度経験スコアは計算されない。よって、知覚次元における享受経験スコアが決定されるとき、現在時刻より前に最近決定された忠実度経験スコアが入力パラメータとしてサンプリングされてもよい。
【0043】
任意的に、第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータは、知覚次元において生起しているネットワーク・メディア・イベントの型と、対応する第五の継続時間とを含み、対応する第五の継続時間は、知覚次元におけるネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定することは:
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる第五の継続時間、知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時におけるVRマルチメディアのMOSを入力パラメータとして使って、再生イベントに対応する享受経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの享受経験スコアを計算すること;
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる第五の継続時間、知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSを入力パラメータとして使って、フリーズ・イベントに対応する享受経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの享受経験スコアを計算すること;または
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型が、メディア品質変化イベントである場合、知覚次元における現在決定された忠実度経験スコアと、現在時刻より前に最近決定された知覚次元における忠実度経験スコアとの差を、知覚次元におけるVRマルチメディアの享受経験スコアとして決定することを含む。
【0044】
任意的に、第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータは、対話的メディア・イベントの型および第六の継続時間を含み、第六の継続時間は、知覚次元における対話的メディア・イベントの継続時間であり;
現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型および第六の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの対話経験スコアを計算することを含む。
【0045】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定することと;
現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定する;または
現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定することとを含む。
【0046】
知覚次元におけるVRマルチメディアのMOSは、さらに単位時間期間を単位として用いることによって決定されうることを注意しておく。この場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起していない場合、サンプリングを通じて得られた第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元における忠実度経験スコアを決定することができる。知覚次元における享受経験スコアは知覚次元における忠実度経験スコアと関係するため、知覚次元における忠実度経験スコアが更新されると、知覚次元における享受経験スコアも対応して更新される。よって、知覚次元における忠実度経験スコアが計算を通じて得られた後に、知覚次元における享受経験スコアが決定されてもよい。さらに、前の単位イベント期間の終わりにおけるVRマルチメディアのMOSが、知覚次元における享受経験スコアを計算するための入力パラメータとして使用されてもよい。これは、VRマルチメディアの以前の再生の影響を考慮することと等価であり、よって、より包括的で、より正確である。対話的メディア・イベントは生起していないため、知覚次元における対話経験スコアは計算されなくてもよい。
【0047】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコアおよび前の単位時間期間の終わりにおけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、VRマルチメディアの対話経験スコアを決定することを含む。
【0048】
知覚次元におけるVRマルチメディアのMOSが、単位時間期間を単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻において同時にネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、端末は、知覚次元における忠実度経験スコアおよび享受経験スコアに加えて、さらに知覚次元における対話経験スコアを計算する必要があることを注意しておくべきである。
【0049】
任意的に、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することは:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了する、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られたパラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定すること;
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了すること、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定すること;または
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、単位時間期間が終了することが現在時刻において検出される場合、または現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、かつ、単位時間期間が終了することが現在時刻において検出されない場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された知覚次元における忠実度経験スコア、および前の単位時間期間の終わりにおけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定することを含み;
対応して、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算することは:
現在の単位時間期間における現在時刻より前に最近決定された知覚次元における忠実度経験スコアと、現在時刻において決定された知覚次元における享受経験スコアおよび対話経験スコアとを入力パラメータとして使って、知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算することを含む。
【0050】
知覚次元におけるVRマルチメディアのMOSが、単位時間期間を単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しているかどうか、現在時刻が生起しているイベントに対応する終了時間であるかどうか、および現在時刻が単位時間期間の終了時間であるかどうかに依存して、知覚次元における享受経験スコアおよび対話型経験スコアを決定し、さらにVRマルチメディアのMOSを決定するために異なる方法を用いることができる。現在時刻は第一の感覚パラメータのサンプリング時間ではないため、知覚次元における忠実度経験スコアは計算されない。よって、知覚次元における享受経験スコアが決定される場合、現在時刻より前に最近決定された忠実度経験スコアが入力パラメータとしてサンプリングされてもよい。
【0051】
任意的に、第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータは、ネットワーク・メディア・イベントの型および第七の継続時間を含み、第七の継続時間は、単位時間期間における知覚次元におけるネットワーク・メディア・イベントの継続時間であり;
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終わりにおけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定することは:
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる第七の継続時間、知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終わりにおけるVRマルチメディアのMOSを入力パラメータとして使って、再生イベントに対応する享受経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの享受経験スコアを計算すること;
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる第七の継続時間、知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終わりにおけるVRマルチメディアのMOSを入力パラメータとして使って、フリーズ・イベントに対応する享受経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの享受経験スコアを計算すること;または
現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれるネットワーク・メディア・イベントの型が、メディア品質変化イベントである場合、知覚次元において現在決定された忠実度経験スコアと、現在の単位時間期間における現在時刻より前に最近決定された知覚次元における忠実度経験スコアとの間の差を、知覚次元におけるVRマルチメディアの享受経験スコアとして決定することを含む。
【0052】
任意的に、第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータは、対話的メディア・イベントの型および第八の継続時間を含み、第八の継続時間は、単位時間期間における知覚次元における対話的メディア・イベントの継続時間であり;
現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、VRマルチメディアの対話経験スコアを決定することは:
複数の記憶された対話経験スコア計算モデルから、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型および第八の継続時間を入力パラメータとして使って、選択された対話経験スコア計算モデルを用いて知覚次元におけるVRマルチメディアの対話経験スコアを計算することを含む。
【0053】
任意的に、第一の感覚パラメータにおける視覚次元におけるビデオ属性情報は、投影フォーマット、ステレオ度、および自由度のうちの少なくとも一つを含み、第一の感覚パラメータにおける視覚次元におけるビデオ・パラメータは、全視野解像度および視野のうちの少なくとも一つを含み、第一の感覚パラメータにおける聴覚次元におけるオーディオ属性情報は、オーディオ・ステレオ度を含む。
【0054】
投影フォーマット、ステレオ度、自由度、およびオーディオ・ステレオ度は、従来のマルチメディアとは異なるVRマルチメディアの特有の属性情報であり、全視野解像度および視野もVRマルチメディアの特有のパラメータであることを注意しておくべきである。これらのパラメータに基づいて忠実度経験スコアを計算することは、VRマルチメディアの特徴によりよく適合し、これに基づいて決定されるVRマルチメディアのMOSも、より正確である。
【0055】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および対応する継続時間を含み、対応する継続時間はネットワーク・メディア・イベントの継続時間である。
【0056】
VRマルチメディアのMOSが、イベントを単位として使って決定される場合、第二の感覚パラメータに含まれる継続時間は、ネットワーク・メディア・イベントの継続時間であってもよいことを注意しておく。VRマルチメディアのMOSが、単位時間期間を単位として使って決定される場合、第二の感覚パラメータに含まれる継続時間は、単位時間期間におけるネットワーク・メディア・イベントの継続時間であってもよい。
【0057】
任意的に、第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型は、再生イベント、フリーズ・イベント、またはメディア品質変化イベントを含む。
【0058】
ネットワーク・メディア・イベントは、ネットワーク条件の変化によって引き起こされるイベントである。よって、ネットワーク・メディア・イベントの型は、再生イベント、フリーズ・イベント、またはメディア品質変化イベントを含み得るが、これらに限定されない。
【0059】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型および対応する継続時間を含み、対応する継続時間は対話的メディア・イベントの継続時間である。
【0060】
任意的に、第三の感覚パラメータに含まれる対話的メディア・イベントの型は、初期ロード・イベント、対話的ロード・イベント、またはメディア・ヒステリシス・イベントを含み、初期ロード・イベントは、VRマルチメディアが最初に再生されるときのロード・イベントであり、対話的ロード・イベントは、VRマルチメディアとユーザーとの間の対話によって生じるロード・イベントであり、メディア・ヒステリシス・イベントは、メディア更新とユーザー・アクションに起因するアクションとの間で生じるヒステリシス・イベントである。
【0061】
VRマルチメディアのMOSが、イベントを単位として使って決定される場合、第三の感覚パラメータに含まれる継続時間は、対話的メディア・イベントの継続時間であってもよいことを注意しておくべきである。VRマルチメディアのMOSが、単位時間期間を単位として使って決定される場合、第三の感覚パラメータに含まれる継続時間は、単位時間期間における対話的メディア・イベントの継続時間であってもよい。
【0062】
任意的に、前記少なくとも二つの知覚次元は、フィードバック次元をさらに含み、フィードバック次元は、視覚次元と、前記少なくとも二つの知覚次元における視覚次元とは別の次元との間の同期および関連付け関係であり、ここで、
第一の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、時間同期度、方位角同期度、および力フィードバック・インジケーターのうちの少なくとも一つを含み、時間同期度は視覚次元と聴覚次元との間の時間同期度であり、方位角同期度は視覚次元と聴覚次元との間の方位角同期度であり、力フィードバック・インジケーターは、視覚次元にマッチする力フィードバックがあるかどうかを示すために使用され;
第二の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、第一の同期度変化インジケーター、第二の同期度変化インジケーター、および第三の同期度変化インジケーターのうちの少なくとも一つを含み、第一の同期度変化インジケーターは、時間同期度が変化するか否かを示すために使用され、第二の同期度変化インジケーターは、方位角同期度が変化するか否かを示すために使用され、第三の同期度変化インジケーターは、視覚次元と力フィードバックとの間の時間同期度が変化するか否かを示すために使用され;
第三の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータは、ヒステリシス・インジケーターを含み、ヒステリシス・インジケーターは、力のフィードバックとアクションとの間でヒステリシス・イベントが生起するか否かを示すために使用される。
【0063】
前記少なくとも二つの知覚次元は、視覚次元および聴覚次元に加えてさらにフィードバック次元を含んでいてもよく、フィードバック次元は、視覚次元と、前記少なくとも二つの知覚次元における視覚次元とは別の次元との間の同期および関連付け関係であることを注意しておくべきである。
【0064】
任意的に、VRマルチメディアの平均オピニオン・スコアMOSを決定した後、本方法はさらに:
事前設定された試験期間内に計算を通じて得られるVRマルチメディアのすべてのMOSの平均値を決定することを含み、ここで、事前設定された試験期間は、VRマルチメディアの経験品質を決定することの継続時間である。
【0065】
一般に、VRマルチメディアのMOSが決定されるとき、試験は通例、事前設定された試験期間内に実行される。事前設定された試験期間内において、複数のイベントが生起してもよく、または複数の単位時間期間が含まれていてもよい。よって、VRマルチメディアの複数のMOSが得られてもよい。この場合、VRマルチメディアのすべてのMOSの平均値が計算を通じて得られてもよく、その平均値が事前設定された試験期間内のVRマルチメディアのMOS統計値として使用される。
【0066】
任意的に、VRマルチメディアの平均オピニオン・スコアMOSを決定した後、本方法は、さらに:
事前設定された試験期間内に計算を通じて得られるVRマルチメディアのすべてのMOSの平均二乗誤差を決定することを含み、平均二乗誤差は、VRマルチメディアのすべてのMOSの安定性を示すために使用される。
【0067】
VRマルチメディアの複数のMOSの平均値が計算を通じて得られた後、VRマルチメディアの複数のMOSの平均二乗誤差が計算されてもよく、この場合、平均二乗誤差は、事前設定された試験期間内におけるVRマルチメディアの経験品質の安定性を評価するために使われる。
【0068】
第二の側面によれば、VRマルチメディアの経験品質を決定する装置が提供され、VRマルチメディアの経験品質を決定する装置は、第一の側面におけるVRマルチメディアの経験品質を決定する方法の動作を実装する機能を有する。VRマルチメディアの経験品質を決定する装置は、少なくとも一つのモジュールを含み、前記少なくとも一つのモジュールは、第一の側面によるVRマルチメディアの経験品質を決定する方法を実装するよう構成される。
【0069】
第三の側面によれば、VRマルチメディアの経験品質を決定する装置が提供され、VRマルチメディアの経験品質を決定する装置の構造はプロセッサおよびメモリを含み、前記メモリは、第一の側面によるVRマルチメディアの経験品質を決定する方法を実行する際に、VRマルチメディアの経験品質を決定する装置をサポートするプログラムと、第一の側面によるVRマルチメディアの経験品質を決定する方法を実装するために使用されるデータとを記憶するよう構成される。前記プロセッサは、前記メモリに記憶された前記プログラムを実行するよう構成される。記憶装置の動作装置は、通信バスをさらに含んでいてもよく、通信バスは、プロセッサとメモリとの間の接続を確立するよう構成される。
【0070】
第四の側面によれば、コンピュータ読取可能な記憶媒体が提供され、コンピュータ読取可能な記憶媒体は命令を記憶し、該命令がコンピュータ上で実行されると、コンピュータは、第一の側面によるVRマルチメディアの経験品質を決定する方法を実行する。
【0071】
第五の側面によれば、命令を含むコンピュータプログラムプロダクトが提供され、コンピュータプログラムプロダクトがコンピュータ上で実行されると、コンピュータは、第一の側面によるVRマルチメディアの経験品質を決定する方法を実行する。
【0072】
第二の側面、第三の側面、第四の側面、および第五の側面において達成される技術的効果は、第一の側面における対応する技術的手段によって達成される効果と同様である。詳細は、ここでは再度説明しない。
【0073】
本願によって提供される技術的解決策は、以下の有益な効果をもつ:VRマルチメディアの経験品質を決定するプロセスにおいて、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づく忠実度経験、享受経験、および対話経験について品質評価が実行されるが、没入、複数感覚の統合およびユーザーとの対話は、まさにVRマルチメディアを従来のマルチメディアと区別する主な特徴である。よって、本発明の実施形態におけるVRマルチメディアの経験品質を決定することは、VRマルチメディアの実際の状況により良く適合し、決定されるVRマルチメディアの経験品質もより正確である。
【図面の簡単な説明】
【0074】
図1】本発明のある実施形態によるVRマルチメディアの経験品質を決定する方法におけるシステムのアーキテクチャー図である。
【0075】
図2】本発明のある実施形態による端末の概略構造図である。
【0076】
図3】本発明のある実施形態による端末装置の概略構造図である。
【0077】
図4】本発明のある実施形態によるVRマルチメディアの経験品質を決定する方法のフローチャートである。
【0078】
図5A】本発明のある実施形態による、イベントを単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0079】
図5B】本発明のある実施形態による、イベントを単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0080】
図5C】本発明のある実施形態による、イベントを単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0081】
図6A】本発明のある実施形態による、単位時間期間を単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0082】
図6B】本発明のある実施形態による、単位時間期間を単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0083】
図6C】本発明のある実施形態による、単位時間期間を単位として使ってVRマルチメディアのMOSを決定する方法のフローチャートである。
【0084】
図7】本発明のある実施形態によるVRマルチメディアの経験品質を決定するもう一つの方法のフローチャートである。
【0085】
図8A】本発明のある実施形態による、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定する方法のフローチャートである。
【0086】
図8B】本発明のある実施形態による、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定する方法のフローチャートである。
【0087】
図8C】本発明のある実施形態による、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定する方法のフローチャートである。
【0088】
図9A】本発明のある実施形態による、単位時間期間を単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための方法のフローチャートである。
【0089】
図9B】本発明のある実施形態による、単位時間期間を単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための方法のフローチャートである。
【0090】
図9C】本発明のある実施形態による、単位時間期間を単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための方法のフローチャートである。
【0091】
図10A】本発明のある実施形態によるVRマルチメディアの経験品質を決定する装置の概略構造図である。
【0092】
図10B】本発明のある実施形態による決定モジュールの概略構造図である。
【0093】
図10C】本発明のある実施形態による決定モジュールの別の概略構造図である。
【発明を実施するための形態】
【0094】
本願の目的、技術的解決策、および利点をより明確にするために、添付の図面を参照して、本願の実施を詳細に、さらに説明する。
【0095】
理解の簡単のため、本発明の実施形態において使用される用語を、本発明の実施形態が詳細に説明および記述される前に、まず説明しておく。
【0096】
忠実度経験
【0097】
忠実度経験は、VRマルチメディアの仮想環境による現実の環境の再現の程度を示すために主に使用される。再現の程度が高いほど、ユーザーのより強い没入的な経験を示す。よって、忠実度経験は、ユーザーの没入的経験をも反映しうる。
【0098】
享受経験
【0099】
享受経験は、VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの再生品質に対するネットワーク伝送品質の影響を示すために主に使用される。ネットワーク伝送品質が比較的良好な場合、VRマルチメディアは正常に再生できる。この場合、VRマルチメディアの仮想環境のユーザー経験は中断されない。ネットワークの伝送品質が比較的貧弱である場合、VRマルチメディアがフリーズすることがあり、あるいはビデオおよびオーディオの品質が貧弱になる。この場合、VRマルチメディアの仮想環境のユーザー経験が中断されることがあり、あるいは経験が貧弱になる。しかしながら、ユーザーの経験が悪くなると、ユーザーはVRマルチメディアを経験し続けることを望まないかもしれない。よって、享受経験は、VRマルチメディアを再生するプロセスにおいて、ユーザーがVRマルチメディアを経験し続けることを望む可能性を反映しうる。
【0100】
対話経験
【0101】
対話経験は、ユーザーとVRマルチメディアの仮想環境との間で実行される対話のリアルタイム品質および一貫性を示すために主に使用される。VRマルチメディアによって提示されるビデオ画像および同期して再生されるオーディオは、ユーザーの身体姿勢または行動などが変わると変化することがある。このプロセスでは、ネットワーク伝送品質等の要因により、ユーザーの身体姿勢または行動等の変化と、VRマルチメディアのビデオ画像およびオーディオの変化との間に遅延が存在することがある。より高い遅延は、ユーザーとVRマルチメディアとの間の、より不自然な対話を示す。よって、対話経験は、ユーザーとVRマルチメディアとの間の対話の自然な程度も反映しうる。
【0102】
また、ユーザーの身体姿勢または行動等が変化するとき、VRマルチメディアのビデオ画像およびオーディオの変化は、ユーザーの身体姿勢または行動等の変化と整合しているべきである。たとえば、ユーザーが頭を左に向ける場合、VRマルチメディアのビデオ画像およびオーディオも、ユーザーが向く方向に従って対応して変化するべきである。VRマルチメディアの変化が、ユーザーの身体姿勢および行動の変化と整合しない場合、比較的貧弱な対話経験が引き起こされる。
【0103】
忠実度経験、享受経験、対話経験についての記述からわかるように、忠実度経験は、ネットワーク伝送品質のような要因から影響を受けない理想的な状況におけるユーザー経験を反映しうる。しかしながら、享受経験および対話経験は、ネットワーク伝送品質のような影響によって引き起こされるユーザー経験の障害を反映する。
【0104】
第一の感覚パラメータ
【0105】
第一の感覚パラメータは、忠実度経験に影響するパラメータであり、少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られる。前記少なくとも二つの知覚次元は、視覚次元および聴覚次元を含み、もちろん、他の次元をさらに含んでもよく、たとえば、フィードバック次元、触覚次元、動き次元、嗅覚次元、味覚次元などをさらに含んでいてもよい。フィードバック次元は、視覚次元と、前記少なくとも二つの知覚次元における視覚次元とは別の次元との間の同期および関連付け関係を反映できる次元である。
【0106】
視覚次元では、第一の感覚パラメータは、複数のビデオ属性情報のピースおよび複数のビデオ・パラメータを含んでいてもよい。複数のビデオ属性情報のピースは、ビデオ投影フォーマット、ビデオ符号化型、ステレオ度、および自由度のような、ビデオ属性を反映する一連の情報を含んでいてもよい。複数のビデオ・パラメータは、ビデオ・ビットレート、全視野解像度、時間複雑性、空間複雑性、および視野などのパラメータを含んでいてもよい。さらに、複数のビデオ属性情報のピースおよび複数のビデオ・パラメータをサンプリングするためのサンプリング周期は、異なる場合がある。たとえば、ビデオ属性情報における自由度については、VRマルチメディアの自由度は一般に変化しないので、自由度は、VRマルチメディアの経験品質を決定するプロセスにおいて一度サンプリングされるだけでよい。
【0107】
ステレオ度は、VRマルチメディアが単眼ビデオまたは両眼ステレオ・ビデオであることを示すために使用される。VRマルチメディアが単眼ビデオの場合、サンプリングを通じて得られるステレオ度は0である。VRマルチメディアが両眼ステレオ・ビデオの場合、サンプリングを通じて得られるステレオ度は1である。自由度は、VRマルチメディアのビデオが提示できる自由度である。一般に、VRマルチメディアのビデオの自由度は、3自由度、6自由度などでありうる。時間複雑性は、VRマルチメディアを再生するプロセスにおいて、連続する諸フレームまたは連続する諸時間期間における同じ位置における二つのピクセル値の間の差を示すために使用される。空間複雑性は、VRマルチメディアの各フィルタリングされたフレームにおけるピクセル値の間の標準差を示すために使用される。時間複雑性および空間複雑性は、合同してコンテンツ複雑性をなす。サンプリングが実行されるとき、時間複雑性についてサンプリングを実行することによりVRマルチメディアに対応する時間複雑性因子が得られ、空間複雑性についてサンプリングを実行することによりVRマルチメディアに対応する空間複雑性因子が得られる。視野は、VRマルチメディアとヘッドマウントディスプレイのような端末とによって合同して決定され、ユーザーがビデオを観察する視角を示すために使用される。視野が大きいほど、より広い視野を示す。一般に、視野は、水平視野および垂直視野に分解されてもよく、視野の範囲は60度から210度である。
【0108】
聴覚次元では、第一の感覚パラメータは、複数のオーディオ属性情報のピースと、少なくとも一つのオーディオ・パラメータとを含んでいてもよい。前記複数のオーディオ属性情報のピースは、オーディオ・サンプリング・レート、オーディオ・ステレオ度、およびオーディオ符号化フォーマットを含んでいてもよい。前記少なくとも一つのオーディオ・パラメータは、オーディオ・ビットレートを含んでいてもよい。
【0109】
オーディオ・ステレオ度は、VRマルチメディアのオーディオがステレオサウンドまたは立体音響であることを示すために使用される。VRマルチメディアのオーディオがステレオサウンドである場合、サンプリングを通じて得られるオーディオ・ステレオ度は0である。VRマルチメディアのオーディオが立体音響である場合、サンプリングを通じて得られるオーディオ・ステレオ度は1である。
【0110】
第二の感覚パラメータ
【0111】
第二の感覚パラメータは、享受経験に影響することができるパラメータであり、前記少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られる。本願では、第二の感覚パラメータは、主に、ネットワーク・メディア・イベントの型および対応する継続時間を含む。享受経験に影響するネットワーク・メディア・イベントの一般的な型は、再生イベント、フリーズ・イベント、およびメディア品質変化イベントである。
【0112】
フリーズ・イベントは、ネットワーク伝送品質が比較的貧弱であるためにVRマルチメディアの再生が一時停止されることを示す。メディア品質変化イベントは、ネットワーク伝送品質に起因する、VRマルチメディアのビデオ品質およびオーディオ品質の変化である。メディア品質変化イベントは、解像度の増加または減少、平均ビットレートの増加または減少、フレームレートの増加または減少、またはサンプリングレートの増加または減少のようなイベント、およびユーザーデータグラムプロトコル(User Datagram Protocol、UDP)に関係したメディア品質変化イベントでありうる。ここで、UDPに関係した品質変化イベントは、フレーム損傷、フレーム・スキップ、アーチファクト等であってもよい。
【0113】
第三の感覚パラメータ
【0114】
第三の感覚パラメータは、対話経験に影響することのできるパラメータであり、前記少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られる。本願では、第三の感覚パラメータは、主に対話的メディア・イベントの型および対応する継続時間を含む。対話経験に影響する対話的メディア・イベントの一般的な型は、初期ロード・イベント、対話的ロード・イベント、およびメディア・ヒステリシス・イベントである。
【0115】
初期ロード・イベントは、VRマルチメディアが最初に再生されるときに生起するロード・イベントである。対話的ロード・イベントは、ユーザーとの対話により生起するロード・イベント、すなわち、ユーザー操作によるVRマルチメディアのシーン切り換えにおけるロード・イベントである。メディア・ヒステリシス・イベントは、ユーザー・アクションに起因してメディア更新とアクションとの間で生起するヒステリシス・イベント、すなわち、ユーザーの位置または身体の姿勢または頭の向きの変化といったアクションに起因してメディア更新とアクションとの間で生起するヒステリシス・イベントである。
【0116】
本発明の実施形態において使用される用語が説明され、記述された後、下記は、本発明の実施形態において使用されるシステム・アーキテクチャーを記述する。
【0117】
図1は、本発明のある実施形態によるVRマルチメディアの経験品質を決定する方法におけるシステムのアーキテクチャー図である。図1に示されるように、システムは、端末101およびサーバー102を含む。端末101およびサーバー102は、有線ネットワークまたは無線ネットワークを使って接続されてもよい。有線ネットワークまたは無線ネットワークを使って、端末101は、サーバー102にVRマルチメディア取得要求を送信することができ;サーバー102は、受信したVRマルチメディア取得要求に基づいて、VRマルチメディアおよびVRマルチメディアの再生に必要な関連情報を取得し、VRマルチメディアおよび関連情報を端末101に送信することができる。VRマルチメディアは、360度のパノラマVRビデオであってもよい。
【0118】
VRマルチメディア・プレーヤーが端末101上で動作してもよい。VRマルチメディア・プレーヤーは、端末101上で独立して動作するアプリケーションであってもよいし、あるいはブラウザーのページ上に埋め込まれたアプリケーションであってもよい。VRマルチメディア・プレーヤーを使用することによって、端末101はサーバー102から得られたVRマルチメディアを再生することができる。ユーザーがVRマルチメディアを視聴し、VRマルチメディアによって提示された仮想環境に基づいて動作を実行すると、端末101は、ユーザーの対話的アクションを受領し、対話的アクションに基づいて応答することができる。VRマルチメディアを再生するプロセスにおいてVRマルチメディアの経験品質を決定するとき、端末101は、異なるサンプリング周期に基づいて、VRマルチメディアを再生するプロセスにおける複数のパラメータをサンプリングし、サンプリングを通じて得られたパラメータに基づいて計算を実行して、VRマルチメディアのMOSを取得し、VRマルチメディアのMOSを出力することができる。
【0119】
端末101は、ヘッドマウントディスプレイ装置(Head-mounted Display、HMD)、ジャイロスコープを使って観察位置を変えることができる携帯端末、またはリモコンを使って観察位置を変えることができる従来のスマートTV端末のようなVR端末であってもよい。サーバー102は、VRマルチメディアを提供しうる装置である。サーバー102は、単一の装置であってもよいし、VRマルチメディア・サービスを提供する装置クラスターであってもよい。
【0120】
加えて、リアルタイムトランスポートプロトコル(Real-Time Protocol、RTP)、リアルタイムストリーミングプロトコル(Real-Time Streaming Protocol、RTSP)、ハイパーテキスト転送プロトコル(HyperText Transfer Protocol、HTTP)、リアルタイムメッセージングプロトコル(Real-Time Messaging Protocol、RTMP)、HTTPを通じた動的適応ストリーミング(Dynamic Adaptive Streaming over HTTP、DASH)メディアプロトコルおよびHTTPライブストリーミング(HTTP Live Streaming、HLS)メディアプロトコルといった汎用VRマルチメディア・メディア転送プロトコルが、有線ネットワークまたは無線ネットワークを使って端末101とサーバー102との間の通信のためにサポートされる。
【0121】
図1に示されるシステム・アーキテクチャーにおける端末についての記述に基づいてわかるように、端末は、VRマルチメディアおよびユーザーの対話的アクションを受け取り、VRマルチメディアを再生するプロセスにおいて関連パラメータをサンプリングして、VRマルチメディアのMOSを計算することができる。したがって、図2に示されるように、本発明のある実施形態は、端末の概略構造図を提供する。図1のシステム・アーキテクチャーにおける端末の機能は、図2に示される端末を用いて実現できる。図2に示されるように、端末は、メディア・ストリーム受領モジュール201、ユーザー対話的アクション受領モジュール202、サンプリング・モジュール203、計算モジュール204、および出力モジュール205を含む。メディア・ストリーム受領モジュール201は、サーバーによって送信されたVRマルチメディアを受信するよう構成される。ユーザー対話的アクション受領モジュール202は、ユーザーの位置または身体姿勢などのアクションが変化したときに、対応するパラメータを受け取るよう構成される。サンプリング・モジュール203は、受信されたVRマルチメディアを再生するプロセスにおいて、異なるサンプリング期間に基づいて、複数のパラメータをサンプリングするよう構成される。計算モジュール204は、サンプリングを通じて得られるパラメータに基づいてVRマルチメディアのMOSを決定する。出力モジュール205は、VRマルチメディアの決定されたMOSを出力および表示するよう構成される。計算モジュール204は複数のサブモジュールを含んでいてもよい。たとえば、複数のサブモジュールは、忠実度経験スコア計算モジュール、享受経験スコア計算モジュール、および対話経験スコア計算モジュールであってもよい。
【0122】
図3は、本発明のある実施形態による端末装置の概略構造図である。図1のシステム・アーキテクチャーにおける端末および図2における端末は、いずれも、図3に示される端末装置を使って実現できる。図3を参照すると、端末装置は、少なくとも一つのプロセッサ301、通信バス302、メモリ303、および少なくとも一つの通信インターフェース304を含む。
【0123】
プロセッサ301は、汎用の中央処理装置(Central Processing Unit、CPU)、マイクロプロセッサ、特定用途向け集積回路(application-specific integrated circuit、ASIC)、または本願の解決策におけるプログラム実行を制御するための一つまたは複数の集積回路であってもよい。
【0124】
通信バス302は、上記の構成要素間で情報を伝送する経路を含んでいてもよい。
【0125】
メモリ303は、静的な情報および命令を記憶することができる読み出し専用メモリ(read-only memory、ROM)もしくは他の型の静的記憶装置、または情報および命令を記憶することができるランダムアクセスメモリ(random access memory、RAM)もしくは他の型の動的記憶装置であってもよく、あるいは電気的に消去可能なプログラマブル読み出し専用メモリ(Electrically Erasable Programmable Read-Only Memory、EEPROM)、コンパクトディスク読み出し専用メモリ(Compact Disc Read-Only Memory、CD-ROM)、または他のコンパクトディスク記憶もしくは光ディスク記憶(圧縮光ディスク、レーザーディスク、光ディスク、デジタル多用途ディスク、ブルーレイディスク等を含む)、磁気ディスク記憶媒体もしくは他の磁気記憶装置、または命令またはデータ構造の形で予期されるプログラム・コードを担持または記憶することができ、コンピュータによってアクセスされることができる他の任意の媒体であってもよい。これは限定されない。メモリ303は、独立して存在してもよく、通信バス302によってプロセッサ301に接続される。メモリ303はまた、プロセッサ301と一体化されてもよい。
【0126】
通信インターフェース304は、何らかのトランシーバを使用する型の装置であり、他の装置または通信ネットワーク、たとえば、イーサネット、無線アクセスネットワーク(RAN)、または無線ローカルエリアネットワーク(Wireless Local Area Network、WLAN)と通信するように構成される。
【0127】
ある個別的実装では、ある実施形態において、プロセッサ301は、一つまたは複数のCPU、たとえば、図3に示されるCPU 0およびCPU 1を含んでいてもよい。
【0128】
ある個別的実装では、ある実施形態において、端末装置は、複数のプロセッサ、たとえば、図3に示されるプロセッサ301およびプロセッサ305を含んでいてもよい。各プロセッサは、シングルコア(single-CPU)プロセッサであってもよく、マルチコア(multi-CPU)プロセッサであってもよい。本稿におけるプロセッサは、データ(たとえばコンピュータ・プログラム命令)を処理するために使用される一つまたは複数の装置、回路、および/または処理コアであってもよい。
【0129】
ある個別的実装では、ある実施形態において、端末装置は、出力装置306および入力装置307をさらに含んでいてもよい。出力装置306は、プロセッサ301と通信し、複数の仕方で情報を表示してもよい。たとえば、出力装置306は、液晶ディスプレイ(liquid crystal display、LCD)、発光ダイオード(light emitting diode、LED)表示装置、陰極線管(cathode ray tube、CRT)表示装置、またはプロジェクター(projector)であってもよい。入力装置307は、プロセッサ301と通信し、複数の仕方でユーザーの入力を受領することができる。たとえば、入力装置307は、マウス、キーボード、タッチスクリーン装置、または感知装置であってもよい。
【0130】
端末装置は、汎用端末装置または専用端末装置でありうる。ある個別的実装では、端末装置は、デスクトップコンピュータ、ポータブルコンピュータ、ネットワークサーバー、パームトップコンピュータ(Personal Digital Assistant、PDA)、携帯電話、タブレットコンピュータ、無線端末装置、通信装置、または埋め込み装置であってもよい。本発明の本実施形態において、端末装置の型は限定されない。
【0131】
メモリ303は、本願の解決策を実行するために使用されるプログラム・コードを記憶するように構成され、プログラム・コードはプロセッサ301の制御下で実行される。プロセッサ301は、メモリ303に記憶されたプログラム・コード308を実行するよう構成される。プログラム・コード308は、一つまたは複数のソフトウェア・モジュール(たとえば、メディア・ストリーム受領モジュール、ユーザー対話的アクション受領モジュール、サンプリング・モジュール、計算モジュール、および出力モジュール)を含んでいてもよい。図1および図2に示される端末は、プロセッサ301と、メモリ303内のプログラム・コード308内の一つまたは複数のソフトウェア・モジュールとを使って、VRマルチメディアの経験品質を決定することができる。
【0132】
上記の記述に基づき本発明の実施形態で使用される用語およびシステム・アーキテクチャーが説明され、記述された後、下記は、本発明の実施形態の具体的な実装プロセスを詳細に記述する。
【0133】
本発明の実施形態では、端末は、VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを取得することができる。次いで、端末は、得られた第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、二つの異なる方法を使って、VRマルチメディアのMOSを決定することができる。第一の方法では、端末は、得られたパラメータに基づいて、まず、忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し、さらに、VRマルチメディアのMOSを決定することができる。第二の方法では、端末は、まず、少なくとも二つの知覚次元のそれぞれに対応する経験スコアを計算し、さらに、前記少なくとも二つの知覚次元に対応する少なくとも二つの経験スコアに基づいてVRマルチメディアのMOSを決定することができる。下記は、添付の図面を参照して、二つの方法を詳細に記述する。
【0134】
本発明の実施形態では、VRマルチメディアのMOSを決定するための第一の方法が、まず図4から図6Cを参照して説明され、記述される。図4は、本発明のある実施形態によるVRマルチメディアの経験品質を決定するための方法のフローチャートである。図4に示されるように、本方法は、以下のステップを含む。
【0135】
ステップ401:VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを取得する。
【0136】
VRマルチメディアを再生するプロセスにおいて、端末は、VRマルチメディアに対してサンプリングを実行することによって、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを得ることができる。第一の感覚パラメータ、第二の感覚パラメータ、および端末による第三の感覚パラメータをサンプリングするためのサンプリング周期は、同じであってもよく、または異なっていてもよい。
【0137】
たとえば、端末は、ピクチャー群(Group of Picture、GoP)を単位として使って一度、第一の感覚パラメータをサンプリングすることができ、あるいは、セグメントを単位として使って一度、第一の感覚パラメータをサンプリングすることができ、あるいは、もちろん、さらに、事前設定されたサンプリング周期を使って第一の感覚パラメータをサンプリングすることができる。別の例として、端末は、ユーザーの位置の変化を検出するときに第三の感覚パラメータを一度サンプリングすることができ、あるいは、事前設定されたサンプリング周期に基づいて、あるいはGoPを単位として使って一度、第三の感覚パラメータをサンプリングしてもよい。換言すれば、端末が第一の感覚パラメータをサンプリングするとき、第二の感覚パラメータまたは第三の感覚パラメータのサンプリング時間は到達しない可能性がある。
【0138】
ステップ402:VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定する。
【0139】
VRマルチメディアを再生するプロセスにおいて生起するイベントを単位として使うことにより、端末は、生起しているイベントの終了時に一度、計算をトリガーして、忠実度経験スコア、享受経験スコア、および対話スコアを出力し、その後、忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく結合計算を通じて、そのイベントに対応するVRマルチメディアのMOSを取得することができる。イベントは、享受経験スコアに影響するネットワーク・メディア・イベントであってもよいし、あるいは対話経験スコアに影響する対話的メディア・イベントであってもよい。
【0140】
さらに、事前設定された単位時間期間を単位として使用することにより、端末は、VRマルチメディアを再生するプロセスにおいて、単位時間期間の終了時に一度、計算をトリガーして、忠実度経験スコア、享受経験スコア、および対話経験スコアを出力し、その後、忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく結合計算を通じて、その単位時間期間に対応するVRマルチメディアのMOSを得ることができる。
【0141】
また、第一の感覚パラメータのサンプリング時刻が到達した場合、サンプリングを通じて得られる第一の感覚パラメータは、前のサンプリング時刻における第一の感覚パラメータと比較して変化する可能性があるため、端末は、サンプリングを通じて得られた第一の感覚パラメータに基づいて忠実度経験スコアを計算する必要があることを注意しておくべきである。ただし、享受経験スコアは忠実度経験スコアに基づいて決定されるため、忠実度経験スコアが計算を通じて得られた後に、享受経験スコアは、さらに忠実度経験スコアに基づいて決定される必要がある。すなわち、第一の感覚パラメータのサンプリング時刻が到着すると、忠実度経験スコアの計算時間も到着する。しかし、忠実度経験スコアの計算時間が到着するとき、計算がトリガーされてもよく、享受経験スコアおよび/または対話経験スコアが一度出力され、VRマルチメディアのMOSが一度、さらに計算される。
【0142】
上記の記述からわかるように、感覚パラメータのサンプリング周期が異なる場合には、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて端末によって忠実度経験スコア、享受経験スコア、および対話経験スコアを決定する機会も異なる。さらに、端末は、VRマルチメディアを再生するプロセスにおいて生起するイベントを単位として使用するか、または事前設定された単位時間期間を単位として使用することによって、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを計算することもできる。よって、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを計算する複数の実装がある。これらの実装は、本願の以下の実施形態において議論される。
【0143】
ステップ403:決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0144】
ステップ402の記述に基づいて、忠実度経験スコア、享受経験スコア、および対話経験スコアの計算が、イベントを単位として使ってトリガーされる場合、そのイベントは、享受経験スコアに影響を与えるイベントであってもよく、または対話経験スコアに影響を及ぼすイベントであってもよく、そのイベントの終了時間は、第一の感覚パラメータのサンプリング時間でなくてもよいため、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアに基づいてVRマルチメディアのMOSを計算する方法も変わりうる。
【0145】
同様に、忠実度経験スコア、享受経験スコア、および対話経験スコアの計算が、単位時間期間を単位として使ってトリガーされる場合も、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアに基づいて、VRマルチメディアのMOSを計算する複数の方法がある。
【0146】
また、享受経験スコアおよび対話経験スコアの計算が、忠実度経験スコアの計算時にトリガーされる場合、対話経験スコアに影響を及ぼすイベントが計算時に生起することもあれば生起しないこともあるため、決定された忠実度経験スコア、享受経験スコアおよび対話経験スコアに基づいてVRマルチメディアのMOSを計算する方法も変わりうることを注意しておくべきである。
【0147】
よって、決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算することの複数の実装も存在する。これらの実装は、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアの前記複数の実装を参照して、本願の以下の実施形態で議論される。
【0148】
本発明のこの実施形態では、端末は、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、忠実度経験、享受経験、および対話経験についての品質評価を実行するが、没入、複数感覚の統合、およびユーザーとの対話は、まさに、VRマルチメディアを従来のマルチメディアから区別する主な特徴である。よって、本発明のこの実施形態におけるVRマルチメディアの経験品質の決定は、VRマルチメディアの実際の状況により良く適合し、VRマルチメディアの決定される経験品質もより正確である。
【0149】
ネットワーク・メディア・イベントは、ネットワーク条件の影響により生起するイベントである。ネットワーク状態が比較的良好な場合に生起する正常再生イベントは、ネットワーク・メディア・イベントである。比較的劣悪なネットワーク条件のために生成されるフリーズ・イベントおよびメディア品質変化イベントも、ネットワーク・メディア・イベントである。しかしながら、対話的メディア・イベントはこれとは異なり、対話的メディア・イベントは、ユーザーと端末の間に対話がある場合にのみ生起する。VRマルチメディアを再生するプロセスにおいて、ネットワーク・メディア・イベントが生起するとき、ユーザーと端末との間の対話がないため、対話的メディア・イベントが存在しないことがある。あるいはまた、ユーザーと端末との間の対話によって引き起こされる対話的メディア・イベントが生起するとき、ネットワーク条件の変化に起因するネットワーク・メディア・イベントが存在しない可能性があるため、ネットワーク・メディア・イベントは生起しない。上記の記述に基づき、ステップ402および403の記述を参照し、図5A図5Cを参照して、下記は、現在時刻が異なるケースに対応するときにイベントを単位として使って、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し、さらにVRマルチメディアのMOSを決定する実装プロセスを記述する。
【0150】
図5Aは、本発明のある実施形態による、イベントを単位として使って、VRマルチメディアのMOSを決定する方法のフローチャートである。図5Aに示されるように、本方法は、以下のステップを含む。
【0151】
ステップ501a:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定する。
【0152】
VRマルチメディアのMOSがイベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起しているなら、第一の感覚パラメータが変化している可能性があるため、端末は、第一の感覚パラメータに基づいて、現在時刻における忠実度経験スコアを計算することができる。
【0153】
現在時刻での忠実度経験スコアが第一の感覚パラメータに基づいて計算されるとき、端末は、少なくとも二つの知覚次元における忠実度経験スコアを、それぞれ第一の感覚パラメータにおいて前記少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて計算し、次いで、前記少なくとも二つの知覚次元における忠実度経験スコアに基づいて、VRマルチメディアの忠実度経験スコアを決定することができる。前記少なくとも二つの知覚次元は、視覚次元および聴覚次元を含んでいてもよく、もちろん、フィードバック次元をさらに含んでいてもよい。前記少なくとも二つの知覚次元が視覚次元および聴覚次元である場合には、端末は、次の態様(1)および(2)でそれぞれ視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアを計算し、最後に、計算を通じて得られた視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアに基づいて態様(3)で、現在時刻でのVRマルチメディアの忠実度経験スコアを計算することができる。
【0154】
(1)視覚的忠実度経験スコアを計算する態様
【0155】
端末は、まず、複数の記憶された視覚的忠実度経験スコア計算モデルから、サンプリングを通じて得られた第一の感覚パラメータにおける視覚次元における複数のビデオ属性情報に基づいて、前記複数のビデオ属性情報に対応する視覚的忠実度経験スコア計算モデルを選択し;次いで、現在時刻におけるサンプリングを通じて得られた第一の感覚パラメータにおける複数のビデオ・パラメータを入力パラメータとして使って、選択された視覚的忠実度経験スコア計算モデルを用いて、現在時刻における視覚的忠実度経験スコアを計算してもよい。複数のビデオ属性情報は、投影フォーマット、ビデオ符号化フォーマット、ステレオ度、および自由度を含む。複数のビデオ・パラメータは、ビデオ・ビットレート、全視野解像度、時間複雑性、空間複雑性、および視野を含む。
【0156】
具体的には、複数の記憶された視覚的忠実度経験MOS計算モデルは、式5a-1によって一様に表すことができる。
【数1】
ここで、fi()は種々の形の関数、bitrate_vはビデオ・ビットレート、resolution_vは全視野解像度、fps_vはビデオ・フレームレート、TIは時間複雑性、SIは空間複雑性、FOVhは端末の水平視野、FOVvは端末の垂直視野、iは複数のビデオ属性情報によって形成されるベクトル、projection_vは投影フォーマット、codec_vは符号化フォーマット、stereo_vはステレオ度、DoF_vは自由度である。
【0157】
なお、投影フォーマットprojection_vは、正距円筒投影(Equirectangular projection、ERP)フォーマットであってもよく、または、立方体(Cube)投影のような投影フォーマットであってもよく、符号化フォーマットcodec_vは、AVCまたはHEVCのような符号化フォーマットであってもよく、ステレオ度stereo_vは、単眼ビデオまたは両眼ステレオ・ビデオであってもよく、自由度DoF_vは、3自由度または6自由度であってもよい。複数個のビデオ属性情報は異なる値を有していてもよいので、複数個のビデオ属性情報に基づいて複数の異なるベクトルiが形成されてもよく、異なるベクトルiに基づいて、視覚的忠実度経験スコアを計算するために異なるfi()が選択されてもよい。
【0158】
さらに、fi()は以下の関数形で示すことができる。
【数2】
ここで、v1、v2、v3は異なるベクトルiに基づく異なる対応する値に設定されてもよく、すなわち、異なるベクトルiが異なる値をもつv1、v2、v3に対応し、MOSvはVRマルチメディアのビデオ品質を表わす中間変数である。
【0159】
時間複雑性および空間複雑性によって形成されるコンテンツ複雑性を考慮しない場合、MOSvは以下の式5a-3を用いて計算することができる。
【数3】
ここで、v4、v5、v6は異なるベクトルiに基づいて異なる対応する値に設定されてもよく、すなわち、異なるベクトルiが異なる値をもつv4、v5、v6に対応する。BPDは中間変数であり、水平方向の視野の各度におけるエンコードされるビットの量を示すために使用され、式5a-4を使った計算を通じて得られる:
【数4】
【0160】
BPPは、ピクセル当たりのエンコードされるビットの量であり、resolution_v_hは水平方向の全視野解像度であり、全視野解像度resolution_vを分解することによって得られ、BPPは式5a-5を使って計算されうる。
【数5】
【0161】
BPFは中間変数であり、ビデオ・ピクチャー内のフレーム当たりのエンコードされるビット数を示すために使用され、resolution_v_vは垂直方向の全視野解像度であり、全視野解像度resolution_vを分解することによって得られ、中間変数BPFは、式5a-6を使って計算されうる。
【数6】
【0162】
VRマルチメディアのビデオ・コンテンツ複雑性を考慮する場合、MOSvは式5a-7を使って計算することができる。
【数7】
【0163】
BPDの計算については、コンテンツ複雑性が考慮されない場合のBPDを計算する態様を参照されたい。VCCは、時間複雑性および空間複雑性によって合同して決定されるVRマルチメディアのビデオ・コンテンツ複雑性である。VCCは式5a-8を使って計算することができる。
【数8】
【0164】
(2)聴覚的忠実度経験スコアを計算する態様
【0165】
端末は視覚的忠実度経験スコアだけでなく、聴覚的忠実度経験スコアも計算する必要がある。端末は、サンプリングを通じて得られた第一の感覚パラメータにおける複数のオーディオ属性情報に基づいて、複数の記憶された聴覚的忠実度経験スコア計算モデルから、現在時刻での複数のオーディオ属性情報に対応する聴覚的忠実度経験スコア計算モデルを選択し;現在時刻での第一の感覚パラメータに含まれる少なくとも一つのオーディオ・パラメータを入力パラメータとして使って、選択された聴覚的忠実度経験スコア計算モデルを用いて、現在時刻での聴覚的忠実度経験スコアを計算してもよい。複数個のオーディオ属性情報は、オーディオ・サンプリング・レート、立体音響、およびオーディオ符号化フォーマットを含む。少なくとも一つのオーディオ・パラメータは、オーディオ・ビットレートを含む。
【0166】
具体的には、複数の記憶された聴覚的忠実度経験スコア計算モデルは、式5a-9によって一様に表わすことができる。
【数9】
ここで、fj()は種々の形の関数であり、bitrate_aはオーディオ・ビットレートである。jは複数のオーディオ属性情報によって形成されるベクトルであり、freq_aはオーディオ・サンプリング・レート、codec_aはオーディオ符号化フォーマット、stereo_aはオーディオ・ステレオ度である。
【0167】
なお、オーディオ・サンプリング・レートfreq_aの値範囲は23kHzないし48kHzであってもよく、オーディオ符号化フォーマットcodec_aはMP3またはMPEG-Hのような符号化フォーマットであってもよく、オーディオ・ステレオ度stereo_aはステレオサウンドであってもよく、または立体音響であってもよい。複数個のオーディオ属性情報は異なる値を有してもよいので、複数個のオーディオ属性情報に基づいて複数の異なるベクトルjが形成されてもよく、異なるベクトルjに基づいて、聴覚的忠実度経験スコアを計算するために異なるfj()が選択されてもよい。
【0168】
さらに、fj()は以下の関数形で示すことができる。
【数10】
ここで、v7、v8は異なるベクトルjに基づいて異なる対応する値に設定されてもよく、すなわち、異なるベクトルv7が異なる値をもつv7およびv8に対応し、MOSaはVRマルチメディアのオーディオ品質を表わす中間変数であり、MOSaは式5a-11を使って計算することができる。
【数11】
ここで、v9、v10、v11は異なるベクトルjに基づいて異なる対応する値に設定されてもよい。すなわち、異なるベクトルjが異なる値をもつv9、v10、v11に対応する。
【0169】
(3)VRマルチメディアの忠実度経験スコアを、現在時刻における視覚忠実度経験スコアおよび聴覚的忠実度経験スコアに基づいて決定する。
【0170】
上記の(1)および(2)の方法を用いてVRマルチメディアの視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアを決定した後、端末は、決定された視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアを入力パラメータとして用い、式5a-12に示される計算モデルを用いて計算を実行して、VRマルチメディアの忠実度経験スコアを得ることができる。
【数12】
【0171】
前記少なくとも二つの知覚次元は、この実施形態では視覚次元および聴覚次元である、すなわち、他の次元は存在しないため、式5a-12における他の次元における忠実度経験スコアsFidelityoptionalは0であるが、視覚忠実度経験スコアsFidelityvisualおよび聴覚的忠実度経験スコアsFidelityacousticは、(1)および(2)の計算を通じて得られる視覚忠実度経験スコアおよび聴覚的忠実度経験スコアである。また、上式におけるv12ないしv19はみな事前設定されたパラメータである。
【0172】
忠実度経験スコアを決定した後、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起しているため、端末は、現在時刻に生起しているイベントに基づいて対応する経験スコアを計算することができる。現在時刻に生起しているイベントがネットワーク・メディア・イベントである場合、ステップ502aが実行され;あるいは現在時刻に生起しているイベントが対話的メディア・イベントである場合、ステップ503aが実行される。
【0173】
ステップ502a:現在時刻に生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定する。
【0174】
享受経験スコアは、忠実度経験スコアに基づいているため、忠実度経験スコアが変化すれば、享受経験スコアも変化する。よって、この場合、端末は、現在決定された忠実度経験スコア、現在時刻に対応する第二の感覚パラメータ、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、享受経験スコアを計算することができる。しかしながら、対話経験スコアについては、対話的メディア・イベントは現在時刻において生起していないため、端末は対話経験スコアを計算せず、対話経験スコアを初期値に設定することができる。初期値は0であってもよいし、あるいは別の値であってもよい。
【0175】
ネットワーク・メディア・イベントは現在時刻において生起しているが、現在時刻は第二の感覚パラメータのサンプリング時間ではない可能性があることを注意しておくべきである。よって、享受経験スコアが、現在決定された忠実度経験スコア、現在時刻に対応する第二の感覚パラメータ、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて計算されるとき、現在時刻に対応する第二の感覚パラメータにおけるネットワーク・メディア・イベントの型は、サンプリングを通じて最近得られた第二の感覚パラメータにおけるネットワーク・メディア・イベントの型であってもよいが、第二の感覚パラメータに含まれる第一の継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0176】
具体的には、端末が、現在決定された忠実度経験スコアおよび第二の感覚パラメータに基づいて、現在時刻における享受経験スコアを決定するとき、計算態様は、現在時刻において生起している種々のネットワーク・メディア・イベントにも依存して対応して変化し、享受経験に影響を与える。具体的には、ネットワーク・メディア・イベントの典型的な型は、再生イベント、フリーズ・イベント、およびメディア品質変化イベントを含みうるため、上記三つの型のイベントに対応する具体的な計算態様が、この実施形態において主として記述される。
【0177】
また、本願においては、忠実度経験スコアは実際に、VRマルチメディアに基づいて決定される理想的なスコアであるが、享受経験スコアは、ネットワーク条件の変化に起因する関係したイベントによって引き起こされる、理想的なスコアの障害の変動を反映する。すなわち、享受経験スコアについて、MOS変動が計算される。
【0178】
なお、ネットワーク・メディア・イベントにおける再生イベント、フリーズ・イベント、およびメディア品質変化イベントが生起すると、視覚次元および聴覚次元の両方が影響を受けるため、演算効率を向上させるため、本実施形態では、享受経験スコアが決定されるとき、視覚次元における享受経験スコアおよび聴覚次元における享受スコアはもはや別個に計算されるのではなくてもよく、代わりに、視覚次元および聴覚次元の組み合わせにおいて享受経験スコアが計算される。もちろん、端末は、視覚次元に対応する視覚享受経験スコアと、聴覚次元に対応する聴覚享受経験スコアとを別々に計算し、計算を通じて得られた視覚次元の享受経験スコアと聴覚次元の享受経験スコアとに基づいて、VRマルチメディアの享受経験スコアを決定することもできる。
【0179】
(1)現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSを入力パラメータとして使って、再生イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する。
【0180】
第一の継続時間は、ネットワーク・メディア・イベントの継続時間である。現在時刻に生起しているネットワーク・メディア・イベントが再生イベントである場合、端末は現在時刻までの再生イベントの継続時間を前記第一の継続時間として取得し、使用してもよい。さらに、現在時刻が第一の感覚パラメータのサンプリング時刻でない場合、端末は、現在時刻より前に最近決定された忠実度経験スコアを、現在時刻における忠実度経験スコアとして取得し、使用することができる;または、現在時刻が第一の感覚パラメータのサンプリング時刻である場合、現在時刻における計算を通じて得られた忠実度経験スコアが、現在決定された忠実度経験スコアである。さらに、VRマルチメディアのMOSがイベントを単位として使って計算される場合、端末は、前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSをさらに取得してもよい。得られた第一の継続時間、忠実度経験スコア、および前回のネットワーク・メディア・イベントにおけるVRマルチメディアのMOSに基づいて、端末は、式5a-13を使って、現在時刻における再生イベントに対応するMOS変動、すなわち、現在時刻における再生イベントに対応する享受経験スコアを計算することができる。
【数13】
ここで、ΔMOSnppは、n番目のイベントが再生イベントであるときの対応するMOS変動であり、sFidelitynは現在決定された忠実度経験スコアであり、VR−MOSn-1は前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSであり、tnは前記第一の継続時間である。
【0181】
(2)現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSを入力パラメータとして使って、フリーズ・イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する。
【0182】
現在時刻において生起しているネットワーク・メディア・イベントがフリーズ・イベントである場合、端末は、フリーズ・イベントの第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベント終了時のVRマルチメディアのMOSに基づいて、次の計算モデルを用いて、現在時刻におけるフリーズ・イベントに対応する享受経験スコアを計算することができる。
【数14】
ここで、ΔMOSnprは、n番目のイベントがフリーズ・イベントである場合の対応するMOS変動であり、sFidelitynは現在決定された忠実度経験スコアであり、VR−MOSn-1は前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSであり、tnは前記第一の継続時間である。
【0183】
(3)現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がメディア品質変化イベントである場合、現在決定された忠実度経験スコアと、現在時刻より前に最近決定された忠実度経験スコアとの間の差を、VRマルチメディアの享受経験スコアとして決定する。
【0184】
メディア品質変化イベントは通例、ある瞬間に生起し、一般に、VRマルチメディアのセグメント間の切り換えの瞬間に生起するため、メディア品質変化イベントが決定される場合には継続時間は考慮されないが、現在決定された忠実度経験スコアと、現在時刻より前に最近決定された忠実度経験スコアとの間の差は、メディア品質変化イベントに対応するVRマルチメディアの享受経験スコアとして決定される。
【0185】
さらに、メディア品質変化イベントは、メディア品質改善イベントであることもあり、あるいはメディア品質劣化イベントであることもある。メディア品質変化イベントがメディア品質改善イベントである場合、すなわち、現在決定された忠実度経験スコアが、現在時刻より前に最近決定された忠実度経験スコアよりも大きい場合、計算を通じて得られる享受経験スコアは正の数である。メディア品質変化イベントがメディア品質劣化イベントである場合、すなわち、現在決定された忠実度経験スコアが、現在時刻より前に最近決定された忠実度経験スコアよりも小さい場合、計算によって得られる享受経験スコアは負の数である。
【0186】
異なるネットワーク・メディア・イベントについて、本実施形態では、享受経験スコアを計算する対応する態様が別個に説明される。これに基づいて、本願においてVRマルチメディアを再生するプロセスにおいて、再生と計算が同時に実行されることも注意しておく。したがって、VRマルチメディアのMOSがイベントを単位として計算される場合、端末は、どの時点でネットワーク・メディア・イベントが終了するかを予測することができない。したがって、端末は、VRマルチメディアを再生するプロセス全体において、ネットワーク・メディア・イベント・カウンタを設定することができる。VRマルチメディアの再生を開始する初期時刻において、ネットワーク・メディア・イベント・カウンタは0に初期化される。VRマルチメディアの再生を開始する初期時刻は初期ロード時間であるため、初期ロード・イベントがイベント0に設定されてもよいが、初期ロード・イベント後の最初の通常再生イベントはイベント1に設定され;その後、ネットワーク・メディア・イベントが生起するたびに、ネットワーク・メディア・イベント・カウンタにおけるイベントnにおけるnはn+1に更新される。各イベントnについて、端末は、イベントnが開始するときに、イベントnの第一の継続時間を0に設定することができる。イベントnのMOS変動が現在時刻において計算される必要がある場合、第一の継続時間は現在時刻に基づいて更新され、イベントnに対応するMOS変動は第一の継続時間に基づいて計算される。現在時刻がイベントnの終了時刻であるが、端末が現在時刻がイベントnの終了時刻であることを知らない場合、端末は、現在時刻の次の時刻におけるネットワーク・メディア・イベントの型に基づいて、現在時刻がイベントnの終了時刻であることを決定する。また、対応して、次回ネットワーク・メディア・イベントの型の変化を検出するときに、端末はまた、イベントnをイベントn+1に更新し、対応してイベントn+1の第一の継続時間を初期値に設定する。
【0187】
たとえば、VRマルチメディアが三つのセグメントを含んでおり、各セグメントの継続時間がt1秒であり、初期ロード・イベントはVRマルチメディアの再生を開始した初期時刻に生起し、該初期ロード・イベントはt2秒間続き;次いで、通常再生時間が到着するが;再生中に第一のセグメントの第t3秒目にフリーズ・イベントが生起し、フリーズ・イベントはt4秒間継続し;次いで、第二のセグメントから第三のセグメントへの切り換えの間にメディア品質変化イベントが生起するとする。VRマルチメディアを再生するプロセスからわかるように、イベント0は、初期ロード・イベントであり、t2秒間続き;イベント1は、再生イベントであり、t3秒間続き;イベント2は、フリーズ・イベントであり、t4秒間続き;イベント3は、再生イベントであり、イベント3の継続時間は、第一のセグメントが再生される第t3秒目にフリーズ・イベントが生起するため、完全には再生されなかったt1−t3を含み、さらに、第二のセグメントの継続時間全体のt1を含み、したがって、イベント3の継続時間は、t1−t3+t1秒間である。VRマルチメディアのMOSが、VRマルチメディアを再生するプロセスにおいてイベントを単位として計算される場合、各イベントについて、ネットワーク・メディア・イベントに対応する上記の計算モデルを用いて、対応する継続時間に基づいて計算を通じて、享受経験スコアを得ることができる。
【0188】
ステップ503a:現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定する。
【0189】
現在時刻において生起しているイベントが対話的メディア・イベントである場合、忠実度経験スコアが更新されるため、VRマルチメディアのMOSの計算が現在時刻においてトリガーされる。よって、端末は、現在時刻における対話経験スコアを決定する必要がある。また、現在時刻においてはネットワーク・メディア・イベントは生起していないため、端末は享受経験スコアを初期値に設定してもよい。
【0190】
さらに、対話的メディア・イベントは現在時刻において生起しているが、現在時刻は対話的メディア・イベントのサンプリング時間ではない可能性がある。対話経験スコアが第三の感覚パラメータに基づいて決定される場合、現在時刻に対応する第三の感覚パラメータにおける対話的メディア・イベントの型は、サンプリングを通じて最近得られた第三の感覚パラメータにおける対話的メディア・イベントの型であってもよいが、第三の感覚パラメータに含まれる第二の継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0191】
本願において、対話経験スコアは、ユーザーとの対話に起因する関係したイベントによって引き起こされる理想的なスコアの障害の変動を主に反映すること、すなわち、対話経験スコアについてMOS変動が計算されることを注意しておく。さらに、対話経験は主にユーザーとの対話により生成されるため、対話経験スコアは、忠実度経験スコアとは関係しない。すなわち、対話経験スコアが計算されるときは、忠実度経験スコアは考慮される必要はないことがあり、計算は第二の継続時間のみに基づいて実行すればよい。第二の継続時間は、対話的メディア・イベントの継続時間である。さらに、対話経験スコアに影響する典型的なイベントは、主に、初期ロード・イベント、対話的ロード・イベント、またはメディア・ヒステリシス・イベントを含む。よって、上記のいくつかのイベントについては、本実施形態では、対話経験スコアを計算する対応する態様が別個に記述される。
【0192】
(1)初期ロード・イベントは、VRマルチメディアの再生を開始する初期時点において生起しているメディア・バッファリングである。現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型が初期ロード・イベントである場合、端末は、計算モデル5a-15を使って、初期ロード・イベントに対応する対話経験スコアを計算することができる。
【数15】
ここで、ΔMOSnilは初期ロード・イベントによって引き起こされるMOS変動、すなわち、現在時刻における初期ロード・イベントに対応する対話経験スコアであり、tinitは初期ロード・イベントに対応する第二の継続時間である。
【0193】
(2)対話的ロード・イベントは、ユーザー操作に起因するシーン切り換えにおけるロードである。現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型が対話的ロード・イベントである場合、端末は、計算モデル5a-16を使って、対話的ロード・イベントに対応する対話経験スコアを計算することができる。
【数16】
ここで、ΔMOSnolは、対話型ロード・イベントによって引き起こされるMOS変動、すなわち、現在時刻における対話型ロード・イベントに対応する対話経験スコアであり、tloadingは対話型ロード・イベントに対応する第二の継続時間である。
【0194】
(3)メディア・ヒステリシス・イベントは、メディア更新とユーザー・アクションに起因するアクションとの間で生起するヒステリシス・イベントであり、ユーザー・アクションは、ユーザーの位置または身体の姿勢もしくは頭部の回転の変化などのアクションであってもよい。現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型がメディア・ヒステリシス・イベントである場合、端末は、計算モデル5a-17を使って、メディア・ヒステリシス・イベントに対応する対話経験スコアを計算することができる。
【数17】
ここで、ΔMOSndmはメディア・ヒステリシス・イベントによって引き起こされるMOS変動、すなわち、現在時刻におけるメディア・ヒステリシス・イベントに対応する対話経験スコアであり、MOSmは中間変数であり、式5a-18を使った計算を通じて得られる。
【数18】
ここで、tdはメディア・ヒステリシス・イベントに対応する第二の継続時間である。
【0195】
上記(1)〜(3)に記載した方法を用いることにより、異なる対話的メディア・イベントに対応する対話経験スコアがそれぞれ決定されることができる。また、本願では、VRマルチメディアを再生するプロセスにおいて、再生および計算が同時に実行されることも注意しておくべきである。よって、VRマルチメディアのMOSがイベントを単位として使って計算される場合、端末は、対話的メディア・イベントが終了する時点を前もって予測することができない。よって、端末は、VRマルチメディアを再生するプロセス全体において、対話的メディア・イベント・カウンタを設定することができる。具体的には、対話的メディア・イベント・カウンタを設定し、イベント・カウンタを更新する態様については、上記のステップ502aにおけるネットワーク・メディア・イベント・カウンタに関する記述を参照されたい。本実施形態において再度詳細を述べることはしない。
【0196】
ステップ504a:現在時刻において決定されたVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0197】
忠実度経験スコア、享受経験スコア、および対話経験スコアを決定した後、端末は、忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算することができる。
【0198】
事前設定されたVRマルチメディアMOS計算モデルは、線形計算モデルであってもよく、あるいは非線形計算モデルであってもよいことを注意しておくべきである。具体的には、線形計算モデルは式5a-19に示され、非線形計算モデルは式5a-20に示される。
【数19】
【数20】
ここで、f(sFidelity,sEnjoyment,sInteraction)はVRマルチメディアのMOSであり、sFidelityはVRマルチメディアの忠実度経験スコアであり、sEnjoymentはVRマルチメディアの享受経験スコアであり、sInteractionはVRマルチメディアの対話経験スコアである。
【0199】
関数g(sEnjoyment,sInteraction)は、線形関数であってもよく、あるいは非線形関数であってもよい。関数g(sEnjoyment,sInteraction)が線形関数である場合、関数は、式5a-21によって示されてもよい。
【数21】
【0200】
関数g(sEnjoyment,sInteraction)が非線形関数である場合、関数は、式5a-22によって示されてもよい。
【数22】
ここで、αおよびβは事前設定されたパラメータである。
【0201】
本発明のこの実施形態では、忠実度経験スコアが決定されるときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータの、忠実度経験に対する影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。さらに、享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスにおいて生起する、前のイベントの影響を考慮することと等価である。よって、決定される享受経験スコアは、より包括的であり、より正確である。
【0202】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合に、イベントを単位として使って、VRマルチメディアのMOSを決定する方法が図5Aに記載されている。図5Bを参照して、以下では、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが同時に生起している場合に、イベントを単位として使って、VRマルチメディアのMOSを決定する方法を記述する。
【0203】
図5Bは、本発明のある実施形態による、イベントを単位として使って、VRマルチメディアのMOSを決定する別の方法のフローチャートである。図5Bに示されるように、本方法は、以下のステップを含む。
【0204】
ステップ501b:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定する。
【0205】
上記の記述に基づき、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において同時に生起している場合、端末は、忠実度経験スコアおよび享受経験スコアに加えて、対話経験スコアをさらに計算する必要がある。
【0206】
端末によって忠実度経験スコアを計算する態様については、忠実度経験スコアを計算するステップ501aに関する記述を参照されたい。端末によって享受経験スコアを決定する態様については、享受経験スコアを計算するステップ502aに関する記述を参照されたい。さらに、端末によって対話経験スコアを決定する態様については、対話経験スコアを計算するステップ503aに関する記述を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0207】
ステップ502b:現在時刻において決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0208】
現在時刻において決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算することの具体的な実装については、ステップ504aを参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0209】
本発明のこの実施形態では、忠実度経験スコアが決定されるときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータの、忠実度経験に対する影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。さらに、享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスにおいて生起する、前のイベントの影響を考慮することに等しい。よって、決定された享受経験スコアは、より包括的であり、より正確である。加えて、対話的メディア・イベントが現在時刻において生起しているので、端末は対話経験スコアを計算して、現在時刻に対応するVRマルチメディアのMOSを決定することができる。すなわち、端末は、対話経験スコアも対応して更新する。よって、VRマルチメディアのMOSの精度が改善される。
【0210】
現在時刻が第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび/または対話的メディア・イベントが生起している場合にVRマルチメディアのMOSを決定する諸実装プロセスが、図5Aおよび図5Bを参照して上記で別個に記述される。上記の二つの場合に加えて、端末はさらに、生起しているイベントの終了時に、計算をトリガーして忠実度経験スコア、享受経験スコア、および対話スコアを出力してもよく、さらに、忠実度経験スコア、享受経験スコア、および対話経験スコアに基づいた統合計算を通じて、イベントに対応するVRマルチメディアのMOSを取得することができる。詳細は図5Cに示されている。
【0211】
ステップ501c:イベントを単位として使ってVRマルチメディアの享受経験スコアおよび対話経験スコアを決定する。
【0212】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、端末は、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起しているかどうか、および生起しているイベントが終了するかどうかに依存して、三つの場合においてVRマルチメディアの享受経験スコアおよび対話経験スコアを決定することができる。
【0213】
第一の場合:現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定する。
【0214】
VRマルチメディアの享受経験スコアの計算は、さらに、現在時刻での忠実度経験スコアに依存する必要があるが、現在時刻は、忠実度経験スコアの計算時間ではない、すなわち、現在時刻での計算を通じて忠実度経験スコアは得られないので、この場合、端末は、現在時刻より前に最近決定された忠実度経験スコアを得て、享受経験スコアを計算するための入力パラメータとして使用することができる。さらに、端末は、前回のネットワーク・メディア・イベントの終了時にVRマルチメディアのMOSをさらに取得し、取得した忠実度経験スコアおよびサンプリングを通じて取得した第二の感覚パラメータを参照した計算を通じ得、VRマルチメディアの享受経験スコアを取得することができる。
【0215】
現在時刻において対話的メディア・イベントは生起していないため、端末は対話経験スコアを初期値に設定することができる。
【0216】
第二の場合:現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定する。
【0217】
現在時刻が対話的メディア・イベントの終了時刻である場合、VRマルチメディアの対話経験スコアの計算がトリガーされ、さらにVRマルチメディアのMOSの計算がトリガーされる。
【0218】
VRマルチメディアの対話経験スコアの計算については、ステップ503aにおける対話経験スコアの計算の態様を参照されたい。ネットワーク・メディア・イベントが生起していないため、VRマルチメディアの享受経験スコアは初期値に設定されてもよい。
【0219】
第三の場合:現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、かつ、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが原罪時効において検出される場合、現在の時点に対応する第二の感覚パラメータ、現在の時点より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定する。
【0220】
ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において同時に生起している場合、生起しているイベントの一つが終了する限り、VRマルチメディアの享受経験スコアと対話経験スコアの計算がトリガーされ、さらに、VRマルチメディアのMOSの計算がトリガーされる。
【0221】
VRマルチメディアの享受経験スコアの計算については、ステップ502aの享受経験スコアの計算を参照されたい。VRマルチメディアの対話経験スコアの計算については、ステップ503aの対話経験スコアを決定する方法を参照されたい。
【0222】
ステップ502c:現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアとを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0223】
現在時刻において忠実度経験スコアは計算されないため、端末は、現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアとを、VRマルチメディアのMOSを計算するための入力パラメータとして使用することができる。入力パラメータに基づいて、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する方法については、ステップ504aの対応する方法を参照されたい。
【0224】
本発明のこの実施形態では、現在時刻が第一の感覚パラメータのサンプリング時刻に達しないため、忠実度経験スコアは変化しない。よって、端末は、直接的に忠実度経験を得ることができ、演算の量が減少する。さらに、享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスにおいて生起する、前のイベントの影響を考慮することに等しい。よって、決定された享受経験スコアは、より包括的であり、より正確である。加えて、対話的メディア・イベントが現在時刻に生起しているので、端末は、現在時刻に対応するVRマルチメディアのMOSを決定するために、対話経験スコアを計算することができる。すなわち、端末は、対応して対話経験スコアをも更新する。よって、VRマルチメディアのMOSの精度が改善される。
【0225】
イベントを単位として使ってVRマルチメディアのMOSを決定するための三つの方法が、図5Aから図5Cを参照して上述されている。同様に、現在時刻が異なる場合に対応するときの、単位時間期間を単位として使ってVRマルチメディアのMOSを決定する三つの方法も存在する。図6A図6Cを参照して、下記は、単位時間期間を単位として使って、VRマルチメディアのMOSを決定するための三つの方法を記述する。
【0226】
図6Aは、本発明のある実施形態による、単位時間期間を単位として使って、VRマルチメディアのMOSを決定する方法である。図6Aに示されるように、本方法は、以下のステップを含む。
【0227】
ステップ601a:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定する。
【0228】
単位時間期間を単位として使ってVRマルチメディアのMOSが決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達すると、端末は、サンプリングを通じて得られた第一の感覚パラメータに基づいて対応する忠実度経験スコアを計算することができる。サンプリングを通じて得られた第一の感覚パラメータに基づいて端末による忠実度経験スコアを計算する態様については、ステップ501aにおける忠実度経験スコアを計算する態様を参照されたい。
【0229】
端末が計算を通じて忠実度経験スコアを取得した後、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起しているため、端末は、現在時刻に生起しているイベントに基づいて対応する経験スコアを計算することができる。現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、ステップ602aが実行される;あるいは、現在時刻において生起しているイベントが対話的メディア・イベントである場合、ステップ603aが実行される。
【0230】
ステップ602a:現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定する。
【0231】
現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合には、忠実度経験スコアが決定された後、VRマルチメディアのMOSが単位時間期間を単位として使って決定されるため、端末は、前の単位時間期間の終了時におけるVRマルチメディアのMOSを取得し、現在時刻での享受経験スコアを計算するための入力パラメータとして使用することができる。さらに、端末は、現在時刻に対応する第二の感覚パラメータおよび現在決定された忠実度経験スコアを参照して、VRマルチメディアの享受経験スコアを計算する必要がある。
【0232】
端末によって忠実度経験スコアを具体的な態様については、ステップ501aに記載される忠実度経験スコアを計算する態様が参照されうることを注意しておくべきである。
【0233】
また、端末によって享受経験スコアの計算する態様において、上記のステップ502aで入力される前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSが、前回の単位時間期間の終了時におけるVRマルチメディアのMOSに変更される必要があるだけであり、対応する残りの部分が参照されてもよい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0234】
ステップ603a:現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定する。
【0235】
現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定する態様については、ステップ503aにおける対話経験スコアを計算する態様を参照されたい。また、現在時刻においてネットワーク・メディア・イベントが生起していないため、享受経験スコアは初期値に設定されてもよい。
【0236】
ステップ604a:現在時刻において決定されたVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0237】
現在時刻において決定されたVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。ための方法については、ステップ504aを参照されたい。
【0238】
本発明のこの実施形態では、忠実度経験スコアが決定されるときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータの、忠実度経験に対する影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。さらに、享受経験スコアの決定は、現在の単位時間期間にイベントが生起しているかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスにおいて生起している、前のイベントの影響を考慮することに等しい。よって、決定される享受経験スコアは、より包括的であり、より正確である。
【0239】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合に、単位時間期間を単位として使ってVRマルチメディアのMOSを決定する方法が図6Aに記載されている。図6Bを参照して、下記は、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが同時に生起している場合に、単位時間期間を単位として使って、VRマルチメディアのMOSを決定する方法を記述する。
【0240】
図6Bは、本発明のある実施形態による、単位時間期間を単位として使って、VRマルチメディアのMOSを決定する別の方法のフローチャートである。図6Bに示されるように、本方法は、以下のステップを含む。
【0241】
ステップ601b:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定する。
【0242】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントと対話的メディア・イベントが現在時刻において同時に生起している場合、端末は、忠実度経験スコアおよび享受経験スコアに加えて、対話経験スコアをさらに計算する必要がある。
【0243】
端末によって享受経験スコアの計算方法については、ステップ602aの記述を参照されたい。さらに、現在時刻において対話的メディア・イベントは生起しているが、現在時刻は対話的メディア・イベントのサンプリング時間ではない可能性がある。対話経験スコアが第三の感覚パラメータに基づいて決定される場合、現在時刻に対応する第三の感覚パラメータにおける対話的メディア・イベントの型は、サンプリングを通じて最近得られた第三の感覚パラメータにおける対話的メディア・イベントの型であってもよいが、第三の感覚パラメータに含まれる継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0244】
端末によって忠実度経験スコアおよび対話経験スコアを計算する具体的な態様については、それぞれ、ステップ501aに記載される忠実度経験スコアを計算する態様およびステップ503aにおける対話経験スコアを計算する態様を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0245】
また、端末によって享受経験スコアを計算する具体的な態様については、上記のステップ502aで説明した享受経験スコアを計算するために入力される、前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSが、前回の単位時間期間の終了時におけるVRマルチメディアのMOSに変更される必要があるだけであり、対応する残りの部分については参照すればよい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0246】
ステップ602b:現在時刻において決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いて、VRマルチメディアのMOSを計算する。
【0247】
現在時刻において決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いて、VRマルチメディアのMOSを計算することの具体的な実装については、ステップ504aを参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0248】
本発明のこの実施形態では、忠実度経験スコアが決定されるとときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータの、忠実度経験に対する影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。さらに、享受経験スコアの決定は、現在の単位時間期間においてイベントが生起しているかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、以前のイベントの影響を考慮することに等しい。よって、決定された享受経験スコアは、より包括的であり、より正確である。加えて、現在時刻において対話的メディア・イベントが生起しているので、端末は対話経験スコアを計算して、現在時刻に対応するVRマルチメディアのMOSを決定することができる。すなわち、端末は、対応して対話経験スコアをも更新する。よって、VRマルチメディアのMOSの精度が改善される。
【0249】
現在時刻が第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび/または対話的メディア・イベントが生起している場合にVRマルチメディアのMOSを決定する実装プロセスが、図6Aおよび図6Bを参照して上記で別個に記述されている。上記の二つの場合に加えて、端末は、さらに、単位時間期間の終了時または生起しているイベントの終了時に、計算をトリガーして、忠実度経験スコア、享受経験スコア、および対話スコアの計算を出力し、さらに、忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく統合計算を通じて、当該イベントに対応するVRマルチメディアのMOSを取得することができる。詳細は図6Cに示されている。
【0250】
ステップ601c:単位時間期間を単位として使って、VRマルチメディアの享受経験スコアおよび対話経験スコアを決定する。
【0251】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、端末は、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しているかどうか、現在生起しているイベントが終了するかどうか、および単位時間期間が終了するかどうかに依存して、以下のいくつかの場合において、VRマルチメディアの享受経験スコアおよび対話経験スコアを決定することができる。
【0252】
第一の場合:現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、現在時刻でネットワーク・メディア・イベントが終了するか、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定する。
【0253】
(1)現在時刻においてネットワーク・メディア・イベントのみが生起しており、ネットワーク・メディア・イベントは終了していないが、現在時刻が単位時間期間の終了時刻である場合、端末は、現在時刻の第二の感覚パラメータに基づいてVRマルチメディアの享受経験スコアを計算することができる。VRマルチメディアの享受経験スコアの計算は、さらに、現在時刻での忠実度経験スコアに依存する必要があるが、現在時刻は、忠実度経験スコアの計算時間ではない、すなわち、現在時刻での計算を通じて忠実度経験スコアは得られないため、この場合、端末は、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコアを取得し、入力パラメータとして使用することができる。さらに、端末は、前の単位時間期間の終了時にVRマルチメディアのMOSをさらに取得し、取得した忠実度経験スコアおよびサンプリングを通じて取得された第二の感覚パラメータを参照した計算を通じて、VRマルチメディアの享受経験スコアを取得することができる。
【0254】
現在時刻において対話的メディア・イベントは生起していないため、端末は対話経験スコアを初期値に設定してもよい。
【0255】
(2)現在時刻においてネットワーク・メディア・イベントのみが生起しており、現在時刻がネットワーク・メディア・イベントの終了時刻であるが、現在時刻が単位時間期間の終了時刻ではない場合には、端末は、(1)における享受経験スコアおよび対話経験スコアを決定する態様に従って、享受経験スコアおよび対話経験スコアを決定してもよい。
【0256】
第二の場合:対話的メディア・イベントが現在時刻において生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、対話的メディア・イベントが終了するか、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定する。
【0257】
第三の場合:現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、かつ現在時刻において単位時間期間が終了することが現在時刻において検出される場合、または現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、単位時間期間が終了することが検出されない場合、現在時刻に対応する第二の感覚パラメータ、現在の単位時間期間における現在時刻より前に最近決定された最近の忠実度経験スコア、および前の単位時間期間の終了時に決定されたVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定する。
【0258】
現在時刻において対話的メディア・イベントおよびネットワーク・メディア・イベントが同時に生起しており、現在時刻が単位時間期間の終了時刻であるが、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了していることは検出されない場合、VRマルチメディアの享受経験スコアおよび対話経験スコアの計算がトリガーされ、さらにVRマルチメディアのMOSの計算がトリガーされる。
【0259】
現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻で同時に生起しており、ネットワーク・メディア・イベントと対話的メディア・イベントの少なくとも一方が終了することが現在時刻において検出されるが、単位時間期間が終了することは検出されない場合、VRマルチメディアの享受経験スコアおよび対話経験スコアの計算もトリガーされ、さらにVRマルチメディアのMOSの計算がトリガーされる。
【0260】
VRマルチメディアの享受経験スコアの計算については、ステップ601bの享受経験スコアの計算に関する説明を参照されたい。VRマルチメディアの対話経験スコアの計算については、ステップ503aの対話経験スコアを決定する方法を参照されたい。
【0261】
ステップ602c:現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアとを、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算するための入力パラメータとして使用する。
【0262】
現在時刻において忠実度経験スコアは計算されないため、端末は、現在の単位時間期間における現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアとを、VRマルチメディアのMOSを計算するための入力パラメータとして使用することができる。入力パラメータに基づく事前設定されたVRマルチメディアMOS計算モデルを使ってVRマルチメディアのMOSを計算する方法については、ステップ504aの対応する方法を参照されたい。
【0263】
本発明のこの実施形態では、現在時刻が第一の感覚パラメータのサンプリング時刻に達しないため、忠実度経験スコアは変化しない。よって、端末は、直接的に忠実度経験を得ることができ、演算の量が減少する。さらに、享受経験スコアの決定は、現在の単位時間期間にイベントが生起しているかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、以前のイベントの影響を考慮することに等しい。よって、決定された享受経験スコアは、より包括的であり、より正確である。さらに、現在時刻において対話的メディア・イベントが生起しているので、端末は対話経験スコアを計算して、現在時刻に対応するVRマルチメディアのMOSを決定し、取得することができる。すなわち、端末はまた、対話経験スコアも対応して更新する。よって、VRマルチメディアのMOSの精度は改善される。
【0264】
本発明のこの実施形態では、VRマルチメディアのMOSを決定するための第一の方法が、上記の実施形態の図4ないし図6Cを参照して説明され、記述されている。換言すれば、得られたパラメータに基づいて端末によって忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し、さらにVRマルチメディアのMOSを決定する実装プロセスが記述されている。以下の実施形態では、VRマルチメディアのMOSを決定するための第二の方法が、図7ないし図9Cを参照して説明され、記述される。図7は、本発明のある実施形態によるVRマルチメディアの経験品質を決定する別の方法である。図7に示されるように、本方法は、以下のステップを含む。
【0265】
ステップ701:VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを取得する。
【0266】
VRマルチメディアを再生するプロセスにおいて、端末は、VRマルチメディアに対してサンプリングを実行することによって、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータを得ることができる。端末によって第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータをサンプリングするためのサンプリング周期は、異なっていてもよい。
【0267】
たとえば、端末は、ピクチャー群(Group of Picture、GoP)を単位として使って一度、第一の感覚パラメータをサンプリングすることができ、あるいは、セグメントを単位として使用って一度、第一の感覚パラメータをサンプリングすることができ、あるいはもちろん、さらに、事前設定されたサンプリング期間を使って第一の感覚パラメータをサンプリングすることができる。別の例として、端末は、ユーザーの位置の変化を検出するときに一度、第三の感覚パラメータをサンプリングすることができ、あるいは、事前設定されたサンプリング周期に基づいて、あるいはGoPを単位として使って一度、第三の感覚パラメータをサンプリングすることができる。換言すれば、端末が第一の感覚パラメータをサンプリングするとき、第二の感覚パラメータまたは第三の感覚パラメータのサンプリング時間は到達しなくてもよい。
【0268】
ステップ702:少なくとも二つの知覚次元のそれぞれについて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定する。
【0269】
VRマルチメディアを再生するプロセスにおいて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータは、前記少なくとも二つの知覚次元に従ってサンプリングを実行することによって得られる。すなわち、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータはみな、視覚次元に対応するパラメータおよび聴覚次元に対応するパラメータを含む。よって、前記少なくとも二つの知覚次元のそれぞれについて、端末は、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定することができる。
【0270】
たとえば、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータはすべて、視覚次元に対応するパラメータおよび聴覚次元に対応するパラメータを含み;端末は、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおける視覚次元に対応するパラメータに基づいて、それぞれ、視覚的忠実度経験スコア、視覚的享受経験スコア、および視覚的対話経験スコアを計算することができる。さらに、端末は、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおける聴覚次元に対応するパラメータに基づいて、それぞれ、聴覚的忠実度経験スコア、聴覚的享受経験スコア、および聴覚的対話経験スコアを計算することができる。もちろん、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータが、フィードバック次元のような別の次元に対応するパラメータをさらに含む場合、端末は、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおけるフィードバック次元に対応するパラメータにそれぞれ基づいて、フィードバック忠実度経験スコア、フィードバック享受経験スコア、およびフィードバック対話経験スコアをさらに計算することができる。
【0271】
なお、端末によってVRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに対するサンプリングを実行する方法に関する説明については、ステップ401の説明を参照されたい。本実施形態では、再度詳細を説明することはしない。
【0272】
さらに、ステップ401で説明したように、感覚パラメータのサンプリング周期が異なるため、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて端末によって忠実度経験スコア、享受経験スコア、および対話スコアを決定する機会も異なる。同様に、この実施形態では、感覚パラメータの異なるサンプリング周期のため、端末によって各知覚次元に対応する忠実度経験スコア、享受経験スコア、および対話経験スコアを計算する機会も異なる。
【0273】
具体的には、前記少なくとも二つの知覚次元のそれぞれについて、VRマルチメディアを再生するプロセスで生起するイベントを単位として使って、端末は、計算をトリガーし、生起するイベントの終了時に一度、忠実度経験スコア、享受経験スコア、および対話スコアを出力し、その後、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく統合計算を通じて、その知覚次元におけるイベントに対応するVRマルチメディアの経験スコアを得ることができる。
【0274】
さらに、事前設定された単位時間期間を単位として使用することによって、端末は、VRマルチメディアを再生するプロセスにおいて、単位時間期間の終わりに一度、計算をトリガーしてその知覚次元における忠実度経験スコア、享受経験スコア、および対話スコアを出力し、その後、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく統合計算を通じて、単位時間期間に対応するその知覚次元におけるVRマルチメディアの経験スコアを得ることもできる。
【0275】
また、第一の感覚パラメータのサンプリング時間に達するとき、サンプリングを通じて得られた第一の感覚パラメータは、前のサンプリング時刻における第一の感覚パラメータと比較して変化する可能性があるため、端末は、サンプリングを通じて得られた第一の感覚パラメータに基づいて忠実度経験スコアを計算する必要があることも注意しておくべきである。しかしながら、享受経験スコアは、忠実度経験スコアに基づいて決定されるため、その知覚次元における忠実度経験スコアが計算を通じて得られた後、その知覚次元における享受経験スコアがさらに、その知覚次元における忠実度経験スコアに基づいて決定される必要がある。すなわち、第一の感覚パラメータのサンプリング時間が到着すると、その知覚次元における忠実度経験スコアの計算時間も到着する。しかしながら、その知覚次元における忠実度経験スコアの計算時間が到着すると、計算がトリガーされ、その知覚次元における享受経験スコアおよび対話経験スコアが一度出力されてもよく、その知覚次元におけるVRマルチメディアの経験スコアがさらに一度計算される。
【0276】
上記の記述からわかるように、感覚パラメータのサンプリング周期が異なる場合には、前記少なくとも二つの知覚次元のそれぞれについて、第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、端末によってその知覚次元における忠実度経験スコア、享受経験スコア、および対話スコアを決定する機会も異なる。さらに、端末は、VRマルチメディアを再生するプロセスにおいて生起するイベントを単位として使用するか、または事前設定された単位時間期間を単位として使用することによって、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを計算することもできる。よって、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを計算する複数の実装が存在する。それらの実装は、本願の以下の実施形態において議論される。
【0277】
ステップ703:その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元におけるVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0278】
ステップ701における記述に基づいて、前記少なくとも二つの知覚次元のそれぞれについて、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアの計算が、イベントを単位として使ってトリガーされる場合、そのイベントは、享受経験スコアに影響するイベントであってもよいし、対話経験スコアに影響するイベントであってもよく、イベントの終了時間は第一の感覚パラメータのサンプリング時間でなくてもよいので、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアの計算に基づいて、その知覚次元におけるVRマルチメディアの経験スコアを計算する態様も変わりうる。
【0279】
同様に、知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアの計算が、単位時間期間を単位として使ってトリガーされる場合、その知覚次元における決定された忠実度経験スコア、享受経験スコア、および対話経験スコアに基づいてその知覚次元におけるVRマルチメディアの経験スコアを計算する複数の態様も存在する。
【0280】
また、享受経験スコアおよび対話経験スコアの計算がその知覚次元における忠実度経験スコアの計算時にトリガーされるとき、対話経験スコアに影響を及ぼすイベントが該計算時に生起していることもあればしていないこともあるため、その知覚次元における決定された忠実度経験スコア、享受経験スコアおよび対話経験スコアに基づいてその知覚次元におけるVRマルチメディアの経験スコアを計算する態様も変わりうることも注意しておくべきである。よって、その知覚次元における決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いてその知覚次元におけるVRマルチメディアの経験スコアを計算する複数の実装も存在する。本願の以下の実施形態では、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアの複数の実装を参照して、これらの実装が議論される。
【0281】
ステップ704:前記少なくとも二つの知覚次元におけるVRマルチメディアの経験スコアを入力パラメータとして使って、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算する。
【0282】
前記少なくとも二つの知覚次元に対応する少なくとも二つの経験スコアを決定した後、端末は、前記少なくとも二つの知覚次元における経験スコアを入力パラメータとして使って、式7-1の計算モデルを使用してVRマルチメディアのMOSを計算することができる。
【数23】
【0283】
MOSiは線形モデルであってもよいし、あるいは非線形モデルであってもよい。式7-2は、本発明のこの実施形態において示されるMOSiの線形モデルであり、式7-3は、本発明のこの実施形態に示されるMOSiの非線形モデルである。
【数24】
ここで、i=visual,acoustic,optional、すなわち、iは視覚次元、聴覚次元、または別の次元でありえ、sFidelityiはその知覚次元におけるVRマルチメディアの忠実度経験スコアであり、sEnjoymentiはその知覚次元におけるVRマルチメディアの享受経験スコアであり、sInteractioniはその知覚次元におけるVRマルチメディアの対話経験スコアである。
【0284】
また、関数gi(sEnjoyment,sInteraction)は、線形関数であってもよいし、あるいは非線形関数であってもよいことにも注意しておくべきである。関数gi(sEnjoyment,sInteraction)が線形関数である場合、関数は式7-4によって示される。
【数25】
表される。
【0285】
関数gi(sEnjoyment,sInteraction)が非線形関数である場合、関数は式7-5によって示される。
【数26】
ここで、αiおよびβiは事前設定されたパラメータであり、これらの事前設定されたパラメータも、異なる知覚次元に依存して変わる。
【0286】
本発明のこの実施形態では、端末は、サンプリングを通じて得られた第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、前記少なくとも二つの知覚次元のそれぞれにおいてVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し;次いで、端末は、決定された忠実度経験スコア、享受経験スコア、および対話スコアに基づいて、各知覚次元におけるVRマルチメディアの経験スコアを決定し、さらに、VRマルチメディアのMOSを決定する。本発明のこの実施形態においてVRマルチメディアの経験品質を決定するプロセスに、対話経験品質評価が追加されるが、ユーザーとの対話は、まさに、VRマルチメディアを従来のメディアから区別する主たる特徴であるため、本発明のこの実施形態においてVRマルチメディアの経験品質を決定することは、VRマルチメディアの実際の状況により良く適合し、VRマルチメディアの決定される経験品質もより正確である。
【0287】
ネットワーク・メディア・イベントは、ネットワーク条件の影響により生起するイベントである。ネットワーク状態が比較的良好なときに生起する通常再生イベントは、ネットワーク・メディア・イベントである。比較的劣悪なネットワーク条件のために生成されるフリーズ・イベントおよびメディア品質変化イベントも、ネットワーク・メディア・イベントである。しかしながら、対話的メディア・イベントはこれとは異なり、対話的メディア・イベントは、ユーザーと端末との間に対話が存在するときにのみ生起する。VRマルチメディアを再生するプロセスにおいて、ネットワーク・メディア・イベントが生起するとき、ユーザーと端末との間に対話が存在しないため、対話的メディア・イベントは存在しない可能性がある。あるいはまた、ユーザーと端末との間の対話によって引き起こされる対話的メディア・イベントが生起するとき、ネットワーク条件の変化によって引き起こされるネットワーク・メディア・イベントは存在しない可能性があるため、ネットワーク・メディア・イベントは生起しない。上述の説明に基づき、ステップ701および702の説明を参照し、図8Aないし図8Cを参照して、以下は、現在時刻が異なる場合に対応するときの、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定し、さらに、その知覚次元におけるVRマルチメディアの経験スコアを決定する実装プロセスを説明する。
【0288】
図8Aは、本発明のある実施形態による、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための方法のフローチャートである。図8Aに示されるように、本方法は、以下のステップを含む。
【0289】
ステップ801a:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、ある知覚次元におけるVRマルチメディアの忠実度経験スコアを、現在時刻に対応する第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、決定する。
【0290】
その知覚次元におけるVRマルチメディアの経験スコアが、少なくとも二つの知覚次元のそれぞれについて、イベントを単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間である場合、第一の感覚パラメータが変化した可能性があるため、端末は、第一の感覚パラメータに基づいて、現在時刻におけるその知覚次元における忠実度経験スコアを計算してもよい。
【0291】
端末は、ステップ501aに記載される忠実度経験スコアを計算する対応する態様を参照することによって、現在時刻に対応する、第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元における忠実度経験スコアを決定することができる。
【0292】
その知覚次元における忠実度経験スコアを決定した後、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起しているため、端末は、現在時刻において生起しているイベントに基づいて対応する経験スコアを計算することができる。現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、ステップ802aが実行される;あるいは、現在時刻において生起しているイベントが対話的メディア・イベントである場合、ステップ803aが実行される。
【0293】
ステップ802a:現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、その知覚次元における現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、その知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定する。
【0294】
その知覚次元における享受経験スコアはその知覚次元における忠実度経験スコアに基づいているため、その知覚次元における忠実度経験スコアが変化すれば、その知覚次元における享受経験スコアも変化する。よって、この場合、端末は、その知覚次元における現在決定された忠実度経験スコア、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、および前回のネットワーク・メディア・イベントの終わりにおけるその知覚次元におけるVRマルチメディアの経験スコアに基づいて、その知覚次元における享受経験スコアを計算することができる。しかしながら、その知覚次元における対話経験スコアについては、現在時刻において対話的メディア・イベントが生起していないため、端末はその知覚次元における対話経験スコアを計算せず、その知覚次元における対話経験スコアを初期値に設定してもよい。
【0295】
現在時刻においてネットワーク・メディア・イベントが生起しているが、現在時刻は第二の感覚パラメータのサンプリング時間ではない可能性があることを注意しておくべきである。よって、その知覚次元における享受経験スコアが、その知覚次元における現在決定された忠実度経験スコア、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、および前回のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて計算されるとき、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるネットワーク・メディア・イベントの型は、サンプリングを通じて最近得られた、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られたネットワーク・メディア・イベントの型であってもよいが、第二の感覚パラメータに含まれる継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0296】
また、知覚次元における種々のネットワーク・メディア・イベントに対応する享受経験スコアを計算する態様については、前述のステップ502aにおける享受経験スコアを計算する態様を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0297】
ステップ803a:現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの対話経験スコアを決定し、その知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定する。
【0298】
現在時刻において生起しているイベントが対話的メディア・イベントである場合、その知覚次元における忠実度経験スコアが更新されるため、その知覚次元におけるVRマルチメディアのMOSの計算が現在時刻においてトリガーされる。よって、端末は、現在時刻におけるその知覚次元における対話経験スコアを決定する必要がある。また、現在時刻ではネットワーク・メディア・イベントは生起していないため、端末は、その知覚次元における享受経験スコアを初期値に設定してもよい。初期値は0であってもよいし、あるいは別の数値であってもよい。
【0299】
さらに、現在時刻において対話的メディア・イベントは生起しているが、現在時刻は対話的メディア・イベントのサンプリング時間ではない可能性がある。その知覚次元における対話経験スコアが、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定されるとき、現在時刻に対応する、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型は、サンプリングを通じて最近得られた、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型であってもよいが、該第三の感覚パラメータに含まれる継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0300】
さらに、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに含まれる対話的メディア・イベントの型および継続時間に基づいて、その知覚次元における対話経験スコアを計算する具体的な態様については、ステップ503aにおける対話経験スコアを計算する方法を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0301】
ステップ804a:その知覚次元におけるVRマルチメディアの決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用して、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0302】
前記少なくとも二つの知覚次元のそれぞれについて、現在時刻において決定されるその知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用してその知覚次元におけるVRマルチメディアの経験スコアを計算することの具体的な実装については、ステップ703を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0303】
本発明のこの実施形態では、その知覚次元における忠実度経験スコアを決定するとき、端末は、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的なパラメータの、忠実度経験に対する影響を考慮する。よって、これに基づいて決定されるその知覚次元における忠実度経験スコアもより正確である。さらに、その知覚次元における享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスにおいて生起する、前のイベントの影響を考慮することに等しい。よって、その知覚次元における決定された享受経験スコアは、より包括的であり、より正確である。
【0304】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合に、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための方法が、図8Aに記載されている。図8Bを参照して、下記は、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが同時に生起している場合に、イベントを単位として使って、その知覚次元におけるVRマルチメディアの経験スコアを決定する方法を記述する。
【0305】
図8Bは、本発明のある実施形態による、イベントを単位として使って、ある知覚次元におけるVRマルチメディアの経験スコアを決定するための別の方法のフローチャートである。図8Bに示されるように、本方法は、以下のステップを含む。
【0306】
ステップ801b:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起している場合、ある知覚次元におけるVRマルチメディアの忠実度経験スコアを、現在時刻に対応する、第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定し、その知覚次元におけるVRマルチメディアの享受経験スコアを、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、その知覚次元における現在決定された忠実度経験スコアおよび前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて決定し、VRマルチメディアの対話経験スコアを、現在時刻に対応する、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定する。
【0307】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントと対話的メディア・イベントが同時に生起している場合、少なくとも二つの知覚次元のそれぞれについて、端末は、その知覚次元における忠実度経験スコアおよび享受経験スコアに加えて、その知覚次元における対話経験スコアをさらに計算する必要がある。
【0308】
端末によってその知覚次元における享受経験スコアを計算するために必要な第二の感覚パラメータの選択については、ステップ801aの説明を参照されたい。具体的な計算態様については、ステップ502aの享受経験スコアを計算するための対応する態様を参照されたい。
【0309】
さらに、現在時刻において対話的メディア・イベントは生起しているが、現在時刻は対話的メディア・イベントのサンプリング時間ではない可能性がある。対話経験スコアが、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて決定される場合、現在時刻に対応する第三の感覚パラメータにおける対話的メディア・イベントの型は、サンプリングを通じて最近得られた第三の感覚パラメータにおける対話的メディア・イベントの型であってもよいが、第三の感覚パラメータに含まれる継続時間は、現在時刻に基づいて対応して更新されてもよい。その知覚次元における異なる対話的メディア・イベントに対応する対話経験スコアを計算する具体的な態様については、前述のステップ503aにおける対話経験スコアを計算する具体的な態様を参照されたい。
【0310】
ステップ802b:現在時刻において決定されたその知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用して、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0311】
前記少なくとも二つの知覚次元のそれぞれについて、現在時刻において決定される知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用してその知覚次元におけるVRマルチメディアの経験スコアを計算することの具体的な実装については、ステップ703を参照されたい。本発明のこの実施形態では、詳細を再度説明することはしない。
【0312】
本発明のこの実施形態では、その知覚次元における忠実度経験スコアが決定されるとき、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータの、忠実度経験に対する影響が考慮される。よって、これに基づいて決定されるその知覚次元における忠実度経験スコアもより正確である。さらに、その知覚次元における享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、前のイベントの影響を考慮することに等しい。よって、その知覚次元における決定される享受経験スコアは、より包括的であり、より正確である。さらに、対話的メディア・イベントが現在時刻に生起しているので、端末はその知覚次元における対話経験スコアを計算して、現在時刻に対応するその知覚次元におけるVRマルチメディアの経験スコアを決定することができる。すなわち、端末はまた、その知覚次元における対話経験スコアを対応して更新する。よって、知覚次元におけるVRマルチメディアの経験スコアの精度は改善される。
【0313】
少なくとも二つの知覚次元のそれぞれについて、現在時刻が第一の感覚パラメータのサンプリング時間であり、現在時刻においてネットワーク・メディア・イベントおよび/または対話的メディア・イベントが生起している場合に、ある知覚次元におけるVRマルチメディアの経験スコアを決定する実装プロセスが、図8Aおよび図8Bを参照して別個に上述されている。前述の二つの場合に加えて、端末は、さらに、生起しているイベントの終了時において、計算をトリガーして、その知覚次元における忠実度経験スコア、享受経験スコア、および対話スコアを出力し、さらに、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアに基づく統合計算を通じて、その知覚次元におけるそのイベントに対応するVRマルチメディアの経験スコアを得ることができる。詳細は図8Cに示されている。
【0314】
ステップ801c:イベントを単位として使って、ある知覚次元における享受経験スコアおよび対話経験スコアを決定する。
【0315】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、端末は、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しているかどうか、および生起しているイベントが終了するかどうかに依存して、三つの場合において、その知覚次元におけるVRマルチメディアの享受経験スコアおよび対話経験スコアを決定することができる。
【0316】
第一の場合:現在時刻においてネットワーク・メディア・イベントが生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定されたその知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、その知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定する。
【0317】
その知覚次元におけるVRマルチメディアの享受経験スコアの計算は、さらに、現在時刻でのその知覚次元における忠実度経験スコアに依存する必要があるが、現在時刻は、忠実度経験スコアの計算時間ではない、すなわち、現在時刻での計算を通じてその知覚次元における忠実度経験スコアが得られないため、この場合、端末は、現在時刻より前に最近決定された知覚次元における忠実度経験スコアを、その知覚次元における享受経験スコアを計算するための入力パラメータとして、取得し、使用することができる。さらに、端末は、前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSをさらに取得し、その知覚次元における得られた忠実度経験スコアおよびサンプリングを通じて得られた第二の感覚パラメータを参照した計算を通じて、VRマルチメディアの享受経験スコアを取得することができる。
【0318】
現在時刻において対話的メディア・イベントは生起していないため、端末はその知覚次元における対話経験スコアを初期値に設定してもよい。
【0319】
第二の場合:現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントが生起しておらず、かつ対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られたパラメータに基づいてその知覚次元におけるVRマルチメディアの対話経験スコアを決定し、その知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定する。
【0320】
現在時刻が対話的メディア・イベントの終了時刻である場合、その知覚次元におけるVRマルチメディアの対話経験スコアの計算がトリガーされ、さらにその知覚次元におけるVRマルチメディアの経験スコアの計算がトリガーされる。
【0321】
その知覚次元におけるVRマルチメディアの対話経験スコアの計算については、ステップ503aにおける対話経験スコアを計算する態様を参照されたい。ネットワーク・メディア・イベントが生起していないので、その知覚次元におけるVRマルチメディアの享受経験スコアは初期値に設定されてもよい。初期値は0であってもよいし、別の値であってもよい。
【0322】
第三の場合:現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する、第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定されたその知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてその知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する、第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいてその知覚次元におけるVRマルチメディアの対話経験スコアを決定する。
【0323】
現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが同時に生起している場合、生起しているイベントの一つが終了する限り、その知覚次元におけるVRマルチメディアの享受経験スコアおよび対話経験スコアの計算がトリガーされ、さらに、その知覚次元におけるVRマルチメディアの経験スコアの計算がトリガーされる。
【0324】
その知覚次元におけるVRマルチメディアの享受経験スコアの具体的な計算方法については、ステップ502aの享受経験スコアの計算を参照されたい。その知覚次元におけるVRマルチメディアの対話経験スコアを決定するには、ステップ801bのその知覚次元における対話経験スコアを決定する方法を参照されたい。
【0325】
ステップ802c:現在時刻より前に最近決定されたその知覚次元における忠実度経験スコアと、現在時刻において決定されたその知覚次元における享受経験スコアおよび対話経験スコアとを入力パラメータとして使って、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用してその知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0326】
現在時刻では忠実度経験スコアは計算されないので、端末は、現在時刻より前に最近決定されたその知覚次元における忠実度経験スコアと、現在時刻で決定されたその知覚次元における享受経験スコア、およびその知覚次元における対話経験スコアとを、その知覚次元におけるVRマルチメディアの経験スコアを計算するための入力パラメータとして使用することができる。入力パラメータに基づいてその知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを使用することによってその知覚次元におけるVRマルチメディアの経験スコアを計算する方法については、ステップ703の対応する方法を参照されたい。
【0327】
本発明のこの実施形態では、現在時刻が第一の感覚パラメータのサンプリング時刻に達しないため、その知覚次元における忠実度経験スコアは変化しない。よって、端末は、現在時刻より前に最近決定されたその知覚次元における忠実度経験スコアを直接的に得ることができ、演算の量が減少する。さらに、その知覚次元における享受経験スコアの決定は、現在のイベント期間におけるイベントの性質に関係するだけでなく、前のイベントに対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、前のイベントの影響を考慮することに等しい。よって、その知覚次元における決定された享受経験スコアは、より包括的であり、より正確である。さらに、現在時刻において対話的メディア・イベントが生起しているので、端末はその知覚次元における対話経験スコアを計算して、現在時刻に対応するその知覚次元におけるVRマルチメディアの経験スコアを決定することができる。すなわち、端末はまた、その知覚次元における対話経験スコアを対応して更新する。よって、その知覚次元におけるVRマルチメディアの経験スコアの精度が改善される。
【0328】
イベントを単位として使用することによって知覚次元におけるVRマルチメディアの経験スコアを決定し、VRマルチメディアのMOSをさらに決定するための三つの方法が、図8Aないし図8Cを参照して上述されている。同様に、単位時間期間を単位として使用することによって知覚次元におけるVRマルチメディアの経験スコアを決定する三つの方法も、現在時刻が異なる場合に対応するときに存在する。図9Aないし図9Cを参照して、下記は、単位時間期間を単位として使って知覚次元におけるVRマルチメディアの経験スコアを決定するための三つの方法を説明する。
【0329】
図9Aは、本発明のある実施形態による、単位時間期間を単位として使用することによって知覚次元におけるVRマルチメディアの経験スコアを決定する方法である。図9Aに示されるように、本方法は、以下のステップを含む。
【0330】
ステップ901a:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、現在時刻においてネットワーク・メディア・イベントまたは対話的メディア・イベントが生起している場合、ある知覚次元におけるVRマルチメディアの忠実度経験スコアを、現在時刻に対応する第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、決定する。
【0331】
少なくとも二つの知覚次元のそれぞれについて、知覚次元におけるVRマルチメディアの経験スコアが、単位時間期間を単位として使って決定される場合、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達するならば、端末は、サンプリングを通じて得られた第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元における対応する忠実度経験スコアを計算することができる。第一の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて忠実度経験スコアを計算する仕方については、ステップ501aの対応する知覚次元における忠実度経験スコアを計算する仕方を参照されたい。
【0332】
端末が計算を通じてその知覚次元における忠実度経験スコアを取得した後、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起しているため、端末は、現在時刻において生起しているイベントに基づいて対応する経験スコアを計算することができる。現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、ステップ902aが実行される;あるいは、現在時刻において生起しているイベントが対話的メディア・イベントである場合、ステップ903aが実行される。
【0333】
ステップ902a:現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、その知覚次元における現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、その知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定する。
【0334】
知覚次元におけるVRマルチメディアの経験スコアは、この実施形態では、単位時間期間を単位として使用することによって決定されるので、端末は、現在時刻でのその知覚次元における享受経験スコアを計算するための入力パラメータとして、以前の単位時間期間の終わりにおけるVRマルチメディアのMOSを取得し、使用することができる。加えて、端末はさらに、現在時刻に対応する第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータと、その知覚次元における現在決定された忠実度経験スコアとを参照して、その知覚次元におけるVRマルチメディアの享受経験スコアを計算する必要がある。端末によってその知覚次元における享受経験スコアを計算するために必要な第二の感覚パラメータの選択については、ステップ802aにおける記述を参照されたい。
【0335】
ステップ903a:現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、その知覚次元におけるVRマルチメディアの対話経験スコアを決定し、その知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定する。
【0336】
現在時刻に対応する第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいてその知覚次元におけるVRマルチメディアの対話経験スコアを決定する仕方については、ステップ503aにおける対話経験スコアを計算する仕方を参照されたい。加えて、現在時刻ではネットワーク・メディア・イベントは生起していないため、その知覚次元の享受経験スコアは初期値に設定されてもよい。初期値は0であってもよいし、別の値であってもよい。
【0337】
ステップ904a:現在時刻において決定された、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0338】
現在時刻において決定された、その知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、端末によって、その知覚次元におけるVRマルチメディアの経験スコアを計算するための方法については、ステップ703を参照されたい。
【0339】
本発明のこの実施形態では、知覚次元における忠実度経験スコアが決定されるときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータが忠実度経験に及ぼす影響が考慮される。よって、これに基づいて決定される知覚次元の忠実度経験スコアもより正確である。さらに、知覚次元における享受経験スコアの決定は、イベントが現在の単位時間期間において生起するかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、以前のイベントの影響を考慮することに等しい。よって、知覚次元における決定された享受経験スコアは、より包括的で、より正確である。
【0340】
少なくとも二つの知覚次元のそれぞれについて、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻であり、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起している場合に、単位時間期間を単位として使って知覚次元におけるVRマルチメディアの経験スコアを決定するための方法が、図9Aに記載されている。図9Bを参照して、下記は、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻であり、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において同時に生起している場合に、単位時間期間を単位として使って知覚次元におけるVRマルチメディアの経験スコアを決定する方法を記述する。
【0341】
ステップ901b:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコアおよび前の単位時間期間の終わりにおけるVRマルチメディアのMOSに基づいて知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、VRマルチメディアの対話的経験スコアを決定する。
【0342】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において同時に生起している場合、端末はさらに、知覚次元における忠実度経験スコアおよび享受経験スコアに加えて、知覚次元における対話経験スコアを計算する必要がある。
【0343】
端末によって知覚次元における享受経験スコアを計算する方法については、ステップ902aにおける記述を参照されたい。さらに、対話的メディア・イベントは現在時刻において生起しているものの、現在時刻は対話的メディア・イベントのサンプリング時間ではない可能性がある。知覚次元における対話経験スコアが第三の感覚パラメータに基づいて決定される場合、現在時刻に対応する第三の感覚パラメータ内の知覚次元に従ってサンプリングを実行することによって得られる対話的メディア・イベントの型は、サンプリングを通じて最近得られた第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られる対話的メディア・イベントの型であってもよいが、第三の感覚パラメータに含まれる継続時間は、現在時刻に基づいて対応して更新されてもよい。
【0344】
端末によって忠実度経験スコアおよび対話経験スコアを計算する具体的な仕方については、それぞれ、ステップ501aに記載されている忠実度経験スコアを計算する仕方およびステップ503aにおける対話経験スコアを計算する仕方を参照されたい。本発明のこの実施形態では、詳細は再度説明されていない。
【0345】
また、端末によって享受経験スコアを計算する具体的な仕方においては、前述のステップ502aに記載されるように享受経験スコアを計算するために入力される前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSのみが、前回の単位時間期間の終了時におけるVRマルチメディアのMOSに変更される必要があり、前述のステップ502aにおける忠実度経験スコアのみがその知覚次元における忠実度経験スコアに変更される必要があり、対応する残りの部分については参照されてもよい。本発明のこの実施形態では、詳細は再度説明されていない。
【0346】
ステップ902b:現在時刻において決定された、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0347】
現在時刻において決定された、その知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算するための具体的実装については、ステップ703を参照されたい。本発明のこの実施形態では、詳細は再度説明されていない。
【0348】
本発明のこの実施形態では、知覚次元における忠実度経験スコアが決定されるとき、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータが忠実度経験に及ぼす影響が考慮される。よって、これに基づいて決定される、その知覚次元における忠実度経験スコアも、より正確である。さらに、知覚次元における享受経験スコアの決定は、イベントが現在の単位時間期間に生起しているかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、以前のイベントの影響を考慮することに等しい。よって、知覚次元における決定された享受経験スコアは、より包括的で、より正確である。さらに、対話的メディア・イベントが現在時刻において生起しているので、端末は、その知覚次元における対話経験スコアを計算し、現在時刻に対応するその知覚次元におけるVRマルチメディアの経験スコアを決定することができる。すなわち、端末は、その知覚次元における対話経験スコアをも対応して更新する。よって、知覚次元におけるVRマルチメディアの経験スコアの精度は改善される。
【0349】
少なくとも二つの知覚次元のそれぞれについて、現在時刻が第一の感覚パラメータのサンプリング時間であり、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが現在時刻において生起している場合に、知覚次元におけるVRマルチメディアの経験スコアを決定する実装プロセスが、図9Aおよび図9Bを参照して別個に上述されている。前述の二つの場合に加えて、端末は、さらに、単位時間期間の終了時または生起しているイベントの終了時に、計算をトリガーして、知覚次元における忠実度経験スコア、享受経験スコア、および対話スコアを出力し、さらに、知覚次元における忠実度経験スコア、享受経験スコア、および対話経験スコアに基づいた結合計算を通じて、知覚次元におけるイベントに対応するVRマルチメディアの経験スコアを得ることができる。詳細は図9Cに示されている。
【0350】
ステップ901c:単位時間期間を単位として使って知覚次元におけるVRマルチメディアの享受経験スコアおよび対話経験スコアを決定する。
【0351】
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達しない場合、端末は、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しているかどうか、現在時刻に生起しているイベントが終了するかどうか、および現在時刻が単位時間期間の終了時刻であるかどうかに応じて、以下のいくつかの場合において、知覚次元においてVRマルチメディアの享受経験スコアおよび対話経験スコアを決定することができる。
【0352】
第一の場合:ネットワーク・メディア・イベントが現在時刻で生起しているが、同時に対話的メディア・イベントは生起しておらず、ネットワーク・メディア・イベントが終了すること、または単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在の単位時間期間において現在時刻より前に最近決定された、その知覚次元における忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、その知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定する。
【0353】
(1)現在時刻においてネットワーク・メディア・イベントのみが生起しており、ネットワーク・メディア・イベントが終了しないが、現在時刻が単位時間期間の終了時刻である場合、端末は、現在時刻の、第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを計算することができる。知覚次元におけるVRマルチメディアの享受経験スコアの計算は、さらに、現在時刻での知覚次元における忠実度経験スコアに依存する必要があるが、現在時刻は、忠実度経験スコアの計算時間ではない、すなわち、現在時刻における計算を通じてその知覚次元における忠実度経験スコアが得られないため、この場合、端末は、現在の単位時間期間において現在時刻の前に最近決定されたその知覚次元における忠実度経験スコアを、その知覚次元における享受経験スコアを計算するための入力パラメータとして、取得し、使用することができる。さらに、端末は、前の単位時間期間の終わりにVRマルチメディアのMOSをさらに取得し、その知覚次元における得られた忠実度経験スコアと、サンプリングを通じて得られた第二の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られるパラメータとを参照した計算を通じて、その知覚次元におけるVRマルチメディアの享受経験スコアを取得することができる。
【0354】
現在時刻では対話的メディア・イベントは生起していないため、端末はその知覚次元における対話的経験スコアを初期値に設定することができる。
【0355】
(2)現在時刻においてネットワーク・メディア・イベントのみが生起しており、現在時刻がネットワーク・メディア・イベントの終了時刻であるが、現在時刻が単位時間期間の終了時刻ではない場合にも、端末は、(1)における享受経験スコアおよび対話経験スコアを決定する仕方に応じて、享受経験スコアおよび対話経験スコアを決定することができる。
【0356】
第二の場合:現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、かつ対話的メディア・イベントが終了する、または単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する、第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定する。
【0357】
第三の場合:対話的メディア・イベントおよびネットワーク・メディア・イベントが現在時刻において生起しており、単位時間期間が終了することが現在時刻において検出された場合、またはネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、かつ、単位時間期間が終了することが検出されない場合、現在時刻に対応する、第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在の単位時間期間において現在時刻よりも前に最近決定されたその知覚次元における忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、その知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいてその知覚次元に従ってサンプリングを実行することによって得られたパラメータに基づいてその知覚次元におけるVRマルチメディアの享受経験スコアを決定する。
【0358】
対話的メディア・イベントおよびネットワーク・メディア・イベントが現在時刻で同時に生起しており、現在時刻が単位時間期間の終了時刻であるが、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了していることが検出されない場合、知覚次元におけるVRマルチメディアの享受経験スコアおよび対話経験スコアの計算がトリガーされ、さらに知覚次元におけるVRマルチメディアの経験スコアの計算がトリガーされる。
【0359】
ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻で同時に生起しており、ネットワーク・メディア・イベントおよび対話的メディア・イベントの少なくとも一方が終了することが現在時刻において検出されるが、単位時間期間が終了することは検出されない場合にも、知覚次元におけるVRマルチメディアの享受経験スコアおよび対話経験スコアの計算がトリガーされ、さらに、知覚次元におけるVRマルチメディアの経験スコアの計算もトリガーされる。
【0360】
知覚次元におけるVRマルチメディアの享受経験スコアを決定することについては、第一の場合における知覚次元における享受経験スコアの決定を参照されたい。知覚次元におけるVRマルチメディアの対話経験スコアを決定することについては、ステップ901bにおける知覚次元における対話経験スコアの決定を参照されたい。
【0361】
ステップ902c:現在の単位時間期間において現在時刻よりも前に最近決定されたその知覚次元における忠実度経験スコア、ならびに現在時刻において決定された、その知覚次元における享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、その知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算する。
【0362】
現在時刻では忠実度経験スコアは計算されないので、端末は、現在の単位時間期間において現在時刻よりも前に最近決定されたその知覚次元における忠実度経験スコアならびに現在時刻において決定された享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、その知覚次元におけるVRマルチメディアの経験スコアを計算することができる。入力パラメータに基づうてその知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、その知覚次元におけるVRマルチメディアの経験スコアを計算する方法については、ステップ703における対応する方法を参照されたい。
【0363】
本発明のこの実施形態では、現在時刻が第一の感覚パラメータのサンプリング時刻に達しないため、知覚次元における忠実度経験スコアは変化しない。よって、端末は、現在時刻より前に最近決定されたその知覚次元における忠実度経験スコアを直接的に得ることができ、演算量が減少する。さらに、知覚次元における享受経験スコアの決定は、イベントが現在の単位時間期間に生起するかどうかだけでなく、前の単位時間期間に対応するVRマルチメディアのMOSにも関係する。これは、VRマルチメディアを再生するプロセスで生起する、以前のイベントの影響を考慮することに等しい。よって、知覚次元における決定された享受経験スコアは、より包括的で、より正確である。さらに、対話的メディア・イベントが現在時刻に生起しているので、端末は知覚次元における対話経験スコアを計算して、現在時刻に対応する知覚次元におけるVRマルチメディアの経験スコアを決定することができる。すなわち、端末は、知覚次元における対話経験スコアをも対応して更新する。よって、知覚次元におけるVRマルチメディアの経験スコアの精度が改善される。
【0364】
端末は、前述の実施形態における方法を用いて、VRマルチメディアのMOSを決定する。VRマルチメディアの経験品質を決定するために、端末は通例、再生継続時間内にVRマルチメディアの経験品質をテストする必要がある。具体的には、VRマルチメディア・テスト・プロセス全体において、VRマルチメディアは、複数のイベントまたは複数の単位時間期間を含むことができ、VRマルチメディアの経験品質を決定するプロセスにおいて、端末は、前述の実施形態における方法に従って、VRマルチメディアの複数のMOSを決定することができる。端末が前述の実施形態における方法に従ってVRマルチメディアの複数のMOSを決定した後、端末はさらに、次のステップにおける方法を用いて、事前設定された試験時間内に、VRマルチメディアのMOS統計値を決定してもよい。
【0365】
具体的には、端末は、事前設定された試験期間内の計算を通じて得られるVRマルチメディアのすべてのMOSの平均値を決定することができ、ここで、事前設定された試験期間は、VRマルチメディアの経験品質を決定する期間である。次いで、端末は、計算を通じて得られた前記平均値を、事前設定された試験期間内のVRマルチメディアのMOS統計値として、決定することができる。さらに、事前設定された試験期間内のVRマルチメディアの経験品質の安定性を評価するために、端末は、事前設定された試験期間内のVRマルチメディアの前記複数のMOSおよびVRマルチメディアの前記MOS統計値に基づいて、VRマルチメディアのMOSの平均二乗誤差をさらに決定することができる。平均二乗誤差が小さい場合、事前設定された試験期間内のVRマルチメディアの経験品質がより安定していることを示す。さうでない場合には、事前設定された試験期間内のVRマルチメディアの経験品質がより不安定であることを示す。
【0366】
結論として、対話経験品質評価が、本発明のこの実施形態における、端末によってVRマルチメディアの経験品質を決定するプロセスに追加されるが、ユーザーとの対話はまさに、VRマルチメディアを従来のメディアから区別する主要な特徴である。よって、本発明のこの実施形態におけるVRマルチメディアの経験品質を決定することは、VRマルチメディアの実際の状況により良く適合し、決定されるVRマルチメディアの経験品質もより正確である。さらに、本発明のこの実施形態では、忠実度経験スコアが決定されるときに、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータが忠実度経験に及ぼす影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。また、本発明のこの実施形態では、享受経験スコアの決定は、現在のイベントまたは単位イベント期間におけるパラメータに関連するだけでなく、VRマルチメディアの以前のMOSにも関係することにも注意しておくべきである。これは、VRマルチメディアの以前の再生の影響を考慮することに等しい。よって、決定される享受経験スコアは、より包括的で、より正確である。
【0367】
図10Aを参照すると、本発明のある実施形態は、VRマルチメディアの経験品質を決定するための装置を提供する。VRマルチメディアの経験品質を決定するための装置は、図4ないし図9Cのいずれかにおける前述の方法を実行するよう構成される。VRマルチメディアの経験品質を決定するための装置は、取得モジュール1001および決定モジュール1002を含む。
【0368】
取得モジュール1001は、前述の実施形態におけるステップ401またはステップ701を実行するよう構成される。
【0369】
決定モジュール1002は、前述の実施形態におけるステップ402およびステップ403を実行するよう構成されるか、または前述の実施形態におけるステップ702、ステップ703およびステップ704を実行するよう構成される。
【0370】
任意的に、図10Bを参照すると、決定モジュール1002は:
VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータに基づいて、VRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定するように構成された第一の決定ユニット10021と;
決定された忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算するよう構成された第一の計算ユニット10022とを含む。
【0371】
任意的に、第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定するよう構成された決定サブユニットを含み、ネットワーク・メディア・イベントはネットワーク条件の変化に起因して生起するイベントであり、対話的メディア・イベントはユーザーとの対話に起因して生起するイベントであり、
前記決定サブユニットはさらに:現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時のVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに:現在時刻において生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定するよう構成される。
【0372】
任意的に、第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定するよう構成された決定サブユニットを含む。
【0373】
任意的に、第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ現在時刻においてネットワーク・メディア・イベントが生起しているが同時に対話的メディア・イベントは生起しておらず、かつ、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定するよう構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、現在時刻において対話的メディア・イベントが生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、かつ、対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づくVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定するように構成される;または
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、現在時刻においてネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しており、かつ、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づくVRマルチメディアの対話経験スコアを決定するように構成され、
対応して、第一の計算ユニット10022は具体的には:
現在時刻より前に最近決定された忠実度経験スコアならびに現在時刻において決定された享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算するよう構成される。
【0374】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第一の継続時間を含み、第一の継続時間は、ネットワーク・メディア・イベントの継続時間であり;
前記決定サブユニットは具体的には:
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合には、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSを入力パラメータとして使用して、当該再生イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する;
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合には、現在時刻に対応する第二の感覚パラメータに含まれる第一の継続時間、現在決定された忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSを入力パラメータとして使用して、フリーズ・イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する;または
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がメディア品質変化イベントである場合、現在決定されている忠実度経験スコアと、現在時刻より前に最近決定された忠実度経験スコアとの差を、VRマルチメディアの享受経験スコアとして決定するよう構成される。
【0375】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型と第二の継続時間とを含み、第二の継続時間は対話的メディア・イベントの継続時間であり;
前記決定サブユニットは具体的には:
複数の記憶された対話経験スコア計算モデルのうちから、現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
対話的メディア・イベントの型および現在時刻に対応する第三の感覚パラメータに含まれる第二の継続時間を入力パラメータとして使用して、選択された対話経験スコア計算モデルを用いてVRマルチメディアの対話経験スコアを計算するよう構成される。
【0376】
任意的に、前記第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定するよう構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻において生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、VRマルチメディアの対話経験スコアを初期値に設定するようにさらに構成される;または
前記決定サブユニットはさらに:現在時刻に生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定するよう構成される。
【0377】
任意的に、前記第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータに基づいてVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータ、現在決定された忠実度経験スコアおよび前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいて、VRマルチメディアの対話経験スコアを決定するよう構成された決定サブユニットを含む。
【0378】
任意的に、前記第一の決定ユニット10021は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、ネットワーク・メディア・イベントが現在時刻に生起しているが、同時に対話的メディア・イベントは生起しておらず、かつ、ネットワーク・メディア・イベントが終了する、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいてVRマルチメディアの享受経験スコアを決定し、かつ、VRマルチメディアの対話経験スコアを初期値に設定するよう構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、対話的メディア・イベントが現在時刻において生起しているが、同時にネットワーク・メディア・イベントは生起しておらず、かつ、対話的メディア・イベントが終了するか、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定し、VRマルチメディアの享受経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しており、かつ、単位時間期間が終了することが現在時刻において検出される場合、または、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起しており、かつ、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、かつ、単位時間期間が終了することが検出されない場合、現在時刻に対応する第二の感覚パラメータ、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、VRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータに基づいてVRマルチメディアの対話経験スコアを決定するよう構成され、
対応して、第一の計算ユニット10022は、具体的には:
現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコアと、現在時刻において決定された享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いてVRマルチメディアのMOSを計算するよう構成される。
【0379】
任意的に、第一の感覚パラメータは、視覚次元におけるビデオ属性情報およびビデオ・パラメータと、聴覚次元におけるオーディオ属性情報およびオーディオ・パラメータとを含み、
前記決定サブユニットは具体的には:
複数の記憶された視覚的忠実度経験スコア計算モデルから、現在時刻に対応する第一の感覚パラメータに含まれるビデオ属性情報に対応する視覚的忠実度経験スコア計算モデルを選択し;
現在時刻に対応する第一の感覚パラメータに含まれるビデオ・パラメータを入力パラメータとして使用して、選択した視覚的忠実度経験スコア計算モデルを用いて現在時刻における視覚的忠実度経験スコアを計算し;
複数の記憶された聴覚的忠実度経験スコア計算モデルから、現在時刻に対応する第一の感覚パラメータに含まれるオーディオ属性情報に対応する聴覚的忠実度経験スコア計算モデルを選択し;
現在時刻の第一の感覚パラメータに含まれるオーディオ・パラメータを入力パラメータとして使用して、選択された聴覚的忠実度経験スコア計算モデルを用いて現在時刻における聴覚的忠実度経験スコアを計算し;
現在時刻における視覚的忠実度経験スコアおよび聴覚的忠実度経験スコアに基づいて、VRマルチメディアの忠実度経験スコアを決定するよう構成される。
【0380】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および第三の継続時間を含み、第三の継続時間は、単位時間期間におけるネットワーク・メディア・イベントの継続時間であり;
前記決定サブユニットは具体的には:
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型が再生イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第三の継続時間、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSを入力パラメータとして使用して、再生イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する;
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がフリーズ・イベントである場合、現在時刻に対応する第二の感覚パラメータに含まれる第三の継続時間、現在決定された忠実度経験スコア、および前の単位時間期間の終了時におけるVRマルチメディアのMOSを入力パラメータとして使用し、フリーズ・イベントに対応する享受経験スコア計算モデルを用いてVRマルチメディアの享受経験スコアを計算する;または
現在時刻に対応する第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型がメディア品質変化イベントである場合、現在決定された忠実度経験スコアと、現在の単位時間期間において現在時刻より前に最近決定された忠実度経験スコアとの間の差を、VRマルチメディアの享受経験スコアとして決定するよう構成される。
【0381】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型および第四の継続時間を含み、第四の継続時間は、単位時間期間における対話的メディア・イベントの継続時間であり;
前記決定サブユニットは具体的には:
複数の記憶された対話経験スコア計算モデルのうちから、現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型に対応する対話経験スコア計算モデルを選択し;
現在時刻に対応する第三の感覚パラメータに含まれる対話的メディア・イベントの型および第四の継続時間を入力パラメータとして使用して、選択された対話経験スコア計算モデルを用いてVRマルチメディアの対話経験スコアを計算するよう構成される。
【0382】
任意的に、図10Cを参照すると、決定モジュール1002は:
前記少なくとも二つの知覚次元のそれぞれについて、VRマルチメディアの第一の感覚パラメータ、第二の感覚パラメータ、および第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを決定するよう構成された第二の決定ユニット10023と;
知覚次元におけるVRマルチメディアの忠実度経験スコア、享受経験スコア、および対話経験スコアを入力パラメータとして使用して、その知覚次元におけるVRマルチメディア経験スコア計算モデルを使用することによって、その知覚次元におけるVRマルチメディアの経験スコアを計算するよう構成された第二の計算ユニット10024と;
前記少なくとも二つの知覚次元におけるVRマルチメディアの経験スコアを入力パラメータとして使用して、事前設定されたVRマルチメディアMOS計算モデルを用いて、VRマルチメディアの経験スコアを計算するよう構成された第三の計算ユニット10025とを含む。
【0383】
任意的に、前記第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定するように構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻に生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在の決定された忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに:現在時刻に生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定するよう構成される。
【0384】
任意的に、第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコアおよび前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、VRマルチメディアの対話経験スコアを決定するよう構成された決定サブユニットを含む。
【0385】
任意的に、第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつネットワーク・メディア・イベントが現在時刻において生起しているが同時に対話的メディア・イベントは生起しておらず、かつ、ネットワーク・メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された知覚次元における忠実度経験スコア、および前回のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定するよう構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、対話的メディア・イベントが現在時刻において生起しているが同時にネットワーク・メディア・イベントは生起しておらず、かつ、対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された知覚次元における忠実度経験スコア、および前のネットワーク・メディア・イベントの終了時におけるVRマルチメディアのMOSに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定するよう構成され、
対応して、前記第二の計算ユニット10024は、具体的には:
現在時刻より前に最近決定された知覚次元における忠実度経験スコアならびに現在時刻において決定された知覚次元における享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、知覚次元における事前設定されたVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算するよう構成される。
【0386】
任意的に、第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、かつ、ネットワーク・メディア・イベントまたは対話的メディア・イベントが現在時刻において生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定するよう構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻に生起しているイベントがネットワーク・メディア・イベントである場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコアおよび前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに:現在時刻に生起しているイベントが対話的メディア・イベントである場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定するよう構成される。
【0387】
任意的に、前記第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達し、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起している場合、現在時刻に対応する第一の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、知覚次元におけるVRマルチメディアの忠実度経験スコアを決定し、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、知覚次元における現在決定された忠実度経験スコアおよび前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて、VRマルチメディアの対話経験スコアを決定するよう構成されている決定サブユニットを含む。
【0388】
任意的に、前記第二の決定ユニット10023は:
現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、ネットワーク・メディア・イベントが現在時刻に生起しているが同時に対話的メディア・イベントは生起しておらず、かつ、ネットワーク・メディア・イベントが終了する、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在時刻より前に最近決定された忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、知覚次元におけるVRマルチメディアの対話経験スコアを初期値に設定するように構成された決定サブユニットを含み、
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、かつ、対話的メディア・イベントが現在時刻に生起しているが同時にネットワーク・メディア・イベントは生起しておらず、かつ、対話的メディア・イベントが終了する、または、単位時間期間が終了することが現在時刻において検出される場合、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定し、知覚次元におけるVRマルチメディアの享受経験スコアを初期値に設定するよう構成される;または
前記決定サブユニットはさらに:現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻において生起しており、単位時間期間が終了することが現在時刻において検出される場合、または、現在時刻がVRマルチメディアの第一の感覚パラメータのサンプリング時刻に達せず、ネットワーク・メディア・イベントおよび対話的メディア・イベントが現在時刻に生起しており、ネットワーク・メディア・イベントおよび/または対話的メディア・イベントが終了することが現在時刻において検出され、かつ、単位時間期間が終了することが検出されない場合、現在時刻に対応する第二の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータ、現在の単位時間期間において現在時刻より前に最近決定された知覚次元における忠実度経験スコア、および、前の単位時間期間の終了時におけるVRマルチメディアのMOSに基づいて、知覚次元におけるVRマルチメディアの享受経験スコアを決定し、現在時刻に対応する第三の感覚パラメータにおいて知覚次元に従ってサンプリングを実行することによって得られるパラメータに基づいて知覚次元におけるVRマルチメディアの対話経験スコアを決定するよう構成され、
対応して、前記第二の計算ユニット10024は、具体的には:
現在の単位時間期間において現在時刻より前に最近決定された知覚次元における忠実度経験スコアならびに現在時刻において決定された知覚次元における享受経験スコアおよび対話経験スコアを入力パラメータとして使用して、知覚次元におけるVRマルチメディア経験スコア計算モデルを用いて、知覚次元におけるVRマルチメディアの経験スコアを計算するよう構成される。
【0389】
任意的に、第一の感覚パラメータにおける視覚次元におけるビデオ属性情報は、投影フォーマット、ステレオ度、および自由度のうちの少なくとも一つを含み、第一の感覚パラメータにおける視覚次元におけるビデオ・パラメータは、全視野解像度および視野のうちの少なくとも一つを含み、第一の感覚パラメータにおける聴覚次元におけるオーディオ属性情報は、オーディオ・ステレオ度を含む。
【0390】
任意的に、第二の感覚パラメータは、ネットワーク・メディア・イベントの型および対応する継続時間を含み、該対応する継続時間はネットワーク・メディア・イベントの継続時間である。
【0391】
任意的に、第二の感覚パラメータに含まれるネットワーク・メディア・イベントの型は、再生イベント、フリーズ・イベント、またはメディア品質変化イベントを含む。
【0392】
任意的に、第三の感覚パラメータは、対話的メディア・イベントの型および対応する継続時間を含み、該対応する継続時間は対話的メディア・イベントの継続時間である。
【0393】
任意的に、第三の感覚パラメータに含まれる対話的メディア・イベントの型は、初期ロード・イベント、対話的ロード・イベント、またはメディア・ヒステリシス・イベントを含み、初期ロード・イベントは、VRマルチメディアが初期に再生されるときのロード・イベントであり、対話的ロード・イベントは、VRマルチメディアとユーザーとの間の対話に起因して生起するロード・イベントであり、メディア・ヒステリシス・イベントは、ユーザー・アクションに起因してメディア更新とアクションとの間で生起するヒステリシス・イベントである。
【0394】
任意的に、前記少なくとも二つの知覚次元は、フィードバック次元をさらに含み、フィードバック次元は、視覚次元と、前記少なくとも二つの知覚次元における視覚次元とは別の次元との間の同期および関連付け関係であり、
第一の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータが、時間同期度、方位角同期度、および力フィードバック・インジケーターのうちの少なくとも一つを含み、時間同期度は視覚次元と聴覚次元との間の時間同期度であり、方位角同期度は視覚次元と聴覚次元との間の方位角同期度であり、力フィードバック・インジケーターは、視覚次元にマッチする力フィードバックがあるか否かを示すために使われ;
第二の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータが、第一の同期度変化インジケーター、第二の同期度変化インジケーター、および第三の同期度変化インジケーターのうちの少なくとも一つを含み、第一の同期度変化インジケーターは、前記時間同期度が変化するか否かを示すために使用され、第二の同期度変化インジケーターは、前記方位角同期度が変化するか否かを示すために使用され、第三の同期度変化インジケーターは、視覚次元と力フィードバックとの間の時間同期度が変化するか否かを示すために使用され;
第三の感覚パラメータにおいてフィードバック次元に従ってサンプリングを実行することによって得られるパラメータが、ヒステリシス・インジケーターを含み、ヒステリシス・インジケーターは、力フィードバックとアクションとの間でヒステリシス・イベントが生起しているか否かを示すために使用される。
【0395】
任意的に、本装置は、さらに:
事前設定された試験期間内の計算を通じて得られるVRマルチメディアのすべてのMOSの平均値を決定するよう構成された第三の決定ユニットを含み、事前設定された試験期間はVRマルチメディアの経験品質を決定することの継続時間である。
【0396】
任意的に、本装置は、さらに:
事前設定された試験期間内の計算を通じて得られるVRマルチメディアのすべてのMOSの平均二乗誤差を決定するよう構成された第四の決定ユニットを含み、該平均二乗誤差は、VRマルチメディアのすべてのMOSの安定性を示すために使用される。
【0397】
結論として、対話経験品質評価が、本発明のこの実施形態における端末によってVRマルチメディアの経験品質を決定するプロセスに追加されるが、ユーザーとの対話は、まさに、VRマルチメディアを従来のメディアから区別する主な特徴である。よって、本発明のこの実施形態におけるVRマルチメディアの経験品質を決定することは、VRマルチメディアの実際の状況により良く適合し、決定されるVRマルチメディアの経験品質もより正確である。さらに、本発明のこの実施形態では、忠実度経験スコアが決定されるとき、視野、投影フォーマット、ステレオ度、自由度、および立体音響などのVRマルチメディアの特徴的パラメータが忠実度経験に及ぼす影響が考慮される。したがって、これに基づいて決定される忠実度経験スコアもより正確である。また、本発明のこの実施形態では、享受経験スコアの決定は、現在のイベントまたは単位イベント期間におけるパラメータに関係するだけでなく、VRマルチメディアの以前のMOSにも関係することも注意しておくべきである。これは、VRマルチメディアの以前の再生の影響を考慮することに等しい。よって、決定される享受経験スコアは、より包括的で、より正確である。
【0398】
なお、上記実施形態によるVRマルチメディアの経験品質を決定するための装置がVRマルチメディアの経験品質を決定するとき、上記の諸機能モジュールの分割は、単に例として記載されていることを注意しておくべきである。実際の応用では、上記の諸機能は、必要性に従って完了のための異なる機能モジュールに割り当てられてもよく、すなわち、デバイスの内部構造は、前述の機能の全部または一部を実装するために異なる機能モジュールに分割される。また、前述の実施形態によるVRマルチメディアの経験品質を決定する装置と、VRマルチメディアの経験品質を決定する方法の実施形態とは、同じ発想に属する。その具体的な実施プロセスについては、方法実施形態を参照されたい。詳細は、ここでは再度説明しない。
【0399】
前述の実施形態の全部または一部は、ソフトウェア、ハードウェア、ファームウェア、またはそれらの任意の組み合わせによって実装されうる。それらの実施形態を実装するためにソフトウェアが使用される場合、実施形態は、完全にまたは部分的に、コンピュータ・プログラム製品の形で実装されうる。コンピュータ・プログラム製品は、一つまたは複数のコンピュータ命令を含む。コンピュータ命令がロードされ、コンピュータ上で実行されるとき、本発明の実施形態による手順または機能がすべてまたは部分的に生成される。コンピュータは、汎用コンピュータ、専用コンピュータ、コンピュータ・ネットワーク、または他の任意のプログラム可能な装置であってもよい。コンピュータ命令は、コンピュータ読取可能な記憶媒体に記憶されてもよく、またはコンピュータ読取可能な記憶媒体から別のコンピュータ読取可能な記憶媒体に送信されてもよい。たとえば、コンピュータ命令は、ウェブサイト、コンピュータ、サーバー、またはデータ・センターから、有線(たとえば、同軸ケーブル、光ファイバー、またはデジタル加入者回線(Digital Subscriber Line、DSL))または無線(たとえば、赤外線、無線、またはマイクロ波)方式で、別のウェブサイト、コンピュータ、サーバー、またはデータ・センターに送信されうる。コンピュータ可読記憶媒体は、コンピュータによってアクセス可能な任意の使用可能な媒体、または一つまたは複数の使用可能な媒体を統合するサーバーまたはデータ・センターなどのデータ記憶装置であってもよい。使用可能な媒体は、磁気媒体(たとえば、フロッピーディスク、ハードディスク、または磁気テープ)、光媒体(たとえば、デジタル多用途ディスク(Digital Versatile Disc、DVD))、半導体媒体(たとえば、ソリッドステートドライブ(Solid State Disk、SSD))などでありうる。
【0400】
当業者であれば、実施形態のステップの全部または一部が、ハードウェアまたは関係するハードウェアに命令するプログラムによって実装されうることを理解しうる。プログラムは、コンピュータ読取可能な記憶媒体に記憶されてもよい。記憶媒体は、読み出し専用メモリ、磁気ディスク、光ディスク等を含むことができる。
【0401】
上記の説明は、単に本願の実施形態であり、本願を限定することは意図されていない。本願の精神および原理から逸脱することなくなされるいかなる修正、等価な置換または改良も、本願の保護範囲内にはいるべきである。
図1
図2
図3
図4
図5A
図5B
図5C
図6A
図6B
図6C
図7
図8A
図8B
図8C
図9A
図9B
図9C
図10A
図10B
図10C
【外国語明細書】
2022003555000001.pdf