(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-13
(45)【発行日】2022-05-23
(54)【発明の名称】ストリーミング・ビデオの自動体感品質測定のための方法及びシステム
(51)【国際特許分類】
H04N 21/24 20110101AFI20220516BHJP
H04L 67/50 20220101ALI20220516BHJP
【FI】
H04N21/24
H04L67/50
(21)【出願番号】P 2018565442
(86)(22)【出願日】2017-03-06
(86)【国際出願番号】 CA2017050299
(87)【国際公開番号】W WO2017152274
(87)【国際公開日】2017-09-14
【審査請求日】2020-03-06
(32)【優先日】2016-03-06
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】518316790
【氏名又は名称】エスシムウェーブ インク.
【住所又は居所原語表記】375 Hagey Blvd.,Suite 310,Waterloo,ON N2L6R5 CANADA
(74)【代理人】
【識別番号】100111707
【氏名又は名称】相川 俊彦
(72)【発明者】
【氏名】ワン, ジョウ
(72)【発明者】
【氏名】デュアンム, ジェンファン
【審査官】川中 龍太
(56)【参考文献】
【文献】特開2015-012451(JP,A)
【文献】米国特許出願公開第2012/0117225(US,A1)
【文献】米国特許出願公開第2013/0263167(US,A1)
【文献】米国特許出願公開第2015/0067184(US,A1)
【文献】特開2008-211579(JP,A)
【文献】米国特許出願公開第2014/0280679(US,A1)
【文献】Jingteng Xue, et al.,,Assessing quality of experience for adaptive HTTP video streaming,IEEE,米国,2014年09月08日,P1-P4,https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=6890604
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00 - 21/858
H04L 67/50
(57)【特許請求の範囲】
【請求項1】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って
伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が
、
【数1】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、時間tと共に単調に減少し及び品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、tと共に単調に減少し及びメモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含む方法。
【請求項2】
請求項1の方法であって、更に、
ストリーミング・セッションの全体のエンドオブプロセスQoEスコアを得るためにストリーミング・セッションの開始より、全ての時間ポジッションで生成された即時的QoEスコアを蓄積するステップ、を含む方法。
【請求項3】
請求項1の方法であって、ストール・イベントの寄与が、ストール・イベントの発生の直前にプレゼンテーション品質に基づき算出されることを特徴とする方法。
【請求項4】
請求項3の方法であって、ストール・イベントの寄与が、ストール・イベントの発生の前にビデオフレームのプレゼンテーション品質測定に基づき算出されることを特徴とする方法。
【請求項5】
請求項4の方法であって、ビデオフレームが、ストール・イベントの発生の直前に十分に実施されたフレームであることを特徴とする方法。
【請求項6】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が、
【数2】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、時間tと共に単調に減少し及び品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、メモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含み、
メモリエフェクトが、時間の経過により単調に減少しそして飽和する
メモリ関数によって表されることを特徴とする方法。
【請求項7】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が、
【数3】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、時間tと共に単調に減少する品質減衰関数であり且つ品質ディケイエフェクトに対応し、m(t)は、メモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含み、
メモリエフェクトが、ヘルマン・エビングハウスの忘却曲線によって表されることを特徴とする方法。
【請求項8】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が、
【数4】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、tと共に単調に減少し及びメモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含み、
品質ディケイエフェクトが、時間の経過により単調に減少しそして飽和する
関数によって表されることを特徴とする方法。
【請求項9】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が、
【数5】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、tと共に単調に減少し及びメモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含み、
品質ディケイエフェクトが、指数関数的減衰関数によって表されることを特徴とする方法。
【請求項10】
請求項1の方法であって、再生スムーズさ品質測定が、初期バッファリング及び再生ストール・イベントの時間ポジッション及び持続期間を利用して評価されることを特徴とする方法。
【請求項11】
請求項10の方法であって、ストール・イベント中の再生スムーズさ品質測定が、ストール・イベントの開始の前に最後に実施されたビデオフレームのプレゼンテーション品質測定を利用して評価されることを特徴とする方法。
【請求項12】
請求項11の方法であって、再生スムーズさ品質測定が、ストール・イベントによって引き起こされる再生スムーズさ品質の劣化によって減少させられ、そして、初期バッファリング又は再生ストールの何れかにより、その劣化が、ストール・イベントの前のプレゼンテーション品質測定と共に減少するというモデルによって評価されることを特徴とする方法。
【請求項13】
請求項12の方法であって、ストール・イベントによって引き起こされる劣化が、最後に実施されたビデオフレームのプレゼンテーション品質測定に比例することを特徴とする方法。
【請求項14】
請求項
1の方法であって、Qが、ストール・イベント
【数6】
の発生の前に最後に十分に実施されたフレームのプレゼンテーション品質測定であることを特徴とする方法。
【請求項15】
ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成させる方法であって、そのストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから受信側のユーザ視聴デバイスへとネットワーク接続を渡って伝送され、
ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、
ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、
ストリーミング・ビデオの再生スムーズさ品質測定を得るステップと、ここで、再生スムーズさ品質測定はストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合させることにより受信側で評価され、ストール・イベントからの寄与が、
【数7】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、メモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び
プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせることにより即時的QoEスコアを生成するステップと、を含み、
品質減衰関数d(t)が、d(t)=-1+exp{-((tf-i
k)/T
0)}のフォームを有し、そして、メモリ関数m(t)が、第k番目のストール・イベントにおいて時間tに対して、m(t)=exp{-((tf-i
k-l
k)/T
1)}のフォームを有し、そして、T
0及びT
1は、それぞれ、不満足の割合及び記憶の相対的強度を表すように選択される2つのパラメータであることを特徴とする方法。
【請求項16】
請求項
15の方法であって、パラメータT
0及びT
1は、T
0>T
1となるように選択されることを特徴とする方法。
【請求項17】
請求項
1の方法であって、再生スムーズさ品質測定が、個々のストール・イベントからの寄与を加算することにより全ストール・イベントによる寄与から統合されることを特徴とする方法。
【請求項18】
請求項
17の方法であって、プレゼンテーション品質測定及び再生スムーズさ品質測定が、プレゼンテーション品質測定及び再生スムーズさ品質測定を加算することにより即時的QoEスコアを生成するために、統合されることを特徴とする方法。
【請求項19】
請求項
17の方法であって、プレゼンテーション品質測定及び再生スムーズさ品質測定が、2つの品質測定を掛け算することにより、2つの品質測定を加重総和することにより、又は、2つの品質測定の最大値及び最小値を取ることにより、即時的QoEスコアを生成するために、統合されることを特徴とする方法。
【請求項20】
請求項1の方法であって、プレゼンテーション品質測定
は、ストリーミング・ビデオのオリジナルなソースから生成されたテストビデオの品質
をリファレンスとしてオリジナルなソースビデオの品質と比較するフルリファレンス・ビデオ品質評価方法から生成される
、又は、オリジナルなソースビデオへのアクセスが必要とされないノーリファレンス・ビデオ品質評価方法から生成される、ことを特徴とする方法。
【請求項21】
請求項
20の方法であって、ビデオ品質評価方法が、エンドユーザの視聴条件及びユーザ視聴デバイスに適合されることを特徴とする方法。
【請求項22】
請求項
20の方法であって、フルリファレンス・ビデオ品質評価方法によって評価されるテストビデオが、リファレンス・ビデオのレゾルーションとは異なる空間及び/又は時間レゾルーションを有することを特徴とする方法。
【請求項23】
請求項1の方法であって、プレゼンテーション品質測定が、サーバ側で生成され、そして、ネットワーク接続を渡って受信側に伝送されることを特徴とする方法。
【請求項24】
請求項1の方法であって、プレゼンテーション品質測定が、受信側で生成されることを特徴とする方法。
【請求項25】
請求項
24の方法であって、再生スムーズさ品質測定が、ユーザ視聴デバイスで生成されることを特徴とする方法。
【請求項26】
請求項1の方法であって、プレゼンテーション品質測定がネットワーク
されたサーバにより生成されることを特徴とする方法。
【請求項27】
請求項
26の方法であって、ネットワーク
されたサーバがクラウドサーバであることを特徴とする方法。
【請求項28】
請求項
26の方法であって、ネットワーク
されたサーバが受信側のエッジサーバであることを特徴とする方法。
【請求項29】
請求項
26の方法であって、ネットワークされたサーバが、エンドユーザの視聴条件及びユーザ視聴デバイスを記述するパラメータを受け取り、そして、プレゼンテーション品質測定が、視聴デバイス及び視聴条件適応力を有するビデオ品質評価方法を用いて生成されることを特徴とする方法。
【請求項30】
請求項1の方法であって、再生スムーズさ測定が、ネットワークされたサーバによって生成されることを特徴とする方法。
【請求項31】
請求項
30の方法であって、ネットワークされたサーバが、クラウドサーバであることを特徴とする方法。
【請求項32】
請求項
30の方法であって、ネットワークされたサーバが、受信側のエッジサーバであることを特徴とする方法。
【請求項33】
請求項1の方法であって、更に、ストリーミング・セッションに渡って即時的QoE測定を蓄積することによりエンドオブプロセス・ユーザQoEを測定するステップを含むことを特徴とする方法。
【請求項34】
請求項
33の方法であって、エンドオブプロセス・ユーザQoEが、ストリーミング・セッションに渡る即時的QoE測定を平均化する移動平均法を使用して評価されることを特徴とする方法。
【請求項35】
ストリーミング・ビデオのユーザ体感品質(QoE)を測定するためのシステムであって、ストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから、受信側のユーザ視聴デバイスへと、ネットワーク接続を渡って伝送され、
プレゼンテーション品質評価ユニットと、ここで、そのプレゼンテーション品質評価ユニットはストリーミング・ビデオのプレゼンテーション品質測定を生成又は獲得し、
再生スムーズさ品質評価ユニットと、ここで、その再生スムーズさ品質評価ユニットは、ストリーミング・セッションの間の全てのストール・イベント発生を追跡し、そして、ストリーミング・ビデオを再生するユーザ視聴デバイスで認識される再生スムーズさ品質の再生スムーズさ品質測定を生成し、そのスムーズさ品質測定の生成は、ストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合し、ストール・イベントからの寄与は
、
【数8】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、時間tと共に単調に減少し及び品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、tと共に単調に減少し及びメモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び、
QoE評価ユニットと、
を含むシステムであって、ここで、そのQoE評価ユニットは、プレゼンテーション品質測定及び再生スムーズさ品質測定を結合して即時的QoEスコアに統合
することを特徴とするシステム。
【請求項36】
請求項
35のシステムであって、更に、エンドオブプロセスQoEユニットを含み、そのエンドオブプロセスQoEユニットは、全ての即時的QoEスコアを蓄積し、そして、それらをストリーミング・セッションの単一の全体のエンドオブプロセスQoEスコアに統合することを特徴とするシステム。
【請求項37】
請求項
35のシステムであって、再生スムーズさ品質評価ユニットは、ストール・イベントの発生直前のプレゼンテーション品質に基づきストール・イベントの寄与を算出する
ように構成されることを特徴とするシステム。
【請求項38】
請求項
37のシステムであって、プレゼンテーション品質評価ユニットは、ビデオ・ホスティング・サーバに組み込まれ、そして、プレゼンテーション品質評価ユニットは、ストール・イベントの発生前のビデオフレームのプレゼンテーション品質に基づきストール・イベントの寄与を算出することを特徴とするシステム。
【請求項39】
請求項
35のシステムであって、プレゼンテーション品質評価ユニットは、ネットワークされたサーバに組み込まれることを特徴とするシステム。
【請求項40】
請求項
39のシステムであって、ネットワークされたサーバは、サーバ側から伝送されたプレゼンテーション品質測定を得るクラウドサーバであることを特徴とするシステム。
【請求項41】
請求項
39のシステムであって、ネットワークされたサーバは、サーバ側から伝送されたプレゼンテーション品質測定を得るための受信側のエッジサーバであることを特徴とするシステム。
【請求項42】
請求項
39のシステムであって、ネットワークされたサーバは、受信側のプレゼンテーション品質測定を生成するため受信側のエッジサーバであることを特徴とするシステム。
【請求項43】
請求項
39のシステムであって、ネットワークされたサーバは、エンドユーザの視聴条件及びユーザ視聴デバイスを記述するパラメータを受け取り、そして、プレゼンテーション品質測定は、視聴デバイス及び視聴条件適応力を有するビデオ品質評価方法を用いて生成されることを特徴とするシステム。
【請求項44】
請求項
39のシステムであって、再生スムーズさ品質評価ユニットは、ネットワークされたサーバに統合されることを特徴とするシステム。
【請求項45】
請求項
35のシステムであって、再生スムーズさ品質評価ユニットは、ネットワークされたサーバに統合されることを特徴とするシステム。
【請求項46】
請求項
45のシステムであって、ネットワークされたサーバはクラウドサーバであることを特徴とするシステム。
【請求項47】
請求項
45のシステムであって、ネットワークされたサーバは、受信側で再生スムーズ
さ測定を生成するための受信側のエッジサーバであることを特徴とするシステム。
【請求項48】
請求項
35のシステムであって、再生スムーズさ品質評価ユニットは、メモリエフェクトを表すため
に時間が経つと飽和する関数を使用することを特徴とするシステム。
【請求項49】
請求項
35のシステムであって、再生スムーズさ品質評価ユニットは、
時間が経つと飽和
する、品質ディケイエフェクトを表す
関数を使用することを特徴とするシステム。
【請求項50】
請求項
35のシステムであって、再生スムーズさ品質評価ユニットは、初期バッファリング及び再生ストール・イベントの時間ポジッション及び持続期間を利用して、再生スムーズさ品質測定を評価することを特徴とするシステム。
【請求項51】
請求項
50のシステムであって、ストール・イベントの間の再生スムーズさ品質測定は、ストール・イベントの開始前に、最後に実施されたビデオフレームのプレゼンテーション品質測定を利用して評価されることを特徴とするシステム。
【請求項52】
請求項
51のシステムであって、再生スムーズさ品質測定は、ストール・イベントによって引き起こされる再生スムーズさ品質の劣化により減少し、そして、その劣化は、初期バッファリング又は再生ストールの何れかにより、その劣化がストール・イベントの前に最後に実施されたビデオフレームのプレゼンテーション品質測定と共に増加するモデルにより評価されることを特徴とするシステム。
【請求項53】
請求項
35のシステムであって、Qが、ストール・イベント
【数9】
の発生の前に最後に十分に実施されたフレームのプレゼンテーション品質測定であることを特徴とするシステム。
【請求項54】
ストリーミング・ビデオのユーザ体感品質(QoE)を測定するためのシステムであって、ストリーミング・ビデオは、サーバ側のビデオ・ホスティング・サーバから、受信側のユーザ視聴デバイスへと、ネットワーク接続を渡って伝送され、
プレゼンテーション品質評価ユニットと、ここで、そのプレゼンテーション品質評価ユニットはストリーミング・ビデオのプレゼンテーション品質測定を生成又は獲得し、
再生スムーズさ品質評価ユニットと、ここで、その再生スムーズさ品質評価ユニットは、ストリーミング・セッションの間の全てのストール・イベント発生を追跡し、そして、ストリーミング・ビデオを再生するユーザ視聴デバイスで認識される再生スムーズさ品質の再生スムーズさ品質測定を生成し、そのスムーズさ品質測定の生成は、ストリーミング・セッションの開始より全てのストール・イベントからの寄与を結合し、ストール・イベントからの寄与は、
【数10】
の表現から算出され、
ここで、ストール・イベントはi
k
で開始し長さl
k
を有する第k番目のストール・イベントであり、ストールは期間[i
k
, i
k
+l
k
]の間に起こり、fは、フレーム/秒におけるストリーミング・ビデオのフレーム速度であり、d(t)は、品質ディケイエフェクトに対応する品質減衰関数であり、m(t)は、メモリエフェクトに対応するメモリ関数であり、そして、Qは、ストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質の測定であり、及び、
QoE評価ユニットと、を含むシステムであって、ここで、そのQoE評価ユニットは、プレゼンテーション品質測定及び再生スムーズさ品質測定を結合して即時的QoEスコアに統合し、
品質減衰関数d(t)が、d(t)=-1+exp{-((tf-i
k)/T
0)}のフォームを有し、そして、メモリ関数m(t)が、第k番目のストール・イベントにおいて時間tに対して、m(t)=exp{-((tf-i
k-l
k)/T
1)}のフォームを有し、そして、T
0及びT
1は、それぞれ、不満足の割合及び記憶の相対的強度を表すように選択される2つのパラメータであることを特徴とするシステム。
【請求項55】
請求項
54のシステムであって、パラメータT
0及びT
1は、T
1>T
0となるように選択されることを特徴とするシステム。
【請求項56】
請求項
35のシステムであって、QoE評価ユニットは、再生スムーズさ品質測定を得るために個々のストール・イベントからの寄与を加算するように構成されることを特徴とするシステム。
【請求項57】
請求項
56のシステムであって、QoE評価ユニットは、即時的QoEスコアを生成するため再生スムーズさ品質測定及びプレゼンテーション品質測定を加算するように構成されることを特徴とするシステム。
【請求項58】
請求項
56のシステムであって、QoE評価ユニットは、プレゼンテーション品質測定及び再生スムーズさ品質測定を掛け算することにより、2つの品質測定を加重総和することにより、又は、2つの品質測定の最大値及び最小値を取ることにより、即時的QoEスコアを生成するように構成されることを特徴とするシステム。
【請求項59】
請求項
35のシステムであって、プレゼンテーション品質評価ユニットは
、ストリーミング・ビデオのオリジナルなソースから生成されたテストビデオの品質
を、リファレンスとしてオリジナルなソースビデオの品質と比較するフルリファレンス・ビデオ品質評価方法から
、又は、オリジナルなソースビデオへのアクセスが必要とされないノーリファレンス・ビデオ品質評価方法から、プレゼンテーション品質測定を生成するように構成されることを特徴とするシステム。
【請求項60】
請求項
59のシステムであって、ビデオ品質評価方法は、エンドユーザの視聴条件及びユーザ視聴デバイスに適合されることを特徴とするシステム。
【請求項61】
請求項
59のシステムであって、フルリファレンス・ビデオ品質評価方法によって評価されるテストビデオが、リファレンス・ビデオのレゾルーションとは異なる空間及び/又は時間レゾルーションを有することを特徴とするシステム。
【請求項62】
コンピュータ・デバイスのプロセッサによって実行されるとき、請求項1から
34の何れか1項による、ストリーミング・ビデオのユーザ体感品質を測定する方法をそのコンピュータ・デバイスが実施するようにさせる、コンピューター読み取り可能なコードを保存した、一時的ではないコンピューター読み取り可能な媒体。
【発明の詳細な説明】
【技術分野】
【0001】
[発明の分野]
本発明は、一般に、エンドユーザへのストリーミング・ビデオの分野に関する。特に、本発明は、ストリーミング・ビデオ信号のユーザ体感品質測定を自動化するための方法及びシステムに関する。
【背景技術】
【0002】
[発明の背景]
過去10年において、ネットワークサービスの急速な発展及びスマートモバイルデバイスの著しい成長のおかげで、ストリーミング・メディア・アプリにおける驚異的な成長がなされてきた。例えば、オーバーザトップ(OTT)ビデオ・デリバリの分野において、HTTPライブストリーミング(HLS)、シルバーライト・スムーズ・ストリーミング(Silverlight Smooth Streaming)(MSS)、HTTPダイナミックストリーミング(Dynamic Streaming)(HDS)、及びHTTPによるダイナミックアダプティブストリーミング(Dynamic Adaptive Streaming over HTTP)(DASH)のような幾つかの方法は、多様なビットレートにおいてビデオストリームを供給すること、及び、小さなHTTPファイルセグメントに分割することにより、デコーダー駆動レートアダプテーションを達成する。各セグメントのメディア情報は、マニフェストファイルに保存されるが、これは、仕様及び各セグメントの位置を供給するため、サーバーで作られて、そして、クライアントに伝送される。ストリーミング・プロセスを通して、クライアントでのビデオ・プレーヤーは、再生レート、バッファ条件及び即時的TCPスループットに基づきセグメントを選択することにより利用できるストリームの中で適応的にスイッチする。ストリーム・メディア・アプリケーションの急速な成長と共に、正確な体感品質(QoE)及びQoE駆動アダプティブ・ビデオ・デリバリ―方法の強い要望が生じてきた。
【0003】
ビデオ・ストリーミング・サービスの増大する人気により、ユーザのより良いサービスに対する期待が連続して高まっている。ビデオ・デリバリ―・サービスのタイプにおけるユーザの好みを調べるために研究又は調査がなされてきたが、このサービスは、コンテンツ、タイミング、質、使いやすさ、ポータビリティ、インタラクティビティ、及びシェアリングのような他のカテゴリーに渡ってユーザの選択における体感品質QoEの支配的な役割を示す傾向がある。収入の著しい減少は、ビデオ・ストリームの低品質に帰属するであろう。劣悪なストリーミング体験は、ビデオ・サービス・エコシステムへの主な脅威になるかもしれない。従って、エンド・ビューア―の最適な体感品質QoEを達成することは、現代のビデオ・デリバリ―・サービスの中心となる目標であった。
【0004】
人間が大抵のアプリケーションにおいてビデオの究極の受け取り手であるので、主観的な評価は、ストリーミング・ビデオの体感品質QoEを評価するため、最も率直な且つ信頼性のあるアプローチとしばしばみなされる。包括的な主観的ユーザ研究は、幾つかの便益を有している。それは、ストリーミング・ビデオの感性品質の評価における人間の行動を研究するための有用なデータを提供し、それは、ストリーミング戦略を評価し、比較し、そして最適化するため、テストセットを供給し、そして、それは、存在する客観的QoEモデルのパフォーマンスの正当性を認識し且つ比較するため、有用である。そのような主観的ユーザ研究は、信頼性のある評価を提供するが、それらはしばしば、不便であり、時間がかかり、そして、高い。より重要には、それらは、如何なるリアルタイムの再生スケジューリング・フレームワークにおいて適用することが難しい。従って、高い精度、低い複雑性、客観的な手法が、メディア・デリバリ―・システムのためのクオリティ・コントロール及びリソース割り当てプロトコルの効率的な設計を可能にすることが望まれている。しかしながら、多くの既知の方法は、初期バッファリング及び再生ストールのみの影響を、又は、プレゼンテーション品質(若しくは画質)だけを測定するために、設計されている。実際、既存のシステムは、QoE予測のためストール・イベントのグローバルな統計及びビットレートにしばしば依存する。これは、少なくとも2つの理由から問題がある。第1に、異なるビデオ・コンテンツをエンコードするのと同じビットレートを使用することは、劇的に異なるプレゼンテーション品質という結果になり得る。第2に、ビデオ・プレゼンテーション品質及びネットワーク品質の間のインタラクションは、これらの既知の方法の幾つかにおいて、説明され難いか、或いは、単に説明がされない。
【0005】
以上のことは、客観的なQoE測定をリアルタイム中でなすことに対して、及び、大多数のエンドユーザに対して、挑戦及び制約を作り出す。従って、既存の技術に対比して、ストリーミング・ビデオ信号のユーザの体感品質測定を自動化するための方法及びシステムに対する需要がある。本発明の目的は、上述する不利益の少なくとも1つを軽減又は除去することである。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、一般に、ユーザの視聴デバイスへとストリーミングされるビデオを認知するとき、エンドユーザの体感品質(QoE)の測定を自動化することに関する。ユーザQoEを自動的に測定するため、本発明は、ビデオの即時的プレゼンテーション品質(スムーズな再生の間視覚化されたビデオフレームの画質であり、非可逆圧縮、ノイズ、ぼかし、空間及び時間スケーリング、プリプロセッシング、ポストプロセッシング、伝送損失等によって影響されるかもしれず、そして、ユーザ側での視聴デバイス及び視聴条件に基づき変動するかもしれないもの)、再生スムーズさ品質(再生プロセスのスムーズさであり、バッファリング、再生中のストール等による初期ストールによって影響されるかもしれないもの)、及びそれらの間のインタラクションを結び付ける。
【課題を解決するための手段】
【0007】
本発明は、一般的なストリーミング・ビデオのための即時的な客観的QoE測定方法若しくはシステムを提供しようとするものである。ビデオのプレゼンテーション品質及び再生スムーズさ品質が測定されるだけでなく、本発明はまた、そのような説明において、それらの間のインタラクションを説明するものであり、以下の記述において明確になるであろう。
【0008】
本発明の1つの実施例において、QoEについて、再生スムーズさ品質、即ち劣化の影響は、ストール・イベントの持続期間又は(タイミング)位置に基づいて測定されるだけでなく、ストール・イベントが起こるビデオフレームのプレゼンテーション品質にも基づいている。プレゼンテーション品質及び再生スムーズさ品質の間のインタラクション(即ち、依存性)のこの包含は、ユーザQoEの顕著により正確な測定へと導くと信じられる。本発明により得られる即時的な及びエンドオブプロセスQoE測定(end-of-process QoE measures)は、他の方法に比べて、メディア・ストリーミング・システム及びサービスのモニタリング及び最適化における顕著な利益を提供するかもしれない。
【0009】
本発明の第1の側面において、ストリーミング・ビデオのストリーミング・セッションの体感品質(QoE)測定を生成する方法が提供される。ストリーミング・ビデオは、ネットワーク接続を渡って、サーバー側でのビデオ・ホスティング・サーバーから、受信側でのユーザ視聴デバイスへと、伝送される。その方法は、ストリーミング・ビデオのプレゼンテーション品質測定を得るステップと、ストリーミング・セッションの間の全てのストール・イベントの発生を追跡するステップと、再生スムーズさ品質測定が、ストリーミング・セッションの開始(start)より全てのストール・イベントからの寄与を結び付けることにより受信側で評価されるステップと、ストール・イベントからの寄与が、過去のストール・イベントの発生による品質ディケイエフェクト(劣化効果)(quality decay effect)及びメモリエフェクト(効果)(memory effect)及びストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質に基づき計算されるステップと、及び、再生スムーズさ品質測定及びプレゼンテーション品質測定を組み合わせることにより即時的QoE品質を発生させるステップと、を含む。
【0010】
1つの特徴として、その方法は、ストリーミング・セッションの全体のエンドオブプロセスQoEスコアを得るため、ストリーミング・セッションの開始から全ての時間ポジッションで発生する即時的QoE品質を蓄積するステップを更に含むかもしれない。もう1つの特徴として、ストール・イベントの寄与は、ストール・イベントの発生の前にビデオフレームのプレゼンテーション品質測定に基づいて計算され、そして、そのビデオフレームは、ストール・イベントの発生の直前に十分にレンダーリングされた(実施された(rendered))フレームであるかもしれない。更にもう1つの特徴として、メモリエフェクト(memory effect)又は品質ディケイエフェクト(quality decay effect)或いは両者は、時間と共に単調に減少し時間が経つにつれて飽和する関数によって表されるかもしれない。
【0011】
もう1つの別の特徴として、プレゼンテーション品質測定は、ストリーミング・ビデオのオリジナルなソースから生成されたテストビデオの品質をリファレンスとしてオリジナル・ソース・ビデオのそれとを比べるフルリファレンス(FR型)ビデオ品質評価方法(full-reference video quality assessment method)から得られるか、又は、オリジナル・ソース・ビデオへのアクセスが必要とされないノーリファレンス(NR型)ビデオ品質評価方法(no-reference video quality assessment method)から得られるが、そして、ビデオ品質評価方法(video quality assessment method)は、ユーザ視聴デバイス及びエンドユーザの視聴条件に適合されるかもしれない。
【0012】
更にもう1つの特徴として、再生スムーズさ品質測定(playback smoothness quality measure)は、初期のバッファリング及び再生ストール・イベントの時間ポジッション及び持続期間を活用して評価される。更なる特徴として、初期のバッファリング又は再生ストールによる、ストール・イベントによって引き起こされる再生スムーズさ品質の劣化は、ストール・イベントの前の最後にレンダーされたビデオフレームのプレゼンテーション品質測定と共に劣化が増加する、モデルにより評価される。更に、ストール・イベントによって引き起こされる劣化は、最後にレンダーされたビデオフレームのプレゼンテーション品質測定に比例するように選択されるかもしれない。
【0013】
本発明のもう1つの側面において、ネットワーク接続に渡って、受信側でのユーザ視聴デバイスへのサーバー側のビデオ・ホスティング・サーバーから伝送されるストリーミング・ビデオのユーザ体感品質(QoE)を測定するためのシステムを提供する。プレゼンテーション品質評価ユニットと、ストリーミング・ビデオのプレゼンテーション品質測定を生成又は取得するプレゼンテーション品質評価ユニットと、再生スムーズさ品質評価ユニットと、ストリーミング・セッションの間の全てのストール・イベントの発生を追跡し及びストリーミング・ビデオを再生するユーザ視聴デバイスで認知される再生スムーズさ品質の再生スムーズさ品質測定を生成する再生スムーズさ品質評価ユニットと、ここで、スムーズさ品質測定の生成は、ストリーミング・セッションのスタートより全てのストール・イベントからの寄与、過去のストール・イベントの発生によるメモリエフェクト及び品質ディケイエフェクト及びストール・イベントの発生の前のストリーミング・ビデオのプレゼンテーション品質に基づき計算されたストール・イベントからの寄与、を組み合わせ、及び、QoE評価ユニットと、をそのシステムは含み、ここで、QoE評価ユニットは、プレゼンテーション品質測定及び再生スムーズさ品質測定を組み合わせて即時的QoEスコアにする。
【0014】
更にもう1つの側面において、計算装置のプロセッサにより実行されると、計算装置が、これまで概要を述べてきた方法の何れか1つにより、ストリーミング・ビデオのユーザ体感品質を測定する方法を実行するようにさせるコンピュータが読み取り可能なコードが保存された非一時的なコンピュータ読み取り可能なメディアが提供される。
【0015】
他の側面において、本発明は、上述する側面の種々の組合せ及びそれらのサブセットを提供する。
【0016】
[図面の簡単な記述]
限定としてではなく、記述の目的のために、上述及び本発明の他の側面は、添付される図面を参照してより詳しく説明される。それらの図面は、次の通りである。
【図面の簡単な説明】
【0017】
【
図1】
図1は、ストリーミング・ビデオのQoEを自動的に測定するプロセスを示す図である。
【0018】
【
図2】
図2は、ビデオ・ホスティング・サーバーから通信ネットワークを通してユーザ・ディスプレイ・デバイスへとストリーミング・ビデオが伝送されることが示される、説明のための例を提供するが、そこでは、クラウド内のサーバーが、ビデオ・ホスティング・サーバー、エッジ・サーバー、及び/又はユーザ・ディスプレイ・デバイスから情報を集めてもよい。
【0019】
【
図3】
図3は、全体QoEにたいする3つのストール・イベントの効果を示すため、説明のための例を提供する。
【0020】
【
図4】
図4は、再生中の各時間インスタンスにおける全体QoEに対する、ビデオ・プレゼンテーション品質及びストールの衝撃を図解するため、説明のための例を提供する。
【0021】
【
図5】
図5は、ハードウェア演算ユニットの非限定的例を提供する。及び
【0022】
【
図6】
図6は、ストリーミング・ビデオQoEを自動的に測定するためのシステムを示す説明のための例を提供する。
【発明を実施するための形態】
【0023】
[実施例の詳細な記述]
以下の記述及びそこに記述される実施例は、本発明の原理の特定の実施、又は例の説明のために提供される。これらの例は、限定の目的ではなく、本発明の及びそれらの原理の説明の目的のために提供される。以下の記述において、同じそれぞれの記号が、明細書及び図面を通して、同じ部分に付される。
【0024】
本発明は、一般に、ユーザの視聴デバイスにストリームされているビデオを知覚するとき、ユーザの体感品質(QoE)の自動的な測定に関する。ユーザQoEを自動的に測定するため、本発明は、ビデオの即時的プレゼンテーション品質、再生スムーズさ品質、及びそれらのインタラクションを結び付ける。ここで、QoEは、ネットワークを通してビデオ・ホスティング・サーバーから視聴者の受け取り及びディスプレイ・デバイスへ伝送されるビデオ・ストリームの再生経験の全般的な視聴者の満足を参照する。QoEは、ビデオ・デリバリ・チェーンの終端での人間の経験に集中する。QoEは、ネットワークを通してのビデオ伝送プロセスのサービス・レベル及び安定性に集中するサービスの品質(QoS)又はデリバリの品質(QoD)のコンセプトとは異なるが、帯域幅、ビット誤り率(ビットエラーレイト)、パケット・ロス・レイト、及び伝送遅延のようなネットワーク・サービス及びパフォーマンス・パラメータによってしばしば測定される。
【0025】
図1は、ストリーミング・ビデオQoEを自動的に測定するプロセスを示す図である。このプロセスは、ビデオ・プレゼンテーション品質、再生スムーズさ品質、及びそれらのインタラクションを含む統一されたQoE測定アプローチを利用する。ストリーミング・ビデオ100の再生中に、2つのタイプの情報が、ストリーミング・ビデオ信号から抽出される。第1のタイプの情報は、再生エンジンに送られる復号され及び処理されたビデオ・ピクチャー/フレームを含み、他方のタイプ104は、一般に、初期のバッファリング、ストール・イベントのポジッション及び持続時間のような、再生パフォーマンス・パラメータを他の中に含む。ビデオのプレゼンテーション品質は、ビデオ品質評価方法106を使用して評価され、その評価は、ピクチャー毎に(又はフレーム毎に)実行されるかもしれず、そして、再生スムーズさ品質108はまた測定又は評価される。これらの2つの測定は独立ではない。例えば、ストール・イベントの期間中に表示されるビデオフレームのプレゼンテーション品質は、ストール・イベントによって引き起こされる品質劣化のレベルに影響を及ぼすかもしれない。これらの2つの品質測定の間の相互関係は、
図1の相互関係(インタラクション)によって表されるが、それは、詳細に後述される。各フレームでの全体の即時的QoE測定又は評価112は、プレゼンテーション品質測定及び再生スムーズさ品質測定を、それらの間のインタラクションの衝撃と共に組み合わせることにより得られる。全ての過去のフレームでの即時的全体のQoE測定114は、プロセス終了時のQoE測定118を最終的に作り出すために蓄積される116。このプロセスは更に以下において説明される。
【0026】
まず、
図2を参照する。このプロセスを詳細に記述する前に、ストリーミング・ビデオがネットワーク接続204を介してサーバー側のビデオ・ホスティング・サーバー202から受信側での再生視聴デバイス又は受信機(receiver)206へと伝送されるとき、ビデオ・プレゼンテーション品質は、ビデオ・ホスティング・サーバー202によるようなサーバー側で、又は再生視聴デバイス206によるような受信側で、測定されるかもしれないことが認識されるであろう。あるネットワーク構成に対して、これはまた、エッジ・サーバー208で測定されるかもしれないが、それは、ローカルなサービス・プロバイダーによって直接的に機能させられる再生デバイスへと接続するためのローカルなサービス・プロバイダーによって使用されるビデオ・サーバーである。エッジ・サーバー208及び受信機(receiver)206の間の接続210は一般に、受信機(receiver)206及びネットワークの間の最終リンクであるが、但し、追加のリンクは有るかもしれない。一方、再生スムーズさ品質は、ビデオ・ホスティング・サーバー202でではなく、受信機(receiver)206で測定される。再生スムーズさ品質はまた、受信機(receiver)で測定されるものを概算するために、専用QoEサーバー、クラウド・サーバー、又はエッジ・サーバー208のようなネットワークに接続されたサーバーで測定されるかもしれない。例えば、再生視聴デバイスは、クラウド中のサーバー216へ、関連する情報(ストール開始ポイント及び持続時間のようなもの)を送るかもしれず、そして、再生スムーズさ品質は、クラウド・サーバー216で測定されるかもしれない。これらは望ましいかもしれないが、何故かならば、エッジ・サーバー又はクラウド・サーバーが、再生デバイスで利用可能なものよりもはるかに優れた計算パワーを備えるかもしれず、また、フィードバックとして個々の再生デバイスからの再生状態情報を受け取るように及びエッジ・サーバーに接続される全ての再生デバイスでの再生スムーズさ品質を測定(従って、モニタ)するように構成され、或いは、クラウド・サーバーによってモニタされるように構成され ているかもしれないからである。
【0027】
ここで、
図1に戻れば、ストリーミング・ビデオにおける各フレームに対して、その即時的ビデオ・プレゼンテーション品質測定P
nは、伝送の前にフレーム・レベルのプレゼンテーション・ビデオ品質評価(VOA)方法によってサーバー側で見積もられるかもしれない。フルリファレンス(FR型)又はノーリファレンス(NR型)VOA方法の何れかが用いられてよい。フルリファレンス(FR型)VOAの場合において、プレゼンテーション品質測定は、リファレンスとしてオリジナル・ソース・ビデオの品質と、ストリーミング・ビデオのオリジナルなソースから生成されたテストビデオの品質を比べるフルリファレンス(FR型)ビデオ品質評価方法から得られる。即時的ビデオ・プレゼンテーション品質測定は、ストリーミング・ビデオ及び初期品質ビデオの両方の現在のフレームの関数として表されるかもしれない。
P
n=V
FR(R
n,X
n), (1)
ここで、R
n及びX
nは、それぞれ、初期品質ビデオ(ビデオ・コンテンツ・プロバイダー212から受け取り、又は、ビデオ・ホスティング・サーバーのデータ・ストレージ・デバイス214に保存されるソース・ビデオ)及びサーバーにより伝送されるストリーミング・ビデオの第n番目のフレームであり、そして、V
FR(・)は、フルリファレンスVQAオペレータである。ノーリファレンスVQAの場合において、プレゼンテーション品質測定は、オリジナルなソースビデオへのアクセスを必要としないノーリファレンス型ビデオ品質評価方法から得られる。即時的ビデオ・プレゼンテーション品質測定は、X
nのみの関数として表すことができる。
P
n=V
NR(X
n) (2)
ここで、Xnは、ストリーミング・ビデオの第n番目のフレームであり、また、V
NR(・)は、ノーリファレンスVQAオペレータである。
【0028】
如何なるVQA方法は、プレゼンテーション品質を測定するために使用されるかもしれない。幾つかの既知の例は、ピーク信号対雑音比(Peak signal-to-noise-ratio)(PSNR)、構造的類似性インデックス(Structural similarity index)(SSIM)、多重スケール構造的類似性インデックス(Multi-scale structural similarity index)(MS-SSIM)、及びSSIMplusを含む。全QoE測定方法又はシステムのより良い実施、柔軟性、及び有用性のために、ユーザ視聴デバイス及びエンドユーザの視聴条件に適合されたVOA又はビデオQoE測定方法が使用されるかもしれない。視聴デバイス及び視聴条件適応力を有するそのようなVOA方法によると、同じビデオストリームは、そのビデオが視られるときに、視聴デバイス及び視聴環境条件に基づき異なるように採点されるかもしれない。例えば、クロス-レゾルーション測定(cross-resolution measurement)参酌するフルリファレンスVQA又はフルリファレンス・ビデオQoE測定を使用するかもしれないが、即ち、テストビデオの品質を査定するときに、比較のために使用されるリファレンスビデオが異なる空間レゾルーション(分解能)(spatial resolution)及び/又は時間レゾルーション(分解能)(temporal resolution)を有するかもしれない
【0029】
視聴デバイス/視聴条件適応力及びクロス-レゾルーション評価の要件を満たすかもしれないそのようなVQA又はビデオQoE測定方法は、SSIMplus方法である。これは、フルリファレンスVQA方法である。ソース初期品質ビデオは、例えば、圧縮によりユーザへとストリーミングされるべきでもある、ソースビデオから生成されるテスト・ストリーミング・ビデオの品質を評価するために、リファレンスとして使用される。SSIMplusは、特に低いビットレートで、コーディング方法の欠陥により引き起こされる、ぼかし効果のような局所ひずみを捕獲するために、有用であるかもしれない、リファレンスビデオに対するテストビデオの忠実性を測定し、そして、そのテストビデオの認識される品質劣化を予測する。その予測の正確性に影響を及ぼすかもしれない選択の対象となる、異なるコンピュータの視覚科学モデルを、その予測は使用するかもしれない。そのテストビデオの全品質予測が、生成される。それに加えて、SSIMplusはまた、各ビデオフレームにおける各ピクセル位置でビデオ品質を示す品質マップを生成する。一般に、SSIMplusに対して選択されるコンピュータの視覚科学モデルは、視聴ディスプレイの明度、空間レゾルーション(ピクセルの行及び列による)、及び、視聴距離又は角度及び物理的なサイズのような視聴条件パラメータを考慮に入れる。後に認識されるように、ストリームされるビデオの圧縮プロセスの欠陥により引き起こされるぼかし効果のような局所ひずみの可視性は、ディスプレイ・デバイス及び視聴条件パラメータの両方に依存するかもしれない。例えば、大きなサイズの高解像度TVディスプレイ・スクリーン上で良く見えるひずみは、より小さな物理的サイズ又はより低い解像度を備えるディスプレイ上で(例えば、携帯電話のスクリーン上で)より低い視認性又は更に見えなくなるかもしれない。SSIMplusはまた、ディスプレイ・デバイス及び視聴条件に合わせて適合するVQA方法であり、そして、ビデオ内容だけでなく、他の中から、ディスプレイの輝度、空間レゾルーション、及び物理サイズのようなディスプレイ・デバイス・パラメータ、及び、視聴距離及び角度のような視聴条件をも、考慮に入れることにより、プレゼンテーション品質を予測する(即ち、見積もる)、人間の視覚感度モデルを組み込むかもしれない。
【0030】
もし品質スコア又は測定がサーバ202サイドで計算されるならば、それらが計算された後に、それらは、ビデオ・コンテンツと共に受信機(receiver)206へと伝送されるか、又は、サーバ202及び受信機(receiver)206の間の分離したチャネルを通して伝送される。算出された品質スコアPn’sは、ビデオの仕様を記述するマニフェスト・ファイル内へと埋め込まれるか、又は、ビデオ・コンテナのメタデータ内に入れて運ばれることができる。マニフェスト・ファイル又はメタデータ・ファイルは、その上方が受信機(receiver)に利用可能であるように受信側へと伝送される。ストールが起こるとき、受信機(receiver)206は一時的に、サーバから全くビデオ信号を受信しないか、又は、不完全なビデオ信号のみを受信するか、或いは、受信機(receiver)206のデコーディング/ディスプレイ速度は、ビデオ再生のそれにマッチしない。結果として、受信機(receiver)は、最後に成功裏にデコードされたフレーム又は部分的に復号されたフレームの何れかを示すことができる。MPEG-DASHのような共通して使用されるストリーミング・プロトコルは、部分的に復号されたフレームは、提示のために送られることはなく、そして、そのようにして、視聴者は、ストール間隔の間に最後に成功裏にデコードされたフレームを見るであろう。
【0031】
中断期間[i,j]内におけるストールの瞬間nに対して、インスタンスnでのビデオ・プレゼンテーション品質、即ち、Pnを表す1つの方法は、ストールPi-1の直前における最後に復号されたフレームの品質測定を使用することである。
Pn=Pi-1 (3)
この品質測定Pi-1は、ストールが終わるまで、全ての時間ポジッション(即ち、期間[i,j]内の全てのフレーム)に対して繰り返されるであろう。もちろん、中断期間におけるストールの瞬間nでのビデオ・プレゼンテーション品質はまた、ある平均のような又は部分的に復号されたフレームのそれを適宜使用して、ストール前に得られた又は算出されたプレゼンテーション品質から他の量によって表されるかもしれない。
【0032】
各ストール・イベントは、別々に解析されるかもしれず、そして、全体効果は、それらを集めることにより算出されるかもしれない。各ストール・イベントは、ストリーミング・セッション・タイム・ラインを3つの間隔、即ち、ストール前、ストール中、及びストール後に分割されることに留意されたい。便宜上、これらの3つの間隔は、しばしば、オーバーラップしないように選択される。これらの3つの間隔は、それらの間隔の各々に対するストール・イベントの衝撃が異なるので、別々に解析され得る。再生のスムーズさ品質測定は、時間ポジッション並びに初期バッファリング及び再生ストール・イベントの持続期間を利用して評価されるかもしれない。このことは更に、以下の例において記述される。
【0033】
第1に、視聴者が如何なる中断をも経験しなかった場合、ストールが起こる前に、それらのフレームにゼロ・ペナルティを割り当てるかもしれない。第2に、再生ストールが開始すると、再生が再開されるまで、不満足のレベルは、ストールが継続するにつれて、増大する。サービスをキューイングする際に、ユーザの体感に対するウェイティング時間(待ち時間)の衝撃は、心理学的観点だけでなく、経済的な観点を有する。言い換えると、ストール衝撃は、時間において単調に減少し(即ち、ストールが継続するとより負の体感となり)、そして、同様に時間が経つと飽和する、関数によって表される。指数関数的な減衰は、ストールの数及び長さにより時間に対してそのようなQoE損失飽和を近似するために使用されるかもしれない。言い換えると、ストール・イベントによるQoE損失は、指数関数的減衰関数によって近似されるかもしれない。第3に、QoEはまた、行動ヒステリシスの「アフターエフェクト(after effect)」に依存する。特に、ストール・イベントによって引き起こされる以前の不快な視聴体験は、将来におけるQoEにペナルティを科す傾向があり、そして、そのようにして全体のQoEに影響を及ぼす。不満足の程度は、再生の回復の瞬間からフェードアウトし始めるが、これは、観測者が腹立ちを忘れ始めるからである。バッファリング・イベントの記憶保持のこの減衰は、時間に対して一般に単調である。そのような減衰の効果は、ヘルマン・エビングハウスの忘却曲線を使用することによりストール・イベントの衝撃の測定及び算出に含まれるかもしれない。
M=exp{-t/T} (4)
ここで、Mは記憶保持であり、Tは記憶の相対的強度、及び、tは時間である。
【0034】
ここで、k番目のストール・イベントが、間隔[i
k,i
k+l
k]に位置すると仮定するが、ここで、l
kは、ストールの長さである。ストールによりQoEスコアにおける変化、又は、QoEに対する各ストール・イベントの衝撃を測定するために、区分モデル(piecewise model)が使用されるかもしれない。
【数1】
ここで、S
k(t)は、時間tにおける第k番目のストール・イベントによるQoEスコアにおける変化を表し、fは、フレーム/秒におけるフレーム速度であり、d(t)は、ストール・イベント(即ち、l
k)の長さと共に増加する品質減衰関数であり、m(t)は、イベントが終了した後に第k番目のストール・イベントの続く衝撃を測定するメモリ関数であり、そして、Qは、以下の記述において明らかになるであろう減衰関数のスケーリング係数である。
【0035】
非限定の例として、限定ではなく説明の目的のために、品質減衰関数の時間変化d(t)及びメモリ関数m(t)は、次のように、指数関数として表されるかもしれない。
d(t)=-1+exp{-((tf-ik)/T0)}
及び
m(t)=exp{-((tf-ik-lk)/T1)}
ここで、T0及びT1は、それぞれ、不満足の割合及び記憶の相対的強度を表す。
【0036】
減衰関数に対するスケーリング係数Qは、ストール前、即ち、時間(又はフレーム)i
k-1までの全てのフレームのプレゼンテーション品質から算出されるかもしれない。プレゼンテーション品質は、例えば、式(1)、(2)、及び(3)を用いて算出されるかもしれない。非限定の例として、限定ではなく説明の目的のために、スケーリング係数は、次のように、算出されるかもしれない。
【数2】
減衰関数のこのスケーリング係数は、2つの機能を有しているが、1)未来のビデオ・プレゼンテーション品質に視聴者の期待を反映すること、及び、2)VQAカーネルの同じスケールにストール効果を正規化することである。この式は、以前に議論した2つのQoEファクターの間の関係と定性的に一致する。この選択及び
【数3】
の使用は、特定例であることが認識されるであろう。一般に、ストールの前にプレゼンテーション品質を適切に記述し又は表現する如何なる妥当なスケーリング係数は、使用されるかもしれない。これは、ストール直前のようにストール前の特定フレームの、又は、ストール前の幾つかのフレームの平均の、又は、ストール前のより長い期間を表すスコアのそれであるかもしれない。更に、スケーリング係数の使用であるので、減衰関数及びスケーリング係数によって合同して表されるように、減衰効果は、プレゼンテーション品質と共に変化し、そして、特に、ストール前のプレゼンテーション品質スコアと比例する。より一般的に、劣化は、ストール・イベント前のプレゼンテーション品質測定と共に増加し、そして、特定のフレームのそれ又は幾つかのすれーむの平均のような、ストール前のプレゼンテーション品質の測定は、QoEスコアにおける変化(即ち、QoEにおける落下)又は品質減衰効果のためのそのようなモデル又は表現内に組み込まれるかもしれない。
【0037】
加えて、初期バッファリング及び再生中のストールの衝撃は異なるため、2つのセットのパラメータが、即ち、それぞれ、初期遅延に対する{T0
init,T1
init}及び他の再生ストールに対する{T0,T1}が、使用される。簡単のために、当初の期待P0は、定数として選択される。このようにして、初期バッファリング時間は、蓄積された体感損失に比例する。
【0038】
全てのストール・イベント(過去及び現在)のヒステリシス影響は、インスタントQoEを減少させる。全てのインストール・イベントによるインスタントQoEは、各ストール・イベントによって引き起こされる全てのQoE落下を集めることにより近似されるかもしれない。全てのストール・イベントによる落下のこの集合を説明する表現は、次のような形式であるかもしれない。
【数4】
ここで、Nは、ストリーミング・セッションの開始からのストール・イベントの全数である。このことは
図3に図解されているが、第1のストール、第2のストールにより引き起こされるパネル304に示される第2のQoE落下S
2(t)、及び第3のストールにより引き起こされるパネル306に示される第3のQoE落下S
3(t)を、図解する。
【0039】
全QoEに影響を及ぼすもう1つのファクターは、ストールがどれだけ頻繁に起こるかである。ストールの頻度は、ストールの固定された全長さのストリーミング・ビデオに対するQoEと負の相関関係がある。ストールの頻度を説明すると、{T0,T1}のパラメータは、T1>T0を満足するように選択されるかもしれない。そのようなパラメータ選択で、ストール頻度の効果の傾向は、区分モデル及び上述された品質減衰関数d(t)及びメモリ関数m(t)によって良く捕獲される。
【0040】
あるアプリケーションにおいて、個々のフレームでストールの衝撃を測定することは望ましい。そうするためには、各離散時間インスタンスnで、各1/f秒毎に関数をサンプリングすることにより、その離散形式に式(5)における連続関数を変換するかもしれない。
Sn=S(n/f) (9)
【0041】
この離散形式において、ストリーミング・セッションにおける各時間ユニットnでの即時的QoEは、2つのチャネル、即ち、ビデオ品質評価チャネル106(又はPn)及び再生スムーズさ品質チャネル108(又はSn)、の集合として、以下のように表されるかもしれない。
Qn=Pn+Sn(P1,P2, ・・・ ,Pn) (10)
【0042】
ここで、プレゼンテーション品質Pnの衝撃及び全QoEにおける再生スムーズさ品質Snによる劣化は、単純に加算されない。再生スムーズさ品質Snの劣化衝撃の計算における、メモリm(t)(即ち、全ての過去のイベントの衝撃)及び減衰d(t)の効果が、共に変調される。例えば、再生スムーズさ品質Snの劣化衝撃は、現在及び以前のプレゼンテーション品質P1、P2、・・・Pnに依存するかもしれない。このようにして、式(10)が、単に2つのチャネルからの寄与の加算をその面に示すかもしれないが、その2つのチャネルの間の相互作用からの寄与は、全ての過去のイベントからの減衰及びメモリ寄与内に含まれる。それは、再生スムーズさ品質及びプレゼンテーション品質の間の相互作用を形成する、再生スムーズさ品質及びプレゼンテーション品質のQoE(又は、むしろその落下)への共同効果、及び、現在及び以前のプレゼンテーション品質への再生スムーズさ品質Snの依存性である。
【0043】
実際には、シングル・エンドオブプロセスQoE測定(single end-of-process QoE measure)がしばしば要求される。全再生期間に渡る予測されたQoEの平均値は、全QoEを評価するために使用されるかもしれない。現在のエンドオブプロセスQoEは、移動平均法を使用して算出されるかもしれない。
A
n=((n-1)A
n-1+Q
n)/n (11)
ここで、A
nは、ストリーミング・セッションにおける第n番目の時間インスタンスまでの蓄積QoEである。解説的な例が
図4において示される。
図4(a)において、実線において、「*」がストールの位置を示している、各フレームでの静止画ビデオのビデオ・プレゼンテーション品質を表す曲線を示す。各フレーム402での再生中のストリーミング・ビデオのビデオ・プレゼンテーション品質は、「*」がストールの位置を示し及び「o」が回復の位置を示すところの、
図4(b)内に示される。各フレームでの各ストール・イベントによるQoE落下404は、
図4(c)において示される。
図4(c)において、実線で描かれる曲線は、初期バッファリングによるQoE落下を示し、そして、破線で描かれた曲線は、再生ストールによるQoE落下を示している。再生中の各時間インスタンスでの全体のQoE406は、比較のため、
図4(d)において図解されている。
【0044】
ここで、
図1に再び戻る。シングル・エンドオブプロセスQoE測定を得るために、蓄積116は、
図1内に示されるプロセスによってモニタされている期間に渡ってストリーミング・ビデオの全体QoEスコアを表すため、シングル・エンドオブプロセスQoE測定内に、全ての前のフレーム(又は時間ユニット)において生成された全ての即時的QoE測定114を組み込むことである。これらの即時的QoE測定を混ぜ合わせる1つの方法は、それらを蓄積し、そして、式(11)の式を使用するような、即時的QoE測定の移動平均を計算することである。
【0045】
上述した例において、スムーズさ品質の評価及びQoE測定(又はQoEスコア)の評価が、受信側で実施されることが記述されているが、それらは、ユーザ・ディスプレイ・デバイスで実施されることに限定されないことは認識されるであろう。ユーザ・ディスプレイ・デバイス206は、その中に組み込まれた計算機ハードウェアユニットを有するが、これらの評価を実施するために使用されるかもしれない。しかしながら、ユーザ・ディスプレイ・デバイスは、ほんの限定された計算機パワーしか有しないかもしれない。従って、携帯電話又はウェアラブル・ディスプレイ・デバイスであるかもしれない、ユーザ・ディスプレイ・デバイスよりも、より計算機パワーがある傾向にある、エッジサーバー208又はクラウドサーバー216によって評価は実施されるかもしれない。エッジサーバー208又はクラウドサーバー216は、プレゼンテーション品質評価、再生スムーズさ品質評価、即時的又は全体のQoE評価、及びエンドオブプロセスQoE評価のタスクの1又はそれ以上(又は全て)を実施するように構成されるかもしれない。
【0046】
エッジサーバー208はまた、そのエッジサーバーのストレージ・デバイスに対して、ディスプレイ・パラメータ及び視聴条件パラメータのようなディスプレイ・デバイスのデバイス固有パラメータを受信し及び保存するように、そのエッジサーバーがエンドユーザの視聴条件及びディスプレイ・デバイスに対して適合するVQA方法を実施できるように、構成されるかもしれない。このようにして、あるアプリケーション(例えば、多数のエンドユーザ・ディスプレイ・デバイスに対してQoEスコアをモニタしそして記録すること)のために、エッジサーバー208は、視聴デバイス及び視聴条件適応力で、これらの評価及び測定を実施するように構成されるかもしれない。
【0047】
クラウドサーバー216はまた、ビデオ・ホスティング・サーバー202、エッジサーバー208、及び/又はディスプレイ・デバイス206からの情報を受信し、保存するように構成されるかもしれない。そのような情報は、ビデオ・ホスティング・サーバーで実施されるフルリファレンスVQA評価の結果、及び/又は、ディスプレイ・パラメータ及び視聴条件パラメータのようなクラウドサーバーのストレージ・デバイスに対してディスプレイ・デバイスのデバイス固有のパラメータ、を含むかもしれないが、クラウドサーバーがディスプレイ・デバイス及びエンドユーザの視聴条件に適合するVQA方法を実施できるようにする。このようにして、あるアプリケーション(多数のエンドユーザのディスプレイ・デバイスに対してQoEスコアをモニタ及び記録すること)のために、クラウドサーバー216は、ディスプレイ・デバイス206の与えれたリストをモニタし、そして、視聴デバイス及び視聴条件適応力でこれらの評価及び測定を実施するように構成されるかもしれない。
【0048】
理解され得るように、サーバーは一般に、品質スコアを算出するためにコンピュータ命令を実行できるプロセッサを有する専用のコンピュータ・ハードウェアである。受信機(receiver)は、ポータブル・コンピュータ、タブレット型コンピュータ、スマート携帯電話ヘッドセット、ウェアラブル・ディスプレイ又は視聴デバイスのような、その他の中でも、計算機ハードウェアユニットを含む、ポータブル計算機であるかもしれない。計算機ハードウェアユニットは、ストレージ・デバイスに保存されたコンピュータ命令を実行するか、又は、離れた位置からネットワークを介して受信されたコンピュータ命令を実行するか、のいずれかを実行するかもしれない。命令が計算機ハードウェア(又は、より具体的に単数又は複数のマイクロプロセッサ)によって実行されるとき、サーバ又は受信機(e receiver)は、上述したような品質スコアを計算するであろう。
【0049】
より一般的に、サーバー又は受信機は、そこに保存された又は受信された命令を実行する単数又は複数のハードウェアユニット(記述の容易性のために、以下において、サーバー又は受信機は単数のハードウェアユニットのみを有すると仮定されるが、本発明は、そのような単数のハードウェアユニット構成に限定されない)を含む。命令は、ハードウェアユニットに接続されるか又はその一部を形成するストレージ・デバイスに保存されるかもしれず、或いは、その命令の実行の期間においてそのハードウェアユニットに伝送されるかもしれない。ハードウェアユニットの非限定的な例は、
図5に図解される。ハードウェアユニットが、
図5において図解されるそれらよりも多くの構成要素を含むかもしれず、或いは、より少ないかもしれないことは理解されるであろう。ハードウェアユニット500は、1又はそれ以上のマイクロプロセッサ又はCPU502(central processing unit)、トランジェント・メモリ・デバイス504及び長期保存デバイス506のような1又はそれ以上のメモリ・ストレージ・デバイス、局所デバイスへの接続のための幾つかの局所及び通信ポート508、通信ネットワーク204への接続のためのネットワーク・インターフェイス510、及び、あるプログラムされた機能を実施するためのマイクロプロセッサ又はCPU502上で実行する1又はそれ以上のアプリケーション・モジュール512をしばしば含む、計算機パワーを備えるあるハードウェア・デバイス又はコンピュータまたはサーバであるかもしれない。ハードウェア・ユニットは、マイクロプロセッサ又はCPU上で同時に実行する幾つかのアプリケーション・モジュールを有するかもしれない。しかしながら、アプリケーション・モジュールがマイクロプロセッサ又はCPUに特定の機能を実施する(例えば、VQAユニットが品質評価オペレーションを実施する)ようにさせることは文脈から明らかであろう。文脈が、参照されるものがハードウェア・ユニットであるかどうかを示す、又は、固有のモジュールを唯一に特定することがないかもしれないところ、本記述において明示的に特定されるであろう。このようにして、アプリケーション・モジュールによって供給される記述されたような機能は、プログラムの命令によってプログラムされるように、ハードウェア・ユニットによって供給されるようなものと同じであると理解されるであろう。同様にして、ハードウェア・ユニットが、機能を実施するように記述されるとき、ハードウェア・ユニットは、アプリケーション・モジュール又は保存若しくは受信されるモジュールノーリファレンス命令により構成されるような機能を実施することが理解されるであろう。命令は、一時的ではない物理的な媒体(単数又は複数)に、例えば、長期ストレージ・デバイス506上に保存されるかもしれないか、又は、ネットワーク・インターフェイス510でネットワーク接続を渡って受信されるかもしれない。命令がマイクロプロセッサ又はCPU502によって実行されるとき、ここにおいて記述されるように、機能(例えば、VQA機能)又は方法(例えば、QoEを測定する方法)をハードウェア・ユニットが実施するようにさせる。
【0050】
QoEを測定する方法の例は、
図1を参照して記述されてきた。認識され得るように、1つのコンピュータ・ハードウェア・ユニット500(又は、幾つかのコンピュータ・ハードウェア・ユニット)は、例えば保存された又は受信された命令を使用してマイクロプロセッサ又はCPU502をプログラミングすることにより、適切に構成されると、QoEを測定するためのコンピュータ・システム内に配列された機能ユニットとして、見られるかもしれない。
【0051】
図6は、本発明によると、QoEを測定するためのコンピュータ・システムを図解する図である。
【0052】
図6を参照して、システム600は、プレゼンテーション品質評価ユニット602、再生スムーズさ品質評価ユニット604、QoE評価ユニット、及び、オプションとして、エンドオブプロセスQoE蓄積ユニット608を有する。システム600は、ここにおいて記述されるようにプロセスを実行するように構成されると、ストリーミング・ビデオのQoEを、即ちシステムへの入力のQoEを測定し、そして、エンドオブプロセスQoEスコア若しくは即時的QoEスコアの出力として生成する。
【0053】
これらのユニットは、ネットワーク接続(及び/又は、もし同じハードウェア・ユニット内にあるならデータ接続)によって接続される。これらのユニットは全て、同じハードウェア・ユニット内に存在する(即ち、同じハードウェア・ユニットによってホストされる)か、又は、各々が異なるハードウェア・ユニット内にあるかもしれず、又は、そのユニットの幾つかは1つのハードウェア・ユニット内に及びその他は異なるハードウェア・ユニット内にあるかもしれない。例えば、プレゼンテーション品質評価ユニット602は、ビデオ・ホスティング・サーバー202内に存在する(即ち、統合されている)かもしれず、一方、再生スムーズさ品質評価ユニット604、QoE評価ユニット606、及び、オプションのエンドオブプロセスQoE蓄積ユニット608は、エンドユーザのディスプレイ・デバイス206内に存在するかもしれない。或いは、再生スムーズさ品質評価ユニット604、QoE評価ユニット606、及び、オプションのエンドオブプロセスQoE蓄積ユニット608は、エッジサーバ208又はクラウドサーバ216内に存在する(即ち、統合されている)かもしれない。或いは、更なる代替として、エッジサーバ208又はクラウドサーバ216は、プレゼンテーション品質評価ユニット602、再生スムーズさ品質評価ユニット604、QoE評価ユニット606、及び、オプションのエンドオブプロセスQoE蓄積ユニット608、の全てをホストしているかもしれない。
【0054】
プレゼンテーション品質評価ユニット602は、ストリーミング・ビデオのビデオフレームの各々に対して、ストリーミング・ビデオ P
1、P
2、・・・P
n 等のビデオ・プレゼンテーション品質評価を測定及び生成する。即時的ビデオ・プレゼンテーション品質測定P
nは、
図1を参照して記述される妥当なビデオ品質評価方法の如何なるものを使用して見積もられるかもしれない。別々に、再生スムーズさ品質評価ユニット604は、ユーザのディスプレイ・デバイスで体験されるインストール・イベント、フルに若しくは部分的になされるフレームの即時的ビデオ・プレゼンテーション品質、の如何なるものも追跡し、そして、過去における第k番目のストール・イベントによる時間nでのスムーズさ品質(又は、実際には、劣化効果)を表すスムーズさ品質測定S
k
nを生成する(即ち、見積もる)。これらのスムーズさ品質S
k
nから、再生スムーズさ品質評価ユニット604は、例えば、式(7)に置けるように全てのスムーズさ品質測定S
k
nを加えることにより、全てのストール・イベント(過去及び現在)を考慮に入れる、時間nでの即時的スムーズさ品質測定S
nを算出する。即時的ビデオ・プレゼンテーション品質測定P
n及び即時的スムーズさ品質測定S
nは、例えば、その2つの品質測定の最大又は最小を取ることにより、その2つの測定の加重総和により、その2つの測定を掛け算することにより、又は、式(10)によるこれらの2つの品質測定を加算することにより、即時的QoE測定114内に結合するためにQoE評価ユニット606に送られる。この即時的QoE測定は、システム600の出力として、更なるプロセッシング又は利用のために他のシステムに、供給されるかもしれない。例えば、そのようなQoE測定は、メディア・ストリーミング・システム及びサービスを最適化するために、クライアント・サイドで認識された品質を知らせるために、ストリーミング・ビデオ・サーバへのフィードバックとして使用されるかもしれない。或いは、クライアント・サイドで認識される品質としてQoE測定をモニタ又は記録するためのモニタリング・システムに供給されるかもしれない。加えて、全体のモニタされたセッションに対するQoEを示す(即ち、QoEの見積もりとして使用する)単一体、即ち、1つのエンドオブプロセスQoE測定に、全体のモニタされたセッションに渡って各フレームでの即時的QoE測定を結合させるため、この即時的QoE測定は、エンドオブプロセスQoE蓄積ユニット608へと供給されるかもしれない。
【0055】
本発明の種々の実施例は、詳細に記述されてきた。多くの変更、適合、及び変動が、添付される請求項によって規定される、本発明の範囲から離れることなく、実施例になされるかもしれないことを、当業者は認識するであろう。請求項の範囲には、例又はその詳細な記述において説明されるこれらの実施例に限定されることなく、全体として記述に一致する最も広い解釈が与えられるべきである。