(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6574031
(24)【登録日】2019年8月23日
(45)【発行日】2019年9月11日
(54)【発明の名称】モバイル映像通話品質測定方法およびシステム
(51)【国際特許分類】
H04N 7/14 20060101AFI20190902BHJP
H04N 5/232 20060101ALI20190902BHJP
H04N 21/442 20110101ALI20190902BHJP
H04N 21/43 20110101ALI20190902BHJP
【FI】
H04N7/14 150
H04N5/232 300
H04N21/442
H04N21/43
【請求項の数】9
【全頁数】13
(21)【出願番号】特願2018-145858(P2018-145858)
(22)【出願日】2018年8月2日
(65)【公開番号】特開2019-30012(P2019-30012A)
(43)【公開日】2019年2月21日
【審査請求日】2018年8月2日
(31)【優先権主張番号】10-2017-0098168
(32)【優先日】2017年8月2日
(33)【優先権主張国】KR
(73)【特許権者】
【識別番号】509288208
【氏名又は名称】ネイバー ビジネス プラットフォーム コーポレーション
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100091214
【弁理士】
【氏名又は名称】大貫 進介
(72)【発明者】
【氏名】パク ソンヨン
(72)【発明者】
【氏名】イ ドンウォン
【審査官】
板垣 有紀
(56)【参考文献】
【文献】
特開2016−116107(JP,A)
【文献】
特開2016−015582(JP,A)
【文献】
平山 宏人 他,遠隔医療用TV会議システムにおける重畳フレーム番号の識別率評価,マルチメディア,分散,協調とモバイル(DICOMO2008)シンポジウム論文集,日本,社団法人情報処理学会,2008年 7月 9日,第2008巻 第1号,pp.723-728
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/14
H04N 5/232
H04N 21/00 − 21/858
(57)【特許請求の範囲】
【請求項1】
モバイル映像通話品質を測定する機能を実行する映像通話アプリを備えたモバイル端末である送信端末及び受信端末を含む映像通話品質測定システムであって、
前記送信端末は、映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプを映像フレームに挿入し、
前記受信端末は、前記送信端末のフレームレート送信レートよりもさらに高い割合で前記映像フレームを読み取り、および
前記映像フレームから認識されたインデックスとタイムスタンプ値を利用して前記映像フレームの品質指標を算出する
ことを特徴とする映像通話品質測定システム。
【請求項2】
前記送信端末及び受信端末は、
前記送信端末と前記受信端末の時間同期化のために、NTPサーバによって時間を同期化する時間同期化部をさらに含むことを特徴とする、請求項1に記載の映像通話品質測定システム。
【請求項3】
前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする、請求項1に記載の映像通話品質測定システム。
【請求項4】
送信端末の映像通話品質測定方法であって、
受信端末との映像通話呼を形成する段階、
映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプを映像フレームに挿入する段階、および
前記受信端末に、前記インデックスとタイムスタンプが挿入された映像フレームを予め設定されたフレーム送信レートで送信する段階
を含み、
前記受信端末では、前記フレーム送信レートよりもさらに高い割合で前記映像フレームを読み取り、前記映像フレームから認識されたインデックスとタイムスタンプ値を利用して前記映像フレームの品質指標を算出することを特徴とする、映像通話品質測定方法。
【請求項5】
前記受信端末との時間同期化のために、NTPサーバによって時間を同期化する段階
をさらに含むことを特徴とする、請求項4に記載の映像通話品質測定方法。
【請求項6】
前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする、請求項4に記載の映像通話品質測定方法。
【請求項7】
受信端末の映像通話品質測定方法であって、
送信端末との映像通話呼を形成する段階、
前記送信端末から、順に増加するインデックスとタイムスタンプが挿入された映像フレームを予め設定されたフレーム送信レートで受信する段階、
前記フレーム送信レートよりもさらに高い割合で前記映像フレームを読み取る段階、
前記映像フレームから前記インデックスとタイムスタンプを認識する段階、および
前記認識されたインデックスとタイムスタンプの値を利用して前記読み取った映像フレームの品質指標を算出する段階
を含み、
前記送信端末では、映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプが映像フレームに挿入されることを特徴とする、映像通話品質測定方法。
【請求項8】
前記送信端末との時間同期化のために、NTPサーバによって時間を同期化する段階
をさらに含むことを特徴とする、請求項7に記載の映像通話品質測定方法。
【請求項9】
前記品質指標は、
前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化される程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする、請求項7に記載の映像通話品質測定方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、モバイル映像通話品質測定方法およびシステムに関し、より詳細には、モバイル映像通話アプリケーションがインストールされた2台のモバイル端末間の実際の映像通話品質を測定する方法およびシステムに関する。
【背景技術】
【0002】
スマートフォンの大衆化および高性能化や、LTEなどのモバイル通信網の高速化に伴い、スマートフォンによるモバイル映像通話の利用が急増している。これだけでなく、最近では、通信社から提供される基本の映像通話サービスの他にも、SkypeやLINEなどの映像通話を支援する多様なモバイル映像通話アプリケーションがモバイル映像通話マーケットにおいてしのぎを削っている。なお、アプリケーションは単に「アプリ」として言及される場合がある。
【0003】
多様なモバイル映像通話サービスが出現し、その利用が増加している現在、ユーザが映像通話で実際に体感する品質(QoE:Quality of experience)の測定および管理が重要視されてきた。
【0004】
国際電気通信連合ITUでは、ネットワークを介した動画サービスの品質測定のための標準技術規格としてPEVQ(Perceptual Evaluation of Video Quality)を開発し、今もなお進化し続けている。PEVQ規格の基本的な動作方式は、事前に定められたソース動画を送信してこれを受信した後、ソース動画と比較して測定する方法である。PEVQ規格は、多様な動画ストリーミングサービスやビデオ会議などのような様々な動画応用サービスの品質測定には利用可能であるが、モバイル映像通話の品質測定への適用には多くの問題を抱えている。PEVQは、事前に格納されたレファレンス動画ソースと比較する方式を採択しているため、モバイル端末のカメラによる実際の映像通話を測定することは不可能であるという短所がある。
【0005】
さらに、PEVQ規格の場合、テストのためのレファレンス動画の長さが6〜20秒に制限されているため、20秒以上の映像通話および動画サービスの測定は不可能であるという問題もある。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】韓国登録特許第10−08889873号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したような従来技術の問題点を解決するために、本発明は、映像通話を実行する映像通話アプリが備えられた端末において、ユーザが実際に体感する映像通話の品質を測定することができる方法およびシステムを提供することを目的とする。
【0008】
また、本発明は、ユーザが常用する映像端末を修正することなくそのまま使用すると同時に、移動通信網の実際の映像通話経路もそのまま使用するため、ユーザが体感する映像通話の品質を簡単かつ正確に測定することができる方法およびシステムを提供することをさらに他の目的とする。
【課題を解決するための手段】
【0009】
上述したような課題を解決するために、本発明の一実施形態に係るモバイル映像通話品質測定方法は、送信端末と受信端末との間に映像通話呼が形成される段階、端末のオペレーティングシステムが提供する映像キャプチャメソッドを修正し、前記送信端末の映像通話アプリが映像キャプチャメソッドを呼び出すたびにカメラが取得する映像フレームごとに順に増加するインデックスとタイムスタンプを自動的に挿入する段階、前記送信端末が前記映像フレームを前記受信端末に送信する段階、前記受信端末が前記送信端末のフレームレート(FPS:Frame per second)よりも高い割合で前記映像フレームを格納する段階、および前記格納された映像フレームから前記インデックスとタイムスタンプを抽出し、OCR(Optical character reader)認識によって品質指標を算出する段階を含む。
【0010】
より好ましくは、前記送信端末と受信端末との間に映像通話呼が形成される段階の前に、前記送信端末および受信端末に搭載された端末エージェントで映像通話測定を開始する段階、および前記送信端末および受信端末の時間同期化が実行される段階をさらに含む。
【0011】
より好ましくは、映像通話呼が形成される段階の後に、前記受信端末では、前記送信端末から送信されるフレーム送信レートよりも速くフレームバッファを読み取って受信映像フレームとして格納する段階、および前記受信端末のOCR文字認識部は、前記各映像フレームから前記タイムスタンプ値とインデックス値を読み取ってインデックス値リストおよびタイムスタンプリストを形成する段階を含む。
【0012】
より好ましくは、前記品質指標を算出する段階は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間(initial delay)、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延(average delay)、映像フレーム送信遅延が一定せずに変化する程度であるジッター(jitter)、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率(skip ratio)、および前記受信端末で画面が固まる画面フリーズ(freezing)のうちの少なくとも1つを利用して前記品質指標を算出する。
【0013】
本発明の実施形態に係るモバイル映像通話品質を測定する機能を実行する映像通話アプリを備えたモバイル端末である送信端末及び受信端末を含む映像通話品質測定システムでは、送信端末は、映像通話の連結時にカメラによって取得される予め設定された一定間隔の映像フレームごとに順に増加するインデックスとタイムスタンプを挿入し、受信端末は、前記送信端末のフレーム送信レートよりもさらに高い割合で前記映像フレームを読み取り、前記映像フレームから前記インデックスとタイムスタンプを認識し、および前記読み取ったインデックスとタイムスタンプ値を利用して前記映像フレームの品質指標を算出する。
【0014】
より好ましくは、前記端末エージェントは、前記送信端末と前記受信端末の時間同期化のために、NTP(Network Time Protocol)サーバによって時間を同期化する時間同期化部をさらに含む。
【0015】
より好ましくは、前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出される。
【0016】
モバイル映像通話品質を測定する機能を実行する映像通話アプリを備えたモバイル端末である送信端末及び受信端末を含む映像通話品質測定システムであって、送信端末は、映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプを映像フレームに挿入し、受信端末は、前記送信端末のフレーム送信レートよりもさらに高い割合で前記映像フレームを読み取り、および前記映像フレームから認識されたインデックスとタイムスタンプ値を利用して前記映像フレームの品質指標を算出することを特徴とする、映像通話品質測定システムを提供する。
【0017】
一側面によると、前記送信端末及び受信端末は、前記送信端末と前記受信端末の時間同期化のために、NTPサーバによって時間を同期化する時間同期化部をさらに含むことを特徴とする。
【0018】
他の側面によると、前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする。
【0019】
送信端末の映像通話品質測定方法であって、受信端末との映像通話呼を形成する段階、映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプを映像フレームに挿入する段階、および前記受信端末に前記インデックスとタイムスタンプが挿入された映像フレームを予め設定されたフレーム送信レートで送信する段階を含み、前記受信端末では、前記フレーム送信レートよりもさらに高い割合で前記映像フレームを読み取り、前記映像フレームから認識されたインデックスとタイムスタンプ値を利用して前記映像フレームの品質指標を算出することを特徴とする、映像通話品質測定方法を提供する。
【0020】
一側面において、前記映像通話品質測定方法は、前記受信端末との時間同期化のために、NTPサーバによって時間を同期化する段階をさらに含むことを特徴とする。
【0021】
他の側面において、前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする。
【0022】
受信端末の映像通話品質測定方法であって、送信端末との映像通話呼を形成する段階、前記送信端末から、順に増加するインデックスとタイムスタンプが挿入された映像フレームを予め設定されたフレーム送信レートで受信する段階、前記フレーム送信レートよりもさらに高い割合で前記映像フレームを読み取る段階、前記映像フレームから前記インデックスとタイムスタンプを認識する段階、および前記認識されたインデックスとタイムスタンプの値を利用し、前記読み取った映像フレームの品質指標を算出する段階を含み、前記送信端末では、映像通話の連結時にカメラによって映像フレームを取得するために使用される端末オペレーティングシステム提供映像キャプチャメソッドが呼び出されるたびに、順に増加するインデックスとタイムスタンプが映像フレームに挿入されることを特徴とする、映像通話品質測定方法を提供する。
【0023】
一側面において、前記映像通話品質測定方法は、前記送信端末との時間同期化のために、NTPサーバによって時間を同期化する段階をさらに含むことを特徴とする。
【0024】
他の側面において、前記品質指標は、前記送信端末から前記受信端末に送信された映像フレーム送信数、前記送信端末からの最初の映像フレームが前記受信端末に送信されるまでにかかった初期遅延時間(、前記送信端末と受信端末との間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、前記送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して算出されることを特徴とする。
【発明の効果】
【0025】
本発明の実施形態に係るモバイル映像通話品質測定方法およびシステムによると、モバイル映像通話アプリがインストールされた2台のモバイル端末間の実際の映像通話品質を測定することができる。
【0026】
さらに、本発明の実施形態によると、事前に準備されたレファレンス動画ソースと通話映像を比較しなくても、送信された映像フレームに挿入されている特定のインデックスとタイムスタンプをOCR認識によって読み取り、このような情報を利用することで映像フレームの品質指標を算出することができる。
【図面の簡単な説明】
【0027】
【
図1】本発明の一実施形態における、モバイル映像通話品質測定システムのブロック図である。
【
図2】本発明の一実施形態における、モバイル端末に搭載されたモバイル映像通話アプリの構成を概略的に示した図である。
【
図3】本発明の実施形態における、送受信端末間の映像通話において映像通話品質を計算する方法を説明するための図である。
【
図4】上述した映像品質指標の算出に利用されるパラメータを求めるための具体的な数式を示した表である。
【
図5】本発明の実施形態における、モバイル映像通話品質を測定する方法を説明するためのフローチャートである。
【発明を実施するための形態】
【0028】
以下、本発明について、好ましい実施形態と添付の図面を参照にしながら、本発明が属する技術分野において通常の知識を有する者が容易に実施できるように詳しく説明する。しかし、発明は、多様に相違する形態で実現可能であり、ここで説明する実施形態に限定されることはない。
【0029】
近年は、モバイル通信会社が提供する基本のモバイル映像通話アプリの他にも多様なモバイル映像通話アプリが出現しており、モバイル映像通話サービスの利用率は毎年のように増加している。
【0030】
これにより、ユーザが実際に体感するモバイル映像通話品質の測定に対する要求が増加し続けてはいるが、従来の国際規格であるPEVQはレファレンス動画ソースと比較する方式を採用していることから、モバイル端末のカメラによる実際の映像通話を測定することはできないという問題を抱えている。
【0031】
さらに、PEVQは、相当に重い規格によるPCなどの高仕様端末でのレファレンス実現が存在することから、モバイル端末での直接的な実現には多くの問題を抱えている。
【0032】
このような問題を解決するために、本発明は、送信端モバイル端末のカメラ映像フレームに、順に増加するインデックス(index)とタイムスタンプ(time stamp)を挿入し、受信端の端末では、受信した映像を送信端のフレーム送信レートよりもさらに高い割合でフレームを格納し、格納された映像フレームからインデックスとタイムスタンプを抽出し、OCR文字認識を利用して抽出されたインデックスとタイムスタンプに対する遅延、ジッター、および映像フリーズのうちの少なくとも1つを測定することによって前記映像フレームの品質指標を算出する構成を開示する。
【0033】
以下、
図1を参照しながら、本発明に係るモバイル映像通話品質測定システムについて詳細に説明する。
【0034】
図1は、本発明の一実施形態における、モバイル映像通話品質測定システムのブロック図であり、
図2は、本発明の一実施形態における、モバイル端末に搭載されたモバイル映像通話アプリの構成を概略的に示した図である。
【0035】
図1に示すように、本発明のモバイル映像通話品質測定システム20は、送受信端末の端末エージェント200および管理サーバ220を含んで構成され、端末エージェント200はモバイル加入者網211を介して連結され、端末エージェント200と管理サーバ220はインターネット網230を介して連結されてよい。
【0036】
映像通話のためのモバイル端末は、
図2に示すように、ハードウェアモジュールとしてカメラ100とマイク110を必須で備えており、これらを駆動させて実際に映像通話を可能にするモバイル映像通話アプリ130を搭載する。モバイル映像通話アプリ130は、端末のビデオフォト120とオーディオフォト125を連結して映像およびオーディオを読み込むために、端末オペレーティングシステムOSで提供する映像キャプチャメソッド140およびオーディオキャプチャメソッド145を使用(呼び出し)する。映像通話アプリは、映像キャプチャメソッドとビデオフォト、オーディオキャプチャメソッドとオーディオフォトを連結させる連結セッション150によって映像およびオーディオの入力を受け、内部動画160として格納し、受信端末に送信するようになる。
【0037】
映像通話アプリが使用する(即ち、呼び出す)映像キャプチャメソッド140は、特に、映像通話アプリが呼び出されるたびに、順に増加されるか変更されるインデックスとタイムスタンプを映像フレームに挿入する機能を実行することにより、映像通話アプリで映像が読み取られるたびにインデックスおよびタイムスタンプが自動的に挿入されるように既存の端末オペレーティングシステムが提供する本来の映像キャプチャメソッドを修正することにより変更された映像キャプチャメソッド170を備え、このためにルーティングされた端末状態を利用してよい。一般的なアンドロイドやアイフォンではユーザの動作がユーザ権限にしたがって動作するのに対して、ルーティング(rooting)された端末では、ユーザの動作がroot(スーパーユーザ)権限によって管理されるようにし、OS自体の保安(又はセキュリティ)をオープンにする。上述した本発明により変更された映像キャプチャメソッド170の機能を搭載した後、ファクトリリセットして(例えば、工場出荷状態にして)保安を再設定することができる。
【0038】
再び
図1を参照すると、本発明のモバイル映像通話品質測定システム20は、送受信用モバイル端末に搭載される端末エージェント200、実際の映像通話に使用されるモバイル映像通話アプリ203、映像通話アプリが実行させる端末のカメラ250、送受信端末が接続して通信するモバイル加入者網211、端末エージェントを管理して映像通話品質測定結果を収集して分析し、その結果を視覚化して運営者240にインターネット230を介して提供する管理サーバ220で構成される。
【0039】
端末エージェント200の構成について詳しく説明すると、管理サーバ220との通信インタフェースを提供する通信部201、管理サーバ220から測定シナリオおよびスケジュールの伝達を受けて管理する測定シナリオ管理部202、測定シナリオおよびスケジュールを格納するシナリオ/スケジュールDB210、スケジュールにしたがって測定シナリオを駆動させるスケジューラ204、測定シナリオを実際のユーザと同じように自動的に端末UI上で駆動させるUI自動化部205、端末の映像フレームバッファを高速で読み取るフレームバッファ取得部206、フレームバッファで読み取られたフレームイメージからインデックスとタイムスタンプ値を認識して読み取るOCR認識部207、読み取られたインデックスおよびタイムスタンプ値から品質指標を計算する品質指標計算部208、および送受信端末間の時間同期化のための時間同期化部209で構成される。
【0040】
管理サーバ220は、多数の端末を登録して管理する端末管理部221、測定モバイル映像通話アプリおよびユーザの利用シナリオを登録するシナリオ登録部222、測定シナリオとスケジュールを格納するシナリオ/スケジュールDB223、測定結果を収集する測定結果収集部224、その結果が格納される測定結果DB225、測定結果に対する分析/統計を行う分析/統計部226、その結果を視覚化して運営者に提供する視覚化部227、およびエージェントとの通信を担当する通信部228で構成される。
【0041】
以下、本発明の実施形態に係るモバイル映像通話品質測定のための各モジュール間の詳細駆動について、次のように説明する。
【0042】
送信側端末で予め設定された一定間隔で映像フレームに、順に増加するタイムスタンプおよびインデックスを挿入し、これを受信側端末で抽出して分析するためには、ms単位で正確な時間に同期化する機能が必要であることから、時間同期化部209は、測定を始めながらNTPサーバによって時間を同期化する。スケジューラ204が特定のモバイル映像通話アプリを駆動させ、受信側端末にて通話連結を自動試行する。通話が連結すると、送信側映像通話アプリが映像キャプチャメソッドを利用してカメラによって映像をキャプチャしながら、(本来の端末オペレーティングシステムが提供する映像キャプチャメソッドの代わりに)、変更された映像キャプチャメソッドがインデックスとタイムスタンプを自動的に挿入し、送信側映像通話アプリがこれを受信側に送信する。
【0043】
受信側端末において、UI自動化部205は、特定の映像通話アプリの呼(call)受信の待機中に呼が受信されると、自動的に応答して呼を連結する。呼が連結した後、受信側端末のフレームバッファ取得部206は、端末の映像フレームバッファに高速でアクセスし、OCR認識部207を経て映像格納部に映像として格納させる。OCR認識部207は、イメージ認識技術を利用してフレームバッファの映像イメージからインデックスおよびタイムスタンプ値を抽出し、品質指標計算部208は、抽出された値を利用して多様な映像品質指標を計算し、通信部201によって管理サーバ220に送信する。
【0044】
整理すると、送信端のモバイル端末のカメラ映像フレームに、順に増加するインデックス(index)とタイムスタンプ(time stamp)を挿入し、受信端の端末は、受信した映像を送信端のフレーム送信レートよりもさらに高い割合で映像フレームを格納し、格納された映像フレームからインデックスとタイムスタンプを抽出し、OCR文字認識を利用して抽出されたインデックスとタイムスタンプに対する遅延、ジッター、および映像フリーズ等のうちの少なくとも1つを測定することによって映像フレームの品質指標を算出する。
【0045】
図3は、本発明の実施形態における、送受信端末間の映像通話において映像通話品質を計算する方法を説明するための図である。
【0046】
図3を参照すると、送受信端末300に搭載された端末エージェント200で映像通話測定が始まった場合、先ず、2台の端末間の時間同期化が行われる(310)。通話が連結すると、送信側の映像通話アプリ203が一定間隔のカメラ映像を要請し、
図2を参照しながら上述したように、変更された映像キャプチャメソッド170が映像フレームにタイムスタンプ323とインデックス325を挿入した後、送信側映像アプリは、このようにタイムスタンプ323とインデックス325が挿入された映像フレーム320を受信側に送信する。
【0047】
受信側端末では、通話が連結すると、
図1を参照しながら上述したように、端末エージェント200のフレームバッファ取得部206が高速で端末のバッファを読み取る。
【0048】
通常のモバイル映像通話アプリは、1秒あたり18フレーム以下で送信をするが、受信側端末エージェントでは、高精度の時間測定のために、映像通話アプリが使用するフレーム送信レートよりも遥かに速く(例えば、1秒あたり50フレーム以上)フレームバッファを読み取って受信映像フレーム330として格納する。
【0049】
この段階において、受信側端末エージェントのOCR認識部は、各フレームからタイムスタンプ値とインデックス値を読み取り、インデックス値リストであるIdx[i]340、タイムスタンプ値リストであるTS_S[i]350、受信側タイムスタンプ値リストTS_R[i]360を生成する。
【0050】
端末エージェントの品質指標計算部208は、このようなインデックス、タイムスタンプ値リストを利用して品質指標を算出し、管理サーバに送信する。
【0051】
映像品質指標の計算に利用されるパラメータとしては、送信端末から受信端末に送信された映像フレーム送信数、送信端末からの最初の映像フレームが受信端末に送信されるまでにかかった初期遅延時間、送信端末と受信端末間の映像フレーム遅延平均値である平均遅延(、映像フレーム送信遅延が一定せずに変化する程度であるジッター、送信端末から受信端末に送信されずに脱落した映像フレームの割合である脱落率、および受信端末で画面が変化しなくなる画面フリーズのうちの少なくとも1つが利用されてよい。
図4は、上述した映像品質指標の算出に利用されるパラメータを求めるための具体的な数式を示した表である。
【0052】
図5は、本発明の実施形態における、モバイル映像通話品質を測定する方法を説明するためのフローチャートである。
図5を参照しながら本発明の実施形態に係るモバイル映像通話品質を測定する方法を説明すると、先ず、送信端末と受信端末との間に映像通話呼が形成される(S510)。
【0053】
ここで、送信端末と受信端末との間に映像通話呼が形成される段階の前に、送信端末および受信端末に搭載された端末エージェントで映像通話測定を開始する段階、および送信端末および受信端末の時間同期化が実行される段階をさらに含んでよい。
【0054】
次に、送信端末の映像通話アプリが映像キャプチャメソッドを呼び出すと、変更された映像キャプチャメソッドは、カメラによって取得した映像フレームごとに順に増加するインデックスとタイムスタンプを挿入する(S520)。
【0055】
次に、送信端末は、映像フレームを受信端末に送信する(S530)。
【0056】
ここで、受信端末は、送信端末から送信されるフレーム送信レートよりも速くフレームバッファを読み取って受信映像フレームとして格納する段階、および受信端末のOCR文字認識部が、各映像フレームからタイムスタンプ値とインデックス値を読み取ってインデックス値リストおよびタイムスタンプリストを形成する段階をさらに含む。
【0057】
次に、受信端末は、送信端末のフレーム送信レート(FPS:Frame per second)よりも高い割合で映像フレームを格納する(S540)。例えば、受信端末では、送信端末のフレーム送信レートよりもさらに高い割合で映像フレームを読み取ってよい。これは、送信端末のフレームよりも受信側での変化フレームの割合を高めることによって受信側での変化フレームを確認(catch)することができるためであり、変化フレームの割合を高めることによってフレーム間の変化推移を正確に測定することができるためである。また、変化フレームの割合を高めることにより、品質指標データの精密性を高めることができる。
【0058】
次に、格納された映像フレームからインデックスとタイムスタンプを抽出し、OCR文字認識によって品質指標を算出する(S550)。
【0059】
ここで、品質指標を算出する段階は、送信端末から受信端末に送信された映像フレーム送信数、送信端末からの最初の映像フレームが受信端末に送信されるまでにかかった初期遅延時間、前記送信端末と受信端末間の映像フレーム遅延平均値である平均遅延、映像フレーム送信遅延が一定せずに変化する程度であるジッター、送信端末から前記受信端末に送信されずに脱落した映像フレームの割合である脱落率、および前記受信端末で画面が固まる画面フリーズのうちの少なくとも1つを利用して前記品質指標を算出してよい。
【0060】
上述したように、本発明の実施形態に係るモバイル映像通話品質測定方法およびシステムによると、モバイル映像通話アプリがインストールされた2台のモバイル端末間の実際の映像通話品質を測定することができる。
【0061】
さらに、本発明の実施形態によると、事前に準備されたレファレンス動画ソースと通話映像を比較しなくても、送信された映像フレームに挿入された特定のインデックスとタイムスタンプをOCR認識によって読み取り、このような情報を利用することで映像フレームの品質指標を算出することができる。
【0062】
また、本発明の実施形態は、コンピュータで読み取り可能な記録媒体にコンピュータが読み取り可能なコードで実現することが可能である。コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取ることができるデータが格納されるすべての種類の記録装置を含む。
【0063】
コンピュータで読み取り可能な記録媒体の例としては、ROM、RAM、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ格納装置などがある。また、コンピュータで読み取り可能な記録媒体は、ネットワークによって接続するコンピュータシステムに分散され、分散方式によってコンピュータで読み取り可能なコードが格納されても実行されてもよい。また、発明を実現するための機能的なプログラム、コード、およびコードセグメントは、本発明が属する技術分野のプログラマによって容易に推論されることができるであろう。
【0064】
上述では本発明の好ましい実施形態について説明したが、本発明がこれに限定されることはなく、本発明の技術思想範囲内で多様に変形して実施することが可能であり、これも添付する特許請求の範囲に属することは当然である。
【符号の説明】
【0065】
20:モバイル映像通話品質測定システム
100:カメラ
110:マイク
120:ビデオフォト
125:オーディオフォト
130:映像通話アプリ
140:映像キャプチャメソッド
145:オーディオキャプチャメソッド
150:連結セッション
160:内部動画
200:端末エージェント
203:モバイル映像通話アプリ
205:カメラ
211:モバイル加入者網
220:管理サーバ
230:インターネット
240:運営者