(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-07-22
(54)【発明の名称】画像処理方法および装置
(51)【国際特許分類】
G06T 3/4092 20240101AFI20240712BHJP
G06T 1/00 20060101ALI20240712BHJP
G06T 3/10 20240101ALI20240712BHJP
【FI】
G06T3/4092
G06T1/00 500B
G06T3/10
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023577796
(86)(22)【出願日】2022-03-30
(85)【翻訳文提出日】2023-12-13
(86)【国際出願番号】 CN2022083953
(87)【国際公開番号】W WO2023065604
(87)【国際公開日】2023-04-27
(31)【優先権主張番号】202111218339.5
(32)【優先日】2021-10-20
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】516097402
【氏名又は名称】北京優幕科技有限責任公司
【氏名又は名称原語表記】BEIJING UMU TECHNOLOGY CO., LTD.
【住所又は居所原語表記】05-609, 8th Floor, NO.18,Zhongguancun Street, Haidian District Beijing 100190, China
(74)【代理人】
【識別番号】110002262
【氏名又は名称】TRY国際弁理士法人
(72)【発明者】
【氏名】李 超超
(72)【発明者】
【氏名】王 曄
(72)【発明者】
【氏名】李 東朔
【テーマコード(参考)】
5B057
【Fターム(参考)】
5B057CC01
5B057CD05
(57)【要約】
本明細書は、画像処理方法および装置を提供する。前記画像処理方法は、処理対象画像を取得することと、前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得ることと、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することと、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定することと、を含む。
【特許請求の範囲】
【請求項1】
画像処理方法であって、
処理対象画像を取得することと、
前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得ることと、
前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することと、
予め設定された画像情報密度計算ポリシーに従って、前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定することと、を含むことを特徴とする画像処理方法。
【請求項2】
前記高周波情報は、水平高周波情報、垂直高周波情報および対角高周波情報のうちの少なくとも1つを含むことを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することは、
前記水平高周波情報、前記垂直高周波情報および前記対角高周波情報に基づいて、前記処理対象画像における各画素ドットに対応する画素情報を計算することと、
前記画素情報に基づいて前記処理対象画像における各画素ドットの値を諧調区間にマッピングし、マッピング結果に基づいて前記高周波画像を構築することと、を含むことを特徴とする請求項2に記載の画像処理方法。
【請求項4】
前記予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定することは、
前記画像情報密度計算ポリシーを解析し、解析結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定することと、
前記目標スライディングステップに応じて前記高周波画像において前記目標スライディングウィンドウを移動させ、移動結果に基づいて前記高周波画像における各高周波画像領域に対応する画像情報密度を計算することと、
前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定すること、を含むことを特徴とする請求項1に記載の画像処理方法。
【請求項5】
前記解析結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定することは、
解析結果に基づいて初期スライディングウィンドウおよび初期スライディングステップを決定するとともに、前記処理対象画像と前記高周波画像との変換関係を決定することと、
前記変換関係に基づいて、前記初期スライディングウィンドウおよび前記初期スライディングステップを調整し、前記目標スライディングウィンドウおよび目標スライディングステップを取得することと、を含むことを特徴とする請求項4に記載の画像処理方法。
【請求項6】
いずれかの高周波画像領域に対応する画像情報密度は、以下通り決定され、
前記処理対象画像の目標画像領域における各画素ドットに対応する画素情報密度を読み取り、
前記目標画像領域における各画素ドットに対応する画素情報密度に基づいて、前記高周波画像の目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を計算し、
前記目標高周波画像領域における各画素ドットに対応する高周波画素情報密度の平均値を計算し、計算結果に基づいて前記目標高周波画像領域に対応する画像情報密度を決定することを特徴とする請求項4に記載の画像処理方法。
【請求項7】
前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定することは、
前記高周波画像における各高周波画像領域と、前記処理対象画像における各画像領域とのマッピング関係を構築することと、
前記マッピング関係、および各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定することと、を含むことを特徴とする請求項4に記載の画像処理方法。
【請求項8】
前記処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定した後、
最も低い画像情報密度に対応する画像領域を追加画像領域として選択することと、
前記処理対象画像に照合する視覚化リソースを読み取るとともに、前記視覚化リソースを前記追加画像領域に追加することと、をさらに含むことを特徴とする請求項1~請求項7のいずれか一項に記載の画像処理方法。
【請求項9】
前記視覚化リソースを前記追加画像領域に追加することは、
前記追加画像領域に対応する画像情報密度に基づいて透明化レベルを決定することと、
前記透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、透明化処理後の視覚化リソースを前記追加画像領域に追加することと、を含むことを特徴とする請求項8に記載の画像処理方法。
【請求項10】
画像処理装置であって、
処理対象画像を取得するよう配置される取得モジュールと、
前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るよう配置される変換モジュールと、
前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される構築モジュールと、
予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定するよう配置される処理モジュールと、を含むことを特徴とする画像処理装置。
【請求項11】
表示方法であって、
処理対象画像を取得し、前記処理対象画像を諧調画像に変換することと、
前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することと、
予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定することと、
前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを追加して表示することと、を含むことを特徴とする表示方法。
【請求項12】
前記処理対象画像に対応する目標業務を決定し、
前記目標業務に対応する画像領域位置決めポリシーをロードし、
前記画像領域位置決めポリシーに従って、前記処理対象領域において前記初期画像領域を決定することを特徴とする請求項11に記載の表示方法。
【請求項13】
前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングすることは、
各初期画像領域に対応する画像情報密度を比較することと、
比較結果に基づいて、最も低い画像密度情報に対応する初期画像領域を前記目標画像領域として選択することと、を含むことを特徴とする請求項11に記載の表示方法。
【請求項14】
前記処理対象画像における前記目標画像領域に視覚化リソースを添加して表示することは、
前記目標画像領域に対応する目標画像情報密度を決定することと、
画像情報密度と透明化レベルとの対応関係に基づいて、前記目標画像情報密度に対応する目標透明化レベルを決定することと、
前記目標透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記処理画像における前記目標画像領域に、透明化処理後の視覚化リソースを添加して表示することと、を含むことを特徴とする請求項11~請求項13のいずれか一項に記載の表示方法。
【請求項15】
表示装置であって、
処理対象画像を取得し、前記処理対象画像を諧調画像に変換するよう配置される画像取得モジュールと、
前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される画像構築モジュールと、
予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定するよう配置される画像処理モジュールと、
前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを添加して表示する領域スクリーニングモジュールと、を含むことを特徴とする表示装置。
【請求項16】
計算装置であって、
メモリおよびプロセッサを含み、
前記メモリは、コンピュータ実行可能なコマンドを記憶し、
前記プロセッサは、前記コンピュータ実行可能なコマンドを実行し、請求項1~請求項9、または請求項11~請求項14のいずれか一項に記載の方法のステップを実現することを特徴とする計算装置。
【請求項17】
コンピュータコマンドが記憶されているコンピュータ読み取り可能な記録媒体であって、
前記コマンドは、プロセッサによって実行されると、請求項1~請求項9、または請求項11~請求項14のいずれか一項に記載の方法のステップを実現することを特徴とするコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書は、画像処理の技術分野に関し、特に、画像処理方法および装置に関する。
【背景技術】
【0002】
インターネット技術の発展に伴い、画像処理技術は、多分野でますます応用されており、特に、視覚化リソースの埋め込みが必要なシーン、例えば、ライブ配信シーンや授業シーン、解説シーンなど、解説対象に応じた視覚化リソースを、解説される表示内容に埋め込む必要があり、視聴者の体験効果を向上させる。従来技術では、通常、1つの矩形枠で表示内容における各領域を直接覆い、この矩形枠内に視覚化リソースを埋め込んで解説の目的を達成する。しかしながら、このような処理形態では、表示内容における情報の密度を考慮しないため、情報を遮蔽しやすくなる。そこで、如何にして表示内容における情報の密度を精度良く計算するかは、解決を迫られている問題になっている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
これに鑑みて、本明細書の実施例は、画像処理方法を提供する。また、本明細書は、画像処理装置、表示方法、表示装置、計算装置およびコンピュータ読み取り可能な記録媒体を提供し、画像情報密度を考慮しないという従来技術の欠点を解決する。
【課題を解決するための手段】
【0004】
本明細書の実施例の第1態様によれば、画像処理方法は提供され、処理対象画像を取得することと、前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得ることと、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することと、予め設定された画像情報密度計算ポリシーに従って、前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定することと、を含む。
【0005】
好ましくは、前記高周波情報は、水平高周波情報、垂直高周波情報および対角高周波情報のうちの少なくとも1つを含む。
【0006】
好ましくは、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することは、前記水平高周波情報、前記垂直高周波情報および前記対角高周波情報に基づいて、前記処理対象画像における各画素ドットに対応する画素情報を計算することと、前記画素情報に基づいて前記処理対象画像における各画素ドットの値を諧調区間にマッピングし、マッピング結果に基づいて前記高周波画像を構築することと、を含む。
【0007】
好ましくは、前記予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定することは、前記画像情報密度計算ポリシーを解析し、解析結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定することと、前記目標スライディングステップに応じて前記高周波画像において前記目標スライディングウィンドウを移動させ、移動結果に基づいて前記高周波画像における各高周波画像領域に対応する画像情報密度を計算することと、前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定すること、を含む。
【0008】
好ましくは、前記解析結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定することは、解析結果に基づいて初期スライディングウィンドウおよび初期スライディングステップを決定するとともに、前記処理対象画像と前記高周波画像との変換関係を決定することと、前記変換関係に基づいて、前記初期スライディングウィンドウおよび前記初期スライディングステップを調整し、前記目標スライディングウィンドウおよび目標スライディングステップを取得することと、を含む。
【0009】
好ましくは、いずれかの高周波画像領域に対応する画像情報密度は、以下通り決定される。前記処理対象画像の目標画像領域における各画素ドットに対応する画素情報密度を読み取り、前記目標画像領域における各画素ドットに対応する画素情報密度に基づいて、前記高周波画像の目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を計算し、前記目標高周波画像領域における各画素ドットに対応する高周波画素情報密度の平均値を計算し、計算結果に基づいて前記目標高周波画像領域に対応する画像情報密度を決定する。
【0010】
好ましくは、前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定することは、前記高周波画像における各高周波画像領域と、前記処理対象画像における各画像領域とのマッピング関係を構築することと、前記マッピング関係、および各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定することと、を含む。
【0011】
好ましくは、前記処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定した後、最も低い画像情報密度に対応する画像領域を追加画像領域として選択することと、前記処理対象画像に照合する視覚化リソースを読み取るとともに、前記視覚化リソースを前記追加画像領域に追加することと、をさらに含む。
【0012】
好ましくは、前記視覚化リソースを前記追加画像領域に追加することは、前記追加画像領域に対応する画像情報密度に基づいて透明化レベルを決定することと、前記透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、透明化処理後の視覚化リソースを前記追加画像領域に追加することと、を含む。
【0013】
本明細書の実施例の第2態様によれば、画像処理装置は提供され、処理対象画像を取得するよう配置される取得モジュールと、前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るよう配置される変換モジュールと、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される構築モジュールと、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定するよう配置される処理モジュールと、を含む。
【0014】
本明細書の実施例の第3態様によれば、表示方法は提供され、処理対象画像を取得し、前記処理対象画像を諧調画像に変換することと、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築することと、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定することと、前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを追加して表示することと、を含む。
【0015】
好ましくは、前記処理対象画像に対応する目標業務を決定し、前記目標業務に対応する画像領域位置決めポリシーをロードし、前記画像領域位置決めポリシーに従って、前記処理対象領域において前記初期画像領域を決定する。
【0016】
好ましくは、前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングすることは、
各初期画像領域に対応する画像情報密度を比較することと、比較結果に基づいて、最も低い画像密度情報に対応する初期画像領域を前記目標画像領域として選択することと、を含む。
【0017】
好ましくは、前記処理対象画像における前記目標画像領域に視覚化リソースを添加して表示することは、前記目標画像領域に対応する目標画像情報密度を決定することと、画像情報密度と透明化レベルとの対応関係に基づいて、前記目標画像情報密度に対応する目標透明化レベルを決定することと、前記目標透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記処理画像における前記目標画像領域に、透明化処理後の視覚化リソースを添加して表示することと、を含む。
【0018】
本明細書の実施例の第4態様によれば、表示装置は提供され、処理対象画像を取得し、前記処理対象画像を諧調画像に変換するよう配置される画像取得モジュールと、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される画像構築モジュールと、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定するよう配置される画像処理モジュールと、前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを添加して表示する領域スクリーニングモジュールと、を含む。
【0019】
本明細書の実施例の第5態様によれば、計算装置は提供され、メモリおよびプロセッサを含む。前記メモリは、コンピュータ実行可能なコマンドを記憶する。前記プロセッサは、前記コンピュータ実行可能なコマンドを実行すると、前記画像処理方法または表示方法のステップを実現する。
【0020】
本明細書の実施例の第6態様によれば、コンピュータ読み取り可能な記録媒体は提供され、コンピュータ実行可能なコマンドを記憶する。前記コマンドは、プロセッサによって実行されると、前記画像処理方法または表示方法のステップを実現する。
【0021】
本明細書に係る画像処理方法では、処理対象画像を取得した後、その後に処理対象画像における各領域の画像情報密度の計算を精度良く完成できるために、処理対象画像を諧調画像に変換した後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。その後、高周波情報に基づいて処理対象画像に対応する高周波画像を構築し、高周波次元において処理対象画像における各画像領域に対応する画像情報密度を得る。これにより、各画像領域の画像情報密度計算の精度を効果的に確保し、その後に画像情報密度に基づく視覚化リソースの埋め込みを容易にし、処理対象画像における情報の遮蔽を防止する。
【図面の簡単な説明】
【0022】
【
図1】本明細書の一実施例に係る画像処理方法のフローチャートである。
【
図2】本明細書の一実施例に係る画像変換過程を示す図である。
【
図3】本明細書の一実施例に係る表示対象画像を示す図である。
【
図4】本明細書の一実施例に係る視覚化画像レイアウトを示す図である。
【
図5】本明細書の一実施例に係る視覚化画像を示す図である。
【
図6】本明細書の一実施例に係る高周波画像を示す図である。
【
図7】本明細書の一実施例に係る第1種の画像情報密度を示す図である。
【
図8】本明細書の一実施例に係る第2種の画像情報密度を示す図である。
【
図9】本明細書の一実施例に係る第1種の視覚化リソースの埋め込みを示す図である。
【
図10】本明細書の一実施例に係る画像処理装置の構成を示す図である。
【
図11】本明細書の一実施例に係る表示方法のフローチャートである。
【
図12】本明細書の一実施例に係る第3種の画像情報密度を示す図である。
【
図13】本明細書の一実施例に係る第2種の視覚化リソースの埋め込みを示す図である。
【
図14】本明細書の一実施例に係る表示装置の構成を示す図である。
【
図15】本明細書の一実施例に係る計算装置の構成のブロック図である。
【発明を実施するための形態】
【0023】
以下、本明細書を十分に理解し得るように多くの具体的な詳細を説明する。しかし、本明細書は、ここでの説明とは異なる多くの他の形態で実施可能であり、当業者であれば、本明細書の趣旨から逸脱しない限り、類似する拡張を行うことができるので、本明細書は以下に開示される具体的な実施に制限されない。
【0024】
本明細書の1つまたは複数の実施例において使用する用語は、本明細書の1つまたは複数の実施例を制限するためではなく、特定の実施例を説明することのみを目的としている。本明細書の1つまたは複数の実施例および添付する特許請求の範囲において使用する単数形の「1種」、「前記」および「当該」は、前後の文章でその意味がはっきり示されている場合を除き、複数形も含むことを意味する。さらに、本明細書の1つまたは複数の実施例において使用する「および/または」という用語は、関連する1つまたは複数の挙げられた項目の任意またはあらゆる可能な組合せも含むことを指すと理解され得るであろう。
【0025】
本明細書の1つまたは複数の実施例において第1、第2等の用語を用いて各種の情報を説明しているが、これらの情報はこれらの用語に限られないと理解され得るであろう。これらの用語は、同一タイプの情報を互いに区別するために過ぎない。例えば、本明細書の1つまたは複数の実施例の範囲から逸脱しない限り、第1を第2とも称することができ、これに類似して、第2を第1と称することもできる。文脈に応じて、使用される「もし」という語は、「…の場合」または「…の場合には」または「特定したことに応じて」と解釈されてもよい。
【0026】
本明細書には、画像処理方法が提供されるとともに、本明細書は、画像処理装置、表示方法、表示装置、計算装置およびコンピュータ読み取り可能な記録媒体に関し、以下の実施例において1つずつ詳しく説明する。
【0027】
図1は、本明細書の一実施例に係る画像処理方法のフローチャートであり、具体的に、以下のステップを含む。
ステップS102:処理対象画像を取得する。
【0028】
具体的には、処理対象画像とは、情報密度の計算が必要な画像を指す。情報密度が計算された画像については、処理対象画像における各画像領域の画像情報密度を決定可能であり、これにより、処理対象画像における画像情報密度が最も高い領域、および画像情報密度が最も低い領域の決定を容易にする。なお、画像情報密度とは、画像領域内に情報で覆われる面積を指し、覆われる面積が大きいほど画像情報密度が高くなり、その逆に、情報で覆われる面積が小さいほど画像情報密度は低くなる。なお、画像領域の大きさは、必要に応じて設定されてもよいが、本実施例においてこれらに限定されない。
【0029】
実用的には、ライブ配信シーン、授業シーンまたは解説シーンにおいて、表示されるビデオフレーム画像に対して画像情報密度を計算することで、当該ビデオフレーム画像における各画像領域の画像情報密度を決定することができ、これにより、画像情報密度に基づいて最も低い画像領域を選択して視覚化リソースを埋め込むことができる。当該視覚化リソースは、キャスターのアバター画面、教師の講義画面またはディレクターズステーション画面などであってもよく、視覚化リソースで覆われるビデオフレーム画像における情報量を削減し、ビデオフレーム画像における情報の遮断を防止してユーザの視聴体験を向上させる。
【0030】
このように、処理対象画像は、ライブ配信シーンにおけるある時刻のビデオフレーム画像であってもよいし、授業シーンにおけるあるページのPPTであってもよい。さらに、処理対象画像は、解説シーンにおけるある時刻のビデオフレーム画像であってもよいが、本実施例においてこれらに限定されない。
【0031】
また、処理対象画像をレイアウト配置する場合、例えば、処理対象画像に新たな要素を埋め込む場合、要素間の相互の遮蔽を防止するために、本実施例に係る画像処理方法で各画像領域の画像情報密度を計算してもよい。これにより、画像情報密度が最小の画像領域を容易に選択して新たな要素を追加し、処理対象画像のレイアウト配置を完成する。具体的な説明内容については、本実施例の対応する記述内容を参照可能であり、本実施例において詳細な説明を省略する。
【0032】
本実施例では、授業シーンを例として説明し、それに対応して、処理対象画像は、すなわち、授業シーンにおいて授業を受けるユーザに表示される必要のあるページのPPTである。このページのPPTにおける各画像領域の情報密度を計算することで、画像情報密度が最も低い画像領域を選択して解説画面を配置し、PPTの内容の遮蔽を防止する。
【0033】
ステップS104:前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得る。
【0034】
具体的には、前記処理対象画像を取得することを基にし、さらに、処理対象画像における各画像領域の情報密度を精度良く計算できるために、この場合、処理対象画像を諧調画像に変換し、その後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。これにより、その後に高周波次元において各画像領域の画像情報密度の算出を容易にする。
【0035】
なお、諧調画像とは、具体的に、3チャンネル(RGB)の処理対象画像から変換された、1チャンネルに対応する画像を指す。それに対応して、高周波情報は、具体的に、ウェーブレット変換を行った後に得られた、高周波次元における処理対象画像に対応する情報を指し、処理対象画像に対応する水平高周波情報、垂直高周波情報、対角高周波情報を含むが、これらに限定されない。なお、水平高周波情報は、処理対象画像の水平次元における詳細を表し、垂直高周波情報は、処理対象画像の垂直次元における詳細を表し、対角高周波情報は、処理対象画像の対角次元における詳細を表す。
【0036】
すなわち、本実施例に係る画像処理方法では、処理対象画像の高周波特徴を抽出し、処理対象画像における画像情報の一部変化の揺らぎ値を反映し、これを基にして処理対象画像の情報分布の詳細をさらに計算することで、処理対象画像における各画像領域の画像情報密度を精度良く計算することができる。
【0037】
さらに、ウェーブレット変換された処理対象画像から、それに対応する低周波情報および高周波情報を得ることができる。なお、低周波情報は、平均値の求めに対応して処理対象画像の緩やかな変化を反映し、高周波情報は、差分の求めに対応して処理対象画像変換の揺らぎ値を反映する。高周波情報によれば、処理対象画像における各画像領域の情報量を反映することができ、その後に画像情報密度の計算を容易にする。
【0038】
さらに、
図2に示すように、諧調画像をウェーブレット変換する場合、処理効率を向上させるために、そのときには、諧調画像を高域通過フィルタh
highおよび低域通過フィルタh
lowに入力し、高域通過フィルタh
highによって処理対象画像に対応する垂直高周波情報Vおよび対角高周波情報Dを生成し、低域通過フィルタh
lowによって処理対象画像に対応する水平高周波情報Hおよび対低周波情報Aを生成し、その後の画像情報密度の計算を容易にする。なお、高域通過フィルタh
highは、高周波情報の通過を許容し、低域通過フィルタh
lowは、低周波情報の通過を許容する。
【0039】
なお、処理対象画像の高周波情報は、画像情報密度を計算する高周波画像を構築可能なものである。高周波画像の構築は、高周波情報(水平高周波情報、垂直高周波情報、対角高周波情報)によって制御される。このため、異なる次元(低周波次元、水平次元、垂直次元および対角次元)には、次元に対応する視覚化画像がそれぞれ存在する。その後に画像密度情報の計算を容易にするために、異なる次元に対応する視覚化画像は、画素ドットの値を0~255の範囲内にマッピングして諧調の視覚化画像を構築し、高周波次元における視覚化画像を整合して処理対象画像の高周波画像を得て、その後の画像情報密度の計算を容易にする。
【0040】
例えば、
図3は、ユーザに表示される必要がある1ページのPPTを示し、PPTの解説効果を向上させるために、PPTの解説過程中に追加される解説教師の解説画面が業務プラットフォームから提供される。解説画面に対応する領域でPPTの内容を遮蔽することを防止するために、そのときには、目前のPPTページにおける各画像領域の画像情報密度を計算する必要がある。
【0041】
これを基にして、まず、このページのPPTに対応する処理対象画像を諧調画像に変換し、その後、諧調画像をウェーブレット変換し、処理対象画像に対応する低周波情報A、水平高周波情報H、垂直高周波情報Vおよび対角高周波情報Dをそれぞれ得る。その情報に対応する視覚化画像のレイアウトは、
図4に示される。なお、低周波情報Aに対応する視覚化画像は、
図5(a)に示され、水平高周波情報Hに対応する視覚化画像は、
図5(b)に示され、垂直高周波情報Vに対応する視覚化画像は、
図5(c)に示され、対角高周波情報Dに対応する視覚化画像は、
図5(d)に示される。その後に水平次元の水平高周波情報H、垂直次元の垂直高周波情報Vおよび対角次元の対角高周波情報Dを合わせて処理対象画像に対応する視覚化高周波画像の構築を容易にし、画像情報密度の計算に用いる。
【0042】
以上をまとめると、諧調画像への変換で高周波情報を取得することで、その後の画像領域の画像情報密度の計算を準備できるほか、画像情報密度の計算の精度を効果的に向上させることができる。これにより、処理対象画像における画像情報密度の分布詳細をより迅速に分析することができる。
【0043】
ステップS106:前記高周波情報に基づいて、前記処理対象画像に対応する高周波画像を構築する。
【0044】
具体的には、上記処理対象画像の高周波情報を取得することを基にし、さらに、各画像領域の画像情報密度を精度良く計算できるために、高周波情報を合成して処理対象画像に対応する高周波画像を構築し、高周波次元において各画像領域の画像情報密度を計算して処理対象画像にマッピングし、これにより、処理対象画像における各画像領域の画像情報密度を得て、計算精度および計算効率を効果的に高めることができる。なお、高周波画像とは、具体的に、処理対象画像を高周波次元にマッピングした後に得られた画像を指し、かつ、当該画像における各画素ドットの値を0~255の範囲内にマッピングし、諧調図によって表示する。その後、画素ドットの値を分析することで、各画像領域の画像情報密度の計算を完成可能である。
【0045】
さらに、処理対象画像に対応する高周波画像を構築する場合、処理対象画像の高周波情報に水平高周波情報、垂直高周波情報および対角高周波情報が含まれるため、3つの次元の高周波情報を合成することのみによって、3つの次元の特徴を合成した高周波画像を構築することができ、その後の画像情報密度の計算を容易にする。本実施例では、具体的な実現形態は以下通りである。
前記水平高周波情報、前記垂直高周波情報および前記対角高周波情報に基づいて、前記処理対象画像における各画素ドットに対応する画素情報を計算する。
前記画素情報に基づいて前記処理対象画像における各画素ドットの値を諧調区間にマッピングし、マッピング結果に基づいて前記高周波画像を構築する。
【0046】
具体的には、画素情報とは、具体的に、水平高周波情報、垂直高周波情報および対角高周波情報を合成した後に算出された各画素ドットの高周波次元における値を指す。これに対応して、諧調区間とは、具体的に、0~255の範囲を指す。
【0047】
これを基にし、処理対象画像の水平高周波情報、垂直高周波情報および対角高周波情報を得た後、水平高周波情報、垂直高周波情報および対角高周波情報を合わせて、処理対象画像における各画素ドットの高周波次元における値を計算し、その後、各画素ドットの値を0~255の範囲内にマッピングすると、各画素ドットの高周波次元におけるマッピング値を得ることができる。各画素ドットの位置に基づいて、高周波次元に対応する高周波画像を構築することができるとともに、高周波画像に水平高周波情報、垂直高周波情報および対角高周波情報を合わせることで、その後に画像情報密度の計算精度を効果的に確保することができる。この過程において、水平高周波情報、垂直高周波情報および対角高周波情報に基づいて、処理対象画像における各画素ドットの画素情報を計算する場合、各画素ドットに対応する水平高周波情報、垂直高周波情報および対角高周波情報をそれぞれ二乗して平均値を求め、最後に平方根して各画素ドットの値を得て0~255の範囲にマッピングすると、各画素ドットの高周波次元におけるマッピング値を得て、最後に各画素ドットのマッピング値により、処理対象画像の高周波画像をつなぎ合わせることができる。
【0048】
上記の例により、処理対象画像の高周波情報{水平高周波情報H、垂直高周波情報Vおよび対角高周波情報D}を得た後、処理対象画像における各画素ドットの水平高周波情報Hn、垂直高周波情報Vnおよび対角高周波情報Dnをそれぞれとって、式(1)で各画素ドットの高周波次元における値を算出することができ、最後に各画素ドットの高周波次元における値を0~255の範囲内にマッピングすると、各画素ドットの高周波次元におけるマッピング値を得ることができる。各画素ドットのマッピング値で処理対象画像の高周波画像を構築することにより、
図6に示される高周波画像を得ることができる。当該高周波画像は、処理対象画像の高周波情報{水平高周波情報H、垂直高周波情報Vおよび対角高周波情報D}を合わせたものであり、その後に、この画像を基にして各画像領域の画像情報密度を計算することを容易にする。
【0049】
上記をまとめると、高周波情報を合わせて高周波画像を構築することで、高周波画像に処理対象画像の高周波情報を合成することを確保するほか、その後に画像情報密度を計算する場合に諧調画像を基にして完成することを確保でき、画像情報密度の計算精度を効果的に向上させる。
【0050】
ステップS108:予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定する。
【0051】
具体的に、上記のように高周波画像を取得した後、さらに、予め設定された画像情報密度計算ポリシーに従って、処理対象画像に対応する高周波画像を処理し、高周波次元において各画像領域の画像情報密度を計算して処理対象画像にマッピングすると、処理対象画像における各画像領域の画像情報密度を得ることができる。なお、画像情報密度計算ポリシーとは、具体的に、予め設定されたスライディングウィンドウおよび予め設定されたステップによって高周波画像において移動し、毎回移動した後、この時点に、高周波画像における、スライディングウィンドウに対応する領域の画像情報密度を計算し、スライディングウィンドウが移動した後、高周波画像における、n個のスライディングウィンドウに対応する領域の画像情報密度を得て、その後、高周波画像における、n個の領域の画像情報密度を処理対象画像にマッピングすると、処理対象画像における各画像領域の画像情報密度を得ることができる。
【0052】
さらに、処理対象画像における各画像領域の画像情報密度を計算する場合、計算精度を確保できるために、高周波次元において処理を施してから処理対象画像にマッピングして画像情報密度の計算を完成させてもよい。本実施例では、具体的な実現態様は以下通りである。
ステップS1082:前記画像情報密度計算ポリシーを解析し、解決結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定する。
具体的には、目標スライディングウィンドウとは、具体的に、大きさを設定するための矩形枠を指し、各画像領域の画像情報密度は、すなわち、前記矩形枠が高周波画像において選ばれる枠領域に対応する画像情報密度をマッピングして得られる。これに対応して、目標スライディングステップとは、具体的に、目標スライディングウィンドウが高周波画像において毎回移動する画素値を指す。
【0053】
さらに、画像情報密度が高周波次元において計算されてから処理対象画像にマッピングされて各画像領域の画像情報密度を得るが、通常に予め設定されたスライディングウィンドウおよびスライディングステップが処理対象画像に対して設定されるため、高周波画像に適用することができない。さらに、高周波画像が処理対象画像の高周波次元における特徴表現であり、そのサイズが処理対象画像の半分であるため、処理対象画像に対応するスライディングウィンドウおよびスライディングステップを得た後、変換が必要である。こうすることで、高周波画像に適用する目標スライディングウィンドウおよび目標スライディングステップを得ることができる。本実施例では、具体的な実現形態は以下通りである。
解析結果に基づいて初期スライディングウィンドウおよび初期スライディングステップを決定するとともに、前記処理対象画像と前記高周波画像との変換関係を決定する。前記変換関係に基づいて、前記初期スライディングウィンドウおよび前記初期スライディングステップを調整し、前記目標スライディングウィンドウおよび前記スライディングステップを取得する。
【0054】
具体的には、初期スライディングウィンドウとは、処理対象画像に対して予め設定されたスライディングウィンドウを指し、初期スライディングステップとは、処理対象画像に対して予め設定されたスライディングステップを指す。これに対応して、変換関係とは、具体的に、処理対象画像と高周波画像との比例関係を指し、ウェーブレット変換時に応じたパラメータによって変わる。
【0055】
これを基にし、画像情報密度の計算が必要な場合、まず、画像情報密度計算ポリシーを解析し、処理対象画像に適用する初期スライディングウィンドウおよび初期スライディングステップを得るとともに、処理対象画像と高周波画像との変換関係を決定し、さらに、当該変換関係に基づいて初期スライディングウィンドウおよび初期スライディングステップを調整すると、高周波画像に適用する目標スライディングウィンドウおよび初期スライディングステップを得ることができ、その後に目標スライディングウィンドウおよび目標スライディングステップにより、各領域の画像情報密度を計算することを容易にする。
【0056】
なお、スライディングウィンドウおよびスライディングステップの大きさは、実際のシーンによって設定可能であり、その単位が画素であるが、本実施例においてその限りがない。
【0057】
上記をまとめると、変換関係に基づいて初期スライディングステップおよび初期スライディングウィンドウを調整することで、高周波画像に適用する目標スライディングウィンドウおよび目標スライディングステップを得ることができ、その後に高周波画像において画像情報密度を計算することを容易にし、計算をより全面かつ精度良く行うことを確保する。
【0058】
ステップS1084:前記目標スライディングステップに応じて、前記高周波画像において前記目標スライディングウィンドウを移動させ、移動結果に基づいて前記高周波画像における各高周波画像に対応する画像情報密度を計算する。
具体的には、前記高周波画像に適用する目標スライディングウィンドウおよび初期スライディングステップを決定した後、さらに、このときには、目標スライディングステップに応じて前記高周波画像において前記目標スライディングウィンドウを移動させ、毎回の移動結果で高周波画像における各高周波画像領域の画像情報密度を計算し、その後に処理対象画像にマッピングして処理対象画像における各画像領域の画像情報密度を得る。
【0059】
これを基にし、高周波画像における各高周波画像領域とは、具体的に、目標スライディングウィンドウが毎回移動した後に選ばれた枠領域を指す。各高周波画像領域の画像情報密度とは、選ばれた枠領域における情報被覆面積の割合を指し、割合が大きいほど画像情報密度が高くなることを表し、その逆に、割合が小さいほど画像情報密度が低くなることを表す。目標スライディングウィンドウは、毎回移動した後に1つの高周波画像領域に対応することになり、各高周波画像領域は、1つの画像情報密度に対応することになる。
【0060】
さらに、高周波画像における各高周波画像領域の画像情報密度を計算する場合、高周波次元において画像情報密度の計算を確保できるために、処理対象画像における画素ドットの画素情報密度を高周波次元にマッピングする必要があり、グレーチャートにおいて画像情報密度を計算することを実現し、計算精度を高めるほか、計算効率を確保することができる。本実施例では、いずれかの高周波画像領域の画像情報密度の計算過程は以下通りである。
前記処理対象画像の目標画像領域における各画素ドットに対応する画素情報密度を読み取る。前記目標画像領域における各画素ドットに対応する画素情報密度に基づいて、前記高周波画像の目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を計算する。前記目標高周波画像領域における各画素ドットに対応する高周波画素情報密度の平均値を計算し、計算結果に基づいて前記目標高周波画像領域に対応する画像情報密度を決定する。
【0061】
具体的には、目標画像領域とは、処理対象画像のうちの、画像情報密度の計算が必要となるいずれかの画像領域を指す。画素情報密度とは、具体的に、目標画像領域における各画素ドットに対応する情報密度を指す。これに対応して、目標高周波画像領域とは、高周波画像における、目標画像領域に対応する高周波画像領域を指す。高周波画素情報密度とは、具体的に、目標高周波画像領域における各画素ドットに対応する情報密度を指す。なお、各画素ドットに対応する画素情報密度は、この画素ドットの全部面積に対する前記画素ドットにおける情報占用面積の割合によって決定される。
【0062】
これを基にし、目標スライディングウィンドウが目標スライディングステップに応じて高周波画像において移動する場合、いずれかの高周波画像領域の画像情報密度は以下の形態で計算される。まず、処理対象画像の目標画像領域における各画素ドットの画素情報密度を読み取る。高周波画像における、目標スライディングウィンドウによって選ばれた枠領域が目標高周波画像領域であり、かつ、当該領域が処理対象画像領域にマッピングされた後に目標画像領域に対応するため、目標画像領域における各画素ドットに対応する画素情報密度を決定した後、このマッピング関係に基づいて目標高周波画像領域における各画素ドットに対応する高周波画素情報密度、すなわち、各画素ドットが高周波次元にマッピングされた後に対応する類似情報密度を算出してもよい。さらに、目標高周波画像領域に複数の画素ドットが含まれ、かつ、各画素ドットに対応する高周波画素情報密度が異なるので、計算精度を確保できるために、平均値を取ることを選択し、目標高周波画像領域に対応する画像情報密度を決定してもよく、すなわち、目標高周波画像領域における各画素ドットに対応する高周波画素情報密度の平均値を計算し、目標高周波画像領域に対応する画像情報密度を得て処理対象画像にマッピングすると、目標画像領域の画像情報密度を得ることができる。これ以降は同様にして処理対象画像における各画像領域の画像情報密度を得ることができる。具体的に実施する場合、目標画像領域における各画素ドットに対応する画素情報密度に基づいて、高周波画像の目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を計算する場合、以下の形態で実現してもよい。まず、処理対象画像におけるいずれかの画素ドットに対応する画素情報密度を決定し、その後、当該画素ドットに対応する画素情報密度と、処理対象画像における画素ドットに対応する画素情報密度max(すなわち、最も高い画素ドット情報密度)との比を計算し、その後、その比を255にかけ(高周波画像における各画素ドットの値が0~255の範囲内にあるため)、最後に、計算結果に基づいて、処理対象画像におけるいずれかの画素ドットに対応する、目標高周波画像領域における画素ドットの高周波画素情報密度を得ることができる。これ以降は同様にして各画素ドットは上記の形態で計算されると、目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を得ることができる。
【0063】
なお、高周波画像が高周波次元における、処理対象画像に対応する諧調画像であるため、高周波画像における各画素ドットの値が255に近づければ、この画素ドットが白色に近づけることを表し、さらに、この画素ドットの画像情報密度が高くなることを表す。その逆に、画素ドットの値が0に近づければ、この画素ドットが黒色に近づけることを表し、さらに、この画素ドットの画像情報密度が低くなることを表す。
【0064】
上記をまとめると、画素ドットを単位にして目標高周波画像領域の画像情報密度を計算することで、各高周波画像領域の画像情報密度の計算精度を高めるほか、計算効率を確保することができ、その後に処理対象画像における各画像領域の画像情報密度を迅速にマッピングすることを容易にする。
【0065】
ステップS1086:前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定する。
【0066】
具体的に、高周波画像における各高周波画像領域の画像情報密度の計算を完成した後、さらに、処理対象画像と高周波画像との変換関係があるため、高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、処理対象画像における各画像領域に対応する画像情報密度を決定し、処理対象画像への高周波マッピングを完成し、各画像領域の画像情報密度の計算を実現する。
【0067】
さらに、処理対象画像における各画像領域の画像情報密度を決定する場合は、処理対象画像と高周波画像とのマッピング関係を合わせて完成してもよい。本実施例では、具体的な実現形態は以下通りである。
【0068】
前記高周波画像における各高周波画像領域と、前記処理対象画像における各画像領域とのマッピング関係を構築する。前記マッピング関係および各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定する。
【0069】
具体的には、このマッピング関係に基づいて、高周波画像における各画素ドットと、処理対象画像における各画素ドットとのマッピング関係を決定してもよく、画素ドットの間のマッピング関係で画像領域と高周波画像領域とのマッピング関係の構築を容易にし、このマッピング関係に基づいて処理対象画像における各画像領域の画像情報密度を決定する。すなわち、高周波画像領域の画像情報密度は、マッピング関係を有する画像領域の画像情報密度とされる。
【0070】
これを基にし、高周波画像における各高周波画像領域の画像情報密度を算出した後、高周波画像における各高周波画像領域と処理対象画像における各画像領域とのマッピング関係を構築し、その後、このマッピング関係に基づいて、各高周波画像領域の画像情報密度をそれに対応する画像領域に付加し、これにより、処理対象画像における各画像領域の画像情報密度を得る。
【0071】
上記をまとめると、高周波次元において各高周波画像領域の画像情報密度の計算を完成した後、処理対象画像と高周波画像とのマッピング関係に基づいて、処理対象画像における各画像領域の画像情報密度を決定し、画像情報密度の精度を効果的に確保することができる。
【0072】
上記の例により、処理対象画像に対応する高周波画像を得た後、そのときには、予め設定された画像情報密度計算ポリシーを解析し、処理対象画像に対応する初期スライディングウィンドウ256×256画素の正方形枠、および32画素の初期スライディングステップを取得する。その後、処理対象画像と高周波画像との変換関係に基づいて、初期スライディングウィンドウおよび初期スライディングステップを調整し、128×128画素の目標スライディングウィンドウおよび16画素の目標スライディングステップを得る。
【0073】
さらに、16画素の目標スライディングステップに応じて、高周波画像において128×128画素の目標スライディングウィンドウを移動させるとともに、毎回スライド後、高周波画像における、目標スライディングウィンドウに対応する高周波画像領域の画像情報密度を得て、目標スライディングウィンドウを移動させた後、高周波画像における各高周波画像領域に対応する画像情報密度を得る。さらに、処理対象画像と高周波画像とのマッピング関係に基づければ、処理対象画像における各画像領域の画像情報密度を得ることができ、処理対象画像における第S1個の画像領域の画像情報密度が最も低く、0.0166であり、処理対象画像における第S2個の画像領域の画像情報密度が最も高く、0.1088であることと決定する。画像情報密度の計算が完了した後、
図7に示すものを生成し、密度が最も高い領域と最も低い領域である2つの領域は、画像情報密度を表す矩形枠で表される。
【0074】
また、業務シーンでは、表示内容が変わるたびに、画像情報密度を再計算する必要があり、画像情報密度が表示内容によって変わるため、最も高い/最も低い画像情報密度に対応する領域も変わる。変更ごとに視覚化リソースの配置箇所を調整する必要があれば、視覚化リソース位置が任意に変化し、ユーザの視聴体験に影響を極力与える。そこで、視覚化リソースの位置の任意変化を防止することができるために、指定された画像領域から画像情報密度が最も低いのを追加画像領域として選択し、その後、視覚化リソースの埋め込み処理を施す。本実施例では、具体的な実現形態は以下通りである。
【0075】
最も低い画像情報密度に対応する画像領域を追加画像領域として選択する。前記処理対象画像に照合する視覚化リソースを読み取るとともに、前記視覚化リソースを前記追加画像領域に追加する。
【0076】
具体的には、追加画像領域とは、処理対象画像のうちの、指定された1つ以上の画像領域における画像情報密度が最も低い画像領域を指す。これに対応して、視覚化リソースとは、追加画像領域に追加される必要な画像、ビデオ、動画などのリソースを指すが、本実施例においてその限りがない。
【0077】
具体的に実施する場合、処理対象画像が随時に変わるため、処理対象画像に変更があるたびに、目前の処理対象画像における各画像領域の画像情報密度を再計算する必要がある。画像情報密度が最も低い画像領域を追加画像領域として直接選択すると、視覚化リソースは処理対象画像の変更に伴って位置が変わるという問題があり、ユーザの視聴体験に多大に影響を与える。そのため、1つ以上の画像領域を画像領域候補として指定し、各画像領域の画像情報密度を計算した後、画像領域候補の画像情報密度を直接決定してもよく、その後、指定された1つ以上の画像領域における各画像領域の画像情報密度に基づいて、目前の処理対象画像から、画像情報密度が最も低い領域を追加画像領域として選択し、視覚化リソースの埋め込み処理操作を実現する。
【0078】
上記の例により、PPTの表示ページの左下および右下を画像領域候補として指定し、処理対象画像の各画像領域に対して画像情報密度を計算した後、
図8に示すように、左下に対応する画像領域候補の画像情報密度が0.0319であると決定し、右下に対応する画像領域候補の画像情報密度が0.0225であると決定し、さらに、右下に対応する画像領域候補の画像情報密度が最も低いと決定すると、この領域を追加画像領域として選択するとともに、この位置にPPTを解説する授業ユーザのアバターを視覚化リソースとして追加して目前のPPTのページに埋め込み、埋め込み結果に基づいて
図9(a)に示すものを生成し、遮蔽内容が最も少ない場合でもPPT内容の解説を完成することを実現する。
【0079】
上記をまとめると、画像情報密度を比較して追加画像領域を決定することで、視覚化リソースで覆われる情報内容が最も少ない位置を選択して埋め込みを行う。これにより、情報が遮蔽されてユーザの視聴体験に影響を与えるという問題を避け、ユーザの参加体験をさらに向上させることができる。
【0080】
さらに、処理対象画像に含まれる情報内容が多い場合、処理対象画像における画像情報密度が最も低い画像領域を選択して視覚化リソースの埋め込みを行っても、一定量の情報を覆うことになる。ユーザが全ての情報を容易に視聴できるため、視覚化リソースに透明化処理を施してもよい。本実施例では、具体的な実現形態は以下通りである。前記追加画像領域に対応する画像情報密度に基づいて透明化レベルを決定する。前記透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記追加画像領域に透明化処理後の視覚化リソースを追加する。
【0081】
具体的には、透明化レベルとは、視覚化リソースの透明度を表すレベルを指す。透明化レベルが高いほど視覚化リソースの透明度が高くなり、その逆に、透明化レベルが低いほど視覚化リソースの透明度が低くなる。さらに、透明化レベルは、画像情報密度に対応し、画像情報密度が高いほど画像領域の情報内容が多くなることを表し、それに対応する透明化レベルも高くなり、一方、画像情報密度が低いほど画像領域の情報内容が少なくなることを表し、それに対応する透明化レベルも低くなる。これを基にし、追加画像領域を決定した後、視覚化リソースによる処理対象画像における情報の遮蔽を防止することができるために、そのときには、画像情報密度と透明化レベルとの対応関係に基づいて、追加画像領域の画像情報密度に対応する透明化レベルを決定し、その後、このレベルに応じて視覚化リソースに透明化処理を施し、最後に、透明化処理後の視覚化リソースを追加画像領域に埋め込むだけでよい。
【0082】
上記の例により、PPTを解説する授業ユーザのアバターによるPPT内容の遮蔽を防止するために、そのときには、右下に対応する画像領域候補の画像情報密度に基づいて透明化レベルを決定し、その後、このレベルに応じて授業ユーザのアバターに透明化処理を施し、最後に、透明化処理後の授業ユーザのアバターを追加画像領域に追加すれば、
図9(b)に示すものを得て、PPTの内容の遮蔽を防止できる。
【0083】
上記をまとめると、透明化処理の形態で視覚化リソースを処理することで、処理対象画像における情報の遮蔽を防止できるほか、視覚化リソースを埋め込んでユーザの視聴体験をさらに向上させることができる。
【0084】
本明細書に係る画像処理方法では、処理対象画像を取得した後、その後に処理対象画像における各領域の画像情報密度の計算を精度良く完成できるために、処理対象画像を諧調画像に変換した後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。その後、高周波情報に基づいて処理対象画像に対応する高周波画像を構築し、高周波次元において処理対象画像における各画像領域に対応する画像情報密度を得る。これにより、各画像領域の画像情報密度計算の精度を効果的に確保し、その後に画像情報密度に基づく視覚化リソースの埋め込みを容易にし、処理対象画像における情報の遮蔽を防止する。
【0085】
上記の方法の実施例に対応して、本明細書は、画像処理装置の実施例をさらに提供する。
図10には、本明細書の一実施例に係る画像処理装置の構成を示す図である。
図10に示すように、当該装置は、処理対象画像を取得するよう配置される取得モジュール1002と、前記処理対象画像を諧調画像に変換するとともに、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るよう配置される変換モジュール1004と、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される構築モジュール1006と、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における各画像領域に対応する画像情報密度を決定するよう配置される処理モジュール1008と、を含む。
【0086】
一好ましい実施例では、前記高周波情報は、水平高周波情報、垂直高周波情報および対角高周波情報のうちの少なくとも1つを含む。
【0087】
一好ましい実施例では、前記構築モジュール1006は、さらに、前記水平高周波情報、前記垂直高周波情報および前記対角高周波情報に基づいて、前記処理対象画像における各画素ドットに対応する画素情報を計算し、前記画素情報に基づいて前記処理対象画像における各画素ドットの値を諧調区間にマッピングし、マッピング結果に基づいて前記高周波画像を構築するよう配置される。
【0088】
一好ましい実施例では、前記処理モジュール1008は、さらに、前記画像情報密度計算ポリシーを解析し、解析結果に基づいて目標スライディングウィンドウおよび目標スライディングステップを決定し、前記目標スライディングステップに応じて前記高周波画像において前記目標スライディングウィンドウを移動させ、移動結果に基づいて前記高周波画像における各高周波画像領域に対応する画像情報密度を計算し、前記高周波画像における各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定するよう配置される。
【0089】
一好ましい実施例では、前記処理モジュール1008は、さらに、解析結果に基づいて初期スライディングウィンドウおよび初期スライディングステップを決定するとともに、前記処理対象画像と前記高周波画像との変換関係を決定し、前記変換関係に基づいて、前記初期スライディングウィンドウおよび前記初期スライディングステップを調整し、前記目標スライディングウィンドウおよび目標スライディングステップを取得するよう配置される。
【0090】
一好ましい実施例では、前記処理モジュール1008は、さらに、前記処理対象画像の目標画像領域における各画素ドットに対応する画素情報密度を読み取り、前記目標画像領域における各画素ドットに対応する画素情報密度に基づいて、前記高周波画像の目標高周波画像領域における各画素ドットに対応する高周波画素情報密度を計算し、前記目標高周波画像領域における各画素ドットに対応する高周波画素情報密度の平均値を計算し、計算結果に基づいて前記目標高周波画像領域に対応する画像情報密度を決定するよう配置される。
【0091】
一好ましい実施例では、前記処理モジュール1008は、さらに、前記高周波画像における各高周波画像領域と、前記処理対象画像における各画像領域とのマッピング関係を構築し、前記マッピング関係、および各高周波画像領域に対応する画像情報密度に基づいて、前記処理対象画像における各画像領域に対応する画像情報密度を決定するよう配置される。
【0092】
一好ましい実施例では、前記画像表示装置は、添加モジュールをさらに含む。前記添加モジュールは、最も低い画像情報密度に対応する画像領域を追加画像領域として選択し、前記処理対象画像に照合する視覚化リソースを読み取るとともに、前記視覚化リソースを前記追加画像領域に追加するよう配置される。
【0093】
一好ましい実施例では、前記追加モジュールは、さらに、前記追加画像領域に対応する画像情報密度に基づいて透明化レベルを決定し、前記透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記追加画像領域に透明化処理後の視覚化リソースを追加するよう配置される。
【0094】
本明細書に係る画像処理装置は、処理対象画像を取得した後、その後に処理対象画像における各領域の画像情報密度の計算を精度良く完成できるために、処理対象画像を諧調画像に変換した後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。その後、高周波情報に基づいて処理対象画像に対応する高周波画像を構築し、高周波次元において処理対象画像における各画像領域に対応する画像情報密度を得る。これにより、各画像領域の画像情報密度計算の精度を効果的に確保し、その後に画像情報密度に基づく視覚化リソースの埋め込みを容易にし、処理対象画像における情報の遮蔽を防止する。
【0095】
上記は、本実施例の一画像処理装置の模式的方案である。なお、当該画像処理装置の技術案は、上記の画像処理方法の技術案と同一構想に属し、画像処理装置の技術案について詳細な内容を説明しないが、上記の画像処理方法の技術案の説明を参照してもよい。
【0096】
図11は、本明細書の一実施例に係る表示方法のフローチャートであり、具体的に、以下のステップを含む。
ステップS1102:処理対象画像を取得し、前記処理対象画像を諧調画像に変換する。
【0097】
ステップS1104:前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築する。
【0098】
ステップS1106:予め設定された画像情報密度計算ポリシーに伴って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定する。
【0099】
本実施例に係る表示方法における関連説明内容は、上述した画像表示方法における説明内容と類似し、同じまたは類似の説明内容については、いずれも上述した画像表示方法における相応の説明内容を参照してもよく、説明を容易にするために、本実施例においてその詳細を省略する。
【0100】
具体的には、初期画像領域とは、処理対象画像のうちの、1つ以上の画像領域を指し、初期画像領域の画像情報密度を計算することで、視覚化リソースの追加が必要な領域を迅速に決定可能であり、その後に処理対象画像における情報を遮蔽しないことを基にして視覚化リソースの埋め込みを容易にする。
【0101】
さらに、視覚化リソースの追加位置が業務シーンによって異なるため、視覚化リソースの位置が任意に変化するという問題を避けるために、業務シーンに応じて処理対象画像から初期画像領域を直接位置決めしてもよい。本実施例では、具体的な実現形態は以下通りである。
前記処理対象画像に対応する目標業務を決定する。前記目標業務に対応する画像領域位置決めポリシーをロードする。前記画像領域位置決めポリシーに従って前記処理対象領域において前記初期画像領域を決定する。
【0102】
例えば、PPTを解説する際、PPTを解説する授業ユーザのアバターでPPT内容を遮蔽することを防止するために、そのときには、PPTの左下および右下を目前のPPTページの初期画像領域として選択し、その後にこの位置に視覚化リソースを追加して表示することを容易にする。
【0103】
ステップS1108:前記画像情報密度に基づいて前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを追加して表示する。
【0104】
具体的に、処理対象画像における、指定される初期画像領域の画像情報密度を決定した後、さらに、視覚化リソースで覆われる情報の量を減らすことができるために、画像情報密度に基づいて初期画像領域から目標画像領域をスクリーニングしてもよく、その後、処理対象画像における目標画像領域に視覚化リソースを追加してユーザに表示すればよい。
【0105】
なお、各画像領域の画像情報密度は、画素ドットから算出される。そのため、視覚化リソースがランダムな領域の場合でも、外観がランダムな視覚化リソースを目標画像領域に追加することができ、処理対象画像における目標画像領域への視覚化リソースの埋め込みを実現し、効果がより優れる内容をユーザに表示する。また、ランダムな画像領域に対して画像情報密度を計算することができ、すなわち、処理対象画像における初期画像領域がランダムな場合、上記の画像情報密度計算方法により、各画像領域の画像情報密度の計算を完成してもよい。これにより、その後のランダムな視覚化リソースの追加を容易にする。
【0106】
さらに、視覚化リソースの追加を完成できるとともに、処理対象画像における情報の遮蔽を防止するために、以下の形態で目標画像領域を決定してもよい。各初期画像領域に対応する画像情報密度を比較する。比較結果に基づいて最も低い画像密度情報に対応する初期画像領域を前記目標画像領域として選択する。
【0107】
さらに、処理対象画像に含まれる情報内容が多い場合、処理対象画像における画像情報密度が最も低い画像領域を選択して視覚化リソースを埋め込んでも、一定量の情報を覆うことになる。ユーザが全ての情報を容易に視聴することができるために、視覚化リソースに透明化処理を施してもよい。本実施例では、具体的な実現形態は以下通りである。前記目標画像領域に対応する目標画像情報密度を決定する。画像情報密度と透明化レベルとの対応関係に基づいて、前記目標画像情報密度に対応する目標透明化レベルを決定する。前記目標透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記処理画像における前記目標画像領域に透明化処理後の視覚化リソースを追加して表示する。
【0108】
上記の例により、
図12に示すように、左下の初期画像領域の画像情報密度が0.0213、右下の初期画像領域の画像情報密度が0.0136であると、右下の初期画像領域を目標画像領域として選択し、その後、画像情報密度と透明化レベルとの対応関係に基づいて、目標画像領域の画像情報密度0.0136に対応する透明化レベルがXと決定する。そのときには、透明化レベルXに応じて、視覚化リソースに透明化処理を施す。その後、透明化処理後の視覚化リソースを目標画像領域に追加して、
図13に示されるものを生成する。
【0109】
上記をまとめると、処理対象画像を取得した後、その後に処理対象画像における各領域の画像情報密度の計算を精度良く完成できるために、処理対象画像を諧調画像に変換した後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。その後、高周波情報に基づいて処理対象画像に対応する高周波画像を構築し、高周波次元において処理対象画像における各初期画像領域に対応する画像情報密度を得る。これにより、各初期画像領域の画像情報密度計算の精度を効果的に確保し、最後に、画像情報密度に基づいて目標画像領域をスクリーニングして視覚化リソースを追加して表示すると、処理対象画像リソースにおける情報の遮蔽を防止することができ、ユーザの視聴体験を向上させる。
上記の方法の実施例に対応して、本明細書は、表示装置の実施例をさらに提供する。
図14には、本明細書の一実施例に係る表示装置の構成を示す図である。
図14に示すように、当該装置は、処理対象画像を取得し、前記処理対象画像を諧調画像に変換するよう配置される画像取得モジュール1402と、前記諧調画像をウェーブレット変換して前記処理対象画像の高周波情報を得るとともに、前記高周波情報に基づいて前記処理対象画像に対応する高周波画像を構築するよう配置される画像構築モジュール1404と、予め設定された画像情報密度計算ポリシーに従って前記高周波画像を処理し、処理結果に基づいて前記処理対象画像における初期画像領域に対応する画像情報密度を決定するよう配置される画像処理モジュール1406と、前記画像情報密度に基づいて、前記初期画像領域から目標画像領域をスクリーニングするとともに、前記処理対象画像における前記目標画像領域に視覚化リソースを追加して表示するよう配置される領域スクリーニングモジュール1408と、を含む。
【0110】
一好ましい実施例では、前記初期画像領域は、以下の形態で決定される。前記処理対象画像に対応する目標業務を決定する。前記目標業務に対応する画像領域位置決めポリシーをロードする。前記画像領域位置決めポリシーに従って前記処理対象領域において前記初期画像領域を決定する。
【0111】
一好ましい実施例では、前記領域スクリーニングモジュール1408は、さらに、各初期画像領域に対応する画像情報密度を比較し、比較結果に基づいて最も低い画像密度情報に対応する初期画像領域を前記目標画像領域として選択するよう配置される。
【0112】
一好ましい実施例では、前記領域スクリーニングモジュール1408は、さらに、前記目標画像領域に対応する目標画像情報密度を決定し、画像情報密度と透明化レベルとの対応関係に基づいて、前記目標画像情報密度に対応する目標透明化レベルを決定し、前記目標透明化レベルに応じて前記視覚化リソースに透明化処理を施すとともに、前記処理画像における前記目標画像領域に透明化処理後の視覚化リソースを追加して表示するよう配置される。
【0113】
上記をまとめると、処理対象画像を取得した後、その後に処理対象画像における各領域の画像情報密度の計算を精度良く完成できるために、処理対象画像を諧調画像に変換した後、諧調画像をウェーブレット変換して処理対象画像の高周波情報を得る。その後、高周波情報に基づいて処理対象画像に対応する高周波画像を構築し、高周波次元において処理対象画像における各初期画像領域に対応する画像情報密度を得る。これにより、各初期画像領域の画像情報密度計算の精度を効果的に確保し、最後に、画像情報密度に基づいて目標画像領域をスクリーニングして視覚化リソースを追加して表示すると、処理対象画像リソースにおける情報の遮蔽を防止することができ、ユーザの視聴体験を向上させる。上記は、本実施例の一表示装置の模式的方案である。なお、当該表示装置の技術案は、上記の表示方法の技術案と同一構想に属し、表示装置の技術案について詳細な内容を説明しないが、上記の表示方法の技術案の説明を参照してもよい。
【0114】
図15は、本明細書の一実施例に係る計算装置1500の構成を示すブロック図である。当該計算装置1500の部品は、メモリ1510およびプロセッサ1520を含むが、これらに限定されない。プロセッサ1520およびメモリ1510は、バス1530によって接続され、データベース1550は、データの格納に用いられる。
【0115】
計算装置1500は、計算装置1500を1つまたは複数のネットワーク1560を介して通信させることが可能なアクセスデバイス1540を含む。これらのネットワークの例としては、公衆交換電話網(PSTN)、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、パーソナルエリアネットワーク(PAN)、またはインターネットのような通信ネットワークの組み合わせが挙げられる。アクセスデバイス1540は、IEEE802.11ワイヤレスローカルエリアネットワーク(WLAN)ワイヤレスインターフェース、グローバルマイクロ波相互接続アクセス(Wi-MAX)インターフェース、イーサネットインターフェース、ユニバーサルシリアルバス(USB)インターフェース、セルラーネットワークインターフェース、Bluetoothインターフェース、ニアフィールドコミュニケーション(NFC)インターフェースなどの、有線またはワイヤレスの任意のタイプのネットワークインターフェース(例えば、ネットワークインターフェースカード(NIC))のうちの1つまたは複数を含んでもよい。
【0116】
本明細書の一実施例では、計算装置1500の上記部材および
図15に示されていないほかの部材もまた、例えばバスを介して互いに接続されてもよい。
図15に示される計算装置の構成ブロック図は例示的なものに過ぎず、本明細書の範囲を制限するものではないことは理解されるべきであろう。当業者は必要に応じて他の部材を増設または交換してもよい。
【0117】
計算装置1500は、任意のタイプの固定またはモバイル計算装置であってもよく、例えば、モバイルコンピューターまたはモバイル計算装置(例えば、タブレットコンピュータ、パーソナルデジタルアシスタント、ラップトップコンピュータ、ノートブックコンピュータ、ネットブックなど)、携帯電話(例えば、スマートフォン)、ウェアラブル計算装置(例えば、スマートウォッチ、スマートグラスなど)または他のタイプのモバイルデバイス、あるいは、デスクトップコンピュータやPCなどの固定計算装置であり得る。計算装置1500は、モバイルまたは固定サーバであってもよい。
【0118】
なお、プロセッサ1520は、画像処理方法または表示方法のコンピュータ実行可能なコマンドを実行する。
【0119】
以上は、本実施例の1つの計算装置の模式的方案である。なお、前記計算装置の技術案は、上記の画像処理方法または表示方法の技術案と同一構想に属し、計算装置の技術案について詳細な内容を説明しないが、上記の画像処理方法または表示方法の技術案の説明を参照してもよい。
【0120】
本明細書の一実施例は、さらにコンピュータコマンドが記憶されているコンピュータ読み取り可能な記憶媒体をさらに提供する。当該コマンドは、プロセッサによって実行されると、画像処理方法または表示方法を実現する。
【0121】
以上は、本実施例の1つのコンピュータ読み取り可能な記憶媒体の模式的方案である。なお、当該記憶媒体の技術案は、上記の画像処理方法または表示方法の技術案と同一構想に属し、記憶媒体の技術案について詳細な内容を説明しないが、上記の画像処理方法または表示方法の技術案の説明を参照してもよい。
【0122】
以上、本明細書の特定の実施例について説明している。その他の実施例は、添付する特許請求の範囲内にある。幾つかの場合、特許請求の範囲に記載の動作またはステップは、実施例とは異なる順序で実行可能であり、かつ、依然として所望の結果を実現することができる。なお、図中で説明している過程では、示された特定の順序または連続する順序でしか所望の結果が実現できないように要求されていない。幾つかの実施形態において、マルチ業務処理および並行処理も可能であり、あるいは有利である可能性がある。
【0123】
前記コンピュータコマンドはコンピュータープログラムコードを含み、前記コンピュータープログラムコードはソースコードの形式、オブジェクトコードの形式、実行可能ファイルまたは幾つかの中間形式などであってもよい。前記コンピュータ読み取り可能な媒体は、前記コンピュータープログラムコードを携帯可能ないかなる実体または装置、記録媒体、USBメモリ、ポータブルハードディスク、磁気ディスク、光ディスク、コンピューターメモリ、読み取り専用メモリ(ROM,Read-Only Memory)、ランダムアクセスメモリ(RAM,Random Access Memory)、電気キャリア信号、電信信号およびソフトウェア分配媒体等を含んでもよい。なお、前記コンピュータ読み取り可能な媒体に含まれる内容は、司法管轄区内の立法および特許実務の要求に応じて適宜増減することができ、例えば、幾つかの司法管轄区内において、立法および特許実務に応じて、コンピュータ読み取り可能な媒体が電気キャリア信号および電信信号を含まない。
【0124】
なお、前述した各方法実施例について、説明を簡単にするために、一連の動作組合せとして説明しているが、当業者であれば知られているように、本出願は、説明した動作順序により制限されず、なぜなら、本出願に基づいて、幾つかのステップがその他の順序または同時に行われてもよいからである。次に、当業者であれば知られているように、明細書で説明した実施例がいずれも好適な実施例であり、係わる動作およびモジュールが必ずしも本出願で必須されるものであるとは限らない。
【0125】
上記実施例において、各実施例に対して各々重点を置いて説明しているが、ある実施例において詳しく説明しなかった部分は、その他の実施例の関連説明を参照することができる。
【0126】
以上開示されている本出願の好適な実施例は、本出願を明らかに説明するためのものである。選択可能な実施例は、全ての詳細を詳しく説明しておらず、本明細書は上記の具体的な実施形態のみにより制限されるものでもない。明らかに、本明細書の内容に基づいて、多くの変更および変化を行うことができる。本明細書は、これらの実施例を選択して具体的に説明するのは、本出願の原理および実際の応用をよりよく解釈するためであり、これにより、当業者は本出願をより良く理解および利用することができる。本出願は、特許請求の範囲およびその全ての範囲並びに等価物のみにより制限される。
【国際調査報告】