【文献】
Michihiro Mikamo, 外5名,"Maximizing Image Utilization in Photomosaics",2010 First International Conference on Networking and Computing,2010年11月17日,p.275-278
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0038】
本発明は、様々な変換を加えることができ、種々の実施形態を有することができるところ、特定の実施形態を図面に例示し、詳細な説明に詳しく説明する。本発明の効果及び特徴、そして、それらを達成する方法は、図面とともに詳しく後述されている実施形態を参照すれば明確になるであろう。しかし、本発明は、以下において開示される実施形態等に限定されるものではなく、様々な形態で実現されることができる。以下の実施形態において、第1、第2などの用語は、限定的な意味ではなく、1つの構成要素を他の構成要素と区別する目的として使用する。また、単数の表現は、文脈上、明白に異なるように意味しない限り、複数の表現を含む。また、「含む」または「有する」などの用語は、明細書上に記載された特徴または構成要素が存在することを意味するものであり、1つ以上の他の特徴または構成要素が付加される可能性を予め排除するものではない。また、図面では、説明の都合上、構成要素等が、そのサイズが誇張または縮小され得る。例えば、図面に示された各構成のサイズ及び厚さは、説明の都合上、任意に示したので、本発明が必ずしも図示されたところに限定されない。
【0039】
以下、添付された図面を参照して本発明の実施形態を詳しく説明し、図面を参照して説明するとき、同一であるか、対応する構成要素は同様の図面符号を付し、これについての重複する説明を省略する。
【0040】
(端末)
まず、本発明の実施形態において端末100は、モザイクイメージ(Mosaic Image)生成の基盤になるイメージを取得して格納することができ、取得されたイメージを外部のサーバ(例えば、モザイクサービス提供サーバ及び/又はソーシャルネットワークサービスSNSサーバなど)に送信することができる。
【0041】
また、端末100は、モザイクサービス提供サーバからイメージに基づいて生成されたモザイクイメージを受信して出力することができる。他の実施形態において、端末100は、直接データ処理を実行して、イメージを基にモザイクイメージを生成した後、生成したモザイクイメージを出力することができる。
【0042】
さらに、端末100は、モザイクイメージを生成するプロセス(Process)でユーザがモザイクイメージに使用されることを望むイメージを選択できるインターフェースを提供できる。
【0043】
具体的に、端末100は、モザイクイメージを生成するためのターゲットイメージ(Target Image)及びピクセルイメージ(Pixel Image)のうち、少なくともいずれか1つを選択するユーザ入力を取得できる。
【0044】
ここで、モザイクイメージとは、ターゲットイメージに基づいて複数のピクセルイメージをモザイク方式で組み合わせて生成したイメージを意味する。
【0045】
また、ターゲットイメージとは、複数のイメージを組み合わせてモザイクイメージとして表現しようとするイメージ、すなわち、目標イメージを意味する。
【0046】
また、ピクセルイメージとは、モザイクイメージの各単位セルに挿入されるイメージ、すなわち、ソースイメージを意味する。
【0047】
このとき、単位セル(Cell)とは、イメージを予め設定された単位(例えば、100×100ブロックなど)に分けて生成されたセルを意味する。
【0048】
一方、本発明の実施形態においてこのような端末100は、イメージのタグに基づいてモザイクイメージを生成するサービスを行うためのプログラムが設けられた携帯用端末であるスマートフォン、デジタル放送用端末機、携帯電話、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、タブレットPC(tablet PC)、ウェアラブルデバイス(wearable device)、及びスマートグラス(smart glass)などを含むことができる。
【0049】
また、端末100は、固定型端末であるデスクトップPC、ノートブックコンピュータ(laptop computer)、ウルトラブック(ultrabook)のようなパーソナルコンピュータなどのように、有/無線通信に基づき、イメージのタグに基づいてモザイクイメージを生成するサービスを提供するためのプログラムが設けられた装置をさらに備えることができる。
【0050】
以下、実施形態において端末100は、携帯型端末に限定して説明する。
【0051】
図1は、本発明の実施形態に係る端末100の内部ブロック図である。
【0052】
図1に示すように、端末100は、通信部110、カメラ120、入力部130、ディスプレイ部140、タッチスクリーン135(touch screen)、格納部150、及び制御部160を備えることができる。
【0053】
まず、通信部110は、イメージのタグに基づいてモザイクイメージを生成するサービスを提供するための各種データ及び/又は情報などを送受信できる。
【0054】
実施形態において通信部110は、他のユーザの端末100及び/又はモザイクサービス提供サーバと通信し、イメージのタグに基づいてモザイクイメージを生成するサービスと関連したデータを送受信できる。
【0055】
また、通信部110は、取得されたイメージを外部プリンタに送信してオフライン出力物として印刷するように補助することができる。
【0056】
このような通信部110は、移動通信のための技術標準または通信方式(例えば、GSM(登録商標)(Global System for Mobile communication)、CDMA(Code Division Multi Access)、HSDPA(High Speed Downlink Packet Access)、HSUPA(High Speed Uplink Packet Access)、LTE(Long Term Evolution)、LTE−A(Long Term Evolution−Advanced)等)によって構築された移動通信網上で基地局、外部の端末100、任意のサーバのうち、少なくとも1つと無線信号を送受信できる。
【0057】
次に、カメラ120は、ユーザの入力によって撮影を行ってイメージを取得できる。イメージを取得した端末100は、取得されたイメージを、ディスプレイ部140を介して出力することができ、格納部150に記録することができる。
【0058】
また、カメラ120は、端末100の前面又は/及び後面に配置されて、配置された方向側を撮影して映像を取得でき、端末100の外部に配置されて、配置された方向側のイメージを撮影することもできる。
【0059】
端末100の外部にカメラ120が配置された場合、カメラ120は、通信部110を介して制御部160に撮影したイメージを送信することができる。
【0060】
そして、このようなカメラ120は、イメージセンサと映像処理モジュールとを備えることができる。
【0061】
具体的に、カメラ120は、イメージセンサ(例えば、CMOSまたはCCD)により得られる静止画(すなわち、イメージ)または動画を処理できる。
【0062】
また、カメラ120は、映像処理モジュールを用いてイメージセンサを介して取得された静止画または動画を加工して必要な情報を抽出し、抽出された情報を制御部160に伝達することもできる。
【0063】
次に、入力部130は、イメージのタグに基づいてモザイクイメージを生成するサービスと関連したユーザの入力を検知できる。
【0064】
実施形態として、入力部130は、ターゲットイメージを選択するインターフェースを介してのユーザの入力及び/又はピクセルイメージを選択するインターフェースを介してのユーザの入力などを検知できる。
【0065】
次に、ディスプレイ部140は、イメージのタグに基づいてモザイクイメージを生成するサービスと関連した様々な情報をグラフィックイメージとして出力することができる。
【0066】
このようなディスプレイ部140は、液晶ディスプレイ(liquid crystal display、LCD)、薄膜トランジスタ液晶ディスプレイ(thin film transistor−liquid crystal display、TFT LCD)、有機発光ダイオード(organic light−emitting diode、OLED)、フレキシブルディスプレイ(flexible display)、3次元ディスプレイ(3D display)、電子インキディスプレイ(e−ink display)のうち、少なくとも1つを含むことができる。
【0067】
また、入力部130及びディスプレイ部140が結合されてタッチスクリーン135として実現される。
【0068】
次に、格納部150は、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成するサービスを提供する各種応用プログラム、データ、及び命令語のうち、いずれか1つ以上を格納することができる。
【0069】
このような格納部150は、ROM、RAM、EPROM、フラッシュドライブ、ハードドライブなどのような様々な格納機器であってもよいし、インターネット(internet)上で格納部150の格納機能を果たすウェブストレージ(web storage)であってもよい。
【0070】
最後に、制御部160は、イメージのタグに基づいてモザイクイメージを生成するサービスを提供するために、前述した各構成要素の全般的な動作をコントロールできる。
【0071】
このような制御部160は、ASICs(application specific integrated circuits)、DSPs(digital signal processors)、DSPDs(digital signal processing devices)、PLDs(programmable logic devices)、FPGAs(field programmable gate arrays)、制御機(controllers)、マイクロコントローラ(micro−controllers)、マイクロプロセス(microprocessors)、その他の機能実行のための電気的ユニットのうち、少なくとも1つを利用して実現されることができる。
【0072】
ただし、
図1に示された構成要素等は、端末100を実現するにあたって必須的なものではなく、本明細書上で説明される端末100は、上記で挙げられた構成要素等より多いか、または少ない構成要素を有することができる。
【0073】
(モザイクサービス提供サーバ)
一方、本発明の実施形態においてモザイクサービス提供サーバ200は、端末100及び/又は外部サーバ(例えば、ソーシャルネットワークサービスSNSサーバ等)からイメージを受信でき、受信されたイメージに基づいてモザイクイメージを生成できる。
【0074】
以下、実施形態では、モザイクサービス提供サーバ200がイメージを基にモザイクイメージを生成することを説明するが、他の実施形態によって端末100で直接モザイクイメージを生成するデータ処理を実行してもよい。
【0075】
具体的に、モザイクサービス提供サーバ200は、受信されたイメージに基づいてディープラーニング(Deep Learning)を行ってモザイクイメージを生成できる。
【0076】
また、モザイクサービス提供サーバ200は、生成されたモザイクイメージを端末100に送信してユーザに提供することができる。
【0077】
図2は、本発明の実施形態に係るモザイクサービス提供サーバ200の内部ブロック図である。
【0078】
より具体的に、
図2に示すように、本発明の一実施形態においてモザイクサービス提供サーバ200は、イメージ分類部210、ターゲットイメージ推薦部220、ピクセルイメージフィルタリング部230、及びモザイクイメージ生成部240を備えることができる。
【0079】
まず、イメージ分類部210は、ディープラーニングニューラルネットワークを介して端末100及び/又は外部サーバから取得されたイメージに対するタグを決定でき、決定されたタグに基づいてイメージを分類できる。
【0080】
また、イメージ分類部210は、複数のタグを含むカテゴリーを生成し、タグを有するイメージを当該カテゴリーにて分類して管理することができる。
【0081】
次に、ターゲットイメージ推薦部220は、状況に応じて適切なターゲットイメージを検出して提供することができる。
【0082】
実施形態において、ターゲットイメージ推薦部220は、カテゴリー別の推薦ターゲットイメージを検出して提供することができ、選定されたピクセルイメージに適したターゲットイメージを選別して提供することもできる。
【0083】
次に、ピクセルイメージフィルタリング部230は、タグ、カテゴリー、及び/又はディープラーニングニューラルネットワークを利用してユーザのイメージからモザイクイメージを生成するために使用するピクセルイメージをフィルタリングして提供することができる。
【0084】
このとき、ユーザのイメージとは、端末100及び/又は外部サーバからユーザ入力により取得されたイメージであって、例えば、ユーザの端末100内イメージ、クラウドサーバから取得されたイメージ、及びソーシャルネットワークサービスSNSサーバから取得されたイメージのうち、少なくともいずれか1つ以上であってもよい。
【0085】
実施形態において、ピクセルイメージフィルタリング部230は、選定されたターゲットイメージのモザイク化に適したタグ及び/又はカテゴリーに含まれたイメージをフィルタリングして提供することができ、ユーザがイメージ検索インターフェースを介して入力したタグ及び/又はカテゴリーに含まれたイメージをフィルタリングして提供することもできる。
【0086】
最後に、モザイクイメージ生成部240は、ターゲットイメージとピクセルイメージとに基づいてモザイクイメージを生成できる。
【0087】
一方、モザイクサービス提供サーバ200の各構成ユニット(すなわち、イメージ分類部210、ターゲットイメージ推薦部220、ピクセルイメージフィルタリング部230、及び/又はモザイクイメージ生成部240)は、実施形態によってモザイクサービス提供サーバ200に直接設けられるか、モザイクサービス提供サーバ200とは別の装置である外部のサーバに設けられてもよい。
【0088】
すなわち、イメージ分類部210、ターゲットイメージ推薦部220、ピクセルイメージフィルタリング部230、及び/又はモザイクイメージ生成部240は、各々別のサーバであってもよい。
【0089】
このとき、モザイクサービス提供サーバ200の各構成ユニットは、データ送受信部、データ処理部、及びデータベースを備えることができる。
【0090】
ここで、データ送受信部は、端末100及び/又は外部サーバとイメージのタグに基づいてモザイクイメージを生成するサービスを提供するための各種データを、ネットワークを介してやり取りすることができる。
【0091】
また、データ処理部は、イメージのタグに基づいてモザイクイメージを生成するサービスを提供するための一連のデータ処理を行うことができる。
【0092】
このとき、実施形態においてデータ処理部は、イメージディープラーニングニューラルネットワーク(Image Deep Learning Neural Network)と連動して受信されたイメージに基づいたディープラーニングを行うことができる。
【0093】
ここで、実施形態によってイメージディープラーニングニューラルネットワークは、モザイクサービス提供サーバ200及び/又は各構成ユニットに直接設けられるか、モザイクサービス提供サーバ200及び/又は各構成ユニットとは別の装置としてイメージを受信してディープラーニングを行うことができる。
【0094】
以下、本発明の実施形態では、イメージディープラーニングニューラルネットワークが、各構成ユニットに直接設けられてディープラーニングを行う実施形態を基準に説明する。
【0095】
具体的に、データ処理部は、ディープラーニングニューラルネットワーク駆動プログラムをデータベースから読み出すことができ、読み出された駆動プログラムに構築されたディープラーニングニューラルネットワークシステムによってディープラーニングを行うことができる。このようなデータ処理部は、ASICs(application specific integrated circuits)、DSPs(digital signal processors)、DSPDs(digital signal processing devices)、PLDs(programmable logic devices)、FPGAs(field programmable gate arrays)、制御器(controllers)、マイクロコントローラ(micro−controllers)、マイクロプロセス(microprocessors)、その他の機能実行のための電気的ユニットのうち、少なくとも1つを利用して実現されることができる。
【0096】
一方、データベースは、イメージのタグに基づいてモザイクイメージを生成するサービスと関連した各種データを格納することができる。
【0097】
実施形態として、データベースは、ディープラーニングニューラルネットワーク駆動プログラムを格納することができ、データ処理部からの要求によって提供することができる。
【0098】
このようなデータベースは、ROM、RAM、EPROM、フラッシュドライブ、ハードドライブなどのような様々な格納機器であってもよいし、インターネット(internet)上でデータベースの格納機能を果たすウェブストレージ(web storage)であってもよい。
【0099】
(イメージのタグに基づいてモザイクイメージを生成する方法)
以下、添付された図面を参照してイメージのタグに基づいてモザイクイメージを生成する方法について詳細に説明する。
【0100】
図3は、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法を説明するためのフローチャートである。本発明の一実施形態に係るプログラムは、イメージのタグに基づいてモザイクイメージを提供する方法を、モザイクサービス提供サーバのプロセッサに実行させる。
【0101】
図3に示すように、実施形態に係るモザイクサービス提供サーバ200(以下、モザイクサーバ200ともいう)は、イメージのタグに基づいてモザイクイメージを生成し、提供するために、ターゲットイメージを先に選定し、その後、選定されたターゲットイメージのモザイク化に用いるピクセルイメージを選定してモザイクイメージを生成できる。
【0102】
具体的に、モザイクサーバ200は、まず、ユーザのイメージに対してタグを決定し、分類することができる(S101)。
【0103】
ここで、ユーザのイメージは、端末100及び/又は外部サーバからユーザ入力により取得されたイメージであって、例えば、ユーザの端末100内イメージ、クラウドサーバから取得されたイメージ、及びソーシャルネットワークサービスSNSサーバから取得されたイメージのうち、少なくともいずれか1つ以上であってもよい。
【0104】
また、本発明の実施形態においてタグとは、イメージにタグ付け(Tagging)された当該イメージを分類するための代表単語を意味する。例えば、「山」オブジェクトを含むイメージは、「山」領域に分類されることができ、「山」タグがマッチングされ得る。
【0105】
このようなタグは、ユーザがイメージを検索するときに用いることができ、ユーザがタグを介してイメージを検索した場合、当該タグがタグ付けされた全てのイメージを群集化して見ることができるハッシュタグ(Hashtag)機能を提供できる。
【0106】
さらに戻ってきて、具体的に、モザイクサーバ200は、イメージ分類部210を介してのディープラーニングに基づいてユーザのイメージの各々にマッチングするタグを決定でき、決定されたタグに基づいてイメージを分類できる。
【0107】
このように、モザイクサーバ200は、ディープラーニングを利用してイメージにタグをマッチングすることにより、別の手作業なしに多くのイメージのタグを決定し、タグによってイメージを分類することができる。
【0108】
また、モザイクサーバ200は、イメージのタグを決定する過程でユーザのフィードバックを受けてもよい。
【0109】
具体的に、
図4に示すように、モザイクサーバ200は、端末100と連動してディープラーニングを介して決定されたイメージのタグを当該イメージとともにユーザに提供することができる。
【0110】
そして、モザイクサーバ200は、イメージと、当該イメージに対して決定されたタグとが正しくマッチングされたかを表すタグ一致可否を、ユーザ入力を介して取得することができる。
【0111】
このとき、モザイクサーバ200は、イメージとタグとが一致した場合、当該タグをイメージのタグとして最終決定することができ、イメージとタグとが一致していない場合、当該情報をディープラーニングニューラルネットワークに反映し、その後、ディープラーニングを再実行してイメージのタグを再決定できる。
【0112】
また、モザイクサーバ200は、端末100と連動してイメージにマッチングされるタグを、ユーザから受信して追加タグとして生成することもできる。
【0113】
このように、モザイクサーバ200は、イメージのタグを決定するときにユーザのフィードバックを収容することにより、人工知能的判断だけでなく、ユーザの認知的判断まで考慮してイメージのタグを決定できる。
【0114】
次に、イメージのタグを決定して分類したモザイクサーバ200は、決定されたタグに基づいてカテゴリー別にイメージを分類できる(S103)。
【0115】
具体的に、モザイクサーバ200は、イメージ分類部210を介して複数のタグを含むカテゴリーを生成でき、当該カテゴリーに含まれたタグを有するイメージを当該カテゴリーにて分類して管理することができる。
【0116】
具体的に、イメージ分類部210は、同じ概念のタグを含む上位概念をカテゴリーに設定し、タグと、タグにマッチングされたイメージを設定されたカテゴリーに分類することができる。
【0117】
例えば、モザイクサーバ200は、「江」、「山」、及び/又は「海」などのタグとマッチングされたイメージを風景カテゴリー及び/又は旅行カテゴリーなどに分類することができる。他の例示として、モザイクサーバ200は、「犬」及び/又は「猫」などのタグとマッチングされたイメージを伴侶動物カテゴリーなどに分類することができる。
【0118】
このように、モザイクサーバ200は、複数のタグを含むことができるカテゴリーを生成してイメージを分類することで、イメージをより体系的に管理することができ、ユーザのイメージ検索/選択過程に活用することができる。
【0119】
次に、イメージを分類したモザイクサーバ200は、ターゲットイメージを決定できる(S105)。
【0120】
ここで、ターゲットイメージは、複数のイメージを組み合わせてモザイクイメージとして表現しようとするイメージ、すなわち、目標イメージを意味する。
【0121】
このとき、ターゲットイメージは、ユーザのイメージになることができ、モザイクサーバ200で提供するイメージ(例えば、名画イメージ)になることもできる。
【0122】
具体的に、モザイクサーバ200は、ターゲットイメージを選定するために、端末100と連動してターゲットイメージを選択するユーザの入力を受信できる。
【0123】
そして、モザイクサーバ200は、受信されたユーザの入力に基づいてモザイクイメージとして表現するターゲットイメージを選定できる。
【0124】
他の実施形態において、モザイクサーバ200は、ターゲットイメージ推薦部220がカテゴリー別にモザイクイメージとして生成するのに適したイメージを推薦した後、推薦されたイメージを自動にまたはユーザの選択によってターゲットイメージとして決定することができる。
【0125】
すなわち、ターゲットイメージ推薦部220は、カテゴリー内イメージとしてモザイクイメージを生成しようとするとき、最も適した少なくとも1つ以上のイメージを検出し、検出されたイメージをユーザに推薦したり、ターゲットイメージとして決定したりすることができる。
【0126】
具体的には、
図5に示すように、モザイクサーバ200は、まず、第1のカテゴリー内の各イメージの代表ファクタ(Factor)を決定できる。
【0127】
ここで、イメージのファクタとは、色感及び/又は質感を表す要因である。例えば、ファクタは、イメージをなすピクセルの色感を表すR、G、B値であってもよい。
【0128】
そして、イメージの代表ファクタは、ピクセルからなる全体イメージが表す色感又は/及び質感要因を含むことができる。例えば、代表ファクタは、ピクセルの色感又は/及び質感の平均値であってもよい。
【0129】
モザイクサーバ200は、ディープラーニングニューラルネットワークを介して第1のカテゴリー内の各イメージ別に色感及び/又は質感要因を算出して第1のカテゴリー内の各イメージの代表ファクタを決定できる。
【0130】
続いて、第1のカテゴリー内の各イメージの代表ファクタを決定したモザイクサーバ200は、第1のカテゴリー内イメージの代表ファクタ分布データを生成できる。
【0131】
ここで、代表ファクタ分布データとは、複数のイメージの代表ファクタがいかなる分布を有するか表すデータを意味する。
【0132】
例えば、代表ファクタ分布データは、複数の代表ファクタの分布形態をヒストグラム形式で表示したグラフデータであってもよい。
【0133】
その後、第1のカテゴリー内イメージの代表ファクタ分布データを生成したモザイクサーバ200は、第1のカテゴリー内の各イメージを単位セルに分割することができる。
【0134】
すなわち、モザイクサーバ200は、第1のカテゴリー内の各イメージを予め設定された単位(例えば、100×100ブロックなど)に分割して単位セルの集合で構成することができる。
【0135】
次に、モザイクサーバ200は、ディープラーニングニューラルネットワークを介して第1のカテゴリー内の各イメージの各単位セルの代表ファクタを決定できる。
【0136】
そして、モザイクサーバ200は、第1のカテゴリー内の各イメージ別に取得される単位セルの代表ファクタ分布データを生成できる。
【0137】
続いて、モザイクサーバ200は、生成された第1のカテゴリーの代表ファクタ分布データと単一イメージの単位セルの代表ファクタ分布データとを比較して、マッチング率を算出できる。
【0138】
すなわち、モザイクサーバ200は、第1のカテゴリーの代表ファクタ分布データとマッチング率が高い代表ファクタ分布データを有するイメージを選別して、第1のカテゴリー内イメージとして生成するのに適した第1のカテゴリー内イメージを検出できる。
【0139】
その後、モザイクサーバ200は、比較の結果として第1のカテゴリー内イメージの代表ファクタ分布データと第1のカテゴリー内の各イメージ別に取得された単位セルの代表ファクタ分布データとのマッチング率が、予め設定された基準(例えば、所定の百分率等)以上に高い第1のカテゴリー内イメージを検出できる。
【0140】
そして、モザイクサーバ200は、検出された少なくとも1つ以上の第1のカテゴリー内イメージを第1のカテゴリーの推薦ターゲットイメージとして決定することができる。
【0141】
また、モザイクサーバ200は、前述と同様の方式にて複数のカテゴリーに対して推薦ターゲットイメージを決定できる。すなわち、モザイクサーバ200は、カテゴリー別の推薦ターゲットイメージを決定できる。
【0142】
カテゴリー別の推薦ターゲットイメージを決定したモザイクサーバ200は、決定されたカテゴリー別の推薦ターゲットイメージを、端末100を介してユーザに提供することができる。
【0143】
また、モザイクサーバ200は、カテゴリー別の推薦ターゲットイメージをユーザに提供した後、端末100を介して取得されるユーザのターゲットイメージ選択入力によってターゲットイメージを選定できる。
【0144】
このように、モザイクサーバ200は、カテゴリー別にモザイクイメージを生成するのに適したターゲットイメージを自動に検出して推薦することにより、カテゴリー別に含んでいるイメージに基づいて完成度の高いモザイクイメージを生成できるターゲットイメージを提供でき、ユーザが選択するように導くことができるという効果がある。次に、ターゲットイメージを選定したモザイクサーバ200は、決定されたターゲットイメージをモザイク化するためのピクセルイメージを選定できる(S107)。
【0145】
具体的に、モザイクサーバ200は、まず、ピクセルイメージフィルタリング部230を介してイメージにマッチングされたタグ及び/又はカテゴリーに基づいたピクセルイメージ選択機能をユーザに提供することができる。
【0146】
すなわち、モザイクサーバ200は、タグ又は/及びカテゴリーを選択して、当該タグ又は/及びカテゴリーに属するイメージをピクセルイメージとして選択するインターフェースを提供できる。したがって、ユーザは、モザイクイメージを生成するのに使用するピクセルイメージを一々選択しなくてもよい。また、ユーザは、ターゲットイメージと関連性の高いピクセルイメージをタグやカテゴリー選択を介して容易に決定することができる。
【0147】
より具体的に、モザイクサーバ200は、端末100と連動してモザイクイメージを生成するのに用いるピクセルイメージをタグ及び/又はカテゴリーを介して検索することができ、検索を介して出力されたタグ及び/又はカテゴリーにマッチングされたイメージのうち、ピクセルイメージとして使用する所定の個数以上のイメージを選択できるピクセルイメージ選択インターフェースをユーザに提供することができる。
【0148】
そして、モザイクサーバ200は、ピクセルイメージ選択インターフェースを介して取得されたユーザ入力に基づいて、選定されたターゲットイメージをモザイク化するためのピクセルイメージを選定できる。
【0149】
このように、モザイクサーバ200は、イメージにタグ及び/又はカテゴリーをマッチングし、イメージにマッチングされたタグ及び/又はカテゴリーに基づいて、ユーザがイメージを分類・抽出・組み合わせてモザイクイメージを構成できるようにすることで、ユーザがモザイクイメージを構成するピクセルイメージをユーザの要求に応じて便利に選択させることができる。
【0150】
他の実施形態において、モザイクサーバ200は、選定されたターゲットイメージのモザイク化に適したタグ及び/又はカテゴリーに含まれたイメージを自動にフィルタリングして提供することができる。
【0151】
具体的に、モザイクサーバ200は、ターゲットイメージが属するカテゴリーに含まれるピクセルイメージを抽出でき、抽出されたイメージを、端末100を介してユーザに推薦することができる。
【0152】
また、モザイクサーバ200は、ターゲットイメージのタグと同一のタグに属するピクセルイメージを抽出し、端末100を介してユーザに推薦することもできる。
【0153】
すなわち、モザイクサーバ200は、ターゲットイメージのタグ及び/又はカテゴリーに含まれたイメージを推薦ピクセルイメージとして提供することにより、ユーザが選択したターゲットイメージと関連性のあるイメージとしてモザイクイメージを生成させることができる。
【0154】
さらに、モザイクサーバ200は、ピクセルイメージフィルタリング部230を介してのディープラーニングを利用して、ターゲットイメージ単位セルの代表ファクタ分布データを取得でき、取得されたターゲットイメージ単位セルの代表ファクタ分布データとマッチング率の高いカテゴリー代表ファクタ分布データ及び/又はタグ代表ファクタ分布データを検出できる。
【0155】
具体的に、モザイクサーバ200は、ディープラーニングニューラルネットワークを介してターゲットイメージ単位セルの代表ファクタ分布データ、カテゴリー別の代表ファクタ分布データ、及びタグ別の代表ファクタ分布データのうち、少なくともいずれか2つ以上の代表ファクタ分布データを生成できる。
【0156】
このとき、カテゴリー別の代表ファクタ分布データは、各カテゴリーに属する複数のイメージに基づいてディープラーニングを行って、各カテゴリーの代表ファクタを決定し、決定された各カテゴリーの代表ファクタを総合するディープラーニングを行って取得されることができる。
【0157】
また、タグ別の代表ファクタ分布データは、各タグに属する複数のイメージに基づいてディープラーニングを行って各タグの代表ファクタを決定し、決定された各タグの代表ファクタを総合してディープラーニングを行って取得されることができる。
【0158】
そして、モザイクサーバ200は、生成されたターゲットイメージ単位セルの代表ファクタ分布データとカテゴリー別及び/又はタグ別の代表ファクタ分布データとを比較して、予め設定された基準(例えば、所定の百分率等)以上のマッチング率を表すカテゴリー及び/又はタグ代表ファクタ分布データを取得できる。
【0159】
その後、モザイクサーバ200は、検出されたカテゴリー及び/又はタグ代表ファクタ分布データの当該カテゴリー及び/又はタグに含まれるピクセルイメージを抽出し、端末100を介してユーザに提供することができる。
【0160】
このように、モザイクサーバ200は、ユーザが選択したターゲットイメージに基づいて生成しようとするモザイクイメージを構成するのに適したピクセルイメージを自動に選別して提供することにより、選択されたターゲットイメージを完成度の高いモザイクイメージとして生成できるピクセルイメージを容易に提供することができる。
【0161】
次に、ターゲットイメージとピクセルイメージとを選定したモザイクサーバ200は、選定されたピクセルイメージを用いて選定されたターゲットイメージをモザイク化し、モザイクイメージを生成できる(S109)。
【0162】
具体的に、モザイクイメージ生成部240は、ターゲットイメージの単位セルを複数のピクセルイメージに代えて、モザイクイメージを生成できる。
【0163】
実施形態として、モザイクサーバ200は、ターゲットイメージの各単位セルの代表ファクタと最もマッチング度(すなわち、一致率)の高いピクセルイメージの代表ファクタを有するピクセルイメージを当該単位セルにマッチングして挿入することができる。すなわち、ターゲットイメージの各単位セルとピクセルイメージとの間の全般的な色感及び/又は質感類似性を最大化するマッチング処理を行うことができる。
【0164】
また、モザイクイメージ生成部240は、アースムーバーディスタンス(EMD、earth mover’s distance)を基にしたオートフォトモザイクアルゴリズムを活用して、ターゲットイメージと複数のピクセルイメージとに基づいたモザイクイメージを生成できる。
【0165】
このように、モザイクサーバ200は、ディープラーニングニューラルネットワーク及び/又はアースムーバーディスタンス(EMD、Earth Mover’s Dist
ance)を活用して、ターゲットイメージの各単位セルに適したピクセルイメージをマッチングしてモザイクイメージを生成することにより、ピクセルイメージを用いてターゲットイメージを高い類似度で表現する高品質のモザイクイメージを生成できる。
【0166】
次に、モザイクイメージを生成したモザイクサーバ200は、生成されたモザイクイメージを端末100に送信して出力することができる(S111)。
【0167】
具体的に、モザイクサーバ200は、生成されたモザイクイメージを端末100に送信することができ、モザイクサーバ200からモザイクイメージを受信した端末100は、受信されたモザイクイメージを、ディスプレイ部を介してグラフィックイメージとして出力してユーザに提供することができる。他の実施形態において、端末100の制御部160がモザイクサーバ200で行われるデータ処理の少なくとも一部を行ってモザイクイメージを生成できる。具体的に、端末100の制御部160は、1)格納部150に格納されたユーザのイメージに対してタグを決定し、分類し、2)決定されたタグに基づいてカテゴリー別にイメージを分類した後、3)ターゲットイメージを決定し、4)決定されたターゲットイメージをモザイク化するためのピクセルイメージを選定した後、5)選定されたピクセルイメージを用いて選定されたターゲットイメージをモザイク化してモザイクイメージを生成し、6)生成されたモザイクイメージを、ディスプレイ部140を制御して出力することができる。
【0168】
このような制御部160がモザイクイメージを生成し、出力する一連の過程は、格納部150に格納されたモザイクイメージを生成するサービスを提供するためのプログラムを読み出して行われることができるであろう。
【0169】
さらに他の実施形態では、端末100の制御部160が1〜6ステップのうち、少なくとも一部を行い、モザイクサーバ200が残りのステップを行う実施形態も可能であろう。
【0170】
一方、
図6は、本発明の他の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法を説明するためのフローチャートである。本発明の一実施形態に係るプログラムは、イメージタグに基づいてモザイクイメージを提供する方法を、モザイクサービス提供サーバのプロセッサに実行させる。
【0171】
図6に示すように、他の実施形態においてモザイクサーバ200は、イメージのタグに基づいてモザイクイメージを生成し、提供するために、ピクセルイメージを先に選定し、その後、選定されたピクセルイメージを用いてモザイク化するためのターゲットイメージを選定してモザイクイメージを生成できる。
【0172】
以下、効果的な説明のために、記述した内容と重複する記載は省略されることができる。
【0173】
まず、モザイクサーバ200は、ユーザのイメージに対してタグを決定し、分類することができる(S201)。
【0174】
具体的に、モザイクサーバ200は、イメージ分類部210を介してのディープラーニングに基づいてユーザのイメージの各々にマッチングするタグを決定でき、決定されたタグに基づいてイメージを分類できる。
【0175】
このとき、モザイクサーバ200は、イメージのタグを決定する過程でユーザのフィードバックを受けることもできる。
【0176】
具体的に、モザイクサーバ200は、タグ一致可否及び/又は追加タグに対するユーザの入力に基づいてユーザフィードバックを収容することができ、これを通じて人工知能的判断だけでなく、ユーザの認知的判断まで考慮してイメージのタグを決定できる。
【0177】
次に、イメージのタグを決定して分類したモザイクサーバ200は、決定されたタグに基づいてカテゴリー別にイメージを分類できる(S203)。
【0178】
具体的に、モザイクサーバ200は、イメージ分類部210を介して複数のタグを含むカテゴリーを生成でき、当該カテゴリーに含まれたタグを有するイメージを当該カテゴリーにて分類して管理することができる。
【0179】
次に、イメージを分類したモザイクサーバ200は、ピクセルイメージを選定できる(S205)。
【0180】
具体的に、モザイクサーバ200は、まず、ピクセルイメージフィルタリング部230を介してイメージにマッチングされたタグ及び/又はカテゴリーに基づいたピクセルイメージ選択機能をユーザに提供することができる。
【0181】
より具体的に、モザイクサーバ200は、端末100と連動してモザイクイメージを生成するのに用いるイメージをタグ及び/又はカテゴリーを介して検索でき、検索を介して出力されたタグ及び/又はカテゴリーにマッチングされたイメージのうち、ピクセルイメージとして使用する所定の個数以上のイメージを選択できるピクセルイメージ選択インターフェースをユーザに提供することができる。
【0182】
そして、モザイクサーバ200は、ピクセルイメージ選択インターフェースを介して取得されたユーザ入力に基づいて、モザイクイメージに使用するためのピクセルイメージを選定できる。
【0183】
このように、モザイクサーバ200は、イメージのタグ及び/又はカテゴリーに基づいてユーザがイメージを分類・抽出・組み合わせてモザイクイメージを構成できるようにすることで、ユーザがモザイクイメージを構成するピクセルイメージをユーザの要求に応じて便利に選択させることができる。
【0184】
次に、ピクセルイメージを選定したモザイクサーバ200は、ターゲットイメージを選定できる(S207)。
【0185】
具体的に、モザイクサーバ200は、ターゲットイメージを選定するために、端末100と連動してターゲットイメージを選択するユーザの入力を受信できる。
【0186】
そして、モザイクサーバ200は、受信されたユーザの入力に基づいてモザイクイメージとして表現するターゲットイメージを選定できる。
【0187】
他の実施形態において、モザイクサーバ200は、ターゲットイメージ推薦部220を介してのディープラーニングに基づいて選定されたピクセルイメージを用いてモザイク化するのに適したターゲットイメージを検出して提供することができる。
【0188】
具体的に、モザイクサーバ200は、ディープラーニングニューラルネットワークを利用して、選定されたピクセルイメージに基づいてモザイクイメージとして生成するのに適したイメージを検出でき、検出されたイメージを推薦ターゲットイメージとしてユーザの端末100を介して提供することができる。
【0189】
このとき、モザイクサーバ200は、推薦ターゲットイメージを1)選定されたピクセルイメージ、及び/又は2)モザイクサーバ200に格納されたイメージ(以下、サーバイメージ)に基づいて検出することができる。
【0190】
以下の説明では、モザイクサーバ200が選定されたピクセルイメージに基づいて推薦ターゲットイメージを検出する実施形態を基準に説明する。
【0191】
より具体的に、
図7に示すように、モザイクサーバ200は、まず、ピクセルイメージ別の代表ファクタを決定できる。
【0192】
すなわち、モザイクサーバ200は、ディープラーニングニューラルネットワークを介して、選定された各ピクセルイメージに対する複数の色感及び/又は質感要因を代表する代表ファクタを決定してピクセルイメージ別の代表ファクタを決定できる。
【0193】
続いて、選定されたピクセルイメージ別の代表ファクタを決定したモザイクサーバ200は、選定されたピクセルイメージの代表ファクタ分布データを生成できる。
【0194】
ここで、代表ファクタ分布データとは、複数の代表ファクタが色感及び/又は質感要因に基づいていかなる分布形態を表すかを提供するデータであってもよい。
【0195】
例えば、代表ファクタ分布データは、複数の代表ファクタの分布形態をヒストグラム形式で表示したグラフデータであってもよい。
【0196】
その後、ピクセルイメージの代表ファクタ分布データを生成したモザイクサーバ200は、各ピクセルイメージを単位セルに分割することができる。
【0197】
すなわち、モザイクサーバ200は、各ピクセルイメージを予め設定された単位(例えば、100×100ブロックなど)に分割して単位セルの集合として構成することができる。
【0198】
次に、モザイクサーバ200は、ディープラーニングニューラルネットワークを介して各ピクセルイメージの各単位セルの代表ファクタを決定できる。
【0199】
そして、モザイクサーバ200は、各ピクセルイメージ別に取得される単位セルの代表ファクタ分布データを生成できる。
【0200】
続いて、モザイクサーバ200は、生成されたピクセルイメージの代表ファクタ分布データと各ピクセルイメージ別に取得された単位セルの代表ファクタ分布データとを比較することができる。
【0201】
その後、モザイクサーバ200は、比較の結果としてピクセルイメージの代表ファクタ分布データと各ピクセルイメージ別に取得された単位セルの代表ファクタ分布データとのマッチング率が予め設定された基準(例えば、所定の百分率等)以上に高いピクセルイメージを検出できる。
【0202】
そして、モザイクサーバ200は、検出された少なくとも1つ以上のピクセルイメージを推薦ターゲットイメージとして決定することができる。
【0203】
また、推薦ターゲットイメージを決定したモザイクサーバ200は、決定された推薦ターゲットイメージを、端末100を介してユーザに提供することができる。
【0204】
そして、モザイクサーバ200は、推薦ターゲットイメージをユーザに提供した後、端末100を介して取得されるユーザのターゲットイメージ選択入力によってターゲットイメージを選定できる。
【0205】
また、モザイクサーバ200は、前述と同様の方式にてサーバイメージに基づいた推薦ターゲットイメージを決定でき、決定されたサーバイメージに基づいた推薦ターゲットイメージを、端末100を介してユーザに提供することができ、その後、端末100を介して取得されるユーザのターゲットイメージ選択入力によってターゲットイメージを選定することもできる。
【0206】
このように、モザイクサーバ200は、ユーザが選択したピクセルイメージに基づいてモザイクイメージとして生成するのに適したターゲットイメージを自動に検出して推薦することにより、選択されたピクセルイメージに基づいて完成度の高いモザイクイメージを生成できるターゲットイメージを提供でき、ユーザが選択するように導くことができる。
【0207】
次に、ピクセルイメージとターゲットイメージとを選定したモザイクサーバ200は、選定されたピクセルイメージを用いて、選定されたターゲットイメージをモザイク化してモザイクイメージを生成できる(S209)。
【0208】
具体的に、モザイクサーバ200は、モザイクイメージ生成部240を介してディープラーニングニューラルネットワーク及び/又はアースムーバーディスタンス(EMD、earth mover’s distance)を活用して、ターゲットイメージと複数
のピクセルイメージとに基づいたモザイクイメージを生成できる。
【0209】
実施形態として、モザイクサーバ200は、ターゲットイメージの各単位セルの代表ファクタと最もマッチング度(すなわち、一致率)の高いピクセルイメージの代表ファクタを有する当該ピクセルイメージを当該単位セルにマッチングして挿入することができる。すなわち、ターゲットイメージの各単位セルとピクセルイメージとの間の全般的な色感及び/又は質感類似性を最大化するマッチング処理を行うことができる。
【0210】
このように、モザイクサーバ200は、ターゲットイメージの各単位セルに適したピクセルイメージをマッチングしてモザイクイメージを生成することにより、ピクセルイメージを用いてターゲットイメージを高い類似度で表現する高品質のモザイクイメージを生成できる。
【0211】
次に、モザイクイメージを生成したモザイクサーバ200は、生成されたモザイクイメージを端末100に送信して出力することができる(S211)。
【0212】
具体的に、モザイクサーバ200は、生成されたモザイクイメージを端末100に送信することができ、モザイクサーバ200からモザイクイメージを受信した端末100は、受信されたモザイクイメージを、ディスプレイ部を介してグラフィックイメージとして出力してユーザに提供することができる。
【0213】
他の実施形態において、端末100の制御部160がモザイクサーバ200で行われるデータ処理の少なくとも一部を行ってモザイクイメージを生成できる。具体的に、端末100の制御部160は、1)格納部150に格納されたユーザのイメージに対してタグを決定し、分類し、2)決定されたタグに基づいてカテゴリー別にイメージを分類した後、3)ピクセルイメージを選定し、4)選定されたピクセルイメージを基に生成するターゲットイメージを決定した後、5)選定されたピクセルイメージを用いて、選定されたターゲットイメージをモザイク化してモザイクイメージを生成し、6)生成されたモザイクイメージを、ディスプレイ部140を制御して出力することができる。
【0214】
このような制御部160がモザイクイメージを生成し、出力する一連の過程は、格納部150に格納されたモザイクイメージを生成するサービスを提供するためのプログラムを読み出して行われることができるであろう。
【0215】
さらに他の実施形態では、端末100の制御部160が1〜6ステップのうち、少なくとも一部を行い、モザイクサーバ200が残りのステップを行う実施形態も可能であろう。
【0216】
以上、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、イメージにタグ及び/又はカテゴリーをマッチングし、イメージにマッチングされたタグ及び/又はカテゴリーに基づいてユーザがイメージを分類・抽出・組み合わせてモザイクイメージを構成できるようにすることで、モザイクイメージを構成するピクセルイメージをユーザの要求に応じて便利に選択できるという効果がある。
【0217】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、ユーザが選択したピクセルイメージに基づいてモザイクイメージとして生成するのに適したターゲットイメージを自動に検出して推薦することにより、選択されたピクセルイメージに基づいて完成度の高いモザイクイメージを生成できるターゲットイメージを提供でき、ユーザが選択するように導くことができる。
【0218】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、ユーザが選択したターゲットイメージに基づいて生成しようとするモザイクイメージを構成するのに適したピクセルイメージを自動に選別して提供することにより、選択されたターゲットイメージを完成度の高いモザイクイメージとして生成できるピクセルイメージを容易に提供でき、選択されたターゲットイメージと関連性のあるピクセルイメージを用いたモザイクイメージの生成を補助できる。
【0219】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、ディープラーニングニューラルネットワークを利用してイメージを分類・推薦・フィルタリング・生成することにより、イメージのタグに基づいてモザイクイメージを生成し、提供するサービスに必要なデータ処理を、人工知能を活用して早くかつ効率的に行うことができる。
【0220】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、イメージのタグを決定するときにユーザのフィードバックを収容することにより、人工知能的判断だけでなく、ユーザの認知的判断まで考慮してイメージのタグを決定できるという効果がある。
【0221】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、複数のタグを含むことができるカテゴリーを生成してイメージを分類することで、イメージをより体系的に管理することができ、ユーザのイメージ検索/選択過程がさらに効率的に動作されるようにすることができる。
【0222】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、カテゴリー別にモザイクイメージを生成するのに適したターゲットイメージを自動に検出して推薦することにより、カテゴリー別に含んでいるイメージに基づいて完成度の高いモザイクイメージを生成できるターゲットイメージを提供でき、ユーザが選択するように導くことができるという効果がある。
【0223】
また、本発明の実施形態に係るイメージのタグに基づいてモザイクイメージを生成し、提供する方法は、ディープラーニングニューラルネットワーク及び/又はアースムーバーディスタンス(EMD、Earth Mover’s Distance)を活用してモ
ザイクイメージを生成することにより、ピクセルイメージを用いてターゲットイメージを高い類似度で表現する高品質のモザイクイメージを生成できる。
【0224】
また、以上説明された本発明に係る実施形態は、様々なコンピュータ構成要素を介して実行され得るプログラム命令語の形態で実現されて、コンピュータ読み取り可能な記録媒体に記録されることができる。コンピュータ読み取り可能な記録媒体は、プログラム命令語、データファイル、データ構造などを単独でまたは組み合わせて含むことができる。コンピュータ読み取り可能な記録媒体に記録されるプログラム命令語は、本発明のために特別に設計され、構成されたものであるか、コンピュータソフトウェア分野の当業者に公知されて使用可能なものであってもよい。コンピュータ読み取り可能な記録媒体の例には、ハードディスク、フロッピーディスク、及び磁気テープのような磁気媒体、CD−ROM及びDVDのような光記録媒体、フロプティカルディスク(floptical disk)のような磁気−光媒体(magneto−optical medium)、及びROM、RAM、フラッシュメモリなどのような、プログラム命令語を格納し、実行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるような機械語コードだけでなく、インタプリタなどを使用してコンピュータにより実行され得る高級言語コードも含まれる。ハードウェア装置は、本発明に係る処理を行うために、1つ以上のソフトウェアモジュールに変更されることができ、その逆も同様である。
【0225】
本発明において説明する特定事項等は、一実施形態であって、いかなる方法でも本発明の範囲を限定するものではない。明細書の簡潔さをために、従来の電子的な構成、制御システム、ソフトウェア、システムの他の機能的な側面等の記載は省略されることができる。また、図面に図示された構成要素間の線等の連結または連結部材などは、機能的な連結及び/又は物理的または回路的連結を例示的に示したものであって、実際装置では、代替可能であるか、追加の様々な機能的な連結、物理的な連結、または回路連結として表されることができる。また、「必須な」、「重要に」などのように、具体的な言及がなければ、本発明の適用のために必ず必要な構成要素でない場合がある。
【0226】
また、説明した本発明の詳細な説明では、本発明の好ましい実施形態を参照して説明したが、当該技術分野の熟練された当業者または当該技術分野における通常の知識を有する者であれば、後述する特許請求の範囲に記載された本発明の思想及び技術領域から逸脱しない範囲内で本発明を様々に修正及び変更させ得ることが理解できるであろう。したがって、本発明の技術的範囲は、明細書の詳細な説明に記載された内容に限定されるものではなく、特許請求の範囲により決められなければならないであろう。