(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-23
(45)【発行日】2024-05-02
(54)【発明の名称】画像生成方法、プログラム及び画像生成装置
(51)【国際特許分類】
G06T 7/11 20170101AFI20240424BHJP
G06T 11/80 20060101ALI20240424BHJP
【FI】
G06T7/11
G06T11/80 A
(21)【出願番号】P 2020086919
(22)【出願日】2020-05-18
【審査請求日】2023-03-20
(73)【特許権者】
【識別番号】304023994
【氏名又は名称】国立大学法人山梨大学
(74)【代理人】
【識別番号】110001139
【氏名又は名称】SK弁理士法人
(74)【代理人】
【識別番号】100130328
【氏名又は名称】奥野 彰彦
(74)【代理人】
【識別番号】100130672
【氏名又は名称】伊藤 寛之
(72)【発明者】
【氏名】豊浦 正広
(72)【発明者】
【氏名】今川 友麻
(72)【発明者】
【氏名】寺田 貴雅
(72)【発明者】
【氏名】茅 暁陽
【審査官】伊知地 和之
(56)【参考文献】
【文献】中国特許出願公開第106778928(CN,A)
【文献】特開2015-212440(JP,A)
【文献】米国特許出願公開第2018/0285679(US,A1)
【文献】国際公開第2020/091891(WO,A1)
【文献】大垣慶介,深層学習を用いた創作支援のためのイラストの理解と生成,電子情報通信学会誌,日本,一般社団法人電子情報通信学会,2019年03月01日,第102巻 第3号,pp.228~233
(58)【調査した分野】(Int.Cl.,DB名)
D03C 1/00 - 19/00
G06T 1/00
G06T 7/00 - 7/90
G06T 11/60 - 13/80
G06T 17/05
G06T 19/00 - 19/20
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
CSDB(日本国特許庁)
(57)【特許請求の範囲】
【請求項1】
領域規定ステップと、転写画像生成ステップと、出力画像生成ステップとを備え、
前記領域規定ステップは、第1画像に基づいて領域規定データを生成し、
前記領域規定データは、第1画像中の各画素が第1画像中のいずれの領域に属するかを規定するデータであり、
前記領域は、少なくとも、第1領域と、第1領域とは独立した第2領域とを有し、
前記転写画像生成ステップは、第1画像を、スタイル画像として指定された複数の第2画像に基づいてスタイル転写処理することで、転写画像を生成し、
第2画像の各々は、共通の単位画像を有し、且つ、前記単位画像が複数並べられて構成され、
複数の第2画像は、前記単位画像の大きさが互いに異なっており、
前記スタイル転写処理では、スタイル転写の度合いを変更可能であり、
前記転写画像は、前記度合いが互いに異なる複数の要素転写画像を有し、
各前記要素転写画像は、第1及び第2領域に対応する部分の要素画像をそれぞれ有し、
前記出力画像生成ステップは、前記領域規定データ及び前記転写画像に基づいて出力画像を生成し、
前記出力画像の第1領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第1領域の前記要素画像が配置され、
前記出力画像の第2領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第2領域の前記要素画像が配置される、画像生成方法。
【請求項2】
請求項
1に記載の方法であって、
パターン画像生成ステップを更に備え、
前記パターン画像生成ステップは、前記出力画像を二値化処理することで織物パターン画像を生成する、方法。
【請求項3】
請求項
2に記載の方法であって、
織物製造ステップを更に備え、
前記織物製造ステップは、前記織物パターン画像に基づいて織物製造装置を動作させ、織物を織り上げる、方法。
【請求項4】
コンピュータに、領域規定ステップと、転写画像生成ステップと、出力画像生成ステップとを備える画像生成方法を実行させるコンピュータプログラムであって、
前記領域規定ステップは、第1画像に基づいて領域規定データを生成し、
前記領域規定データは、第1画像中の各画素が第1画像中のいずれの領域に属するかを規定するデータであり、
前記領域は、少なくとも、第1領域と、第1領域とは独立した第2領域とを有し、
前記転写画像生成ステップは、第1画像を、スタイル画像として指定された複数の第2画像に基づいてスタイル転写処理することで、転写画像を生成し、
第2画像の各々は、共通の単位画像を有し、且つ、前記単位画像が複数並べられて構成され、
複数の第2画像は、前記単位画像の大きさが互いに異なっており、
前記スタイル転写処理では、スタイル転写の度合いを変更可能であり、
前記転写画像は、前記度合いが互いに異なる複数の要素転写画像を有し、
各前記要素転写画像は、第1及び第2領域に対応する部分の要素画像をそれぞれ有し、
前記出力画像生成ステップは、前記領域規定データ及び前記転写画像に基づいて出力画像を生成し、
前記出力画像の第1領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第1領域の前記要素画像が配置され、
前記出力画像の第2領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第2領域の前記要素画像が配置される、プログラム。
【請求項5】
領域規定部と、転写画像生成部と、出力画像生成部とを備え、
前記領域規定部は、第1画像に基づいて領域規定データを生成するように構成され、
前記領域規定データは、第1画像中の各画素が第1画像中のいずれの領域に属するかを規定するデータであり、
前記領域は、少なくとも、第1領域と、第1領域とは独立した第2領域とを有し、
前記転写画像生成部は、第1画像を、スタイル画像として指定された複数の第2画像に基づいてスタイル転写処理することで、転写画像を生成するように構成され、
第2画像の各々は、共通の単位画像を有し、且つ、前記単位画像が複数並べられて構成され、
複数の第2画像は、前記単位画像の大きさが互いに異なっており、
前記スタイル転写処理は、スタイル転写の度合いを変更可能な処理であり、
前記転写画像は、前記度合いが互いに異なる複数の要素転写画像を有し、
前記転写画像の各要素転写画像は、第1及び第2領域に対応する部分の要素画像をそれぞれ有し、
前記出力画像生成部は、前記領域規定データ及び前記転写画像に基づいて出力画像を生成するように構成され、
前記出力画像の第1領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第1領域の前記要素画像が配置され、
前記出力画像の第2領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第2領域の前記要素画像が配置される、画像生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像生成方法、プログラム及び画像生成装置に関する。
【背景技術】
【0002】
従来、コンテンツ画像(入力画像)をスタイル画像(任意の模様や風合いを持つ画像)に基づいてスタイル転写し、転写画像を生成する技術が提案されている(例えば、非特許文献1参照)。非特許文献1に記載のような技術では、コンテンツ画像とスタイル画像とを合成することで新たな画像(転写画像)を自動的に生成することが可能である。また、非特許文献1は、スタイル画像の特徴をどの程度、コンテンツ画像に反映するかの度合い(スタイル転写の度合い)を調整することが開示されている。
【先行技術文献】
【非特許文献】
【0003】
【文献】N.Kolkin, J.Salavon and G.Shakhnarovich, "Style transfer by relaxed optimal transport and self-similarity" in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition,pp.10051-10060,2019.
【発明の概要】
【発明が解決しようとする課題】
【0004】
転写画像を利用するデザイナーの好みは一般的に多岐にわたり、また、転写画像の用途についても、様々である。このような事情を踏まえると、コンテンツ画像及びスタイル画像に基づいて生成される画像は、バリエーションが多いことが好ましい。
その他の課題と新規な特徴は、本明細書の記述及び添付図面から明らかになるであろう。
【0005】
本発明はこのような事情に鑑みてなされたものであり、コンテンツ画像及びスタイル画像を用いて出力画像を生成する場合において、生成可能な出力画像のバリエーションを増やすことができる画像生成方法、プログラム及び画像生成装置を提供することを目的としている。
【課題を解決するための手段】
【0006】
本発明によれば、領域規定ステップと、転写画像生成ステップと、出力画像生成ステップとを備え、前記領域規定ステップは、第1画像に基づいて領域規定データを生成し、前記領域規定データは、第1画像中の各画素が第1画像中のいずれの領域に属するかを規定するデータであり、前記領域は、少なくとも、第1領域と、第1領域とは独立した第2領域とを有し、前記転写画像生成ステップは、第1画像を、スタイル画像として指定された第2画像に基づいてスタイル転写処理することで、転写画像を生成し、前記スタイル転写処理では、スタイル転写の度合いを変更可能であり、前記転写画像は、前記度合いが互いに異なる複数の要素転写画像を有し、各前記要素転写画像は、第1及び第2領域に対応する部分の要素画像をそれぞれ有し、前記出力画像生成ステップは、前記領域規定データ及び前記転写画像に基づいて出力画像を生成し、前記出力画像の第1領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第1領域の前記要素画像が配置され、前記出力画像の第2領域には、前記複数の要素転写画像のうちの1つの前記要素転写画像中の第2領域の前記要素画像が配置される、画像生成方法が提供される。
【0007】
本発明によれば、転写画像は、スタイル転写の度合いが互いに異なる複数の要素転写画像を有する。そして、出力画像生成ステップにおいて、出力画像における第1領域には、複数の要素転写画像のうちの1つの要素転写画像の第1領域の画像(要素画像)が配置される。同様に、出力画像における第2領域には、複数の要素転写画像のうちの1つの要素転写画像の第2領域の画像が配置される。生成可能となる出力画像の組み合わせは、第1領域に配置可能な要素画像の数と、第2領域に配置可能な要素画像の数との組み合わせで表される。このように、本発明によれば、生成可能な出力画像のバリエーションを増やすことができる。
【0008】
以下、本発明の種々の実施形態を例示する。以下に示す実施形態は互いに組み合わせ可能である。
【図面の簡単な説明】
【0009】
【
図1】
図1は、第1実施形態に係る画像生成装置1の機能ブロック図である。
【
図2】
図2Aは、コンテンツ画像d1の一例を示している。
図2Aにおいて、コンテンツ画像d1には画像体d11、画像体d12及び画像体d13が示されており、画像体d11はフクロウであり、画像体d12は木の枝であり、画像体d13は風景である。
図2Bは、スタイル画像d2の一例を示している。
図2Bに示すスタイル画像d2は、和柄の一つである市松模様である。
【
図3】
図3は、領域規定データd4を模式的に示している。
【
図4】
図4A~
図4Cは、転写画像に含まれる要素転写画像d51~要素転写画像d53を示している。スタイル画像の転写の度合いは、
図4Aに示す要素転写画像d51が一番小さく、
図4Bに示す要素転写画像d52が次に大きく、
図4Cに示す要素転写画像d53が一番大きい。
【
図5】
図5は、
図4A~
図4Cに示す要素転写画像d51~要素転写画像d53(転写画像)を用いて出力画像d6を生成(合成)する様子を模式的に示している。
【
図6】
図6A~
図6Cは、変形例に係るスタイル画像d21~スタイル画像d23を示している。
【
図7】
図7A~
図7Iは、変形例に係る要素転写画像d61~要素転写画像d69を示している。
【
図8】
図8は、第2実施形態に係る製造システム100の機能ブロック図である。
【発明を実施するための形態】
【0010】
以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。また、各特徴事項について独立して発明が成立する。
【0011】
1 第1実施形態
1―1 全体構成説明
図1に示すように、画像生成装置1は、取得部2と、処理部3と、出力部4と、記憶部5とを備えている。処理部3は、画像生成部3Aを備えている。画像生成部3Aは、領域規定部3A1と、転写画像生成部3A2と、出力画像生成部3A3とを備えている。
【0012】
上記の各構成要素は、ソフトウェアによって実現してもよく、ハードウェアによって実現してもよい。ソフトウェアによって実現する場合、CPUがコンピュータプログラムを実行することによって各種機能を実現することができる。プログラムは、内蔵の記憶部に格納してもよく、コンピュータ読み取り可能な非一時的な記録媒体に格納してもよい。また、外部の記憶部に格納されたプログラムを読み出し、いわゆるクラウドコンピューティングにより実現してもよい。ハードウェアによって実現する場合、ASIC、FPGA、又はDRPなどの種々の回路によって実現することができる。第1実施形態においては、様々な情報やこれを包含する概念を取り扱うが、これらは、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、上記のソフトウェア又はハードウェアの態様によって通信や演算が実行され得るものである。
【0013】
出力装置20は、例えば、モニターやプリンター等の画像を出力可能な装置から構成される。ユーザーは、出力装置20から出力される出力画像d6等の各種画像を目視で確認しながら、画像生成作業を進めることができる。
【0014】
1-2 画像生成装置1の構成説明
第1実施形態に係る画像生成装置1は、コンテンツ画像d1及びスタイル画像d2(
図2A及び
図2B参照)に基づいて出力画像d6(
図5参照)を生成する機能を有する。換言すると、画像生成装置1は、コンテンツ画像d1に、スタイル画像d2の画風を取り入れて、コンテンツ画像d1及びスタイル画像d2とは異なる新たな画像を生成する機能を有する。コンテンツ画像d1が第1画像に対応し、スタイル画像d2が第2画像に対応する。
第1実施形態において、コンテンツ画像d1は、
図2Aに示すように、画像体d11(フクロウ)、画像体d12(木の枝)及び画像体d13(風景)が示された画像(画像データ)である。また、第1実施形態において、スタイル画像d2は、
図2Bに示すように、和柄の一つである市松模様である。なお、コンテンツ画像d1及びスタイル画像d2は、
図2A及び
図2Bに示す画像に限定されるものではない。出力画像d6については、出力画像生成部3A3とともに後段で説明する。
以下、画像生成装置1の各種の機能ブロックを説明する。
【0015】
画像生成装置1は、取得部2と、処理部3と、出力部4と、記憶部5とを備えている。
【0016】
1-2-1 取得部2
図1に示すように、取得部2は、記憶部5から、コンテンツ画像d1及びスタイル画像d2を取得可能に構成されている。つまり、第1実施形態において、記憶部5には、出力画像d6を生成するための画像が予め格納されている。なお、この形態に限定されるものではなく、取得部2は、コンテンツ画像d1及びスタイル画像d2を画像生成装置1外から、逐次取得するものであってもよい。また、取得部2は、入力装置(不図示)から各種の入力データd3を取得可能に構成されている。入力装置は、例えばマウスやキーボード等の操作部に対応する。
【0017】
1-2-2 処理部3(画像生成部3A)
処理部3は、画像生成部3Aを備えている。画像生成部3Aは、コンテンツ画像d1とスタイル画像d2(
図2A及び
図2B参照)とに基づいて出力画像d6を生成する。
【0018】
画像生成部3Aは、領域規定処理、スタイル転写処理及び合成処理を実施可能に構成されている。そして、画像生成部3Aは、これらの処理を実現するため、領域規定部3A1と、転写画像生成部3A2と、出力画像生成部3A3とを備えている。
【0019】
<領域規定部3A1>
領域規定部3A1は、コンテンツ画像d1に対して領域規定処理を実施することで、コンテンツ画像d1の各画素をラベリングする機能を有する。コンテンツ画像d1の各画素がラベリングされることで、コンテンツ画像d1の各画素は、独立した複数の領域のいずれに属するかが規定されている。換言すると、領域規定部3A1は、領域規定データd4を生成するように構成されており、この領域規定データd4は、コンテンツ画像d1の各画素をラベリングし、コンテンツ画像d1の各画素を独立した複数の領域のいずれかに属するかを規定したデータである。
図2Aに示すように、第1実施形態において、独立した領域は、画像体d11(フクロウ)に対応する画素の領域、画像体d12(木の枝)に対応する画素の領域、及び、画像体d13(風景)に対応する画素の領域から構成されている。すなわち、第1実施形態において、コンテンツ画像d1の各画素は、画像体d11(フクロウ)に対応する画素の領域、画像体d12(木の枝)に対応する画素の領域、及び、画像体d13(風景)に対応する画素の領域のうちのいずれかの領域にラベリングされる。
【0020】
図2A及び
図3に示すように、画像体d11(フクロウ)に対応する画素の集合は、領域R1に対応し、画像体d12(木の枝)に対応する画素の集合は、領域R2に対応し、画像体d13(風景)に対応する画素の集合は、領域R3に対応している。領域R1~領域R3のいずれか1つは、第1領域に対応する。領域R1~領域R3のいずれか1つであって第1領域とは異なる領域は、第2領域に対応する。
【0021】
領域規定処理のアルゴリズムは、特に限定されるものではないが、例えば、セマンティックセグメンテーションを用いることができる。セマンティックセグメンテーションは、畳み込みニューラルネットワークを用いて、特徴的な画素を認識するアルゴリズムである。なお、領域規定部3A1が畳み込みニューラルネットワークを採用している場合、第1実施形態では、領域規定部3A1のニューラルネットワークのフィルタの重み係数は既に確定している。
【0022】
<転写画像生成部3A2>
図1に示すように、転写画像生成部3A2は、コンテンツ画像d1と、スタイル画像d2と、入力データd3に含まれるスタイル転写の度合い(パラメータ)とに基づいて、転写画像d5を生成する機能を有する。換言すると、転写画像生成部3A2は、コンテンツ画像d1に対し、スタイル画像d2及びスタイル転写の度合いを用いたスタイル転写処理を実施し、転写画像d5を生成する。
【0023】
転写画像d5は、
図4A~
図4Cに示すように、複数の要素転写画像d51~要素転写画像d53を有する。各要素転写画像は、コンテンツ画像d1にスタイル画像d2をスタイル転写した画像であり、換言すると、コンテンツ画像d1にスタイル画像d2の画風を反映させた画像である。各要素転写画像は、スタイル転写の度合いが互いに異なる転写画像である。
また、入力データd3は、上述のようにスタイル転写の度合いに関するデータを含んでいるため、第1実施形態は、スタイル転写の度合いを、ユーザーが適宜選択可能である。つまり、第1実施形態におけるスタイル転写処理では、スタイル転写の度合いを変化させることが可能である。そして、転写画像生成部3A2は、
図4A~
図4Cに示すように、スタイル転写の度合いがそれぞれ異なる要素転写画像d51~要素転写画像d53を生成可能に構成されている。第1実施形態では、転写画像生成部3A2は、要素転写画像を3つ生成するものとして説明しているが、その数は2つ以上であれば、特に、限定されるものではない。
【0024】
スタイル転写処理は、コンテンツ画像にスタイル画像を合成する画像処理である。スタイル転写処理のアルゴリズムは、特に限定されるものではないが、例えば、非特許文献1等に示される公知のアルゴリズムを採用することができる。すなわち、スタイル転写処理のアルゴリズムには、畳み込みニューラルネットワークを用い、コンテンツの損失とスタイルの損失とを最小化するような画像を出力画像とするアルゴリズムを採用することができる。なお、コンテンツの損失は、コンテンツ画像と出力画像との類似度(例えば、両画像の各画素の画素値の内積)に対応し、同様に、スタイルの損失は、スタイル画像と出力画像との類似度に対応する。なお、転写画像生成部3A2が畳み込みニューラルネットワークを採用している場合、第1実施形態では、転写画像生成部3A2のニューラルネットワークのフィルタの重み係数は既に確定している。
【0025】
<出力画像生成部3A3>
出力画像生成部3A3は、領域規定データd4と、転写画像d5と、入力データd3に含まれる選択データとに基づいて出力画像d6を生成する機能を有する。第1実施形態において、出力画像生成部3A3は、転写画像生成部3A2から複数(第1実施形態では3つ)の転写画像d5(
図4A~
図4C参照)を取得している。ここで、出力画像生成部3A3は、領域規定データd4(コンテンツ画像d1の各画素に対し、ラベリングをしたデータ)も取得しているので、出力画像生成部3A3は、転写画像d5の各画素が、いずれの領域(いずれの画像体)にラベリングされるかを特定することができる。つまり、出力画像生成部3A3は、
図5に示すように、要素転写画像d51~要素転写画像d53の各画素が、領域R1に対応する領域、領域R2に対応する領域及び領域R3に対応する領域のいずれにラベリングされるかを特定することができる。
【0026】
また、出力画像生成部3A3は、選択データ(入力データd3)に基づいて、要素転写画像d51~要素転写画像d53から各領域を取得する。具体的には、出力画像生成部3A3は、3つの領域R1の1つから領域R1を取得し、3つの領域R2の1つから領域R2を取得し、3つの領域R3の1つから領域R3を取得する。選択データは、複数(第1実施形態では3つ)の領域R1のいずれを選択するか、複数の領域R2のいずれを選択するか、及び、複数の領域R3のいずれを選択するか、が特定されたデータである。第1実施形態では、ユーザーが、要素転写画像d52の領域R1を選択し、要素転写画像d53の領域R2を選択し、要素転写画像d51の領域R3を選択したものとする。なお、ユーザーは、要素転写画像d51~要素転写画像d53を出力装置20のモニターに出力することで、いずれの領域を選択することが好ましいかを確認しながら、自由に選択することができる。
【0027】
図5に示すように、出力画像生成部3A3は、要素転写画像d52の領域R1の各画素の画素値、要素転写画像d53の領域R2の各画素の画素値、及び、要素転写画像d51の領域R3の各画素の画素値を取得する。そして、出力画像生成部3A3は、取得した領域R1~領域R3の画素値を用いて、出力画像d6を生成する。すなわち、出力画像生成部3A3は、出力画像d6の各画素の画素値が、取得した領域R1~領域R3の各画素の画素値に一致するように、出力画像d6を生成する。これにより、出力画像d6には、要素転写画像d52の領域R1における画像(要素画像)と、要素転写画像d53の領域R2における画像(要素画像)、及び、要素転写画像d51の領域R3における画像(要素画像)が、配置されることになる。
【0028】
1-2-3 出力部4
出力部4は、コンテンツ画像d1や出力画像d6等の各種画像を出力装置20に出力する機能を有する。
【0029】
1-2-4 記憶部5
記憶部5は、各種データを記憶する機能を有する。記憶部5には、コンテンツ画像d1やスタイル画像等が予め格納される。また、記憶部5に格納されている各種データは、処理部3で読み出される。
【0030】
1-3 動作説明
第1実施形態に係る画像生成装置1の画像生成方法は、領域規定ステップと、転写画像生成ステップと、出力画像生成ステップと、パターン画像生成ステップとを備える。まず、ユーザーは、記憶部5に記憶されているコンテンツ画像d1及びスタイル画像d2を選択する。取得部2は、選択されたコンテンツ画像d1及びスタイル画像d2を取得し、画像生成部3Aへ入力する。
【0031】
1-3-1 領域規定ステップ
領域規定部3A1は、コンテンツ画像d1に対して領域規定処理を実施し、コンテンツ画像d1中の各画素がコンテンツ画像d1中のいずれの領域R1~領域R3に属するかを規定する。すなわち、領域規定部3A1は、コンテンツ画像d1中の各画素pxをラベリングし、領域規定データd4を生成する。ここで、
図3では、上下及び左右に並ぶ各画素がpxとして模式的に示されている。第1実施形態において、領域規定データd4は、
図3に示すように、領域R1(フクロウの領域)と、領域R2(木の枝の領域)と、領域R3(背景の領域)とが規定される。
【0032】
1-3-2 転写画像生成ステップ
転写画像生成部3A2は、コンテンツ画像d1に対して、スタイル画像d2及びスタイル転写の度合い(パラメータ)を用いたスタイル転写処理をすることで、当該度合いが互いに異なる要素転写画像d51~要素転写画像d53を生成する。なお、転写画像生成部3A2は、スタイル転写の度合いを取得部2から取得する。
【0033】
1-3-3 出力画像生成ステップ
出力画像生成部3A3は、領域規定データd4と、転写画像d5と、選択データとに基づいて出力画像d6を生成する。第1実施形態では、選択データは、要素転写画像d52の領域R1を選択し、要素転写画像d53の領域R2を選択し、要素転写画像d51の領域R3を選択したデータである。このため、出力画像d6の領域R1には、要素転写画像d51~要素転写画像d53のうちの1つである要素転写画像d52中の領域R1の画像(要素画像)が配置される。また、出力画像d6の領域R2には、要素転写画像d51~要素転写画像d53のうちの1つである要素転写画像d53中の領域R2の画像(要素画像)が配置される。更に、出力画像d6の領域R3には、要素転写画像d51~要素転写画像d53のうちの1つである要素転写画像d51中の領域R3の画像(要素画像)が配置される。
【0034】
1-4 第1実施形態の効果
第1実施形態に係る画像生成装置1は、領域規定ステップと、転写画像生成ステップと、出力画像生成ステップとを有する画像生成方法を実施可能に構成されている。ここで、転写画像生成ステップで生成される転写画像は、スタイル転写の度合いが互いに異なる複数の要素転写画像d51~要素転写画像d53を有する。そして、出力画像生成ステップにおいて、出力画像d6における各領域には、要素転写画像d51~要素転写画像d53中の各領域を自由に配置可能である。出力画像d6の領域R1~領域R3にそれぞれ配置可能な要素画像は3つずつである。このため、生成可能となる出力画像d6の種類は、3×3×3=27種類である。このように、第1実施形態に係る画像生成装置1は、生成可能な出力画像d6のバリエーションを増やすことができる。
【0035】
第1実施形態に係る画像生成装置1で生成された出力画像d6は、各種の用途で活用することができる。例えば、出力画像d6は、例えば、包装や、ディスプレイや紙等の媒体に示される広告等として用いることができる。
【0036】
1-5 第1実施形態の変形例
1-5-1 変形例1
第1実施形態では、スタイル画像d2のバリエーションは1種類であるものとして説明したが、それに限定されるものではない。変形例1に係る転写画像生成部3A2は、
図6A~
図6Cに示す複数(変形例では3つ)のスタイル画像d21~スタイル画像d23を用いる。
変形例1におけるスタイル画像の柄(単位画像Ud)は、共通であるが、大きさは異なる。スタイル画像は、単位画像Udが複数並べられて構成される。ここで、柄の大きさ(単位画像Udの大きさ)は、
図6Aに示すスタイル画像d21が一番小さく、
図6Bに示すスタイル画像d22が次に大きく、
図6Cに示すスタイル画像d23が一番大きい。単位画像Udは、各スタイル画像を構成する要素のうちの最小単位である。
【0037】
転写画像生成部3A2は、スタイル画像d21~スタイル画像d23を用いることで、
図7A~
図7Iに示す複数(変形例では27つ)の要素転写画像d61~要素転写画像d69を生成することができる。
ここで、
図7A、
図7B及び
図7Cは、
図6Aに示すスタイル画像d21に基づいて生成された転写画像である。スタイル画像の転写の度合いは、
図7Aに示す要素転写画像d61が一番小さく、
図7Bに示す要素転写画像d62が次に大きく、
図7Cに示す要素転写画像d63が一番大きい。
また、
図7D、
図7E及び
図7Fは、
図6Bに示すスタイル画像d2に基づいて生成された転写画像d5であり、スタイル画像の転写の度合いは、
図7Dに示す要素転写画像d64が一番小さく、
図7Eに示す要素転写画像d65が次に大きく、
図7Fに示す要素転写画像d66が一番大きい。
更に、
図7G、
図7H及び
図7Iは、
図6Cに示すスタイル画像d2に基づいて生成された転写画像d5であり、スタイル画像の転写の度合いは、
図7Gに示す要素転写画像d67が一番小さく、
図7Hに示す要素転写画像d68が次に大きく、
図7Iに示す要素転写画像d69が一番大きい。
【0038】
このように、変形例1では、生成される要素転写画像のバリエーションが増えるため、生成可能な出力画像d6のバリエーションを第1実施形態よりも更に増やすことができる。
【0039】
1-5-2 変形例2
第1実施形態では、領域規定部3A1がセマンティックセグメンテーションを用いて領域を規定するものとして説明したが、これに限定されるものではない。ユーザーが、モニターに映し出されるコンテンツ画像d1を目視しながら、コンテンツ画像d1の領域を専用のアプリケーションを用いて人的に規定してもよい。領域規定部3A1は、ユーザーに規定された領域に基づいて領域規定データd4を生成し、出力画像生成部3A3に出力する。
【0040】
2 第2実施形態
第2実施形態において、画像生成装置1は、出力画像6dから織物のパターン画像d9を生成する機能を有する。また、織物製造装置30は、パターン画像d9に基づいて、織物を織り上げることができる。第2実施形態では、第1実施形態と相違する部分を中心に説明する。
【0041】
2―1 全体構成説明
第2実施形態に係る製造システム100は、
図8に示すように、画像生成装置1と、出力装置20と、織物製造装置30とを備えている。第2実施形態において、処理部3は、画像生成部3Aに加えて、画像生成部3Bを備えている。この画像生成部3Bは、前処理部3B1と、マトリクス生成部3B2と、二値化処理部3B3とを備えている。
【0042】
上記の各構成要素は、ソフトウェアによって実現してもよく、ハードウェアによって実現してもよい。ソフトウェアによって実現する場合、CPUがコンピュータプログラムを実行することによって各種機能を実現することができる。プログラムは、内蔵の記憶部に格納してもよく、コンピュータ読み取り可能な非一時的な記録媒体に格納してもよい。また、外部の記憶部に格納されたプログラムを読み出し、いわゆるクラウドコンピューティングにより実現してもよい。ハードウェアによって実現する場合、ASIC、FPGA、又はDRPなどの種々の回路によって実現することができる。第1実施形態においては、様々な情報やこれを包含する概念を取り扱うが、これらは、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、上記のソフトウェア又はハードウェアの態様によって通信や演算が実行され得るものである。
【0043】
画像生成装置1は、織物のパターン画像d9を生成する機能を有する。また、第2実施形態において、織物は、ジャカード織物である。ジャカード織物は、多数並列化された経糸に対して、緯糸を任意に上下させて織ることで、複雑な模様を織り出すことができる。ジャカード織物において、経糸と緯糸の上下関係は、格子点(経糸と緯糸とが交差する点)ごとの上下関係が特定された二値データ(パターン画像)によって定義される。第2実施形態において、パターン画像d9は、ジャカード組織図に対応する画像であり、また、パターン画像d9は、後述する前処理後画像d7を二値化処理した画像(二値データ)である。二値データは、経糸と緯糸のうちのいずれかを表に出すかを示すデータである。織物の色は、経糸と緯糸が表に出る頻度や、経糸及び緯糸の色等に基づいて、表現される。
【0044】
織物製造装置30は、画像生成装置1で生成されたパターン画像に基づいて、織物を編み上げ可能に構成されている。
【0045】
2-2 画像生成装置1の構成説明 第2実施形態に係る画像生成装置1も、第1実施形態と同様に、コンテンツ画像d1及びスタイル画像d2(
図2A及び
図2B参照)に基づいて出力画像d6(
図5参照)を生成する機能を有する。換言すると、画像生成装置1は、コンテンツ画像d1に、スタイル画像d2の画風を取り入れて、コンテンツ画像d1及びスタイル画像d2とは異なる新たな画像を生成する機能を有する。コンテンツ画像d1が第1画像に対応し、スタイル画像d2が第2画像に対応する。
また、第2実施形態においても、第1実施形態と同様に、コンテンツ画像d1は、
図2Aに示すように、画像体d11(フクロウ)、画像体d12(木の枝)及び画像体d13(風景)が示された画像(画像データ)である。また、スタイル画像d2は、
図2Bに示すように、和柄の一つである市松模様である。
【0046】
2-2-1 取得部2
取得部2は、入力装置(不図示)から各種の入力データd3を取得可能に構成され、この入力データd3は、取得部2から画像生成部3Aや画像生成部3Bへ出力される。
【0047】
2-2-2 処理部3(画像生成部3B)
第2実施形態に係る画像生成部3Aの構成は、第1実施形態に係る画像生成部3Aと同様であるため、説明を省略する。
画像生成部3Bは、出力画像d6に基づいてパターン画像d9を生成する機能を有する。換言すると、画像生成部3Bは、出力画像d6を織物製造装置30で織物を織り上げることができるような形式へ変換する機能を有する。この機能は、公知となっている各種の方法(例えば、特開2015-212440号公報)を採用することができる。以下、画像生成部3Bの機能の一例を説明する。
【0048】
なお、各種画像はカラー画像であってもよいが、説明の便宜上、パターン画像d9がグレースケール画像とする場合を一例として説明する。また、第2実施形態では、グレースケール画像を白と黒の二値で表現するハーフトーニング法を用いる。ハーフトーニング法とは、一定領域内の白と黒の画素の面積の割合を利用して階調を表現する方法である。また、第2実施形態では、組織的ディザ法を用いるものとして説明する。組織的ティザ法では、閾値が予め設定されたティザマスク(織物用閾値マトリクス)を用いて、画像を二値化処理する。
【0049】
<前処理部3B1>
前処理部3B1では、出力画像d6を、例えば256階調のグレースケール画像データに変換する機能を有する。これにより、前処理部3B1は、前処理後画像d7を生成する。なお、階調数は、予め定められていてもよいし、ユーザーが適宜選択することができてもよい。この場合、前処理部3B1は、入力データd3を取得することで階調数を取得する。
【0050】
<マトリクス生成部3B2>
マトリクス生成部3B2は、織物用閾値マトリクス(マトリクスデータd8)を生成する。織物用閾値マトリクスの行数及び列数は、前処理後画像d7のサイズに対応している。織物用閾値マトリクスは、前処理後画像d7を二値化処理した後の画像が織物組織(パターン画像)となるように作成されたマトリクスである。例えば、マトリクス生成部3B2は、織物用閾値サブマトリクスを複数配置することで織物用閾値マトリクスを作成することができる。織物用閾値サブマトリクスの行数及び列数は、任意に定めることができる。織物用閾値サブマトリクスにおける各成分には、前処理後画像d7を二値化処理するための閾値が設定される。そして、織物用閾値サブマトリクスの各成分の閾値は、ユーザーが適宜選択することが可能である。この場合、マトリクス生成部3B2は、入力データd3を取得することで、閾値を取得可能である。また、織物用閾値サブマトリクスの各成分の閾値は、ジャカード織物における各種の制約等(例えば一定間隔で経糸と緯糸が少なくとも1回交差する必要があるという制約)に基づいて定めることができる。
【0051】
<二値化処理部3B3>
二値化処理部3B3は、マトリクス生成部3B2が作成した織物用閾値マトリクス(マトリクスデータd8)を用いて、前処理後画像d7を二値化処理する機能を有する。換言すると、二値化処理部3B3は、前処理後画像d7に織物用閾値マトリクスを適用することで、パターン画像d9を生成する。前処理後画像d7の任意の画素の画素値が織物用閾値マトリクスの対応する成分の閾値を超えている場合には、この画素は白(二値化データは1)と処理される。また、前処理後画像d7の任意の画素の画素値が織物用閾値マトリクスの対応する成分の閾値を未満である場合には、この画素は黒(二値化データは0)と処理される。前処理後画像d7の任意の画素の画素値が織物用閾値マトリクスの対応する成分の閾値と同じ値である場合には、この画素は黒又は白と処理される(予め定められている)。
【0052】
2-2-3 出力部4
出力部4は、コンテンツ画像d1や出力画像d6等の各種画像を出力装置20に出力する機能を有する。また、出力部4は、パターン画像d9を織物製造装置30へ出力する機能を有する。
【0053】
2-3 動作説明
第2実施形態に係る画像生成装置1の画像生成方法は、領域規定ステップと、転写画像生成ステップと、出力画像生成ステップとに加えて、パターン画像生成ステップと、織物製造ステップとを備える。領域規定ステップ、転写画像生成ステップ及び出力画像生成ステップについては、第1実施形態と同様であるため、説明を省略する。
【0054】
2-3-1 パターン画像生成ステップ
パターン画像生成ステップでは、出力画像d6を二値化処理することで織物のパターン画像d9を生成するステップである。具体的には、前処理部3B1は、出力画像d6に対して前処理をし、前処理後画像d7を生成する。また、マトリクス生成部3B2は、織物用閾値マトリクスを生成する。そして、二値化処理部3B3は、織物用閾値マトリクス(マトリクスデータd8)を用いて、前処理後画像d7を二値化処理し、パターン画像d9を生成する。
【0055】
2-3-2 織物製造ステップ
織物製造ステップでは、織物のパターン画像d9に基づいて織物製造装置30を動作させ、織物製造装置30で織物を織り上げる。
【0056】
2-4 第2実施形態の効果
第2実施形態に係る製造システム100は、パターン画像d9に基づいて、織物を製造することができる。ここで、第2実施形態においても、第1実施形態と同様に、生成可能な出力画像d6のバリエーションを増やすことができるので、第2実施形態では、生成可能なパターン画像d9のバリエーションを増やすことができる。その結果、第2実施形態に係る製造システム100は、バリエーションに富んだ模様等が織り上げられた織物を製造することができる。
【0057】
2-5 第2実施形態の変形例
第2実施形態に係る製造システム100の製造対象は、織物(ジャカード織物)であるものとして説明したが、これに限定されるものではない。製造システム100の製造対象は、例えば、衣服やカーテン等といった布地の素材であってもよい。また、第2実施形態においても、第1実施形態の変形例1及び変形例2で説明した構成を採用することができる。
【0058】
3 その他の実施形態
第1及び第2実施形態に係る画像生成装置1の画像生成部3Aは、領域規定部3A1を備えるものであったが、これに限定されるものではなく、領域規定部3A1は必須の構成でなくてもよい。つまり、画像生成装置1は、転写画像生成ステップと出力画像生成ステップとを有する画像生成方法を実施可能に構成されたものであってもよい。
【0059】
この場合、画像生成装置1は、以下の画像生成方法を実施することができる。
画像生成方法は、転写画像生成ステップと、出力画像生成ステップとを備え、
前記転写画像生成ステップは、第1画像を、スタイル画像として指定された複数の第2画像に基づいてスタイル転写処理することで、転写画像を生成し、
第2画像の各々は、共通の単位画像を有し、且つ、前記単位画像が複数並べられて構成され、且つ、複数の第2画像は、前記単位画像の大きさが互いに異なっており、
前記スタイル転写処理は、前記スタイル転写の度合いを変更可能な処理であり、
前記転写画像は、前記度合いと前記単位画像の大きさとが互いに異なる複数の要素転写画像を有し、
前記出力画像生成ステップは、前記転写画像に基づいて出力画像を生成する。
【符号の説明】
【0060】
1 :画像生成装置
2 :取得部
3 :処理部
3A :画像生成部
3A1 :領域規定部
3A2 :転写画像生成部
3A3 :出力画像生成部
3B :画像生成部
3B1 :前処理部
3B2 :マトリクス生成部
3B3 :二値化処理部
4 :出力部
5 :記憶部
20 :出力装置
30 :織物製造装置
100 :織物製造システム
R1 :領域
R2 :領域
R3 :領域
Ud :単位画像
d1 :コンテンツ画像
d2 :スタイル画像
d3 :入力データ
d4 :領域規定データ
d5 :転写画像
d51 :要素転写画像
d52 :要素転写画像
d53 :要素転写画像
d6 :出力画像
d7 :前処理後画像
d8 :マトリクスデータ
d9 :パターン画像
d11 :画像体
d12 :画像体
d13 :画像体
d21 :スタイル画像
d22 :スタイル画像
d23 :スタイル画像
d61 :要素転写画像
d62 :要素転写画像
d63 :要素転写画像
d64 :要素転写画像
d65 :要素転写画像
d66 :要素転写画像
d67 :要素転写画像
d68 :要素転写画像
d69 :要素転写画像
px :画素