IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ジェーシービーの特許一覧 ▶ トヨタ・コニック・アルファ株式会社の特許一覧

特開2024-81397プログラム、情報処理装置、および情報処理方法
<>
  • 特開-プログラム、情報処理装置、および情報処理方法 図1
  • 特開-プログラム、情報処理装置、および情報処理方法 図2
  • 特開-プログラム、情報処理装置、および情報処理方法 図3
  • 特開-プログラム、情報処理装置、および情報処理方法 図4
  • 特開-プログラム、情報処理装置、および情報処理方法 図5
  • 特開-プログラム、情報処理装置、および情報処理方法 図6
  • 特開-プログラム、情報処理装置、および情報処理方法 図7
  • 特開-プログラム、情報処理装置、および情報処理方法 図8
  • 特開-プログラム、情報処理装置、および情報処理方法 図9
  • 特開-プログラム、情報処理装置、および情報処理方法 図10
  • 特開-プログラム、情報処理装置、および情報処理方法 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024081397
(43)【公開日】2024-06-18
(54)【発明の名称】プログラム、情報処理装置、および情報処理方法
(51)【国際特許分類】
   G06T 11/80 20060101AFI20240611BHJP
   G06Q 50/10 20120101ALI20240611BHJP
【FI】
G06T11/80 A
G06Q50/10
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022195001
(22)【出願日】2022-12-06
(71)【出願人】
【識別番号】593022629
【氏名又は名称】株式会社ジェーシービー
(71)【出願人】
【識別番号】521467087
【氏名又は名称】トヨタ・コニック・アルファ株式会社
(74)【代理人】
【識別番号】100126480
【弁理士】
【氏名又は名称】佐藤 睦
(74)【代理人】
【識別番号】100140431
【弁理士】
【氏名又は名称】大石 幸雄
(72)【発明者】
【氏名】間下 公照
(72)【発明者】
【氏名】南井 享
(72)【発明者】
【氏名】中川 祐
(72)【発明者】
【氏名】野宗 智仁
(72)【発明者】
【氏名】佐藤 毅
【テーマコード(参考)】
5B050
5L049
5L050
【Fターム(参考)】
5B050AA10
5B050BA06
5B050BA11
5B050CA07
5B050EA06
5B050EA09
5B050EA18
5B050EA19
5B050FA05
5L049CC11
5L050CC11
(57)【要約】
【課題】画像データの利用態様をふまえて、この画像データから不要なものを除去することができるプログラム、情報処理装置、および情報処理方法を提供する。
【解決手段】プログラムは、コンピュータに、現実空間にある1以上の対象物を撮影した画像データを取得する画像取得機能と、前記画像データの利用態様に関する利用情報を取得する利用取得機能と、前記画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する対象物特定機能と、前記利用情報に基づいて、前記1以上の対象物および前記1以上の構成要素のうち、前記画像データから除去する対象である除去対象を特定する除去対象特定機能と、前記除去対象を除去するための第1加工を前記画像データに施して、第1加工データを生成する第1加工機能と、を実現させる。
【選択図】図8
【特許請求の範囲】
【請求項1】
コンピュータに、
現実空間にある1以上の対象物を撮影した画像データを取得する画像取得機能と、
前記画像データの利用態様に関する利用情報を取得する利用取得機能と、
前記画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する対象物特定機能と、
前記利用情報に基づいて、前記1以上の対象物および前記1以上の構成要素のうち、前記画像データから除去する対象である除去対象を特定する除去対象特定機能と、
前記除去対象を除去するための第1加工を前記画像データに施して、第1加工データを生成する第1加工機能と、を実現させる、
プログラム。
【請求項2】
前記利用情報は、前記コンピュータに、前記画像データの利用目的ごとの除去条件であって、前記除去対象を特定するための除去条件を示す除去条件情報を含み、
前記除去対象特定機能は、前記除去条件に基づいて、前記除去対象を特定する、
請求項1に記載のプログラム。
【請求項3】
前記コンピュータに、
現実空間にある実在物の利用に関する権利を示す利用権に対する許諾権者からの許諾を示す許諾情報を取得する許諾取得機能と、
前記第1加工データに示された前記1以上の対象物のうち、前記利用権について保護すべき対象である1以上の保護対象を特定する保護対象特定機能と、
前記許諾情報に基づいて、前記1以上の保護対象のそれぞれについて、前記許諾の有無を判定する判定機能と、
前記許諾が無いと判定された前記1以上の保護対象のそれぞれを利用しないよう第2加工を前記第1加工データに施して、第2加工データを生成する第2加工機能と、を実現させる、
請求項1または2に記載のプログラム。
【請求項4】
前記許諾情報は、前記利用権における、前記1以上の対象物のそれぞれの利用に関する許可する利用目的、許可する利用期間、および禁止する利用態様の少なくともいずれかを含む、
請求項3に記載のプログラム。
【請求項5】
前記許諾が無いと判定された前記保護対象について、前記許諾権者に対して、前記利用権の許諾を得るための許諾要求をする要求機能と、
前記許諾要求に対して前記許諾をするか否かを示す前記許諾権者からの応答を受け付ける受付機能と、を実現させ、
前記第2加工機能は、前記許諾をすることを前記応答が示す場合、許諾要求の対象である前記保護対象について、前記第2加工の前の状態に戻すよう前記第2加工データを加工する、
請求項3に記載のプログラム。
【請求項6】
前記コンピュータに、
前記許諾権者が前記利用権の許諾をした前記保護対象について、前記許諾を取り消すための取り消し要求を受け付ける受付機能と、
前記取り消し要求に基づいて、前記許諾情報を更新する更新機能と、を実現させ、
前記判定機能は、前記更新された許諾情報に基づいて、前記保護対象について、前記許諾の有無を判定する、
請求項3に記載のプログラム。
【請求項7】
現実空間にある1以上の対象物を撮影した画像データを取得する画像取得部と、
前記画像データの利用態様に関する利用情報を取得する利用取得部と、
前記画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する対象物特定部と、
前記利用情報に基づいて、前記1以上の対象物および前記1以上の構成要素のうち、前記画像データから除去する対象である除去対象を特定する除去対象特定部と、
前記除去対象を除去するための第1加工を前記画像データに施して、第1加工データを生成する第1加工部と、を備える、
情報処理装置。
【請求項8】
コンピュータが、
現実空間にある1以上の対象物を撮影した画像データを取得し、
前記画像データの利用態様に関する利用情報を取得し、
前記画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定し、
前記利用情報に基づいて、前記1以上の対象物および前記1以上の構成要素のうち、前記画像データから除去する対象である除去対象を特定し、
前記除去対象を除去するための第1加工を前記画像データに施して、第1加工データを生成する、
情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、情報処理装置、および情報処理方法に関する。
【背景技術】
【0002】
従来、現実空間にある対象物を撮影した画像データを仮想空間の構築などに利用するにあたって、この画像データが示す1以上の対象物または1以上の対象物のそれぞれを構成する構成要素のうち不要なものを、画像データから除去する技術が知られている(例えば、下記特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許7076861号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
同じ対象物を撮影した複数の画像データであってもそれらを利用する場面または状況などによっては、不要なものが異なる場合がある。しかしながら、上記従来技術では、画像データの利用態様をふまえて不要なものを除去することが困難である。
【0005】
そこで、本発明は、上記課題を解決するため、画像データの利用態様をふまえて、この画像データから不要なものを除去することが可能であるプログラム、情報処理装置、および情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一態様に係るプログラムは、コンピュータに、現実空間にある1以上の対象物を撮影した画像データを取得する画像取得機能と、前記画像データの利用態様に関する利用情報を取得する利用取得機能と、前記画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する対象物特定機能と、前記利用情報に基づいて、前記1以上の対象物および前記1以上の構成要素のうち、前記画像データから除去する対象である除去対象を特定する除去対象特定機能と、前記除去対象を除去するための第1加工を前記画像データに施して、第1加工データを生成する第1加工機能と、を実現させる。
【0007】
本発明の一態様に係る情報処理装置は、現実空間にある1以上の対象物を撮影した画像データを取得する画像取得部と、画像データの利用態様に関する利用情報を取得する利用取得部と、画像データに示された1以上の対象物のそれぞれ、および対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する対象物特定部と、利用情報に基づいて、1以上の対象物および1以上の構成要素のうち、画像データから除去する対象である除去対象を特定する除去対象特定部と、除去対象を除去するための第1加工を画像データに施して、第1加工データを生成する第1加工部と、を備える。
【0008】
本発明の一態様に係る情報処理方法は、コンピュータが、現実空間にある1以上の対象物を撮影した画像データを取得し、画像データの利用態様に関する利用情報を取得し、画像データに示された1以上の対象物のそれぞれ、および対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定し、利用情報に基づいて、1以上の対象物および1以上の構成要素のうち、画像データから除去する対象である除去対象を特定し、除去対象を除去するための第1加工を画像データに施して、第1加工データを生成する。
【発明の効果】
【0009】
本発明によれば、画像データの利用態様をふまえて、この画像データから不要なものを除去することができる。
【図面の簡単な説明】
【0010】
図1】本実施形態に係るデータ管理システムのシステム構成例を説明するための図である。
図2】本実施形態に係るデータ管理システムの概要を説明するための図である。
図3】本実施形態に係るデータ管理システムの概要を説明するための図である。
図4】本実施形態に係るデータ管理システムの概要を説明するための図である。
図5】本実施形態に係るデータ管理システムの概要を説明するための図である。
図6】本実施形態に係るデータ管理システムの概要を説明するための図である。
図7】本実施形態に係るデータ管理システムの概要を説明するための図である。
図8】本実施形態に係るサーバ装置の機能構成の一例を示す図である。
図9】本実施形態に係る除去条件情報および許諾情報の一例を示す図である。
図10】本実施形態に係るサーバ装置の動作例を示す図である。
図11】本実施形態に係るサーバ装置のハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0011】
添付図面を参照して、本発明の好適な実施形態(以下、「本実施形態」という)について説明する。なお、各図において、同一の符号を付したものは、同一または同様の構成を有する。
【0012】
本発明において、「部」、「手段」、「装置」、または「システム」とは、単に物理的手段を意味するものではなく、その「部」、「手段」、「装置」、または「システム」が有する機能をソフトウェアによって実現する場合も含む。また、1つの「部」、「手段」、「装置」、または「システム」が有する機能が、物理的手段、装置、またはソフトウェア・モジュールの2つ以上の組み合わせにより実現されても、2つ以上の「部」、「手段」、「装置」、または「システム」の機能が、1つの物理的手段、装置、またはソフトウェア・モジュールにより実現されても良い。
【0013】
<1.システム構成>
図1を参照して、本実施形態に係るデータ管理システム1のシステム構成の例を説明する。データ管理システム1は、現実空間にある1以上の対象物(以下、単に「対象物」ともいう)を撮影した画像を含むデータ(以下、「画像データ」ともいう)を管理し、利用者に提供するためのシステムである。利用者は、データ管理システム1が提供する画像データを、例えば、仮想空間の構築、またはカーナビゲーション、天気予測もしくは電気設備点検のための地図情報の生成などに利用する。画像データに含まれる画像は、例えば、動画でもよいし、静止画でもよい。
【0014】
データ管理システム1では、画像データの利用態様に応じて、画像データから、対象物、および当該対象物を構成する1以上の構成要素(以下、単に「構成要素」ともいう)のうち、利用者にとって不要なものを除去する。ここで、対象物は、現実空間にある実在物であればどのような物でもよく、例えば、現実空間における店舗などの建造物、人物、動物、植物、移動体(例えば、電車、車および/またはドローンなど)などであってもよい。また、対象物は、例えば、現実空間において一定の領域を占めるもの(例えば、空および/または街中の特定区域など)であってもよい。
【0015】
対象物および構成要素の単位は、例えば、ユーザからの要求に応じて設定されてもよいし、複数のユーザに共通で設定されてもよい。例えば、対象物の単位を「道路」として「車道」および「歩道」のそれぞれを構成要素とするか、もしくは「車道」および「歩道」のそれぞれを対象物とするかについて任意で設定できてもよい。
【0016】
画像データは、2次元もしくは3次元の画像を含んでもよい。また、画像データは、これらの画像に付帯する情報(以下、「付帯情報」ともいう)を含んでもよい。付帯情報は、例えば、画像が撮影された日時(以下、「撮影日時」ともいう)を示す撮影日時情報、および/または画像が撮影された位置(以下、「撮影位置」ともいう)を示す撮影位置情報を含んでもよい。また、付帯情報は、例えば、画像データの場合、画質に関する情報を含んでもよい。画質に関する情報とは、例えば、画像の色味または明るさなどであってもよい。また、付帯情報は、画像データに付されたコメント(アノテーションを含む)を示すコメント情報を含んでもよい。このコメントは、建造物が店舗であれば、この店舗を特定するための情報であってもよい。
【0017】
図1に示すように、データ管理システム1は、画像データを管理し提供するサーバ装置100と、サーバ装置100が提供する加工済みの画像データ(以下、「加工データ」ともいう)を利用する利用者が使用する利用者装置200と、画像データに示された対象物の利用に関する権利を示す利用権(以下、単に「利用権」ともいう)の許諾権者が使用する許諾権者装置300と、を含む。サーバ装置100と、利用者装置200と、許諾権者装置300とは、ネットワークNを介して互いに接続されている。加工データを利用する利用者と利用権の許諾権者(以下、単に「許諾権者」ともいう)とは、データ管理システム1のユーザである。なお、利用者装置200許諾権者装置300とは、特に区別の必要がない場合、総称して「ユーザ装置」ともいう。
【0018】
利用権は、例えば、対象物の利用に関する知的財産権法(例えば、著作権法、商標法または意匠法など)、および/または個人情報保護法などの法律で定義された権利であってもよい。また、利用権は、例えば、プライバシー権であってもよい。
【0019】
許諾権者は、例えば、利用権の権利者、権利者から権限を委任または委譲された者、または権利者団体の事業者などであってもよい。
【0020】
ネットワークNは、無線ネットワークまたは有線ネットワークにより構成される。ネットワークNの一例としては、携帯電話網又は、PHS(Personal Handy-phone System)網、無線LAN(Local Area Network、IEEE802.11に準拠する通信(いわゆるWI/Fi(登録商標))を含む)、3G(3rd Generation)、LTE(Long Term Evolution)、4G(4th Generation)、5G(5th Generation)、WiMax(登録商標)、赤外線通信、可視光通信、Bluetooth(登録商標)、有線LAN、電話線、電力線通信ネットワーク、IEEE1394などに準拠したネットワークがある。
【0021】
[サーバ装置]
サーバ装置100は、ユーザ装置、および外部システム500との通信が可能な情報処理装置である。サーバ装置100は、例えば、データ管理システム1を運営する者(以下、単に「運営者」ともいう)が使用する装置である。サーバ装置100は、所定のプログラム(以下、「サーバプログラム」ともいう)を実行することにより、画像データに加工を施して加工データを生成し、利用者に対してこの加工データを提供するなど、画像データおよび加工データを管理する。
【0022】
[ユーザ装置]
ユーザ装置は、例えば、スマートフォンまたはラップトップ、ヘッドマウントディスプレイなどの情報処理装置であり、ユーザに対して加工データを出力したり、画像データの加工に関する各種要求をユーザから受け付けたり、サーバ装置100との通信を行うことが可能である。
【0023】
ユーザ装置には、例えば、所定のプログラム(以下、「ユーザプログラム」ともいう)として、データ管理システム1専用のアプリケーションプログラム(以下、「データ管理アプリ」という)がインストールされてもよい。データ管理アプリは、例えば、各ユーザに対してデータ管理システム1を利用するためのユーザIFを提供するネイティブアプリであってもよい。ユーザ装置は、アプリケーションストアやサーバ装置100などからインストールしてデータ管理アプリを使用する。
【0024】
ユーザプログラムは、例えば、データ管理アプリの他に、Webブラウザ、またはデータ管理システム1用に提供されたホワイトレーベルを利用して実装されたサードパーティによるアプリなどであってもよい。また、例えば、データ管理システム1では、VRアプリとWebブラウザのどちらもユーザIFとして利用できるようにしてもよい。
【0025】
[外部システム]
外部システム500は、いわゆるサードパーティシステムである。外部システム500は、例えば、ユーザの画像データを管理するオンラインストレージサービス、ユーザの画像データが登録されたSNSサービス、またはユーザの画像データが登録されたホームページ・ブログ作成サービスを提供するシステムであってもよい。
【0026】
<2.概要>
図2~7を参照して、本実施形態に係るデータ管理システム1の概要を説明する。
【0027】
<2-1.画像データの加工>
まず、図2~3を参照して、データ管理システム1が画像データに施す加工の一例を説明する。本例では、画像データを、空、店舗および住宅などの建造物、オートバイ、並びに車およびバスなどの移動体を撮影した写真画像Dとする。また、本例では、写真画像Dを、利用者は仮想空間(以下、「VR」ともいう)の構築に利用するものとする。
【0028】
(1)図2に示すように、サーバ装置100は、ユーザ装置、外部システム500、または記憶部130から、画像データとして写真画像Dを取得する。
【0029】
(2)サーバ装置100は、写真画像Dの利用態様がVRの構築のための素材として利用することである場合、この利用態様に対応する除去条件(図2では、「VR用」と表記)であって除去対象を特定するための除去条件を特定する。除去対象は、画像データから除去する対象である。
【0030】
(3)サーバ装置100は、写真画像Dに示された対象物、および構成要素の少なくともいずれかを特定する。本例において対象物は、例えば、空、店舗および住宅などの建造物、オートバイ、並びに車およびバスなどの移動体などである。また、本例において構成要素は、例えば対象物が店であれば、店の看板、ドアまたは外壁などのこの店を構成するものである。サーバ装置100は、上記(2)で特定された除去条件を示す情報(以下、「除去条件情報」ともいう)に基づいて、特定した1以上の対象物および1以上の構成要素のうち、除去対象を特定する。本例では、除去条件を、走行している自動車、走行しているバイク、および青い空を除去対象とする条件とし、これらを除去対象として特定するものとする。
【0031】
(4)サーバ装置100は、上記(3)で特定された除去対象を写真画像Dから除去するための加工(以下、「第1加工」ともいう)を施す。具体的には、サーバ装置100は、写真画像Dに対して、画像処理して除去対象を除くようトリミングする。写真画像Dに第1加工を施したものを、第1加工データD1として生成する。
【0032】
(5)図3に示すように、上記図2の(4)で生成された第1加工データD1に示された1以上の対象物のうち、1以上の対象物のそれぞれの利用権について保護すべき対象(以下、「保護対象」ともいう)を特定する。本例では、サーバ装置100が、住宅の表札(図3では、「日本」と表記)、店舗の看板(図3では、「ABC」と表記)および東京タワーを保護対象として特定するものとする。
【0033】
(6)サーバ装置100は、現実空間の実在物の利用権の許諾の有無を示す情報(以下、「許諾情報」ともいう)に基づいて、上記(5)で特定された保護対象の許諾の有無を判定する。
【0034】
(7)サーバ装置100は、第1加工データD1に対して、上記(5)で特定された保護対象であって、上記(6)で許諾が無いと判定された保護対象を利用しないよう加工(以下、「第2加工」ともいう)を施す。具体的には、サーバ装置100は、第1加工データD1に対して、画像処理して許諾の無い保護対象を視認不可能とするようマスキングをする。第1加工データD1に第2加工を施したものを、第2加工データD2として生成する。
【0035】
(8)サーバ装置100は、上記(7)で生成した第2加工データD2を、VRの構築のために、利用者装置200に提供する(言い換えれば、利用者装置200に送信する)。
【0036】
上記構成のもと、データ管理システム1では、写真画像Dの利用態様に対応する除去条件を特定しこの特定した除去条件に基づいて、不要なものを除去することができる。このため、画像データの利用態様をふまえて、この画像データから不要なものを除去することができる。
【0037】
上記構成のもと、データ管理システム1では、不要なものを除去した第1加工データで保護対象の利用権の許諾の有無を判定したり第2加工を施したり後続の処理を実行させることができる。このため、後続の処理の効率化を図ることができる。
【0038】
<2-2.データ管理システム全体が実行する処理の流れ>
次に、図4~7を参照して、データ管理システム1が実行する処理の流れの一例を説明する。
【0039】
図4~7に示すように、データ管理システム1は、例えば、A)データ除去システム、B)許諾判定システム、C)コンテンツ管理システムの3つのサブシステムから構成されているものとする。また、3つのサブシステムのそれぞれが実現する機能は、以下のとおり分類される。サブシステム1では、分類した機能間において互いに連携(情報連携および/または機能連携を含む。以下同じ。)を行う。例えば、A)データ除去システムの機能を、A1)、A2)などの連番を振って説明する。
A)データ除去システム:A1)画像分解機能、A2)画像処理機能、A3)除去対象管理機能、A4)ユーザインタフェース(UI)機能
B)許諾判定システム:B1)許諾判定機能、B2)マスキング設定機能
C)コンテンツ管理システム:C1)ライセンス管理DB、C2)コンテンツ管理DB、C3)コンテンツ登録制御機能
【0040】
<2-2-1.利用権の許諾が無い保護対象を画像データが含む場合>
図4を参照して、データ管理システム1において、利用権の許諾が無い保護対象を画像データが含む場合における、画像データの取得からこの画像データを加工した加工データの出力までの処理の一例を説明する。
【0041】
<A4)ユーザインタフェース(UI)機能>
(1)図4に示すように利用者装置200は、サーバ装置100に対して、利用者が指定する除去条件の登録要求をする。サーバ装置100の受付部116は、この登録要求を受け付ける。
【0042】
<A3)除去対象管理機能>
(2)サーバ装置100の受付部116は、上記(1)で受け付けた登録要求に示された除去条件を、除去条件情報として記憶部130に登録する。
【0043】
<A1)画像分解機能>
(3)サーバ装置100の画像取得部111aは、外部システム500またはユーザ装置などから、画像データを取得する。(4)サーバ装置100の対象物特定部112aは、この取得された画像データに示された1以上の対象物のそれぞれ、および対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する。
【0044】
<A2)画像処理機能>
(5)サーバ装置100の除去対象特定部112bは、利用情報に基づいて、上記(4)で特定された1以上の対象物および1以上の構成要素のうち、画像データから除去する対象である除去対象を特定する。
【0045】
利用情報は、画像データの利用態様に関する情報である。利用情報は、例えば、1以上の対象物のそれぞれの利用に関する利用目的、利用期間、および利用方法の少なくともいずれかを含んでもよい。また、利用情報は、例えば、利用目的ごとの除去条件を示す除去条件情報を含んでもよい。利用目的は、例えば、私的利用か否か、言い換えれば商用利用か否かを示すものであってもよい。また、利用目的は、商用利用である場合、例えば、さらに詳細な目的として、仮想空間の構築、またはカーナビゲーション、天気予測もしくは電気設備点検のための地図情報の生成などを含んでもよい。
【0046】
(6)サーバ装置100の第1加工部113aは、上記(5)で特定された除去対象を除去するための第1加工を画像データに施して、第1加工データを生成する。(7)第1加工部113aは、第1加工として、除去対象を画像データから除去する処理に加え、除去された箇所について、別の画像データの画像を合成(いわゆる、マスク合成)させたり、色付けを行ったりして画像データを補正する処理を実行してもよい。
【0047】
<B1)許諾判定機能>
(8)サーバ装置100の保護対象特定部112cは、第1加工データに示された1以上の対象物のうち、利用権について保護すべき対象である1以上の保護対象を特定する。
【0048】
(9)サーバ装置100の許諾取得部111cは、記憶部130から許諾情報を取得する。サーバ装置100の判定部114は、取得された許諾情報に基づいて、上記(8)で特定された1以上の保護対象のそれぞれについて、利用権の許諾の有無を判定する。本例では、許諾が無いと判定された保護対象が第1加工データに含まれているものとする。
【0049】
<B2)マスキング設定機能>
(10)サーバ装置100の第2加工部113bは、上記(8)で許諾が無いと判定された1以上の保護対象のそれぞれを利用しないよう第2加工を第1加工データに施して、第2加工データを生成する。第2加工部113bは、具体的には、許諾が無いと判定された1以上の保護対象のそれぞれをマスキングする。
【0050】
<B3)コンテンツ管理DB機能>
(11)サーバ装置100の第2加工部113bは、上記(10)で生成した第2加工データを記憶部130に登録する(言い換えれば、記憶部130に記憶させる)。(12)サーバ装置100の出力部117は、利用者からの要求に応じて、第2加工データが示す加工画像を、利用者装置200が備えるデータ管理アプリまたはWebブラウザの画面に出力させる。
【0051】
<2-2-2.利用権の許諾が無い保護対象を画像データが含まない場合>
図5を参照して、データ管理システム1において、利用権の許諾が無い保護対象を画像データが含まない場合における、画像データの取得からこの画像データを加工した加工データの出力までの処理の一例を説明する。なお、本例の(1)~(8)は、上記図4の例の(1)~(8)までと同じため、説明を割愛する。
【0052】
<B1)許諾判定機能>
(9)図5に示すように、サーバ装置100の許諾取得部111cは、記憶部130から許諾情報を取得する。サーバ装置100の判定部114は、取得された許諾情報に基づいて、上記(8)で特定された1以上の保護対象のそれぞれについて、利用権の許諾の有無を判定する。本例では、許諾が無いと判定された保護対象が第1加工データに含まれていないものとする。
【0053】
<B3)コンテンツ管理DB機能>
(10)サーバ装置100の許諾取得部111cは、上記(8)で許諾が無いと判定された1以上の保護対象が第1加工データに含まれない場合には、第1加工データを加工せずにそのまま記憶部130に登録する。(11)サーバ装置100の出力部117は、第1加工データが示す加工画像を、利用者からの要求に応じて、利用者装置200が備えるデータ管理アプリまたはWebブラウザの画面に出力させる。
【0054】
<2-2-3.利用権の許諾が無い保護対象について許諾権者から許諾を得る場合>
図6を参照して、データ管理システム1において、利用権の許諾が無い保護対象について、事後的に許諾権者から許諾を得る場合における処理の一例を説明する。
【0055】
<C3)コンテンツ登録制御機能>
(1)図6に示すように、サーバ装置100の要求部115は、許諾が無いと判定された保護対象について、許諾権者に対して、利用権の許諾を得るための許諾要求をする。具体的には、要求部115は、この許諾要求を、許諾権者の許諾権者装置300に送信する。(2)許諾権者装置300は、サーバ装置100に対して、許諾権者から受け付けた、この許諾要求に対して許諾をするか否かを示す応答をする。サーバ装置100の受付部116は、この応答を受け付ける。
【0056】
<C4)ライセンス管理DB機能>
(3)サーバ装置100の更新部116aは、上記(2)で受け付けた応答に基づいて、許諾要求の対象である保護対象について、許諾無しから許諾有りにするよう許諾情報を更新する。
【0057】
<B1)許諾判定機能>
(4)サーバ装置100の判定部114は、更新された許諾情報に基づいて、許諾要求の対象である保護対象について、利用権の許諾の有無を再判定する。本例では、この再判定の結果は、この保護対象について許諾が有ることを示す。
【0058】
<B2)マスキング設定機能>
(5)サーバ装置100の第2加工部113bは、許諾をすることを上記応答が示す場合、すなわち、上記(4)で再判定において保護対象について許諾が有ると判定された場合、許諾要求の対象である保護対象について、第2加工の前の状態に戻すよう、記憶部130に登録されていた第2加工データを加工する。具体的には、第2加工部113bは、この保護対象に施されたマスキングを解除して、第2加工データから第1加工データに戻してもよい。
【0059】
<C2)コンテンツ管理DB機能>
(6)サーバ装置100の第2加工部113bは、許諾要求の対象である保護対象について、記憶部130に登録されていた第2加工データを第2加工の前の状態に戻したデータ(例えば、第1加工データ)で更新するよう記憶部130に更新登録する。(7)サーバ装置100の出力部117は、更新登録された加工データが示す加工画像を、利用者からの要求に応じて、利用者装置200が備えるデータ管理アプリまたはWebブラウザの画面に出力させる。
【0060】
<2-2-4.利用権の許諾が有る保護対象について許諾が取り消される場合>
図7を参照して、データ管理システム1において、利用権の許諾が有る保護対象について、許諾権者から許諾の取り消される場合における処理の一例を説明する。
【0061】
<C3)コンテンツ登録制御機能>
(1)図7に示すように、許諾権者は、許諾権者装置300から、サーバ装置100に対して、利用権の許諾をした保護対象についてこの許諾を取り消すための取り消し要求をする。サーバ装置100の受付部116は、この取り消し要求を受け付ける。
【0062】
<C4)ライセンス管理DB機能>
(2)サーバ装置100の更新部116aは、上記(2)で受け付けた取り消し要求に基づいて、取り消し要求の対象である保護対象について、許諾有りから許諾無しにするよう許諾情報を更新する。
【0063】
<B1)許諾判定機能>
(3)サーバ装置100の判定部114は、更新された許諾情報に基づいて、許諾要求の対象である保護対象について、利用権の許諾の有無を再判定する。本例では、この再判定の結果は、この保護対象について許諾が無いことを示す。
【0064】
<B2)マスキング設定機能>
(4)サーバ装置100の第2加工部113bは、許諾を取り消す要求を受け付けた場合、すなわち、上記(3)で再判定において保護対象について許諾が無いと判定された場合、取り消し要求の対象である保護対象について、記憶部130に登録されていた第1加工データに対して、利用しないよう第2加工を施す。具体的には、第2加工部113bは、この保護対象にマスキングする。
【0065】
<C2)コンテンツ管理DB機能>
(5)サーバ装置100の第2加工部113bは、取り消し要求の対象である保護対象について、第2加工を施した第1加工データを第2加工データとして、登録されていた第1加工データをこの第2加工データで更新するよう記憶部130に更新登録する。(6)サーバ装置100の出力部117は、更新登録された加工データが示す加工画像を、利用者からの要求に応じて、利用者装置200が備えるデータ管理アプリまたはWebブラウザの画面に出力させる。
【0066】
<3.機能構成>
次に、図8を参照して、本実施形態に係るサーバ装置100の機能構成を説明する。図8に示すように、サーバ装置100は、制御部110と、通信部120と、記憶部130と、を備える。
【0067】
制御部110は、取得部111と、特定部112と、加工部113と、を備える。また、制御部110は、例えば、判定部114、要求部115、受付部116、および/または出力部117を備えてもよい。
【0068】
[取得部]
取得部111は、ユーザ装置、または外部システム500から、各種要求および/または各種情報を取得する。
【0069】
取得部111は、画像取得部111aを備える。画像取得部111aは、記憶部130、ユーザ装置または外部システム500から、現実空間にある1以上の対象物を撮影した画像データを取得する。
【0070】
取得部111は、利用取得部111bを備える。利用取得部111bは、記憶部130、ユーザ装置または外部システム500から、画像データの利用態様に関する利用情報を取得する。
【0071】
取得部111は、許諾取得部111cを備える。許諾取得部111cは、記憶部130、ユーザ装置または外部システム500から、現実空間にある実在物の利用に関する権利を示す利用権に対する許諾権者からの許諾を示す許諾情報を取得する。
【0072】
[特定部]
特定部112は、画像データまたは加工データに示された対象物および/または構成要素のうち、対象物、構成要素、除去対象および/または保護対象(以下、これらを総称して「特定物」ともいう)を特定する。
【0073】
特定部112は、例えば、画像認識の技術を用いて、特定物を特定してもよい。特定部112は、例えば、パターン認識の技術により、画像データから特徴量を抽出し、抽出した特徴量と、予め記憶部130に登録されている各クラス(例えば、各対象物または各構成要素などが相当)のクラス辞書とを照合して、特定物がどのクラスに属するかを特定してもよい。この特徴量は、例えば、画像に含まれる形状の特徴量および/またはテクスチャの特徴量などであってもよい。具体的には、特定部112は、抽出した特徴量と各クラスとの距離を算出し、この算出した距離が最小値となるクラスに特定物を分類してもよい。また、特定部112は、学習データとしてサンプル画像の画像群から特徴量を抽出し、機械学習の技術を用いて、この抽出した特徴量を入力させてクラス確率を出力する識別モデルを学習させてもよい。そして、特定部112は、画像データから特徴量を抽出し、この学習させた識別モデルを用いて各クラスのクラス確率を算出し、最大のクラス確率となるクラスに特定物を分類してもよい。機械学習の技術は、例えば、教師あり学習としてサポートベクトルマシンまたはランダムフォレスト、または深層学習としてニューラルネットワークなどであってもよい。また、学習データとするサンプル画像群を示すサンプル画像データ群は記憶部130に登録されていてもよい。また、学習データは、例えば、対象物もしくは構成要素、またはこれらのカテゴリを示すタグ情報を含んでもよい。
【0074】
特定部112は、例えば、1以上の対象物のそれぞれ、および対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかの特定にあたって、画像に示された対象物または構成要素を構成する領域を分割する領域分割処理を行ってもよい。特定部112は、領域分割処理により、画像データの画像から対象物および構成要素を抽出することができる。
【0075】
特定部112は、対象物特定部112aを備える。対象物特定部112aは、画像データに示された1以上の対象物のそれぞれ、および対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する。
【0076】
特定部112は、除去対象特定部112bを備える。除去対象特定部112bは、利用情報に基づいて、1以上の対象物および1以上の構成要素のうち、画像データから除去する対象である除去対象を特定する。
【0077】
除去対象特定部112bは、例えば、除去条件情報が示す除去条件に基づいて、除去対象を特定してもよい。
【0078】
ここで、図9(a)を参照して、除去条件情報のデータ構成の一例を説明する。図9(a)に示すように、除去条件情報は、利用目的ごとに、各対象物を除去対象とするか否かを示してもよい。除去条件情報は、利用目的が「カーナビゲーション」の場合、対象物である「空」および「電線」などは除去対象とし、他方、「道路」および「電柱」は除去対象としなくてもよい。また、除去条件情報は、利用目的が「天気予測」の場合、対象物である「空」などは除去対象とせず、他方、「道路」、電柱」および「電線」などは除去対象としてもよい。
【0079】
上記構成によれば、利用目的ごとに設定された除去条件に基づいて特定された除去対象を画像データから除去させることができる。
【0080】
図8に戻って説明を続ける。特定部112は、保護対象特定部112cを備える。保護対象特定部112cは、第1加工データに示された1以上の対象物のうち、利用権について保護すべき対象である1以上の保護対象を特定する。保護対象特定部112cは、例えば、許諾情報に基づいて、1以上の保護対象を特定してもよい。許諾情報は、例えば、利用権における、1以上の対象物のそれぞれの利用に関する許可する利用目的、許可する利用期間、および禁止する利用態様の少なくともいずれかを含んでもよい。
【0081】
ここで、図9(b)を参照して、許諾情報のデータ構成の一例を説明する。図9(b)に示すように、許諾情報は、保護対象ごとに、対象物のカテゴリ(以下、単に「カテゴリ」ともいう)、利用目的(本例では、メタバースでの利用と商用利用)ごとの許可の有無、許可する利用範囲、許可する利用期間(図9(b)では「許諾期間」と表記)、禁止する利用態様(図9(b)では「禁止事項」と表記)、および/または備考(例えば、除外事項など)を含んでもよい。また、保護対象の単位は、個別の対象物(例えば、建築の著作物のカテゴリに属する東京タワー)としてもよいし、同一カテゴリの対象物全般(例えば、看板のカテゴリに属する対象物全てなど)としてもよい。このような構成によれば、商標またはロゴなどの商標法または不正競争防止法で保護されている構成要素を含む蓋然性が高い看板などのカテゴリについては、一律に保護対象として特定させることができる。
【0082】
上記構成によれば、許可する利用目的、許可する利用期間、および禁止する利用態様をふまえて許諾の有無を判定することができる。このため、より的確でより精密な判定を実現することができる。
【0083】
[加工部]
図8に戻って説明を続ける。加工部113は、画像データまたは加工データを加工する。加工部113は、加工する前のデータの一部または全部については、記憶部130にバックアップとして別に保管するようにしてもよいし、加工後のデータで上書き更新してもよいし、一定期間が経過したら削除するようにしてもよい。加工部113は、加工する前のデータの一部または全部について、保管しない場合には、加工する前の画像そのもの(例えば、東京タワーを示す画像)は削除して、付帯情報(例えば、東京タワーを特定できる情報(地名や位置座標)など)のみ残してもよい。
【0084】
加工部113は、第1加工部113aを備える。第1加工部113aは、除去対象を除去するための第1加工を画像データに施して、第1加工データを生成する。第1加工部113aは、例えば、除去対象が背景(例えば、空)などの領域の場合、クロマキー処理を行い、この領域を切り分けてもよい。
【0085】
上記構成によれば、第1加工部113aは、画像データの利用態様に対応する除去条件により特定した不要なものを画像データから除去することができる。このため、画像データの利用態様をふまえて、この画像データから不要なものを除去することができる。
【0086】
加工部113は、第2加工部113bを備える。第2加工部113bは、許諾が無いと判定された1以上の保護対象のそれぞれを利用しないよう第2加工を第1加工データに施して、第2加工データを生成する。第2加工部113bは、具体的には、許諾が無いと判定された1以上の保護対象のそれぞれをマスキングする。第2加工部113bが行うマスキングの処理は、例えば、モザイク処理、塗りつぶし処理、トリミング処理、周囲の対象物などと同化させる処理(例えば、東京タワーを周辺の木に同化させる)、または別の画像をマスク合成して置き換える処理(例えば、東京タワーを別の画像に示された鉄塔に置き換える)であってもよい。
【0087】
上記構成によれば、第2加工部113bは、許諾が無い保護対象を利用しないようにデータを加工することができる。このため、利用者が利用権の許諾を許諾権者から得る必要がなく、利用者にとって使い勝手のよい加工データを提供することができる。
【0088】
第2加工部113bは、例えば、許諾をすることを許諾権者からの応答が示す場合、許諾要求の対象である保護対象について、第2加工の前の状態に戻すよう第2加工データを加工してもよい。
【0089】
[判定部]
判定部114は、許諾情報に基づいて、1以上の保護対象のそれぞれについて、利用権の許諾の有無を判定する。また、判定部114は、更新部116aにより更新された許諾情報に基づいて、1以上の保護対象のそれぞれについて、利用権の許諾の有無を再判定してもよい。このような構成によれば、許諾権者からの許諾の取り消し要求により許諾無しに更新された許諾情報により許諾の有無を再判定することができる。このため、許諾権者の意向により許諾の状態を最新化させることができる。よって、許諾権者にとっても使い勝手のよいデータ管理システムを実現することができる。
【0090】
[要求部]
要求部115は、判定部114により許諾が無いと判定された保護対象について、許諾権者に対して、この保護対象の利用権の許諾を得るための許諾要求をする。
【0091】
[受付部]
受付部116は、ユーザからの各種要求または各種要求に対する応答を受け付ける。受付部116は、例えば、要求部115による許諾要求に対して許諾をするか否かを示す許諾権者からの応答を受け付ける。
【0092】
受付部116は、例えば、許諾権者が利用権の許諾をした保護対象について、この許諾を取り消すための取り消し要求を受け付けてもよい。
【0093】
受付部116は、例えば、更新部116aを備えてもよい。更新部116aは、例えば、受付部116が受け付けた取り消し要求に基づいて、記憶部130に登録されている許諾情報を更新する。
【0094】
[出力部]
出力部117は、ユーザ装置に、各種情報を出力させる。出力部117は、例えば、加工データに基づいて、加工データに含まれる加工された加工画像を出力させるための出力情報を生成し、ユーザ装置にこの出力情報を送信してもよい。
【0095】
[通信部]
通信部120は、ネットワークNを介して、ユーザ装置、および/または外部システム500との間で、各種情報を送受信する。
【0096】
[記憶部]
記憶部130は、データ管理システム1で処理される画像データ、加工データ、利用情報、および/または許諾情報などの各種情報を記憶する。記憶部130は、例えば、これらの情報を相互に関連付けて記憶してもよい。記憶部130は、データベースマネジメントシステム(DBMS)を利用して各種情報を記憶してもよいし、ファイルシステムを利用して各種情報を記憶してもよい。DBMSを利用する場合は、情報ごとにテーブルを設けて、このテーブル間を関連付けて各種情報を管理してもよい。
【0097】
<4.動作例>
次に、図10を参照して、サーバ装置100の動作例を説明する。なお、以下に示す処理の順番は一例であって、適宜、変更されてもよい。
【0098】
図10に示すように、サーバ装置100の画像取得部111aは、画像データを取得する(S10)。利用取得部111bは、取得された画像データの利用情報を取得する(S11)。
【0099】
対象物特定部112aは、画像データに示された1以上の対象物のそれぞれ、および前記対象物を構成する1以上の構成要素のそれぞれの少なくともいずれかを特定する(S12)。除去対象特定部112bは、利用情報に基づいて、1以上の対象物および1以上の構成要素のうち、画像データから除去する対象である除去対象を特定する(S13)。
【0100】
第1加工部113aは、上記特定された除去対象を除去するための第1加工を画像データに施して、第1加工データを生成する(S14)。
【0101】
許諾取得部111cは、許諾情報を取得する(S15)。保護対象特定部112cは、第1加工データに示された1以上の対象物のうち、利用権について保護すべき対象である1以上の保護対象を特定する(S16)。判定部114は、許諾情報に基づいて、1以上の保護対象のそれぞれについて、許諾の有無を判定する(S17)。
【0102】
許諾が無いと判定された保護対象が1つ以上ある場合(S18のYes)、第2加工部113bは、この1以上の保護対象のそれぞれを利用しないよう第2加工を第1加工データに施して、第2加工データを生成する(S19)。
【0103】
加工部113は、加工されたデータを記憶部130に登録する(S20)。
【0104】
<5.ハードウェア構成>
最後に、図11を参照して、上述してきたサーバ装置100をコンピュータ800により実現する場合のハードウェア構成の一例を説明する。なお、それぞれの装置の機能は、複数台の装置に分けて実現することもできる。
【0105】
図11に示すように、コンピュータ800は、プロセッサ801と、メモリ803と、記憶装置805と、入力I/F部807と、データI/F部809と、通信I/F部811、及び表示装置813を含む。
【0106】
プロセッサ801は、メモリ803に記憶されているプログラムを実行することによりコンピュータ800における様々な処理を制御する。例えば、サーバ装置100の制御部110が備える各機能部などは、メモリ803に一時記憶されたプログラムを、プロセッサ801が実行することにより実現可能である。
【0107】
メモリ803は、例えばRAM(Random Access Memory)などの記憶媒体である。メモリ803は、プロセッサ801によって実行されるプログラムのプログラムコードや、プログラムの実行時に必要となるデータを一時的に記憶する。
【0108】
記憶装置805は、例えばハードディスクドライブ(HDD)やフラッシュメモリなどの不揮発性の記憶媒体である。記憶装置805は、オペレーティングシステムや、上記各構成を実現するための各種プログラムを記憶する。この他、記憶装置805は、画像データ、加工データ、利用情報、許諾情報または出力情報などの各種情報を登録するテーブルと、当該テーブルを管理するDBを記憶することも可能である。このようなプログラムやデータは、必要に応じてメモリ803にロードされることにより、プロセッサ801から参照される。
【0109】
入力I/F部807は、ユーザからの入力を受け付けるためのデバイスである。入力I/F部807の具体例としては、キーボードやマウス、タッチパネル、各種センサ、ウェアラブル・デバイスなどが挙げられる。入力I/F部807は、例えばUSB(Universal Serial Bus)などのインタフェースを介してコンピュータ800に接続されても良い。
【0110】
データI/F部809は、コンピュータ800の外部からデータを入力するためのデバイスである。データI/F部809の具体例としては、各種記憶媒体に記憶されているデータを読み取るためのドライブ装置などがある。データI/F部809は、コンピュータ800の外部に設けられることも考えられる。その場合、データI/F部809は、例えばUSBなどのインタフェースを介してコンピュータ800へと接続される。
【0111】
通信I/F部811は、コンピュータ800の外部の装置と有線または無線により、ネットワークNを介したデータ通信を行うためのデバイスである。通信I/F部811は、コンピュータ800の外部に設けられることも考えられる。その場合、通信I/F部811は、例えばUSBなどのインタフェースを介してコンピュータ800に接続される。
【0112】
表示装置813は、各種情報を表示するためのデバイスである。表示装置813の具体例としては、例えば液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、ウェアラブル・デバイスのディスプレイなどが挙げられる。表示装置813は、コンピュータ800の外部に設けられても良い。その場合、表示装置813は、例えばディスプレイケーブルなどを介してコンピュータ800に接続される。また、入力I/F部807としてタッチパネルが採用される場合には、表示装置813は、入力I/F部807と一体化して構成することが可能である。
【0113】
なお、上記実施形態は、本発明を説明するための例示であり、本発明をその実施の形態のみに限定する趣旨ではない。また、本発明は、その要旨を逸脱しない限り、さまざまな変形が可能である。さらに、当業者であれば、上記に述べる各要素を均等なものに置換した実施の形態を採用することが可能であり、かかる実施の形態も本発明の範囲に含まれる。
【0114】
また、上記実施形態で記載されたサーバ装置が備える構成要素は、記憶装置805に格納されたプログラムがプロセッサ801によって実行されることで、定められた処理が他のハードウェアと協働して実現されるものとする。また、言い換えれば、これらの構成要素は、ソフトウェアまたはファームウェアとしても、それと対応するハードウェアとしても想定され、その双方の概念において、「機能」、「手段」、「部」、「処理回路」、「ユニット」、または「モジュール」などとも記載され、またそれぞれに読み替えることができる。
【0115】
[変形例]
なお、本発明を上記実施形態に基づいて説明してきたが、以下のような場合も本発明に含まれる。
【0116】
[変形例1]
上記実施形態では、クライアントサーバ形式を例に説明したが、本発明に係るデータ管理システムはこれに限定されない。本発明に係るデータ管理システムは、例えば、エッジ側のユーザ装置のみで実現するP2P形式(スター型またはフルメッシュ型)を採用してもよい。この場合、サーバ装置100が備える各構成の全部または一部は、ユーザ装置が備えていてもよい。ユーザ装置は、例えば、インストールされたデータ管理アプリを実行することで、サーバ装置100の制御部110が備える各機能部の機能を実現してもよい。
【0117】
[変形例2]
上記実施形態では、画像データ、加工データ、利用情報および/または許諾情報を記憶する記憶部をサーバ装置100の記憶部とする例を示したが、本発明をこれに限る趣旨ではない。例えば、これらの記憶部の少なくとも一部は、外部システム500の装置が備えてもよい。
【符号の説明】
【0118】
1…データ管理システム、100…サーバ装置、110…制御部、111…取得部、112…特定部、113…加工部、114…判定部、115…要求部、116…受付部、117…出力部、120…通信部、130…記憶部、200…利用者装置、300…許諾権者装置、500…外部システム、800…コンピュータ、801…プロセッサ、803…メモリ、805…記憶装置、807…入力I/F部、809…データI/F部、811…通信I/F部、813…表示装置。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11