特許 7275175 情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-05-09

(45)【発行日】2023-05-17

(54)【発明の名称】情報処理装置

(51)【国際特許分類】

   G06Q 50/00 20120101AFI20230510BHJP

【ＦＩ】

G06Q50/00 300

【請求項の数】 10

(21)【出願番号】P 2021031841

(22)【出願日】2021-03-01

(65)【公開番号】P2022133036

(43)【公開日】2022-09-13

【審査請求日】2021-03-01

【前置審査】

(73)【特許権者】

【識別番号】392026693

【氏名又は名称】株式会社ＮＴＴドコモ

(74)【代理人】

【識別番号】110000752

【氏名又は名称】弁理士法人朝日特許事務所

(72)【発明者】

【氏名】寛司 久人

(72)【発明者】

【氏名】黒須 さゆり

(72)【発明者】

【氏名】菊池 卓

(72)【発明者】

【氏名】後藤 昌貴

【審査官】石坂 博明

(56)【参考文献】

【文献】特開２０１４－０７８７８８（ＪＰ，Ａ）

【文献】特開２０１９－２２０１９４（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｑ １０／００－９９／００

(57)【特許請求の範囲】

【請求項1】

画像データから画像オブジェクトを抽出する抽出部と、
画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する複数の特定方法のうちいずれかを選択する選択部と、
選択された前記特定方法に従い、抽出された前記画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する特定部と
を備えることを特徴とする情報処理装置。

【請求項2】

前記選択部は、ユーザの個人情報が推測されることによって生じるリスクがある迷惑行為に応じて前記特定方法を選択する
ことを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記選択部は、ユーザの属性に応じて前記特定方法を選択する
ことを特徴とする請求項１又は２に記載の情報処理装置。

【請求項4】

前記選択部は、ユーザの指定に従って前記特定方法を選択する
ことを特徴とする請求項１～３のいずれか１項に記載の情報処理装置。

【請求項5】

前記選択部は、前記画像データが投稿されたサイト又はソーシャルネットワーキングサービスに応じて前記特定方法を選択する
ことを特徴とする請求項１～４のいずれか１項に記載の情報処理装置。

【請求項6】

前記抽出部は、前記画像データから複数の前記画像オブジェクトを抽出し、
前記特定部は、抽出された前記複数の画像オブジェクトの組み合わせに応じて、当該複数の画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する
ことを特徴とする請求項１～５のいずれか１項に記載の情報処理装置。

【請求項7】

前記抽出部は、それぞれ異なる複数の前記画像データから前記画像オブジェクトを抽出し、
前記特定部は、それぞれ異なる前記複数の画像データから抽出された複数の前記画像オブジェクトの組み合わせに応じて、当該複数の画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する
ことを特徴とする請求項１～６のいずれか１項に記載の情報処理装置。

【請求項8】

前記特定部は、前記画像データから抽出された画像オブジェクト及び前記画像データに対して付加されている付加データの組み合わせに応じて、当該画像オブジェクト及び当該付加データからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する
ことを特徴とする請求項１～７のいずれか１項に記載の情報処理装置。

【請求項9】

前記特定部により特定されたリスクに応じた処理を行う処理部を備える
ことを特徴とする請求項１～８のいずれか１項に記載の情報処理装置。

【請求項10】

前記処理部が行う処理は、抽出された前記画像オブジェクトに対して特定された前記リスクに応じた画像処理を行うこと、又は、特定された前記リスクに応じた情報をユーザに報知する報知処理を行うことを含む
ことを特徴とする請求項９に記載の情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、個人情報の保護のための技術に関する。

【背景技術】

【0002】

近年はＳＮＳ（Social Networking Service）と呼ばれるサービスが普及しているが、このＳＮＳによって共有される画像などからユーザのプライバシーに関わる個人情報が推測されるおそれが指摘されている。そこで、例えば特許文献１には、画像データからオブジェクトを抽出し、抽出したオブジェクトから、オブジェクトの信頼度に応じて人物の顔、名前、住所等の特徴部分を抽出し、抽出された特徴部分に対してモザイク等の処理を行うことで、プライバシーを保護した動画を生成する仕組みが開示されている。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０１０－２６８０５５号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ユーザの個人情報が画像から推測されるリスクは様々な状況に応じて変わり得る。そこで、本発明は、ユーザの個人情報が画像から推測されるリスクを適切に特定することを目的とする。

【課題を解決するための手段】

【0005】

上記課題を解決するため、本発明は、画像データから画像オブジェクトを抽出する抽出部と、画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する複数の特定方法のうちいずれかを選択する選択部と、選択された前記特定方法に従い、抽出された前記画像オブジェクトからユーザの個人情報が推測されることによって生じる迷惑行為のリスクを特定する特定部とを備えることを特徴とする情報処理装置を提供する。

【0006】

この構成によれば、複数の特定方法のうち選択された特定方法に従い、画像オブジェクトからユーザの個人情報が推測されるリスクが特定される。

【発明の効果】

【0007】

本発明によれば、ユーザの個人情報が画像から推測されるリスクを適切に特定することができる。

【図面の簡単な説明】

【0008】

【図1】本発明の一実施形態に係る情報処理システム１の構成の一例を示す図である。

【図2】同実施形態に係るサーバ装置２０のハードウェア構成を示す図である。

【図3】同実施形態に係るサーバ装置２０の機能構成を示す図である。

【図4】同実施形態における投稿の内容を例示する図である。

【図5】同実施形態に係るサーバ装置２０によって記憶されるデータを例示する図である。

【図6】同実施形態に係るサーバ装置２０によって記憶されるデータを例示する図である。

【図7】同実施形態に係るサーバ装置２０によって記憶されるデータを例示する図である。

【図8】同実施形態に係るサーバ装置２０の動作の一例を示すフローチャートである。

【発明を実施するための形態】

【0009】

［構成］
図１は、本実施形態に係る情報処理システム１の一例を示す図である。図１に示すように、情報処理システム１は、複数のユーザが通信端末としてそれぞれ利用する複数（図１では３つ）のユーザ端末１０と、本発明に係る情報処置装置の一例として機能するサーバ装置２０と、これらを通信可能に接続する無線通信網又は有線通信網を含むネットワーク２とを備えている。ネットワーク２は、例えばＬＴＥ（Long Term Evolution）又は５Ｇ（5th generation mobile communication system）などに準拠した無線通信網や、例えばＬＡＮ（Local Area Network）、ＷＡＮ（Wide Area Network）、公衆交換通信網（ＰＳＴＮ：Public Switched Telephone Networks）、サービス統合デジタル網（ＩＳＤＮ：Integrated Services Digital Network）又はインターネットなどの有線通信網を含んでもよい。

【0010】

本実施形態において、サーバ装置２０は、ＳＮＳ（Social Networking Service）を提供するＳＮＳ機能と、このＳＮＳによって投稿されたデータ（以下、投稿データという）を共有するユーザ間において各ユーザのプライバシーにかかわる個人情報が推測されるリスクを特定し、そのリスクに応じた処理を行う個人情報保護機能とを備えている。ただし、本発明において情報処置装置の一例として機能するサーバ装置２０においては、個人情報保護機能が必須の機能であり、ＳＮＳ機能は必ずしも備えていなくてもよい。この場合、個人情報保護機能を備えたサーバ装置は、ＳＮＳ機能を備えたＳＮＳ装置と通信可能に接続されており、ＳＮＳ装置が記憶する投稿データを取得することができるようになっている。サーバ装置２０は、ユーザ端末１０にネットワーク２を介した通信サービスを提供する通信事業者によって管理されていてもよいが、これに限定されない。サーバ装置２０は、単体のコンピュータで実現されてもよいし、複数のコンピュータの集合体によって実現されてもよい。

【0011】

ユーザ端末１０は、例えばスマートホン、ウェアラブル端末、タブレット又はパーソナルコンピュータなどの、無線又は有線を介してネットワーク２に接続可能なコンピュータである。各ユーザは自身のユーザ端末１０を用いて、サーバ装置２０が提供するＳＮＳ機能を利用することができる。各ユーザがＳＮＳ機能を利用して投稿した投稿データはサーバ装置２０に記憶され、他のユーザと共有される、つまり他のユーザによって参照可能になっている。このため、特に投稿データの共有範囲が第３者にまで広く設定されているような場合、投稿データからユーザのプライバシーに関わる個人情報が推測されるおそれがある。

【0012】

図２は、サーバ装置２０のハードウェア構成を示す図である。サーバ装置２０は、物理的には、プロセッサ２００１、メモリ２００２、ストレージ２００３、通信装置２００４及びこれらを接続するバスなどを含むコンピュータとして構成されている。これらの各装置は図示せぬ電源から供給される電力によって動作する。なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。サーバ装置２０のハードウェア構成は、図２に示した各装置を１つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。また、それぞれ筐体が異なる複数の装置が通信接続されて、サーバ装置２０を構成してもよい。

【0013】

サーバ装置２０における各機能は、プロセッサ２００１、メモリ２００２などのハードウェア上に所定のソフトウェア（プログラム）を読み込ませることによって、プロセッサ２００１が演算を行い、通信装置２００４による通信を制御したり、メモリ２００２及びストレージ２００３におけるデータの読み出し及び書き込みの少なくとも一方を制御したりすることによって実現される。

【0014】

プロセッサ２００１は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ２００１は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置（ＣＰＵ：Central Processing Unit）によって構成されてもよい。また、例えばベースバンド信号処理部や呼処理部などがプロセッサ２００１によって実現されてもよい。

【0015】

プロセッサ２００１は、プログラム（プログラムコード）、ソフトウェアモジュール、データなどを、ストレージ２００３及び通信装置２００４の少なくとも一方からメモリ２００２に読み出し、これらに従って各種の処理を実行する。プログラムとしては、後述する動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。サーバ装置２０の機能ブロックは、メモリ２００２に格納され、プロセッサ２００１において動作する制御プログラムによって実現されてもよい。各種の処理は、１つのプロセッサ２００１によって実行されてもよいが、２以上のプロセッサ２００１により同時又は逐次に実行されてもよい。プロセッサ２００１は、１以上のチップによって実装されてもよい。なお、プログラムは、ネットワーク２経由でサーバ装置２０に送信されてもよい。

【0016】

メモリ２００２は、コンピュータ読み取り可能な記録媒体であり、例えば、ＲＯＭ（Read Only Memory）、ＥＰＲＯＭ（Erasable Programmable ＲＯＭ）、ＥＥＰＲＯＭ（Electrically Erasable Programmable ＲＯＭ）、ＲＡＭ（Random Access Memory）などの少なくとも１つによって構成されてもよい。メモリ２００２は、レジスタ、キャッシュ、メインメモリ（主記憶装置）などと呼ばれてもよい。メモリ２００２は、本実施形態に係る方法を実施するために実行可能なプログラム（プログラムコード）、ソフトウェアモジュールなどを保存することができる。

【0017】

ストレージ２００３は、コンピュータ読み取り可能な記録媒体であり、例えば、ＣＤ－ＲＯＭ（Compact Disc ＲＯＭ）などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Ｂｌｕ－ｒａｙ（登録商標）ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー（登録商標）ディスク、磁気ストリップなどの少なくとも１つによって構成されてもよい。ストレージ２００３は、補助記憶装置と呼ばれてもよい。

【0018】

通信装置２００４は、ネットワーク２を介してコンピュータ間の通信を行うためのハードウェア（送受信デバイス）であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。

【0019】

プロセッサ２００１、メモリ２００２などの各装置は、情報を通信するためのバスによって接続される。バスは、単一のバスを用いて構成されてもよいし、装置間ごとに異なるバスを用いて構成されてもよい。また、サーバ装置２０は、マイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ：Digital Signal Processor）、ＡＳＩＣ（Application Specific Integrated Circuit）、ＰＬＤ（Programmable Logic Device）、ＦＰＧＡ（Field Programmable Gate Array）などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ２００１は、これらのハードウェアの少なくとも１つを用いて実装されてもよい。

【0020】

なお、サーバ装置２０は、外部からの入力を受け付ける入力デバイス（例えば、キー、スイッチ、ボタン等の各種の入力インターフェース）や、外部への出力を実施する出力デバイス（例えば、ディスプレイ、ＬＥＤランプ等の各種の出力インターフェース）を備えていてもよい。

【0021】

図３は、サーバ装置２０の機能構成を示すブロック図である。サーバ装置２０において上記の各ハードウェアが連携することによって、データ取得部２１、抽出部２２、選択部２３、記憶部２４、特定部２５、処理部２６、及び出力部２７という機能が実現される。

【0022】

データ取得部２１は、各種データを取得する。このデータは、例えばＳＮＳ機能によってサーバ装置２０に記憶された投稿データである。投稿データは、ユーザがユーザ端末１０のカメラで撮像するなどして生成された画像データと、その画像データに対して付加されたテキストデータや投稿日時データ等の付加データとを含む。テキストデータはユーザがユーザ端末１０の操作ＵＩを用いて入力したデータである。投稿日時データは、サーバ装置２０により付与されたタイムスタンプに相当するデータである。

【0023】

ここで、図４は、ユーザによる投稿の内容を例示する図である。図４では、投稿データに応じてユーザ端末１０に表示された画像１００を図示している。この画像１００には、例えば何らかの物体の画像オブジェクト１０１と、人物の画像オブジェクト１０２とが含まれている。また、画像１００には、付加データである投稿日時１０３と、投稿者たるユーザにより入力された付加データであるコメント１０４も含まれている。

【0024】

図５は、サーバ装置２０のストレージ２００３によって実現される記憶部２４に記憶された投稿データを例示する図である。図に示すように、各ユーザを識別するユーザＩＤに対応付けて、そのユーザが投稿データを投稿した日時を表す投稿日時データ及びその投稿データ（画像データ、付加データ）が記憶されている。なお、ＳＮＳ機能に関してサーバ装置２０のストレージ２００３に記憶されるデータは、図５の例示に限定されず、例えば各ユーザの属性や、各投稿データに対する、投稿者以外のユーザからのコメントデータなどが含まれていてもよい。

【0025】

図３の説明に戻り、抽出部２２は、データ取得部２１により取得された投稿データに含まれる画像データから画像オブジェクトを抽出する。ここでいう画像オブジェクトとは、例えば人間の顔を表すオブジェクト、人間が着る服を表すオブジェクト、人間や場所の名前や名称を表すオブジェクトなど、予め決められた画像オブジェクトである。画像データからこれらの画像オブジェクトを抽出する技術としては、例えば機械学習を用いた画像認識の分野において周知のアルゴリズムを用いればよい。

【0026】

さらに、抽出部２２は、画像データから抽出された複数の画像オブジェクト、及びその画像データに付加されている付加データを、各々の画像オブジェクト又は付加データが属するカテゴリに分類する。ここでいうカテゴリは、人物に関するカテゴリ（以下、whoカテゴリという）、場所に関するカテゴリ（以下、whereカテゴリという）、又は、日時に関するカテゴリ（以下、whenカテゴリという）を含む。

【0027】

ここで図６は、各カテゴリに属する画像オブジェクト及び付加データを定義したデータベースを例示する図である。このデータベースは、サーバ装置２０のストレージ２００３によって実現される記憶部２４に記憶されている。図６に例示するように、whoカテゴリに属する画像オブジェクトは、投稿データを投稿したユーザが誰であるかを第３者が推測するのに用いられる可能性がある画像オブジェクトであり、例えば人間の顔を表す顔画像オブジェクト、人間が着る制服を表す制服画像オブジェクト、人間や組織の名前を表す名前画像オブジェクトなどである。whereカテゴリに属する画像オブジェクトは、投稿データを投稿したユーザがどこに存在しているのかを第３者が推測するのに用いられる可能性がある画像オブジェクトであり、例えば施設や設備の外観を表す施設/設備画像オブジェクト、住所や場所の名称を表す住所/名称画像オブジェクト、イベントの様子を表すイベント画像オブジェクト、景色を表す景色画像オブジェクト、天気の様子を表す天気画像オブジェクトなどである。whenカテゴリに属する画像オブジェクトは、投稿データを投稿したユーザがいつ存在しているのかを第３者が推測するのに用いられる可能性がある画像オブジェクトであり、例えば何らかの物体の影の画像を表す影画像オブジェクト、時計を表す時計画像オブジェクトなどである。どのような画像オブジェクトがどのカテゴリに属するかを判定する技術については、例えば機械学習を用いた画像認識の分野において周知のアルゴリズムを用いればよい。

【0028】

また、付加データについても画像オブジェクトと同様の考え方に従い、whoカテゴリに属する付加データは、人間の名前を表すデータなどであり、whereカテゴリに属する付加データは、場所を表す場所データなどであり、whenカテゴリに属する付加データは、日時を表す日時データなどである。どのような付加データがどのカテゴリに属するかを判定する技術については、例えば構文解析や意味解析の分野において周知のアルゴリズムを用いればよい。

【0029】

図３の説明に戻り、選択部２３は、画像オブジェクト及び付加データからユーザの個人情報が推測されるリスクを特定する複数の特定方法のうちいずれかを選択する。より具体的には、選択部２３は、ユーザの個人情報が推測されることによって生じる可能性がある迷惑行為に応じて特定方法を選択する。ここでいう迷惑行為とは、例えばつきまとい、ストーカー（現実世界におけるストーカー及びネットワーク上のつきまといを含む）、詐欺、窃盗、強盗などである。ユーザがどの迷惑行為を防止したいかということはそのユーザによりユーザ端末１０を用いて入力され、サーバ装置２０に通知される。つまり、選択部２３は、ユーザの指定に従って特定方法を選択することになる。

【0030】

ここで図７は、迷惑行為ごとのリスクの特定方法を定義したデータベースを例示する図である。このデータベースは、サーバ装置２０のストレージ２００３によって実現される記憶部２４に記憶されている。図７の例示では、例えばつきまとい又はストーカーという迷惑行為については、whoカテゴリのみに属する画像オブジェクト又は付加データが投稿データに含まれる場合はユーザの個人情報が推測されるリスクが低く、whenカテゴリのみに属する画像オブジェクト又は付加データが投稿データに含まれる場合はリスクが低く、whereカテゴリのみに属する画像オブジェクト又は付加データが投稿データに含まれる場合はユーザの個人情報が推測されるリスクが中程度であり、whoカテゴリに属する画像オブジェクト又は付加データ、及び、whenカテゴリに属する画像オブジェクト又は付加データが投稿データに含まれる場合はリスクが高く、whenカテゴリに属する画像オブジェクト又は付加データ、及び、whereカテゴリに属する画像オブジェクト又は付加データが投稿データに含まれる場合はリスクが低く、whoカテゴリに属する画像オブジェクト又は付加データ、及び、whereカテゴリに属する画像オブジェクト又は付加データが投稿データに含まれる場合はリスクが高く、whoカテゴリに属する画像オブジェクト又は付加データ、whenカテゴリに属する画像オブジェクト又は付加データ及び、及び、whereカテゴリに属する画像オブジェクト又は付加データが投稿データに含まれる場合はリスクが高い。

【0031】

上記の例示は、つきまとい又はストーカーという迷惑行為においては、ユーザが誰であるか、ユーザがどこに居るか、ユーザがいつ居るか、ということがそれぞれ単独で推測されたとしてもその迷惑行為が発生するリスクは小さいが、これらのユーザが誰であるか、ユーザがどこに居るか、ユーザがいつ居るか、という情報が複数組み合わせられることで、個人情報が推測されるリスクが高くなり、その結果、つきまとい又はストーカーという迷惑行為が発生する可能性が高くなるという考え方に基づいている。ただし、これらのユーザが誰であるか、ユーザがどこに居るか、ユーザがいつ居るか、という情報が複数組み合わせられた場合であっても、ユーザがどこに居るか及びユーザがいつ居るかという情報が組み合わせられた場合は、ユーザが誰であるか及びユーザがいつ居るかという情報が組み合わせられた場合や、ユーザが誰であるか及びユーザがどこに居るかという情報が組み合わせられた場合よりも、個人情報が推測されるリスクは低く、その結果、つきまとい又はストーカーという迷惑行為が発生する可能性も低い。なお、図７の内容は単なる例示であり、迷惑行為ごとのリスクの特定方法は自由に定義し得る。

【0032】

このように、図７に例示したデータベースには、画像オブジェクト又は付加データが属するカテゴリの組み合わせごとに、ユーザの個人情報が推測されるリスクに関する情報が登録されている。選択部２３は、迷惑行為として例えばつきまとい又はストーカーを防止したい場合には、図７の最上段に例示されたリスクの特定方法を選択するし、また、迷惑行為として例えば窃盗又は強盗を防止したい場合には、図７の最下段に例示されたリスクの特定方法を選択する。

【0033】

図３の説明に戻り、特定部２５は、選択部２３により選択された特定方法に従い、抽出部２２により抽出された画像オブジェクト又は付加データからユーザの個人情報が推測されるリスクを特定する。より具体的には、特定部２５は、図に例示したデータベースに基づいて、画像データから抽出された複数の画像オブジェクト及び画像データに対して付加されている付加データの組み合わせに応じて、これらの画像オブジェクト及び付加データからユーザの個人情報が推測されるリスクを特定する。

【0034】

処理部２６は、特定部２５により特定されたリスクに応じた処理を行う。この処理部２６が行う処理は、抽出部２２により抽出された画像オブジェクトに対して、特定部２５により特定されたリスクに応じた画像処理を行うこと、又は、特定部２５により特定されたリスクに応じた情報をユーザに報知する報知処理を行うことを含む。抽出部２２により抽出された画像オブジェクトに対するリスクに応じた画像処理とは、リスクが一定レベル（例えばリスク中）以上の場合は、例えばその画像オブジェクトの解像度を下げることで、いわゆる画像をぼかすようなぼかし処理や、その画像オブジェクトを非表示にする非表示処理とか、その画像オブジェクトを他の画像オブジェクトに置換する置換処理などである。また、リスクが大きいほど、例えばその画像オブジェクトの解像度を小さくしたりしてもよい。また、特定部２５により特定されたリスクに応じた情報をユーザに報知する報知処理とは、画像オブジェクト又は付加データにより個人情報が推測されるおそれがあることをユーザに報知するメッセージをユーザ端末１０において表示する処理などである。出力部２７は、処理部２６により処理された結果を含むデータを出力する。

【0035】

［動作］
次に、図８を参照して、情報処理システム１の動作について説明する。なお、以下の説明において、サーバ装置２０を処理の主体として記載する場合には、具体的にはプロセッサ２００１、メモリ２００２などのハードウェア上に所定のソフトウェア（プログラム）を読み込ませることで、プロセッサ２００１が演算を行い、通信装置２００４による通信や、メモリ２００２及びストレージ２００３におけるデータの読み出し及び／又は書き込みを制御することにより、処理が実行されることを意味する。ユーザ端末１０についても同様である。

【0036】

図８において、まず、サーバ装置２０のデータ取得部２１は、サーバ装置２０の記憶部２４に記憶された投稿データをその記憶部２４から読み出すことで、これを取得する（ステップＳ１１）。なお、サーバ装置２０が、個人情報保護機能のみを備えており、ＳＮＳ機能を備えていない場合は、ＳＮＳ機能を備えたＳＮＳ装置から投稿データを取得すればよい。

【0037】

次に、サーバ装置２０の抽出部２２は、データ取得部２１により取得された、或る１つの投稿データに含まれる画像データから画像オブジェクトを抽出する（ステップＳ１２）。

【0038】

次に、抽出部２２は、上記画像データから抽出された複数の画像オブジェクト、及び、その画像データに付加されている付加データを、図６に例示した定義に従って、各々の画像オブジェクト又は付加データが属するカテゴリに分類する（ステップＳ１３）。これにより、１つの投稿データに含まれる画像データから抽出された複数の画像オブジェクト、及び、その画像データに付加されている付加データが、whoカテゴリ、whereカテゴリ、又は、whenカテゴリのいずれかに分類される。

【0039】

次に、サーバ装置２０の選択部２３は、画像オブジェクト及び付加データからユーザの個人情報が推測されるリスクを特定する複数の特定方法のうちいずれかを選択する（ステップＳ１４）。具体的には、ユーザがどの迷惑行為を防止したいかということはそのユーザによりユーザ端末１０を用いて入力され、サーバ装置２０にユーザＩＤとともに通知されるから、選択部２３は、そのユーザＩＤのユーザが投稿者である投稿データについては、通知された迷惑行為に対応する特定方法を図７の例示に従って選択する。ここでは、つきまとい又はストーカーという迷惑行為に対応する特定方法、図７の最上段の内容によって表される特定方法が選択されたとする。

【0040】

次に、サーバ装置２０の特定部２５は、選択部２３により選択された特定方法に従い、抽出部２２により抽出された画像オブジェクト又は付加データからユーザの個人情報が推測されるリスクを特定する（ステップＳ１５）。ここでは、抽出部２２により画像データから抽出された画像オブジェクトが例えば顔画像オブジェクト及び制服画像オブジェクトであり、その画像データに付加されている付加データが「○○カフェ」という場所データ及び「２０２０年１０月２３日 １８：５７」という日時データであったとする。この場合、図６の例示では、顔画像オブジェクト及び制服画像オブジェクトはwhoカテゴリに属し、「○○カフェ」という付加データ（場所データ）はwhereカテゴリに属し、「２０２０年１０月２３日 １８：５７」という付加データ（日時データ）はwhenカテゴリに属する。従って、図７の例示では、つきまとい又はストーカーという迷惑行為に対応する特定方法において、whoカテゴリ、whereカテゴリ及びwhenカテゴリに属する画像オブジェクト及び付加データが投稿データに含まれていることになるので、これらwhoカテゴリ、whereカテゴリ及びwhenカテゴリの組み合わせに対応する「リスク高」が特定されることになる。

【0041】

これに対し、抽出部２２により画像データから抽出された画像オブジェクトが例えば時計画像オブジェクトであり、その画像データに付加されている付加データが「○○カフェ」という場所データ及び「２０２０年１０月２３日 １８：５７」という日時データであった場合、図６の例示では、時計画像オブジェクトはwhenカテゴリに属し、「○○カフェ」という付加データ（場所データ）はwhereカテゴリに属し、「２０２０年１０月２３日 １８：５７」という付加データ（日時データ）はwhenカテゴリに属する。従って、図７の例示では、つきまとい又はストーカーという迷惑行為に対応する特定方法において、whereカテゴリ及びwhenカテゴリの組み合わせに対応する「リスク低」が特定されることになる。

【0042】

次に、サーバ装置２０の処理部２６は、特定部２５により特定されたリスクに応じた対応処理を行う（ステップＳ１６）。前述したように、この処理部２６が行う処理は、抽出部２２により抽出された画像オブジェクトに対して、特定部２５により特定されたリスクに応じた画像処理を行うこと、又は、特定部２５により特定されたリスクに応じた情報をユーザに報知する報知処理を行うことを含む。出力部２７は、処理部２６により処理された結果を含むデータを出力する。この結果、処理部２６により処理が成された投稿データを参照するときは、抽出部２２により抽出された画像オブジェクトに対してぼかし処理等が施されているので、個人情報が推測されにくくなる。また、投稿者たるユーザに対しては、リスクに応じた情報が報知されるので、例えばこのユーザは投稿データを削除したり編集したりするなどの処置をとることが可能となる。

【0043】

以上説明した実施形態によれば、ユーザの個人情報が画像から推測されるリスクは様々な状況に応じて変わり得るが、そのリスクを適切に特定し、特定したリスクに応じた処理を行うことができる。その結果、推測された個人情報に基づく迷惑行為を未然に防ぐことが可能となる。

【0044】

［変形例］
本発明は、上述した実施形態に限定されない。上述した実施形態を以下のように変形してもよい。また、以下の２つ以上の変形例を組み合わせて実施してもよい。
［変形例１］
上述した実施形態においては、リスクの特定方法を実質的にユーザが指定しており、選択部２３はそのユーザの指定に従ってリスクの特定方法を選択していた。この例に限定されず、選択部２３は、ユーザによる指定以外の手順でリスクの特定方法を選択するようにしてもよい。例えば選択部２３は、ユーザの属性に応じて特定方法を選択するようにしてもよい。このため、サーバ装置２０の記憶部２４は、ユーザの属性（例えば性別、年齢、有名人であるか否か等）をそのユーザのユーザＩＤに対応付けて記憶しておくとともに、属性の組み合わせとリスクの特定方法とを対応付けて記憶しておく。例えばユーザの性別が女性であれば、つきまとい、ストーカーという迷惑行為を防止するためのリスクの特定方法が対応付けられ、ユーザの年齢が閾値以上の高齢であれば、詐欺又は強盗という迷惑行為を防止するためのリスクの特定方法が対応付けられ、ユーザが有名人であれば、ネットストーカー、窃盗又は強盗という迷惑行為を防止するためのリスクの特定方法が対応付けられる。そして、選択部２３は、投稿者のユーザＩＤに対応する属性を参照し、その属性に応じたリスクの特定方法を選択する。これにより、或る属性のユーザにおいて典型的に発生し得る迷惑行為を未然に防ぐことが可能となる。

【0045】

［変形例２］
また、選択部２３は、投稿データが投稿されたサイト又はソーシャルネットワーキングサービスに応じて、リスクの特定方法を選択するようにしてもよい。このため、サーバ装置２０の記憶部２４は、サイト又はソーシャルネットワーキングサービスの識別子（サイト名又はソーシャルネットワーキングサービス名）とリスクの特定方法とを対応付けて記憶しておく。例えば或るサイト又は或るソーシャルネットワーキングサービスが若い女性に人気があるとされるものであれば、つきまとい、ストーカーという迷惑行為を防止するためのリスクの特定方法が対応付けられ、また、或るサイト又は或るソーシャルネットワーキングサービスが高齢のユーザに人気があるとされるものであれば、詐欺又は強盗という迷惑行為を防止するためのリスクの特定方法が対応付けられる。そして、選択部２３は、投稿データが投稿されたサイト又はソーシャルネットワーキングサービスの識別子を特定し、その識別子に応じたリスクの特定方法を選択する。これにより、或るサイトやソーシャルネットワーキングサービスの利用が多い属性のユーザにおいて典型的に発生し得る迷惑行為を未然に防ぐことが可能となる。

【0046】

［変形例３］
実施形態において、特定部２５は、画像データから抽出された複数の画像オブジェクト及びその画像データに対して付加されている付加データの組み合わせに応じて、当該複数の画像オブジェクト及び当該付加データからユーザの個人情報が推測されるリスクを特定していた。この例に限定されず、特定部２５は、投稿データに含まれる画像データのみに基づいてそのリスクを特定してもよい。つまり、特定部２５は、投稿データに含まれる画像データから抽出された複数の画像オブジェクトの組み合わせに応じて、当該複数の画像オブジェクトからユーザの個人情報が推測されるリスクを特定するようにしてもよい。

【0047】

［変形例４］
一般に投稿者たるユーザは複数回の投稿を行うから、第３者は１人の投稿者について複数の投稿データを参照してその個人情報を推測することができる。そこで、サーバ装置２０は、１人のユーザが投稿した複数の投稿データに含まれる複数の画像データを用いてリスクを特定するようにしてもよい。この場合、これら複数の投稿データは同一のＳＮＳ機能によって投稿されたものであってもよいし、それぞれ異なる複数のＳＮＳ機能によって投稿されたものであってもよい。複数の投稿データが同一のＳＮＳ機能によって投稿されたものである場合、抽出部２２は、同一のユーザＩＤに対応付けられて記憶されている複数の投稿データからそれぞれ画像オブジェクト及び付加データを抽出し、特定部２５は、それぞれ異なる複数の投稿データに含まれる複数の画像データから抽出された複数の画像オブジェクト及び付加データの組み合わせからユーザの個人情報が推測されるリスクを特定する。また、複数の投稿データがそれぞれ異なる複数のＳＮＳ機能によって投稿されたものである場合、これら複数のＳＮＳ機能において同一のユーザを識別する識別子を用意しておき、抽出部２２は、複数のＳＮＳ機能において同一のユーザの識別子に対応付けられて記憶されている複数の投稿データに含まれる複数の画像データからそれぞれ画像オブジェクト及び付加データを抽出し、特定部２５は、これら複数の投稿データから抽出された複数の画像オブジェクト及び付加データの組み合わせからユーザの個人情報が推測されるリスクを特定する。

【0048】

［変形例５］
投稿者たるユーザは複数回の投稿を行う場合、前後の投稿時期から相当の期間が空いた投稿からは個人情報を推測することが困難な場合がある。例えば或る投稿が２年ぶりに投稿されて且つその次の投稿が３年後であるような場合に、その或る投稿からユーザが居た場所が推測されたとしても、そのユーザのプライバシーに関わる事態とは言えないと考えてよいことがある。そこで、サーバ装置２０が１人のユーザによって投稿された複数の投稿データを用いてリスクを特定する場合において、抽出部２２は、各々の投稿間隔が閾値以下となる複数の投稿データに含まれる複数の画像データから画像オブジェクト及び付加データを抽出する。これにより、前後の投稿間隔が閾値を超えるような投稿データから画像オブジェクト及び付加データは抽出されないことになる。そして、特定部２５は、これら複数の投稿データに含まれる複数の画像データから抽出された複数の画像オブジェクト及び付加データの組み合わせからユーザの個人情報が推測されるリスクを特定する。これにより、個人情報を推測することが困難と考えられる投稿データについては、処理部２６による処理がなされず、投稿者が投稿した内容をそのまま公開することが可能となる。

【0049】

［変形例６］
投稿者たるユーザは複数回の投稿を行う場合、投稿時期が古い投稿データから個人情報が推測される可能性が小さいことがある。そこで、サーバ装置２０が１人のユーザによって投稿された複数の投稿データを用いてリスクを特定する場合において、特定部２５は、それぞれ異なる複数の投稿データの投稿時期に応じて、ユーザの個人情報が推測されるリスクを特定するようにしてもよい。具体的には、抽出部２２は、同一のユーザＩＤに対応付けられて記憶されている複数の投稿データに含まれる複数の画像データからそれぞれ画像オブジェクト及び付加データを抽出する。特定部２５は、それぞれ異なる複数の投稿データに含まれる複数の画像データから抽出された複数の画像オブジェクト及び付加データの組み合わせからユーザの個人情報が推測されるリスクを特定するが、このとき、投稿時期が古いものほど、特定されるリスクの重みを小さくするような処理を行う。これにより、個人情報を推測することが困難と考えられる投稿データについては、処理部２６による処理がなされず、投稿者が投稿した内容をそのまま公開することが可能となる。

【0050】

［変形例７］
本発明において、画像データは、静止画像データでもあってもよいし、動画像データであってもよい。また、また、本発明が適用されるサービスはＳＮＳに限定されない。

【0051】

［変形例８］
本開示の一実施の形態におけるサーバ装置２０などは、本開示の処理を行うコンピュータとして機能してもよい。つまり、本発明は、コンピュータを、画像データから複数の画像オブジェクトを抽出する抽出部と、抽出された前記複数の画像オブジェクトの組み合わせに応じて、当該複数の画像オブジェクトからユーザの個人情報が推測されるリスクを特定する特定部として機能させるためのプログラムとしても観念し得る。

【0052】

また、本発明は、画像データから画像オブジェクトを抽出する抽出ステップと、画像オブジェクトからユーザの個人情報が推測されるリスクを特定する複数の特定方法のうちいずれかを選択する選択ステップと、選択された前記特定方法に従い、抽出された前記画像オブジェクトからユーザの個人情報が推測されるリスクを特定する特定ステップとを備える情報処理方法としても観念し得る。

【0053】

［その他の変形例］
なお、上記実施形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック（構成部）は、ハードウェア及びソフトウェアの少なくとも一方の任意の組み合わせによって実現される。また、各機能ブロックの実現方法は特に限定されない。すなわち、各機能ブロックは、物理的又は論理的に結合した１つの装置を用いて実現されてもよいし、物理的又は論理的に分離した２つ以上の装置を直接的又は間接的に（例えば、有線、無線などを用いて）接続し、これら複数の装置を用いて実現されてもよい。機能ブロックは、上記１つの装置又は上記複数の装置にソフトウェアを組み合わせて実現されてもよい。

【0054】

機能には、判断、決定、判定、計算、算出、処理、導出、調査、探索、確認、受信、送信、出力、アクセス、解決、選択、選定、確立、比較、想定、期待、見做し、報知（broadcasting）、通知（notifying）、通信（communicating）、転送（forwarding）、構成（configuring）、再構成（reconfiguring）、割り当て（allocating、mapping）、割り振り（assigning）などがあるが、これらに限られない。たとえば、送信を機能させる機能ブロック（構成部）は、送信制御部（transmitting unit）や送信機（transmitter）と呼称される。いずれも、上述したとおり、実現方法は特に限定されない。

【0055】

本開示において説明した各態様／実施形態は、ＬＴＥ（Long Term Evolution）、ＬＴＥ－Ａ（LTE-Advanced）、ＳＵＰＥＲ ３Ｇ、ＩＭＴ－Ａｄｖａｎｃｅｄ、４Ｇ（4th generation mobile communication system）、５Ｇ（5th generation mobile communication system）、ＦＲＡ（Future Radio Access）、ＮＲ（new Radio）、Ｗ－ＣＤＭＡ（登録商標）、ＧＳＭ（登録商標）、ＣＤＭＡ２０００、ＵＭＢ（Ultra Mobile Broadband）、ＩＥＥＥ ８０２．１１（Ｗｉ－Ｆｉ（登録商標））、ＩＥＥＥ ８０２．１６（ＷｉＭＡＸ（登録商標））、ＩＥＥＥ ８０２．２０、ＵＷＢ（Ultra-WideBand）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、その他の適切なシステムを利用するシステム及びこれらに基づいて拡張された次世代システムの少なくとも一つに適用されてもよい。また、複数のシステムが組み合わされて（例えば、ＬＴＥ及びＬＴＥ－Ａの少なくとも一方と５Ｇとの組み合わせなど）適用されてもよい。

【0056】

本開示において説明した各態様／実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本開示において説明した方法については、例示的な順序を用いて様々なステップの要素を提示しており、提示した特定の順序に限定されない。

【0057】

入出力された情報などは特定の場所（例えば、メモリ）に保存されてもよいし、管理テーブルを用いて管理してもよい。入出力される情報などは、上書き、更新、又は追記され得る。出力された情報などは削除されてもよい。入力された情報などは他の装置へ送信されてもよい。

【0058】

判定は、１ビットで表される値（０か１か）によって行われてもよいし、真偽値（Boolean：true又はfalse）によって行われてもよいし、数値の比較（例えば、所定の値との比較）によって行われてもよい。

【0059】

以上、本開示について詳細に説明したが、当業者にとっては、本開示が本開示中に説明した実施形態に限定されるものではないということは明らかである。本開示は、請求の範囲の記載により定まる本開示の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本開示の記載は、例示説明を目的とするものであり、本開示に対して何ら制限的な意味を有するものではない。

【0060】

ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。また、ソフトウェア、命令、情報などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、有線技術（同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線（ＤＳＬ：Digital Subscriber Line）など）及び無線技術（赤外線、マイクロ波など）の少なくとも一方を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び無線技術の少なくとも一方は、伝送媒体の定義内に含まれる。

【0061】

本開示において説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
なお、本開示において説明した用語及び本開示の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。

【0062】

また、本開示において説明した情報、パラメータなどは、絶対値を用いて表されてもよいし、所定の値からの相対値を用いて表されてもよいし、対応する別の情報を用いて表されてもよい。

【0063】

本開示において使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。

【0064】

本開示において使用する「第１」、「第２」などの呼称を使用した要素へのいかなる参照も、それらの要素の量又は順序を全般的に限定しない。これらの呼称は、２つ以上の要素間を区別する便利な方法として本開示において使用され得る。したがって、第１及び第２の要素への参照は、２つの要素のみが採用され得ること、又は何らかの形で第１の要素が第２の要素に先行しなければならないことを意味しない。

【0065】

上記の各装置の構成における「部」を、「手段」、「回路」、「デバイス」などに置き換えてもよい。

【0066】

本開示において、「含む（include）」、「含んでいる（including）」及びそれらの変形が使用されている場合、これらの用語は、用語「備える（comprising）」と同様に、包括的であることが意図される。さらに、本開示において使用されている用語「又は（or）」は、排他的論理和ではないことが意図される。

【0067】

本開示において、例えば、英語でのa,an及びtheのように、翻訳により冠詞が追加された場合、本開示は、これらの冠詞の後に続く名詞が複数形であることを含んでもよい。

【0068】

本開示において、「ＡとＢが異なる」という用語は、「ＡとＢが互いに異なる」ことを意味してもよい。なお、当該用語は、「ＡとＢがそれぞれＣと異なる」ことを意味してもよい。「離れる」、「結合される」などの用語も、「異なる」と同様に解釈されてもよい。

【符号の説明】

【0069】

１：情報処理システム、２：ネットワーク、１０：ユーザ端末、１００：画像、１０１，１０２：画像オブジェクト、１０３，１０４：付加データ、２０：サーバ装置、２１：データ取得部、２２：抽出部、２３：選択部、２４：記憶部、２５：特定部、２６：処理部、２７：出力部、２００１：プロセッサ、２００２：メモリ、２００３：ストレージ、２００４：通信装置。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】