特許 7455788 情報処理装置、情報処理方法、及び情報処理プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-03-15

(45)【発行日】2024-03-26

(54)【発明の名称】情報処理装置、情報処理方法、及び情報処理プログラム

(51)【国際特許分類】

   G06F 21/55 20130101AFI20240318BHJP

   G06Q 50/10 20120101ALI20240318BHJP

【ＦＩ】

G06F21/55 360

G06Q50/10

【請求項の数】 5

(21)【出願番号】P 2021163137

(22)【出願日】2021-10-01

(62)【分割の表示】P 2020061653の分割

【原出願日】2020-03-30

(65)【公開番号】P2021193635

(43)【公開日】2021-12-23

【審査請求日】2023-03-20

(73)【特許権者】

【識別番号】500147023

【氏名又は名称】デジタルアーツ株式会社

(72)【発明者】

【氏名】道具 登志夫

【審査官】岸野 徹

(56)【参考文献】

【文献】特開２０２０－０１７１３８（ＪＰ，Ａ）

【文献】特開２０１９－２００６７１（ＪＰ，Ａ）

【文献】特開２０１０－２１１４０９（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１７／００５３１０９（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ ２１／５５

Ｇ０６Ｑ ５０／１０

(57)【特許請求の範囲】

【請求項1】

クライアント端末からのＷｅｂサーバへのアクセスを中継する情報処理装置であって、
前記クライアント端末によるＷｅｂサーバへのアクセスを記録するアクセス記録部と、
ユーザそれぞれの顔情報と、ユーザの通知先情報とが関連付けられた情報を登録する顔情報データベースと、
記録されたアクセス先のコンテンツから、動画データを含む検証データを抽出する検証データ抽出部と、
抽出された前記検証データを前記顔情報と照合して、前記検証データに前記顔情報が含まれるか否かを判定する検証データ解析部と、
前記検証データに前記顔情報が含まれる場合に、前記顔情報に対応する前記通知先情報に基づく前記ユーザに対して当該検証データに対応するＷｅｂサーバのアクセス先ＵＲＬを通知する通知部と、
ことを特徴とする情報処理装置。

【請求項2】

前記ユーザに関連付けられた、前記動画データを含む正規データを保存するホワイトデータ保存部をさらに備えて、
前記通知部は、前記検証データに前記顔情報が含まれる場合に、前記検証データと前記正規データとを比較して、一致しない場合に前記ユーザに通知を出力する、
ことを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記ホワイトデータ保存部に登録された前記正規データと、前記ユーザの顔情報を用いて作成された模擬偽装データを機械学習して、前記検証データが偽装か否かを判定するモデルを生成する機械学習部と、をさらに備えて、
前記通知部は、前記機械学習部により生成されたモデルを用いて前記検証データを判定して、前記検証データが適切でないとして判定された場合に前記ユーザに通知を出力する、
ことを特徴とする請求項２に記載の情報処理装置。

【請求項4】

クライアント端末からのＷｅｂサーバへのアクセスを、情報処理装置を介して中継する情報処理方法であって、
前記情報処理装置が、前記クライアント端末によるＷｅｂサーバへのアクセスを記録するステップと、
前記情報処理装置が、ユーザそれぞれの顔情報と、ユーザの通知先情報とが関連付けられた情報を登録するステップと、
前記情報処理装置が、記録されたアクセス先のコンテンツから、動画データを含む検証データを抽出するステップと、
前記情報処理装置が、抽出された前記検証データを前記顔情報と照合して、前記検証データに前記顔情報が含まれるか否かを判定するステップと、
前記情報処理装置が、前記検証データに前記顔情報が含まれる場合に、前記顔情報に対応する前記通知先情報に基づく前記ユーザに対して当該検証データに対応するＷｅｂサーバのアクセス先ＵＲＬを通知するステップと、
を含むことを特徴とする情報処理方法。

【請求項5】

コンピュータを、
クライアント端末によるＷｅｂサーバへのアクセスを記録する機能、
ユーザそれぞれの顔情報と、ユーザの通知先情報とが関連付けられた情報を登録する機能、
記録されたアクセス先のコンテンツから、動画データを含む検証データを抽出する機能、
抽出された前記検証データを前記顔情報と照合して、前記検証データに前記顔情報が含まれるか否かを判定する機能、
前記検証データに前記顔情報が含まれる場合に、前記顔情報に対応する前記通知先情報に基づく前記ユーザに対して当該検証データに対応するＷｅｂサーバのアクセス先ＵＲＬを通知する機能、
として機能させることを特徴とする情報処理プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。

【背景技術】

【0002】

人工知能（ＡＩ）が急速に進化しており、自動運転の技術、農業や医療など様々な分野にＡＩが活用されている。

【0003】

そして、機械学習の一種であるディープラーニングが実現されたことで、画像データを高い精度で認識する技術が飛躍的に向上するとともに、実際の画像データから合成画像を生成して、人間の目では本物と変わらない程度の画像データを作成することが可能になってきている。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２０１９－７９１４３号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

ところで、近年ディープフェイクと呼ばれる、ＡＩを用いた高度な画像生成技術を駆使して容易に見抜けないほど作り込まれた偽物（フェイク）の画像が生成される問題がある。ディープフェイクにより、本人が知らないうちに偽の合成画像や動画が生成されて、自分が全く関与していない偽の合成画像が出回ってしまうおそれがある。このため、偽の画像データや動画の存在を当該本人が早急に認識する必要がある。

【0006】

本発明はこのような事情を考慮してなされたもので、Ｗｅｂ上で公開されているコンテンツ内の画像や動画などにおいて、フェイクのおそれのあるものを早期に発見できる情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。

【課題を解決するための手段】

【0007】

本発明の実施形態に係る情報処理装置は、クライアント端末からのＷｅｂサーバへのアクセスを中継する情報処理装置であって、前記クライアント端末によるＷｅｂサーバへのアクセスを記録するアクセス記録部と、ユーザそれぞれの顔情報と、ユーザの通知先情報とが関連付けられた情報を登録する顔情報データベースと、記録されたアクセス先のコンテンツから、動画データを含む検証データを抽出する検証データ抽出部と、抽出された前記検証データを前記顔情報と照合して、前記検証データに前記顔情報が含まれるか否かを判定する検証データ解析部と、前記検証データに前記顔情報が含まれる場合に、前記顔情報に対応する前記通知先情報に基づく前記ユーザに対して当該検証データに対応するＷｅｂサーバのアクセス先ＵＲＬを通知する通知部と、を備えることを特徴とする。

【発明の効果】

【0008】

本発明の実施形態により、Ｗｅｂ上で公開されているコンテンツ内の画像や動画などにおいて、フェイクのおそれのあるものを早期に発見できる情報処理装置、情報処理方法、及び情報処理プログラムが提供される。

【図面の簡単な説明】

【0009】

【図1】第１実施形態に係る情報処理装置の構成の一例を示す構成図。

【図2】各ユーザの顔情報と、ユーザそれぞれの通知先情報とを関連付けて保存される顔情報データベースの一例を示す模式図。

【図3】アクセスログ記録部に記録されるユーザそれぞれのアクセスログ、及び顔情報に基づく解析結果を示す表。

【図4】本実施形態に係る情報処理装置における偽物（フェイク）の画像を検出するフローを示す模式図。

【図5】第１実施形態に係る情報処理方法の一例を示すフローチャート。

【図6】第２実施形態に係る情報処理装置の構成の一例を示す構成図。

【図7】第２実施形態に係る情報処理の概念を示す概念図。

【発明を実施するための形態】

【0010】

（第１実施形態）
以下、本発明の実施形態を添付図面に基づいて説明する。
図１は、第１実施形態に係る情報処理装置１０の構成の一例を示す図である。

【0011】

情報処理装置１０は、クライアント端末５０からの外部ネットワーク（インターネット）へのアクセスを中継制御などするサーバである。情報処理装置１０は、外部ネットワークへの出入り口に配置されて、クライアント端末５０から外部ネットワークへのアクセス要求を受け付けて、当該アクセス要求に係るアクセス先ＵＲＬに応じてクライアント端末５０のアクセスを制御する。

【0012】

クライアント端末５０は、情報処理装置１０を介してアクセス先ＵＲＬに対応するコンテンツを取得して、取得したコンテンツをＷｅｂブラウザにより表示する。なお、コンテンツとしては、ｈｔｍｌデータ、画像データ、ｐｄｆファイル等の種々のデータが例示される。

【0013】

本実施形態にかかる情報処理装置１０は、クライアント端末５０による外部のＷｅｂサイトへのアクセスを記録しておき、当該アクセスのうちで画像や動画データを含むものを検証データとして抽出する。そして、予めユーザの顔情報と通知先情報を関連づけて保存しておき、検証データとユーザの顔情報を照合して、顔情報と一致する場合、当該検証データを偽装のおそれがあるものとして検出して、顔情報に対応するユーザに通知を行う。

【0014】

第１実施形態にかかる情報処理装置１０の具体的な構成について説明する。
情報処理装置１０は、アクセス制御部１１、顔情報データベース１２、アクセスログ記録部１３、顔情報解析部１５、通知部１６と、を備えている。

【0015】

なお、情報処理装置１０を構成する各ユニットの機能は、所定のプログラムコードを、プロセッサを用いて実行することによって実現しても良く、このようなソフトウェア処理に限らず、例えば、ＡＳＩＣ等を用いたハードウェア処理で実現してもよいし、ソフトウェア処理とハードウェア処理とを組み合わせて実現してもよい。

【0016】

アクセス制御部１１は、クライアント端末５０からの外部ネットワークへのアクセスを制御する。例えば、クライアント端末５０がアクセスした際にマルウェアをダウンロードさせるなどの有害なＵＲＬと、クライアント端末５０に対して無害な良性なＵＲＬを登録しておき、クライアント端末５０からアクセス要求されたＵＲＬ情報を受け付ける。そして、アクセス要求されたＵＲＬ情報を良性ＵＲＬの情報と照合して、一致する場合にはクライアント端末５０の外部ネットワークへのアクセスを許可する一方で、良性ＵＲＬの情報と一致しない場合にはクライアント端末５０の外部ネットワークへのアクセスを不許可にしてアクセスさせないようにする。

【0017】

アクセス制御部１１は、外部ネットワークへのアクセスを許可した場合には、アクセス先ＵＲＬに対応するＷｅｂサーバにコンテンツを要求し、Ｗｅｂサーバから返されたコンテンツをクライアント端末５０に送る。

【0018】

アクセスログ記録部１３は、クライアント端末５０のＷｅｂサーバへの接続情報に関するアクセスログを収集、記録する。アクセスログ記録部１３は、クライアント端末５０がＷｅｂサーバに接続した際の、クライアント端末５０を識別する識別情報（例えば、ＩＰアドレス）、アクセス先ＵＲＬなどをアクセスログとして取得する。図３は、アクセスログ記録部１３に記録されるクライアント端末５０アクセスログの一例を示しており、クライアント端末５０を識別する識別情報に対応付けてアクセス先ＵＲＬが記録される。

【0019】

顔情報データベース１２は、ユーザそれぞれの顔情報と、ユーザの通知先情報とを関連付けて登録するデータベースである。顔情報データベース１２では、ユーザの顔写真のデータが顔情報として登録されており、顔情報のそれぞれのユーザに通知するために必要な通知先情報が関連付けて保存されている。また、顔情報データベース１２に登録されるユーザそれぞれの顔情報には、ユーザの体型、肌色などの身体的な特徴情報を含んで保存してもよい。通知先情報として、電子メールアドレス、住所や電話番号などが例示される。顔情報を登録するユーザは、クライアント端末５０を用いるユーザでもよいし、情報処理装置１０によりアクセス制御の対象でないユーザを登録してもよい。なお、顔情報としては、一人のユーザについて複数の顔情報を保存してもよい。

【0020】

図２は、顔情報と各ユーザの通知先を関連付けた顔情報データベース１２の一例を示す模式図である。ユーザのそれぞれを識別するユーザＩＤに対応付けて顔情報が保存されている。顔情報に対応付けてユーザの通知先情報が保存されている。例えば、ユーザＩＤ：０００１の山田太郎について、顔写真のデータと山田太郎に通知するための情報が関連づけられている。

【0021】

検証データ抽出部１４は、アクセスログ記録部１３に記録されたアクセス先ＵＲＬのコンテンツから、動画データを含む検証データを抽出する。具体的には、検証データ抽出部１４は、記録されたアクセス先ＵＲＬにアクセスして、アクセス先ＵＲＬに対応するコンテンツを分析し、当該コンテンツ内に画像や動画等の映像データが含まれるかを識別して、映像データが含まれる場合には、この映像データを検証データとして抽出する。

【0022】

顔情報解析部１５は、抽出された検証データを顔情報と照合して、検証データに顔情報が含まれるか否かを判定する。具体的には、抽出された検証データが画像データの場合、当該画像データ内に登録されたユーザの顔情報が含まれるかを判別する。顔情報の照合には一般的に顔認証で用いられている方式を用いる。また、検証データが動画データの場合には、再生を行いながら照合してもよいし、動画データを再生させて、一定時間ごとに画像データを取得し、取得された複数の画像データについて顔情報が含まれるかを照合してよい。

【0023】

図３は、情報処理装置１０のアクセスログ記録部１３において抽出されたクライアント端末５０のアクセスログについて検証データを抽出して、顔情報を照合した場合の一例を示すものである。

【0024】

図３に示すように、検証データ抽出部１４は、記録されたアクセス先ＵＲＬにアクセスして、当該ＵＲＬのコンテンツ内に画像や動画等の映像データが含まれるかを識別し、映像データが含まれる場合には、この映像データを検証データとする。例えば、検証データ抽出部１４は、アクセス先ＵＲＬ「ｈｔｔｐ：／／ｗｗｗ．ｃｃｃ．ｃｏｍ／ｃｃｃ．ｈｔｍｌ」について画像データｘｘｘ０１が含まれていることを抽出する。そして、顔情報解析部１５は、画像データｘｘｘ０１内に顔情報データベース１２に登録されたユーザの顔情報が含まれるかを判別する。図３では、ＵｓｅｒＩＤ：０００１と一致することを検出している。

【0025】

通知部１６は、検証データ抽出部１４により検証データ内に顔情報が含まれると判定された場合に、顔情報に対応する通知先情報に基づいてユーザに通知を出力する。例えば、当該顔情報のユーザに対応するメールアドレスに対して、顔情報が含まれていたアクセス先ＵＲＬの情報を通知する。顔情報が含まれていたアクセス先ＵＲＬの画像データや動画データを通知してもよい。また、通知する際に、このアクセス先ＵＲＬに対するクライアント端末５０のアクセス数などの情報を通知してもよい。

【0026】

図４は、本実施形態に係る情報処理装置１０における偽装画像を検出するフローを示す模式図である（適宜図１参照）。

【0027】

検証データ抽出部１４は、アクセスログとして記録されているアクセス先ＵＲＬにアクセスして画像や動画データを抽出する。そして、顔情報解析部１５は、抽出された動画データを、顔情報データベース１２に登録された顔情報と照合して、顔情報が含まれるかを判定する。顔情報が含まれている場合には、当該顔情報に対応するユーザの連絡先情報に基づいて通知する。これにより、通知を受けたユーザは、自分自身が認識していないＷｅｂサイト上の動画が存在する場合であっても、迅速にその動画などの存在を認識することができる。これにより、例えばＷｅｂサイトを運営する動画サイトに削除要請等の対応をとることができる。

【0028】

続いて、第１実施形態に係る情報処理装置１０の動作について説明する。図５は、第１実施形態に係る情報処理方法の一例を示すフローチャートである。

【0029】

アクセスログ記録部１３は、クライアント端末５０のＷｅｂサーバへの接続情報に関するアクセスログを収集、記録する（Ｓ１０）。

【0030】

検証データ抽出部１４は、アクセスログ記録部１３に記録されたアクセス先のコンテンツから、動画データを含む検証データを抽出する（Ｓ１１）。

【0031】

顔情報解析部１５は、抽出された検証データを顔情報と照合して、検証データに顔情報が含まれるか否かを判定する（Ｓ１２）。

【0032】

顔情報解析部１５は、検証データに顔情報が含まれる場合に偽装の疑いありと判定する（Ｓ１２：ＹＥＳ、Ｓ１３）。一方、顔情報解析部１５は、検証データに顔情報が含まれない場合は終了する（Ｓ１２：ＮＯ、終了）。

【0033】

そして、通知部１６は、当該顔情報に対応するユーザの通知先情報に基づいてユーザに通知する（Ｓ１４）。

【0034】

このように、第１実施形態に係る情報処理装置１０は、顔情報とユーザの通知先とを関連付けて保存しておき、ユーザによりアクセスされたＷｅｂサイトのコンテンツを顔情報を用いて解析することで、自分自身が認識していないＷｅｂサイト上の動画が存在する場合であっても、迅速にその動画などの存在を認識することができる。

【0035】

（第２実施形態）

【0036】

図６は、第２実施形態に係る情報処理装置１０の構成の一例を示す図である。なお、図６において第１実施形態（図１）と共通の構成又は機能を有する部分は、同一符号で示し、重複する説明を省略する。

【0037】

第２実施形態に係る情報処理装置１０は、ホワイトデータ保存部１７と、機械学習部１８と、をさらに備えている。

【0038】

ホワイトデータ保存部１７は、登録されたユーザに関連付けられた、画像や動画データを正規のデータ（ホワイトデータ）として保存する。ホワイトデータは、登録されたユーザ自身により作成された画像、動画データを意味しており、ユーザによりホワイトデータ保存部１７に保存される。ホワイトデータ保存部１７では、画像データや動画データのそれぞれを識別する識別ＩＤが付与されて保存されてもよい。

【0039】

顔情報解析部１５は、検証データに顔情報が含まれる場合に、検証データとホワイトデータとを比較して、検証データが偽装のおそれがあるか否かを判定する。具体的には、検証データとホワイトデータとが一致する場合には、検証データを偽装の疑いのないデータと判断する一方で、一致しない場合には検証データが適切でないと判断する。

【0040】

通知部１６は、適切でないと判定された場合、顔情報に対応するユーザの通知先情報に基づいてユーザに対して、顔情報が含まれていたアクセス先ＵＲＬの情報などを通知する。このように、検証データに顔情報が含まれる場合に、ホワイトのデータと比較することで、当該検証データが偽装されたのか否かを精度よく判定できる。

【0041】

また、ホワイトのデータを用いて機械学習することで検証データが偽装か否かを判定してもよい。

【0042】

機械学習部１８は、ユーザの顔情報を用いて作成された模擬的な偽装データを予め保存する。模擬偽装データは、ユーザや情報処理装置１０の管理者により人為的に作成されてもよいし、合成画像を生成するソフトウェアを用いて作成してもよい。

【0043】

機械学習部１８は、ホワイトデータ保存部１７に登録された正規データと、模擬偽装データとを機械学習して、検証データが偽装か否かを判定するモデルを生成する。なお、機械学習には、例えばＣＮＮ（畳み込みニューラルネットワーク）などの機械学習を行う。

【0044】

顔情報解析部１５は、機械学習部１８により生成されたモデルを用いて、検証データが適切か否かを判定する。通知部１６は、適切でないと判定された場合、顔情報に対応するユーザの通知先情報に基づいてユーザに対して通知を出力する。このように、検証データに顔情報が含まれる場合に、機械学習により生成されたモデルを用いて判定することで、当該検証データが偽装されたまのか否かを精度よく判定できる。

【0045】

続いて、図７を用いて、第２実施形態に係る情報処理装置１０の動作について説明する。

【0046】

ホワイトデータ保存部１７において、顔情報に対応するユーザによる登録されたホワイトの画像データが登録されている。加えて、ユーザの顔情報に基づいて模擬的に作成された偽装の画像データや動画データを保存している。

【0047】

また、顔情報解析部１５は、抽出された検証データ内から音声情報を抽出して、音声情報に基づいて偽装か否かを判定してもよい。具体的には、検証データが動画データの場合に、動画データの音声を解析して音声情報をテキスト化する。顔情報解析部１５は、通常会話の中で存在しにくい禁止ワードを登録しておく。テキスト化された文章と禁止ワードとを照合して、禁止ワードが単独または複数存在する場合に当該検証データを偽装と判定してもよい。

【0048】

機械学習部１８は、ホワイトの画像データと模擬的な偽装の画像データを用いて機械学習して偽装判定モデルを生成する。そして、顔情報解析部１５は、検証データが抽出されたとき、検証データを偽装判定モデルに入力して、偽装か否かを判定する。

【0049】

顔情報解析部１５は、前述した良性のウェブサイト上にアップロードされている動画データを複数検出する。さらにこれらの動画データ内の音声情報をテキスト化する。そして、機械学習部１８は、動画データとテキスト化された音声情報を学習データとして機械学習を行い、偽装の疑いのない動画データの特徴情報を解析、抽出し、偽装の疑いのない動画データを判定する判定モデルを生成する。そして、顔情報解析部１５は、検証データが抽出されたとき、検証データを偽装判定モデルに入力して、偽装か否かを判定する。このように、動画データと音声情報とに基づいて判定モデルを生成することで、動画自体は無害なものの、音声のみが悪意の第三者により差し替えられた場合であっても、当該動画データの偽装を検出することができる。

【0050】

アクセス制御部１１は、ユーザ端末５０から画像データや動画データなどがウェブサーバにアップロードされる際に、当該動画データ等について機械学習部１８により機械学習により作成したモデルを用いて偽装判定して、偽装の疑いあるものについてはアップロードを遮断してもよい。

【0051】

このように、第２実施形態に係る情報処理装置１０は、登録されたユーザに関連付けられた、画像や動画データを正規のデータ（ホワイトデータ）を用いて検証することで、Ｗｅｂ上で公開されているコンテンツ内の画像や動画などにおいて、フェイクのおそれのあるものをより精度良く検出できる。

【0052】

以上述べた各実施形態の情報処理装置によれば、顔情報と通知先と関連付けて保存しておき、ユーザによるアクセスがあったサイトのデータとを照合することにより、Ｗｅｂ上で公開されているコンテンツ内の画像や動画などにおいて、フェイクのおそれのあるものを早期に発見できる。

【0053】

なお、情報処理装置１０で実行されるプログラムは、ＲＯＭ等の記憶回路に予め組み込んで提供される。もしくは、このプログラムは、インストール可能な形式または実行可能な形式のファイルでＣＤ－ＲＯＭ、ＣＤ－Ｒ、メモリカード、ＤＶＤ、フレキシブルディスク等のコンピュータで読み取り可能な記憶媒体に記憶されて提供するようにしてもよい。また、情報処理装置１０で実行されるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせて提供するようにしてもよい。

【0054】

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0055】

１０…情報処理装置、１１…アクセス制御部、１２…顔情報データベース、１３…アクセスログ記録部、１４…検証データ抽出部、１５…顔情報解析部、１６…通知部、１７…ホワイトデータ保存部、１８…機械学習部、５０…クライアント端末。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】