IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 大学共同利用機関法人情報・システム研究機構の特許一覧

特開2024-77638情報処理装置、情報処理システム、プログラムおよび情報処理方法
<>
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図1
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図2
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図3
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図4
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図5
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図6
  • 特開-情報処理装置、情報処理システム、プログラムおよび情報処理方法 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024077638
(43)【公開日】2024-06-10
(54)【発明の名称】情報処理装置、情報処理システム、プログラムおよび情報処理方法
(51)【国際特許分類】
   G06F 21/30 20130101AFI20240531BHJP
   G06F 21/60 20130101ALI20240531BHJP
【FI】
G06F21/30
G06F21/60
【審査請求】有
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022188818
(22)【出願日】2022-11-28
(11)【特許番号】
(45)【特許公報発行日】2023-04-19
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 令和4年6月9日 https://www.synthetiq.org/user_guide.html
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成30年度、国立研究開発法人科学技術振興機構、戦略的創造研究推進事業・チーム型研究(CREST)「VoicePersonae: 声のアイデンティティクローニングと保護」に係る委託業務、産業技術力強化法第17条の適用を受ける特許出願 令和2年度、国立研究開発法人科学技術振興機構、戦略的創造研究推進事業・チーム型研究(CREST)「インフォデミックを克服するソーシャル情報基盤技術」に係る委託業務、産業技術力強化法第17条の適用を受ける特許出願 令和3年度、国立研究開発法人科学技術振興機構、研究成果最適展開支援プログラム (A-STEP) トライアウトタイプ(標準)「AIにより生成された顔映像フェイクメディアを検出する技術の確立」に係る委託業務、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】504202472
【氏名又は名称】大学共同利用機関法人情報・システム研究機構
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】越前 功
(72)【発明者】
【氏名】山岸 順一
(72)【発明者】
【氏名】安田 裕介
(57)【要約】
【課題】 メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供するための情報処理装置、情報処理システム、プログラムおよび情報処理方法を得る。
【解決手段】 情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するメディア情報取得部と、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、メディア情報を出力する出力部と、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを、外部端末に送信するトークン送信部と、を備える。
【選択図】 図1
【特許請求の範囲】
【請求項1】
外部端末から稿要求を受信し、前記投稿要求により指定されたメディア情報を取得するメディア情報取得部と、
前記メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、前記メディア情報を出力する出力部と、
前記推論装置により生成された前記メディア情報についての前記真贋判定の成果物を前記外部端末が取得するための真贋判定トークンを、前記外部端末に送信するトークン送信部と、を備える
ことを特徴とする情報処理装置。
【請求項2】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
前記外部端末に前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記メディア情報取得部は、HTTPに従って記述された前記投稿要求を受信し、
前記成果物取得部は、HTTPに従って記述された前記成果物要求を受信する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記成果物取得部は、前記真贋判定の成果物として、前記真贋判定の結果を数値または文字で示す真贋判定値を取得する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項5】
前記真贋判定値は、前記メディア情報が動画像の場合、AIにより生成されたフレームのフレーム番号、AIにより生成された動画像部分を示す経過時間、真贋判定の結果を数値で示す動画像真贋判定スコア、前記動画像真贋判定スコアに基づいて真贋を分けるための閾値、1フレーム内におけるAIにより生成された画像部分を示す座標、二値的に示された動画像全体としての真贋判定結果、または、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記動画像真贋判定スコアのうちの、少なくとも1つであり、
前記メディア情報が静止画像の場合、真贋判定の結果を数値で示した静止画像真贋判定スコア、前記静止画像真贋判定スコアに基づいて真贋を分けるための閾値、前記静止画像内におけるAIにより生成された画像部分を示す座標、二値的に示された静止画像全体としての真贋判定結果、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記静止画像真贋判定スコアのうちの、少なくとも1つであり、
前記メディア情報が音声の場合、真贋判定の結果を数値で示す音声真贋判定スコア、前記音声真贋判定スコアに基づいて真贋を分けるための閾値、AIにより生成された音声の周波数領域、または、AIにより生成された音声の時間領域のうちの、少なくとも1つであり、
前記メディア情報が文章の場合、真贋判定の結果を数値で示す文章真贋判定スコア、前記文章真贋判定スコアに基づいて真贋を分けるための閾値、または、文章中のAIにより生成された位置のうちの、少なくとも1つである、
ことを特徴とする請求項4記載の情報処理装置。
【請求項6】
前記成果物取得部は、前記真贋判定の成果物として、前記メディア情報に真贋判定の結果を示す情報が付加された加工済メディア情報を取得する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項7】
前記出力部は、前記加工済メディア情報の生成を要求する生成要求情報が前記投稿要求に記述されている場合、前記メディア情報に加えて、前記生成要求情報を前記記憶装置に出力し、
前記成果物取得部は、前記外部端末から、前記真贋判定トークンおよび加工済メディア情報の送信要求が記述された成果物要求を受信すると、前記真贋判定の成果物として、前記加工済メディア情報を取得する
ことを特徴とする請求項6に記載の情報処理装置。
【請求項8】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
当該真贋判定の成果物に応じた情報を前記外部端末に送信する補助情報処理装置に、前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項1に記載の情報処理装置。
【請求項9】
請求項1から請求項7のいずれか1項に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、を備えた
ことを特徴とする情報処理システム。
【請求項10】
請求項8に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、
前記補助情報処理装置と、を備えた
ことを特徴とする情報処理システム。
【請求項11】
コンピュータを、請求項1から請求項8のいずれか1項に記載の情報処理装置として機能させるためのプログラム。
【請求項12】
情報処理装置が行う情報処理方法であって、
メディア情報取得部が、外部端末から投稿要求を受信し、前記投稿要求により指定されたメディア情報を取得するステップと、
出力部が、前記メディア情報についての真贋判定を行う推論装置がアクセス可能な記憶装置に、前記メディア情報を出力するステップと、
トークン送信部が、前記推論装置により生成された前記メディア情報についての前記真贋判定の成果物を前記外部端末が取得するための真贋判定トークンを、前記外部端末に送信するステップと、を備えた
ことを特徴とする情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理システム、プログラムおよび情報処理方法に関する。
【背景技術】
【0002】
近年、AI(Artificial Intelligence)を利用することにより、実物が撮影されたものであるかのような静止画像または動画像(以下、「静止画像」および「動画像」を総称して単に「画像」ともいう。)、実際に人物が発した音声が録音されたものであるかのような音声、または、人間により記述されたものであるかのような自然言語で表現された文章が、生成されるようになってきている。
ところで、特許文献1には、いわゆるディープフェイクのおそれがある画像への対応として、Web上での公開のために画像データがウェブサーバにアップロードされる際に、機械学習により作成したモデルを用いて偽装判定して、偽装の疑いがある画像のウェブサーバへのアップロードを遮断する技術が記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-162965号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
メディア情報を取扱う団体または個人にとって、ある画像、音声、または、文章(以下「画像」、「音声」および「文章」を総称して「メディア情報」ともいう。)が、実物を撮影した画像、実際の人物の音声の録音、または、人間が記述した文章等(以下「真情報」という。)であるか、それとも、AIにより生成されたメディア情報(以下「贋情報」という。)であるかを、自動的に見分ける機能(以下「真贋判定機能」という。)を、利便性の高い手法で利用できれば有用である。なぜならば、精度の高い真贋判定機能を実現する装置等を団体または個人が自ら開発することも考えられるが、そのためには、高度な技術、知識または設備が必要であり、それらの技術等を有しない団体または個人にとって、真贋判定機能を実現する技術を導入することは、困難だからである。
しかしながら、従来、このような団体または個人(以下「ユーザ」という。)に対し、真贋判定機能を、利便性の高い手法で提供できていないという課題があった。
特許文献1に記載の技術は、画像のウェブサーバへのアップロードの際に、偽装の疑いがある画像のアップロードを遮断する機能を提供するに止まり、例えば、その使用場面が限定されていること等から、その利便性は低く、上記課題を解決するものではない。
【0005】
本発明は、上記課題を解決するものであり、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供するための情報処理装置、情報処理システム、プログラムおよび情報処理方法を得ることを目的とする。
【課題を解決するための手段】
【0006】
本発明に係る情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するメディア情報取得部と、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、メディア情報を出力する出力部と、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを、外部端末に送信するトークン送信部と、を備える。
【発明の効果】
【0007】
本発明に係る情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得し、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置にメディア情報を出力し、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを外部端末に送信する。
これにより、あるメディア情報の真贋判定を行いたいユーザは、外部端末を利用して当該メディア情報を情報処理装置に取得させることで、当該メディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを得ることができる。したがって、本発明に係る情報処理装置は、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供することができる。
【図面の簡単な説明】
【0008】
図1】実施の形態1に係る情報処理システムの構成を示すブロック図である。
図2】実施の形態1に係る情報処理装置の機能を実現するハードウェア構成を示すブロック図である。
図3】加工済メディア情報が画像である場合の、実際の人物が撮影された画像およびAIにより生成された画像の例を示す図である。
図4】実施の形態1に係る情報処理方法を示すフローチャートである。
図5】実施の形態1に係る情報処理システムのメディア情報投稿時の処理を示すシーケンス図である。
図6】実施の形態1に係る情報処理システムの真贋判定時の処理を示すシーケンス図である。
図7】実施の形態1に係る情報処理システムの真贋判定の成果物の送受信時の処理を示すシーケンス図である。
【発明を実施するための形態】
【0009】
実施の形態1.
(情報処理システムの全体構成)
図1は、実施の形態1に係る情報処理システム1の構成を示すブロック図である。図1において、情報処理システム1は、情報処理装置2、外部端末5および補助情報処理装置6が、互いにネットワーク7を介して接続され、情報処理装置2、推論装置3および記憶装置4が、互いにアクセス可能に接続されたシステムである。ネットワーク7は、例えば、インターネットを含む電気通信回線である。なお、各構成間の通信は、TLS(Transpor Layer Security)等の暗号化通信プロトコルを利用して行われることが望ましい。
情報処理装置2と、推論装置3および記憶装置4とは、互いにインターネット等の電気通信回線で接続されていてもよいし、いずれか2つ以上の装置が1つの装置により構成されていてもよい。また、情報処理装置2、推論装置3および記憶装置4は、それぞれの機能が実現される限り、それぞれが単一の装置でなく、複数の装置から構成されていてもよい。情報処理装置2、推論装置3、記憶装置4、外部端末5および補助情報処理装置6は、それぞれが1台または複数台存在していてもよい。図1には、それぞれが1台ずつ存在する場合を示している。
また、情報処理システム1は、メディア情報の種類(静止画像、動画像、音声または文章)のうち、いずれか1種類のみに対応するものであっても、複数種類に対応するものであってもよい。情報処理システム1が複数種類のメディア情報に対応する場合、情報処理システム1は、例えば、複数種類のそれぞれに応じた複数の推論装置3を備え、投稿されたメディア情報に応じた推論装置3が真贋判定に利用される。
【0010】
情報処理システム1は、少なくとも、情報処理装置2、推論装置3、記憶装置4、および、外部端末5を備えていればよい。この場合の情報処理システム1は、外部端末5から取得されたメディア情報について、そのメディア情報がAIにより生成されたものであるか否かを示す真贋判定を行い、真贋判定の成果物を外部端末5に送信する。
【0011】
または、情報処理システム1は、少なくとも、情報処理装置2、推論装置3、記憶装置4、外部端末5、および、補助情報処理装置6を備えるものであってもよい。この場合の情報処理システム1は、外部端末5から取得されたメディア情報について、そのメディア情報がAIにより生成されたものであるか否かを示す真贋判定を行い、真贋判定の成果物を補助情報処理装置6に送信し、補助情報処理装置6は、真贋判定の成果物に応じた情報を外部端末5に送信する。
【0012】
(情報処理装置の概要)
情報処理装置2は、外部端末5から投稿要求を受信し、投稿要求により指定されたメディア情報を取得し、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置3からアクセス可能な記憶装置4にメディア情報を出力し、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを外部端末5に送信する。
【0013】
情報処理装置2は、外部端末5を介してユーザに真贋判定機能を提供するためのAPI(Application Programming Interface)である、真贋判定APIを提供する。情報処理装置2は、例えば、真贋判定APIとしてWeb APIを提供するWeb APIサーバであってよい。以下、情報処理装置2がWeb APIサーバであるものとする。
【0014】
情報処理装置2が取得する投稿要求は、例えば、HTTP(HyperText Transfer Protocol)に従って、HTTPリクエストとして記述される。本明細書において「HTTP」には、「HTTPS(HyperText Transfer Protocol Secure)」も含まれるものとする。
投稿要求は、真贋判定の対象となるメディア情報を情報処理システム1に投稿することを要求する情報である。投稿要求は、例えば、POSTメソッドを利用して記述される。
投稿要求には、真贋判定の対象となるメディア情報を指定する情報が含まれる。真贋判定の対象となるメディア情報を指定する情報は、例えば、投稿要求に記述されるメディア情報自体である。例えば、投稿要求がHTTPリクエストとして記述される場合、真贋判定の対象となるメディア情報を指定する情報は、HTTPリクエストのボディにメディア情報自体のデータとして記述される。
情報処理装置2は、投稿要求に記述された、真贋判定の対象となるメディア情報を指定するための情報に基づいて、投稿要求により指定されたメディア情報を取得する。
【0015】
情報処理装置2は、投稿要求を受信し、その投稿要求により指定されたメディア情報を取得すると、推論装置3からアクセス可能な記憶装置4に、メディア情報を出力する。
具体的には、情報処理装置2は、投稿要求により指定されたメディア情報を取得すると、そのメディア情報に固有のファイル名(以下「メディア情報ファイル名」という。)を生成し、取得したメディア情報と生成したメディア情報ファイル名とを記憶装置4が有するメディアファイル記憶装置42(後述)に出力する。
【0016】
また、情報処理装置2は、投稿要求により指定されたメディア情報を取得すると、投稿要求により指定されたメディア情報の真贋判定を行うべき旨を示す真贋判定イベント情報を、記憶装置4が有するRDB(Relational DataBase)41(後述)に出力する。
以下、取得したメディア情報について行うべき真贋判定の処理のことを「真贋判定イベント」ともいう。例えば、情報処理装置2が新たな投稿要求を受信し、投稿要求により指定されたメディア情報を取得すると、新たな真贋判定イベントが発生する。情報処理装置2が真贋判定イベント情報をRDB41に出力することは、新たな真贋判定イベントが発生したことをRDB41に伝えることを意味する。真贋判定イベント情報には、例えば、投稿要求を送信したユーザのユーザID(後述)、加工済メディア情報の生成を要求する生成要求情報(後述)および真贋判定の対象となるメディア情報のメディア情報ファイル名が含まれる。
RDB41は、真贋判定イベント情報を取得すると、その真贋判定イベント情報に対し、その真贋判定イベント情報に固有の整数値としてID(以下「真贋判定イベントID」という。)を生成する。RDB41は、生成した真贋判定イベントIDと取得した真贋判定イベント情報とを紐づけて、RDB41が有するキューテーブル413(後述)に登録する。また、RDB41は、生成した真贋判定イベントIDを、情報処理装置2に出力する。
【0017】
情報処理装置2は、記憶装置4にメディア情報を出力した後、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを、外部端末5に送信する。
例えば、情報処理装置2は、記憶装置4にメディア情報と真贋判定イベント情報を出力すると、記憶装置4のRDB41から取得した真贋判定イベントIDを利用して、そのメディア情報の真贋判定の処理に固有の真贋判定トークンを生成する。情報処理装置2は、生成した真贋判定トークンを外部端末5に送信する。その際、情報処理装置2は、真贋判定トークンを、例えば、外部端末5からの投稿要求に対する外部端末5へのHTTPレスポンスに記述して送信する。
真贋判定トークンは、外部端末5から情報処理装置2に送信される要求等にその真贋判定トークンが記述された場合に、その真贋判定トークンを利用することによって、真贋判定の対象となったメディア情報が特定できるものであればよく、また、その要求等の完全性が保証できるものであることが望ましい。
あるユーザが投稿要求によって投稿したメディア情報についての真贋判定の成果物を、そのユーザとは異なる者が自由に取得できることは、情報セキュリティの観点から好ましくない。完全性の保証のための真贋判定トークンの利用によって、真贋判定トークンが改ざんされた場合における不正な真贋判定の成果物の取得を防止できる。
【0018】
ユーザが外部端末5を操作して、情報処理装置2に投稿要求を送信した後、実際に推論装置3による真贋判定が行われ、真贋判定の結果が得られるまでには、通常、比較的長い時間が必要となることが想定される。例えば、一般的にフレーム数または容量の大きい動画像についての真贋判定を行う場合、または、多くの真贋判定イベントが同時に存在している場合等が想定されるからである。
それにも拘わらず、仮に、外部端末5から情報処理装置2に送信された投稿要求に対する、情報処理装置2から外部端末5へのHTTPレスポンス等の応答に真贋判定結果を含めることにすると、投稿要求から応答までに比較的長い時間が必要となり、ユーザにとっては、投稿要求が正しく受信されたのか否かの判断ができず、好ましくない。
これに対し、上述のように、情報処理装置2が、生成した真贋判定トークンを、HTTPレスポンス等の応答文に記述して、外部端末5に送信する場合は、投稿要求から応答までの時間が比較的短くなり、ユーザにとっては、投稿要求が正しく受信されたのか否かの確認が早期にできることとなり、好ましい。そして、ユーザは、応答文に基づき、投稿要求が正しく受信されたことを確認した後、推論装置3による真贋判定の成果物が得られるタイミングであれば、ユーザが所望する任意のタイミングで、真贋判定トークンを用いることにより、真贋判定の成果物を要求することができるため、ユーザにとっての利便性が高い。
【0019】
情報処理装置2の詳細については、後述する。
【0020】
(推論装置)
推論装置3は、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う。
推論装置3は、メディア情報についての真贋判定を行い、その真贋判定の成果物として、真贋判定値、または、加工済メディア情報を生成し得る。真贋判定値は、真贋判定の結果を数値または文字で示すものである。加工済メディア情報は、メディア情報に真贋判定の結果を示す情報が付加されたものである。
【0021】
真贋判定値は、メディア情報が動画像の場合、AIにより生成されたフレームのフレーム番号、AIにより生成された動画像部分を示す経過時間、真贋判定の結果を数値で示す動画像真贋判定スコア、前記動画像真贋判定スコアに基づいて真贋を分けるための閾値、1フレーム内におけるAIにより生成された画像部分を示す座標、二値的に示された動画像全体としての真贋判定結果、または、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記動画像真贋判定スコアのうちの、少なくとも1つである。
【0022】
AIにより生成されたフレームのフレーム番号は、動画像を構成する全体のフレームのうち、AIにより生成されたフレームとして推論装置3が特定したフレームのフレーム番号である。
AIにより生成された動画像部分を示す経過時間は、上述のようにAIにより生成されたフレームとして推論装置3が特定したフレームのフレーム番号が、動画像を冒頭から再生する場合の冒頭からの経過時間で示されたものである。
【0023】
真贋判定の結果を数値で示す動画像真贋判定スコアは、推論装置3が動画像についての真贋判定の処理を行った際に出力した、数値または数値に代わる文字等として示されるものであり、例えば、実質的な連続値(0~1までの間の数値等)のうちいずれかの数値、複数の離散値のうちのいずれかの数値、または、複数の文字(S、A、BまたはC等の文字)のうちのいずれかの文字等で示されるものである。
動画像真贋判定スコアに基づいて真贋を分けるための閾値は、推論装置3が真贋判定の処理の際に行った出力として、上述の動画像真贋判定スコアが得られた場合に、その動画像真贋判定スコアに基づいて、真贋判定の結果を、真または贋の二値に分けるための閾値である。例えば上述の出力が0~1までの実質的な連続値として得られる場合に、閾値は、例えば0.5として設定され、かつ、出力が0.5以下であれば、真贋判定の結果は、AIによって生成されたものではないことを示す「真」とされ、出力が0.5を超えていれば、真贋判定の結果は、AIによって生成されたものであることを示す「贋」とされるものとして、設定され得る。
【0024】
1フレーム内におけるAIにより生成された画像部分を示す座標は、ある1フレームにおいて、そのフレーム内の各部分のうち、AIにより生成された画像部分を示す領域を特定するための1以上の座標である。1フレーム内におけるAIにより生成された画像部分を示す座標は、例えば、AIにより生成された画像部分が、バウンディングボックスで囲まれる領域として推論装置3によって特定される場合に、そのバウンディングボックスを示すことのできる少なくとも2つの座標である。
例えば、フレームの外形に対するバウンディングボックスの配置角度が決まっている場合、バウンディングボックスは、そのバウンディングボックスが有する4つの頂点のうち、1つの対角線上で対向する2つの頂点を示す2つの座標を用いて特定することができる。また、フレームの外形に対するバウンディングボックスの配置角度が決まっていない場合は、1フレーム内におけるAIにより生成された画像部分を示す座標は、バウンディングボックスが有する4つの頂点のうち3つ以上の座標とすることができる。
【0025】
二値的に示された動画像全体としての真贋判定結果は、動画像を構成する全体のフレームのうち、AIにより生成されたフレームとして推論装置3が特定したフレームの存在の有無、AIにより生成されたフレームとして特定されたフレーム数の多寡、または、上述の動画像真贋判定スコアおよび上述の閾値等に基づき、その動画像全体について真贋判定の結果を「真」または「贋」として判定して示すものである。真贋判定結果は、「真」または「贋」に限らず、他の文字(例えば「Real」または「Fake」等)または数値(例えば「0」または「1」等)で示されるものであってよい。
【0026】
真贋判定の対象が複数の場合の各対象を示すインデックスは、1つの動画像中に、真贋判定の対象となるオブジェクト(例えば「人物の顔」)が複数存在する場合に、それぞれのオブジェクトを区別するために付された文字、数字または記号等である。インデックスごとの動画像真贋判定スコアは、上述のインデックスが付された各対象となるオブジェクトについての、推論装置3による真贋判定の結果を示すものである。
【0027】
また、真贋判定値は、メディア情報が静止画像の場合、真贋判定の結果を数値で示した静止画像真贋判定スコア、静止画像真贋判定スコアに基づいて真贋を分けるための閾値、静止画像内におけるAIにより生成された画像部分を示す座標、二値的に示された静止画像全体としての真贋判定結果、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの静止画像真贋判定スコアのうちの、少なくとも1つである。
各真贋判定値については、動画像の場合と類似するため、説明は省略する。
【0028】
また、真贋判定値は、メディア情報が音声の場合、真贋判定の結果を数値で示す音声真贋判定スコア、音声真贋判定スコアに基づいて真贋を分けるための閾値、AIにより生成された音声の周波数領域、または、AIにより生成された音声の時間領域のうちの、少なくとも1つである。
真贋判定の結果を数値で示す音声真贋判定スコア、および、音声真贋判定スコアに基づいて真贋を分けるための閾値については、動画像についての動画像真贋判定スコアおよび閾値と類似するため、説明は省略する。
AIにより生成された音声の周波数領域は、音声全体の周波数領域の表現における1以上の周波数成分のうち、推論装置3によってAIによって生成された音声を示す周波数成分として特定された周波数成分の周波数を示す数値である。
AIにより生成された音声の時間領域は、音声全体の時間領域の表現における1以上の時間帯のうち、推論装置3によってAIによって生成された音声を示す時間帯として特定された時間帯を示す数値である。時間帯を示す数値は、音声を冒頭から再生する場合の冒頭からの経過時間で示されたものである。
【0029】
また、真贋判定値は、メディア情報が文章の場合、真贋判定の結果を数値で示す文章真贋判定スコア、文章真贋判定スコアに基づいて真贋を分けるための閾値、または、文章中のAIにより生成された位置のうちの、少なくとも1つである。
真贋判定の結果を数値で示す文章真贋判定スコア、および、文章真贋判定スコアに基づいて真贋を分けるための閾値については、動画像についての動画像真贋判定スコアおよび閾値と類似するため、説明は省略する。
文章中のAIにより生成された位置は、全文章のうち、推論装置3によってAIによって生成された文章として特定された部分を示す数字である。
例えば、文章中のAIにより生成された位置は、全文章の冒頭から何文字目から何文字目までかを示す複数の数字、全文章を特定の1行当たりの文字数で表示する場合における何行目の何文字目から何文字目までかを示す複数の数字、または、全文章を特定の1行当たりの文字数かつ特定の1ページ当たりの行数で表示する場合における何ページ目何行目の何文字目から何文字目までかを示す複数の数字等で示されるものである。
【0030】
加工済メディア情報に付加される真贋判定の結果を示す情報は、加工済メディア情報を視聴するユーザが、メディア情報の中で、どの部分の情報が贋情報(AIにより生成された情報)であり、どの部分の情報が真情報(実物を撮影した画像、実際の人物の音声の録音、または、人間が記述した文章等)であるのかを認識することができるものであれば、どのようなものであってもよい。
【0031】
メディア情報が動画像の場合、加工済メディア情報は、例えば、動画像を構成する各フレームにおける真贋判定の対象となるオブジェクトに、バウンディングボックスの表示を付加したものである。付加されるバウンディングボックスの態様は、そのバウンディングボックス内の真贋判定の対象となるオブジェクトが、贋情報である画像と判定された場合と、真情報である画像と判定された場合とで、互いに異なることがユーザに視覚的に認識されるものであれば、どのような態様であってもよい。
例えば、バウンディングボックスは、そのバウンディングボックス内の真贋判定の対象となるオブジェクトが、贋情報である画像と判定された場合と、真情報である画像と判定された場合とで、異なる色(例えば、前者は赤色、後者は緑色)で表示されるように付加される。また、例えば、バウンディングボックスは、そのバウンディングボックス内の真贋判定の対象となるオブジェクトが、贋情報である画像と判定された場合と、真情報である画像と判定された場合とで、異なる線形状(例えば、前者は実線、後者は破線)で表示されるように付加される。
ユーザは、動画像としての加工済メディア情報を入手することで、その動画像を再生しながら、その動画像のどの部分が贋情報であるのか真情報であるのかを視覚的に認識することができる。
【0032】
メディア情報が静止画像の場合、加工済メディア情報は、例えば、静止画像における真贋判定の対象となるオブジェクトに、バウンディングボックスの表示を付加したものである。付加されるバウンディングボックスの態様は、動画像の場合と同様に、そのバウンディングボックス内の真贋判定の対象となるオブジェクトが、贋情報である画像と判定された場合と、真情報である画像と判定された場合とで、互いに異なることがユーザに視覚的に認識されるものであれば、どのような態様であってもよい。
【0033】
図3は、加工済メディア情報が画像である場合の、実際の人物が撮影された画像およびAIにより生成された画像の例を示す図である。
図3には、人物の画像が2種類示されている。図3における、左側の「Real」との文字が記載された方の画像は、人物の画像81Aが、真情報と判定された画像である。画像81Aの周囲には、バウンディングボックス8Aが表示されている。また、図3における、右側の「Fake」との文字が記載された方の画像は、人物の画像81Bが、贋情報と判定された画像である。画像81Bの周囲には、バウンディングボックス8Bが表示されている。
図3において、例えば、バウンディングボックス8Aは、緑色の実線で表示され、バウンディングボックス8Bは、赤色の実線で表示される。
ユーザは、画像としての加工済メディア情報を入手することで、その画像を視認しながら、その画像に写った判定対象の画像が、贋情報であるのか真情報であるのかを視覚的に認識することができる。
【0034】
メディア情報が音声の場合、加工済メディア情報は、例えば、音声の周波数領域の表現、または、音声の時間領域の表現において、各領域のある部分が贋情報としての音声であることを示すボックス形状の情報が付加されたものである。
また、メディア情報が音声の場合、加工済メディア情報は、例えば、音声の周波数領域の表現において、贋情報としての音声と判定された周波数成分の表示を、他の周波数成分の表示と異なる色で表示するものであってもよい。
また、メディア情報が音声の場合、加工済メディア情報は、例えば、音声の時間領域の表現において、贋情報としての音声の波形と判定された時間帯の波形の表示を、真情報としての音声と判定された時間帯の波形と異なる色で表示するものであってもよい。
【0035】
メディア情報が文章の場合、加工済メディア情報は、例えば、文章中のある部分が贋情報としての文章であることを示すボックス形状または線形状の情報である。
また、メディア情報が文章の場合、加工済メディア情報は、例えば、贋情報として判定された文章の部分の文字を、真情報として判定された文章の部分の文字と異なる色で表示するものであってもよい。
【0036】
情報処理装置2が外部端末5から受信する投稿要求には、加工済メディア情報の生成を要求する生成要求情報が記述され得る。そして、生成要求情報が投稿要求に記述されている場合、情報処理装置2は、真贋判定イベント情報に生成要求情報を含めて、記憶装置4に出力する。
推論装置3は、真贋判定の対象となるメディア情報に関する生成要求情報が記憶装置4に記憶されている場合、そのメディア情報についての真贋判定の成果物として、少なくとも、加工済メディア情報を生成し、生成した加工済メディア情報を記憶装置4に出力して記憶させる。また、推論装置3は、真贋判定の対象となるメディア情報に関する生成要求情報が記憶装置4に記憶されている場合、推論装置3による真贋判定の成果物として、真贋判定値および加工済メディア情報を生成し、生成した真贋判定値および加工済メディア情報を記憶装置4に出力して記憶させるものであってもよい。
一方、推論装置3は、真贋判定の対象となるメディア情報に関する生成要求情報が記憶装置4に記憶されていない場合、推論装置3による真贋判定の成果物として、少なくとも、真贋判定値を生成し、生成した真贋判定値を記憶装置4に出力して記憶させる。
【0037】
推論装置3は、例えば、イベントコンシューマ31と推論部32とを有する。
イベントコンシューマ31は、記憶装置4の一部を構成するRDB41(後述)内のキューテーブル413(後述)を参照し、次に行うべき真贋判定の処理を示す真贋判定イベントIDを取得するとともに、その真贋判定イベントIDと紐づけられたメディア情報ファイル名等を含む真贋判定イベント情報を取得して、推論部32に、少なくとも、取得したメディア情報ファイル名を出力する。
【0038】
イベントコンシューマ31は、推論部32が真贋判定の処理を完了したことを示す処理完了情報を、推論部32から取得すると、真贋判定の処理が完了した真贋判定イベントIDに完了フラグ等の完了を示す情報を付して、キューテーブル413に出力する。
また、イベントコンシューマ31は、推論部32から、処理完了情報に加えて真贋判定値を取得すると、取得した真贋判定値を、真贋判定イベントIDとともに、RDB41に出力し、真贋判定値と真贋判定イベントIDとを紐づけてRDB41が有する判定結果テーブル412(後述)に登録させる。
また、イベントコンシューマ31は、推論部32が加工済メディア情報の生成の要求に応じて加工済メディア情報を生成した場合、加工済メディア情報をメディアファイル記憶装置42(後述)に記憶させる際のファイル名となる加工済メディア情報ファイル名を生成し、推論部32から取得した加工済メディア情報と、生成した加工済メディア情報ファイル名とを、メディアファイル記憶装置42に出力する。
イベントコンシューマ31は、加工済メディア情報ファイル名を生成した場合、さらに、生成した加工済メディア情報ファイル名を、真贋判定イベントIDとともに、RDB41に出力し、加工済メディア情報ファイル名と真贋判定イベントIDとを紐づけてRDB41が有する判定結果テーブル412に登録させてもよい。
【0039】
推論部32は、イベントコンシューマ31からメディア情報ファイル名を取得すると、記憶装置4の一部を構成するメディアファイル記憶装置42(後述)内の投稿済メディアファイル群421(後述)から、メディア情報ファイル名を有するメディア情報を読み出して取得する。推論部32は、メディア情報を取得すると、真贋判定を行う。
推論部32は、投稿済メディアファイル群421から取得したメディア情報についての真贋判定の処理を完了すると、イベントコンシューマ31に、そのメディア情報についての真贋判定の処理が完了したことを示す処理完了情報を出力する。推論部32は、処理完了情報として、例えば、真贋判定の処理が成功したか失敗したかを示す成否情報をイベントコンシューマ31に送信してもよい。
【0040】
また、推論部32は、キューテーブル413から取得した真贋判定イベント情報に、真贋判定の対象となるメディア情報に関する生成要求情報が含まれている場合は、投稿済メディアファイル群421から取得したメディア情報についての真贋判定の処理において、加工済メディア情報を生成する。
推論部32は、加工済メディア情報を生成した場合、生成した加工済メディア情報を、例えば、イベントコンシューマ31を介して、記憶装置4に出力する。記憶装置4は、記憶装置4の一部を構成するメディアファイル記憶装置42内の加工済メディアファイル群422(後述)に、取得した加工済メディア情報を記憶させる。
【0041】
これに対し、推論部32は、生成要求情報の有無にかかわらず、投稿済メディアファイル群421から取得したメディア情報についての真贋判定の処理において、真贋判定値を生成し得る。特に、生成要求情報が記憶装置4に記憶されていない場合、推論部32は、真贋判定値を生成する。推論部32は、投稿済メディアファイル群421から取得したメディア情報についての真贋判定の処理の際に真贋判定値を生成した場合、真贋判定の処理を完了すると、イベントコンシューマ31に、処理完了情報に加え、生成した真贋判定値を出力する。
【0042】
推論部32は、メディア情報の真贋判定を、例えば、機械学習済のモデルを利用して行う。この真贋判定を行うためのモデルとしては、メディア情報の真贋判定を行うことができるものであればよく、メディア情報の種類に応じた任意のモデルが採用され得る。
例えば、推論部32が画像の真贋判定を行う場合、EfficientNetモデル、または、CapsuleNetモデルを用いて学習を行った画像認識モデルが採用され得る。画像の真贋判定を行う場合、推論部32は、例えば、前処理として、画像の中から真贋判定の対象となる画像部分を検出してもよい。例えば、推論部32が人間の顔を真贋判定の対象とする場合、推論部32は、前処理において、画像中の人間の顔が写っている部分の検出を行う。また、推論部32は、前処理において、真贋判定の対象となる画像部分を検出した後、当該画像部分の特徴量を検出してもよい。推論部32は、検出した特徴量を機械学習済みのモデルへの入力として、真贋判定の推論結果を出力する。
【0043】
また、例えば、推論部32が音声の真贋判定を行う場合、LCNN(Light Convolution Network)モデル等が採用され得る。
また、例えば、推論部32が文章の真贋判定を行う場合、GLTRモデル等が採用され得る。
【0044】
図1に示した情報処理システム1は、推論装置3を1台のみ備えるが、情報処理システム1は推論装置3を2台以上備えていてもよい。情報処理システム1が、推論装置3を2台以上備える場合、キューテーブル413には、真贋判定イベントIDおよび真贋判定イベント情報が、推論装置3ごとに予め割り振られて登録されていてもよいし、いずれの推論装置3が処理すべきかを予め区別することなく登録されていてもよい。
例えば、後者の登録の形態が採用される場合、複数の推論装置3は、それぞれにおいて、ある真贋判定イベントの処理が完了するとキューテーブル413を参照し、キューテーブル413に登録された真贋判定イベントのうち次に処理すべき真贋判定イベントの真贋判定イベント情報等を取得して、その真贋判定イベントの処理を行う。また、この後者の場合、キューテーブル413には、処理中の真贋判定イベントがどの推論装置3のイベントコンシューマ31によって取得され推論部32によって処理中かを示すため、例えば、各イベントコンシューマ31固有のIDであるイベントコンシューマIDが処理中の真贋判定イベントの真贋判定イベントID等と紐づけて登録される。
【0045】
(記憶装置)
記憶装置4は、情報処理装置2および推論装置3がアクセス可能なものであり、情報処理装置2が投稿要求に基づいて取得し記憶装置4に出力したメディア情報を記憶する。記憶装置4に記憶されたメディア情報は、情報処理装置2がメディア情報に付与したメディア情報ファイル名を有する。記憶装置4に記憶されたメディア情報は、推論装置3による真贋判定の対象であり、推論装置3が真贋判定の処理を行う際に、推論装置3からの要求に基づき、推論装置3によって読み出される。
また、記憶装置4は、推論装置3から出力された真贋判定の成果物を記憶する。真贋判定の成果物は、真贋判定値、または、加工済みメディア情報である。
また、記憶装置4は、ユーザの管理に関する情報、または、真贋判定の処理順を管理する情報等を記憶する。
【0046】
記憶装置4は、例えば、RDB41とメディアファイル記憶装置42とを有する。
RDB41は、情報処理システム1を利用するユーザの管理、推論装置3による真贋判定の結果の管理、推論装置3によるメディア情報の真贋判定の処理順の管理を行うものである。
RDB41は、例えば、ユーザテーブル411、判定結果テーブル412、および、キューテーブル413を有する。
【0047】
ユーザテーブル411は、情報処理システム1を利用するユーザを管理するためのテーブルである。ユーザテーブル411には、例えば、ユーザ名、および、ユーザIDが互いに紐づけて登録される。また、ユーザテーブル411には、ユーザ名等と紐づけて、ユーザごとに固有の公開真贋判定イベントIDシード、および、ユーザごとに固有の真贋判定トークンパスワードも登録され得る。
【0048】
ユーザ名は、ユーザの名称である。ユーザは、団体または個人であり得る。ユーザが団体の場合、例えば、ユーザ名は、団体の名称、または、団体における情報処理システム1の利用を管理する管理者によって管理される、団体の所属員としてのユーザの氏名である。また、ユーザが団体を通じて情報処理システム1を利用する者ではない個人である場合、ユーザ名は、その個人の氏名である。
ユーザIDは、各ユーザに固有に付与された、各ユーザを特定するためのIDである。
公開真贋判定イベントIDシード、および、真贋判定トークンパスワードについては、後述する。
【0049】
判定結果テーブル412は、推論装置3が真贋判定を行って生成した真贋判定の成果物のうち、真贋判定値が登録されるテーブルである。真贋判定値は、例えば、その真贋判定値が生成された際の判定対象となったメディア情報の真贋判定の処理に固有の真贋判定イベントIDと紐づけて、登録される。また、加工済メディア情報が生成された場合、判定結果テーブル412には、真贋判定イベントIDと紐づけて、加工済メディア情報ファイル名が登録されていてもよい。
【0050】
キューテーブル413には、メディア情報の真贋判定処理順に、真贋判定イベントIDが、真贋判定イベント情報と紐づけて、記憶される
上述のとおり、情報処理装置2は、投稿要求により指定されたメディア情報を取得すると、真贋判定イベント情報をRDB41に出力する。RDB41は、真贋判定イベント情報を取得すると、その真贋判定イベント情報に対し、真贋判定イベントIDを生成し、生成した真贋判定イベントIDと取得した真贋判定イベント情報とを紐づけて、キューテーブル413に登録する。
また、キューテーブル413には、真贋判定イベントID等が示す真贋判定イベントの処理状態に関する情報が含まれていてもよい。真贋判定イベントの処理状態に関する情報は、例えば、各真贋判定イベントが待機中であるか、処理中であるか、または、完了しているか等の情報を含む。また、情報処理システム1が推論装置3を2台以上備える場合、真贋判定イベントの処理状態に関する情報は、各真贋判定イベントを処理中または処理を完了したイベントコンシューマ31のイベントコンシューマIDを含む。
【0051】
キューテーブル413には、例えば、FIFO(First In First Out)法に従って、RDB41の管理プログラムが決定した順番で、各真贋判定イベントIDが示すメディア情報の真贋判定の処理が行われるように、1以上の真贋判定イベントIDが登録される。
または、キューテーブル413には、例えば、各真贋判定イベントIDが示すメディア情報の真贋判定の処理が、推論装置3の処理状況を考慮して行われるように、RDB41の管理プログラムによって決定された順番で、1以上の真贋判定イベントIDが登録される。例えば、RDB41は、メディア情報の容量が小さく、推論装置3による処理の時間が比較的短いと予測されるメディア情報についての真贋判定の処理を、メディア情報の容量が大きく、推論装置3による処理の時間が比較的長いと予測される処理よりも優先して処理が行われるように、真贋判定の処理の順番を決定して、真贋判定イベントIDをキューテーブル413に登録する。
【0052】
または、キューテーブル413には、例えば、ユーザが指定した優先順位で各真贋判定イベントIDが示すメディア情報の真贋判定の処理が行われるように、RDB41の管理プログラムによって決定された順番で、1以上の真贋判定イベントIDが登録されてもよい。
または、ユーザの中に、使用料を支払って情報処理システム1が提供する真贋判定機能を利用する課金ユーザと、無料で同真贋判定機能を利用する無料ユーザとが存在する場合、キューテーブル413には、例えば、課金ユーザからの投稿要求に基づく真贋判定イベントの処理が無料ユーザからの投稿要求に基づく真贋判定イベントの処理に優先して行われるように、RDB41の管理プログラムによって決定された順番で、1以上の真贋判定イベントIDが登録されてもよい。
【0053】
メディアファイル記憶装置42は、情報処理装置2が取得したメディア情報と、推論装置3が生成した加工済メディア情報とを記憶するものである。
メディアファイル記憶装置42には、例えば、投稿済メディアファイル群421と、加工済メディアファイル群422が、それぞれ区別されて記憶される。
投稿済メディアファイル群421には、情報処理装置2が取得した1以上のメディア情報が記憶され得る。投稿済メディアファイル群421に記憶されるメディア情報は、メディア情報ファイル名を有する。
加工済メディアファイル群422には、推論装置3が生成した1以上の加工済メディア情報が記憶され得る。加工済メディアファイル群422に記憶される加工済メディア情報は、加工済メディア情報ファイル名を有する。
【0054】
(外部端末)
外部端末5は、情報処理装置2が提供する真贋判定APIを介して、メディア情報の真贋判定機能を利用するユーザが使用する端末である。外部端末5は、ネットワーク7を介して少なくとも情報処理装置2と通信可能な端末装置であり、例えば、スマートフォン、タブレット端末またはPC(Personal Computer)である。
情報処理システム1は、複数台の外部端末5を備えてよい。図1には、外部端末5を1台のみ示す。
【0055】
(補助情報処理装置)
補助情報処理装置6は、情報処理装置2から真贋判定の成果物を取得して、真贋判定の成果物に応じた情報を生成して、外部端末5に送信する装置である。補助情報処理装置6は、ネットワーク7を介して少なくとも情報処理装置2および外部端末5と通信可能な装置であり、例えば、サーバコンピュータである。
情報処理システム1は、複数台の補助情報処理装置6を備えてよい。図1には、補助情報処理装置6を1台のみ示す。
真贋判定の成果物に応じた情報は、情報処理装置2から取得された真贋判定の成果物を利用して生成された情報であって、外部端末5を通じてユーザに真贋判定の結果について関連する内容を伝えるための情報であれば、どのような情報であってもよい。
【0056】
例えば、補助情報処理装置6は、真贋判定の対象が動画像であり、真贋判定の成果物である真贋判定値がその動画像のフレームのうちAIにより生成されたフレームの番号を示すものであった場合、真贋判定の成果物に応じた情報として、その動画像の全フレーム数と、AIにより生成された全フレーム数とを表示する情報を生成する。
また、例えば、補助情報処理装置6は、真贋判定の対象が動画像であり、真贋判定の成果物が加工済メディア情報である場合、真贋判定の成果物に応じた情報として、その動画像から、AIにより生成された画像を含むフレームのみを抽出したメディア情報を生成する。
【0057】
また、例えば、補助情報処理装置6は、真贋判定の対象が音声であり、真贋判定の成果物である真贋判定値がその音声の周波数領域のうちAIにより周波数成分を示すものであった場合、真贋判定の成果物に応じた情報として、その音声の全周波数成分数と、AIにより生成された全周波数成分数とを表示する情報を生成する。
また、例えば、補助情報処理装置6は、真贋判定の対象が音声であり、真贋判定の成果物が加工済メディア情報である場合、真贋判定の成果物に応じた情報として、その加工済メディア情報としての音声から、AIにより生成された周波数成分のみを抽出したメディア情報を生成する。
【0058】
また、例えば、補助情報処理装置6は、真贋判定の対象が文章であり、真贋判定の成果物である真贋判定値がその文章のうちAIにより生成された部分の位置を示すものであった場合、真贋判定の成果物に応じた情報として、その文章に含まれる全文字数と、AIにより生成された全文字数とを表示する情報を生成する。
また、例えば、補助情報処理装置6は、真贋判定の対象が文章であり、真贋判定の成果物が加工済メディア情報である場合、真贋判定の成果物に応じた情報として、その加工済メディア情報としての文章から、AIにより生成された文章部分のみを抽出したメディア情報を生成する。
【0059】
(情報処理装置の詳細)
情報処理装置2についてより詳細に説明する。情報処理装置2は、図1に示すように、通信部21および演算部22を備える。
通信部21は、ネットワーク7を介して、外部端末5または補助情報処理装置6と通信を行う。例えば、通信部21は、LTE、3G、4Gまたは5G等の通信方式によるモバイル通信が可能な外部端末5との間で、ネットワーク7を介して通信可能である。
演算部22は、情報処理装置2の全体動作を制御する。演算部22は、メディア情報取得部221、出力部222、トークン送信部223、成果物取得部224および成果物送信部225を備える。演算部22が、真贋判定APIプログラムを実行することにより、メディア情報取得部221、出力部222、トークン送信部223、成果物取得部224および成果物送信部225の各機能が実現される。
【0060】
図2は、情報処理装置2の機能を実現するハードウェア構成を示すブロック図である。例えば、情報処理装置2は、ハードウェア構成として、通信インタフェース100、入出力インタフェース101、プロセッサ102およびメモリ103を有する。情報処理装置2が備える、メディア情報取得部221、出力部222、トークン送信部223、成果物取得部224および成果物送信部225の各機能は、これらのハードウェア構成において、真贋判定APIプログラムが実行されることで実現される。
【0061】
通信インタフェース100は、ネットワーク7を介して外部の各種装置から受信されたデータをプロセッサ102へ出力し、プロセッサ102が生成したデータを、ネットワーク7を介して、外部端末5へ送信する。プロセッサ102は、入出力インタフェース101を介して、HDD(Hard Disk Drive)またはSSD(Solid State Drive)等の図示しない記憶部に対しデータを読み書きする。
この記憶部には、メディア情報取得部221、出力部222、トークン送信部223、成果物取得部224および成果物送信部225の各機能を実現するための真贋判定APIプログラムが記憶されている。また、この記憶部には、演算部22の演算処理に用いられる情報が記憶される。
【0062】
プロセッサ102は、入出力インタフェース101を介して、上述の図示しない記憶部に記憶されたプログラムを読み出してメモリ103にロードし、メモリ103にロードされたプログラムを実行する。これにより、プロセッサ102は、メディア情報取得部221、出力部222、トークン送信部223、成果物取得部224および成果物送信部225の各機能を実現する。
メモリ103は、例えば、RAM(Random Access Memory)である。
【0063】
(メディア情報取得部)
メディア情報取得部221は、外部端末5から投稿要求を受信し、投稿要求により指定されたメディア情報を取得する。
メディア情報取得部221は、外部端末5から通信部21を介して投稿要求を受信すると、まず、その投稿要求が、情報処理システム1の正当なユーザによって送信されたものであるかを確認してもよい。その確認のため、投稿要求には、真贋判定の対象となるメディア情報を指定するための情報が記述され得るほか、投稿要求を送信するユーザに対して付与されたAPIトークンが記述され得る。
【0064】
メディア情報取得部221は、投稿要求を受信すると、RDB41内のユーザテーブル411にアクセスし、投稿要求に記述されたAPIトークンから得られるユーザID等に紐づけられたユーザテーブル411内の情報等を利用して、APIトークンによる認証の処理を行う。APIトークンを用いた認証処理としては、公知の認証手法を応用した任意の手法を採用し得る。メディア情報取得部221は、APIトークンによる認証がなされると、そのAPIトークンが記述された投稿要求は、情報処理システム1の正当なユーザによって送信されたものであると判断する。
なお、実施の形態1は、情報処理装置2が投稿要求等の要求を受信するたびに、APIトークンによる認証を行うものとして説明されるが、APIトークンによる認証は、必須ではなく、省略されてもよい。この場合、投稿要求等の要求には、APIトークンは、記述されない。
【0065】
メディア情報取得部221は、APIトークンによる認証を行うとともに、投稿要求に記述された、真贋判定の対象となるメディア情報を指定するための情報に基づいて、投稿要求により指定されたメディア情報を取得する。
メディア情報取得部221は、投稿要求により指定されたメディア情報を取得すると、少なくとも、取得したメディア情報と真贋判定イベント情報を、出力部222に出力する。また、メディア情報取得部221は、生成要求情報が投稿要求に記述されている場合、生成要求情報を真贋判定イベント情報に含めて、出力部222に出力する。
【0066】
(出力部)
出力部222は、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置3からアクセス可能な記憶装置4に、メディア情報を出力する。
出力部222は、メディア情報取得部221からメディア情報および真贋判定イベント情報を取得すると、そのメディア情報に固有のメディア情報ファイル名を生成して、そのメディア情報に付与し、記憶装置4が有するメディアファイル記憶装置42に出力して、メディアファイル記憶装置42に記憶された投稿済メディアファイル群421中の1ファイルとして追加して記憶させる。
【0067】
また、出力部222は、メディア情報取得部221からメディア情報および真贋判定イベント情報を取得すると、真贋判定イベント情報を、RDB41に出力する。上述のように、RDB41は、真贋判定イベント情報を取得すると、真贋判定イベントIDを生成し、生成した真贋判定イベントIDと真贋判定イベント情報を紐づけてキューテーブル413に登録させる。また、RDB41は、生成した真贋判定イベントIDを、出力部222に出力する。
【0068】
出力部222は、メディアファイル記憶装置42へのメディア情報の出力、RDB41への真贋判定イベント情報の出力、および、RDB41からの真贋判定イベントIDの取得が終了すると、トークン送信部223に、真贋判定イベントIDと真贋判定イベント情報とを出力する。
【0069】
(トークン送信部)
トークン送信部223は、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを、外部端末5に送信する。
トークン送信部223は、出力部222から真贋判定イベントIDと真贋判定イベント情報とを取得すると、真贋判定トークンを生成する。
トークン送信部223によって生成される真贋判定トークンは、外部端末5から情報処理装置2に送信される要求等に記述された場合に、その真贋判定トークンを利用することによって、真贋判定の対象となったメディア情報が特定でき、また、その要求等の完全性が保証できるものであればよく、トークン送信部223は、任意の方法で、そのような真贋判定トークンを生成することができる。トークン送信部223は、例えば、出力部222から取得した真贋判定イベントIDと、ユーザテーブル411から取得した公開真贋判定イベントIDシードおよび真贋判定トークンパスワードとを利用して、真贋判定トークンを生成する。
トークン送信部223は、出力部222から取得したAPIトークンを利用して、ユーザテーブル411から、APIトークンから得られるユーザID等と紐づけて登録されている公開真贋判定イベントIDシードおよび真贋判定トークンパスワードを取得することができる。
真贋判定トークンの生成の具体例については、後述する。
【0070】
トークン送信部223は、真贋判定トークンを生成すると、生成した真贋判定トークンを、通信部21を介して外部端末5に送信する。トークン送信部223は、真贋判定トークンを、例えば、外部端末5からの投稿要求に対する外部端末5へのHTTPレスポンスに記述して送信する。
【0071】
(成果物取得部)
成果物取得部224は、外部端末5から真贋判定トークンが記述された成果物要求を受信し、真贋判定トークンにより特定される真贋判定の成果物を記憶装置4から取得する。
成果物取得部224は、真贋判定の成果物として、真贋判定の結果を数値または文字で示す真贋判定値を取得し得る。また、成果物取得部224は、真贋判定の成果物として、メディア情報に真贋判定の結果を示す情報が付加された加工済メディア情報を取得し得る。
成果物取得部224は、具体的には、通信部21を介して、外部端末5から情報処理装置2に送信された成果物要求を受信し、成果物要求の記述に応じて、真贋判定の成果物として、真贋判定値または加工済メディア情報を取得する。
【0072】
上述のように、推論装置3は、真贋判定の対象となるメディア情報に関する生成要求情報が記憶装置4に記憶されている場合に、そのメディア情報についての真贋判定の成果物として、加工済メディア情報を生成し、生成した加工済メディア情報を記憶装置4に出力して記憶させる。
したがって、ユーザが外部端末5を操作して、加工済メディア情報の取得を要求する場合の上述のエンドポイントを成果物要求に記述して、情報処理装置2に送信し、真贋判定の成果物として、加工済メディア情報を取得するためには、ユーザは、事前に投稿要求に生成要求情報を記述しておく必要がある。
出力部222は、上述のとおり、加工済メディア情報の生成を要求する生成要求情報が投稿要求に記述されている場合、生成要求情報を含めた真贋判定イベント情報を、メディア情報とともに、記憶装置4に出力する。そして、成果物取得部224は、外部端末5から、真贋判定トークン、および、加工済メディア情報の送信要求が記述された成果物要求を受信すると、真贋判定の成果物として、加工済メディア情報を取得する。
【0073】
成果物取得部224は、具体的には、加工済メディアファイル群422から、加工済メディア情報を取得する。成果物取得部224は、取得すべき加工済メディア情報を、真贋判定トークンを利用して特定することができる。真贋判定トークンを利用した加工済メディア情報の特定の具体例については、後述する。
【0074】
これに対し、推論装置3は、生成要求情報の有無に関係なく、真贋判定の成果物として、真贋判定値を生成し、生成した真贋判定値を記憶装置4に出力して記憶させ得る。そして、成果物取得部224は、外部端末5から真贋判定トークンおよび真贋判定値の送信要求が記述された成果物要求を受信すると、真贋判定の成果物として、真贋判定値を取得する。
【0075】
成果物要求は、記憶装置4に記憶された真贋判定の成果物として、真贋判定値または加工済メディア情報の送信を要求するものであり、例えば、HTTPに従って記述される。成果物要求は、具体的には、例えば、GETメソッドを利用して記述される。成果物要求には、真贋判定トークンが記述されるほか、APIトークンも記述され得る。成果物要求にAPIトークンが記述される場合、成果物取得部224は、外部端末5から成果物要求を取得すると、APIトークンに基づきユーザの認証処理を行った後に、真贋判定の成果物を取得する。
真贋判定の成果物は、上述のように、真贋判定値または加工済メディア情報である。いずれの成果物を取得するかをユーザが選択可能とするため、真贋判定値の送信を要求する場合の成果物要求に記述されるエンドポイントと、加工済メディア情報の送信を要求する場合の成果物要求に記述されるエンドポイントとは、いずれもURI(Uniform Resource Identifier)で記述されて例えばその末尾にAPIトークンと真贋判定トークンが記述される点では共通するが、エンドポイント全体の記述としては、互いに異なるものとなるように設定されている。両エンドポイントの記述方法は、予め設定されており、ユーザに知らされている。
【0076】
成果物取得部224は、記憶装置4から真贋判定の成果物を取得すると、取得した真贋判定の成果物を、成果物送信部225に出力する。
【0077】
(成果物送信部)
成果物送信部225は、真贋判定の成果物を、外部端末5に送信する。
具体的には、成果物送信部225は、成果物取得部224から、真贋判定の成果物を取得すると、取得した真贋判定の成果物を、通信部21を介して外部端末5に送信する。
【0078】
(情報処理方法)
図4は、実施の形態1に係る情報処理方法を示すフローチャートである。
図4の処理に先立って、例えば、企業等の団体の所属員である個別ユーザによる情報処理システム1の利用を管理する管理者は、まず、真贋判定APIを使用する個別ユーザを管理するために提供される管理用APIを利用して、各個別ユーザに固有のAPIトークンを取得し、当該APIトークンを該当する個別ユーザに提供する。管理用APIは、情報処理装置2が提供するものであっても、他の図示しない装置が提供するものであってもよい。また、図4の処理に先立って、例えば、団体を通じることなく個人として情報処理システム1を利用したい者は、同様の管理用APIを利用して、自身のためのAPIトークンを取得することができる。
ユーザは、情報処理システム1が提供する真贋判定機能を利用して所望のメディア情報の真贋判定を行いたい場合、外部端末5を操作して、投稿要求を情報処理装置2に送信する。
【0079】
メディア情報取得部221は、外部端末から投稿要求を受信し、前記投稿要求により指定されたメディア情報を取得する(ステップST1)。
出力部222は、メディア情報についての真贋判定を行う推論装置3がアクセス可能な記憶装置4に、メディア情報を出力する(ステップST2)。
トークン送信部223は、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを、外部端末5に送信する(ステップST3)。
【0080】
図5は、実施の形態1に係る情報処理システムのメディア情報投稿時の処理を示すシーケンス図である。図5は、情報処理システム1におけるメディア情報投稿時の処理について、より具体的な例を示すものである。
図5中、「Hashids」は、情報処理装置2が利用する周知のオープンソースライブラリである。Hashidsの利用により、情報処理装置2は、例えば、任意の長さの文字列等を利用して、元データを変換して、ランダムな文字列を得ることができる。また、Hashidsでは、得られたランダムな文字列を、元データの変換時に利用した文字列を利用して復号し、元データを得ることができる。
また、図5中、「HMAC」(Hash based Message Authentication Code)は、情報処理装置2が利用する周知のメッセージ認証のための技術である。HMACは、秘密鍵と、認証の対象となる任意の文字列等の元データとから得られるハッシュ値を利用する。
また、図5中、「ユーザ」は、外部端末5を利用しているユーザを示している。したがって、情報の送受信は、実際には外部端末5と情報処理装置2または記憶装置4との間で行われる。
以下、図5中の各処理ステップ(1)~(13)について順に説明する。
【0081】
(1)ユーザ(外部端末5)は、APIトークンと、真贋判定の対象となるメディア情報を指定するための情報が記述された投稿要求を、情報処理装置2のAPIに送信する。情報処理装置2のAPI(例えばメディア情報取得部221)は、投稿要求に記述されたAPIトークンを取得するとともに、投稿要求に記述された真贋判定の対象となるメディア情報を指定するための情報に基づき、メディア情報を取得する。
APIトークンは、各ユーザが、所望のメディア情報について、情報処理システム1を利用して真贋判定を行う際に、必要となるトークンである。APIトークンは、ユーザが外部端末5を使用して、投稿要求等の要求を送信する際に、そのユーザが正当なユーザであることを証明するために、当該要求に記述をすることが求められるものである。
APIトークンは、例えば、ユーザ名等のユーザに関する情報がRDB41のユーザテーブル411に登録される際に、図示しない管理用API等により生成されて、ユーザに通知される。
【0082】
(2)情報処理装置2のAPI(例えばメディア情報取得部221)は、APIトークンに基づきユーザの認証処理を行う。APIトークンを用いた認証処理としては、公知の認証手法を応用した任意の手法を採用し得る。例えば、認証処理において、情報処理装置2のAPIは、APIトークンからユーザID等の情報を得ることができる。情報処理装置2のAPIは、APIトークンから得たユーザID等の情報とそのユーザID等の情報と紐づけてRDB41のユーザテーブル411に登録された情報とを用いて、ユーザの認証処理を行うことができる。
なお、APIトークンには、有効期限が設定されていてもよい。APIトークンに有効期限が設けられている場合、情報処理装置2のAPIは、APIトークンが有効期限を経過しているか否かの判定も行い、有効期限を経過していると判定されると、ユーザ(外部端末5)に、その旨の処理エラーを示す応答を送信する。
【0083】
(3)記憶装置4のRDB41は、未完了状態の真贋判定イベント数を情報処理装置2のAPIに出力する。
(4)情報処理装置2のAPI(例えば出力部222)は、未完了状態の真贋判定イベント数が、予め定められた数Nよりも多い場合、推論装置3による処理負荷を考慮し、投稿要求への応答として、ユーザ(外部端末5)に処理エラーを示す応答を送信する。また、情報処理装置2のAPIは、さらに、メディア情報が真贋判定処理の可能なフォーマットで提供されているか否かを判定(以下「フォーマット判定」という。)してもよい。情報処理装置2のAPIは、メディア情報が真贋判定処理の可能なフォーマットで提供されていないと判定した場合は、ユーザ(外部端末5)に、メディア情報が真贋判定処理の可能なフォーマットで提供されていない旨の処理エラーを示す応答を送信する。
(5)情報処理装置2のAPI(例えば出力部222)は、未完了状態の真贋判定イベント数が、予め定められた数N以下の場合、また、フォーマット判定を行う場合は、加えて、メディア情報が真贋判定処理の可能なフォーマットで提供されている場合、真贋判定の対象として取得したメディア情報に固有のメディア情報ファイル名を生成し、メディア情報とメディア情報ファイル名とを、記憶装置4のメディアファイル記憶装置42に出力する。メディアファイル記憶装置42は、取得したメディア情報をメディア情報ファイル名で、投稿済メディアファイル群421に含めて記憶する。
【0084】
(6)情報処理装置2のAPI(例えば出力部222)は、未完了状態の真贋判定イベント数が、予め定められた数N以下の場合、また、フォーマット判定を行う場合は、加えて、メディア情報が真贋判定処理の可能なフォーマットで提供されている場合、さらに、真贋判定の対象となる新たなメディア情報を取得したことを示す真贋判定イベント情報をRDB41に出力する。RDB41は、真贋判定イベント情報に固有の整数値である真贋判定イベントIDを生成して、情報処理装置2のAPIに出力する。真贋判定イベントIDは、単調増加整数として生成される。
(7)情報処理装置2のAPI(例えばトークン送信部223)は、記憶装置4のRDB41から、APIトークンから得られるユーザID等と紐づけられた、公開真贋判定イベントIDシードを取得する。公開真贋判定イベントIDシードは、ユーザごとに固有の値として設定された、任意の長さの文字列である。この任意の長さの文字列には、文字、数字または記号が含まれていてもよい。公開真贋判定ベントIDシードは、例えば、ユーザ名等のユーザに関する情報がRDB41のユーザテーブル411に登録される際に、RDB41等により生成されて、そのユーザに関する情報と紐づけて、ユーザテーブル411に登録されている。
【0085】
(8)情報処理装置2のAPI(例えばトークン送信部223)は、公開真贋判定イベントIDシードを、真贋判定イベントIDを変換してランダムな文字列を生成する際に使用される文字列として、Hashidsに設定する。公開真贋判定イベントIDシートは、Hashidsにおける、いわゆるソルトの役割を有する。
(9)Hashidsは、ランダムな文字列を生成すると、そのランダムな文字列を公開真贋判定イベントIDとして情報処理装置2のAPIに返す。
【0086】
(10)情報処理装置2のAPI(例えばトークン送信部223)は、記憶装置4のRDB41から、APIトークンから得られるユーザID等と紐づけられた、真贋判定トークンパスワードを取得する。真贋判定トークンパスワードは、ユーザごとに固有の値として設定された任意の文字列である。この任意の文字列には、文字、数字または記号が含まれていてもよい。真贋判定トークンパスワードは、例えば、ユーザ名等のユーザに関する情報がRDB41のユーザテーブル411に登録される際に、RDB41等により生成されて、そのユーザに関する情報と紐づけて、ユーザID等と紐づけされて、ユーザテーブル411に登録されている。
【0087】
(11)情報処理装置2のAPI(例えばトークン送信部223)は、真贋判定トークンパスワードと公開真贋判定イベントIDを、HMACに設定する。
真贋判定トークンパスワードは、HMACにおける秘密鍵の役割を有し、公開真贋判定イベントIDはHMACにおける元データの役割を有する。ただし、情報処理システム1において、HMACは、真贋判定の成果物を取得するためにユーザ(外部端末5)から送信される成果物要求に含まれる真贋判定トークンについて、その完全性の保証のため、言い換えれば、真贋判定トークンが改ざんされていないか否かの確認のために、用いられる。そして、この真贋判定トークンは、後述のとおり、情報処理装置2自体が公開真贋判定イベントIDと真贋判定トークンパスワードとを用いて生成した第1ハッシュ値と、公開真贋判定イベントIDとからなるものとして、ユーザ(外部端末5)に送信されるものである。したがって、一般的なHMACにおける秘密鍵とは異なり、真贋判定トークンパスワードは、ユーザ(外部端末5)側での何らかの送信情報のハッシュ化に使用されるものではないため、ユーザ(外部端末5)と共有されるものではない。
【0088】
なお、例えば、トークン送信部223が処理ステップ(7)~(11)の処理を行う場合、トークン送信部223は、ユーザテーブル411内の登録情報を利用する必要があるが、図1では、トークン送信部223とユーザテーブル411との接続線は、省略されている。
【0089】
(12)HMACは、真贋判定トークンパスワードを用いて公開真贋判定イベントIDをハッシュ化することによって第1ハッシュ値を生成し、情報処理装置2のAPIに返す。
(13)情報処理装置2のAPI(例えばトークン送信部223)は、公開真贋判定イベントIDと第1ハッシュ値とからなる真贋判定トークンを、ユーザ(外部端末5)に送信する。
【0090】
図6は、実施の形態1に係る情報処理システムの真贋判定時の処理を示すシーケンス図である。図6は、情報処理システム1における真贋判定時の処理について、より具体的な例を示すものである。図6は、情報処理システム1が複数の推論装置3を有する場合に、その中の1つの推論装置3が有するイベントコンシューマ31における処理を示している。
以下、図6中の各処理ステップ(1A)~(17A)について順に説明する。
【0091】
(1A)イベントコンシューマ31が起動すると、各イベントコンシューマ31に固有のIDであるイベントコンシューマIDが割り当てられる。
(2A)イベントコンシューマ31は、記憶装置4のRDB41から最新の連続完了真贋判定イベントの真贋判定イベントIDである最新連続完了真贋判定イベントIDを取得する。より具体的には、イベントコンシューマ31は、RDB41内のキューテーブル413から、最新連続完了真贋判定イベントIDを取得する。最新連続完了真贋判定イベントIDは、そのIDが示す真贋判定イベントよりも古い真贋判定イベントが存在しないことを示すものである。
(3A)イベントコンシューマ31は、記憶装置4のRDB41から、最新連続完了真贋判定イベントIDよりも新しい未完了の真贋判定イベントの真贋判定イベント情報を予め定められた数だけ取得する。より具体的には、イベントコンシューマ31は、RDB41内のキューテーブル413から、上述の未完了の真贋判定イベントの真贋判定イベント情報を取得する。未完了の真贋判定イベントとは、処理中または待機中の真贋判定イベントのことである。
【0092】
(4A)イベントコンシューマ31は、新しい未完了の真贋判定イベントがないと判定した場合、処理ステップ(2A)に処理を戻す。
(5A)イベントコンシューマ31は、新しい未完了の真贋判定イベントがあると判定した場合、各真贋判定イベントについて現在処理中であるか否かを判定し、処理中か否かを判定する対象の真贋判定イベントが現在処理中である場合には、その真贋判定イベントを処理中のイベントコンシューマIDを参照し、そのイベントコンシューマIDが自身のものであるか否かを判定する。そして、そのイベントコンシューマIDが自身のものである場合、イベントコンシューマ31は、記憶装置4のRDB41に、その真贋判定イベントの状態が処理中であることを示す情報と、処理中のイベントコンシューマが自身であることを示すための自身のイベントコンシューマIDを出力する。
【0093】
(6A)イベントコンシューマ31は、処理ステップ(5A)のイベントコンシューマIDが自身のものであるか否かの判定で、そのイベントコンシューマIDが自身のものでないと判定した場合、次に、処理中の真贋判定イベントの状態の更新日(更新時刻)から予め定められた時間(N分)を超えて経過しているか否かを判定し、予め定められた時間を超えていると判定した場合、その真贋判定イベントを処理中のイベントコンシューマ(自身ではない)から移動させ、その真贋判定イベントを自身が処理する対象とする。そして、イベントコンシューマ31は、記憶装置4のRDB41に、その真贋判定イベントの状態が処理中であることを示す情報と、処理中のイベントコンシューマが自身に移動されたことを示すための自身のイベントコンシューマIDを出力する。
【0094】
(7A)イベントコンシューマ31は、処理ステップ(5A)において、処理中か否かの判定をする対象の真贋判定イベントが処理待機中である場合、待機中の真贋判定イベントのうち、最も古い真贋判定イベントを自身が処理することを決定する。そして、イベントコンシューマ31は、記憶装置4のRDB41に、自身が処理することを決定したその真贋判定イベントの状態が処理中であることを示す情報と、処理中のイベントコンシューマが自身であることを示すための自身のイベントコンシューマIDを出力する。
(8A)イベントコンシューマ31は、真贋判定の対象となるメディア情報のメディア情報ファイル名を推論部32に出力する。
イベントコンシューマ31は、真贋判定イベント情報に生成要求情報が含まれている場合、つまり、加工済メディア情報の生成を要求されている場合、加工済メディア情報を仮に保存しておくための、推論部32が有する図示しない記憶部内の仮保存パスを設定して、その仮保存パスを示す情報をメディア情報ファイル名とともに、推論部32に出力してもよい。
(9A)推論部32は、イベントコンシューマ31からメディア情報ファイル名を取得すると、メディアファイル記憶装置42に対し、ファイル名がメディア情報ファイル名のメディア情報を要求する。
(10A)推論部32は、メディアファイル記憶装置42から、ファイル名がメディア情報ファイル名のメディア情報を取得し、取得したメディア情報を対象とした真贋判定を行う。推論部32は、加工済メディア情報の生成を要求されている場合、加工済メディア情報を生成し、生成した加工済メディア情報を仮保存パスに保存する。
【0095】
(11A)推論部32は、真贋判定の処理が完了したことを示す情報(処理完了情報)および真贋判定値を、イベントコンシューマ31に送信する。
推論部32は、処理完了情報として、例えば、真贋判定の処理が成功したか失敗したかを示す成否情報をイベントコンシューマ31に送信してもよい。推論部32は、真贋判定の処理が失敗したことを示す成否情報をイベントコンシューマ31に送信する場合は、真贋判定値をイベントコンシューマ31に送信しない。イベントコンシューマ31は、推論部32から取得した成否情報が真贋判定の処理が失敗したことを示している場合、処理ステップ(2A)に処理を戻す。
一方、推論部32は、真贋判定の処理が成功したことを示す成否情報をイベントコンシューマ31に送信する場合は、加えて、真贋判定値をイベントコンシューマ31に送信する。イベントコンシューマ31は、推論部32から取得した成否情報が真贋判定の処理が成功したことを示している場合、処理ステップ(12A)に処理を進める。
【0096】
(12A)イベントコンシューマ31は、処理完了情報(成否情報)と真贋判定値を取得すると、取得した真贋判定値を真贋判定イベントIDとともに、RDB41に出力する。RDB41は、真贋判定値と真贋判定イベントIDを取得すると、真贋判定値と真贋判定イベントIDとを紐づけて判定結果テーブル412に登録させる。
【0097】
(13A)イベントコンシューマ31は、推論部32が加工済メディア情報の生成の要求に応じて加工済メディア情報を生成した場合、加工済メディア情報ファイル名を生成する。また、イベントコンシューマ31は、仮保存パスに保存されている加工済メディア情報を推論部32から取得し、取得した加工済メディア情報と生成した加工済メディア情報ファイル名を、メディアファイル記憶装置42に出力する。
メディアファイル記憶装置42は、取得した加工済メディア情報を、加工済メディア情報ファイル名で、加工済メディアファイル群422に含めて記憶する。
また、イベントコンシューマ31は、さらに、生成した加工済メディア情報ファイル名を真贋判定イベントIDとともに、RDB41に出力してもよい。RDB41は、加工済メディア情報ファイル名と真贋判定イベントIDを取得すると、加工済メディア情報ファイル名を真贋判定イベントIDと紐づけて判定結果テーブル412に登録させる。
【0098】
処理ステップ(13A)において、イベントコンシューマ31は、記憶装置4に加工済メディア情報が記憶されている期間に制限(以下「有効期限」という。)を設定してもよい。有効期限が設定された場合、有効期限が経過した加工済メディア情報は、記憶装置4から削除される。有効期限の設定は、例えば、記憶装置4の容量に余裕がない場合に有用である。記憶装置4の容量に余裕があるような場合は、有効期限は、設定されなくてもよい。
また、イベントコンシューマ31は、真贋判定が完了したメディア情報を記憶装置4から削除するために、メディア情報ファイル名を記憶装置4に出力してもよい。記憶装置4は、メディア情報ファイル名を取得すると、投稿済メディアファイル群421から取得したメディア情報ファイル名で記憶されたメディア情報を削除する。メディア情報の削除は、例えば、記憶装置4の容量に余裕がない場合に有用である。記憶装置4の容量に余裕があるような場合は、メディア情報の削除はされなくてもよい。
【0099】
(14A)イベントコンシューマ31は、記憶装置4のRDB41に、自身が処理中であった真贋判定イベントの状態が処理完了となったことを通知する情報として、真贋判定の処理が完了した真贋判定イベントの真贋判定イベントIDに完了フラグ等の完了を示す情報を付して出力するとともに、処理を行ったイベントコンシューマとして自身のイベントコンシューマIDを出力する。RDB41は、キューテーブル413に、既に登録されている真贋判定イベントIDと、取得した完了を示す情報と、真贋判定の処理を行ったイベントコンシューマのイベントコンシューマIDとを紐づけて、登録する。
【0100】
(15A)イベントコンシューマ31は、自身が最後に処理を行った真贋判定イベントよりも古い真贋判定イベントが全て完了したか否かを判定し、全て完了したと判定した場合は、最新連続完了真贋判定イベントIDを自身が最後に処理を行った真贋判定イベントIDに設定すべき旨を示す情報を、記憶装置4のRDB41に出力する。RDB41は、取得した情報に基づき、最新連続完了真贋判定イベントIDを更新する。
(16A)イベントコンシューマ31は、処理ステップ(15A)での判定が、全ては完了してないとの判定、つまり、未完了の真贋判定イベントが存在するとの判定であった場合、最新連続完了真贋判定イベントIDを、処理が完了している真贋判定イベントのうち最も新しい真贋判定イベントの真贋判定イベントIDに設定すべき旨を示す情報を、記憶装置4のRDB41に出力する。
(17A)イベントコンシューマ31は、予め定められた時間だけ待機した後に、処理ステップ(2A)に戻って処理を繰り返す。
【0101】
図7は、実施の形態1に係る情報処理システムの真贋判定の成果物の送受信時の処理を示すシーケンス図である。図7は、情報処理システム1における真贋判定の成果物の送受信時の処理について、より具体的な例を示すものである。図7中の「Hashids」、「HMAC」、および、「ユーザ」については、図5について説明したものと同様の前提である。
以下、図7中の各処理ステップ(1B)~(20B)について順に説明する。
【0102】
(1B)ユーザ(外部端末5)は、APIトークンと真贋判定トークンとを記述した成果物要求を情報処理装置2のAPI(例えば成果物取得部224)に送信する。
(2B)情報処理装置2のAPI(例えば成果物取得部224)は、APIトークンに基づきユーザの認証処理を行う。
(3B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のRDB41から、APIトークンから得られるユーザID等と紐づけられた真贋判定トークンパスワードを取得する。
(4B)情報処理装置2のAPI(例えば成果物取得部224)は、処理ステップ(3B)で取得した真贋判定トークンパスワードと、処理ステップ(1B)でユーザ(外部端末5)から送信された真贋判定トークンに含まれる公開真贋判定イベントIDを、HMACに設定する。
(5B)HMACは、処理ステップ(4B)で設定された真贋判定トークンパスワードと公開判定イベントIDに基づき、第2ハッシュ値を生成し、この第2ハッシュ値を正解ハッシュ値として、情報処理装置2のAPIに返す。
【0103】
(6B)情報処理装置2のAPI(例えば成果物取得部224)は、成果物要求に記述された真贋判定トークンに含まれるハッシュ値と、正解ハッシュ値(第2ハッシュ値)とが、同一値かどうかを判定し、同一値でないと判定した場合は、成果物要求への応答として、ユーザ(外部端末5)に処理エラーを示す応答を送信する。ここで、成果物要求に記述された真贋判定トークンに含まれるハッシュ値が、図5の処理ステップ(12)において生成され処理ステップ(13)において真贋判定トークンに含められた第1ハッシュ値であり、かつ、成果物要求に記述された真贋判定トークンに含まれる公開真贋判定イベントIDがその第1ハッシュ値の生成に使用されたものであれば、成果物要求に記述された真贋判定トークンに含まれるハッシュ値と、正解ハッシュ値とは同一値となる。一方、成果物要求に記述された真贋判定トークンが改ざん等により不正なものとなっている場合、成果物要求に記述された真贋判定トークンに含まれるハッシュ値と、正解ハッシュ値とは異なる値となる。
【0104】
(7B)情報処理装置2のAPI(例えば成果物取得部224)は、処理ステップ(6B)の判定において、成果物要求に記述された真贋判定トークンに含まれるハッシュ値と正解ハッシュ値とが同一値であると判定した場合、記憶装置4のRDB41から、APIトークンから得られるユーザID等と紐づけられた公開真贋判定イベントIDシードを取得する。
(8B)情報処理装置2のAPI(例えば成果物取得部224)は、公開真贋判定イベントIDシードを、成果物要求に記述された真贋判定トークンに含まれる公開真贋判定イベントIDの復号に使用される文字列(ソルト)として、Hashidsに設定する。
(9B)Hashidsは、公開真贋判定イベントIDの復号により得られた整数値を真贋判定イベントIDとして情報処理装置2のAPIに返す。
【0105】
(10B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のRDB41に、復号により得られた真贋判定イベントIDを出力し、その真贋判定イベントIDと紐づけられた真贋判定イベント情報を送信するよう要求する。
(11B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のRDB41から、復号により得られた真贋判定イベントIDと紐づけられた真贋判定イベント情報を取得する。
(12B)情報処理装置2のAPI(例えば成果物取得部224)は、成果物要求に記述されたAPIトークンから得られるユーザIDと、真贋判定イベント情報に基づいて得られるユーザIDとが同一か否かを判定し、同一でないと判定した場合、ユーザ(外部端末5)に処理エラーを示す応答を送信する。
【0106】
なお、例えば、成果物取得部224が処理ステップ(2B)~(12B)の処理を行う場合、成果物取得部224は、ユーザテーブル411またはキューテーブル413内の登録情報を利用する必要があるが、図1では、成果物取得部224と、ユーザテーブル411またはキューテーブル413との接続線は、省略されている。
【0107】
(13B)情報処理装置2のAPI(例えば成果物取得部224)は、処理ステップ(12B)の判定において、両ユーザIDが同一であると判定した場合、次に、真贋判定イベントIDが示す真贋判定イベントの真贋判定の処理が完了しているか否かを判定し、処理が完了していないと判定した場合は、ユーザ(外部端末5)に未だ処理中である旨のエラーを示す応答を送信する。
(14B)情報処理装置2のAPI(例えば成果物取得部224)は、処理ステップ(13B)の処理が完了しているか否かの判定において、処理が完了していると判定した場合は、記憶装置4のRDB41に真贋判定イベントIDを出力し、真贋判定イベントIDが示す真贋判定イベントの真贋判定の成果物を要求する。
(15B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のRDB41から、真贋判定イベントIDが示す真贋判定イベントの真贋判定の成果物として真贋判定値を取得する。
(16B)情報処理装置2のAPI(例えば成果物取得部224)は、成果物要求に記述されたエンドポイントが、真贋判定値の送信を要求するものであるか否かを判定し、真贋判定値の送信を要求するものであると判定した場合は、再度、記憶装置4のRDB41に真贋判定イベントIDを出力する。
【0108】
(17B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のRDB41から、真贋判定イベントIDが示す真贋判定イベントの真贋判定の成果物として真贋判定値を取得する。より具体的には、情報処理装置2のAPIは、RDB41の判定結果テーブル412から上述の真贋判定値を取得する。
なお、処理ステップ(14B)~(15B)の処理は、処理ステップ(16B)~(17B)の処理と一部重複するため、省略することも可能である。
(18B)情報処理装置2のAPI(例えば成果物取得部224)は、処理ステップ(16B)のエンドポイントの判定において、エンドポイントが、真贋判定値の送信を要求するものではないと判定した場合、エンドポイントは、加工済メディア情報の送信を要求するものであると判定する。
情報処理装置2のAPIは、次に、加工済メディアファイルの生成要求があったか否かを判定し、生成要求がなかったと判定した場合は、ユーザ(外部端末5)に生成要求がなかった旨のエラーを示す応答を送信する。
また、情報処理装置2のAPIは、さらに、加工済メディア情報の有効期限が現時刻よりも後か否かを判定し、有効期限が現時刻以前であると判定した場合は、ユーザ(外部端末5)に期限切れである旨のエラーを示す応答を送信する。
【0109】
(19B)情報処理装置2のAPI(例えば成果物取得部224)は、加工済メディア情報の有効期限が現時刻よりも後であると判定された場合は、加工済メディア情報のファイル名を記憶装置4のメディアファイル記憶装置42に出力する。
(20B)情報処理装置2のAPI(例えば成果物取得部224)は、記憶装置4のメディアファイル記憶装置42から、加工済メディア情報を取得する。そして、情報処理装置2のAPI(例えば成果物送信部225)は、取得した加工済メディア情報をユーザ(外部端末5)に送信する。
【0110】
ここまでは、主に、情報処理システム1が補助情報処理装置6を備えない場合について説明した。以下、情報処理システム1が補助情報処理装置6を備える場合について説明する。
上述のように、情報処理システム1は、少なくとも、情報処理装置2、推論装置3、記憶装置4、外部端末5、および、補助情報処理装置6を備えるものであってもよい。この場合の情報処理システム1は、外部端末5から取得されたメディア情報について、当該メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行い、真贋判定の成果物を補助情報処理装置6に送信し、補助情報処理装置6は、真贋判定の成果物に応じた情報を外部端末5に送信する。
【0111】
情報処理システム1が補助情報処理装置6を備える場合は、情報処理システム1が補助情報処理装置6を備えない場合と比べて、成果物送信部225の動作が変更される。
情報処理システム1が補助情報処理装置6を備える場合、成果物要求に基づいて、成果物取得部224が真贋判定の成果物を取得した場合、成果物送信部225は、真贋判定の成果物を、通信部21を介して補助情報処理装置6に送信する。
補助情報処理装置6は、真贋判定の成果物を受信すると、上述のような真贋判定の成果物に応じた情報を生成し、生成した真贋判定の成果物に応じた情報を、外部端末5に出力する。その際、補助情報処理装置6は、生成した真贋判定の成果物に応じた情報に加えて、真贋判定の成果物を、外部端末5に出力してもよい。
【0112】
また、成果物送信部225は、成果物取得部224が真贋判定の成果物を取得した場合、真贋判定の成果物を、通信部21を介して、外部端末5と補助情報処理装置6の両方に送信してもよい。この場合も、補助情報処理装置6は、真贋判定の成果物を受信すると、上述のような真贋判定の成果物に応じた情報を生成し、生成した真贋判定の成果物に応じた情報を、外部端末5に出力する。
【0113】
ここまでは、真贋判定APIがWeb APIである場合を説明したが、真贋判定APIは、Web APIに限らない。つまり、情報処理装置2が受信できる投稿要求等の要求は、HTTPに従って記述される要求等に限られず、情報処理装置2は、任意のプログラム言語を利用して生成された要求等を受信可能なAPIを提供するものであってよい。
また、図5図7に基づいて説明した、情報処理システム1におけるメディア情報投稿時の処理、真贋判定時の処理、および、真贋判定の成果物の送受信時の処理において、どのような情報について、ID等を付与して管理するか、もしくは、完全性などの保証を行う仕組みを導入するかについては、必要に応じて変更してもよい。例えば、メディア情報、加工済メディア情報、または、真贋判定値には、それぞれ固有のIDが付与され、IDを利用した管理がなされてもよい。また、例えば、メディア情報ファイル名、または、加工済メディア情報ファイル名等について、情報処理システム1内での各装置間での情報の授受の際に、HashidまたはHMACを利用した、完全性の保証の仕組みを導入してもよい。
【0114】
また、図7に基づいて説明した、情報処理システム1における真贋判定の成果物の送受信時の処理において、情報処理装置2のAPIは、処理ステップ(13B)の処理として、真贋判定イベントIDが示す真贋判定イベントの真贋判定の処理が完了しているか否かを判定し、処理が完了していないと判定した場合は、ユーザ(外部端末5)に未だ処理中である旨のエラーを示す応答を送信する。
情報処理装置2のAPIが、成果物要求を受信する場合の上述の処理ステップ(13B)における真贋判定の処理が完了しているか否かの判定に基づく応答に加え、情報処理装置2のAPI(例えば成果物取得部224)は、成果物要求とは異なる処理状況確認要求を、外部端末5から受信するものであってもよい。
【0115】
処理状況確認要求は、投稿要求によって投稿したメディア情報についての真贋判定の処理状態に関する情報の送信を要求するものであり、例えば、HTTPに従って記述される。処理状況確認要求は、具体的には、例えば、GETメソッドを利用して記述される。処理状況確認要求には、真贋判定トークンが記述されるほか、APIトークンも記述され得る。処理状況確認要求にAPIトークンが記述される場合、情報処理装置2のAPI(例えば成果物取得部224)は、外部端末5から処理状況確認要求を取得すると、APIトークンに基づきユーザの認証処理を行った後に、真贋判定トークンにより特定されるメディア情報についての真贋判定の処理状態に関する情報を、キューテーブル413から取得する。
情報処理装置2のAPI(例えば成果物送信部225)は、情報処理装置2が真贋判定の処理状態に関する情報を取得すると、取得した真贋判定の処理状態に関する情報を、外部端末5に送信する。
【0116】
情報処理システム1は、eKYC(electronic Know Your Customer)における利用も可能である。eKYCでは、携帯端末等から送信される顔の画像を用いて本人確認を行うが、近年、AIにより生成された顔の画像を使用して、不正に本人確認を成功させようとする行為が懸念されている。
これに対して、携帯端末等から、例えば、eKYC用のサーバに送信された顔の画像について、情報処理システム1が提供する真贋判定機能を利用して真贋判定を行うことができる。
【0117】
この場合、例えば、外部端末5としては、eKYC用のサーバが利用される。eKYC用のサーバは、携帯端末等から顔の画像を取得すると、顔の画像をメディア情報とする投稿要求を情報処理装置2に送信し、情報処理装置2から、真贋判定トークンを受信する。その後、eKYC用のサーバは、適宜のタイミングで、真贋判定トークンが記述された成果物要求を情報処理装置2に送信し、情報処理装置2から送信された真贋判定の成果物として、例えば、真贋判定値を受信する。eKYC用のサーバは、真贋判定値を利用して、本人確認の成否を判定し、本人確認の結果を、携帯端末等に送信する。
または、eKYC用のサーバが、上述のとおり、適宜のタイミングで、真贋判定トークンが記述された成果物要求を情報処理装置2に送信した後、情報処理装置2は、eKYC用のサーバではなく、補助情報処理装置6に、真贋判定の成果物として、例えば、真贋判定値を送信してもよい。補助情報処理装置6は、真贋判定値を利用して、本人確認の成否を判定し、本人確認の結果を、携帯端末等に送信する。
【0118】
以上のように、実施の形態1に係る情報処理装置2は、外部端末5から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するメディア情報取得部221と、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置3からアクセス可能な記憶装置4に、メディア情報を出力する出力部222と、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを、外部端末5に送信するトークン送信部223と、を備える。
これにより、あるメディア情報の真贋判定を行いたいユーザは、外部端末5を利用してそのメディア情報を情報処理装置2に取得させる操作をすることで、そのメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを得ることができる。したがって、本発明に係る情報処理装置2は、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供することができる。
【0119】
実施の形態1に係る情報処理装置2は、さらに、外部端末5から真贋判定トークンが記述された成果物要求を受信し、真贋判定トークンにより特定される真贋判定の成果物を記憶装置4から取得する成果物取得部224と、外部端末5に真贋判定の成果物を送信する成果物送信部225とを備える。
これにより、実施の形態1に係る情報処理装置2は、真贋判定トークンを受信したタイミングで、外部端末5に真贋判定の成果物を送信することができる。ユーザは、推論装置3による真贋判定の成果物が得られるタイミングであれば、ユーザが所望する任意のタイミングで、真贋判定トークンを用いることにより、真贋判定の成果物を要求することができるため、ユーザにとっての利便性が高い。
【0120】
実施の形態1に係る情報処理装置2において、メディア情報取得部221は、HTTP に従って記述された投稿要求を受信し、成果物取得部224は、HTTPに従って記述された成果物要求を受信するものであってもよい。
これにより、実施の形態1に係る情報処理装置2は、真贋判定機能をWeb APIを介して提供することができ、ユーザにとっての利便性が高い。
【0121】
実施の形態1に係る情報処理装置2において、成果物取得部224は、真贋判定の成果物として、真贋判定値を取得する。
これにより、実施の形態1に係る情報処理装置2は、要領の比較的小さい情報である真贋判定値として、真贋判定の成果物を取得して、外部端末5に送信することができる。また、ユーザにとっては、数字または文字などの情報として真贋判定の成果物を得ることができるため、成果物の加工が容易であり、利便性が高い。
【0122】
実施の形態1に係る情報処理装置2において、真贋判定値は、メディア情報が動画像の場合、AIにより生成されたフレームのフレーム番号、AIにより生成された動画像部分を示す経過時間、真贋判定の結果を数値で示す動画像真贋判定スコア、動画像真贋判定スコアに基づいて真贋を分けるための閾値、1フレーム内におけるAIにより生成された画像部分を示す座標、二値的に示された動画像全体としての真贋判定結果、または、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの動画像真贋判定スコアのうちの、少なくとも1つである。
また、メディア情報が静止画像の場合、真贋判定の結果を数値で示した静止画像真贋判定スコア、静止画像真贋判定スコアに基づいて真贋を分けるための閾値、静止画像内におけるAIにより生成された画像部分を示す座標、二値的に示された静止画像全体としての真贋判定結果、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの静止画像真贋判定スコアのうちの、少なくとも1つである。
また、メディア情報が音声の場合、真贋判定の結果を数値で示す音声真贋判定スコア、音声真贋判定スコアに基づいて真贋を分けるための閾値、AIにより生成された音声の周波数領域、または、AIにより生成された音声の時間領域のうちの、少なくとも1つである。
また、メディア情報が文章の場合、真贋判定の結果を数値で示す文章真贋判定スコア、文章真贋判定スコアに基づいて真贋を分けるための閾値、または、文章中のAIにより生成された位置のうちの、少なくとも1つである。
これにより、実施の形態1に係る情報処理装置2は、メディア情報の種類に応じた真贋判定値を外部端末5に送信することができるため、様々な種類のメディア情報を取り扱うユーザにとって利便性が高い。
【0123】
実施の形態1に係る情報処理装置2において、成果物取得部224は、真贋判定の成果物として、メディア情報に真贋判定の結果を示す情報が付加された加工済メディア情報を取得する。
これにより、実施の形態1に係る情報処理装置2は、外部端末5からの要求に応じて、メディア情報のうちAIにより生成された情報部分を視覚等の感覚で確認可能な加工済メディア情報を、外部端末5に送信することができるため、ユーザにとって利便性が高い。
【0124】
実施の形態1に係る情報処理装置2において、出力部222は、加工済メディア情報の生成を要求する生成要求情報が投稿要求に記述されている場合、メディア情報に加えて、生成要求情報を記憶装置4に出力し、成果物取得部224は、外部端末5から、HTTPに従って記述され、かつ、真贋判定トークンおよび加工済メディア情報の送信要求が記述された成果物要求を受信すると、真贋判定の成果物として、加工済メディア情報を取得する。
これにより、実施の形態1に係る情報処理装置2は、外部端末5から加工済メディア情報の生成要求がある場合のみ、推論装置3に加工済メディア情報の生成を行わせることができるため、推論装置3に対する無駄な負荷の軽減、記憶装置4の容量の節約を行うことができる。また、無駄な負荷が軽減される結果、推論装置3による処理も効率的になるため、ユーザは、効率的に真贋判定の成果物を得ることができるようになるため、ユーザにとって利便性が高い。
【0125】
実施の形態1に係る情報処理装置2は、外部端末5から真贋判定トークンが記述された成果物要求を受信し、真贋判定トークンにより特定される真贋判定の成果物を記憶装置4から取得する成果物取得部224と、当該真贋判定の成果物に応じた情報を前記外部端末に送信する補助情報処理装置6に、真贋判定の成果物を送信する成果物送信部225と、を備えてもよい。
これにより、実施の形態1に係る情報処理装置2は、情報処理装置2を利用して外部端末5に提供可能な真贋判定の成果物に対し、付加的な情報を加えることができるため、ユーザが取得できる情報の種類を増やすこともでき、ユーザにとって利便性が高い。
【0126】
実施の形態1に係る情報処理システム1は、情報処理装置2と、推論装置3と、記憶装置4と、外部端末5と、を備える。
これにより、実施の形態1に係る情報処理システム1は、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供することができる。
【0127】
実施の形態1に係る情報処理システム1は、情報処理装置2と、推論装置3と、記憶装置4と、外部端末5と、補助情報処理装置6とを備えてもよい。
これにより、実施の形態1に係る情報処理システム1は、実施の形態1に係る情報処理システム1は、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供することができる。
【0128】
実施の形態1に係るプログラムは、コンピュータを、情報処理装置2として機能させるので、実施の形態1に係るプログラムは、コンピュータを、メディア情報の真贋判定機能を利便性の高い手法でユーザに提供することができる情報処理装置2して機能させることができる。
【0129】
実施の形態1に係る情報処理方法は、メディア情報取得部221が、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するステップと、出力部222が、メディア情報についての真贋判定を行う推論装置3がアクセス可能な記憶装置4に、前記メディア情報を出力するステップと、トークン送信部223が、推論装置3により生成されたメディア情報についての真贋判定の成果物を外部端末5が取得するための真贋判定トークンを、外部端末5に送信するステップとを備える。
これにより、実施の形態1に係る情報処理方法は、メディア情報の真贋判定機能を利便性の高い手法でユーザに提供することができる。
【符号の説明】
【0130】
1 情報処理システム、2 情報処理装置、3 推論装置、4 記憶装置、5 外部端末、6 補助情報処理装置、21 通信部、22 演算部、31 イベントコンシューマ、32 推論部、41 RDB、42 メディアファイル記憶装置、221 メディア情報取得部、222 出力部、223 トークン送信部、224 成果物取得部、225 成果物送信部、411 ユーザテーブル、412 判定結果テーブル、413 キューテーブル、421 投稿済メディアファイル群、422 加工済メディアファイル群。
図1
図2
図3
図4
図5
図6
図7
【手続補正書】
【提出日】2023-02-20
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
外部端末から稿要求を受信し、前記投稿要求により指定されたメディア情報を取得するメディア情報取得部と、
前記メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、前記メディア情報を出力する出力部と、
前記推論装置により生成された前記メディア情報についての前記真贋判定の成果物を前記外部端末が取得するための真贋判定トークンを、前記外部端末に送信するトークン送信部と、を備える
ことを特徴とする情報処理装置。
【請求項2】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
前記外部端末に前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記メディア情報取得部は、HTTPに従って記述された前記投稿要求を受信し、
前記成果物取得部は、HTTPに従って記述された前記成果物要求を受信する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記成果物取得部は、前記真贋判定の成果物として、前記真贋判定の結果を数値または文字で示す真贋判定値を取得する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項5】
前記真贋判定値は、前記メディア情報が動画像の場合、AIにより生成されたフレームのフレーム番号、AIにより生成された動画像部分を示す経過時間、真贋判定の結果を数値で示す動画像真贋判定スコア、前記動画像真贋判定スコアに基づいて真贋を分けるための閾値、1フレーム内におけるAIにより生成された画像部分を示す座標、二値的に示された動画像全体としての真贋判定結果、または、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記動画像真贋判定スコアのうちの、少なくとも1つであり、
前記メディア情報が静止画像の場合、真贋判定の結果を数値で示した静止画像真贋判定スコア、前記静止画像真贋判定スコアに基づいて真贋を分けるための閾値、前記静止画像内におけるAIにより生成された画像部分を示す座標、二値的に示された静止画像全体としての真贋判定結果、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記静止画像真贋判定スコアのうちの、少なくとも1つであり、
前記メディア情報が音声の場合、真贋判定の結果を数値で示す音声真贋判定スコア、前記音声真贋判定スコアに基づいて真贋を分けるための閾値、AIにより生成された音声の周波数領域、または、AIにより生成された音声の時間領域のうちの、少なくとも1つであり、
前記メディア情報が文章の場合、真贋判定の結果を数値で示す文章真贋判定スコア、前記文章真贋判定スコアに基づいて真贋を分けるための閾値、または、文章中のAIにより生成された位置のうちの、少なくとも1つである、
ことを特徴とする請求項4記載の情報処理装置。
【請求項6】
前記成果物取得部は、前記真贋判定の成果物として、前記メディア情報に真贋判定の結果を示す情報が付加された加工済メディア情報を取得する
ことを特徴とする請求項2に記載の情報処理装置。
【請求項7】
前記出力部は、前記加工済メディア情報の生成を要求する生成要求情報が前記投稿要求に記述されている場合、前記メディア情報に加えて、前記生成要求情報を前記記憶装置に出力し、
前記成果物取得部は、前記外部端末から、前記真贋判定トークンおよび加工済メディア情報の送信要求が記述された成果物要求を受信すると、前記真贋判定の成果物として、前記加工済メディア情報を取得する
ことを特徴とする請求項6に記載の情報処理装置。
【請求項8】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
当該真贋判定の成果物に応じた情報を前記外部端末に送信する補助情報処理装置に、前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項1に記載の情報処理装置。
【請求項9】
請求項1から請求項7のいずれか1項に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、を備えた
ことを特徴とする情報処理システム。
【請求項10】
請求項8に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、
前記補助情報処理装置と、を備えた
ことを特徴とする情報処理システム。
【請求項11】
コンピュータを、請求項1から請求項8のいずれか1項に記載の情報処理装置として機能させるためのプログラム。
【請求項12】
情報処理装置が行う情報処理方法であって、
メディア情報取得部が、外部端末から投稿要求を受信し、前記投稿要求により指定されたメディア情報を取得するステップと、
出力部が、前記メディア情報についての真贋判定を行う推論装置がアクセス可能な記憶装置に、前記メディア情報を出力するステップと、
トークン送信部が、前記推論装置により生成された前記メディア情報についての前記真贋判定の成果物を前記外部端末が取得するための真贋判定トークンを、前記外部端末に送信するステップと、を備えた
ことを特徴とする情報処理方法。