特許 7598424 情報処理装置、情報処理方法、及び情報処理プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B1)

(11)【特許番号】

(24)【登録日】2024-12-03

(45)【発行日】2024-12-11

(54)【発明の名称】情報処理装置、情報処理方法、及び情報処理プログラム

(51)【国際特許分類】

   G06F 21/55 20130101AFI20241204BHJP

【ＦＩ】

G06F21/55

【請求項の数】 3

(21)【出願番号】P 2023132484

(22)【出願日】2023-08-16

【審査請求日】2024-03-07

(73)【特許権者】

【識別番号】500147023

【氏名又は名称】デジタルアーツ株式会社

(72)【発明者】

【氏名】道具 登志夫

【審査官】青木 重徳

(56)【参考文献】

【文献】特開２０２１－０５６９４１（ＪＰ，Ａ）

【文献】特開２０２１－１６２９６４（ＪＰ，Ａ）

【文献】特表２０２１－５２８７０５（ＪＰ，Ａ）

【文献】米国特許出願公開第２０２３／０１１２９２１（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ ２１／５５

(57)【特許請求の範囲】

【請求項1】

ユーザ端末による外部アクセスを制御する情報処理装置であって、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるアクセス制御部と、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部と、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する回答編集部と、を備えて、
前記回答編集部は、前記生成ＡＩサーバからの回答に含まれる前記所定のデータが不適切なときに、当該データに対応する記載を削除してアクセスが不可となるように回答を編集し、当該アクセスが不可となる理由を前記回答内に記載する、
ことを特徴とする情報処理装置。

【請求項2】

ユーザ端末による外部アクセスを制御する情報処理方法であって、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるステップと、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定するステップと、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信するステップと、
前記生成ＡＩサーバからの回答に含まれる前記所定のデータが不適切なときに、当該データに対応する記載を削除してアクセスが不可となるように回答を編集し、当該アクセスが不可となる理由を前記回答内に記載するステップと、
を含むことを特徴とする情報処理方法。

【請求項3】

コンピュータを、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付ける機能、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する機能、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する機能、
前記生成ＡＩサーバからの回答に含まれる前記所定のデータが不適切なときに、当該データに対応する記載を削除してアクセスが不可となるように回答を編集し、当該アクセスが不可となる理由を前記回答内に記載する機能、
として機能させることを特徴とする情報処理プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。

【背景技術】

【0002】

近年、ＡＩ（人口知能）が様々な分野で活用されており、特に生成ＡＩと呼ばれるコンテンツを生成できるＡＩの利用が急速に広まっている。生成ＡＩには、大量の自然言語やプログラム言語を学習した大規模な学習モデルを用いてユーザの指示に応じ文章の生成や文章の要約等を高い精度で行うことができるものがある。生成ＡＩを利用することで、ユーザがインターネット上の情報を検索する場合に、必要な情報を的確に取得することができる。

【0003】

従来では、生成ＡＩによりサイバー攻撃のシナリオを生成して、当該シナリオに応じたセキュリティリスクを評価するシステムが開示されている。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２０１９－２１９８９８号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

生成ＡＩを活用することにより生活や業務の利便性は高まるものの、生成ＡＩの学習モデルが誤った情報に基づいて学習した場合や悪意の第三者により生成ＡＩが偽装された場合等、ユーザが受け付けた回答の中にマルウエアをダウンロードさせるようなＵＲＬやデータが含まれている場合であってもユーザが気づくことは極めて困難である。

【0006】

本発明はこのような事情を考慮してなされたもので、生成ＡＩにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。

【課題を解決するための手段】

【0007】

本発明の実施形態に係る情報処理装置は、ユーザ端末による外部アクセスを制御する情報処理装置であって、ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるアクセス制御部と、前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部と、前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する回答編集部と、を備えて、前記回答編集部は、前記生成ＡＩサーバからの回答に含まれる前記所定のデータが不適切なときに、当該データに対応する記載を削除してアクセスが不可となるように回答を編集し、当該アクセスが不可となる理由を前記回答内に記載する、ことを特徴とする。

【発明の効果】

【0008】

本発明の実施形態により、生成ＡＩにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムが提供される。

【図面の簡単な説明】

【0009】

【図1】本実施形態に係る情報処理装置の構成の一例を示す構成図。

【図2】本実施形態に係る情報処理装置における生成ＡＩの回答内のデータを判定する方法を示す説明図。

【図3】本実施形態に係る情報処理方法の一例を示すフローチャート。

【発明を実施するための形態】

【0010】

以下、本発明の実施形態を添付図面に基づいて説明する。
図１は、本実施形態に係る情報処理装置１０の構成の一例を示す図である。

【0011】

情報処理装置１０は、ユーザ端末２０による外部ネットワークへのアクセスを代理するサーバである。なお、情報処理装置１０は、例えば図１のようにユーザ端末２０と外部ネットワーク上の生成ＡＩサーバ５０との間に配置される。

【0012】

ユーザ端末２０は、ユーザそれぞれが有するＰＣ、スマホ、タブレット端末などの、外部ネットワークとの通信が可能な端末を示しており、情報処理装置１０とネットワークを介して通信可能である。なお、図１では、各ユーザが有するユーザ端末２０（２０ａ，２０ｂ，２０ｃ）の３つで記載しているが、この構成に限定されるものではない。

【0013】

生成ＡＩサーバ５０は、ネットワーク上の情報やプログラム言語を学習した学習モデルを備えて、ユーザの入力に対する回答を自動生成するサーバである。

【0014】

情報処理装置１０は、ユーザ端末２０から生成ＡＩサーバ５０へのアクセス要求を受け付けて、ユーザ端末２０に代理して生成ＡＩサーバ５０への入力（質問の入力）を実行する。そして、情報処理装置１０は、生成ＡＩサーバ５０から取得した回答等のコンテンツをユーザ端末２０に返す。

【0015】

実施形態に係る情報処理装置１０は、生成ＡＩサーバ５０に対する入力の回答を受け付けて、この回答について、所定のデータを含む場合に、当該データが適切か否かを判定するものである。

【0016】

本実施形態に係る情報処理装置１０の具体的な構成について説明する。
情報処理装置１０は、アクセス制御部１１と、ＵＲＬ情報データベース１２と、回答分析部１３と、回答編集部１４と、を備えている。

【0017】

なお、情報処理装置１０を構成する各ユニットの機能は、所定のプログラムコードを、プロセッサを用いて実行することによって実現しても良く、このようなソフトウェア処理に限らず、例えば、ＡＳＩＣ等を用いたハードウェア処理で実現してもよいし、ソフトウェア処理とハードウェア処理とを組み合わせて実現してもよい。

【0018】

アクセス制御部１１は、ユーザ端末２０による外部アクセスを制御するものであり、ユーザによる生成ＡＩサーバ５０に対する入力について、当該生成ＡＩサーバ５０からの回答を受け付ける。

【0019】

ＵＲＬ情報データベース１２は、ユーザにとって有害な悪性のＵＲＬ（マルウエアをダウンロードさせるような悪意のあるサイトに対応するＵＲＬ）等、ＵＲＬのカテゴリ情報を保存している。また、悪性の疑いのあるデータの拡張子等の情報を悪性のデータとして保存してもよい。

【0020】

回答分析部１３は、生成ＡＩサーバ５０の回答について、所定のデータを含む場合に、当該データが適切か否かを判定する。所定のデータとは、ＵＲＬのリンク情報、ファイルデータ等、テキスト情報以外のデータを意味する。具体的には、回答分析部１３は、生成ＡＩサーバ５０の回答を分析し、ＵＲＬのリンク情報等が含まれていないかを検索する。生成ＡＩサーバ５０の回答に、ＵＲＬのリンク情報等が含まれている場合に、ＵＲＬ情報データベース１２とＵＲＬのリンク情報を照合し、悪性のＵＲＬか否かを判定する。ＵＲＬ情報データベース１２内の悪性のＵＲＬと一致しない場合には、回答は適切と判断する一方、悪性のＵＲＬと一致する場合には、回答は不適切と判断する。また、ＵＲＬ情報データベース１２においてユーザにとって無害な（アクセスしても問題の無い）良性のＵＲＬ情報を保存しておき、生成ＡＩサーバ５０の回答内のリンク情報が良性のＵＲＬと一致する場合には、回答は適切と判断する一方、良性のＵＲＬと一致しない場合には、回答は不適切と判断してもよい。生成ＡＩサーバ５０の回答内のリンク情報が、良性及び悪性のＵＲＬと一致しない場合、すなわちＵＲＬ情報データベース１２に未登録のＵＲＬの場合に、回答は不適切と判断してもよい。

【0021】

また、生成ＡＩサーバ５０の回答にファイル等のデータが含まれている場合には、ＵＲＬ情報データベース１２に登録されている悪性のデータと比較して、回答が適切か否かを判断する。

【0022】

回答編集部１４は、所定のデータが不適切なときに、当該データに対するアクセスを不可となるように回答を編集して、ユーザ端末２０に送信する。具体的には、生成ＡＩサーバ５０の回答内のＵＲＬが悪性であり不適切と判断された場合に、そのリンクの記載部分の削除を行う。

【0023】

なお、回答編集部１４は、所定のデータが不適切なときに、アクセスが不可となる理由を回答内に記載してもよい。

【0024】

図２は、本実施形態に係る情報処理装置における生成ＡＩの回答内のデータを判定する方法を示す説明図である（適宜図１参照）。

【0025】

情報処理装置１０は、ユーザ端末２０から生成ＡＩサーバ５０へのアクセス要求を受け付けて、ユーザ端末２０に代理して生成ＡＩサーバ５０への入力（質問の入力）を実行する。

【0026】

情報処理装置１０は、生成ＡＩサーバ５０から取得した回答について、ＵＲＬのリンク情報が含まれている場合に、そのデータが悪性か否かを判定する。悪性のＵＲＬの場合には、回答内のリンク部分の記載を削除し、アクセスが不可となる理由を回答内に記載する。

【0027】

続いて、本実施形態に係る情報処理装置１０の動作について説明する。図３は、本実施形態に係る情報処理方法の一例を示すフローチャートである（適宜、図１参照）。

【0028】

アクセス制御部１１は、ユーザの質問を生成ＡＩサーバ５０に入力して、当該生成ＡＩサーバ５０からの回答を受け付ける（Ｓ１０、Ｓ１１）。

【0029】

回答分析部１３は、生成ＡＩサーバ５０の回答を分析し、回答内に所定のデータ（例えばＵＲＬのリンク情報）を含む場合に、当該リンク情報が適切か否かを判定する（Ｓ１２）。

【0030】

回答編集部１４は、回答内のリンク情報がＵＲＬ情報データベース１２の悪性のデータと一致するときに、当該リンク情報に対するアクセスを不可となるようにリンク情報部分を削除して、ユーザ端末２０に送信する（Ｓ１３：ＹＥＳ、Ｓ１４）。リンク情報が適切な場合は、回答をそのままユーザ端末２０に送信する（Ｓ１３：ＮＯ、終了）。

【0031】

以上述べた実施形態の情報処理装置によれば、生成ＡＩサーバに対する入力の回答を受け付けて、この回答について、所定のデータを含む場合に、当該データが適切か否かを判定することで、生成ＡＩによる回答内のデータが適切か否かを即時に判定することができる。

【0032】

なお、情報処理装置１０で実行されるプログラムは、ＲＯＭ等の記憶回路に予め組み込んで提供される。もしくは、このプログラムは、インストール可能な形式または実行可能な形式のファイルでＣＤ－ＲＯＭ、ＣＤ－Ｒ、メモリカード、ＤＶＤ、フレキシブルディスク等のコンピュータで読み取り可能な記憶媒体に記憶されて提供するようにしてもよい。また、情報処理装置１０で実行されるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせて提供するようにしてもよい。

【0033】

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0034】

１０…情報処理装置、１１…アクセス制御部、１２…ＵＲＬ情報データベース、１３…回答分析部、１４…回答編集部、２０…ユーザ端末、５０…生成ＡＩサーバ。

【要約】

【課題】生成ＡＩにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムを提供する。
【解決手段】情報処理装置１０は、ユーザ端末による外部アクセスを制御する情報処理装置であって、ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるアクセス制御部１１と、生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部１３と、所定のデータが不適切なときに、当該データに対するアクセスを不可となるように回答を編集して、ユーザ端末に送信する回答編集部１４と、を備える。
【選択図】図１

【図1】

【図2】

【図3】