IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社extの特許一覧

特開2025-6016生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム
<>
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図1
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図2
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図3
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図4
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図5
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図6
  • 特開-生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025006016
(43)【公開日】2025-01-17
(54)【発明の名称】生成AI管理システム、生成AI管理方法、及び生成AI管理プログラム
(51)【国際特許分類】
   G06N 20/00 20190101AFI20250109BHJP
   G06F 16/90 20190101ALI20250109BHJP
【FI】
G06N20/00
G06F16/90 100
【審査請求】有
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2023106529
(22)【出願日】2023-06-28
(71)【出願人】
【識別番号】518121747
【氏名又は名称】株式会社ext
(74)【代理人】
【識別番号】110002516
【氏名又は名称】弁理士法人白坂
(72)【発明者】
【氏名】佐藤 悠大
(72)【発明者】
【氏名】丸山 祥
【テーマコード(参考)】
5B175
【Fターム(参考)】
5B175EA01
(57)【要約】
【課題】 使用中の生成AIを途中で他の生成AIに変更する場合、使用中の生成AIとの間で交信し合った対話の経験を変更後の生成AIに引き継がせることを容易とする。
【解決手段】 本願発明に係る生成AI管理システムは、複数の生成AIのサーバに接続し、複数の生成AIを利用するための機能をユーザ端末に提供するために、複数の生成AIを記録し、複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得し、入力情報に対応する一つの生成AIの回答を回答情報としてサーバから取得するし、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶するし、一つの生成AIを他の生成AIに変更する際に、対話データ記憶部に記憶された対話データであって、一つの生成AIとの間で交信し合うことで得た対話データを用いて、他の生成AIに学習を行う学習部とを備える。
【選択図】図4
【特許請求の範囲】
【請求項1】
複数の生成AIのサーバに接続し、前記複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムであって、
前記複数の生成AIを記録する記録制御部と、
前記ユーザ端末を介して、前記複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得部と、
前記入力情報に対応する前記一つの生成AIの回答を回答情報として前記サーバから取得する回答情報取得部と、
前記入力情報と当該入力情報に対応する前記回答情報とを関連付けて対話データとして記憶する対話データ記憶部と、
前記ユーザ端末を介して、前記一つの生成AIを他の生成AIに変更する際に、前記対話データ記憶部に記憶された前記対話データであって、前記一つの生成AIとの間で交信し合うことで得た前記対話データを用いて、前記他の生成AIに学習を行う学習部と、
を備えることを特徴とする生成AI管理システム。
【請求項2】
前記生成AI管理システムは、
前記入力情報を前記サーバに送信する入力情報送信部と、
前記入力情報取得部が取得した入力情報に含まれるテキストデータをベクトルデータに変換するベクトルデータ変換部と、
を更に備え、
前記入力情報送信部は、前記テキストデータから前記ベクトルデータへ変換された後に当該ベクトルデータを含む前記入力情報を前記サーバに送信することを特徴とする請求項1に記載の生成AI管理システム。
【請求項3】
前記ベクトルデータ変換部は、前記回答情報取得部が取得した前記回答情報に含まれるテキストデータをベクトルデータに変換し、
前記対話データ記憶部は、前記ベクトルデータを含む前記入力情報と当該入力情報に対応し前記ベクトルデータを含む前記回答情報とを関連付けて対話データとして記憶することを特徴とする請求項2に記載の生成AI管理システム。
【請求項4】
前記生成AI管理システムは、
前記生成AIの学習に用いる学習データを前記ユーザ端末から取得する学習データ取得部と、
前記学習データ取得部により取得された学習データを前記サーバに送信する学習データ送信部と、
前記学習データ送信部により前記サーバに送信された学習データを記憶する学習データ記憶部と、
を更に備え、
前記学習部は、
前記ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、前記学習データ記憶部に記憶された前記学習データであって、前記一つの生成AIの学習に使用された前記学習データを用いて前記他の生成AIの学習を行うことを特徴とする請求項2に記載の生成AI管理システム。
【請求項5】
前記生成AI管理システムは、
前記学習データ取得部が取得した前記学習データに含まれるテキストデータをベクトルデータに変換するベクトルデータ変換部を更に備え、
前記学習データ記憶部は、前記テキストデータから前記ベクトルデータへ変換された後に当該ベクトルデータを含む前記学習データを記憶することを特徴とする請求項4に記載の生成AI管理システム。
【請求項6】
前記生成AIは複数あって、
前記生成AI管理システムは、
複数の前記生成AIのAPIに接続可能であり、
前記生成AIのAPIの各々にアバターを割り当て、前記API毎に割り当てられた前記アバターの一覧を前記ユーザ端末の表示部に表示することで前記APIの一覧を前記表示部に表示する表示制御部を更に備えることを特徴とする請求項4に記載の生成AI管理システム。
【請求項7】
前記表示制御部は、前記学習データ記憶部に記憶された前記学習データであって、前記生成AIの学習に用いた前記学習データの一覧を前記ユーザ端末の表示部に表示することで、前記生成AIの学習履歴を前記表示部に表示することを特徴とする請求項6に記載の生成AI管理システム。
【請求項8】
前記学習部は、
前記生成AIにより構成された機械学習モデルのクローンを構築する際に、
前記クローンを構成する生成AIの学習に、前記対話データ記憶部に記憶された前記対話データであって、当該クローンの元となる前記機械学習モデルを構成する前記生成AIとの間で交信し合うことで得た前記対話データを用いることを特徴とする請求項1に記載の生成AI管理システム。
【請求項9】
前記学習部は、
前記生成AIにより構成された機械学習モデルのクローンを構築する際に、
前記クローンを構成する生成AIの学習に、前記学習データ記憶部に記憶された前記学習データであって、当該クローンの元となる前記機械学習モデルを構成する前記生成AIの学習に使用された前記学習データを用いることを特徴とする請求項4に記載の生成AI管理システム。
【請求項10】
前記生成AIは複数あって、
前記生成AI管理システムは、複数の前記生成AIのAPIに接続可能であり、
前記入力情報送信部は、複数の前記サーバに同一の前記入力情報を送信し、
前記回答情報取得部は、同一の前記入力情報に対応する前記回答情報を複数の前記サーバから取得し、
前記表示制御部は、前記回答情報取得部が取得した複数の前記回答情報を前記ユーザ端末の表示部に一覧表示することを特徴とする請求項6に記載の生成AI管理システム。
【請求項11】
前記生成AIは複数あって、
前記生成AI管理システムは、複数の前記生成AIのAPIに接続可能であり、
前記入力情報送信部は、前記回答情報取得部が一つのサーバから取得した回答情報の評価に関する回答を得るための入力情報を、当該回答情報を取得した前記一つのサーバとは異なる他のサーバに対して送信し、
前記回答情報取得部は、前記一つのサーバの回答の評価に関する前記他のサーバの回答を第2意見情報として取得することを特徴とする請求項2に記載の生成AI管理システム。
【請求項12】
前記生成AI管理システムは、
前記入力情報に基づいて前記サーバに搭載されたトーカナイザーにより生成されたトークンの数をトークン数情報として当該サーバから取得するトークン数取得部と、
前記トークン数取得部により取得された前記トークン数情報に基づいて計算された前記生成AIの使用料金を料金情報として算出する料金算出部と、を更に備え、
前記表示制御部は、前記料金算出部により算出された前記料金情報を前記ユーザ端末の表示部に表示することを特徴とする請求項6に記載の生成AI管理システム。
【請求項13】
前記生成AIは複数あって、
前記生成AI管理システムは、
複数の前記生成AIのAPIに接続可能であり、
前記入力情報を取得した複数の前記サーバに搭載されたトーカナイザーにより生成されたトークンの数をトークン数情報として複数の当該サーバの各々から取得するトークン数取得部と、
前記トークン数取得部により取得された前記トークン数情報に基づいて計算された前記生成AIの使用料金を複数の前記生成AIごとに料金情報として算出する料金算出部と、
前記料金算出部により算出された複数の前記生成AIごとの前記料金情報に基づいて、最も安い前記料金情報に係る前記生成AIを抽出する最低料金抽出部と、を更に備え、
表示制御部は、前記最低料金抽出部により抽出された前記生成AIを前記ユーザ端末の表示部に表示することを特徴とする請求項6に記載の生成AI管理システム。
【請求項14】
複数の生成AIのサーバに接続し、前記複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムに用いられる生成AI管理方法であって、
前記生成AI管理システムは、
前記複数の生成AIを記録する記録制御ステップと、
前記ユーザ端末を介して、前記複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得ステップと、
前記入力情報に対応する前記一つの生成AIの回答を回答情報として前記サーバから取得する回答情報取得ステップと、
前記入力情報と当該入力情報に対応する前記回答情報とを関連付けて対話データとして記憶する対話データ記憶ステップと、
前記ユーザ端末を介して、前記一つの生成AIを他の生成AIに変更する際に、前記対話データ記憶ステップにおいて記憶された前記対話データであって、前記一つの生成AIとの間で交信し合うことで得た前記対話データを用いて、前記他の生成AIに学習を行う学習ステップと、
を実行することを特徴とする生成AI管理方法。
【請求項15】
複数の生成AIのサーバに接続し、前記複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムに用いられる生成AI管理プログラムであって、
前記生成AI管理システムに、
前記複数の生成AIを記録する記録制御機能と、
前記ユーザ端末を介して、前記複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得機能と、
前記入力情報に対応する前記一つの生成AIの回答を回答情報として前記サーバから取得する回答情報取得機能と、
前記入力情報と当該入力情報に対応する前記回答情報とを関連付けて対話データとして記憶する対話データ記憶機能と、
前記ユーザ端末を介して、前記一つの生成AIを他の生成AIに変更する際に、前記対話データ記憶機能においてに記憶された前記対話データであって、前記一つの生成AIとの間で交信し合うことで得た前記対話データを用いて、前記他の生成AIに学習を行う学習機能と、
を実現させることを特徴とする生成AI管理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、生成AI管理システム、生成AI管理方法、及び生成AI管理プログラムに関し、特に利用の途中で生成AIを他の生成AIに変更し得る生成AI管理システム、生成AI管理方法、及び生成AI管理プログラムに関する。
【背景技術】
【0002】
現在、生成AI(Generative Artificial Intelligence)が革新的な進歩をみせ、膨大なデータを処理し、高度なパターン認識及び予測などを可能にするため、生成AIはビジネス、科学、医療、及び自動車など、多様な分野での活用が期待されている。例えば、特許文献1は生成AIに関する技術が開示され、この文献に開示の技術によれば、言語モデルを用いて、状況に適したテキストで構成された情報を生成できるとしている。
【0003】
しかしながら、汎用技術として使 されている生成AIを使う場合、生成AIは様々な組織、企業などにより新規公開、又はアップデートを繰り返しており、現状どの生成AIを使うべきなのかは定かではない。
【0004】
生成AIは過去の対話の経験を考慮して新たな回答を生成するが、使用中の生成AIを途中で他の生成AIに変更する場合、それまでに生成AIとの間で交信し合った対話の経験を変更後の生成AIに引き継がせることが困難な場合があった。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2023-043129号
【発明の概要】
【発明が解決しようとする課題】
【0006】
そこで、本発明は、使用中の生成AIを途中で他の生成AIに変更する場合、使用中の生成AIとの間で交信し合った対話の経験を変更後の生成AIに引き継がせることを容易とする生成AI管理システム、生成AI管理方法、及び生成AI管理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
すなわち、第1の態様に係る生成AI管理システムは、複数の生成AIのサーバに接続し、複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムであって、複数の生成AIを記録する記録制御部と、ユーザ端末を介して、複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得部と、入力情報に対応する一つの生成AIの回答を回答情報としてサーバから取得する回答情報取得部と、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する対話データ記憶部と、ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、対話データ記憶部に記憶された対話データであって、一つの生成AIとの間で交信し合うことで得た対話データを用いて、他の生成AIに学習を行う学習部と、を備えることを特徴とする。
【0008】
第2の態様は、第1の態様に係る生成AI管理システムにおいて、生成AI管理システムは、入力情報をサーバに送信する入力情報送信部と、入力情報取得部が取得した入力情報に含まれるテキストデータをベクトルデータに変換するベクトルデータ変換部と、を更に備え、入力情報送信部は、テキストデータからベクトルデータへ変換された後に当該ベクトルデータを含む入力情報をサーバに送信することとしてもよい。
【0009】
第3の態様は、第2の態様に係る生成AI管理システムにおいて、ベクトルデータ変換部は、回答情報取得部が取得した回答情報に含まれるテキストデータをベクトルデータに変換し、対話データ記憶部は、ベクトルデータを含む入力情報と当該入力情報に対応しベクトルデータを含む回答情報とを関連付けて対話データとして記憶することとしてもよい。
【0010】
第4の態様は、第2の態様に係る生成AI管理システムにおいて、生成AI管理システムは、生成AIの学習に用いる学習データをユーザ端末から取得する学習データ取得部と、学習データ取得部により取得された学習データをサーバに送信する学習データ送信部と、学習データ送信部によりサーバに送信された学習データを記憶する学習データ記憶部と、を更に備え、学習部は、ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、学習データ記憶部に記憶された学習データであって、一つの生成AIの学習に使用された学習データを用いて他の生成AIの学習を行うこととしてもよい。
【0011】
第5の態様は、第4の態様に係る生成AI管理システムにおいて、生成AI管理システムは、学習データ取得部が取得した学習データに含まれるテキストデータをベクトルデータに変換するベクトルデータ変換部を更に備え、学習データ記憶部は、テキストデータからベクトルデータへ変換された後に当該ベクトルデータを含む学習データを記憶することとしてもよい。
【0012】
第6の態様は、第4の態様に係る生成AI管理システムにおいて、生成AIは複数あって、生成AI管理システムは、複数の生成AIのAPIに接続可能であり、生成AIのAPIの各々にアバターを割り当て、API毎に割り当てられたアバターの一覧をユーザ端末の表示部に表示することでAPIの一覧を表示部に表示する表示制御部を更に備えることとしてもよい。
【0013】
第7の態様は、第6の態様に係る生成AI管理システムにおいて、表示制御部は、学習データ記憶部に記憶された学習データであって、生成AIの学習に用いた学習データの一覧をユーザ端末の表示部に表示することで、生成AIの学習履歴を表示部に表示することとしてもよい。
【0014】
第8の態様は、第1の態様に係る生成AI管理システムにおいて、学習部は、生成AIにより構成された機械学習モデルのクローンを構築する際に、クローンを構成する生成AIの学習に、対話データ記憶部に記憶された対話データであって、当該クローンの元となる機械学習モデルを構成する生成AIとの間で交信し合うことで得た対話データを用いることとしてもよい。
【0015】
第9の態様は、第4の態様に係る生成AI管理システムにおいて、学習部は、生成AIにより構成された機械学習モデルのクローンを構築する際に、クローンを構成する生成AIの学習に、学習データ記憶部に記憶された学習データであって、当該クローンの元となる機械学習モデルを構成する生成AIの学習に使用された学習データを用いることとしてもよい。
【0016】
第10の態様は、第6の態様に係る生成AI管理システムにおいて、生成AIは複数あって、生成AI管理システムは、複数の生成AIのAPIに接続可能であり、入力情報送信部は、複数のサーバに同一の入力情報を送信し、回答情報取得部は、同一の入力情報に対応する回答情報を複数のサーバから取得し、表示制御部は、回答情報取得部が取得した複数の回答情報をユーザ端末の表示部に一覧表示することとしてもよい。
【0017】
第11の態様は、第2の態様に係る生成AI管理システムにおいて、生成AIは複数あって、生成AI管理システムは、複数の生成AIのAPIに接続可能であり、入力情報送信部は、回答情報取得部が一つのサーバから取得した回答情報の評価に関する回答を得るための入力情報を、当該回答情報を取得した一つのサーバとは異なる他のサーバに対して送信し、回答情報取得部は、一つのサーバの回答の評価に関する他のサーバの回答を第2意見情報として取得することとしてもよい。
【0018】
第12の態様は、第6の態様に係る生成AI管理システムにおいて、生成AI管理システムは、入力情報に基づいてサーバに搭載されたトーカナイザーにより生成されたトークンの数をトークン数情報として当該サーバから取得するトークン数取得部と、トークン数取得部により取得されたトークン数情報に基づいて計算された生成AIの使用料金を料金情報として算出する料金算出部と、を更に備え、表示制御部は、料金算出部により算出された料金情報をユーザ端末の表示部に表示することとしてもよい。
【0019】
第13の態様は、第6の態様に係る生成AI管理システムにおいて、生成AIは複数あって、生成AI管理システムは、複数の生成AIのAPIに接続可能であり、入力情報を取得した複数のサーバに搭載されたトーカナイザーにより生成されたトークンの数をトークン数情報として複数の当該サーバの各々から取得するトークン数取得部と、トークン数取得部により取得されたトークン数情報に基づいて計算された生成AIの使用料金を複数の生成AIごとに料金情報として算出する料金算出部と、料金算出部により算出された複数の生成AIごとの料金情報に基づいて、最も安い料金情報に係る生成AIを抽出する最低料金抽出部と、を更に備え、表示制御部は、最低料金抽出部により抽出された生成AIをユーザ端末の表示部に表示することとしてもよい。
【0020】
第14の態様に係る生成AI管理方法は、複数の生成AIのサーバに接続し、複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムに用いられる生成AI管理方法であって、生成AI管理システムは、複数の生成AIを記録する記録制御ステップと、ユーザ端末を介して、複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得ステップと、入力情報に対応する一つの生成AIの回答を回答情報としてサーバから取得する回答情報取得ステップと、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する対話データ記憶ステップと、ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、対話データ記憶ステップにおいて記憶された対話データであって、一つの生成AIとの間で交信し合うことで得た対話データを用いて、他の生成AIに学習を行う学習ステップと、を実行することを特徴とする。
【0021】
第15の態様に係る生成AI管理プログラムは、複数の生成AIのサーバに接続し、複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムに用いられる生成AI管理プログラムであって、生成AI管理システムに、複数の生成AIを記録する記録制御機能と、ユーザ端末を介して、複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得機能と、入力情報に対応する一つの生成AIの回答を回答情報としてサーバから取得する回答情報取得機能と、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する対話データ記憶機能と、ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、対話データ記憶機能においてに記憶された対話データであって、一つの生成AIとの間で交信し合うことで得た対話データを用いて、他の生成AIに学習を行う学習機能と、を実現させることを特徴とする。
【発明の効果】
【0022】
本発明に係る生成AI管理システムは、複数の生成AIのサーバに接続し、複数の生成AIを利用するための機能をユーザ端末に提供する生成AI管理システムであって、複数の生成AIを記録する記録制御部と、ユーザ端末を介して、複数の生成AIのうち一つの生成AIに与える情報を入力情報として取得する入力情報取得部と、入力情報に対応する一つの生成AIの回答を回答情報としてサーバから取得する回答情報取得部と、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する対話データ記憶部と、ユーザ端末を介して、一つの生成AIを他の生成AIに変更する際に、対話データ記憶部に記憶された対話データであって、一つの生成AIとの間で交信し合うことで得た対話データを用いて、他の生成AIに学習を行う学習部と、を備えるので、使用中の生成AIを途中で他の生成AIに変更する場合、使用中の生成AIとの間で交信し合った対話の経験を変更後の生成AIに引き継がせることが容易となる。
【図面の簡単な説明】
【0023】
図1図1は本実施形態に係る生成AI管理システムの使用環境を示す概念図である。
図2図2は本実施形態に係る生成AI管理システム及び生成AIサーバのハードウェア構成の一例を示すブロック図である。
図3図3は本実施形態に係る生成AIサーバのソフトウェア構成の一例を示すブロック図である。
図4図4は本実施形態に係る生成AI管理システムのソフトウェア構成の一例を示すブロック図である。
図5図5は本実施形態に係るユーザ端末の表示部の表示画面の一例を示す図である。
図6図6は本実施形態に係るユーザ端末の表示部の表示画面の一例を示す図である。
図7図7は本実施形態に係る生成AI管理プログラムのフローチャートである。
【発明を実施するための形態】
【0024】
図1乃至図6を参照して本願発明の一実施形態に係る生成AI管理システム10について説明する。
先ず図1を参照して、本実施形態に係る生成AI管理システム10の使用環境について説明する。図1は本実施形態に係る生成AI管理システム10の使用環境を示す概念図である。
【0025】
本実施形態に係る生成AI管理システム10は、複数の生成AI(Generative Artificial Intelligence)33のサーバ(生成AIサーバ)30に接続し、複数の生成AI33を利用するための機能をユーザ端末20に提供するものである(図3参照)。
【0026】
生成AI33は、プロンプトなどで与えられるサンプルデータから自動的に何かを生成する機械学習の手法、及びこの機械学習の手法により学習された機械学習モデルである。何かとは、例えば、文章、画像、音楽などである。生成AIと従来のAIとの主な違いは、従来のAIは大量のサンプルデータを与えることでそのサンプルデータの特徴などを抽出し推測などをするが、生成AIは少ないサンプルデータから新しい何かを生成する点にある。
生成AI33は、例えば、ChatGPT(登録商標)3.5、ChatGPT4.0、及びbard(登録商標)などであり、これらは大規模言語モデル(LLM:Large Language Model)を基に構築されている。大規模言語モデルは、大量のテキストデータを使ってトレーニングされた自然言語処理(NLP:Natural Language Processing)の機械学習モデルである。大規模言語モデルは、大量のテキストデータを用いた事前学習の後にファインチューニング(微調整)することによって、テキスト分類、感情分析、情報抽出、文章要約、テキスト生成、質問応答といった、自然言語処理タスクに適応可能となる。
【0027】
生成AI33の機能の外部アプリケーションによる利用は、生成AI33のAPI(Application Programming Interface)に則って行われる。APIは、アプリケーション同士が情報を交信し合うための仕組みであり、アプリケーション同士が接続するためのプロトコル、及び接続部分の仕様の取り決めである。生成AIサーバ30(30a、30b、30c)は、生成AI33を搭載し生成AI33のAPIを提供するサーバであり、当該APIに接続する他者に生成AI33の機能を使わせるために、APIの実装及び運用を行う。生成AI管理システム10は、生成AIサーバ30に接続して生成AIサーバ30が提供するAPIを呼び出す形で、生成AI33の機能を利用する。
【0028】
生成AI管理システム10は、インターネットを含むネットワーク11を介して生成AIサーバ30に接続する。図1において、生成AI管理システム10は、便宜上3台の生成AIサーバ30(第1生成AIサーバ30a、第2生成AIサーバ30b、及び第3生成AIサーバ30c)に接続する例を示すが、3台に限定されるものでは無く、2台若しくは4台以上の生成AIサーバ30に接続してもよい。
【0029】
生成AI管理システム10は、ネットワーク11を介して接続するユーザ端末20(20a、20b)に生成AI33の機能を提供する。図1において、生成AI管理システム10は、便宜上、2台のユーザ端末20(第1ユーザ端末20a、及び第2ユーザ端末20b)と接続する例を示すが、2台に限定されるものではなく、1台若しくは3台以上のユーザ端末20が生成AI管理システム10に接続してもよい。
【0030】
ユーザ端末20は、例えば、パーソナルコンピュータ(以下、PCと言う。)、ノートPC、タブレット型PC、及びスマートフォンなどの情報処理端末である。ユーザ端末20ではウェブブラウザが動作し、ウェブブラウザを通じて生成AI管理システム10に接続することができる。
【0031】
生成AI管理システム10はウェブサーバとして機能し、ネットワーク11を介して接続するユーザ端末20の表示部(モニタ)60に対して、HTML(Hyper Text Markup Language)などにより構成された表示画面(ウェブページ)61を提供する(図5図6参照)。生成AI管理システム10は、例えば、ワークステーション、PCなどのような汎用コンピュータにより構成される。また、生成AI管理システム10は、個別独立した形式での構成に限定されるものではなく、他のシステムの一部のモジュールとして構成されてもよいし、クラウドコンピューティングにより構成されてもよい。
【0032】
次に図2を参照して、生成AI管理システム10及び生成AIサーバ30のハードウェア構成の一例について説明する。図2は本実施形態に係る生成AI管理システム10及び生成AIサーバ30のハードウェア構成の一例を示すブロック図である。
【0033】
生成AI管理システム10及び生成AIサーバ30は、通信インターフェース10a、ROM(Read Only Memory)10b、RAM(Random Access Memory)10c、記憶部10d、CPU(Central Processing Unit)10e、及び、入出力インターフェース10f等を備えている。さらに生成AIに特化した専用の演算素子(プロセッサ)がCPU10eに代えて又はCPU10eとともに実装されてもよい。
【0034】
通信インターフェース10aは、生成AI管理システム10及び生成AIサーバ30のデータについて、インターネットを含むネットワーク11を介して他の機器との間の送受信を行う機能を備える。生成AI管理システム10及び生成AIサーバ30のデータは、後述の学習データ、入力情報、回答情報、トークン数情報などが含まれる。
【0035】
記憶部10dは、生成AI管理システム10及び生成AIサーバ30の記憶装置として利用でき、例えば、ハードディスクドライブ(Hard Disk Drive)、ソリッドステートドライブ(Solid State Drive)、及びフラッシュメモリ(Flash Memory)などで構成され、更にはクラウドストレージを利用して記憶部10dを構成することもできる。また、記憶部10dは、データベースにより構成されてもよい。記憶部10dをデータベースにより構成することで、学習データ、入力情報、及び、回答情報などの膨大なデータを効率よく管理することができ、検索性及びアクセス性に優れ、必要な情報を素早く参照することができるようになる。
【0036】
また、生成AI管理システム10の記憶部10dは、後述の生成AI管理プログラム、生成AI管理システム10が動作する上で必要となるOS(Operating System)、各種アプリケーション、及び当該アプリケーションによって利用される各種データなどが記憶される。
【0037】
生成AIサーバ30の記憶部10dは、生成AIサーバ30が動作する上で必要となるOS、各種アプリケーション、及び当該アプリケーションによって利用される各種データなどが記憶される。
OSは、生成AI管理システム10及び生成AIサーバ30に内蔵されるソフトウェアの一種であり、生成AI管理システム10及び生成AIサーバ30の基本的な制御を司る機能を持つ。
【0038】
生成AI管理システム10は、後述する生成AI管理プログラムをROM10b若しくは記憶部10dに保存し、RAM10cなどで構成されるメインメモリに当該生成AI管理プログラムを取り込む。CPU10eは、当該生成AI管理プログラムを取り込んだメインメモリにアクセスして、当該生成AI管理プログラムを実行する。
【0039】
生成AIサーバ30は、OSをROM10b若しくは記憶部10dに保存し、RAM10cなどで構成されるメインメモリに当該OSを取り込む。CPU10eは、当該OSを取り込んだメインメモリにアクセスして、当該OSを実行する。
【0040】
入出力インターフェース10fは、生成AI管理システム10及び生成AIサーバ30の外部装置に対してデータなどの送受信を行う。外部装置とは、生成AI管理システム10及び生成AIサーバ30に対してデータなどの入出力を行う入力装置10g及び出力装置10hのことである。入力装置10gは例えばキーボード及びマウスなどのことであり、出力装置10hは例えばモニタ、プリンタ、及びスピーカなどのことである。
【0041】
次に図3を参照して、生成AIサーバ30のソフトウェア構成の一例について説明する。図3は生成AIサーバ30のソフトウェア構成の一例を示すブロック図である。
生成AIサーバ30は、OSを実行することで、CPU10eに、入力情報受付部31、トーカナイザー32、生成AI33、及び回答情報送信部34などの機能部を備える。
【0042】
入力情報受付部31は、生成AI33に対する問い合わせ内容(prompt)などの入力情報を生成AI管理システム10から受け付ける。
生成AI33への入力情報は、生成AI33に何かを生成させるために与える情報のことである。例えば、生成AI33に文章、画像、音楽などを生成させる場合には、テキスト、キーワード、画像、及び音声などを入力情報として与える。テキストは、文章、対話、プログラムコードなどを生成する場合に使われる。テキストは自然言語処理(NLP)により解析され、生成AI33に理解される。キーワードは、画像、音楽などを生成する場合に使われる。キーワードは生成AI33に生成させたい内容、及び特徴を示す。例えば、「猫」というキーワードを入力すると、生成AI33は猫の画像を生成する。画像は、当該画像を加工したり、当該画像とは別の画像を生成したりする場合に使われる。画像はコンピュータビジョン(computer vision)により解析され、生成AI33により理解される。音声は、当該音声を加工したり、当該音声とは別の音声を生成したりする場合に使われる。音声は音声処理(speech processing)により解析され、生成AI33に理解される。
【0043】
トーカナイザー32は、入力情報受付部31で受け付けた入力情報に含まれるテキストデータをトークンに分割し、当該トークンにIDを付与する機能を提供する。トークンは、テキストデータを分割する最小単位のことであり、単語及び句などがトークンとなる。トーカナイザー32は、例えば、Sentence Piece、BPE(Byte Pair Encoding)、BBPE(Byte-level BPE)、Word Piece、Unigram Language Model、ByT5などを用いる。
【0044】
生成AI33は、入力情報をトーカナイザー32によって変換されたIDとして取り込み、自然言語処理、画像処理、及び音声処理などの各種処理を実行することで入力情報に対する回答を生成する。
【0045】
回答情報送信部34は、生成AI33によって生成された入力情報に対する回答(completion)を回答情報として生成AI管理システム10に送信する。
【0046】
次に図4を参照して、生成AI管理システム10のソフトウェア構成の一例について説明する。図4は本実施形態に係る生成AI管理システム10のソフトウェア構成の一例を示すブロック図である。生成AI管理システム10は、後述する生成AI管理プログラムを実行することで、CPU10eに、記録制御部40、学習データ取得部41、学習データ送信部42、学習データ記憶部43、入力情報取得部44、ベクトルデータ変換部45、入力情報送信部46、回答情報取得部47、対話データ記憶部48、学習部49、トークン数取得部50、料金算出部51、表示制御部52、及び最低料金抽出部53などの機能部を備える。
【0047】
記録制御部40は、複数の生成AIを記録する。
記録制御部40は、複数の生成AIの各々について、生成AIのサーバに接続するためのURI(Uniform Resource Identifier)、APIキーなどの生成AIを識別するための情報、及び、作成日、最終使用日、APIを提供する組織若しくは企業などの生成AIの属性情報などを生成AI管理システム10の記憶部10dに記録する。
学習データ取得部41は、生成AI33の学習に用いる学習データをユーザ端末20から取得する。
学習データは、主に、生成AI33が回答を生成する際の参考にするためのデータ、及び生成AI33により構築される機械学習モデルのトレーニングを行うためのデータセットがある。前者のデータは、テキストデータ、画像、動画、音声、音楽、プログラムコードなどである。後者のデータセットは、教師あり学習に用いる入力データと正解データ(ラベル)とがセットになった学習データ、及び、教師なし学習に用いる入力データだけのものとがある。教師あり学習では、生成AI33により構成される機械学習モデルが生成する回答が正解データに近づくように調整する学習方法である。教師なし学習は、例えば、大量のテキストデータを学習データとして与えて、テキストの文法、及び文脈などを理解できるようする学習方法である。
なお、学習データは、他の生成AIの対話データを含む。即ち、生成AI33は、他の生成AI33に対する問い合わせ内容(prompt)などの入力情報と当該入力情報に対応して回答した回答情報を読み込むことで学習する場合もありうる。
【0048】
学習データ送信部42は、学習データ取得部41により取得された学習データを生成AIサーバ30に送信する。
生成AIサーバ30に送信された学習データは、生成AI33の学習に用いられる。
生成AI33は、GAN(Generative Adversarial Network:敵対的生成ネットワーク)及びGPT-3(登録商標)、GPT-4などを用いて、与えられた学習データから特徴及びパターンを抽出してそれらを数値化し内部のニューラルネットワークのパラメータとする。
【0049】
学習データ記憶部43は、学習データ送信部42により生成AIサーバ30に送信された学習データを記憶する。
学習データは、学習データ記憶部43によって生成AI管理システム10の記憶部10dに記憶される。
生成AI管理システム10は、ベクトルデータ変換部45をも備える。
ベクトルデータ変換部は、学習データ取得部41が取得した学習データに含まれるテキストデータをベクトルデータに変換する。
学習データ記憶部43は、テキストデータからベクトルデータへ変換された後に当該ベクトルデータを含む学習データを記憶することとしてもよい。
生成AI33の学習データをベクトルデータに変換することで、後述の学習部49による新たに使用する生成AI33の学習に当該学習データを用いる場合に、学習された生成AI33は自然言語処理の応用範囲が広がるとともに精度が向上するなどの効果を得ることができる。自然言語処理におけるベクトルデータは、自然言語の単語及び文をテキストデータとし、さらに、コンピュータが処理しやすいよう単語及び文を数値化したデータである。単語及び文をベクトルデータにすることで、単語の意味の類似性を視覚化し、特徴を顕在化させることができる。
【0050】
入力情報取得部44は、ユーザ端末20を介して、複数の生成AI33のうち一つの生成AI33に与える情報を入力情報として取得する。
ユーザは、ユーザ端末20の表示部60に表示された生成AI管理システム10のウェブページ(表示画面61)から入力情報を生成AI管理システム10に送信する。入力情報は、生成AI33に何かを生成させるためのプロンプト(prompt)であり、生成AI33への指示、入力などを含む。例えば、生成AI33に詩、物語、画像などを生成させる場合には、プロンプトによってその内容、形式、及びスタイル(様式)などを指定する。なお、入力情報は、pdf(登録商標)、MS-Word(登録情報)、及びMS-Excel(登録商標)などの特定のアプリケーションのファイル形式でもって入力情報を作成してもよい。
【0051】
ベクトルデータ変換部45は、入力情報取得部44が取得した入力情報に含まれるテキストデータをベクトルデータに変換する。
生成AI33との1回の遣り取り、即ち、1つのプロンプトと当該プロンプトに対する回答の内容(completion)とに用いられる合計トークン数に制限がある。例えば、GPT-3は4097トークンまでである。ベクトルデータ変換部45は、入力情報であるプロンプトに含まれるテキストデータをベクトルデータに変換することで、上記した合計トークン数の制限をほぼ解消するものである。テキストデータをベクトルデータに変換する方法としては、例えば、Bag-of-words、TF-IDF、及び単語埋め込みなどがあり、ベクトルデータ変換部45は、これら方法を実現する機械学習モデル又はアプリケーション(アルゴリズム)を用いて構成される。
入力情報に含まれるテキストデータのベクトルデータへの変換は、後述の入力情報送信部46が実行する処理タスクの前処理として行われる。
【0052】
入力情報送信部46は、入力情報を生成AIサーバ30に送信する。
入力情報送信部46は、テキストデータからベクトルデータへ変換された後に当該ベクトルデータを含む入力情報を生成AIサーバ30に送信することとしてもよい。
【0053】
回答情報取得部47は、入力情報に対応する一つの生成AI33の回答を回答情報として生成AIサーバ30から取得する。
生成AI33は、入力されたベクトルデータを機械学習モデル(言語モデル)に入力することで、次に続く適切なベクトルを予測する。生成AI33は予測されたベクトルをトークンに逆変換し、トークンを繋ぎ合わせることで回答となるテキストを生成する。
【0054】
対話データ記憶部48は、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する。
対話データ記憶部48は、入力情報送信部46から送信した入力情報と、当該入力情報に対応し回答情報取得部47により取得された回答情報とを関連付けて対話データとして生成AI管理システム10の記憶部10dに記憶する。
ベクトルデータ変換部45は、回答情報取得部47が取得した回答情報に含まれるテキストデータをベクトルデータに変換し、対話データ記憶部48は、ベクトルデータを含む入力情報と当該入力情報に対応しベクトルデータを含む回答情報とを関連付けて対話データとして記憶してもよい。
対話データをベクトルデータとして記憶することで、後述の学習部49により新たに使用する生成AI33の学習に当該対話データを用いる場合に、学習された生成AI33は自然言語処理の応用範囲が広がるとともに精度が向上するなどの効果を得ることができる。
対話データは、生成AIへの入力情報と当該入力情報に対応して生成AIが回答として生成する回答情報とを関連付けたデータである。
例えば、入力情報としてテキストデータを生成AIに入力した場合、生成AIはこの入力情報(テキストデータ)に対応する回答をテキストデータ、音声データ、及び画像データなどを用いて回答情報を生成する。この入力情報とこの回答情報との組み合わせが対話データとなる。なお、生成AIへの入力情報は、テキストデータの他に音声データ及び画像データを用いてもよく、また、テキストデータ、音声データ、及び画像データの組合せでもよい。生成AIは、この入力情報に対応する回答として、テキストデータ、音声データ、及び画像データ、若しくは、これらの組合せによって回答情報を生成し得る。
【0055】
学習部49は、ユーザ端末20を介して、一つの生成AI33を他の生成AI33に変更する際に、学習データ記憶部43に記憶された学習データであって、一つの生成AI33の学習に使用された学習データを用いて他の生成AI33の学習を行う。
例えば、ユーザ端末20により利用されていた第1生成AIサーバ30aの生成AI33を第2生成AIサーバ30bの生成AI33に変更する際に、学習データ記憶部43に記憶された学習データであって、生成AI管理システム10の記憶部10dに記憶されている第1生成AIサーバ30aの生成AI33の学習に使用された学習データを用いて新たに使用する第2生成AIサーバ30bの生成AI33の学習を行うものである。
一つの生成AI33の学習に使用された学習データを用いて他の生成AI33の学習を行うことによって、これまで使用してきた生成AI(一つの生成AI33)が経験した学習(学習の履歴)を、新たに用いる生成AI(他の生成AI33)に引き継がせることができる。
【0056】
例えば、第2生成AIサーバ30bの生成AI33がGPT-4であり、第1生成AIサーバ30aの生成AI33がGPT-3であるとする。GPT-3とGPT-4とを同じ学習モデルでトレーニングすることで、両者によって生成されるものは、同じ学習データを元にしているので同じような内容、形式、及びスタイル(様式)のものを生成する。また、両者は、当該学習モデルに含まれる偏り及び誤りを反映して生成する。なお、両者は、当該学習データにない情報及び知識に基づいては生成しない。
【0057】
一方で、GPT-4はGPT-3より性能が高いので、GPT-4の生成物は、GPT-3の生成物と比較して、より自然で精度が高く、より多様で創造的であり、より少ないプロンプトとなる入力情報で高品質のものを生成する。
【0058】
学習部49は、ユーザ端末20を介して、一つの生成AI33を他の生成AI33に変更する際に、対話データ記憶部48に記憶された対話データであって、一つの生成AI33との間で交信し合うことで得た対話データを用いて、他の生成AI33に学習を行うこととしてもよい。
【0059】
生成AI33は、過去の対話の履歴(経験)を考慮して新たに回答を生成する。ユーザ端末20により利用される生成AI33を変更する際に、当該生成AI33との間で交信し合うとこで得た対話データを用いて新たに使用する生成AI33の学習を行うことで、過去の対話の履歴(経験)を新たに使用する生成AI33に引き継がせることができる。
これまで使用してきた生成AI(一つの生成AI33)との間の交信により得た対話データ、即ち、生成AI33に対する問い合わせ内容(prompt)などの入力情報と当該入力情報に対応する回答情報を用いて、新たに用いる生成AI(他の生成AI33)を学習することで、新たに用いる生成AI(他の生成AI33)にこれまで使用してきた生成AI(一つの生成AI33)との間で交信した内容(入力情報と対応する回答情報)を引き継がせることができ、新たに用いる生成AI(他の生成AI33)は、これまで使用してきた生成AI(一つの生成AI33)の過去の対話の履歴を考慮して新しい回答情報を生成することができる。
【0060】
上記したように、ユーザ端末29により利用される生成AIサーバ30(生成AI33)を変更する際に、元の生成AI33のトレーニングに使用した学習データ及び元の生成AI33との間で交信し合うことで得た対話データを生成AI管理システム10の記憶部10dに記憶しているので、新たに使用する生成AI33の学習にこれら学習データ及び対話データを容易に用いることができる。
【0061】
学習部49は、生成AI33により構成された機械学習モデルのクローンを生成する際に、クローンを構成する生成AI33の学習に、学習データ記憶部43に記憶された学習データであって、当該クローンの元となる機械学習モデルを構成する生成AI33の学習に使用された学習データを用いる。
【0062】
学習部49は、生成AI33により構成された機械学習モデルのクローンを生成する際に、クローンを構成する生成AI33の学習に、対話データ記憶部48に記憶された対話データであって、当該クローンの元となる機械学習モデルを構成する生成AI33との間で交信し合うことで得た対話データを用いることとしてもよい。
機械学習モデルのクローンは、元の機械学習モデルと同じ種類の大規模言語モデルにより構成され、元の機械学習モデルと同じ学習データにより学習された機械学習モデルであり、元の機械学習モデルのコピー(複製)である。
【0063】
上記したように、生成AI33により構成された機械学習モデルのクローンを生成する際に、元の生成AI33のトレーニングに使用した学習データ及び元の生成AI33との間で交信し合うことで得た対話データを生成AI管理システム10の記憶部10dに記憶しているので、クローンを構成する生成AI33の学習にこれら学習データ及び対話データを容易に用いることができる。
【0064】
生成AI33は複数あって、生成AI管理システム10は、複数の生成AI33のAPIに接続可能である。
表示制御部52は、生成AI33のAPIの各々にアバターを割り当て、API毎に割り当てられたアバターの一覧をユーザ端末20の表示部60に表示することでAPIの一覧を表示部60に表示する(図5図6参照)。
本実施形態におけるアバターは、生成AI33の機能の一つである質問応答の主体を具現化するものである。例えば、ロボット、動物、アニメキャラクター、マーク、果物などの写真、イラストなどによる画像により表現されるアバターが、質問に応答しているように利用者に対して表示する。アバターはアイコンとして表示されてもよいし、動作を伴うアニメーションとして表示されてもよい。生成AI33の機能の質問応答の主体にアバターを割り当てることで、生成AI33の利用者は、複数の生成AI33を識別することができ、更に、アバターにより具現化することで、利用者は愛着、信頼、好意などの感情をアバターに対していだくことができ、楽しく生成AI33を使うことができる。
表示制御部52は、生成AI33の学習に用いた学習データの一覧をユーザ端末20の表示部60に表示することで、生成AI33の学習履歴を表示部60に表示する(図6参照)。
【0065】
図5及び図6を参照して、本実施形態に係るユーザ端末20の表示部60の表示画面61の一例について説明する。図5及び図6は本実施形態に係るユーザ端末20の表示部60の表示画面61の一例を示す図である。
【0066】
図5及び図6に示す様に、表示画面61の左側にメニューバー62、表示画面61の右側にメイン表示部63が表示される。メニューバー62には、新規登録、ログイン、メインメニューなどが表示され、ユーザの選択操作により選択されると、新規登録、ログイン、メインメニューなどに対応するページがメイン表示部63に表示される。
【0067】
メイン表示部63の左端にサブメニューバー64が表示される。サブメニューバー64はサブ表示部65の表示内容を選択するために用いられる。サブメニューバー64には、アバター、料金、及び設定のボタンが表示され、ユーザの選択操作により選択されると、アバター、料金、及び設定に対応するページがサブ表示部65に表示される。
【0068】
図5及び図6に示すサブ表示部65は、サブメニューバー64において、アバターのボタンが選択されて、サブ表示部65にアバター検索入力窓66、タグ一覧67、及びアバター一覧68が表示されている。サブメニューバー64のアバターのボタンが太い枠線で囲われ、ユーザによって選択された状態であることを示す。アバター一覧68は、生成AI管理システム10に登録されている生成AIサーバ30(生成AI33)のAPIの一覧を表している。
【0069】
サブ表示部65のアバター一覧68の中からユーザに選択されたアバターに関する情報がメイン表示部63に表示される。メイン表示部63に表示される内容は見出し69の中から選択され、図5において対話の履歴が選択されている。アバター一覧68の中から「アバター001」が選択され、メイン表示部63において「アバター001」とユーザとの対話一覧70が表示される。サブ表示部65のアバター一覧68の「アバター001」のボタンが太い枠線で囲われ、ユーザによって選択された状態であることを示す。サブ表示部65の最下部には、アバター作成ボタン74が表示される。
【0070】
対話一覧70において、アバター001が生成した回答の左側にアバターのアイコン72が表示され、ユーザの問い合わせ内容などの入力情報の左側にユーザのアイコン73が表示され、誰の文章であるか判るようになっている。メイン表示部63の最下部には、メッセージ入力窓71が表示される。
【0071】
図6において見出し69の中からAPIが選択され、メイン表示部63にAPI76の一覧75、及びAPI作成ボタン77が表示される。API76には、APIの名称、作成日、最終使用日、及びAPIキーが表示される。
【0072】
トークン数取得部50は、入力情報に基づいて、生成AIサーバ30に搭載されたトーカナイザー32により生成されたトークンの数をトークン数情報として当該生成AIサーバ30から取得する。
料金算出部51は、トークン数取得部50により取得されたトークン数情報に基づいて計算された生成AI33(生成AIサーバ30)の使用料金を料金情報として算出する。
表示制御部52は、料金算出部51により算出された料金情報をユーザ端末20の表示部60に表示する。
【0073】
上記のトーク数取得部50と料金算出部51とによれば、トークン数情報により入力情報に含まれるテキスト文字列に含まれるトークンの数が判れば、入力情報に含まれるテキスト文字列が処理されるには長すぎるか否かが分かり、料金情報により生成AIサーバ30を利用するコストがどれくらいかかるかが判る。
【0074】
生成AI33は複数あって、生成AI管理システム10は、複数の生成AI33のAPIに接続可能であり、入力情報送信部46は、複数のサーバ30に同一の入力情報を送信し、回答情報取得部47は、同一の入力情報に対する回答情報を複数のサーバ30から取得し、表示制御部52は、回答情報取得部47が取得した複数の回答情報をユーザ端末20の表示部60に一覧表示することとしてもよい。
この場合、ユーザは、同一の入力情報に対する回答を複数の生成AI33から得ることができ、複数の回答を比較し、より良い回答を得ることができる。
【0075】
生成AI33は複数あって、生成AI管理システム10は、複数の生成AI33のAPIに接続可能であり、入力情報送信部46は、回答情報取得部47が生成AIサーバ30(生成AI33)から取得した回答情報の評価に関する回答を得るための入力情報を、当該回答情報を取得した生成AIサーバ30以外の生成AIサーバ30である他の生成AIサーバ30に対して送信し、回答情報取得部47は、生成AIサーバ30(生成AI33)の回答の評価に関する他の生成AIサーバ30(生成AI33)の回答を第2意見情報として取得することができる。
この場合、ユーザは、生成AI33から得た回答について、他の生成AI33に評価してもらいセカンドオピニオンとなる第2意見情報を得ることができ、生成AI33の回答が間違っていた場合、より良い回答を得たい場合などに有効である。
【0076】
生成AI33は複数あって、生成AI管理システム10は、複数の生成AI33のAPIに接続可能であり、トークン数取得部50は、入力情報を取得した複数のサーバ30に搭載されたトーカナイザー32により生成されたトークンの数をトークン数情報として複数の当該サーバ30の各々から取得する。次に、料金算出部51は、トークン数取得部50により取得されたトークン数情報に基づいて計算された生成AI33の使用料金を複数の生成AI33ごとに料金情報として算出する。
【0077】
最低料金抽出部53は、料金算出部51により算出された複数の生成AI33ごとの料金情報に基づいて、最も安い料金情報に係る生成AI33を抽出する。
表示制御部52は、最低料金抽出部53により抽出された生成AI33をユーザ端末20の表示部60に表示する。ユーザは、複数ある生成AI33の中から回答を得るのに最も料金の低い生成AI33を選択することができる。
【0078】
図7を参照して、本発明の一実施形態に係る生成AI管理プログラムについて、生成AI管理方法とともに説明する。図7は本実施形態に係る生成AI管理プログラムのフローチャートである。生成AI管理方法は、生成AI管理プログラムに基づいて、生成AI管理システム10のCPU10eにより実行される。
【0079】
生成AI管理プログラムは、生成AI管理システム10のCPU10eに対して、記録制御機能、学習データ取得機能、学習データ送信機能、学習データ記憶機能、入力情報取得機能、ベクトルデータ変換機能、入力情報送信機能、回答情報取得機能、対話データ記憶機能、学習機能、トークン数取得機能、料金算出機能、表示制御機能、及び最低料金抽出機能などを実現させる。これらの機能は図7に示される順に実行されるが、適宜、順番を入れ替えて実行することもできる。なお、各機能は前述の生成AI管理システム10の各種機能部の説明と重複するため、その詳細な説明は省略する。
【0080】
記録制御機能は、複数の生成AIを記録する(S40:記録制御ステップ)。
学習データ取得機能は、生成AI33の学習に用いる学習データをユーザ端末20から取得する(S41:学習データ取得ステップ)。
【0081】
学習データ送信機能は、学習データ取得機能により取得された学習データを生成AIサーバ30に送信する(S42:学習データ送信ステップ)。
【0082】
学習データ記憶機能は、学習データ送信機能により生成AIサーバ30に送信された学習データを記憶する(S43:学習データ記憶ステップ)。
【0083】
入力情報取得機能は、ユーザ端末20を介して、複数の生成AI33のうち一つの生成AI33に与える情報を入力情報として取得する(S44:入力情報取得ステップ)。
【0084】
ベクトルデータ変換機能は、入力情報取得機能が取得した入力情報に含まれるテキストデータをベクトルデータに変換する(S45:ベクトルデータ変換ステップ)。
【0085】
入力情報送信機能は、入力情報を生成AIサーバ30に送信する(S46:入力情報送信ステップ)。
【0086】
回答情報取得機能は、入力情報に対応する一つの生成AI33の回答を回答情報として生成AIサーバ30から取得する。(S47:回答情報取得ステップ)。
【0087】
対話データ記憶機能は、入力情報と当該入力情報に対応する回答情報とを関連付けて対話データとして記憶する(S48:対話データ記憶ステップ)。
【0088】
学習機能は、ユーザ端末20により利用される生成AIサーバ30(生成AI33)を変更する際に、学習データ記憶機能において記憶された学習データであって、当該生成AI33の学習に使用された学習データを用いて新たに使用する生成AI33の学習を行う(S49:学習ステップ)。
【0089】
トークン数取得機能は、入力情報に基づいて、生成AIサーバ30に搭載されたトーカナイザー32により生成されたトークンの数をトークン数情報として当該生成AIサーバ30から取得する(S50:トークン数取得ステップ)。
【0090】
料金算出機能は、トークン数取得機能により取得されたトークン数情報に基づいて計算された生成AI33(生成AIサーバ30)の使用料金を料金情報として算出する(S51:料金算出ステップ)。
【0091】
表示制御機能は、料金算出機能により算出された料金情報をユーザ端末20の表示部60に表示する(S52:表示制御ステップ)。
【0092】
最低料金抽出機能は、料金算出機能により算出された複数の生成AI33ごとの料金情報に基づいて、最も安い料金情報に係る生成AI33を抽出する(S53:最低料金抽出ステップ)。
【0093】
なお、本発明は上記した実施形態に係る生成AI管理システム10、生成AI管理方法、及び生成AI管理プログラムに限定されるものではなく、特許請求の範囲に記載した本発明の要旨を逸脱しない限りにおいて、その他種々の変形例、若しくは応用例により実施可能である。
【符号の説明】
【0094】
10 生成AI管理システム
10a 通信インターフェース
10b ROM(Read Only Memory)
10c RAM(Random Access Memory)
10d 記憶部
10e CPU(Central Processing Unit)
10f 入出力インターフェース
10g 入力装置
10g 出力装置
11 ネットワーク
20 ユーザ端末
20a 第1ユーザ端末
20b 第2ユーザ端末
30 生成AIサーバ
30a 第1生成AIサーバ
30b 第2生成AIサーバ
30c 第3生成AIサーバ
31 入力情報受付部
32 トーカナイザー
33 生成AI
34 回答情報送信部
40 記録部
41 学習データ取得部
42 学習データ送信部
43 学習データ記憶部
44 入力情報取得部
45 ベクトルデータ変換部
46 入力情報送信部
47 回答情報取得部
48 対話データ記憶部
49 学習部
50 トークン数取得部
51 料金算出部
52 表示制御部
53 最低料金抽出部
60 表示部
61 表示画面
62 メニューバー
63 メイン表示部
64 サブメニューバー
65 サブ表示部
66 アバター検索入力窓
67 タグ一覧
68 アバター一覧
69 見出し
70 対話一覧
71 メッセージ入力窓
72 アバターのアイコン
73 ユーザのアイコン
74 アバター作成ボタン
75 一覧
76 API
77 API作成ボタン
図1
図2
図3
図4
図5
図6
図7