特開 2024-120233 バッチデータ生成プログラム、バッチデータ生成装置、及びバッチデータ生成方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024120233

(43)【公開日】2024-09-05

(54)【発明の名称】バッチデータ生成プログラム、バッチデータ生成装置、及びバッチデータ生成方法

(51)【国際特許分類】

   G06F 9/50 20060101AFI20240829BHJP

【ＦＩ】

G06F9/50 150Z

【審査請求】未請求

【請求項の数】10

【出願形態】ＯＬ

(21)【出願番号】P 2023026890

(22)【出願日】2023-02-24

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】100121083

【弁理士】

【氏名又は名称】青木 宏義

(74)【代理人】

【識別番号】100138391

【弁理士】

【氏名又は名称】天田 昌行

(74)【代理人】

【識別番号】100074099

【弁理士】

【氏名又は名称】大菅 義之

(72)【発明者】

【氏名】岩川 明則

(57)【要約】

【課題】時系列に受け付けられる複数のデータから、情報処理の効率を向上させるバッチデータを生成する。
【解決手段】コンピュータは、時系列に受け付けられる複数のデータ各々のデータ長に基づいて、複数のデータ各々を複数のグループのうち何れかのグループに割り当てる。コンピュータは、複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する。
【選択図】図６

【特許請求の範囲】

【請求項1】

時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当て、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する、
処理をコンピュータに実行させるためのバッチデータ生成プログラム。

【請求項2】

前記複数のグループは、第１グループ及び第２グループを含み、
前記複数のデータ各々を複数のグループのうち何れかのグループに割り当てる処理は、
前記時系列に受け付けられる複数のデータのうち、閾値よりも短いデータ長を有するデータを前記第１グループに割り当てる処理と、
前記時系列に受け付けられる複数のデータのうち、前記閾値よりも長いデータ長を有するデータを前記第２グループに割り当てる処理と、
を含み、
前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が所定値に達したグループに属するデータに対して、パディング処理を行うことで、前記バッチデータを生成する処理を含み、
前記バッチデータ生成プログラムは、前記バッチデータに対する情報処理を前記コンピュータにさらに実行させることを特徴とする請求項１記載のバッチデータ生成プログラム。

【請求項3】

前記時系列に受け付けられる複数のデータのうち、所定期間内に受け付けられる複数のデータそれぞれのデータ長に関する統計情報に基づいて、前記閾値を決定する処理を、前記コンピュータにさらに実行させることを特徴とする請求項２記載のバッチデータ生成プログラム。

【請求項4】

前記パディング処理を行うことで前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が前記所定値に達していない一方のグループについて、前記一方のグループに割り当てられたデータが受け付けられてから経過した経過時間と、前記一方のグループに割り当てられたデータに対する許容遅延時間と、前記情報処理の推定処理時間と、の関係に基づいて、前記バッチデータを生成する処理を含むことを特徴とする請求項２記載のバッチデータ生成プログラム。

【請求項5】

前記経過時間と前記許容遅延時間と前記推定処理時間との関係に基づいて、前記バッチデータを生成する処理は、
前記経過時間が前記許容遅延時間と前記推定処理時間との差以上である場合、前記第１グループ及び前記第２グループのうち他方のグループに割り当てられたデータを、前記一方のグループに移動させることで、不足分のデータを補完する処理と、
補完された前記一方のグループに属するデータに対して、前記パディング処理を行うことで、前記バッチデータを生成する処理と、
を含むことを特徴とする請求項４記載のバッチデータ生成プログラム。

【請求項6】

前記第１グループに割り当てられた複数のデータの個数が前記所定値に達したことを契機として前記バッチデータが生成された回数と、前記第１グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数と、前記第２グループに割り当てられた複数のデータの個数が前記所定値に達したことを契機として前記バッチデータが生成された回数と、前記第２グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数と、に基づいて、前記閾値を決定する処理を、前記コンピュータにさらに実行させることを特徴とする請求項５記載のバッチデータ生成プログラム。

【請求項7】

前記第１グループ又は前記第２グループに割り当てられた複数のデータから前記バッチデータが生成された回数のうち、前記第１グループ又は前記第２グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数の比率に基づいて、前記所定値を変更する処理を、前記コンピュータにさらに実行させることを特徴とする請求項５記載のバッチデータ生成プログラム。

【請求項8】

前記第１グループ又は前記第２グループについて生成された前記バッチデータにおいて、前記パディング処理により付加されたデータの比率に基づいて、前記所定値を変更する処理を、前記コンピュータにさらに実行させることを特徴とする請求項５記載のバッチデータ生成プログラム。

【請求項9】

時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当てる割当部と、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する生成部と、
を備えることを特徴とするバッチデータ生成装置。

【請求項10】

時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当て、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する、
処理をコンピュータが実行することを特徴とするバッチデータ生成方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、バッチデータ生成技術に関する。

【背景技術】

【0002】

カスタマーサポートにおけるＱ＆Ａシステムのように、従来ではオペレータが処理していた業務においても、自然言語処理に対する深層学習の適用によって、処理を自動化することが可能になってきている。自然言語処理では、情報処理装置（コンピュータ）を用いてテキストデータに対する情報処理が行われる。

【0003】

テキストデータに対する情報処理に関して、音声認識結果を用いながら発話単位等の長さに依らない所定の限られた遅延時間で、認識結果を修正してテキストとして逐次出力するテキスト修正装置が知られている（例えば、特許文献１を参照）。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２０１２－１２８１８８号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

深層学習を適用したＱ＆Ａシステムのような自然言語処理システムでは、リアルタイムに発生する複数の問い合わせ文それぞれのテキストデータが、時系列に入力される。これらの複数のテキストデータをまとめてバッチデータを生成し、バッチデータを一括して処理する場合、パディング処理によって、システム全体としてのスループットが低下することがある。

【0006】

なお、かかる問題は、深層学習を適用した自然言語処理に限らず、時系列に受け付けられる複数のデータに対する様々な情報処理において生ずるものである。

【0007】

１つの側面において、本発明は、時系列に受け付けられる複数のデータから、情報処理の効率を向上させるバッチデータを生成することを目的とする。

【課題を解決するための手段】

【0008】

１つの案では、バッチデータ生成プログラムは、以下の処理をコンピュータに実行させる。

【0009】

コンピュータは、時系列に受け付けられる複数のデータ各々のデータ長に基づいて、複数のデータ各々を複数のグループのうち何れかのグループに割り当てる。コンピュータは、複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する。

【発明の効果】

【0010】

１つの側面によれば、時系列に受け付けられる複数のデータから、情報処理の効率を向上させるバッチデータを生成することができる。

【図面の簡単な説明】

【0011】

【図1】自然言語処理システムを示す図である。

【図2】バッチデータに対する並列処理を示す図である。

【図3】ソーティング処理を示す図である。

【図4】入力されるテキストデータに対する遅延時間を示す図である。

【図5】実施形態のバッチデータ生成装置の機能的構成図である。

【図6】バッチデータ生成処理のフローチャートである。

【図7】情報処理システムの構成図である。

【図8】推定装置の第１の機能的構成図である。

【図9】文章の長さの分布を示すヒストグラムである。

【図10】受け付け順に保存されたテキストデータを示す図である。

【図11】テキストデータに対する推論期間を示す図である。

【図12】データ長の分布を示すヒストグラムである。

【図13】推定処理のフローチャートである。

【図14】第１の閾値決定処理のフローチャートである。

【図15】遅延監視処理のフローチャートである。

【図16】第２の閾値決定処理のフローチャートである。

【図17】推定装置の第２の機能的構成図である。

【図18】パラメータ制御処理のフローチャートである。

【図19】バッチサイズ調整処理のフローチャートである。

【図20】情報処理装置のハードウェア構成図である。

【発明を実施するための形態】

【0012】

以下、図面を参照しながら、実施形態を詳細に説明する。

【0013】

図１は、カスタマーサポートにおける自然言語処理システムの例を示している。推定モデル１０１は、深層学習によって生成された学習済みの機械学習モデルである。推定器１０２は、チャット１１１又はメール１１２による顧客からの問い合わせ文に対して、推定モデル１０１を用いてリアルタイムで推論を行い、適切な回答１１３を推定する。そして、推定器１０２は、回答１１３を示すＦＡＱ（Frequently Asked Questions）又はＵＲＬ（Uniform Resource Locator）へ顧客を誘導する。

【0014】

このような自然言語処理システムでは、問い合わせを行うことに対する敷居の低さにより、今後、大量の問い合わせ文が入力されることが想定される。このため、大量の問い合わせ文のテキストデータを短時間で処理できるように、システム全体としてのスループットの向上が望まれる。

【0015】

自然言語処理システムにおけるスループットを向上させる技術としては、入力される文を１文ずつ処理する代わりに、複数の文をまとめてバッチデータを生成し、バッチデータを一括して処理する方法が一般的である。この場合、ＧＰＵ（Graphics Processing Unit）等の並列演算機能に優れた演算処理装置を用いて、バッチデータが並列に処理される。

【0016】

図２は、バッチデータに対する並列処理の例を示している。図２のバッチデータは、テキストデータ２０１－１～テキストデータ２０１－５を含む。各テキストデータ２０１－ｉ（ｉ＝１～５）は、問い合わせ文に対応する。

【0017】

テキストデータ２０１－１は、文末の“？”を含めて７個の単語からなる。したがって、テキストデータ２０１－１のデータ長は７である。テキストデータ２０１－２のデータ長は９であり、テキストデータ２０１－３のデータ長は４である。テキストデータ２０１－４のデータ長は６であり、テキストデータ２０１－５のデータ長は５である。

【0018】

ＧＰＵのメモリは矩形状に確保されるため、バッチデータのデータ長は、最も長いテキストデータ２０１－２のデータ長である９に合わせられる。テキストデータ２０１－１及びテキストデータ２０１－３～テキストデータ２０１－５については、パディング処理により不足分を適当なデータ“［ＰＡＤ］”で穴埋めすることで、データ長が９に揃えられる。

【0019】

テキストデータ２０１－１には２個の“［ＰＡＤ］”が付加されており、テキストデータ２０１－３には５個の“［ＰＡＤ］”が付加されている。テキストデータ２０１－４には３個の“［ＰＡＤ］”が付加されており、テキストデータ２０１－５には４個の“［ＰＡＤ］”が付加されている。

【0020】

ＧＰＵ２０２－ｉ（ｉ＝１～５）は、テキストデータ２０１－ｉを処理して処理結果２０３－ｉを生成する。これにより、テキストデータ２０１－１～テキストデータ２０１－５が並列に処理される。

【0021】

このような並列処理では、並列度を大きくすれば、サービス単体のスループットを向上させることができる。しかし、パディング処理は、テキストデータに適当なデータを付加することによって、ＧＰＵの演算時間と使用されるメモリ領域を含む計算資源を余分に消費するため、他のプロセスによる計算資源の利用機会を奪うことになる。このため、パディング処理は、システム全体としてのスループットを低下させる原因となる。

【0022】

パディング処理によって付加されるデータをなるべく少なくするためには、文が入力された順序でバッチデータを生成するのではなく、互いに類似するデータ長を有する複数の文を含むバッチデータを生成することが有効である。例えば、一定期間に入力される文をバッファリングし、バッファリングされた文をデータ長の順にソーティングすることで、互いに類似するデータ長を有する複数の文を含むバッチデータを生成することができる。

【0023】

図３は、このようなソーティング処理の例を示している。図３（ａ）は、バッファリングされたテキストデータを示している。この例では、テキストデータ３０１－１から順に入力され、テキストデータ３０１－１～テキストデータ３０１－１６がバッファリングされている。したがって、バッファリングされたテキストデータの個数は１６個である。

【0024】

バッチデータに含まれるテキストデータの個数を表すバッチサイズは４である。したがって、バッファリングされたテキストデータの個数は、バッチサイズの４倍である。

【0025】

仮に文が入力された順序でバッチデータを生成する場合、最初に、テキストデータ３０１－１～テキストデータ３０１－４を含むバッチデータが生成される。この場合、バッチデータのデータ長は、最も長いテキストデータ３０１－１のデータ長である１２に合わせられる。

【0026】

同様にして、テキストデータ３０１－５～テキストデータ３０１－８を含むバッチデータのデータ長は、テキストデータ３０１－６のデータ長である１６に合わせられる。テキストデータ３０１－９～テキストデータ３０１－１２を含むバッチデータのデータ長は、テキストデータ３０１－１０のデータ長である１６に合わせられる。テキストデータ３０１－１３～テキストデータ３０１－１６を含むバッチデータのデータ長は、テキストデータ３０１－１６のデータ長である１３に合わせられる。

【0027】

各テキストデータ３０１－ｉ（ｉ＝１～１６）において、斜線で示された矩形は、単語を表し、白の矩形は、パディング処理によって付加される“［ＰＡＤ］”を表す。４個のバッチデータに含まれる矩形の総数は２２８個であり、白の矩形の総数は９０個であるため、パディング率Ｒは、次式のように計算される。

【0028】

Ｒ＝９０／２２８＝０．３９ （１）

【0029】

パディング率Ｒは、バッチデータに含まれる全データに対する、パディング処理により付加されたデータの比率を表す。この場合、４個のテキストデータ３０１－ｉが入力されるまでバッチデータが生成されないため、バッチデータの生成に伴う遅延は、テキストデータ３０１－ｉの個数で表すと４になる。

【0030】

図３（ｂ）は、図３（ａ）のテキストデータ３０１－１～テキストデータ３０１－１６を、データ長が短い順にソーティングした結果を示している。

【0031】

ソーティングされた順序でバッチデータを生成する場合、テキストデータ３０１－１３、テキストデータ３０１－２、テキストデータ３０１－１１、及びテキストデータ３０１－１４を含むバッチデータが生成される。この場合、バッチデータのデータ長は、最も長いテキストデータ３０１－２、テキストデータ３０１－１１、及びテキストデータ３０１－１４のデータ長である５に合わせられる。

【0032】

テキストデータ３０１－５、テキストデータ３０１－１２、テキストデータ３０１－４、及びテキストデータ３０１－８を含むバッチデータのデータ長は、テキストデータ３０１－４及びテキストデータ３０１－８のデータ長である７に合わせられる。テキストデータ３０１－３、テキストデータ３０１－７、テキストデータ３０１－１５、及びテキストデータ３０１－９を含むバッチデータのデータ長は、テキストデータ３０１－９のデータ長である１０に合わせられる。

【0033】

テキストデータ３０１－１、テキストデータ３０１－１６、テキストデータ３０１－６、及びテキストデータ３０１－１０を含むバッチデータのデータ長は、テキストデータ３０１－６及びテキストデータ３０１－１０のデータ長である１６に合わせられる。

【0034】

４個のバッチデータに含まれる矩形の総数は１５２個であり、白の矩形の総数は１４個であるため、パディング率Ｒは、次式のように計算される。

【0035】

Ｒ＝１４／１５２＝０．０９ （２）

【0036】

この場合、１６個のテキストデータ３０１－ｉが入力されるまでバッチデータが生成されないため、バッチデータの生成に伴う遅延は、テキストデータ３０１－ｉの個数で表すと１６になる。

【0037】

したがって、図３（ｂ）のバッチデータ生成処理によれば、図３（ａ）のバッチデータ生成処理よりも遅延が増加するが、パディング率は約１／４に減少する。これにより、計算資源の余分な消費を抑制することができるため、システム全体としてのスループットが向上する。

【0038】

しかしながら、カスタマーサポートにおけるＱ＆Ａシステムのように、リアルタイム性の高い自然言語処理システムの場合、互いに類似するデータ長を有する複数の文がバッファリングされるまでに時間がかかる。さらに、バッファリングされる文の個数に比例して推論時間も増加するため、顧客に回答が提示されるまでの遅延時間が長くなる。

【0039】

図４は、入力されるテキストデータに対する遅延時間の例を示している。受信期間４０１－１～受信期間４０１－４各々は、バッチサイズに相当する個数のテキストデータが入力される期間を表し、受信期間４０１－１～受信期間４０１－４を併せた期間は、バッファリング期間を表す。推論期間４０２－１～推論期間４０２－４各々は、バッチサイズに相当する個数のテキストデータに対する推論が行われる期間を表す。

【0040】

この場合、受信期間４０１－４が終了した時点で、バッファリングされたテキストデータに対するソーティング処理が行われて４個のバッチデータが生成され、推論が開始される。したがって、受信期間４０１－１において入力されたテキストデータに対する推論が、推論期間４０２－４において行われた場合、受信期間４０１－１～受信期間４０１－４及び推論期間４０２－１～推論期間４０２－４を併せた期間が最大遅延時間になる。

【0041】

このように、バッファリングされるテキストデータの個数が増加するとともに、推論結果が得られるまでの遅延時間が長くなる。

【0042】

図５は、実施形態のバッチデータ生成装置の機能的構成例を示している。図５のバッチデータ生成装置５０１は、割当部５１１及び生成部５１２を含む。

【0043】

図６は、図５のバッチデータ生成装置５０１が行うバッチデータ生成処理の例を示すフローチャートである。まず、割当部５１１は、時系列に受け付けられる複数のデータ各々のデータ長に基づいて、複数のデータ各々を複数のグループのうち何れかのグループに割り当てる（ステップ６０１）。次に、生成部５１２は、複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する（ステップ６０２）。

【0044】

図５のバッチデータ生成装置５０１によれば、時系列に受け付けられる複数のデータから、情報処理の効率を向上させるバッチデータを生成することができる。

【0045】

図７は、図５のバッチデータ生成装置５０１を含む情報処理システムの構成図である。図７の情報処理システムは、端末装置７０１－１～端末装置７０１－Ｎ（Ｎは２以上の整数）及び推定装置７０２を含む。推定装置７０２は、図５のバッチデータ生成装置５０１に対応する。

【0046】

端末装置７０１－ｉ（ｉ＝１～Ｎ）は、ｉ番目の顧客の情報処理装置であり、通信ネットワーク７０３を介して、推定装置７０２と通信する。推定装置７０２は、例えば、カスタマーサポートにおけるＱ＆Ａシステムのような自然言語処理システムである。通信ネットワーク７０３は、例えば、ＷＡＮ（Wide Area Network）又はＬＡＮ（Local Area Network）である。

【0047】

端末装置７０１－ｉは、例えば、チャット又はメールによる問い合わせ文を推定装置７０２へ送信する。推定装置７０２は、受信した問い合わせ文に対して、深層学習を適用した自然言語処理を行うことで、適切な回答を推定し、推定された回答又はその回答が掲載されているＷｅｂサイトのＵＲＬを、端末装置７０１－ｉへ送信する。

【0048】

図８は、図７の推定装置７０２の第１の機能的構成図である。図８の推定装置７０２は、決定部８１１、割当部８１２、生成部８１３、推定部８１４、通信部８１５、及び記憶部８１６を含む。割当部８１２及び生成部８１３は、図５の割当部５１１及び生成部５１２にそれぞれ対応する。

【0049】

記憶部８１６は、推定モデル８２１を記憶する。推定モデル８２１は、訓練データを機械学習モデルに与えて機械学習を行うことで生成された、学習済みの機械学習モデルである。推定モデル８２１は、例えば、ニューラルネットワーク、ロジスティック回帰モデル、サポートベクタマシン、又は決定木である。推定モデル８２１がニューラルネットワークである場合、機械学習は深層学習であってもよい。

【0050】

機械学習に用いられる訓練データは、複数のテキストデータと、各テキストデータに対する回答情報とを含む。回答情報は、例えば、テキストデータが示す問い合わせへの回答、又はその回答が掲載されているＷｅｂサイトのＵＲＬである。推定モデル８２１は、入力されたテキストデータから、そのテキストデータに対する回答情報を推定して出力する。

【0051】

記憶部８１６は、さらにバッファ８２２－１及びバッファ８２２－２を含む。バッファ８２２－１は、第１グループのテキストデータを記憶する記憶領域であり、バッファ８２２－２は、第２グループのテキストデータを記憶する記憶領域である。第１グループのテキストデータは、閾値Ｘよりも短いデータ長を有し、第２グループのテキストデータは、閾値Ｘ以上のデータ長を有する。

【0052】

通信部８１５は、通信ネットワーク７０３を介して、各端末装置７０１－ｉと通信する。割当部８１２は、通信部８１５を介して、端末装置７０１－１～端末装置７０１－Ｎから時系列に送信される複数の問い合わせ文それぞれのテキストデータを受信し、受信したテキストデータを受け付ける。複数の問い合わせ文それぞれのテキストデータは、時系列に受け付けられる複数のデータに対応する。

【0053】

割当部８１２は、所定期間内に時系列に受け付けられる各テキストデータのデータ長を、統計情報８２３として記憶部８１６に格納する。したがって、統計情報８２３には、所定期間内に受け付けられた複数のテキストデータそれぞれのデータ長が記録される。

【0054】

割当部８１２は、受け付けられた各問い合わせ文のテキストデータのデータ長を閾値Ｘと比較し、閾値Ｘよりも短いデータ長を有するテキストデータを第１グループに割り当てて、バッファ８２２－１に格納する。また、割当部８１２は、閾値Ｘ以上のデータ長を有するテキストデータを第２グループに割り当てて、バッファ８２２－２に格納する。

【0055】

データ長の閾値Ｘを用いて、受け付けられたテキストデータを第１グループ又は第２グループに割り当てることで、テキストデータをバッファ８２２－１又はバッファ８２２－２に容易に振り分けることができる。

【0056】

生成部８１３は、何れかのバッファ８２２－ｋ（ｋ＝１，２）内のグループｋに属するテキストデータの個数がバッチサイズＢに達した場合、そのバッファ８２２－ｋが充足されたと判定する。この場合、生成部８１３は、バッファ８２２－ｋ内のＢ個のテキストデータに対してパディング処理を行うことで、バッファ８２２－ｋ内にバッチデータを生成する。バッチデータのデータ長は、Ｂ個のテキストデータのうち最も長いテキストデータのデータ長に合わせられる。

【0057】

バッチサイズＢは、例えば、４以上の整数である。バッチサイズＢは、３２、６４、１２８、２５６、５１２等の整数であってもよい。バッチサイズＢは、所定値の一例である。

【0058】

生成部８１３は、パディング処理において、最も長いテキストデータのデータ長と他のテキストデータのデータ長との差分に相当する適当なデータを、他のテキストデータに付加することで、不足分を穴埋めして、Ｂ個のテキストデータのデータ長を揃える。

【0059】

グループ２には、グループ１よりも長いデータ長を有するテキストデータが割り当てられるため、バッファ８２２－２内のバッチデータのデータ長は、バッファ８２２－１内のバッチデータのデータ長よりも長くなる。したがって、グループ毎に異なるデータ長を有するバッチデータが生成される。

【0060】

推定部８１４は、バッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を推定し、記憶部８１６に格納する。推定部８１４は、自然言語処理において、推定モデル８２１を用いてテキストデータに対する推論を行うことで、回答情報８２４を生成する。自然言語処理は、バッチデータに対する情報処理の一例であり、推定部８１４は、情報処理部の一例である。

【0061】

何れかのバッファ８２２－ｋが充足された時点でパディング処理を行ってバッチデータを生成することで、推定部８１４は、他方のバッファ８２２－ｋが充足されるまで待つことなく、直ちに推論を開始することができる。

【0062】

推定部８１４は、例えば、複数のテキストデータに対する並列処理を行う複数の演算処理装置を含む。演算処理装置は、ＧＰＵであってもよく、ＣＰＵ（Central Processing Unit）であってもよい。

【0063】

推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した端末装置７０１－ｉへ送信する。これにより、端末装置７０１－ｉは、送信したテキストデータが示す問い合わせへの回答を取得することができる。

【0064】

チャット又はメールによる問い合わせ文等の文章の長さを分析すると、比較的短い文章が多く、文章が長くなるにつれて発生頻度は低くなる、という統計的な特徴が認められる。

【0065】

図９は、英語で記述された文章の長さの分布を示すヒストグラムの例を示している。横軸は、文章に含まれる単語の個数を表し、縦軸は、文章の発生頻度を表す。この例では、単語数が２０個程度の文章の発生頻度が最大となっており、単語数が２０個よりも多くなるにつれて発生頻度が小さくなる傾向が認められる。単語数が２０個よりも少ない文章の場合、互いに類似する長さの文章の発生頻度が高く、単語数が２０個よりも多い文章の場合、互いに類似する長さの文章の発生頻度が低い。

【0066】

したがって、受け付けられた問い合わせ文のテキストデータを、受け付け順に保存してバッチデータを生成した場合、まれに発生する長いテキストデータに合わせてバッチデータのデータ長が設定されてしまう。その結果、パディング処理によって付加されるデータが増加して、計算資源が余分に消費されるため、自然言語処理の効率が低下する。

【0067】

図１０は、受け付け順に保存されたテキストデータの例を示している。図１０（ａ）は、短いテキストデータの例を示している。各テキストデータ１００１－ｉ（ｉ＝１～４）において、斜線で示された矩形は、単語を表し、白の矩形は、パディング処理によって付加される“［ＰＡＤ］”を表す。

【0068】

テキストデータ１００１－１のデータ長は４であり、テキストデータ１００１－２～テキストデータ１００１－４のデータ長は５である。この場合、生成されるバッチデータのデータ長は５であり、付加される“［ＰＡＤ］”の個数は１個である。

【0069】

図１０（ｂ）は、短いテキストデータ及び長いテキストデータの例を示している。テキストデータ１００２－１のデータ長は７であり、テキストデータ１００２－２のデータ長は６であり、テキストデータ１００２－３のデータ長は１６であり、テキストデータ１００２－４のデータ長は９である。この場合、生成されるバッチデータのデータ長は１６であり、付加される“［ＰＡＤ］”の個数は２６個である。

【0070】

したがって、図１０（ｂ）のテキストデータ１００２－１～テキストデータ１００２－４を含むバッチデータを生成した場合、多くの計算資源が余分に消費されるため、自然言語処理の効率が低下する。

【0071】

これに対して、図８の推定装置７０２では、受け付けられた問い合わせ文のテキストデータが、データ長に応じてバッファ８２２－１又はバッファ８２２－２に振り分けられ、バッファ８２２－ｋ毎にバッチデータが生成される。これにより、各バッファ８２２－ｋには、互いに類似するデータ長を有するテキストデータが蓄積されるため、パディング処理によって付加される“［ＰＡＤ］”の個数が削減され、自然言語処理の効率が向上する。

【0072】

図１１は、バッファ８２２－１及びバッファ８２２－２内のテキストデータに対する推論期間の例を示している。推論期間１１０１－１～推論期間１１０１－６各々は、バッファ８２２－１内のＢ個のテキストデータに対する推論が行われる期間を表す。推論期間１１０２－１及び推論期間１１０２－２各々は、バッファ８２２－２内のＢ個のテキストデータに対する推論が行われる期間を表す。

【0073】

データ長が短く、かつ、発生頻度が高いテキストデータの方が速く蓄積されるため、バッファ８２２－１内のテキストデータの個数が先にバッチサイズＢに達し、それらのテキストデータに対する推論が先行して行われる。一方、データ長が長く、かつ、発生頻度が低いテキストデータはゆっくり蓄積されるため、バッファ８２２－２内のテキストデータに対する推論は、別途まとめて行われる。

【0074】

このような自然言語処理によれば、図４に示したバッファリング期間の経過を待つことなく、バッファ８２２－１内にＢ個のテキストデータが蓄積された時点で推論を開始することができるため、遅延時間が削減される。

【0075】

決定部８１１は、テキストデータのデータ長に対する閾値Ｘを、統計情報８２３に基づいて決定し、決定された閾値Ｘを割当部８１２へ出力する。決定部８１１は、例えば、統計情報８２３から、所定期間内に受け付けられた各テキストデータのデータ長のヒストグラムを生成し、ヒストグラムの特徴から閾値Ｘを決定する。

【0076】

図１２は、所定期間内に受け付けられた各テキストデータのデータ長の分布を示すヒストグラムの例を示している。図１２のヒストグラムは、図９のヒストグラムと同様である。横軸は、テキストデータのデータ長を表し、縦軸は、テキストデータの発生頻度を表す。この例では、テキストデータのデータ長として、テキストデータに含まれる単語の個数が用いられている。

【0077】

決定部８１１は、発生頻度の最大値Ｍと、０よりも大きく、かつ、１よりも小さい実数ａとを用いて、ヒストグラムから閾値Ｘを決定する。決定部８１１は、最大値Ｍからデータ長の昇順に発生頻度をチェックし、最初に見つかった発生頻度ａＭに対応するデータ長を閾値Ｘに決定する。例えば、ａ＝０．５の場合、Ｍに対応するデータ長よりも長いデータ長のうち、発生頻度０．５Ｍに対応するデータ長は、約３５である。したがって、閾値Ｘは約３５となる。

【0078】

統計情報８２３に基づいて閾値Ｘを決定することで、受け付けられたテキストデータを適切なバッファ８２２－ｋに振り分けることが可能になる。

【0079】

ところで、テキストデータが受け付けられて何れかのバッファ８２２－ｋに格納された後、バッファ８２２－ｋ内のテキストデータの個数がバッチサイズＢに達しない間に時間が経過して、遅延時間が増加することも想定される。

【0080】

そこで、生成部８１３は、バッファ８２２－ｋ内のテキストデータに対する許容遅延時間Ｌを設定する。許容遅延時間Ｌは、例えば、推定装置７０２を運用するサービス提供者によって、ユーザビリティを考慮して決定される。許容遅延時間Ｌは、数分～数十分の範囲の時間であってもよい。

【0081】

バッチサイズＢは、例えば、許容遅延時間Ｌ内に発生する問い合わせ文の個数に基づいて決定される。許容遅延時間Ｌ内に発生する複数の問い合わせ文それぞれのテキストデータが、バッファ８２２－１又はバッファ８２２－２に振り分けられることから、バッチサイズＢは、発生する問い合わせ文の個数の数分の１程度に設定されることが好ましい。例えば、発生する問い合わせ文の個数が１２００個である場合、１２００の約１／５に相当する２５６を、バッチサイズＢとして用いてもよい。

【0082】

生成部８１３は、テキストデータの個数がバッチサイズＢに達していないバッファ８２２－ｋを処理対象として、処理対象のバッファ８２２－ｋ内の各テキストデータが受け付けられてから経過した経過時間を求める。

【0083】

そして、生成部８１３は、テキストデータの個数がバッチサイズＢに達するまで待つことなく、各テキストデータの経過時間と、許容遅延時間Ｌと、推定部８１４が行う自然言語処理の推定処理時間Ｔとの間の関係に基づいて、バッチデータを生成する。推定処理時間Ｔは、数分～数十分の範囲の時間であってもよい。ただし、許容遅延時間Ｌは、推定処理時間Ｔよりも長い時間に設定される。

【0084】

例えば、Ｂ個のダミーテキストデータに対する自然言語処理を推定部８１４に行わせ、回答情報８２４が生成されるまでにかかった時間を測定することで、推定処理時間Ｔを決定することができる。

【0085】

テキストデータの経過時間と許容遅延時間Ｌと推定処理時間Ｔとの間の関係に基づいてバッチデータを生成することで、受け付けられてから長時間が経過したテキストデータに対する自然言語処理を、バッファ８２２－ｋが充足される前に行うことが可能になる。

【0086】

生成部８１３は、例えば、テキストデータの経過時間が許容遅延時間Ｌと推定処理時間Ｔとの差であるＬ－Ｔ以上である場合、そのテキストデータのタイムアウトが発生したと判定する。この場合、生成部８１３は、他方のバッファ８２２－ｋ内のテキストデータを処理対象のバッファ８２２－ｋに移動させることで、不足分のテキストデータを補完する。そして、生成部８１３は、補完されたバッファ８２２－ｋ内のテキストデータに対してパディング処理を行うことで、バッチデータを生成する。

【0087】

これにより、受け付けられてからＬ－Ｔ以上の時間が経過したテキストデータに対して、直ちに自然言語処理が行われるため、回答情報８２４が返信されるまでの遅延時間を許容遅延時間Ｌ程度に抑えることができる。

【0088】

図１３は、図８の推定装置７０２が行う推定処理の例を示すフローチャートである。バッファＤ１及びバッファＤ２は、それぞれ、バッファ８２２－１及びバッファ８２２－２を表す。

【0089】

まず、割当部８１２は、要求元の端末装置７０１－ｉから受信した問い合わせ文のテキストデータを受け付け、そのテキストデータに、受付時刻を示すタイムスタンプを付加する（ステップ１３０１）。そして、割当部８１２は、受け付けられたテキストデータのデータ長を、統計情報８２３に記録する（ステップ１３０２）。

【0090】

次に、割当部８１２は、受け付けられたテキストデータのデータ長を閾値Ｘと比較し（ステップ１３０３）、データ長がＸよりも短い場合（ステップ１３０３，ＹＥＳ）、そのテキストデータをバッファＤ１に格納する（ステップ１３０４）。

【0091】

次に、生成部８１３は、バッファＤ１内のテキストデータの個数をバッチサイズＢと比較する（ステップ１３０５）。テキストデータの個数がＢに達した場合（ステップ１３０５，ＹＥＳ）、生成部８１３は、バッファＤ１内のＢ個のテキストデータに対してパディング処理を行うことで、バッチデータを生成する（ステップ１３０６）。

【0092】

次に、推定部８１４は、バッファＤ１内のバッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を生成する（ステップ１３０７）。そして、推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した要求元の端末装置７０１－ｉへ送信する。

【0093】

次に、推定部８１４は、バッファＤ１をクリアすることで、バッファＤ１内のバッチデータを消去する（ステップ１３０８）。そして、推定装置７０２は、次のテキストデータについて、ステップ１３０１以降の処理を繰り返す。テキストデータの個数がＢ未満である場合（ステップ１３０５，ＮＯ）、推定装置７０２は、次のテキストデータについて、ステップ１３０１以降の処理を繰り返す。

【0094】

受け付けられたテキストデータのデータ長がＸ以上である場合（ステップ１３０３，ＮＯ）、生成部８１３は、そのテキストデータをバッファＤ２に格納する（ステップ１３０９）。

【0095】

次に、生成部８１３は、バッファＤ２内のテキストデータの個数をバッチサイズＢと比較する（ステップ１３１０）。テキストデータの個数がＢに達した場合（ステップ１３１０，ＹＥＳ）、生成部８１３は、バッファＤ２内のＢ個のテキストデータに対してパディング処理を行うことで、バッチデータを生成する（ステップ１３１１）。

【0096】

次に、推定部８１４は、バッファＤ２内のバッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を生成する（ステップ１３１２）。そして、推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した要求元の端末装置７０１－ｉへ送信する。

【0097】

次に、推定部８１４は、バッファＤ２をクリアすることで、バッファＤ２内のバッチデータを消去する（ステップ１３１３）。そして、推定装置７０２は、次のテキストデータについて、ステップ１３０１以降の処理を繰り返す。テキストデータの個数がＢ未満である場合（ステップ１３１０，ＮＯ）、推定装置７０２は、次のテキストデータについて、ステップ１３０１以降の処理を繰り返す。

【0098】

図１４は、図８の推定装置７０２が行う第１の閾値決定処理の例を示すフローチャートである。図１４の閾値決定処理は、所定期間毎に起動される。所定期間としては、例えば、許容遅延時間Ｌと所定の繰り返し回数Ｗの積であるＷＬが用いられる。Ｗは、数回から数十回の範囲の整数であってもよい。

【0099】

まず、決定部８１１は、統計情報８２３から、直前の所定期間内に受け付けられた各テキストデータのデータ長のヒストグラムを生成する（ステップ１４０１）。そして、決定部８１１は、発生頻度の最大値Ｍからデータ長の昇順に発生頻度をチェックし、最初に見つかった発生頻度ａＭに対応するデータ長を閾値Ｘに決定する（ステップ１４０２）。

【0100】

次に、決定部８１１は、統計情報８２３に記録されているデータ長の総数をＷで除算することで、許容遅延時間Ｌ内に受け付けられたテキストデータの個数の平均値Ｙを求める（ステップ１４０３）。そして、決定部８１１は、バッチサイズＢ、許容遅延時間Ｌ、及び推定処理時間Ｔを用いて、ＹをＬＢ／Ｔと比較する（ステップ１４０４）。

【0101】

Ｂ／Ｔは、推定部８１４によって単位時間当たりに処理されるテキストデータの個数を表し、ＬＢ／Ｔは、許容遅延時間Ｌ内に処理されるテキストデータの個数を表す。ＹがＬＢ／Ｔよりも小さい場合（ステップ１４０４，ＹＥＳ）、決定部８１１は、テキストデータの処理速度がテキストデータの入力速度よりも速いと判定し、Ｙを最小バッチサイズＢ０と比較する（ステップ１４０５）。Ｂ０は、例えば、１以上の整数を４に乗算して得られる値であってもよい。

【0102】

ＹがＢ０よりも大きい場合（ステップ１４０５，ＹＥＳ）、決定部８１１は、統計情報８２３をクリアすることで、統計情報８２３に記録されたデータ長を消去する（ステップ１４０６）。

【0103】

ＹがＬＢ／Ｔ以上である場合（ステップ１４０４，ＮＯ）、決定部８１１は、テキストデータの入力速度がテキストデータの処理速度以上であると判定し、処理能力超過を示す警告情報を、管理者に対して出力する（ステップ１４０８）。そして、推定装置７０２は、推定処理を停止して（ステップ１４０９）、ステップ１４０６の処理を行う。

【0104】

処理能力超過を示す警告情報が出力された場合、管理者は、テキストデータの処理速度を向上させるか、又はテキストデータの入力速度を低下させる対策を取る。

【0105】

例えば、推定部８１４がＢ個の演算処理装置を含んでいる場合、管理者は、各演算処理装置のハードウェアをより高速なものに交換することで、処理速度を向上させることができる。推定部８１４がＢ個未満の演算処理装置を含んでいる場合、管理者は、演算処理装置の個数を増やすことで、処理速度を向上させることができる。管理者は、推定部８１４の入力側にロードバランサを追加することで、入力速度を低下させることもできる。

【0106】

管理者は、バッチサイズＢを増やすことで、処理速度を向上させることもできる。しかし、図８の推定装置７０２では、先にＢ個のテキストデータが蓄積されたバッファ８２２－ｋに対する推論を先行して行うことで、遅延時間が削減される。このため、許容遅延時間Ｌ内に受け付けられるテキストデータの個数がバッチサイズＢの数倍以上でなければ、遅延時間を十分に削減することは難しい。したがって、最初から大きなバッチサイズＢを用いることは望ましくない。

【0107】

ＹがＢ０以下である場合（ステップ１４０５，ＮＯ）、決定部８１１は、計算資源の利用効率低下を示す警告情報を、管理者に対して出力する（ステップ１４０７）。そして、推定装置７０２は、ステップ１４０６の処理を行う。計算資源の利用効率低下を示す警告情報は、テキストデータの入力速度が低過ぎて、自然言語処理の効率の向上及び遅延時間の削減が見込めないことを示す。

【0108】

図１４の閾値決定処理が最初に起動されるまでは、閾値Ｘが初期値に設定され、閾値決定処理が起動される度に、統計情報８２３に基づいて閾値Ｘが更新される。初期値は、０又は最大データ長である。

【0109】

最大データ長は、入力されるすべてのテキストデータのデータ長よりも大きな値を表す。最大データ長は、実験によって決定されてもよく、バッファ８２２－ｋの記憶容量に基づいて決定されてもよい。

【0110】

閾値Ｘが０に設定された場合、受け付けられたテキストデータはすべてバッファ８２２－２に振り分けられ、受け付け順にＢ個のテキストデータからバッチデータが生成される。閾値Ｘが最大データ長に設定された場合、受け付けられたテキストデータはすべてバッファ８２２－１に振り分けられ、受け付け順にＢ個のテキストデータからバッチデータが生成される。

【0111】

図１５は、図８の推定装置７０２が行う遅延監視処理の例を示すフローチャートである。図１５の遅延監視処理は、所定時間Ｐをカウントするタイマによって、所定時間Ｐ毎に起動される。所定時間Ｐは、１秒～数秒の範囲の時間であってもよい。

【0112】

まず、生成部８１３は、テキストデータの個数がバッチサイズＢに達していないバッファ８２２－ｋを処理対象として、処理対象のバッファ８２２－ｋ内の各テキストデータが受け付けられてから経過した経過時間を求める（ステップ１５０１）。生成部８１３は、テキストデータに付加されたタイムスタンプが示す時刻を、現在時刻から減算することで、経過時間を求めることができる。

【0113】

次に、生成部８１３は、各テキストデータの経過時間を、許容遅延時間Ｌと推定処理時間Ｔとの差であるＬ－Ｔと比較する（ステップ１５０２）。

【0114】

何れかのテキストデータの経過時間がＬ－Ｔ以上である場合（ステップ１５０２，ＹＥＳ）、生成部８１３は、処理対象のバッファ８２２－ｋがバッファＤ１であるか否かをチェックする（ステップ１５０３）。

【0115】

処理対象のバッファ８２２－ｋがバッファＤ１である場合（ステップ１５０３，ＹＥＳ）、生成部８１３は、バッファＤ１及びバッファＤ２内のテキストデータの総数をバッチサイズＢと比較する（ステップ１５０４）。

【0116】

テキストデータの総数がＢよりも多い場合（ステップ１５０４，ＹＥＳ）、生成部８１３は、バッファＤ２内のテキストデータのうち、経過時間がＬ－Ｔ未満のテキストデータを、データ長が短い順に不足分だけ選択する。不足分は、ＢとバッファＤ１内のテキストデータの個数との差を表す。そして、生成部８１３は、選択されたテキストデータをバッファＤ１に移動させる（ステップ１５０５）。

【0117】

次に、生成部８１３は、バッファＤ１内のテキストデータに対してパディング処理を行うことで、バッチデータを生成する（ステップ１５０６）。

【0118】

次に、推定部８１４は、バッファＤ１内のバッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を生成する（ステップ１５０７）。そして、推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した要求元の端末装置７０１－ｉへ送信する。

【0119】

次に、推定部８１４は、バッファＤ１をクリアすることで、バッファＤ１内のバッチデータを消去する（ステップ１５０８）。

【0120】

テキストデータの総数がＢ以下である場合（ステップ１５０４，ＮＯ）、生成部８１３は、バッファＤ２内のすべてのテキストデータをバッファＤ１に移動させる（ステップ１５０９）。そして、生成部８１３は、バッファＤ１のバッチサイズを、一時的に、Ｂからテキストデータの総数に変更し（ステップ１５１０）、推定装置７０２は、ステップ１５０６以降の処理を行う。

【0121】

処理対象のバッファ８２２－ｋがバッファＤ２である場合（ステップ１５０３，ＮＯ）、生成部８１３は、バッファＤ１及びバッファＤ２内のテキストデータの総数をバッチサイズＢと比較する（ステップ１５１１）。

【0122】

テキストデータの総数がＢよりも多い場合（ステップ１５１１，ＹＥＳ）、生成部８１３は、バッファＤ１内のテキストデータのうち、経過時間がＬ－Ｔ未満のテキストデータを、データ長が長い順に不足分だけ選択する。不足分は、ＢとバッファＤ２内のテキストデータの個数との差を表す。そして、生成部８１３は、選択されたテキストデータをバッファＤ２に移動させる（ステップ１５１２）。

【0123】

次に、生成部８１３は、バッファＤ２内のテキストデータに対してパディング処理を行うことで、バッチデータを生成する（ステップ１５１３）。

【0124】

次に、推定部８１４は、バッファＤ２内のバッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を生成する（ステップ１５１４）。そして、推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した要求元の端末装置７０１－ｉへ送信する。

【0125】

次に、推定部８１４は、バッファＤ２をクリアすることで、バッファＤ２内のバッチデータを消去する（ステップ１５１５）。

【0126】

テキストデータの総数がＢ以下である場合（ステップ１５１１，ＮＯ）、生成部８１３は、バッファＤ１内のすべてのテキストデータをバッファＤ２に移動させる（ステップ１５１６）。そして、生成部８１３は、バッファＤ２のバッチサイズを、一時的に、Ｂからテキストデータの総数に変更し（ステップ１５１７）、推定装置７０２は、ステップ１５１３以降の処理を行う。

【0127】

図１６は、図８の推定装置７０２が行う第２の閾値決定処理の例を示すフローチャートである。図１６の閾値決定処理は、例えば、図１４の閾値決定処理の代わりに、所定期間毎に起動される。

【0128】

まず、決定部８１１は、更新後の閾値を表す変数ＸＮに現在の閾値Ｘを設定する（ステップ１６０１）。そして、決定部８１１は、次式により、タイムアウト率ＲＴ１及びタイムアウト率ＲＴ２を計算する（ステップ１６０２）。

【0129】

ＲＴ１＝ＥＴ１／（ＥＴ１＋ＥＦ１） （１１）
ＲＴ２＝ＥＴ２／（ＥＴ２＋ＥＦ２） （１２）

【0130】

ＥＴ１は、バッファ８２２－１内のテキストデータのタイムアウトが発生したことを契機として、バッファ８２２－１内のテキストデータからバッチデータが生成された回数を表す。ＥＦ１は、バッファ８２２－１が充足されたことを契機として、バッファ８２２－１内のテキストデータからバッチデータが生成された回数を表す。図１３の推定処理が開始されたときのＥＴ１及びＥＦ１の初期値は、０である。

【0131】

ＥＴ２は、バッファ８２２－２内のテキストデータのタイムアウトが発生したことを契機として、バッファ８２２－２内のテキストデータからバッチデータが生成された回数を表す。ＥＦ２は、バッファ８２２－２が充足されたことを契機として、バッファ８２２－２内のテキストデータからバッチデータが生成された回数を表す。図１３の推定処理が開始されたときのＥＴ２及びＥＦ２の初期値は、０である。

【0132】

次に、決定部８１１は、ＲＴ１を閾値Ｆと比較する（ステップ１６０３）。ＲＴ１がＦよりも大きい場合（ステップ１６０３，ＹＥＳ）、決定部８１１は、ＲＴ２をＦと比較する（ステップ１６０４）。ＲＴ２がＦよりも大きい場合（ステップ１６０４，ＹＥＳ）、決定部８１１は、ＸにＸＮを設定する（ステップ１６０５）。この場合、閾値Ｘは、閾値決定処理の前後で変化しない。

【0133】

ＲＴ２がＦ以下である場合（ステップ１６０４，ＮＯ）、決定部８１１は、Ｘと変更量ΔＸの和であるＸ＋ΔＸを、上限値Ｘｍａｘと比較する（ステップ１６０６）。Ｘ＋ΔＸがＸｍａｘ以下である場合（ステップ１６０６，ＹＥＳ）、決定部８１１は、ＸＮをＸ＋ΔＸに変更して（ステップ１６０７）、ステップ１６０５の処理を行う。

【0134】

この場合、閾値ＸがＸ＋ΔＸに変更されるため、バッファ８２２－１に振り分けられるテキストデータが増加し、バッファ８２２－１におけるタイムアウトの発生を抑えることができる。

【0135】

Ｘ＋ΔＸがＸｍａｘよりも大きい場合（ステップ１６０６，ＮＯ）、決定部８１１は、ステップ１６０５の処理を行う。この場合、閾値Ｘは、閾値決定処理の前後で変化しない。

【0136】

ＲＴ１がＦ以下である場合（ステップ１６０３，ＮＯ）、決定部８１１は、ＲＴ２をＦと比較する（ステップ１６０８）。ＲＴ２がＦよりも大きい場合（ステップ１６０８，ＹＥＳ）、決定部８１１は、Ｘと変更量ΔＸの差であるＸ－ΔＸを、下限値Ｘｍｉｎと比較する（ステップ１６０９）。Ｘ－ΔＸがＸｍｉｎ以上である場合（ステップ１６０９，ＹＥＳ）、決定部８１１は、ＸＮをＸ－ΔＸに変更して（ステップ１６１０）、ステップ１６０５の処理を行う。

【0137】

この場合、閾値ＸがＸ－ΔＸに変更されるため、バッファ８２２－２に振り分けられるテキストデータが増加し、バッファ８２２－２におけるタイムアウトの発生を抑えることができる。

【0138】

ＲＴ２がＦ以下である場合（ステップ１６０８，ＮＯ）、又はＸ－ΔＸがＸｍｉｎよりも小さい場合（ステップ１６０９，ＮＯ）、決定部８１１は、ステップ１６０５の処理を行う。この場合、閾値Ｘは、閾値決定処理の前後で変化しない。

【0139】

図１７は、図７の推定装置７０２の第２の機能的構成図である。図１７の推定装置７０２は、図８の推定装置７０２に調整部１７１１を追加した構成を有する。決定部８１１、割当部８１２、生成部８１３、及び推定部８１４は、図８の推定装置７０２と同様の処理を行う。

【0140】

バッチサイズＢは、必ずしも固定されている必要はなく、推定処理が行われている間に動的に変更することも可能である。調整部１７１１は、バッチサイズ調整処理を行うことで、バッチサイズＢを動的に変更する。

【0141】

端末装置７０１－１～端末装置７０１－Ｎから受信する問い合わせ文の受信間隔、又は受信した問い合わせ文のデータ長に偏りがある場合、バッファ８２２－ｋ内のテキストデータのタイムアウトが発生しやすくなる。タイムアウトが発生した場合、図１５の遅延監視処理によって、他方のバッファ８２２－ｋから移動させたテキストデータを含めてバッチデータが生成されるため、パディング処理により付加されるデータの個数が多くなる。

【0142】

そこで、調整部１７１１は、タイムアウト率ＲＴ又はパディング率ＲＰのうち、少なくとも一方に基づいて、バッチサイズＢを調整する。

【0143】

タイムアウト率ＲＴは、バッファ８２２－１又はバッファ８２２－２内のテキストデータからバッチデータが生成された回数のうち、テキストデータのタイムアウトが発生したことを契機としてバッチデータが生成された回数の比率を表す。パディング率ＲＰは、バッファ８２２－１又はバッファ８２２－２内のテキストデータから生成されたすべてのバッチデータにおいて、パディング処理により付加されたデータの比率を表す。

【0144】

調整部１７１１は、例えば、タイムアウト率ＲＴ又はパディング率ＲＰのうち、少なくとも一方が閾値よりも大きくなった場合、バッチサイズＢを小さくする。バッチサイズＢを小さくすることで、タイムアウトが発生する確率が低くなり、パディング率ＲＰが減少するため、自然言語処理の効率が向上する。

【0145】

図１８は、図１７の推定装置７０２が行うパラメータ制御処理の例を示すフローチャートである。図１８のパラメータ制御処理は、図１３のステップ１３０７及びステップ１３１２と、図１５のステップ１５０７及びステップ１５１４とにおいて行われる。

【0146】

Ｅは、バッファ８２２－１又はバッファ８２２－２内のテキストデータからバッチデータが生成された回数を表す。ＥＴは、バッファ８２２－１又はバッファ８２２－２内のテキストデータのタイムアウトが発生した回数を表す。図１３の推定処理が開始されたときのＥ及びＥＴの初期値は、０である。

【0147】

ＮＤは、自然言語処理が行われたバッチデータに含まれる単語及び“［ＰＡＤ］”の総数を表す。“［ＰＡＤ］”は、パディング処理によってテキストデータに付加されたデータである。ＮＰは、自然言語処理が行われたバッチデータに含まれる“［ＰＡＤ］”の総数を表す。図１３の推定処理が開始されたときのＮＤ及びＮＰの初期値は、０である。

【0148】

まず、生成部８１３は、Ｅを１だけインクリメントし（ステップ１８０１）、直前の処理においてバッチデータが生成された契機が、テキストデータのタイムアウトの発生であるか否かをチェックする（ステップ１８０２）。直前の処理は、ステップ１３０６、ステップ１３１１、ステップ１５０６、又はステップ１５１３の処理を指す。

【0149】

バッチデータが生成された契機がタイムアウトの発生である場合（ステップ１８０２，ＹＥＳ）、生成部８１３は、ＥＴを１だけインクリメントする（ステップ１８０３）。そして、生成部８１３は、生成されたバッチデータに含まれる単語及び“［ＰＡＤ］”の個数をＮＤに加算し（ステップ１８０４）、生成されたバッチデータに含まれる“［ＰＡＤ］”の個数をＮＰに加算する（ステップ１８０５）。

【0150】

次に、推定部８１４は、生成されたバッチデータに含まれるＢ個のテキストデータに対して、並列に自然言語処理を行うことで、各テキストデータに対する回答情報８２４を生成する（ステップ１８０６）。そして、推定部８１４は、通信部８１５を介して、各テキストデータに対する回答情報８２４を、そのテキストデータを送信した要求元の端末装置７０１－ｉへ送信する。

【0151】

バッチデータが生成された契機がバッファ８２２－１又はバッファ８２２－２の充足である場合（ステップ１８０２，ＮＯ）、推定装置７０２は、ステップ１８０４以降の処理を行う。

【0152】

図１９は、図１７の推定装置７０２が行うバッチサイズ調整処理の例を示すフローチャートである。図１９のバッチサイズ調整処理は、図１４の閾値決定処理と同様に、所定期間毎に起動される。

【0153】

まず、調整部１７１１は、次式により、タイムアウト率ＲＴを計算する（ステップ１９０１）。

【0154】

ＲＴ＝ＥＴ／Ｅ （２１）

【0155】

次に、調整部１７１１は、ＲＴを閾値ＲＴ０と比較する（ステップ１９０２）。ＲＴがＲＴ０よりも大きい場合（ステップ１９０２，ＹＥＳ）、調整部１７１１は、次式により、パディング率ＲＰを計算する（ステップ１９０３）。

【0156】

ＲＰ＝ＮＰ／ＮＤ （２２）

【0157】

次に、調整部１７１１は、ＲＰを閾値ＲＰ０と比較する（ステップ１９０４）。ＲＰがＲＰ０よりも大きい場合（ステップ１９０４，ＹＥＳ）、調整部１７１１は、バッチサイズＢと変更量ΔＢの差であるＢ－ΔＢを、Ｂ０と比較する（ステップ１９０５）。Ｂ－ΔＢがＢ０以上である場合（ステップ１９０５，ＹＥＳ）、調整部１７１１は、ＢをＢ－ΔＢに変更する（ステップ１９０６）。

【0158】

ＲＴがＲＴ０以下である場合（ステップ１９０２，ＮＯ）、ＲＰがＲＰ０以下である場合（ステップ１９０４，ＮＯ）、又はＢ－ΔＢがＢ０よりも小さい場合（ステップ１９０５，ＮＯ）、調整部１７１１は、処理を終了する。

【0159】

図７の情報処理システムは、カスタマーサポートにおけるＱ＆Ａシステム以外の情報処理に適用することも可能である。この場合、推定装置７０２は、特定の情報処理を行う情報処理装置に置き換えられる。情報処理装置は、推定部８１４の代わりに、バッチデータに含まれるＢ個のテキストデータに対して、並列に特定の情報処理を行う情報処理部を含む。特定の情報処理は、例えば、端末装置７０１－１～端末装置７０１－Ｎから受信するクエリを用いてデータベース検索又はウェブ検索を行う検索処理であってもよい。

【0160】

図５のバッチデータ生成装置５０１の構成は一例に過ぎず、バッチデータ生成装置５０１の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。

【0161】

図７の情報処理システムの構成は一例に過ぎず、情報処理システムの用途又は条件に応じて一部の構成要素を省略又は変更してもよい。図８及び図１７の推定装置７０２の構成は一例に過ぎず、情報処理システムの用途又は条件に応じて一部の構成要素を省略又は変更してもよい。例えば、閾値Ｘを変更する必要がない場合は、図８及び図１７の決定部８１１を省略することができる。推定装置７０２は、入力されるテキストデータを３個以上のバッファ８２２－ｋに振り分けてもよい。

【0162】

図６、図１３～図１６、図１８、及び図１９のフローチャートは一例に過ぎず、バッチデータ生成装置５０１又は情報処理システムの構成又は条件に応じて、一部の処理を省略又は変更してもよい。例えば、図８及び図１７の推定装置７０２において、閾値Ｘを変更する必要がない場合は、図１４及び図１６の閾値決定処理を省略することができる。

【0163】

図１９のバッチサイズ調整処理において、パディング率ＲＰを用いない場合は、ステップ１９０３及びステップ１９０４の処理を省略することができる。タイムアウト率ＲＴを用いない場合は、ステップ１９０１及びステップ１９０２の処理を省略することができる。

【0164】

図１に示した自然言語処理システムは一例に過ぎず、実施形態の情報処理システムは、他の自然言語処理に対しても適用可能である。図２、図３、及び図１０に示したテキストデータは一例に過ぎず、入力されるテキストデータは、情報処理システムの用途又は条件に応じて変化する。図４に示した受信期間及び推論期間は一例に過ぎず、受信期間及び推論期間は、入力されるテキストデータに応じて変化する。

【0165】

図９及び図１２に示したヒストグラムは一例に過ぎず、文章の長さ又はデータ長の分布は、入力されるテキストデータに応じて変化する。図１１に示した推論期間は一例に過ぎず、推論期間は、入力されるテキストデータに応じて変化する。

【0166】

式（１）～式（２２）は一例に過ぎず、推定装置７０２は、別の計算式に基づいて閾値決定処理又はバッチサイズ調整処理を行ってもよい。

【0167】

図２０は、図５のバッチデータ生成装置５０１、図８の推定装置７０２、及び図１７の推定装置７０２として用いられる情報処理装置のハードウェア構成例を示している。図２０の情報処理装置は、ＣＰＵ２００１、メモリ２００２、入力装置２００３、出力装置２００４、補助記憶装置２００５、媒体駆動装置２００６、ネットワーク接続装置２００７、及び並列処理装置２００８を含む。これらの構成要素はハードウェアであり、バス２００９により互いに接続されている。

【0168】

メモリ２００２は、例えば、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等の半導体メモリであり、処理に用いられるプログラム及びデータを記憶する。メモリ２００２は、図３の記憶部８１６として動作してもよい。

【0169】

ＣＰＵ２００１（プロセッサ）は、例えば、メモリ２００２を利用してプログラムを実行することにより、図５の割当部５１１及び生成部５１２として動作する。ＣＰＵ２００１は、メモリ２００２を利用してプログラムを実行することにより、図８及び図１７の決定部８１１、割当部８１２、及び生成部８１３としても動作する。ＣＰＵ２００１は、メモリ２００２を利用してプログラムを実行することにより、図１７の調整部１７１１としても動作する。

【0170】

入力装置２００３は、例えば、キーボード、ポインティングデバイス等であり、ユーザ又はオペレータからの指示又は情報の入力に用いられる。出力装置２００４は、例えば、表示装置、プリンタ等であり、ユーザ又はオペレータへの問い合わせ又は指示、及び処理結果の出力に用いられる。処理結果は、回答情報８２４であってもよい。

【0171】

補助記憶装置２００５は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。補助記憶装置２００５は、ハードディスクドライブ又はＳＳＤ（Solid State Drive）であってもよい。情報処理装置は、補助記憶装置２００５にプログラム及びデータを格納しておき、それらをメモリ２００２にロードして使用することができる。補助記憶装置２００５は、図８及び図１７の記憶部８１６として動作してもよい。

【0172】

媒体駆動装置２００６は、可搬型記録媒体２０１０を駆動し、その記録内容にアクセスする。可搬型記録媒体２０１０は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。可搬型記録媒体２０１０は、ＣＤ－ＲＯＭ（Compact Disk Read Only Memory）、ＤＶＤ（Digital Versatile Disk）、ＵＳＢ（Universal Serial Bus）メモリ等であってもよい。ユーザ又はオペレータは、可搬型記録媒体２０１０にプログラム及びデータを格納しておき、それらをメモリ２００２にロードして使用することができる。

【0173】

このように、処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体は、メモリ２００２、補助記憶装置２００５、又は可搬型記録媒体２０１０のような、物理的な（非一時的な）記録媒体である。

【0174】

ネットワーク接続装置２００７は、通信ネットワーク７０３に接続され、通信に伴うデータ変換を行う通信インタフェース回路である。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置２００７を介して受信し、それらをメモリ２００２にロードして使用することができる。ネットワーク接続装置２００７は、図８及び図１７の通信部８１５として動作してもよい。

【0175】

並列処理装置２００８は、例えば、複数の演算処理装置を含み、複数のテキストデータに対する並列処理を行う。並列処理装置２００８は、図８及び図１７の推定部８１４として動作してもよい。

【0176】

なお、情報処理装置が図２０のすべての構成要素を含む必要はなく、情報処理装置の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。例えば、ユーザ又はオペレータとのインタフェースが不要な場合は、入力装置２００３及び出力装置２００４を省略することができる。可搬型記録媒体２０１０を使用しない場合は、媒体駆動装置２００６を省略することができる。情報処理装置がバッチデータ生成装置５０１である場合は、並列処理装置２００８を省略することができる。

【0177】

開示の実施形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。

【0178】

図１乃至図２０を参照しながら説明した実施形態に関し、さらに以下の付記を開示する。
（付記１）
時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当て、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する、
処理をコンピュータに実行させるためのバッチデータ生成プログラム。
（付記２）
前記複数のグループは、第１グループ及び第２グループを含み、
前記複数のデータ各々を複数のグループのうち何れかのグループに割り当てる処理は、
前記時系列に受け付けられる複数のデータのうち、閾値よりも短いデータ長を有するデータを前記第１グループに割り当てる処理と、
前記時系列に受け付けられる複数のデータのうち、前記閾値よりも長いデータ長を有するデータを前記第２グループに割り当てる処理と、
を含み、
前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が所定値に達したグループに属するデータに対して、パディング処理を行うことで、前記バッチデータを生成する処理を含み、
前記バッチデータ生成プログラムは、前記バッチデータに対する情報処理を前記コンピュータにさらに実行させることを特徴とする付記１記載のバッチデータ生成プログラム。
（付記３）
前記時系列に受け付けられる複数のデータのうち、所定期間内に受け付けられる複数のデータそれぞれのデータ長に関する統計情報に基づいて、前記閾値を決定する処理を、前記コンピュータにさらに実行させることを特徴とする付記２記載のバッチデータ生成プログラム。
（付記４）
前記パディング処理を行うことで前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が前記所定値に達していない一方のグループについて、前記一方のグループに割り当てられたデータが受け付けられてから経過した経過時間と、前記一方のグループに割り当てられたデータに対する許容遅延時間と、前記情報処理の推定処理時間と、の関係に基づいて、前記バッチデータを生成する処理を含むことを特徴とする付記２記載のバッチデータ生成プログラム。
（付記５）
前記経過時間と前記許容遅延時間と前記推定処理時間との関係に基づいて、前記バッチデータを生成する処理は、
前記経過時間が前記許容遅延時間と前記推定処理時間との差以上である場合、前記第１グループ及び前記第２グループのうち他方のグループに割り当てられたデータを、前記一方のグループに移動させることで、不足分のデータを補完する処理と、
補完された前記一方のグループに属するデータに対して、前記パディング処理を行うことで、前記バッチデータを生成する処理と、
を含むことを特徴とする付記４記載のバッチデータ生成プログラム。
（付記６）
前記第１グループに割り当てられた複数のデータの個数が前記所定値に達したことを契機として前記バッチデータが生成された回数と、前記第１グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数と、前記第２グループに割り当てられた複数のデータの個数が前記所定値に達したことを契機として前記バッチデータが生成された回数と、前記第２グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数と、に基づいて、前記閾値を決定する処理を、前記コンピュータにさらに実行させることを特徴とする付記５記載のバッチデータ生成プログラム。
（付記７）
前記第１グループ又は前記第２グループに割り当てられた複数のデータから前記バッチデータが生成された回数のうち、前記第１グループ又は前記第２グループに割り当てられたデータの前記経過時間が前記差以上になったことを契機として前記バッチデータが生成された回数の比率に基づいて、前記所定値を変更する処理を、前記コンピュータにさらに実行させることを特徴とする付記５記載のバッチデータ生成プログラム。
（付記８）
前記第１グループ又は前記第２グループについて生成された前記バッチデータにおいて、前記パディング処理により付加されたデータの比率に基づいて、前記所定値を変更する処理を、前記コンピュータにさらに実行させることを特徴とする付記５記載のバッチデータ生成プログラム。
（付記９）
前記情報処理は、機械学習によって生成された学習済みの機械学習モデルを用いて、前記バッチデータに含まれるデータに対する推論を行う処理であることを特徴とする付記２乃至８の何れか１項に記載のバッチデータ生成プログラム。
（付記１０）
時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当てる割当部と、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する生成部と、
を備えることを特徴とするバッチデータ生成装置。
（付記１１）
前記複数のグループは、第１グループ及び第２グループを含み、
前記割当部は、前記時系列に受け付けられる複数のデータのうち、閾値よりも短いデータ長を有するデータを前記第１グループに割り当て、前記時系列に受け付けられる複数のデータのうち、前記閾値よりも長いデータ長を有するデータを前記第２グループに割り当て、
前記生成部は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が所定値に達したグループに属するデータに対して、パディング処理を行うことで、前記バッチデータを生成する、
前記バッチデータ生成装置は、前記バッチデータに対する情報処理を行う情報処理部をさらに備えることを特徴とする付記１０記載のバッチデータ生成装置。
（付記１２）
前記時系列に受け付けられる複数のデータのうち、所定期間内に受け付けられる複数のデータそれぞれのデータ長に関する統計情報に基づいて、前記閾値を決定する決定部をさらに備えることを特徴とする付記１１記載のバッチデータ生成装置。
（付記１３）
前記生成部は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が前記所定値に達していない一方のグループについて、前記一方のグループに割り当てられたデータが受け付けられてから経過した経過時間と、前記一方のグループに割り当てられたデータに対する許容遅延時間と、前記情報処理の推定処理時間と、の関係に基づいて、前記バッチデータを生成することを特徴とする付記１１記載のバッチデータ生成装置。
（付記１４）
前記生成部は、前記経過時間が前記許容遅延時間と前記推定処理時間との差以上である場合、前記第１グループ及び前記第２グループのうち他方のグループに割り当てられたデータを、前記一方のグループに移動させることで、不足分のデータを補完し、補完された前記一方のグループに属するデータに対して、前記パディング処理を行うことで、前記バッチデータを生成することを特徴とする付記１３記載のバッチデータ生成装置。
（付記１５）
時系列に受け付けられる複数のデータ各々のデータ長に基づいて、前記複数のデータ各々を複数のグループのうち何れかのグループに割り当て、
前記複数のグループ各々について、割り当てられた複数のデータのデータ長を揃えることで、グループ毎に異なるデータ長を有するバッチデータを生成する、
処理をコンピュータが実行することを特徴とするバッチデータ生成方法。
（付記１６）
前記複数のグループは、第１グループ及び第２グループを含み、
前記複数のデータ各々を複数のグループのうち何れかのグループに割り当てる処理は、
前記時系列に受け付けられる複数のデータのうち、閾値よりも短いデータ長を有するデータを前記第１グループに割り当てる処理と、
前記時系列に受け付けられる複数のデータのうち、前記閾値よりも長いデータ長を有するデータを前記第２グループに割り当てる処理と、
を含み、
前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が所定値に達したグループに属するデータに対して、パディング処理を行うことで、前記バッチデータを生成する処理を含み、
前記バッチデータに対する情報処理を、前記コンピュータがさらに実行することを特徴とする付記１５記載のバッチデータ生成方法。
（付記１７）
前記時系列に受け付けられる複数のデータのうち、所定期間内に受け付けられる複数のデータそれぞれのデータ長に関する統計情報に基づいて、前記閾値を決定する処理を、前記コンピュータがさらに実行することを特徴とする付記１６記載のバッチデータ生成方法。
（付記１８）
前記パディング処理を行うことで前記バッチデータを生成する処理は、前記第１グループ及び前記第２グループのうち、前記割り当てられた複数のデータの個数が前記所定値に達していない一方のグループについて、前記一方のグループに割り当てられたデータが受け付けられてから経過した経過時間と、前記一方のグループに割り当てられたデータに対する許容遅延時間と、前記情報処理の推定処理時間と、の関係に基づいて、前記バッチデータを生成する処理を含むことを特徴とする付記１６記載のバッチデータ生成方法。
（付記１９）
前記経過時間と前記許容遅延時間と前記推定処理時間との関係に基づいて、前記バッチデータを生成する処理は、
前記経過時間が前記許容遅延時間と前記推定処理時間との差以上である場合、前記第１グループ及び前記第２グループのうち他方のグループに割り当てられたデータを、前記一方のグループに移動させることで、不足分のデータを補完する処理と、
補完された前記一方のグループに属するデータに対して、前記パディング処理を行うことで、前記バッチデータを生成する処理と、
を含むことを特徴とする付記１８記載のバッチデータ生成方法。

【符号の説明】

【0179】

１０１、８２１ 推定モデル
１０２ 推定器
１１１ チャット
１１２ メール
１１３ 回答
２０１－１～２０１－５、３０１－１～３０１－１６、１００１－１～１００１－４、１００２－１～１００２－４ テキストデータ
２０２－１～２０２－５ ＧＰＵ
２０３－１～２０３－５ 処理結果
４０１－１～４０１－４ 受信期間
４０２－１～４０２－４、１１０１－１～１１０１－６、１１０２－１、１１０２－２ 推論期間
５０１ バッチデータ生成装置
５１１、８１２ 割当部
５１２、８１３ 生成部
７０１－１～７０１－Ｎ 端末装置
７０２ 推定装置
７０３ 通信ネットワーク
８１１ 決定部
８１４ 推定部
８１５ 通信部
８１６ 記憶部
８２２－１～８２２－２ バッファ
８２３ 統計情報
８２４ 回答情報
１７１１ 調整部
２００１ ＣＰＵ
２００２ メモリ
２００３ 入力装置
２００４ 出力装置
２００５ 補助記憶装置
２００６ 媒体駆動装置
２００７ ネットワーク接続装置
２００８ 並列処理装置
２００９ バス
２０１０ 可搬型記録媒体

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】