特許 7367870 会話制御プログラム、会話制御方法および情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-10-16

(45)【発行日】2023-10-24

(54)【発明の名称】会話制御プログラム、会話制御方法および情報処理装置

(51)【国際特許分類】

   G06F 21/62 20130101AFI20231017BHJP

【ＦＩ】

G06F21/62 345

【請求項の数】 13

(21)【出願番号】P 2022530399

(86)(22)【出願日】2020-06-09

(86)【国際出願番号】 JP2020022693

(87)【国際公開番号】W WO2021250778

(87)【国際公開日】2021-12-16

【審査請求日】2022-07-26

(73)【特許権者】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】100104190

【弁理士】

【氏名又は名称】酒井 昭徳

(72)【発明者】

【氏名】前川 貴宏

(72)【発明者】

【氏名】村岡 洋晃

【審査官】宮司 卓佳

(56)【参考文献】

【文献】特開２０１９－２０７６４８（ＪＰ，Ａ）

【文献】特開２００５－２３４６６６（ＪＰ，Ａ）

【文献】特開２０１９－１７０６５７（ＪＰ，Ａ）

【文献】特開２０１８－２００６０２（ＪＰ，Ａ）

【文献】特許第６６９０７９６（ＪＰ，Ｂ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ ２１／６２

(57)【特許請求の範囲】

【請求項1】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記チャットボットでの会話内の第１の箇所と対応付けて、当該第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録し、
情報処理端末から前記チャットボットでの会話内の前記第１の箇所において受け付けた入力情報を受信した場合、記録した前記回数に基づいて、受信した前記入力情報がマスキング処理対象の情報であるか否かを判断し、
前記マスキング処理対象の情報であると判断した場合に、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち、受信した前記入力情報をログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータに実行させることを特徴とする会話制御プログラム。

【請求項2】

前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理を前記コンピュータに実行させることを特徴とする請求項１に記載の会話制御プログラム。

【請求項3】

前記チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報を前記情報処理端末に出力する、処理を前記コンピュータに実行させ、
前記マスキング処理依頼は、前記情報処理端末において前記問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、前記情報処理端末から送信される、ことを特徴とする請求項２に記載の会話制御プログラム。

【請求項4】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に個人特定情報が含まれるか否かを判定し、
前記個人特定情報が含まれると判定した場合、前記チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を前記情報処理端末に出力する、
処理を前記コンピュータに実行させることを特徴とする請求項２または３に記載の会話制御プログラム。

【請求項5】

入力された文字列が特定の単語であるか否かを分類するための機械学習モデルを用いて、情報処理端末におけるチャットボットでの会話において受け付けた入力情報に前記特定の単語が含まれるか否かを判定し、
前記入力情報に前記特定の単語が含まれると判定した場合、前記情報処理端末に注意喚起情報を出力する、
処理を前記コンピュータに実行させることを特徴とする請求項２～４のいずれか一つに記載の会話制御プログラム。

【請求項6】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記入力情報を受信した場合、前記入力情報に個人特定情報が含まれるか否かを判定し、
前記個人特定情報が含まれると判定した場合、前記チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を前記情報処理端末に出力し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータに実行させることを特徴とする会話制御プログラム。

【請求項7】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
入力された文字列が特定の単語であるか否かを分類するための機械学習モデルを用いて、前記入力情報に前記特定の単語が含まれるか否かを判定し、
前記入力情報に前記特定の単語が含まれると判定した場合、前記情報処理端末に注意喚起情報を出力し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータに実行させることを特徴とする会話制御プログラム。

【請求項8】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記チャットボットでの会話内の第１の箇所と対応付けて、当該第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録し、
情報処理端末から前記チャットボットでの会話内の前記第１の箇所において受け付けた入力情報を受信した場合、記録した前記回数に基づいて、受信した前記入力情報がマスキング処理対象の情報であるか否かを判断し、
前記マスキング処理対象の情報であると判断した場合に、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち、受信した前記入力情報をログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータが実行することを特徴とする会話制御方法。

【請求項9】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記入力情報を受信した場合、前記入力情報に個人特定情報が含まれるか否かを判定し、
前記個人特定情報が含まれると判定した場合、前記チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を前記情報処理端末に出力し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータが実行することを特徴とする会話制御方法。

【請求項10】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
入力された文字列が特定の単語であるか否かを分類するための機械学習モデルを用いて、前記入力情報に前記特定の単語が含まれるか否かを判定し、
前記入力情報に前記特定の単語が含まれると判定した場合、前記情報処理端末に注意喚起情報を出力し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータが実行することを特徴とする会話制御方法。

【請求項11】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に基づく応答処理を実行する会話制御部と、
前記チャットボットでの会話内の第１の箇所と対応付けて、当該第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録する計数部と、
情報処理端末から前記チャットボットでの会話内の前記第１の箇所において受け付けた入力情報を受信した場合、前記計数部が記録した前記回数に基づいて、受信した前記入力情報がマスキング処理対象の情報であるか否かを判断し、前記マスキング処理対象の情報であると判断した場合に、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち、受信した前記入力情報をログに記録しない又は秘匿化するマスキング処理を実行する記録制御部と、
を有することを特徴とする情報処理装置。

【請求項12】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に基づく応答処理を実行する会話制御部と、
前記入力情報を受信した場合、前記入力情報に個人特定情報が含まれるか否かを判定する判定部と、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する記録制御部と、
を有し、
前記会話制御部は、
前記判定部が前記個人特定情報が含まれると判定した場合、前記チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を前記情報処理端末に出力する、ことを特徴とする情報処理装置。

【請求項13】

情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に基づく応答処理を実行する会話制御部と、
入力された文字列が特定の単語であるか否かを分類するための機械学習モデルを用いて、前記入力情報に前記特定の単語が含まれるか否かを判定する判定部と、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する記録制御部と、
を有し、
前記会話制御部は、
前記判定部が前記入力情報に前記特定の単語が含まれると判定した場合、前記情報処理端末に注意喚起情報を出力する、ことを特徴とする情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、会話制御プログラム、会話制御方法および情報処理装置に関する。

【背景技術】

【0002】

近年、チャットボットと呼ばれる技術を利用した自動応答システムを導入する企業が増えている。チャットボットは、人工知能を利用して、人間との対話やメッセージのやりとりを行うコンピュータシステムである。例えば、チャットボットと連携した双方向コミュニケーションを利用して、従来は人が対応していた窓口業務をチャットボットにより行う場合がある。

【0003】

先行技術としては、例えば、ユーザ端末から送信されたチャットデータをネットワークを介してチャットボットへ転送し、ユーザ端末から送信されたチャットデータが個人情報に関連する内容を含むことを検出した場合に、当該チャットデータに対して所定のフィルタ処理を実行するチャットシステムがある。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２０１８－２００６０２号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかしながら、従来技術では、チャットボットと連携した双方向コミュニケーションを利用したサービスを行うにあたり、個人を特定可能な情報の入力が必要となり、チャットボットを利用したサービスの利用の妨げとなる場合がある。

【0006】

一つの側面では、本発明は、チャットボットを利用したサービスの円滑な利用を図ることを目的とする。

【課題を解決するための手段】

【0007】

１つの実施態様では、情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、会話制御プログラムが提供される。

【発明の効果】

【0008】

本発明の一側面によれば、チャットボットを利用したサービスの円滑な利用を図ることができるという効果を奏する。

【図面の簡単な説明】

【0009】

【図1】図１は、実施の形態１にかかる会話制御システム１００のシステム構成例を示す説明図である。

【図2】図２は、情報処理装置１０１のハードウェア構成例を示すブロック図である。

【図3】図３は、情報処理端末１０２のハードウェア構成例を示すブロック図である。

【図4】図４は、スクリプトテーブル１３０の記憶内容の一例を示す説明図である。

【図5】図５は、チャットログＤＢ１４０の記憶内容の一例を示す説明図である。

【図6】図６は、スクリプトの具体例を示す説明図である。

【図7】図７は、チャット画面の画面例を示す説明図（その１）である。

【図8】図８は、実施の形態１にかかる情報処理装置１０１の機能的構成例を示すブロック図である。

【図9】図９は、チャット画面の画面例を示す説明図（その２）である。

【図10】図１０は、情報処理装置１０１の動作例を示す説明図である。

【図11】図１１は、実施の形態１にかかる情報処理装置１０１の会話制御処理手順の一例を示すフローチャート（その１）である。

【図12】図１２は、実施の形態１にかかる情報処理装置１０１の会話制御処理手順の一例を示すフローチャート（その２）である。

【図13】図１３は、実施の形態２にかかる情報処理装置１０１の機能的構成例を示すブロック図である。

【図14】図１４は、回数カウンターテーブル１４００の記憶内容の一例を示す説明図である。

【図15】図１５は、実施の形態２にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャート（その１）である。

【図16】図１６は、実施の形態２にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャート（その２）である。

【図17】図１７は、実施の形態２にかかる情報処理装置１０１の第２の会話制御処理手順の一例を示すフローチャート（その１）である。

【図18】図１８は、実施の形態２にかかる情報処理装置１０１の第２の会話制御処理手順の一例を示すフローチャート（その２）である。

【図19】図１９は、実施の形態３にかかる情報処理装置１０１の機能的構成例を示すブロック図である。

【図20】図２０は、個人特定情報マスタ２０００の記憶内容の一例を示す説明図である。

【図21】図２１は、学習データの具体例を示す説明図である。

【図22】図２２は、パスワードの判定例を示す説明図である。

【図23】図２３は、チャット画面の画面例を示す説明図（その３）である。

【図24】図２４は、チャット画面の画面例を示す説明図（その４）である。

【図25】図２５は、実施の形態３にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャート（その１）である。

【図26】図２６は、実施の形態３にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャート（その２）である。

【図27】図２７は、実施の形態３にかかる情報処理装置１０１の第２の会話制御処理手順の一例を示すフローチャートである。

【発明を実施するための形態】

【0010】

以下に図面を参照して、本発明にかかる会話制御プログラム、会話制御方法および情報処理装置の実施の形態を詳細に説明する。

【0011】

（実施の形態１）
まず、実施の形態１にかかる情報処理装置１０１を含む会話制御システム１００のシステム構成例について説明する。会話制御システム１００は、例えば、チャットボットと連携した双方向コミュニケーションを利用したサービスを提供するコンピュータシステムに適用される。

【0012】

図１は、実施の形態１にかかる会話制御システム１００のシステム構成例を示す説明図である。図１において、会話制御システム１００は、情報処理装置１０１と、複数の情報処理端末１０２（図１の例では、３台）と、管理者端末１０３と、を含む。会話制御システム１００において、情報処理装置１０１、情報処理端末１０２および管理者端末１０３は、有線または無線のネットワーク１１０を介して接続される。ネットワーク１１０は、例えば、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）、インターネットなどである。

【0013】

ここで、情報処理装置１０１は、チャットボットの会話を制御するコンピュータである。情報処理装置１０１は、例えば、サーバである。情報処理装置１０１は、例えば、ＦＡＱマスタ１２０、スクリプトテーブル１３０およびチャットログＤＢ（Ｄａｔａｂａｓｅ）１４０を有する。ＦＡＱマスタ１２０は、ＦＡＱ（Ｆｒｅｑｕｅｎｔｌｙ Ａｓｋｅｄ Ｑｕｅｓｔｉｏｎ）を記憶する。

【0014】

ＦＡＱは、「頻繁に尋ねられる質問」の意味であり、あらかじめ予想される質問に対して、質問と回答とをまとめたものである。質問は、何らかの問題の解決方法を問うものであってもよく、また、話し言葉による問いかけであってもよい。回答は、質問された問題の解決方法を示す回答や、話し言葉による問いかけに対する回答などである。

【0015】

スクリプトテーブル１３０は、チャットボットの会話の流れを定義するスクリプトを記憶する。チャットボットでの会話は、スクリプトに従って行われる。チャットログＤＢ１４０は、チャットログを記憶する。チャットログは、ユーザとチャットボットとの会話に関する会話履歴である。

【0016】

なお、スクリプトテーブル１３０およびチャットログＤＢ１４０の記憶内容については、図４および図５を用いて後述する。

【0017】

情報処理端末１０２は、ユーザがチャットボットでの会話を行う際に利用するコンピュータである。情報処理端末１０２は、例えば、スマートフォン、タブレットＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）、ＰＣなどである。また、情報処理端末１０２は、駅、空港、店舗、商業施設などに設置されるデジタルボードであってもよい。

【0018】

情報処理端末１０２において、ユーザは、例えば、メッセージを入力したり、選択肢を選択したりすることで、チャットボットと対話しながら所望の回答を探したり、オンライン手続きをしたりすることができる。オンライン手続きは、オンラインで行う手続きである。オンライン手続きとしては、例えば、金融機関が提供する口座開設、残高照会、振り込みなどの手続きや、通信キャリアが提供する通信サービスのプラン変更、機種変更などの手続きがある。

【0019】

管理者端末１０３は、会話制御システム１００の管理者が使用するコンピュータである。会話制御システム１００の管理者は、例えば、チャットボットの会話の流れを定義するスクリプトの設計者である。管理者端末１０３は、例えば、ＰＣである。管理者端末１０３において、管理者は、例えば、スクリプトの設計、変更や、各種しきい値の設定などを行うことができる。

【0020】

なお、図示は省略するが、会話制御システム１００にはオペレータ端末が含まれていてもよい。オペレータ端末は、オペレータが使用するコンピュータである。オペレータは、チャットボット対応から有人対応の会話に切り替えた場合に、ユーザへの対応を行う者である。例えば、オペレータは、オペレータ端末の電話機能や、テキストコミュニケーションなどを利用して、ユーザとやり取りすることができる。

【0021】

ここで、チャットボットと連携した双方向コミュニケーションを利用したサービスにおいて、個人を特定可能な情報の入力を求められることがある。例えば、何らかの相談を行うにあたり、氏名や住所などの個人を特定可能な情報の入力を求められることがある。この場合、誰がどのような相談を行ったのかを特定することが可能となる。

【0022】

ＩＴリテラシーの高いユーザは、入力した情報がサーバ上にログとして記録されることを知っており、それらの情報がマーケティングや商品レコメンデーションに活用される可能性があることを認識していることが多い。自身の情報が活用されることを嫌ったユーザは、情報の入力を求められると、サービスの利用をやめてしまうおそれがある。

【0023】

なお、ユーザにとって知られたくない可能性がある情報は全てログに記録しないようにすることも考えられる。しかし、事業者側は、データを受け取って活用したいのが実情であり、ユーザにとって知られたくない可能性がある情報を一律に記録しないようにすることは望ましくない。

【0024】

そこで、実施の形態１では、情報処理装置１０１は、チャットボットでの会話において受け付けた入力情報を受信すると、入力情報に基づく応答処理を実行し、入力情報のマスキング処理依頼を受信した場合は、チャットボットでの会話に関するログを記録する際に、会話に関するログのうち入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する。これにより、ユーザが安心してサービスを利用できるように、ユーザ自身がログへの記録をコントロール可能にして、チャットボットを利用したサービスの円滑な利用を図る会話制御方法について説明する。

【0025】

（情報処理装置１０１のハードウェア構成例）
つぎに、情報処理装置１０１のハードウェア構成例について説明する。

【0026】

図２は、情報処理装置１０１のハードウェア構成例を示すブロック図である。図２において、情報処理装置１０１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）２０１と、メモリ２０２と、ディスクドライブ２０３と、ディスク２０４と、通信Ｉ／Ｆ（Ｉｎｔｅｒｆａｃｅ）２０５と、可搬型記録媒体Ｉ／Ｆ２０６と、可搬型記録媒体２０７と、を有する。また、各構成部は、バス２００によってそれぞれ接続される。

【0027】

ここで、ＣＰＵ２０１は、情報処理装置１０１の全体の制御を司る。ＣＰＵ２０１は、複数のコアを有していてもよい。メモリ２０２は、例えば、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）およびフラッシュＲＯＭなどを有する。具体的には、例えば、フラッシュＲＯＭがＯＳ（Ｏｐｅｒａｔｉｎｇ Ｓｙｓｔｅｍ）のプログラムを記憶し、ＲＯＭがアプリケーションプログラムを記憶し、ＲＡＭがＣＰＵ２０１のワークエリアとして使用される。メモリ２０２に記憶されるプログラムは、ＣＰＵ２０１にロードされることで、コーディングされている処理をＣＰＵ２０１に実行させる。

【0028】

ディスクドライブ２０３は、ＣＰＵ２０１の制御に従ってディスク２０４に対するデータのリード／ライトを制御する。ディスク２０４は、ディスクドライブ２０３の制御で書き込まれたデータを記憶する。ディスク２０４としては、例えば、磁気ディスク、光ディスクなどが挙げられる。

【0029】

通信Ｉ／Ｆ２０５は、通信回線を通じてネットワーク１１０に接続され、ネットワーク１１０を介して外部のコンピュータ（例えば、図１に示した情報処理端末１０２、管理者端末１０３）に接続される。そして、通信Ｉ／Ｆ２０５は、ネットワーク１１０と装置内部とのインターフェースを司り、外部のコンピュータからのデータの入出力を制御する。通信Ｉ／Ｆ２０５には、例えば、モデムやＬＡＮアダプタなどを採用することができる。

【0030】

可搬型記録媒体Ｉ／Ｆ２０６は、ＣＰＵ２０１の制御に従って可搬型記録媒体２０７に対するデータのリード／ライトを制御する。可搬型記録媒体２０７は、可搬型記録媒体Ｉ／Ｆ２０６の制御で書き込まれたデータを記憶する。可搬型記録媒体２０７としては、例えば、ＣＤ（Ｃｏｍｐａｃｔ Ｄｉｓｃ）－ＲＯＭ、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｋ）、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）メモリなどが挙げられる。

【0031】

なお、情報処理装置１０１は、上述した構成部のほかに、例えば、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）、入力装置、ディスプレイ等を有することにしてもよい。また、情報処理装置１０１は、上述した構成部のうち、例えば、ディスクドライブ２０３、ディスク２０４、可搬型記録媒体Ｉ／Ｆ２０６、可搬型記録媒体２０７を有していなくてもよい。

【0032】

（情報処理端末１０２のハードウェア構成例）
つぎに、情報処理端末１０２のハードウェア構成例について説明する。

【0033】

図３は、情報処理端末１０２のハードウェア構成例を示すブロック図である。図３において、情報処理端末１０２は、ＣＰＵ３０１と、メモリ３０２と、ディスプレイ３０３と、入力装置３０４と、通信Ｉ／Ｆ３０５と、カメラ３０６と、スピーカ３０７と、マイクロフォン３０８と、ＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）ユニット３０９と、を有する。また、各構成部はバス３００によってそれぞれ接続される。

【0034】

ここで、ＣＰＵ３０１は、情報処理端末１０２の全体の制御を司る。ＣＰＵ３０１は、複数のコアを有していてもよい。メモリ３０２は、例えば、ＲＯＭ、ＲＡＭおよびフラッシュＲＯＭなどを有する記憶部である。具体的には、例えば、フラッシュＲＯＭやＲＯＭが各種プログラムを記憶し、ＲＡＭがＣＰＵ３０１のワークエリアとして使用される。メモリ３０２に記憶されるプログラムは、ＣＰＵ３０１にロードされることで、コーディングされている処理をＣＰＵ３０１に実行させる。

【0035】

ディスプレイ３０３は、カーソル、アイコンあるいはツールボックスをはじめ、文書、画像、機能情報などのデータを表示する表示装置である。ディスプレイ３０３としては、例えば、液晶ディスプレイや有機ＥＬ（Ｅｌｅｃｔｒｏｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイなどを採用することができる。

【0036】

入力装置３０４は、文字、数字、各種指示などの入力のためのキーを有し、データの入力を行う。入力装置３０４は、タッチパネル式の入力パッドやテンキーなどであってもよく、また、キーボードやマウスなどであってもよい。

【0037】

通信Ｉ／Ｆ３０５は、通信回線を通じてネットワーク１１０に接続され、ネットワーク１１０を介して外部のコンピュータ（例えば、情報処理装置１０１）に接続される。そして、通信Ｉ／Ｆ３０５は、ネットワーク１１０と自装置内部とのインターフェースを司り、外部装置からのデータの入出力を制御する。

【0038】

カメラ３０６は、画像（静止画または動画）を撮影して画像データを出力する撮影装置である。スピーカ３０７は、電気信号を音声に変換して、音声を出力する。マイクロフォン３０８は、音声を受音して電気信号に変換する。

【0039】

ＧＰＳユニット３０９は、ＧＰＳ衛星からの電波を受信し、情報処理端末１０２の位置情報を出力する。情報処理端末１０２の位置情報は、例えば、緯度、経度などの地球上の１点を特定する情報である。また、衛星として、例えば、準天頂衛星システムの衛星を用いることにしてもよい。

【0040】

なお、情報処理端末１０２は、上述した構成部のほかに、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、ＳＳＤ、近距離無線通信Ｉ／Ｆ、可搬型記録媒体Ｉ／Ｆ、可搬型記録媒体などを有することにしてもよい。また、図１に示した管理者端末１０３についても、情報処理端末１０２と同様のハードウェア構成により実現することができる。

【0041】

（スクリプトテーブル１３０の記憶内容）
つぎに、図４を用いて、情報処理装置１０１が有するスクリプトテーブル１３０の記憶内容について説明する。スクリプトテーブル１３０は、例えば、図２に示したメモリ２０２、ディスク２０４などの記憶装置により実現される。

【0042】

図４は、スクリプトテーブル１３０の記憶内容の一例を示す説明図である。図４において、スクリプトテーブル１３０は、サービスおよびスクリプトのフィールドを有し、各フィールドに情報を設定することで、スクリプト管理情報４００－１～４００－ｎをレコードとして記憶する。

【0043】

ここで、サービスは、チャットボットと連携した双方向コミュニケーションを利用したサービスを示す。ここでは、サービスを識別する手続きＩＤ（例えば、Ａ１，Ａ２）のみ表記している。サービスとしては、例えば、チャットボットと連携した双方向コミュニケーションを利用して、健康、進学、キャリアアップなどの相談を行ったり、各種のオンライン手続きを行ったりするものがある。

【0044】

スクリプトは、チャットボットの会話の流れを定義した情報（シナリオ）であり、サービスに対応付けて用意される。ただし、ここでは、スクリプトを識別するスクリプトＩＤ（例えば、Ｓ１，Ｓ２）のみ表記している。例えば、スクリプト管理情報４００－１は、サービスＡ１に対応するスクリプトＳ１を示す。

【0045】

（チャットログＤＢ１４０の記憶内容）
つぎに、図５を用いて、情報処理装置１０１が有するチャットログＤＢ１４０の記憶内容について説明する。チャットログＤＢ１４０は、例えば、図２に示したメモリ２０２、ディスク２０４などの記憶装置により実現される。

【0046】

図５は、チャットログＤＢ１４０の記憶内容の一例を示す説明図である。図５において、チャットログＤＢ１４０は、ｃｈａｔ＿ｉｄ、ｔａｌｋｌｏｇ＿ｉｄ、ｔｉｍｅ ｓｔａｍｐ、ｓｃｒｉｐｔ、ｌａｂｅｌおよびｍｅｓｓａｇｅのフィールドを有する。各フィールドに情報を設定することで、チャットログ（例えば、チャットログ５００－１～５００－５）がレコードとして記憶される。

【0047】

ここで、ｃｈａｔ＿ｉｄは、チャットを行うルームのＩＤを示す。ｃｈａｔ＿ｉｄによれば、チャットボットでの一連の会話を特定することができる。ｔａｌｋｌｏｇ＿ｉｄは、チャットログを識別する識別子である。ｔｉｍｅ ｓｔａｍｐは、スクリプトに定義されたトーク処理（ステップ）が実行された日時（ＧＭＴ＋９時間）を示す。ＧＭＴは、Ｇｒｅｅｎｗｉｃｈ Ｍｅａｎ Ｔｉｍｅである。

【0048】

トーク処理は、チャットボットの動作（挙動）を実現するための処理である。例えば、トーク処理は、発話する処理、選択肢を表示する処理、ユーザ操作に応じて選択肢を選択する処理、選択された選択肢や入力された情報に応じた手続を行う処理、トーク処理を終了する処理などを含む。

【0049】

ｓｃｒｉｐｔは、チャットボットでの会話に適用されたスクリプト（シナリオ）を示す。ｌａｂｅｌは、スクリプト内の複数のステップのうちトーク処理が実行されたステップの名前を示す。ｍｅｓｓａｇｅは、実行されたトーク処理で発話された文章、選択された選択肢、入力された情報、あるいは、システム側の処理内容、エラーメッセージなどを示す。

【0050】

例えば、チャットログ５００－２は、ｃｈａｔ＿ｉｄ「１００」、ｔａｌｋｌｏｇ＿ｉｄ「１５０４４」およびｔｉｍｅ ｓｔａｍｐ「２０２０－０１－０８Ｔ１４：２５：４３＋０９：００」のログである。チャットログ５００－２によれば、ｓｃｒｉｐｔ「Ｓ１０」のｌａｂｅｌ「ＶＲＢ－１」のトーク処理（ステップ）が実行されて、ｍｅｓｓａｇｅ「お名前を教えてください。」が表示されたことを特定することができる。

【0051】

なお、チャットログには、例えば、システムログであるか否かを示す情報や、チャットボットまたはユーザのいずれに関するログであるかを示す情報が含まれていてもよい。また、チャットログには、例えば、ユーザが使用する情報処理端末１０２のＩＰ（Ｉｎｔｅｒｎｅｔ Ｐｒｏｔｏｃｏｌ）アドレスが含まれていてもよい。

【0052】

ここで、図６を用いて、スクリプトの具体例について説明する。ここでは、サービスＡ１００に対応するスクリプトＳ１００を例に挙げて説明する。

【0053】

図６は、スクリプトの具体例を示す説明図である。図６において、スクリプトＳ１００は、チャットボットの会話の流れを定義した情報（シナリオ）である。ただし、図６では、スクリプトＳ１００の一部を抜粋して表示している。具体的には、例えば、スクリプトＳ１００は、チャットのトーク処理を定義した情報である。

【0054】

スクリプトＳ１００は、ステップ６０１～６０５を含む。ここで、ステップ６０１は、トーク処理の開始を示す。ステップ６０２，６０３は、メッセージを発話する処理を示す。ステップ６０４は、選択肢を表示する処理を示す。ステップ６０５は、トーク処理の終了を示す。

【0055】

なお、複数のステップに同一のｌａｂｅｌ（図５参照）が設定されることがある。例えば、ステップ６０２，６０３には、同一の「ＶＲＢ－１」が設定される。また、図示は省略するが、スクリプトＳ１００には、ステップ６０１～６０５のほかに、例えば、選択された選択肢や入力された情報に応じた手続やＦＡＱの検索を行う処理などを実行するステップが含まれる。

【0056】

（チャット画面の画面例）
つぎに、情報処理端末１０２のディスプレイ３０３（図３）に表示されるチャット画面の画面例について説明する。

【0057】

図７は、チャット画面の画面例を示す説明図（その１）である。図７において、チャット画面７００は、情報処理端末１０２におけるチャットボットでの会話を表示する操作画面の一例である。図７中、アバターａｖは、チャットボットを表すキャラクターである。

【0058】

チャット画面７００において、例えば、図３に示した入力装置３０４を用いたユーザの操作入力により、ボックス７１０を選択することで、メッセージを入力することができる。メッセージの入力は、例えば、図３に示したマイクロフォン３０８を用いた音声入力により行われることにしてもよい。また、チャット画面７００において、送信ボタン７１１を選択することで、ボックス７１０に入力されたメッセージをチャットボット側（情報処理装置１０１）に送信することができる。

【0059】

チャット画面７００には、アバターａｖの発言を表すメッセージｍ１が表示されている。メッセージｍ１は、ユーザの名前の入力を促すメッセージの一例である。また、チャット画面７００には、ユーザの発言を表すメッセージｍ２が表示されている。メッセージｍ２は、アバターａｖのメッセージｍ１に対して入力された名前の一例である。

【0060】

また、チャット画面７００には、秘密ボタン７２０が表示されている。秘密ボタン７２０は、入力情報のログへの記録を許可するか否かを問い合わせる情報の一例である。入力情報は、チャットボットでの会話において、入力された情報や、選択された選択肢を示す情報である。

【0061】

チャット画面７００において、例えば、ユーザの操作入力により、秘密ボタン７２０を選択すると、オフレコモードを設定することができる。オフレコモードとは、チャットボットでの会話に関するログ（チャットログ）を記録する際に、入力情報をログに記録しない、または、秘匿化するモードである。

【0062】

これにより、チャットボットでの会話において入力される情報のうち、ログに記録しない、または、秘匿化する情報をユーザ自身がコントロールすることが可能となる。

【0063】

（情報処理装置１０１の機能的構成例）
図８は、実施の形態１にかかる情報処理装置１０１の機能的構成例を示すブロック図である。図８において、情報処理装置１０１は、受付部８０１と、会話制御部８０２と、記録制御部８０３と、を含む。具体的には、例えば、受付部８０１～記録制御部８０３は、図２に示したメモリ２０２、ディスク２０４、可搬型記録媒体２０７などの記憶装置に記憶されたプログラムをＣＰＵ２０１に実行させることにより、または、通信Ｉ／Ｆ２０５により、その機能を実現する。各機能部の処理結果は、例えば、メモリ２０２、ディスク２０４などの記憶装置に記憶される。

【0064】

受付部８０１は、情報処理端末１０２からチャットの開始指示を受け付ける。ここで、チャットの開始指示は、ユーザとチャットボットとの会話を開始するためのものであり、例えば、チャットボットを利用したサービスの開始を要求するものである。チャットの開始指示には、例えば、サービスＩＤが含まれる。

【0065】

例えば、チャットの開始指示は、情報処理端末１０２においてユーザの操作入力により行われ、情報処理端末１０２から情報処理装置１０１に送信される。具体的には、例えば、受付部８０１は、情報処理端末１０２からチャットの開始指示を受信することにより、チャットの開始指示を受け付ける。

【0066】

会話制御部８０２は、情報処理端末１０２からのチャットの開始指示に応じて、情報処理端末１０２におけるチャットボットでの会話を開始する。具体的には、例えば、会話制御部８０２は、図４に示したスクリプトテーブル１３０を参照して、チャットの開始指示に含まれるサービスＩＤに対応するスクリプトを特定する。

【0067】

つぎに、会話制御部８０２は、特定したスクリプトを、情報処理端末１０２におけるチャットボットの会話に適用するトークスクリプトに決定する。そして、会話制御部８０２は、決定したトークスクリプトを用いて、情報処理端末１０２におけるサービスに関するチャットを開始する。

【0068】

例えば、チャットの開始指示にサービスＩＤ「Ａ１」が含まれるとする。この場合、会話制御部８０２は、スクリプトテーブル１３０を参照して、サービスＩＤ「Ａ１」に対応するスクリプトＳ１をトークスクリプトに決定する。そして、会話制御部８０２は、決定したトークスクリプトＳ１を用いて、情報処理端末１０２におけるサービスＳ１に関するチャットボットでの会話を開始する。

【0069】

なお、会話制御部８０２は、情報処理端末１０２からのチャットの開始指示に応じて、あらかじめ決められたスクリプトをトークスクリプトに決定することにしてもよい。また、会話制御部８０２は、例えば、情報処理端末１０２のユーザ属性や外部環境に基づいて、トークスクリプトを決定することにしてもよい。ユーザ属性は、情報処理端末１０２のユーザの特徴を表す情報である。ユーザ属性は、例えば、年代、性別、使用言語などを表す。外部環境は、情報処理端末１０２の外部の環境を表す情報である。外部環境は、例えば、天気、温度、湿度、時間、位置などを表す。

【0070】

会話制御部８０２は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信した場合、入力情報に基づく応答処理を実行する。ここで、入力情報は、チャットボットでの会話において、例えば、図３に示した入力装置３０４を用いたユーザの操作により入力された情報である。また、入力情報は、チャットボットでの会話において、ユーザの操作により選択された選択肢を示す情報であってもよい。

【0071】

入力情報に基づく応答処理は、例えば、チャットボットでの会話において入力された情報に応じてＦＡＱを検索して結果を出力する処理である。ＦＡＱの検索は、例えば、図１に示したＦＡＱマスタ１２０を用いて行われる。また、入力情報に基づく応答処理は、チャットボットでの会話において入力された情報に応じた手続を行う処理であってもよい。

【0072】

記録制御部８０３は、会話制御部８０２によって情報処理端末１０２におけるチャットボットでの会話が開始された結果、チャットボットでの会話に関するログを記録する。具体的には、例えば、記録制御部８０３は、ユーザまたはチャットボットが発言したり、システムの内部処理が行われたりすると、チャットログを記録する。チャットボットでの会話において受け付けた入力情報は、例えば、チャットログのｍｅｓｓａｇｅに含まれる（図５参照）。

【0073】

また、記録制御部８０３は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報のマスキング処理依頼を受信した場合は、チャットボットでの会話に関するログを記録する際に、入力情報に対するマスキング処理を実行する。ここで、マスキング処理依頼は、マスキング処理の実行を依頼するものである。

【0074】

マスキング処理は、チャットボットでの会話に関するログのうち入力情報に関するログに記録しない又は秘匿化する処理である。ログに記録しないとは、例えば、ｍｅｓｓａｇｅに入力情報を設定せず、ｍｅｓｓａｇｅを空（カラ）とするチャットログを作成することであってもよい。また、ログに記録しないとは、ｍｅｓｓａｇｅに入力情報を設定したチャットログを一旦作成した後、そのチャットログから入力情報を削除することであってもよい。

【0075】

秘匿化とは、例えば、入力情報を類推不能な情報に変換することである。類推不能な情報は、例えば、アスタリスク（＊）や墨塗などである。秘匿化するとは、入力情報を類推不能な情報に変換してからｍｅｓｓａｇｅに設定することであってもよく、また、ｍｅｓｓａｇｅに設定した入力情報を類推不能な情報に変換することであってもよい。

【0076】

なお、情報処理装置１０１は、例えば、チャットボットでの会話において、入力情報およびマスキング処理依頼を同時に受信することにしてもよい。また、情報処理装置１０１は、入力情報を受信した後に、その入力情報のマスキング処理依頼を受信することにしてもよい。また、情報処理装置１０１は、マスキング処理依頼を受信した後に、マスキング処理対象の情報となる入力情報を受信することにしてもよい。

【0077】

具体的には、例えば、会話制御部８０２は、チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力する。マスキング処理依頼は、例えば、情報処理端末１０２において問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、情報処理端末１０２から送信される。

【0078】

問い合わせ情報は、入力情報のログへの記録を許可するか否かを問い合わせるためのメッセージやアイコンなどであり、例えば、図７に示した秘密ボタン７２０である。より詳細に説明すると、例えば、情報処理端末１０２におけるチャットボットでの会話を開始するにあたり、秘密ボタン７２０を含むチャット画面７００を、情報処理端末１０２に表示させる。

【0079】

チャット画面７００において、ユーザの操作入力により、秘密ボタン７２０が選択されると、情報処理端末１０２から情報処理装置１０１にオフレコ設定指示が送信される。オフレコ設定指示は、マスキング処理依頼に相当する。記録制御部８０３は、情報処理端末１０２からオフレコ設定指示を受信すると、オフレコモードを設定（ＯＮ）する。

【0080】

オフレコモードとは、チャットボットでの会話に関するログ（チャットログ）を記録する際に、入力情報をログに記録しない、または、秘匿化するモードである。すなわち、オフレコモードでは、ユーザの発言がマスキング処理対象の情報として、ログに記録されない、あるいは、秘匿化してログに記録される。

【0081】

具体的には、例えば、記録制御部８０３は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信した場合に、オフレコモードが設定されているか否かを判断する。ここで、オフレコモードが設定されていない場合、記録制御部８０３は、チャットログを記録する際に、受信した入力情報に対するマスキング処理を実行しない。

【0082】

一方、オフレコモードが設定されている場合、記録制御部８０３は、チャットログを記録する際に、受信した入力情報に対するマスキング処理を実行する。より詳細に説明すると、例えば、記録制御部８０３は、チャットボットでの会話に関するチャットログのうち、受信した入力情報に関するチャットログから当該入力情報を削除してもよく、また、受信した入力情報に関するチャットログにおける当該入力情報をアスタリスク、墨塗などの類推不能な情報に変換して秘匿化してもよい。

【0083】

なお、ここでは、マスキング処理対象の情報の入力前に秘密ボタン７２０を押す場合を例に挙げて説明したが、これに限らない。例えば、マスキング処理対象の情報の入力後に秘密ボタン７２０を押すことにしてもよい。この場合、記録制御部８０３は、オフレコ設定指示（マスキング処理依頼）を受信した後に受信される入力情報に対するマスキング処理を実行する。

【0084】

また、チャットボットでの会話において受け付けた入力情報のうちの一部の情報を、マスキング処理対象の情報として指定可能であってもよい。例えば、チャット画面７００において、入力装置３０４を用いたユーザの操作入力により、ボックス７１０に入力されたメッセージのうちの一部の情報を、マスキング処理対象の情報として指定可能であってもよい。この場合、記録制御部８０３は、例えば、受信した入力情報のうち、マスキング処理対象の情報として指定された情報（例えば、住所の一部）に対するマスキング処理を実行することにしてもよい。入力情報のうち指定された情報以外の情報は、例えば、そのままログに記録される。

【0085】

また、チャットログは、図５に示したチャットログＤＢ１４０に記録される。具体的には、例えば、チャットボットでの会話中に記録されたチャットログは、例えば、メモリ２０２内のバッファに一旦格納される。チャットボットでの会話が終了すると、バッファ内の全チャットログが、チャットログＤＢ１４０に出力される。図５に示したチャットログ５００－１は、マスキング処理された入力情報を含むログの一例である。

【0086】

また、例えば、チャット画面７００において、マスキング処理対象外の情報として既に入力済みの情報について、チャットボットでの会話が終了する前に、マスキング処理対象の情報として追加で指定可能にしてもよい。この場合、記録制御部８０３は、例えば、メモリ２０２内のバッファに一旦格納されたログのうち、追加で指定されたマスキング処理対象の情報を含むログから当該情報を削除したり秘匿化したりするマスキング処理を実行する。

【0087】

上述した情報処理装置１０１の各機能部は、会話制御システム１００内の複数のコンピュータ（例えば、情報処理装置１０１と情報処理端末１０２）により実現されることにしてもよい。また、上述した情報処理装置１０１の各機能部は、情報処理端末１０２により実現されることにしてもよい。

【0088】

（情報処理装置１０１の動作例）
つぎに、図９および図１０を用いて、実施の形態１にかかる情報処理装置１０１の動作例について説明する。ここでは、チャットボットと連携した双方向コミュニケーションを利用して、健康相談を行う場合に表示されるチャット画面を例に挙げて説明する。

【0089】

図９は、チャット画面の画面例を示す説明図（その２）である。図１０は、情報処理装置１０１の動作例を示す説明図である。図９において、チャット画面７００には、アバターａｖの発言を表すメッセージｍ３が表示されている。メッセージｍ３は、ユーザの相談内容の入力を促すメッセージの一例である。

【0090】

ここでは、ユーザの相談内容の入力に先立って、ユーザの名前「富士太郎」が入力されている。名前「富士太郎」は、個人を特定可能な情報である。このため、メッセージｍ３に対してユーザの相談内容を入力されると、誰がどのような相談をしたのかを特定可能な情報がログに記録されてしまう。

【0091】

ここで、ユーザが自身の相談内容をログに残したくないと判断したため、チャット画面７００において、秘密ボタン７２０が選択された場合を想定する。この場合、情報処理端末１０２から情報処理装置１０１にオフレコ設定指示が送信され、オフレコモードが設定（ＯＮ）される。

【0092】

なお、秘密ボタン７２０が選択されると、例えば、オフレコモードが設定中であることを判別可能に秘密ボタン７２０の表示態様が変更される（例えば、図１０参照）。また、秘密ボタン７２０が選択されると、例えば、オフレコモードが設定中であることを示すアイコンが表示されることにしてもよい。

【0093】

また、チャット画面７００において、秘密ボタン７２０が選択された後、秘密ボタン７２０が再度選択されると、例えば、情報処理端末１０２から情報処理装置１０１にオフレコ解除指示が送信され、オフレコモードが解除（ＯＦＦ）される。また、オフレコモードは、情報処理端末１０２から情報処理装置１０１に入力情報が送信されると、その都度、自動で解除されることにしてもよい。

【0094】

図１０において、チャット画面７００には、ユーザの発言を表すメッセージｍ４が表示されている。メッセージｍ４は、アバターａｖのメッセージｍ３に対して入力された相談内容の一例である。入力されたメッセージｍ４は、情報処理端末１０２から情報処理装置に送信される。

【0095】

情報処理装置１０１は、例えば、メッセージｍ４を受信すると、ＦＡＱマスタ１２０を参照して、メッセージｍ４に基づいてＦＡＱの検索を行う。そして、情報処理装置１０１は、検索した結果を情報処理端末１０２に出力する。この結果、チャット画面７００において、アバターａｖの発言として、例えば、検索された結果（不図示）が選択可能に表示される。

【0096】

これにより、ユーザは、自身が入力した相談内容（質問）に対する回答（ＦＡＱ）を得ることができる。

【0097】

また、ここでは、オフレコモードが設定されている。このため、情報処理装置１０１は、チャットボットでの会話において受け付けたメッセージｍ４に関するチャットログを記録する際に、メッセージｍ４に対するマスキング処理を実行する。

【0098】

具体的には、例えば、情報処理装置１０１は、受信したメッセージｍ４を削除したチャットログ５００－５を記録する。チャットログ５００－５のｍｅｓｓａｇｅ「＊＊＊ｄｅｌｅｔｅｄ＊＊＊」は、入力情報が削除されたことを示している。なお、図１０では、チャットログの一部を抜粋して表示している。

【0099】

（情報処理装置１０１の会話制御処理手順）
つぎに、図１１および図１２を用いて、実施の形態１にかかる情報処理装置１０１の会話制御処理手順について説明する。

【0100】

図１１および図１２は、実施の形態１にかかる情報処理装置１０１の会話制御処理手順の一例を示すフローチャートである。図１１のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットの開始指示を受信したか否かを判断する（ステップＳ１１０１）。

【0101】

ここで、情報処理装置１０１は、チャットの開始指示を受信するのを待つ（ステップＳ１１０１：Ｎｏ）。情報処理装置１０１は、チャットの開始指示を受信した場合（ステップＳ１１０１：Ｙｅｓ）、スクリプトテーブル１３０を参照して、受信したチャットの開始指示に含まれるサービスＩＤに対応するスクリプトを、トークスクリプトに決定する（ステップＳ１１０２）。

【0102】

そして、情報処理装置１０１は、決定したトークスクリプトを用いて、情報処理端末１０２におけるチャットボットでの会話を開始する（ステップＳ１１０３）。この際、情報処理装置１０１は、入力情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力する。問い合わせ情報は、例えば、図７に示した秘密ボタン７２０である。

【0103】

つぎに、情報処理装置１０１は、情報処理端末１０２からオフレコ設定指示を受信したか否かを判断する（ステップＳ１１０４）。ここで、情報処理端末１０２からオフレコ設定指示を受信した場合（ステップＳ１１０４：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＮにして（ステップＳ１１０５）、図１２に示すステップＳ１２０１に移行する。

【0104】

一方、情報処理端末１０２からオフレコ設定指示を受信していない場合（ステップＳ１１０４：Ｎｏ）、情報処理装置１０１は、情報処理端末１０２からオフレコ解除指示を受信したか否かを判断する（ステップＳ１１０６）。

【0105】

ここで、情報処理端末１０２からオフレコ解除指示を受信していない場合（ステップＳ１１０６：Ｎｏ）、情報処理装置１０１は、図１２に示すステップＳ１２０１に移行する。一方、情報処理端末１０２からオフレコ解除指示を受信した場合には（ステップＳ１１０６：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＦＦにして（ステップＳ１１０７）、図１２に示すステップＳ１２０１に移行する。

【0106】

図１２のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信したか否かを判断する（ステップＳ１２０１）。ここで、入力情報を受信していない場合（ステップＳ１２０１：Ｎｏ）、情報処理装置１０１は、ステップＳ１２０６に移行する。

【0107】

一方、入力情報を受信した場合（ステップＳ１２０１：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に基づく応答処理を実行する（ステップＳ１２０２）。つぎに、情報処理装置１０１は、オフレコモードがＯＮであるか否かを判断する（ステップＳ１２０３）。

【0108】

ここで、オフレコモードがＯＮの場合（ステップＳ１２０３：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に対するマスキング処理を実行して、入力情報がマスキングされたチャットログを出力し（ステップＳ１２０４）、ステップＳ１２０６に移行する。

【0109】

一方、オフレコモードがＯＦＦの場合には（ステップＳ１２０３：Ｎｏ）、情報処理装置１０１は、受信した入力情報を含むチャットログを出力する（ステップＳ１２０５）。そして、情報処理装置１０１は、情報処理端末１０２におけるチャットボットでの会話を終了するか否かを判断する（ステップＳ１２０６）。

【0110】

ここで、会話を終了しない場合（ステップＳ１２０６：Ｎｏ）、情報処理装置１０１は、図１１に示したステップＳ１１０４に戻る。一方、会話を終了する場合（ステップＳ１２０６：Ｙｅｓ）、情報処理装置１０１は、本フローチャートによる一連の処理を終了する。なお、チャットボットでの会話は、例えば、トークスクリプトに従って、または、ユーザの強制終了操作に応じて終了する。

【0111】

これにより、情報処理端末１０２からオフレコ設定指示に応じて、チャットボットでの会話において受け付けた入力情報をマスキング処理してログ出力することができる。

【0112】

以上説明したように、実施の形態１にかかる情報処理装置１０１によれば、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信し、入力情報に基づく応答処理を実行することができる。また、情報処理装置１０１によれば、入力情報のマスキング処理依頼を受信した場合は、チャットボットでの会話に関するログを記録する際に、当該会話に関するログのうち入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行することができる。

【0113】

これにより、ユーザからのマスキング処理依頼に応じて、チャットボットでの会話において受け付けた入力情報に基づく応答処理（例えば、ＦＡＱの検索など）を実行しつつ、その入力情報をログに残さないようにすることができる。

【0114】

また、情報処理装置１０１によれば、チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報を情報処理端末１０２に出力することができる。そして、情報処理装置１０１によれば、情報処理端末１０２において問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、情報処理端末１０２からマスキング処理依頼を受信することができる。

【0115】

これにより、チャットボットでの会話において、例えば、ユーザが情報の入力前に秘密ボタン７２０（例えば、図７参照）を押すという簡単な操作を行うだけで、入力した情報をログに残さないようにすることが可能となる。

【0116】

このように、情報処理装置１０１によれば、チャットボットでの会話において入力した情報のログへの記録をユーザ自身がコントロールすることが可能となる。これにより、ユーザにとって知られたくないような情報の入力をともなうサービスを利用する際の不安を解消することができる。また、たとえ入力情報をマスクしても、トークスクリプト（シナリオ）のどのステップを実行したかの情報はログに残るため、事業者側の動線分析などに役立てることができる。

【0117】

（実施の形態２）
つぎに、実施の形態２にかかる情報処理装置１０１について説明する。実施の形態２では、情報処理装置１０１は、チャットボットでの会話において情報が入力される箇所と対応付けて、当該箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録する。そして、情報処理装置１０１は、記録した回数に基づいて、当該箇所において受け付けた入力情報がマスキング処理対象の情報であるか否かを判断する場合について説明する。なお、実施の形態１で説明した箇所と同様の箇所については、同一符号を付して図示および説明を省略する。

【0118】

（情報処理装置１０１の機能的構成例）
まず、図１３を用いて、実施の形態２にかかる情報処理装置１０１の機能的構成例について説明する。

【0119】

図１３は、実施の形態２にかかる情報処理装置１０１の機能的構成例を示すブロック図である。図１３において、情報処理装置１０１は、受付部８０１と、会話制御部８０２と、記録制御部８０３と、計数部１３０１と、を含む。具体的には、例えば、受付部８０１～記録制御部８０３および計数部１３０１は、図２に示したメモリ２０２、ディスク２０４、可搬型記録媒体２０７などの記憶装置に記憶されたプログラムをＣＰＵ２０１に実行させることにより、または、通信Ｉ／Ｆ２０５により、その機能を実現する。各機能部の処理結果は、例えば、メモリ２０２、ディスク２０４などの記憶装置に記憶される。

【0120】

以下、実施の形態２にかかる情報処理装置１０１の機能部のうち、実施の形態１にかかる情報処理装置１０１の機能部と異なる部分について説明する。

【0121】

計数部１３０１は、チャットボットでの会話内の第１の箇所と対応付けて、第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録する。ここで、第１の箇所は、チャットボットでの会話において情報が入力される箇所である。

【0122】

例えば、第１の箇所は、スクリプト内の複数のステップのうち、情報の入力や、選択肢の選択を受け付けて、入力された情報や、選択された選択肢を示す情報を発話するトーク処理が実行されるステップである。第１の箇所に対応する回数は、例えば、図１４に示すような回数カウンターテーブル１４００に記憶される。

【0123】

ここで、回数カウンターテーブル１４００の記憶内容について説明する。回数カウンターテーブル１４００は、例えば、図２に示したメモリ２０２、ディスク２０４などの記憶装置により実現される。

【0124】

図１４は、回数カウンターテーブル１４００の記憶内容の一例を示す説明図である。図１４において、回数カウンターテーブル１４００は、ｓｃｒｉｐｔ、ｌａｂｅｌおよび回数のフィールドを有し、各フィールドに情報を設定することで、回数情報（例えば、回数情報１４００－１～１４００－４）をレコードとして記憶する。

【0125】

ここで、ｓｃｒｉｐｔは、チャットボットでの会話に適用されたスクリプト（シナリオ）を示す。ｌａｂｅｌは、スクリプト内の複数のステップのうちトーク処理が実行されたステップの名前を示す。回数は、ステップで受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を示す。

【0126】

例えば、回数情報１４００－１は、スクリプトＰ１００内のｌａｂｅｌ「ＶＲＢ－１」のステップで受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数「５」を示す。

【0127】

一例として、トークスクリプトＰ１００に基づくチャットボットでの会話において、ｌａｂｅｌ「ＶＲＢ－１」のステップで受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した場合を想定する。この場合、計数部１３０１は、回数カウンターテーブル１４００内のｓｃｒｉｐｔ「Ｐ１００」およびｌａｂｅｌ「ＶＲＢ－１」に対応する回数情報１４００－１の回数をインクリメントする。

【0128】

記録制御部８０３は、情報処理端末１０２からチャットボットでの会話内の第１の箇所において受け付けた入力情報を受信した場合、第１の箇所と対応付けて記録された回数に基づいて、受信した入力情報がマスキング処理対象の情報であるか否かを判断する。ここで、マスキング処理対象の情報とは、チャットボットでの会話に関するログを記録する際に、ログに記録しない又は秘匿化する情報である。

【0129】

具体的には、例えば、記録制御部８０３は、第１の箇所と対応付けて記録された回数が第１のしきい値以上の場合に、受信した入力情報がマスキング処理対象の情報であると判断する。第１のしきい値は、任意に設定可能であり、例えば、第１の箇所に対応する回数を記録した期間長に応じて設定される。

【0130】

一例として、第１の箇所に対応する回数を、１日の期間記録した場合を想定する。この場合、第１のしきい値は、例えば、１０程度の値に設定される。また、第１の箇所に対応する回数を、１週間の期間記録した場合を想定する。この場合、第１のしきい値は、例えば、１００程度の値に設定される。

【0131】

また、記録制御部８０３は、第１の箇所において受け付けた入力情報を受信した総回数に対する、記録した回数の割合が第２のしきい値以上の場合に、受信した入力情報がマスキング処理対象の情報であると判断することにしてもよい。第２のしきい値は、任意に設定可能であり、例えば、０．６（６０％）～０．８（８０％）程度の値に設定される。

【0132】

ここで、マスキング処理対象の情報であると判断した場合、記録制御部８０３は、チャットボットでの会話に関するログを記録する際に、受信した入力情報に対するマスキング処理を実行する。一方、マスキング処理対象の情報ではないと判断した場合、記録制御部８０３は、受信した入力情報に対するマスキング処理を実行しない。

【0133】

また、会話制御部８０２は、チャットボットでの会話内の第１の箇所と対応付けて記録された回数が第１のしきい値以上となった場合に、第１の箇所で入力される情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力することにしてもよい。

【0134】

そして、記録制御部８０３は、情報処理端末１０２から第１の箇所において受け付けた入力情報を受信し、入力情報のマスキング処理依頼を受信した場合に、チャットボットでの会話に関するログを記録する際に、その入力情報に対するマスキング処理を実行することにしてもよい。

【0135】

（情報処理装置１０１の会話制御処理手順）
つぎに、実施の形態２にかかる情報処理装置１０１の会話制御処理手順について説明する。実施の形態２にかかる情報処理装置１０１では、例えば、所定の期間、第１の会話制御処理を実施した後、第２の会話制御処理が実施される。

【0136】

まず、図１５および図１６を用いて、実施の形態２にかかる情報処理装置１０１の第１の会話制御処理手順について説明する。

【0137】

図１５および図１６は、実施の形態２にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャートである。図１５のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットの開始指示を受信したか否かを判断する（ステップＳ１５０１）。

【0138】

ここで、情報処理装置１０１は、チャットの開始指示を受信するのを待つ（ステップＳ１５０１：Ｎｏ）。情報処理装置１０１は、チャットの開始指示を受信した場合（ステップＳ１５０１：Ｙｅｓ）、スクリプトテーブル１３０を参照して、受信したチャットの開始指示に含まれるサービスＩＤに対応するスクリプトを、トークスクリプトに決定する（ステップＳ１５０２）。

【0139】

そして、情報処理装置１０１は、決定したトークスクリプトを用いて、情報処理端末１０２におけるチャットボットでの会話を開始する（ステップＳ１５０３）。この際、情報処理装置１０１は、入力情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力する。問い合わせ情報は、例えば、図７に示した秘密ボタン７２０である。

【0140】

つぎに、情報処理装置１０１は、情報処理端末１０２からオフレコ設定指示を受信したか否かを判断する（ステップＳ１５０４）。ここで、情報処理端末１０２からオフレコ設定指示を受信した場合（ステップＳ１５０４：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＮにして（ステップＳ１５０５）、図１６に示すステップＳ１６０１に移行する。

【0141】

一方、情報処理端末１０２からオフレコ設定指示を受信していない場合（ステップＳ１５０４：Ｎｏ）、情報処理装置１０１は、情報処理端末１０２からオフレコ解除指示を受信したか否かを判断する（ステップＳ１５０６）。

【0142】

ここで、情報処理端末１０２からオフレコ解除指示を受信していない場合（ステップＳ１５０６：Ｎｏ）、情報処理装置１０１は、図１６に示すステップＳ１６０１に移行する。一方、情報処理端末１０２からオフレコ解除指示を受信した場合には（ステップＳ１５０６：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＦＦにして（ステップＳ１５０７）、図１６に示すステップＳ１６０１に移行する。

【0143】

図１６のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信したか否かを判断する（ステップＳ１６０１）。ここで、入力情報を受信していない場合（ステップＳ１６０１：Ｎｏ）、情報処理装置１０１は、ステップＳ１６０７に移行する。

【0144】

一方、入力情報を受信した場合（ステップＳ１６０１：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に基づく応答処理を実行する（ステップＳ１６０２）。つぎに、情報処理装置１０１は、オフレコモードがＯＮであるか否かを判断する（ステップＳ１６０３）。

【0145】

ここで、オフレコモードがＯＮの場合（ステップＳ１６０３：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に対するマスキング処理を実行して、入力情報がマスキングされたチャットログを出力する（ステップＳ１６０４）。そして、情報処理装置１０１は、回数カウンターテーブル１４００内の該当ラベルの回数をインクリメントして（ステップＳ１６０５）、ステップＳ１６０７に移行する。

【0146】

一方、オフレコモードがＯＦＦの場合には（ステップＳ１６０３：Ｎｏ）、情報処理装置１０１は、受信した入力情報を含むチャットログを出力する（ステップＳ１６０６）。そして、情報処理装置１０１は、情報処理端末１０２におけるチャットボットでの会話を終了するか否かを判断する（ステップＳ１６０７）。

【0147】

ここで、会話を終了しない場合（ステップＳ１６０７：Ｎｏ）、情報処理装置１０１は、図１５に示したステップＳ１５０４に戻る。一方、会話を終了する場合（ステップＳ１６０７：Ｙｅｓ）、情報処理装置１０１は、本フローチャートによる一連の処理を終了する。

【0148】

これにより、情報処理端末１０２からオフレコ設定指示に応じて、チャットボットでの会話において受け付けた入力情報をマスキング処理してログ出力することができる。また、トークスクリプト内のステップ（箇所）において受け付けた入力情報について、マスキング処理依頼された回数をカウントすることができる。

【0149】

つぎに、図１７および図１８を用いて、実施の形態２にかかる情報処理装置１０１の第２の会話制御処理手順について説明する。

【0150】

図１７および図１８は、実施の形態２にかかる情報処理装置１０１の第２の会話制御処理手順の一例を示すフローチャートである。図１７のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットの開始指示を受信したか否かを判断する（ステップＳ１７０１）。

【0151】

ここで、情報処理装置１０１は、チャットの開始指示を受信するのを待つ（ステップＳ１７０１：Ｎｏ）。情報処理装置１０１は、チャットの開始指示を受信した場合（ステップＳ１７０１：Ｙｅｓ）、スクリプトテーブル１３０を参照して、受信したチャットの開始指示に含まれるサービスＩＤに対応するスクリプトを、トークスクリプトに決定する（ステップＳ１７０２）。

【0152】

そして、情報処理装置１０１は、決定したトークスクリプトを用いて、情報処理端末１０２におけるチャットボットでの会話を開始する（ステップＳ１７０３）。つぎに、情報処理装置１０１は、回数カウンターテーブル１４００を参照して、決定したトークスクリプトのうちの現在位置のラベルの回数を取得する（ステップＳ１７０４）。

【0153】

そして、情報処理装置１０１は、取得した回数がしきい値以上であるか否かを判断する（ステップＳ１７０５）。ここで、回数がしきい値未満の場合（ステップＳ１７０５：Ｎｏ）、情報処理装置１０１は、オフレコモードをＯＦＦにして（ステップＳ１７０７）、図１８に示すステップＳ１８０１に移行する。

【0154】

なお、ステップＳ１７０４において、現在位置の回数を取得できなかった場合、情報処理装置１０１は、ステップＳ１７０７に移行する。

【0155】

一方、回数がしきい値以上の場合（ステップＳ１７０５：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＮにして（ステップＳ１７０６）、図１８に示すステップＳ１８０１に移行する。

【0156】

この際、情報処理装置１０１は、例えば、図１０に示したようにチャット画面７００内の秘密ボタン７２０を有効化することにしてもよい。さらに、情報処理装置１０１は、チャット画面７００内の秘密ボタン７２０とともに、「オフレコモードになっています。入力された情報はサーバに記録が残りません。」といったメッセージを表示することにしてもよい。また、第２の会話制御処理では、例えば、チャット画面７００内に秘密ボタン７２０を表示しないことにしてもよい。

【0157】

図１８のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信したか否かを判断する（ステップＳ１８０１）。ここで、入力情報を受信していない場合（ステップＳ１８０１：Ｎｏ）、情報処理装置１０１は、ステップＳ１８０６に移行する。

【0158】

一方、入力情報を受信した場合（ステップＳ１８０１：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に基づく応答処理を実行する（ステップＳ１８０２）。つぎに、情報処理装置１０１は、オフレコモードがＯＮであるか否かを判断する（ステップＳ１８０３）。

【0159】

ここで、オフレコモードがＯＮの場合（ステップＳ１８０３：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に対するマスキング処理を実行して、入力情報がマスキングされたチャットログを出力し（ステップＳ１８０４）、ステップＳ１８０６に移行する。

【0160】

一方、オフレコモードがＯＦＦの場合には（ステップＳ１８０３：Ｎｏ）、情報処理装置１０１は、受信した入力情報を含むチャットログを出力する（ステップＳ１８０５）。そして、情報処理装置１０１は、情報処理端末１０２におけるチャットボットでの会話を終了するか否かを判断する（ステップＳ１８０６）。

【0161】

ここで、会話を終了しない場合（ステップＳ１８０６：Ｎｏ）、情報処理装置１０１は、図１７に示したステップＳ１７０４に戻る。一方、会話を終了する場合（ステップＳ１８０６：Ｙｅｓ）、情報処理装置１０１は、本フローチャートによる一連の処理を終了する。

【0162】

これにより、トークスクリプト内のステップ（箇所）のうち、過去にマスキング処理依頼された回数がしきい値以上となるステップにおいて受け付けた入力情報を、マスキング処理してログ出力することができる。

【0163】

以上説明したように、実施の形態２にかかる情報処理装置１０１によれば、チャットボットでの会話内の第１の箇所と対応付けて、当該第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録することができる。

【0164】

これにより、チャットボットでの会話において情報が入力される箇所（スクリプト内のステップ）について、入力情報をログに残さないための操作、例えば、秘密ボタン７２０が押された回数を記録することができる。

【0165】

また、情報処理装置１０１によれば、情報処理端末１０２からチャットボットでの会話内の第１の箇所において受け付けた入力情報を受信した場合、記録した回数に基づいて、受信した入力情報がマスキング処理対象の情報であるか否かを判断することができる。そして、情報処理装置１０１によれば、マスキング処理対象の情報であると判断した場合に、受信した入力情報をログに記録しない又は秘匿化するマスキング処理を実行することができる。

【0166】

これにより、情報が入力される箇所においてログに残さないための操作が過去にどれだけ行われたのかを考慮して、その箇所で入力された情報が、マスキング処理対象の情報であるかを判断することができる。このため、多数のユーザがログに残さないための操作を行った箇所については、ユーザが秘密ボタン７２０を押すといった操作を行うことなく、入力した情報をログに残さないようにすることが可能となる。

【0167】

また、情報処理装置１０１によれば、情報処理装置１０１は、記録した回数がしきい値以上の場合に、受信した入力情報がマスキング処理対象の情報であると判断することができる。また、情報処理装置１０１によれば、第１の箇所に入力された入力情報を受信した総回数に対する、記録した回数の割合がしきい値以上の場合に、受信した入力情報がマスキング処理対象の情報であると判断することができる。

【0168】

これにより、集計期間中に他のユーザがログに残さないための操作を行った回数や割合の多さを考慮して、マスキング処理対象の情報が入力される箇所、すなわち、オフレコモードを自動設定する箇所を決めることができる。

【0169】

（実施の形態３）
つぎに、実施の形態３にかかる情報処理装置１０１について説明する。実施の形態３では、チャットボットでの会話において受け付けた入力情報に個人特定情報が含まれる場合に注意喚起を行う場合について説明する。なお、実施の形態１，２で説明した箇所と同様の箇所については、同一符号を付して図示および説明を省略する。

【0170】

（情報処理装置１０１の機能的構成例）
まず、図１９を用いて、実施の形態３にかかる情報処理装置１０１の機能的構成例について説明する。

【0171】

図１９は、実施の形態３にかかる情報処理装置１０１の機能的構成例を示すブロック図である。図１９において、情報処理装置１０１は、受付部８０１と、会話制御部８０２と、記録制御部８０３と、判定部１９０１と、を含む。具体的には、例えば、受付部８０１～記録制御部８０３および判定部１９０１は、図２に示したメモリ２０２、ディスク２０４、可搬型記録媒体２０７などの記憶装置に記憶されたプログラムをＣＰＵ２０１に実行させることにより、または、通信Ｉ／Ｆ２０５により、その機能を実現する。各機能部の処理結果は、例えば、メモリ２０２、ディスク２０４などの記憶装置に記憶される。

【0172】

以下、実施の形態３にかかる情報処理装置１０１の機能部のうち、実施の形態１にかかる情報処理装置１０１の機能部と異なる部分について説明する。

【0173】

判定部１９０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信した場合、入力情報に個人特定情報が含まれるか否かを判定する。ここで、個人特定情報は、個人を特定可能な情報であり、例えば、苗字（ラストネーム）、名前（ファーストネーム）、メールアドレスなどである。

【0174】

入力情報に個人特定情報が含まれるか否かの判定は、例えば、図２０に示すような個人特定情報マスタ２０００を用いて行われる。ここで、個人特定情報マスタ２０００の記憶内容について説明する。個人特定情報マスタ２０００は、例えば、図２に示したメモリ２０２、ディスク２０４などの記憶装置により実現される。

【0175】

図２０は、個人特定情報マスタ２０００の記憶内容の一例を示す説明図である。図２０において、個人特定情報マスタ２０００は、個人を特定可能な情報が含まれるか否かの判定に用いる辞書情報である。個人特定情報マスタ２０００には、例えば、苗字、名前、ドメイン名などの文字列が記憶されている。

【0176】

具体的には、例えば、判定部１９０１は、入力情報を解析して、個人特定情報マスタ２０００に記憶された文字列が含まれる場合に、入力情報に個人特定情報が含まれると判定する。例えば、入力情報に文字列「佐藤」が含まれる場合、入力情報に個人特定情報が含まれると判定される。

【0177】

会話制御部８０２は、判定部１９０１によって入力情報に個人特定情報が含まれると判定された場合、チャットボットでの会話において入力される情報に対するマスキング処理のレコメンド情報を情報処理端末１０２に出力する。ここで、レコメンド情報は、マスキング処理の実施をレコメンドするためのメッセージやアイコンなどである。

【0178】

具体的には、例えば、会話制御部８０２は、チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報と対応付けて、マスキング処理のレコメンド情報を情報処理端末１０２に出力することにしてもよい。マスキング処理依頼は、例えば、情報処理端末１０２において問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、情報処理端末１０２から送信される。

【0179】

これにより、個人特定情報が含まれる入力情報が入力された後、それ以降に入力される情報に対してマスキング処理を実施するか否かをユーザが選択することが可能となる。なお、問い合わせ情報と対応付けて出力される、マスキング処理のレコメンド情報の具体例については、図２３を用いて後述する。

【0180】

また、判定部１９０１は、機械学習モデルＭを用いて、情報処理端末１０２におけるチャットボットでの会話において受け付けた入力情報に特定の単語が含まれるか否かを判定することにしてもよい。ここで、特定の単語は、例えば、パスワード、クレジットカード番号などである。機械学習モデルＭは、入力された文字列が特定の単語であるか否かを分類するための機械学習のモデルである。

【0181】

具体的には、例えば、判定部１９０１は、受け付けた入力情報（テキストデータ）を形態素解析して単語に分割する。つぎに、判定部１９０１は、機械学習モデルＭを用いて、分割した各単語が特定の単語であるか否かを判定する。そして、判定部１９０１は、少なくともいずれかの単語が特定の単語があると判定した場合に、入力情報に特定の単語が含まれると判定する。

【0182】

機械学習モデルＭは、例えば、特定の単語であるか否かを示すラベルが付与された文字列データを学習データ（教師データ）として、深層学習などの機械学習により生成される。より詳細に説明すると、例えば、機械学習モデルＭは、例えば、ＣＮＮやＬＳＴＭなどのアルゴリズムを用いた深層学習により生成することができる。

【0183】

なお、ＣＮＮは、Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋの略である。ＬＳＴＭは、Ｌｏｎｇ Ｓｈｏｒｔ－Ｔｅｒｍ Ｍｅｍｏｒｙの略である。機械学習モデルＭの生成例については、図２１を用いて後述する。また、特定の単語の判定例については、図２２を用いて後述する。

【0184】

会話制御部８０２は、判定部１９０１によって入力情報に特定の単語が含まれると判定された場合、情報処理端末１０２に注意喚起情報を出力することにしてもよい。ここで、注意喚起情報は、ユーザにとって大切な情報を入力していないかを注意喚起するためのメッセージやアイコンなどである。具体的には、例えば、会話制御部８０２は、チャットボットでの会話において、特定の単語が含まれると判定された入力情報と対応付けて、注意喚起情報を情報処理端末１０２に出力することにしてもよい。

【0185】

また、会話制御部８０２は、特定の単語が含まれると判定された入力情報について、新たな入力情報を情報処理端末１０２から受信することにしてもよい。この場合、会話制御部８０２は、情報処理端末１０２から受信した新たな入力情報に基づいて、応答処理を実行する。また、会話制御部８０２は、例えば、特定の単語が含まれると判定された入力情報は破棄（削除）する。すなわち、特定の単語が含まれると判定された入力情報については、応答処理が実行されず、ログも記録されない。

【0186】

また、注意喚起情報は、特定の単語が含まれると判定された入力情報に対するマスキング処理の実施をレコメンドする情報であってもよい。この場合、記録制御部８０３は、特定の単語が含まれると判定された入力情報のマスキング処理依頼を受信した場合、チャットボットでの会話に関するログを記録する際に、当該会話に関するログのうち入力情報に関するログにおける当該入力情報に対するマスキング処理を実行する。

【0187】

なお、入力情報に特定の単語が含まれると判定された場合に出力される、注意喚起情報の具体例については、図２４を用いて後述する。

【0188】

（機械学習モデルＭの生成例）
つぎに、図２１を用いて、機械学習モデルＭの生成例について説明する。ここでは、特定の単語として、「パスワード」を例に挙げて説明する。

【0189】

図２１は、学習データの具体例を示す説明図である。図２１において、学習データ２１００は、ラベルが付与された教師データの集合（例えば、教師データ２１００－１～２１００－４）である。例えば、学習データ２１００は、ランダム文字列群と英単語群とを含む文字列群（図２１中、符号２１１０）のそれぞれの文字列に関する教師データを含む。

【0190】

ランダム文字列群は、パスワードを想定した文字列群であり、例えば、下記パターン１～９の任意の文字列を均等に含む文字列群である。例）は、各パターンに対応する文字列の一例である。

【0191】

パターン１：数字あり／記号あり／大文字あり、文字列長：４～２０
例）ｗ７ｍＧ＄ｉｊＧ

【0192】

パターン２：数字あり／記号なし／大文字なし、文字列長：４～２０
例）ａ０ｒ３７ｍ６ｂ

【0193】

パターン３：数字なし／記号あり／大文字なし、文字列長：４～２０
例）ａ．ｏｐｉ｜／＄

【0194】

パターン４：数字なし／記号なし／大文字あり、文字列長：４～２０
例）ＧｑＡＤｋＹｗＨ

【0195】

パターン５：数字あり／記号あり／大文字なし、文字列長：４～２０
例）｜ｍ３９）ｕｋ＃

【0196】

パターン６：数字あり／記号なし／大文字あり、文字列長：４～２０
例）Ｄｍ３ｆＧｄＱｏ

【0197】

パターン７：数字あり／記号あり／大文字なし、文字列長：４～２０
例）－ｚ０２；ｓｍ６

【0198】

パターン８：数字なし／記号あり／大文字あり、文字列長：４～２０
例）ｆｚ．Ｃｓ｛！～

【0199】

パターン９：数字なし／記号なし／大文字なし、文字列長：４～２０
例）ｍｉｑｍｘｙｆｉ

【0200】

英単語群は、任意の英単語を含む文字列群である。ランダム文字列群および英単語群は、それぞれ数千件程度（例えば、７０００～８０００件）の文字列を含む。

【0201】

各文字列（単語）は、ベクトル表現で表される（図２１中、符号２１２０）。例えば、各文字列は、各文字列に含まれる各文字を表すベクトルデータを出現順に並べた連続データ（文字列データ）である。各文字は、例えば、各文字のＡＳＣＩＩコードに対応する列を「１」、それ以外の列を「０」とする１２８次元のＯｎｅ－ｈｏｔベクトルによって表される。ＡＳＣＩＩは、Ａｍｅｒｉｃａｎ Ｓｔａｎｄａｒｄ Ｃｏｄｅ ｆｏｒ Ｉｎｆｏｒｍａｔｉｏｎ Ｉｎｔｅｒｃｈａｎｇｅの略である。

【0202】

ラベルは、文字列がパスワードであるか否かを示す情報である（図２１中、符号２１３０）。ここでは、文字列がパスワードの場合、ラベル「０．０」が付与される。また、文字列が非パスワードの場合、ラベル「１．０」が付与される。

【0203】

判定部１９０１は、例えば、学習データ２１００に基づいて、文字列を時系列の連続データとみなしてＲＮＮ／ＬＳＴＭを形成し、機械学習を行うことにより、機械学習モデルＭを生成する。機械学習モデルＭは、例えば、ＡＳＣＩＩ文字（ベクトル表現）の連続データ（配列）を入力として、パスワードである度合いを示す値を出力する。

【0204】

パスワードである度合いを示す値は、０から１までの数値（小数）によって表される。ここでは、パスワードである度合いを示す値は、０から１までの範囲で、パスワードである度合いが高いほど低い値となり、パスワードである度合いが低いほど高い値となる。

【0205】

ここで、図２２を用いて、パスワードの判定例について説明する。ここでは、判定対象となる文字列を「ｈＶＬＶｃａＷｆ」とする。

【0206】

図２２は、パスワードの判定例を示す説明図である。図２２において、連続データ２２００は、文字列「ｈＶＬＶｃａＷｆ」をベクトル表現したものである。具体的には、連続データ２２００は、文字列「ｈＶＬＶｃａＷｆ」に含まれる各文字を表すベクトルデータを出現順に並べたものである。

【0207】

例えば、文字列「ｈＶＬＶｃａＷｆ」に含まれる文字「ｈ」は、ＡＳＣＩＩコードに対応する１０４列目の列を「１」、それ以外の列を「０」とするベクトルデータによって表される。また、文字列「ｈＶＬＶｃａＷｆ」に含まれる文字「Ｖ」は、ＡＳＣＩＩコードに対応する８６列目の列を「１」、それ以外の列を「０」とするベクトルデータによって表される。

【0208】

ここでは、機械学習モデルＭに連続データ２２００を入力した結果、出力値「０．００００１」が出力された場合を想定する。この場合、判定部１９０１は、例えば、機械学習モデルＭの出力値「０．００００１」が、しきい値α未満の場合に、パスワードであると判定する。しきい値αは、任意に設定可能であり、例えば、０．５程度の値に設定される。例えば、しきい値αを「α＝０．５」とすると、判定部１９０１は、出力値「０．００００１」がしきい値α未満のため、文字列「ｈＶＬＶｃａＷｆ」がパスワードであると判定する。

【0209】

（マスキング処理のレコメンド情報の具体例）
つぎに、図２３を用いて、問い合わせ情報と対応付けて出力される、マスキング処理のレコメンド情報の具体例について説明する。

【0210】

図２３は、チャット画面の画面例を示す説明図（その３）である。図２３において、チャット画面２３００は、情報処理端末１０２におけるチャットボットでの会話を表示する操作画面の一例である。ここでは、図９に示したチャット画面７００と同様に、チャットボットと連携した双方向コミュニケーションを利用して、何らかの相談を行う場合を例に挙げて説明する。

【0211】

チャット画面２３００において、例えば、図３に示した入力装置３０４を用いたユーザの操作入力により、ボックス２３１０を選択することで、メッセージを入力することができる。また、チャット画面２３００において、送信ボタン２３１１を選択することで、ボックス２３１０に入力されたメッセージをチャットボット側（情報処理装置１０１）に送信することができる。

【0212】

ここで、チャット画面２３００には、アバターａｖの発言を表すメッセージｍ１１，ｍ１３と、ユーザの発言を表すメッセージｍ１２が表示されている。メッセージｍ１１は、ユーザの名前の入力を促すメッセージの一例である。メッセージｍ１２は、アバターａｖのメッセージｍ１に対して入力された名前の一例である。メッセージｍ１３は、ユーザの相談内容の入力を促すメッセージの一例である。

【0213】

ここでは、ユーザの相談内容の入力に先立って、ユーザの名前「佐藤太郎」が入力されている。この場合、チャットボットでの会話において受け付けた「佐藤太郎」が入力情報として、情報処理端末１０２から情報処理装置１０１に送信される。判定部１９０１は、個人特定情報マスタ２０００を参照して、入力情報「佐藤太郎」に個人特定情報が含まれるか否かを判定する。

【0214】

ここでは、入力情報「佐藤太郎」に、個人特定情報マスタ２０００に記憶された「佐藤」が含まれるため、入力情報「佐藤太郎」に個人特定情報が含まれると判定される。この場合、会話制御部８０２は、入力情報のログへの記録を許可するか否かの問い合わせ情報と対応付けて、マスキング処理のレコメンド情報を情報処理端末１０２に出力する。

【0215】

すなわち、チャットボットでの会話において、個人を特定可能な情報が入力されると、それ以降に入力される情報は、個人を特定可能な状態でサーバ上（例えば、情報処理装置１０１）に記録されることになる。このため、情報処理装置１０１は、チャットボットでの会話において以降入力される情報に対するマスキング処理をレコメンドする。

【0216】

図２３の例では、チャット画面２３００において、秘密ボタン２３２０と対応付けて、レコメンドメッセージ２３３０が表示されている。秘密ボタン２３２０は、入力情報のログへの記録を許可するか否かの問い合わせ情報の一例である。レコメンドメッセージ２３３０は、マスキング処理のレコメンド情報の一例である。

【0217】

レコメンドメッセージ２３３０によれば、ユーザは、秘密ボタン２３２０を押せば、入力した情報がログに記録されないことを把握することができる。例えば、ユーザが自身の相談内容をログに残したくないため、チャット画面２３００において、秘密ボタン２３２０を選択したとする。この場合、情報処理端末１０２から情報処理装置１０１にオフレコ設定指示が送信され、オフレコモードが設定（ＯＮ）される。

【0218】

（注意喚起情報の具体例）
つぎに、図２４を用いて、入力情報に特定の単語が含まれると判定された場合に出力される、注意喚起情報の具体例について説明する。

【0219】

図２４は、チャット画面の画面例を示す説明図（その４）である。図２４において、チャット画面２４００は、情報処理端末１０２におけるチャットボットでの会話を表示する操作画面の一例である。ここでは、図９に示したチャット画面７００と同様に、チャットボットと連携した双方向コミュニケーションを利用して、何らかの相談を行う場合を例に挙げて説明する。

【0220】

ここで、チャット画面２４００には、アバターａｖの発言を表すメッセージｍ２１，ｍ２３と、ユーザの発言を表すメッセージｍ２２が表示されている。ここでは、アバターａｖのメッセージｍ２３に対して、ボックス２４１０にユーザの相談内容が入力され、送信ボタン２４１１が選択された場合を想定する。

【0221】

この場合、ボックス２４１０に入力された相談内容が入力情報として、情報処理端末１０２から情報処理装置１０１に送信される。判定部１９０１は、入力情報（相談内容）を単語に分割し、機械学習モデルＭを用いて、分割した各単語にパスワードが含まれるか否かを判定する。

【0222】

例えば、ボックス２４１０に入力された相談内容の一部「ちなみにパスワードはｈＶＬＶｃａＷｆです。」を例に挙げると、単語「ちなみに」、「パスワード」、「は」、「ｈＶＬＶｃａＷｆ」、「です」、「。」に分割される。そして、単語「ｈＶＬＶｃａＷｆ」が、パスワードであると判定される。

【0223】

この場合、会話制御部８０２は、パスワードが含まれると判定された入力情報と対応付けて、注意喚起情報を情報処理端末１０２に出力する。例えば、チャットボットでの会話において、ユーザの相談内容としてパスワードを含む文章が入力されると、誤ってパスワードを入力した可能性があるため、大切な情報を入力していないかを注意喚起する。

【0224】

図２４の例では、チャット画面２４００において、ボックス２４１０の横に設けられた秘密ボタン２４２０と対応付けて、注意喚起情報２４３０が表示されている。秘密ボタン２４２０は、入力情報のログへの記録を許可するか否かの問い合わせ情報の一例である。注意喚起情報２４３０は、大切な情報を入力していないかを注意喚起するとともに、入力情報に対するマスキング処理の実施をレコメンドする情報の一例である。

【0225】

注意喚起情報２４３０によれば、ユーザは、大切な情報を入力していないかどうかを確認することができる。例えば、ユーザが誤ってパスワードを入力してしまったことに気付いた場合は、ボックス２４１０に相談内容を入力し直して、送信ボタン２４１１を選択することで、新たな入力情報を情報処理端末１０２から情報処理装置１０１に送信することができる。

【0226】

この場合、会話制御部８０２は、情報処理端末１０２から受信した新たな入力情報に基づいて、応答処理を実行する。また、会話制御部８０２は、パスワードが含まれると判定された入力情報は破棄する。また、記録制御部８０３は、パスワードが含まれると判定された入力情報については、ログに記録しない。

【0227】

また、ユーザが、パスワードが含まれていても問題ないと判断した場合は、例えば、相談内容を入力し直すことなく、送信ボタン２４１１を再度選択することで、入力情報を確定することができる。この場合、パスワードを含む入力情報に基づく応答処理が実行される。

【0228】

また、ユーザが、秘密ボタン２４２０を選択した上で、送信ボタン２４１１を再度選択することで、入力情報を確定するとともに、オフレコモードを設定（ＯＮ）することができる。この場合、チャットボットでの会話に関するログを記録する際に、入力情報に対するマスキング処理が実行される。

【0229】

（情報処理装置１０１の会話制御処理手順）
つぎに、実施の形態３にかかる情報処理装置１０１の会話制御処理手順について説明する。まず、図２５および図２６を用いて、実施の形態３にかかる情報処理装置１０１の第１の会話制御処理手順について説明する。第１の会話制御処理では、チャットボットでの会話において受け付けた入力情報に個人特定情報が含まれる場合に、マスキング処理をレコメンドする。

【0230】

図２５および図２６は、実施の形態３にかかる情報処理装置１０１の第１の会話制御処理手順の一例を示すフローチャートである。図２５のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットの開始指示を受信したか否かを判断する（ステップＳ２５０１）。

【0231】

ここで、情報処理装置１０１は、チャットの開始指示を受信するのを待つ（ステップＳ２５０１：Ｎｏ）。情報処理装置１０１は、チャットの開始指示を受信した場合（ステップＳ２５０１：Ｙｅｓ）、スクリプトテーブル１３０を参照して、受信したチャットの開始指示に含まれるサービスＩＤに対応するスクリプトを、トークスクリプトに決定する（ステップＳ２５０２）。

【0232】

そして、情報処理装置１０１は、決定したトークスクリプトを用いて、情報処理端末１０２におけるチャットボットでの会話を開始する（ステップＳ２５０３）。この際、情報処理装置１０１は、入力情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力する。問い合わせ情報は、例えば、図２３に示した秘密ボタン２３２０である。

【0233】

つぎに、情報処理装置１０１は、チャットボットでの会話において個人特定情報が入力済みであるか否かを判断する（ステップＳ２５０４）。ここで、個人特定情報が入力済みではない場合（ステップＳ２５０４：Ｎｏ）、情報処理装置１０１は、ステップＳ２５０６に移行する。

【0234】

一方、個人特定情報が入力済みの場合（ステップＳ２５０４：Ｙｅｓ）、情報処理装置１０１は、チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報と対応付けて、マスキング処理のレコメンド情報を情報処理端末１０２に出力する（ステップＳ２５０５）。

【0235】

つぎに、情報処理装置１０１は、情報処理端末１０２からオフレコ設定指示を受信したか否かを判断する（ステップＳ２５０６）。ここで、情報処理端末１０２からオフレコ設定指示を受信していない場合（ステップＳ２５０６：Ｎｏ）、情報処理装置１０１は、図２６に示すステップＳ２６０１に移行する。

【0236】

一方、情報処理端末１０２からオフレコ設定指示を受信した場合（ステップＳ２５０６：Ｙｅｓ）、情報処理装置１０１は、オフレコモードをＯＮにして（ステップＳ２５０７）、図２６に示すステップＳ２６０１に移行する。

【0237】

図２６のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信したか否かを判断する（ステップＳ２６０１）。ここで、入力情報を受信していない場合（ステップＳ２６０１：Ｎｏ）、情報処理装置１０１は、ステップＳ２６０９に移行する。

【0238】

一方、入力情報を受信した場合（ステップＳ２６０１：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に基づく応答処理を実行する（ステップＳ２６０２）。つぎに、情報処理装置１０１は、オフレコモードがＯＮであるか否かを判断する（ステップＳ２６０３）。

【0239】

ここで、オフレコモードがＯＮの場合（ステップＳ２６０３：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に対するマスキング処理を実行して、入力情報がマスキングされたチャットログを出力する（ステップＳ２６０４）。そして、情報処理装置１０１は、オフレコモードをＯＦＦにして（ステップＳ２６０５）、ステップＳ２６０７に移行する。

【0240】

一方、オフレコモードがＯＦＦの場合には（ステップＳ２６０３：Ｎｏ）、情報処理装置１０１は、受信した入力情報を含むチャットログを出力する（ステップＳ２６０６）。そして、情報処理装置１０１は、受信した入力情報に個人特定情報が含まれるか否かを判断する（ステップＳ２６０７）。

【0241】

ここで、入力情報に個人特定情報が含まれない場合（ステップＳ２６０７：Ｎｏ）、情報処理装置１０１は、ステップＳ２６０９に移行する。一方、入力情報に個人特定情報が含まれる場合（ステップＳ２６０７：Ｙｅｓ）、情報処理装置１０１は、個人特定情報が入力済みであることを記録する（ステップＳ２６０８）。

【0242】

そして、情報処理装置１０１は、情報処理端末１０２におけるチャットボットでの会話を終了するか否かを判断する（ステップＳ２６０９）。ここで、会話を終了しない場合（ステップＳ２６０９：Ｎｏ）、情報処理装置１０１は、図２５に示したステップＳ２５０４に戻る。一方、会話を終了する場合（ステップＳ２６０９：Ｙｅｓ）、情報処理装置１０１は、本フローチャートによる一連の処理を終了する。

【0243】

これにより、情報処理端末１０２におけるチャットボットでの会話において受け付けた入力情報に個人特定情報が含まれる場合に、チャットボットでの会話において以降入力される情報をマスキングするようレコメンドすることができる。

【0244】

つぎに、図２７を用いて、実施の形態３にかかる情報処理装置１０１の第２の会話制御処理手順について説明する。第２の会話制御処理では、チャットボットでの会話において受け付けた入力情報にパスワードが含まれる場合に、注意喚起情報を出力する。また、図２７では、チャットボットでの会話に関するログを記録する処理についての説明は省略する。

【0245】

図２７は、実施の形態３にかかる情報処理装置１０１の第２の会話制御処理手順の一例を示すフローチャートである。図２７のフローチャートにおいて、まず、情報処理装置１０１は、情報処理端末１０２からチャットの開始指示を受信したか否かを判断する（ステップＳ２７０１）。

【0246】

ここで、情報処理装置１０１は、チャットの開始指示を受信するのを待つ（ステップＳ２７０１：Ｎｏ）。情報処理装置１０１は、チャットの開始指示を受信した場合（ステップＳ２７０１：Ｙｅｓ）、スクリプトテーブル１３０を参照して、受信したチャットの開始指示に含まれるサービスＩＤに対応するスクリプトを、トークスクリプトに決定する（ステップＳ２７０２）。

【0247】

そして、情報処理装置１０１は、決定したトークスクリプトを用いて、情報処理端末１０２におけるチャットボットでの会話を開始する（ステップＳ２７０３）。この際、情報処理装置１０１は、入力情報のログへの記録を許可するか否かの問い合わせ情報を、情報処理端末１０２に出力することにしてもよい。問い合わせ情報は、例えば、図２４に示した秘密ボタン２４２０である。

【0248】

つぎに、情報処理装置１０１は、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信したか否かを判断する（ステップＳ２７０４）。ここで、入力情報を受信していない場合（ステップＳ２７０４：Ｎｏ）、情報処理装置１０１は、ステップＳ２７１１に移行する。

【0249】

一方、入力情報を受信した場合（ステップＳ２７０４：Ｙｅｓ）、情報処理装置１０１は、受信した入力情報に対するパスワード検出処理を実行する（ステップＳ２７０５）。パスワード検出処理は、機械学習モデルＭを用いて、入力情報に含まれるパスワードを検出する処理である。

【0250】

つぎに、情報処理装置１０１は、パスワードが検出されたか否かを判断する（ステップＳ２７０６）。ここで、パスワードが検出されなかった場合（ステップＳ２７０６：Ｎｏ）、情報処理装置１０１は、受信した入力情報に基づく応答処理を実行して（ステップＳ２７０７）、ステップＳ２７１１に移行する。

【0251】

一方、パスワードが検出された場合（ステップＳ２７０６：Ｙｅｓ）、情報処理装置１０１は、注意喚起情報を情報処理端末１０２に出力する（ステップＳ２７０８）。そして、情報処理装置１０１は、パスワードが検出された入力情報について、新たな入力情報を情報処理端末１０２から受信したか否かを判断する（ステップＳ２７０９）。

【0252】

ここで、新たな入力情報を受信していない場合（ステップＳ２７０９：Ｎｏ）、情報処理装置１０１は、ステップＳ２７０７に移行する。一方、新たな入力情報を受信した場合（ステップＳ２７０９：Ｙｅｓ）、情報処理装置１０１は、受信した新たな入力情報に基づく応答処理を実行する（ステップＳ２７１０）。

【0253】

そして、情報処理装置１０１は、情報処理端末１０２におけるチャットボットでの会話を終了するか否かを判断する（ステップＳ２７１１）。ここで、会話を終了しない場合（ステップＳ２７１１：Ｎｏ）、情報処理装置１０１は、ステップＳ２７０４に戻る。一方、会話を終了する場合（ステップＳ２７１１：Ｙｅｓ）、情報処理装置１０１は、本フローチャートによる一連の処理を終了する。

【0254】

これにより、チャットボットでの会話において受け付けた入力情報にパスワードが含まれる場合に、誤ってパスワードを入力していないかを注意喚起することができる。

【0255】

以上説明したように、実施の形態３にかかる情報処理装置１０１によれば、情報処理端末１０２からチャットボットでの会話において受け付けた入力情報を受信した場合、入力情報に個人特定情報が含まれるか否かを判定することができる。そして、情報処理装置１０１によれば、個人特定情報が含まれると判定した場合、チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を情報処理端末１０２に出力することができる。

【0256】

これにより、情報処理端末１０２におけるチャットボットでの会話において受け付けた入力情報に個人特定情報が含まれる場合に、チャットボットでの会話において以降入力される情報をマスキングするようレコメンドすることができる。例えば、個人を特定可能な情報が入力されると、それ以降入力された情報は、個人を特定可能な状態でログに記録されることになる。このため、個人を特定可能な情報が入力された場合に、それ以降に入力される情報についてのマスキング処理をレコメンドする。

【0257】

また、情報処理装置１０１によれば、入力された文字列が特定の単語であるか否かを分類するための機械学習モデル（Ｍ）を用いて、情報処理端末１０２におけるチャットボットでの会話において受け付けた入力情報に特定の単語が含まれるか否かを判定することができる。そして、情報処理装置１０１によれば、入力情報に特定の単語が含まれると判定した場合、情報処理端末１０２に注意喚起情報を出力することができる。

【0258】

これにより、チャットボットでの会話において受け付けた入力情報にパスワードなどの特定の単語が含まれる場合に、誤って不必要な情報を入力していないかを注意喚起することができる。

【0259】

これらのことから、実施の形態１～３にかかる情報処理装置１０１によれば、チャットボットを利用したサービスの円滑な利用を図ることができる。実施の形態１～３は、矛盾のないように組み合わせることにしてもよい。例えば、実施の形態１にかかる情報処理装置１０１が、実施の形態２にかかる情報処理装置１０１の機能と、実施の形態３にかかる情報処理装置１０１の機能とを有することにしてもよい。

【0260】

なお、本実施の形態で説明した会話制御方法は、あらかじめ用意されたプログラムをパーソナル・コンピュータやワークステーション等のコンピュータで実行することにより実現することができる。本会話制御プログラムは、ハードディスク、フレキシブルディスク、ＣＤ－ＲＯＭ、ＤＶＤ、ＵＳＢメモリ等のコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。また、本会話制御プログラムは、インターネット等のネットワークを介して配布してもよい。

【0261】

また、本実施の形態で説明した情報処理装置１０１は、スタンダードセルやストラクチャードＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）などの特定用途向けＩＣやＦＰＧＡなどのＰＬＤ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ｄｅｖｉｃｅ）によっても実現することができる。

【0262】

上述した実施の形態に関し、さらに以下の付記を開示する。

【0263】

（付記１）情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータに実行させることを特徴とする会話制御プログラム。

【0264】

（付記２）前記チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報を前記情報処理端末に出力する、処理を前記コンピュータに実行させ、
前記マスキング処理依頼は、前記情報処理端末において前記問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、前記情報処理端末から送信される、ことを特徴とする付記１に記載の会話制御プログラム。

【0265】

（付記３）前記チャットボットでの会話内の第１の箇所と対応付けて、当該第１の箇所で受け付けた入力情報を受信するとともに、当該入力情報のマスキング処理依頼を受信した回数を記録し、
情報処理端末から前記チャットボットでの会話内の前記第１の箇所において受け付けた入力情報を受信した場合、記録した前記回数に基づいて、受信した前記入力情報がマスキング処理対象の情報であるか否かを判断し、
前記マスキング処理対象の情報であると判断した場合に、受信した前記入力情報をログに記録しない又は秘匿化するマスキング処理を実行する、
処理を前記コンピュータに実行させることを特徴とする付記１に記載の会話制御プログラム。

【0266】

（付記４）前記判断する処理は、
記録した前記回数がしきい値以上の場合、又は、前記第１の箇所に入力された入力情報を受信した総回数に対する前記回数の割合がしきい値以上の場合に、受信した前記入力情報が前記マスキング処理対象の情報であると判断する、ことを特徴とする付記３に記載の会話制御プログラム。

【0267】

（付記５）情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に個人特定情報が含まれるか否かを判定し、
前記個人特定情報が含まれると判定した場合、前記チャットボットでの会話において入力される情報に対するマスキング処理をレコメンドする情報を前記情報処理端末に出力する、
処理を前記コンピュータに実行させることを特徴とする付記１に記載の会話制御プログラム。

【0268】

（付記６）前記チャットボットでの会話において、入力情報のログへの記録を許可するか否かの問い合わせ情報と対応付けて、前記レコメンドする情報を前記情報処理端末に出力する、処理を前記コンピュータに実行させ、
前記マスキング処理依頼は、前記情報処理端末において前記問い合わせ情報に対応してログへの記録を許可しない旨の操作が行われた場合に、前記情報処理端末から送信される、ことを特徴とする付記５に記載の会話制御プログラム。

【0269】

（付記７）入力された文字列が特定の単語であるか否かを分類するための機械学習モデルを用いて、情報処理端末におけるチャットボットでの会話において受け付けた入力情報に前記特定の単語が含まれるか否かを判定し、
前記入力情報に前記特定の単語が含まれると判定した場合、前記情報処理端末に注意喚起情報を出力する、
処理を前記コンピュータに実行させることを特徴とする付記１に記載の会話制御プログラム。

【0270】

（付記８）前記機械学習モデルは、前記特定の単語であることを示すラベルが付与された文字列データと、前記特定の単語ではないことを示すラベルが付与された文字列データとを教師データとして機械学習を行うことにより生成される、ことを特徴とする付記７に記載の会話制御プログラム。

【0271】

（付記９）情報処理端末からチャットボットでの会話において受け付けた入力情報を受信し、前記入力情報に基づく応答処理を実行し、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する、
処理をコンピュータが実行することを特徴とする会話制御方法。

【0272】

（付記１０）情報処理端末からチャットボットでの会話において受け付けた入力情報を受信した場合、前記入力情報に基づく応答処理を実行する会話制御部と、
前記入力情報のマスキング処理依頼を受信した場合は、前記チャットボットでの会話に関するログを記録する際に、前記会話に関するログのうち前記入力情報に関するログに記録しない又は秘匿化するマスキング処理を実行する記録制御部と、
を有することを特徴とする情報処理装置。

【符号の説明】

【0273】

１００ 会話制御システム
１０１ 情報処理装置
１０２ 情報処理端末
１０３ 管理者端末
１１０ ネットワーク
１２０ ＦＡＱマスタ
１３０ スクリプトテーブル
１４０ チャットログＤＢ
２００，３００ バス
２０１，３０１ ＣＰＵ
２０２，３０２ メモリ
２０３ ディスクドライブ
２０４ ディスク
２０５，３０５ 通信Ｉ／Ｆ
２０６ 可搬型記録媒体Ｉ／Ｆ
２０７ 可搬型記録媒体
３０３ ディスプレイ
３０４ 入力装置
３０６ カメラ
３０７ スピーカ
３０８ マイクロフォン
３０９ ＧＰＳユニット
７００，２３００，２４００ チャット画面
８０１ 受付部
８０２ 会話制御部
８０３ 記録制御部
１３０１ 計数部
１４００ 回数カウンターテーブル
１９０１ 判定部
２０００ 個人特定情報マスタ
２１００ 学習データ

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】

【図24】

【図25】

【図26】

【図27】