特開 2023-141357 推定プログラム、推定方法および情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023141357

(43)【公開日】2023-10-05

(54)【発明の名称】推定プログラム、推定方法および情報処理装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20230928BHJP

   G06Q 50/26 20120101ALI20230928BHJP

   G06Q 50/10 20120101ALI20230928BHJP

【ＦＩ】

G06N20/00 130

G06Q50/26

G06Q50/10

【審査請求】未請求

【請求項の数】9

【出願形態】ＯＬ

(21)【出願番号】P 2022047642

(22)【出願日】2022-03-23

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】紺野 剛史

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049CC20

5L049CC35

(57)【要約】

【課題】特殊詐欺の犯罪被害を効率的に防止することを課題とする。
【解決手段】情報処理装置は、電子機器を利用する人物の特徴量を示す特徴データを取得する。情報処理装置は、特徴データと人物の感情に関する感情情報とに基づいて機械学習された第一の機械学習モデルに、取得された特徴データを入力することで、人物の感情を推定する。情報処理装置は、推定された人物の感情の変化のパターンに基づいて、電子機器を利用する人物に対する犯罪行為の発生のリスクを推定する。
【選択図】図１

【特許請求の範囲】

【請求項1】

電子機器を利用する人物の特徴量を示す特徴データを取得し、
前記特徴データと人物の感情に関する感情情報とに基づいて機械学習された第一の機械学習モデルに、取得された前記特徴データを入力することで、前記人物の感情を推定し、
推定された前記人物の感情の変化のパターンに基づいて、前記電子機器を利用する前記人物に対する犯罪行為の発生のリスクを推定する、
処理をコンピュータに実行させることを特徴とする推定プログラム。

【請求項2】

前記リスクを推定する処理は、
前記人物の感情の変化のパターンを説明変数とするとともに、複数の犯罪行為のうち前記変化のパターンに対応する犯罪行為を目的変数とする正解データを用いて機械学習された第二の機械学習モデルを取得し、
取得した前記第二の機械学習モデルに対して、推定された前記人物の感情の変化のパターンを入力することで、前記複数の犯罪行為のそれぞれの前記犯罪行為の発生リスクの大きさを取得し、
取得した前記発生リスクの大きさに基づいて、前記複数の犯罪行為の中から前記電子機器を利用する前記人物に対する犯罪行為を特定する、
ことを特徴とする請求項１に記載の推定プログラム。

【請求項3】

前記人物の感情の変化のパターンは、前記電子機器に対する所定の操作が検出されてから予め設定された時間内での前記人物の感情の変化のパターンである、
ことを特徴とする請求項１に記載の推定プログラム。

【請求項4】

人物に装着されたセンサから、前記人物の皮膚電気または心電を取得し、
前記皮膚電気または前記心電から、前記人物の特徴データを生成し、
前記人物の特徴データを説明変数、前記人物の感情情報を目的変数とする正解データを用いて、前記正解データを前記第一の機械学習モデルに入力したときの出力結果と、前記人物の感情情報との誤差が最小となるように、前記第一の機械学習モデルの機械学習を実行する、
処理を前記コンピュータに実行させることを特徴とする請求項１に記載の推定プログラム。

【請求項5】

前記機械学習を実行する処理は、
前記人物の特徴データおよび前記人物の心理の指標を前記説明変数、前記人物の感情情報を前記目的変数とする前記正解データを前記第一の機械学習モデルに入力したときの出力結果と、前記人物の感情情報との誤差が最小となるように、前記第一の機械学習モデルを生成し、
前記推定する処理は、
前記電子機器を利用する人物の前記特徴データを前記第一の機械学習モデルに入力することで、前記人物の感情を推定し、
前記推定する処理は、
前記人物の感情の変化のパターンに基づいて、前記犯罪行為の発生のリスクを推定する、
ことを特徴とする請求項４に記載の推定プログラム。

【請求項6】

前記人物に対する犯罪行為は、複数の種類を有し、
前記人物の心理の指標は、前記複数の種類毎に設定される、ことを特徴とする請求項５に記載の推定プログラム。

【請求項7】

前記取得する処理は、
電話機の操作の有無を検出し、
前記電話機の操作がされたときに、前記電話機に装着されたカメラが撮影した映像データから、前記電話機を操作した人物の顔画像データを抽出し、
前記推定する処理は、
抽出された前記人物の顔画像データを前記第一の機械学習モデルに入力することで、前記人物の感情を推定し、
前記推定する処理は、
推定された前記人物の感情が所定の期間でのネガティブな状態からポジティブな状態に遷移する条件を満たすときに、前記人物に対する特殊詐欺の電話がされていることを推定する、
ことを特徴とする請求項１に記載の推定プログラム。

【請求項8】

電子機器を利用する人物の特徴量を示す特徴データを取得し、
前記特徴データと人物の感情に関する感情情報とに基づいて機械学習された第一の機械学習モデルに、取得された前記特徴データを入力することで、前記人物の感情を推定し、
推定された前記人物の感情の変化のパターンに基づいて、前記電子機器を利用する前記人物に対する犯罪行為の発生のリスクを推定する、
処理をコンピュータが実行することを特徴とする推定方法。

【請求項9】

電子機器を利用する人物の特徴量を示す特徴データを取得し、
前記特徴データと人物の感情に関する感情情報とに基づいて機械学習された第一の機械学習モデルに、取得された前記特徴データを入力することで、前記人物の感情を推定し、
推定された前記人物の感情の変化のパターンに基づいて、前記電子機器を利用する前記人物に対する犯罪行為の発生のリスクを推定する、
制御部を有することを特徴とする情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、推定プログラム、推定方法および情報処理装置に関する。

【背景技術】

【0002】

従来から、特に高齢者を対象としてオレオレ詐欺、還付金詐欺などの特殊詐欺が発生していることから、行政や警察などでも講習会を行うなど、注意喚起や取り締まりの強化が行われている。近年では、過去に発生した特殊詐欺の電話のやり取りをテキスト化し、電話中の会話とキーワードとを用いて、特殊詐欺の発生を検出する技術が知られている。

【先行技術文献】

【非特許文献】

【0003】

【非特許文献1】ＮＴＴ西日本、［online］、令和４年３月１０日検索、「ＮＴＴ西日本の特殊詐欺対策について」、“URL：https://www.ntt-west.co.jp/info/support/special-fraud-support_service.html”

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、上記技術では、過去に発生した特殊詐欺しか検出することができず、新たに特殊詐欺には対応することができないので、十分に特殊詐欺の被害を防止できるとは言い難い。

【0005】

一つの側面では、特殊詐欺の犯罪被害を効率的に防止することができる推定プログラム、推定方法および情報処理装置を提供することを目的とする。

【課題を解決するための手段】

【0006】

第１の案では、推定プログラムは、電子機器を利用する人物の特徴量を示す特徴データを取得し、前記特徴データと人物の感情に関する感情情報とに基づいて機械学習された第一の機械学習モデルに、取得された前記特徴データを入力することで、前記人物の感情を推定し、推定された前記人物の感情の変化のパターンに基づいて、前記電子機器を利用する前記人物に対する犯罪行為の発生のリスクを推定する、処理をコンピュータに実行させることを特徴とする。

【発明の効果】

【0007】

一実施形態によれば、特殊詐欺の犯罪被害を効率的に防止することができる。

【図面の簡単な説明】

【0008】

【図1】図１は、実施例１にかかるシステム構成を説明する図である。

【図2】図２は、犯罪検知モデルを説明する図である。

【図3】図３は、実施例１にかかる情報処理装置の機能構成を示す機能ブロック図である。

【図4】図４は、第１訓練データＤＢを説明する図である。

【図5】図５は、第２訓練データＤＢを説明する図である。

【図6】図６は、被害者の感情の例を示す図である。

【図7】図７は、犯罪発生時の感情を示す図である。

【図8】図８は、還付金詐欺と感情パターンの関係を示す図である。

【図9】図９は、オレオレ詐欺と感情パターンの関係を示す図である。

【図10】図１０は、感情推定モデルの機械学習を説明する図である。

【図11】図１１は、犯罪リスク推定モデルの機械学習を説明する図である。

【図12】図１２は、犯罪リスクの推定を説明する図である。

【図13】図１３は、感情パターンの特定例を説明する図である。

【図14】図１４は、各モデルの機械学習処理の流れを示すフローチャートである。

【図15】図１５は、犯罪リスクの推定処理の流れを示すフローチャートである。

【図16】図１６は、感情推定モデルの機械学習の別例を説明する図である。

【図17】図１７は、キーワード抽出による例外判定例を説明する図である。

【図18】図１８は、ハードウェア構成例を説明する図である。

【発明を実施するための形態】

【0009】

以下に、本願の開示する推定プログラム、推定方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。

【実施例0010】

（全体構成）
図１は、実施例１にかかるシステム構成を説明する図である。図１に示すように、このシステムは、特殊詐欺防止ソリューション１、特殊詐欺グループ２、利用者宅３、自治体４を含む、官民が連携したシステムである。このシステムは、犯罪心理などを用いて訓練された犯罪検知モデルを用いて特殊詐欺をリアルタイムに検出して特殊詐欺の発生を未然に防止し、進化する特殊詐欺の特徴量を訓練して自治体等に効果的な指導を行う特殊詐欺防止システムの一例である。

【0011】

特殊詐欺防止ソリューション１は、企業等が実行するサービスであり、犯罪心理学と機械学習とを融合させた犯罪検知モデルを生成して提供する。この犯罪検知モデルは、犯罪心理学により特定された特殊詐欺発生時の利用者の感情のパターンを訓練したモデルである。例えば、犯罪検知モデルは、利用者の特徴量を示す特徴データの一例であるセンシングデータから利用者の感情を推定する第１機械学習モデルと、感情のパターンから特殊詐欺の可能性を推定する第２機械学習モデルを含み、電話中の利用者のリアルタイムな感情から特殊詐欺の可能性を推定する。

【0012】

特殊詐欺グループ２は、利用者宅３に電話をかけて、特殊詐欺などの犯罪を行う犯罪者である。例えば、特殊詐欺グループ２は、オレオレ詐欺、預貯金詐欺、キャッシュカード詐欺、架空料金詐欺、還付金詐欺、金融商品詐欺、ギャンブル詐欺、交際あっせん詐欺などを含む既知の特殊詐欺や、これらの詐欺の組合せや新たな詐欺を含む未知の特殊詐欺を行う。

【0013】

利用者宅３は、例えば高齢者などの利用者の自宅であり、特殊詐欺グループ２による詐欺の対象となっている利用者宅である。この利用者宅３には、情報処理装置１０と、映像や顔画像を撮像するカメラ、音声を集音するマイク、心拍数や呼吸数を測定するミリ波センサ、腕や指に装着して脈波などを測定するウェアラブル端末などを含む非接触型のセンシング端末とが設置されている。また、情報処理装置１０は、特殊詐欺防止ソリューション１によりされた犯罪検知モデル有し、利用者の電子機器（例えば電話機）や各センシング端末と通信可能に接続される。

【0014】

自治体４は、高齢者への指導、講習会などを行い、特殊詐欺の被害を防止する様々な施策を行う。なお、ここで例示した講習会は、自治体４などの地方公共団体等が行う講習会に限らず、民間が提供するサービス、町内会が行う講習会、学校で行われる講習会などが含まれる。

【0015】

このようなシステムにおいて、情報処理装置１０は、電話機を利用する人物のセンシングデータを取得する。情報処理装置１０は、センシングデータに基づいて学習された第１機械学習モデルに、取得したセンシングデータを入力することで、人物の感情を推定する。情報処理装置１０は、推定した人物の感情の変化のパターンに基づいて、電話機を利用する人物に対する犯罪の行為の発生のリスクを推定する。

【0016】

ここで、図１で用いる犯罪検知モデルを説明する。図２は、犯罪検知モデルを説明する図である。図２に示すように、情報処理装置１０は、学習フェーズと運用フェーズを実行する。

【0017】

学習フェーズでは、情報処理装置１０は、説明変数「センシングデータ」と目的変数「人物の感情」を含む訓練データを用いた機械学習により、第１機械学習モデルを生成する。また、情報処理装置１０は、説明変数「感情パターン」と目的変数「特殊詐欺」を含む訓練データを用いた機械学習により、第２機械学習モデルを生成する。

【0018】

運用フェーズでは、情報処理装置１０は、所定期間のセンシングデータを取得するたびに、特殊詐欺などの犯罪発生のリスクを推定する。具体的には、情報処理装置１０は、センシングデータｔ０が取得されると、第１機械学習モデルに入力して「感情Ａ」を推定する。その後、情報処理装置１０は、センシングデータｔ１が取得されると、第１機械学習モデルに入力して「感情Ｂ」を推定し、さらにその後、センシングデータｔ２が取得されると、第１機械学習モデルに入力して「感情Ｂ」を推定する。そして、情報処理装置１０は、感情パターン「感情Ａ、感情Ｂ、感情Ａ」が生成されると、この感情パターンを第２機械学習モデルに入力して、各種特殊詐欺を含む犯罪発生のリスクを推定する。

【0019】

図１に戻り、情報処理装置１０は、推定結果によりリスクが閾値以上である特殊詐欺を検出されると、利用者に対して、現在の電話が特殊詐欺である可能性が高いメッセージなどをリアルタイムに通知する。

【0020】

特殊詐欺防止ソリューション１においても、利用者宅３が転送されたセンシングデータを犯罪検知モデルに入力し、各種特殊詐欺を含む犯罪発生のリスクを推定する。ここで、特殊詐欺防止ソリューション１では、リスクが閾値以上である特殊詐欺を検出すると、利用者宅と紐づけられている関係者へ、犯罪発生の可能性があることをリアルタイムに通知する。この結果、関係者が警察等へ連絡することができ、警察による特殊詐欺グループの取り締まりが行われる。

【0021】

また、特殊詐欺防止ソリューション１や情報処理装置１０では、センシングデータと犯罪検知モデルの推定結果とが蓄積されると、それらを用いた新たな犯罪心理等の解析を行い、新たな詐欺や既知の詐欺に対する新たな手法などを検出する。例えば、特殊詐欺防止ソリューション１は、新たな詐欺や既知の詐欺に対する新たな手法などに追従するために、新たな犯罪心理等を用いて犯罪検知モデルの再学習を実行して情報処理装置１０に配信する一方で、これらの情報を自治体４に提供することで効果的な指導を行うことができる。

【0022】

上述したように、情報処理装置１０は、電話中の人物のセンシングデータを取得し、感情推定モデルに入力して電話中の感情を推定し、電話中の感情の変化パターンから特殊詐欺の発生リスクを推定することができるので、特殊詐欺の犯罪被害を効率的に防止することができる。

【0023】

（機能構成）
図３は、実施例１にかかる情報処理装置１０の機能構成を示す機能ブロック図である。図３に示すように、情報処理装置１０は、通信部１１、記憶部１２、制御部２０を有する。

【0024】

通信部１１は、他の装置との間の通信を制御する処理部であり、例えば通信インタフェースなどにより実現される。例えば、通信部１１は、センシング端末からセンシングデータを受信し、利用者へのアラームやメッセージなどを送信する。

【0025】

記憶部１２は、各種データや制御部２０が実行するプログラムなどを記憶する処理部の一例であり、例えばメモリやハードディスクなどにより実現される。この記憶部１２は、第１訓練データＤＢ１３、第２訓練データＤＢ１４、感情推定モデル１５、犯罪リスク推定モデル１６、センシングデータＤＢ１７を記憶する。

【0026】

第１訓練データＤＢ１３は、感情推定モデル１５の機械学習に用いる訓練データを記憶するデータベースである。図４は、第１訓練データＤＢ１３を説明する図である。図４に示すように、第１訓練データＤＢ１３が記憶する訓練データは、機械学習時の説明変数となる「センシングデータ」と、機械学習時に目的変数となる「感情」とが対応付けられたデータである。ここで記憶される「センシングデータ」は、一般的な家庭に設置可能なセンシング端末や一般ユーザが装着可能なセンシング端末で測定可能なセンシングデータを示す。「感情」は、そのセンシングデータが測定されたときの人の感情を示す。

【0027】

図４の例では、「画像データＳ、音声データＳ１、ミリ波データＳ２」が測定されたときの感情が「感情Ａ」であることが示されている。なお、画像データＳとは、電話中にカメラにより撮像されたデータであり、音声データＳ１とは、電話中にマイクにより集音されたデータであり、ミリ波データＳ２は、電話中にミリ波センサにより取得されたデータである。これらのセンシングデータは、センシングされたデータそのものでもよく、より詳細化された情報でもよい。例えば、声色、顔の脈拍などを採用することもできる。

【0028】

「感情Ａ」は、電話中の利用者の表情であり、うれしい、悲しいなどの一般的な指標を採用することもでき、ＰＯＭ２（Profile of Mood States Second Edition）で定義される「怒り～敵意」、「混乱～当惑」、「抑うつ～落込み」、「疲労～無気力」、「緊張～不安」、「活気～活力」、「友好」の７尺度を採用することもできる。

【0029】

第２訓練データＤＢ１４は、犯罪リスク推定モデル１６の機械学習に用いる訓練データを記憶するデータベースである。図５は、第２訓練データＤＢ１４を説明する図である。図５に示すように、第２訓練データＤＢ１４が記憶する訓練データは、機械学習時の説明変数となる「感情パターン」と、機械学習時に目的変数となる「特殊詐欺」とが対応付けられたデータである。ここで記憶される「感情パターン」は、電話中の利用者の感情の変化のパターンを示し、電話機に対する通話ボタンの応答操作などの所定の操作が検出されてから予め設定された時間内での人物の感情の変化のパターンである。「特殊詐欺」は、その感情パターンと対応付けられる特殊詐欺を特定する情報であり、複数の犯罪行為のうち当該感情パターンに対応する犯罪行為である。

【0030】

（感情の説明）
ここで、実施例１で用いる「感情」について、特殊詐欺グループから電話を受ける利用者（被害者）と、利用者に電話をかける特殊詐欺グループ（加害者）の両側面から説明する。まず、感情を詳細に説明する。図６は、被害者の感情の例を示す図である。ここでは、一例として、「友好」、「活気～活力」、「混乱～当惑」について説明する。図６に示すように、各感情は、利用者の状態、利用者の口調や雰囲気、利用者の感情内容に識別される。

【0031】

例えば、感情「友好」の状態は、利用者が対話の相手に、導入や信頼などの注意関心を持つ状態である。この「友好」の状態では、利用者の口調や雰囲気が「丁寧、明るい、同調」となり、利用者の感情内容としては対話の相手に「信頼感を持つ、興味関心を持つ」ことが特徴的である。

【0032】

感情「混乱～当惑」の状態は、利用者が対話の相手に、動揺して心拍変動が発生する状態である。この「混乱～当惑」の状態では、利用者の口調や雰囲気が「丁寧、平坦」となり、利用者の感情内容としては対話の相手に「焦り、欲求を促進させる」ことが特徴的である。

【0033】

感情「活気～活力」の状態は、利用者が対話の相手に、行動促進などの覚醒水準の亢進が発生する状態である。この「活気～活力」の状態では、利用者の口調や雰囲気が「丁寧、平坦」となり、利用者の感情内容としては「行動を移す」ことが特徴的である。

【0034】

次に、被害発生時の加害者の誘導と被害者の感情について説明する。図７は、犯罪発生時の感情を示す図である。図７に示すように、加害者は、被害者に上記「友好」の感情を抱かせるために「丁寧、明るい、同調」などの口調や雰囲気で、被害者に「信頼感を与える、興味関心を持たせる」ことが目的として「役所ですが、お金が戻ります、書類が届いていませんか」などのキーワードを含む会話を行う。この結果、被害者は、公的機関への無条件の信頼、還付金への期待が発生し、「友好」の感情を持つようになる。

【0035】

また、加害者は、被害者に上記「混乱～当惑」の感情を抱かせるために「丁寧、平坦」などの口調や雰囲気で、被害者に「焦らせる、欲求を促進させる」ことが目的で「払い戻しの期日が過ぎた、特別・あなただけ、通帳とキャッシュカード、ＡＴＭで還付」などのキーワードを含む会話を行う。この結果、被害者は、焦りが生じ、疑いの気持ちが芽生え、説得されることとなり、「混乱～当惑」の感情を持つようになる。

【0036】

また、加害者は、被害者に上記「活気～活力」の感情を抱かせるために「丁寧、平坦」などの口調や雰囲気で、被害者に「通帳などを持ってＡＴＭに向かわせる」ことを目的として「係の者と電話で、指示に従って」などのキーワードを含む会話を行う。この結果、被害者は、ＡＴＭでの操作に不安感を感じ、指示に従おうとし、「活気～活力」の感情を持つようになる。

【0037】

上述したように、加害者は、特殊詐欺ごとに巧みな話術で感情を使い分けて、被害者の感情を誘導することにより、特殊詐欺を行う。つまり、特殊詐欺ごとに、被害者の感情の変化が異なることが多い。そこで、犯罪リスク推定モデル１６の機械学習には、過去の履歴、犯罪心理学の解析、加害者や被害者のアンケートなどにより、「感情パターン」と「特殊詐欺」と対応付けた訓練データを用いる。

【0038】

（感情パターンの説明）
ここで、一例として、特殊詐欺と感情パターンとの組合せについて説明する。図８は、還付金詐欺と感情パターンの関係を示す図である。図８に示すように、還付金詐欺では、犯人が利用者に電話をかけ、「お金が戻ってきますよ」などの興味関心を持たせる話を始め、「払い戻しの期日が過ぎた」などの焦らせる話を行い、最終的に「手数料を払えれば大丈夫です」などの行動を促進させる話を行うことが多い。この場合、利用者の感情は、興味関心の話により「友好」状態となり、焦らせる話により「混乱～当惑」状態となった後、行動を促進させる話により「活気～活力」状態となる。すなわち、「還付金詐欺」では、ポジティブな感情からネガティブの感情への変化が発生する。この結果、「還付金詐欺」には、「友好、混乱～当惑、活気～活力」の感情パターンが対応付けられる。

【0039】

図９は、オレオレ詐欺と感情パターンの関係を示す図である。図９に示すように、オレオレ詐欺では、利用者の身内を装う第１の犯人が利用者に電話をかけ、「会社のお金を落とした」などの焦らせる話を始め、途中で上司役の第２の犯人に代わり、「私も負担しますので大丈夫です」などの信頼感を持たせる話を行う。その後、第１の犯人が「お金を振り込んで欲しい」などの焦らせる話を再度行い、第２の犯人が「私が電話でサポートします」などの行動を促進させる話を行うことが多い。この場合、利用者の感情は、焦らせる話により「混乱～当惑」状態となり、信頼感を持たせる話により「友好」状態となり、再度、焦らせる話により「混乱～当惑」状態となった後、行動を促進させる話により「活気～活力」状態となる。すなわち、「オレオレ詐欺」では、ネガティブな感情からポジティブの感情への変化が発生する。この結果、「オレオレ詐欺」には、「混乱～当惑、友好、混乱～当惑、活気～活力」の感情パターンが対応付けられる。

【0040】

図３に戻り、感情推定モデル１５は、犯罪検知モデルに含まれる、利用者の感情を推定する第１機械学習モデルの一例である。具体的には、感情推定モデル１５は、センシングデータの入力に応じて感情を出力する機械学習モデルであり、複数の感情のうち各感情に該当する推定値（確率）を出力する多値判定モデルである。なお、感情推定モデル１５には、ニューラルネットワークなどの様々な数理モデルを採用することができる。

【0041】

犯罪リスク推定モデル１６は、犯罪検知モデルに含まれる、特殊詐欺などの犯罪の発生リスクを推定する第２機械学習モデルの一例である。具体的には、犯罪リスク推定モデル１６は、少なくとも１つ以上の感情が含まれる感情パターンの入力に応じて犯罪リスクを出力する機械学習モデルであり、複数の犯罪のうち各犯罪の発生リスク（確率）を推定する多値判定モデルである。なお、犯罪リスク推定モデル１６には、ニューラルネットワークなどの様々な数理モデルを採用することができる。

【0042】

センシングデータＤＢ１７は、利用者から測定したセンシングデータを記憶するデータベースである。具体的には、センシングデータＤＢ１７は、利用者ごと、または、日付ごと、または、通話ごとに、センシングデータを記憶する。なお、センシングデータに含まれるデータは、利用者宅に設置されるセンシング端末により任意に設定変更することができ、例えば画像データ、音声データ、ミリ波データなどが含まれる。

【0043】

制御部２０は、情報処理装置１０全体を司る処理部であり、例えばプロセッサなどにより実現される。この制御部２０は、機械学習部３０、運用部４０、報知部５０を有する。なお、機械学習部３０、運用部４０、報知部５０は、プロセッサが有する電子回路やプロセッサが実行するプロセスなどにより実現される。

【0044】

機械学習部３０は、第１機械学習部３１と第２機械学習部３２を有し、リアルタイムの特殊詐欺の検出に先立って、感情推定モデル１５および犯罪リスク推定モデル１６を生成する処理部である。

【0045】

第１機械学習部３１は、第１訓練データＤＢ１３に記憶される訓練データを用いた機械学習により、感情推定モデル１５を生成する処理部である。図１０は、感情推定モデルの機械学習を説明する図である。図１０に示すように、第１機械学習部３１は、「センシングデータ（画像データＳ、音声データＳ１、ミリ波データＳ２）」と「感情Ａ」を含む訓練データを感情推定モデル１５に入力し、感情推定モデル１５から出力結果を取得する。そして、第１機械学習部３１は、目的変数である「感情Ａ」と出力結果との誤差が小さくなるように、感情推定モデル１５の各種パラメータ更新を実行する。

【0046】

第２機械学習部３２は、第２訓練データＤＢ１４に記憶される訓練データを用いた機械学習により、犯罪リスク推定モデル１６を生成する処理部である。図１１は、犯罪リスク推定モデルの機械学習を説明する図である。図１１に示すように、第２機械学習部３２は、「感情パターン（感情Ａ→感情Ｂ→感情Ａ）」と「犯罪ＡＡ」を含む訓練データを犯罪リスク推定モデル１６に入力し、犯罪リスク推定モデル１６から出力結果を取得する。そして、第２機械学習部３２は、目的変数である「犯罪ＡＡ」と出力結果との誤差が小さくなるように、犯罪リスク推定モデル１６の各種パラメータ更新を実行する。

【0047】

運用部４０は、取得部４１、第１推定部４２、第２推定部４３を有し、機械学習部３０により生成された感情推定モデル１５と犯罪リスク推定モデル１６を用いて、利用者の電話内容から特殊詐欺の犯罪リスクを検出する処理部である。すなわち、運用部４０は、既知の特殊詐欺および未知の特殊詐欺の発生リスクをリアルタイムに推定する。

【0048】

取得部４１は、利用者のセンシングデータを取得する処理部である。具体的には、取得部４１は、利用者宅３に設置される各種センシング端末によりセンシングされたセンシングデータを取得し、センシングデータＤＢ１７に格納する。例えば、取得部４１は、固定電話であれば呼び出し音、携帯電話であれば無線通信による通話開始操作などの電話機の操作を検出すると、電話機に装着されたカメラが撮影した映像データを取得する。そして、取得部４１は、取得される映像データに対して既知の画像解析により、電話機を操作した人物の顔画像データを、センシングデータとして抽出する。

【0049】

第１推定部４２は、取得部４１により取得されたセンシングデータを感情推定モデル１５に入力することで、利用者の感情を推定する処理部である。例えば、第１推定部４２は、顔画像データを含むセンシングデータが取得されると、感情推定モデル１５に入力して、感情の推定結果を取得する。そして、第１推定部４２は、感情の推定結果のうち、閾値以上の推定確率である感情もしくは最も推定確率が高い感情を、推定結果と特定する。第１推定部４２は、推定結果を時系列で記憶部１２等に格納する。

【0050】

第２推定部４３は、第１推定部４２により推定された感情と犯罪リスク推定モデル１６とを用いて、特殊詐欺の発生リスクを推定する処理部である。例えば、第２推定部４３は、推定された感情を時系列に組み合わせて感情パターンを生成して犯罪リスク推定モデル１６に入力し、特殊詐欺の発生リスクの推定結果を取得する。

【0051】

例えば、第２推定部４３は、第１推定部４２により推定された人物の感情が所定の期間でネガティブな状態からポジティブな状態に遷移する条件を満たすときに、人物に対する特殊詐欺の電話がされていることを推定する。

【0052】

また、第２推定部４３は、犯罪リスク推定モデル１６に対して、推定された感情パターンを入力することで、複数の犯罪行為のそれぞれの犯罪行為の発生リスクの大きさを取得し、発生リスクの大きさに基づいて、複数の犯罪行為の中から人物に対する犯罪行為を特定する。例えば、第２推定部４３は、犯罪リスク推定モデル１６から取得した発生リスクの推定結果において、閾値以上の推定確率である犯罪もしくは最も推定確率が高い犯罪を、推定結果と特定する。第２推定部４３は、犯罪が検出された場合に、報知部５０に、推定された犯罪に関する情報を出力する。

【0053】

ここで、犯罪リスクの推定について説明する。図１２は、犯罪リスクの推定を説明する図である。図１２に示すように、運用部４０は、電話で会話中の利用者の外見的な情報や内面的な情報を、センシング端末を用いた外見的アプローチによりセンシングデータとして取得する。運用部４０は、随時取得されるセンシングデータを感情推定モデル１５に入力して人物の感情を随時推定する。

【0054】

そして、運用部４０は、会話開始から順次推定される各感情に関する情報を用いて感情パターンを生成する。例えば、運用部４０は、会話時間の時系列の順で、「活気～活力」、「混乱～当惑」、「活気～活力」の感情パターンを生成し、犯罪リスク推定モデル１６に入力し、「特殊詐欺推定度：〇％」などの推定結果を取得する。

【0055】

上記感情パターンは、例えば５分間隔などのように予め定めた時間内で推定された感情の情報を用いることで生成される。図１３は、感情パターンの特定例を説明する図である。図１３に示すように、運用部４０は、時刻Ｔ０で電話が開始されると、随時、感情推知を実行することで、Ｔ１で感情Ａを推定、Ｔ２で感情Ｂを推定し、Ｔ３で感情Ａを推定し、Ｔ４で感情Ｃを推定し、Ｔ５で感情Ｂを推定する。

【0056】

この場合、運用部４０は、最初に感情（感情Ａ）が推定されたＴ１を起点として指定時間内に推定された感情Ｂと感情Ｃを用いて、感情Ａと感情Ｂと感情Ａとを含む感情パターン１を生成し、犯罪リスクの推定を実行する。続いて、運用部４０は、Ｔ１の次に感情（感情Ｂ）が推定されたＴ２を起点として指定時間内に推定された感情Ａと感情Ｃを用いて、感情Ｂと感情Ａと感情Ｃとを含む感情パターン２を生成し、犯罪リスクの推定を実行する。続いて、運用部４０は、Ｔ２の次に感情（感情Ａ）が推定されたＴ３を起点として指定時間内に推定された感情Ｃと感情Ｂを用いて、感情Ａと感情Ｃと感情Ｂとを含む感情パターン３を生成し、犯罪リスクの推定を実行する。

【0057】

このように、運用部４０は、電話による会話が継続中の間、所定間隔内の感情を用いて感情パターンを生成して、犯罪リスクの推定を繰り返して実行する。なお、図１２で示した感情パターンの生成間隔は一例であり、任意に設定変更することができる。例えば、Ｔ、Ｔ２、Ｔ３を用いて感情パターンを生成し、次は、Ｔ４、Ｔ５、Ｔ６を用いて感情パターンを生成することもできる。

【0058】

図３に戻り、報知部５０は、運用部４０により犯罪リスクの推定された場合に、関係者に報知する処理部である。例えば、報知部５０は、推定確率が閾値以上である「犯罪発生のリスク」が推定された場合に、利用者宅３に設置されるスピーカに対して「電話相手は詐欺グループの可能性があります」などのメッセージを送信したり、利用者の携帯電話やウェアラブル端末を振動させたりして注意を促す。報知部５０は、予め登録されている緊急連絡先に、「〇〇様が電話中で特殊詐欺の可能性があります」などの緊急メッセージを送信することもできる。報知部５０は、警察や自治体へ通報することもできる。

【0059】

（機械学習処理の流れ）
図１４は、各モデルの機械学習処理の流れを示すフローチャートである。なお、感情推定モデル１５も犯罪リスク推定モデル１６も、同じ処理の流れで生成することができる。

【0060】

図１４に示すように、機械学習部３０は、処理開始が指示されると（Ｓ１０１：Ｙｅｓ）、各ＤＢから訓練データを取得し（Ｓ１０２）、該当の機械学習モデルに入力する（Ｓ１０３）。

【0061】

そして、機械学習部３０は、機械学習モデルの出力結果を取得し（Ｓ１０４）、訓練データの目的変数（正解情報）と出力結果の誤差を算出し（Ｓ１０５）、誤差が最小化するように機械学習モデルのパラメータ更新を実行する（Ｓ１０６）。

【0062】

ここで、所定数の訓練データを用いた機械学習や、所定エポック数が完了したなどの終了条件に到達した場合（Ｓ１０７：Ｙｅｓ）、機械学習部３０は、機械学習を終了する。一方、機械学習部３０は、機械学習を継続する場合（Ｓ１０７：Ｎｏ）、Ｓ１０２以降を繰り返す。

【0063】

（推定処理の流れ）
図１５は、犯罪リスクの推定処理の流れを示すフローチャートである。図１５に示すように、運用部４０は、センシングデータを取得すると（Ｓ２０１：Ｙｅｓ）、センシングデータを感情推定モデル１５に入力して、利用者の感情を推定する（Ｓ２０２）。ここで、運用部４０は、電話開始から所定時間が経過する前は（Ｓ２０３：Ｎｏ）、Ｓ２０１以降を繰り返す。

【0064】

一方、運用部４０は、電話開始から所定時間が経過すると（Ｓ２０３：Ｙｅｓ）、推定された感情を用いて、感情パターンを生成する（Ｓ２０４）。続いて、運用部４０は、感情パターンを犯罪リスク推定モデル１６に入力して犯罪リスクを推定する（Ｓ２０５）。

【0065】

そして、報知部５０は、運用部４０により犯罪リスクの推定された場合に（Ｓ２０６：Ｙｅｓ）、関係者に報知する（Ｓ２０７）。その後、運用部４０は、処理を継続する場合（Ｓ２０８：Ｎｏ）、Ｓ２０１以降が実行され、処理を終了する場合（Ｓ２０８：Ｙｅｓ）、犯罪リスクの推定を終了する。なお、Ｓ２０６において報知対象の犯罪リスクが推定されない場合（Ｓ２０６：Ｎｏ）、Ｓ２０７が実行されることなく、Ｓ２０８が実行される。

【0066】

（効果）
上述したように、情報処理装置１０は、センシングデータを感情推定モデル１５に入力することで、人物の感情を推定し、推定した人物の感情の変化である感情パターンに基づいて、人物に対する犯罪の行為の発生のリスクを推定する。したがって、情報処理装置１０は、センシングデータなどの観察プロセスの自動化や可視化、高精度な検知モデルの生成を実行することができる。

【0067】

情報処理装置１０は、人物の感情パターンから犯罪を類推することができるので、既知の特殊詐欺および未知の特殊詐欺の犯罪被害を防止することができる。また、情報処理装置１０は、正確な訓練データを用いた正確な推論を行う機械学習モデルを生成することができ、不要な訓練データを用いた場合に比べて、推定処理の高速化を実現することができる。

【0068】

情報処理装置１０は、感情パターンと犯罪との関係性を訓練した犯罪リスク推定モデル１６を用いて、人物に対する犯罪の行為の発生のリスクを推定する。したがって、情報処理装置１０は、新たな犯罪が発生した場合であっても、犯罪に関連した人物の感情パターンから犯罪の発生リスクを推定することができるので、未知の特殊詐欺の犯罪も効果的に防止することができる。

【0069】

情報処理装置１０は、特殊犯罪ごとに、過去の実績や犯罪心理学から得られる感情パターンを生成して、犯罪リスク推定モデル１６に訓練させる。したがって、情報処理装置１０は、過去の実績を訓練しつつ、過去の実績から類推される未知の犯罪時の感情パターンも訓練することができる。

【実施例0070】

ところで、実施例１では、感情推定モデル１５について、外見的アプローチによるセンシングデータを説明変数に用いた機械学習について説明したが、これに限定されるものではない。例えば、情報処理装置１０は、内面的アプローチによる指標を説明変数に用いた機械学習により、感情推定モデル１５の精度向上を図ることもできる。

【0071】

図１６は、感情推定モデル１５の機械学習の別例を説明する図である。図１６に示すように、情報処理装置１０の機械学習部３０は、外見的アプローチによるセンシングデータに加えて内面的アプローチにより生成された心理尺度を説明変数、感情を目的変数とする訓練データを用いて感情推定モデル１５の機械学習を実行する。

【0072】

この心理尺度は、人の心理や意識、行動傾向といった抽象的な概念を定量化した指標である。例えば、特殊犯罪の実験時の利用者や実際に特殊犯罪の電話を受けたことがある利用者に、「とても怒っている」、「困っている」などの複数の項目について該当する点数を選択させるアンケートを行い、その結果を点数化したものである。機械学習部３０は、特殊詐欺ごとに、合計点、平均点、分散値などを算出した尺度を説明変数に用いる。

【0073】

この結果、機械学習部３０は、各特殊詐欺により発生する利用者の「感情」に対して、外見的アプローチによるセンシングデータと内面的アプローチによる心理尺度を対応付けた訓練データにより機械学習を実行する。例えば、機械学習部３０は、説明変数「センシングデータ（画像データＳ、音声データＳ１、ミリ波データＳ２）、心理尺度Ｚ」と目的変数「感情Ａ」とを含む訓練データを感情推定モデル１５に入力し、感情推定モデル１５から出力結果を取得する。そして、機械学習部３０は、目的変数である「感情Ａ」と出力結果との誤差が小さくなるように、感情推定モデル１５の各種パラメータ更新を実行する。なお、運用時は、外見的アプローチによるセンシングデータを入力として推定を行う。

【0074】

この結果、外見的アプローチのみによる偏った訓練や外見的アプローチによるセンシングデータに偏りがある場合でも、内面的アプローチにより補正しつつ感情推定モデル１５を生成することができるので、感情の推定精度を向上させることもできる。

【0075】

また、実施例１では、非接触型のセンシング端末により得られるセンシングデータを用いる例を説明したが、これは、利用者宅３で、電話中の利用者を電話場所や時間帯によらず、いつでもセンシング可能なデータとして有効である側面がある。この非接触型のセンシングデータの正当性を担保する一つの手法として、皮膚電気や心電などの接触型センサを用いることができる。

【0076】

例えば、情報処理装置１０は、皮膚電気から得られる汗の量、心電から得られる心電図などを、公知の手法を用いて、非接触型のセンシングデータに変換することで、訓練データを生成することもできる。この結果、情報処理装置１０は、訓練データの信頼性を向上させることができる。

【0077】

なお、情報処理装置１０は、非接触型のセンシングデータと接触型のセンシングデータの両方を訓練データに用いることもできる。この場合、推定時には、非接触型のセンシングデータと接触型のセンシングデータのいずれか一方を用いる。この結果、非接触型のセンシングデータが取得可能な利用者宅では、より高精度な犯罪のリスク推定を実現できる。また、利用者宅の環境に依存することなく、犯罪のリスク推定を実現できる。