特開 2023-179398 判定装置及び判定方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023179398

(43)【公開日】2023-12-19

(54)【発明の名称】判定装置及び判定方法

(51)【国際特許分類】

   G06F 40/253 20200101AFI20231212BHJP

   G06Q 50/10 20120101ALI20231212BHJP

【ＦＩ】

G06F40/253

G06Q50/10

【審査請求】未請求

【請求項の数】6

【出願形態】ＯＬ

(21)【出願番号】P 2023112467

(22)【出願日】2023-07-07

(62)【分割の表示】P 2022092064の分割

【原出願日】2022-06-07

(71)【出願人】

【識別番号】512313953

【氏名又は名称】株式会社ビズリーチ

(74)【代理人】

【識別番号】110002815

【氏名又は名称】ＩＰＴｅｃｈ弁理士法人

(72)【発明者】

【氏名】中江 俊博

(72)【発明者】

【氏名】王 忠聖

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049CC11

(57)【要約】

【課題】 不適切な表現を含むメッセージを適切に判定することを可能とする判定装置及び判定方法を提供する。
【解決手段】 判定装置は、要求者と提供者との間のメッセージを管理する管理部と、前記メッセージが不適切であるか否かを判定する制御部と、を備え、前記制御部は、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定する。
【選択図】 図２

【特許請求の範囲】

【請求項1】

要求者と提供者との間のメッセージを管理する管理部と、
前記メッセージが不適切であるか否かを判定する制御部と、を備え、
前記制御部は、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定する、判定装置。

【請求項2】

前記メッセージ変数は、前記メッセージにおいて不適切な単語が出現するか否か、前記メッセージにおいて不適切な単語が出現する回数及び前記メッセージにおいて不適切な単語が出現する順序の中から選択された1以上のデータによって定義される、請求項１に記載の判定装置。

【請求項3】

前記メッセージ変数は、前記要求者と前記提供者との間のn回のメッセージについて設定される変数である、請求項１に記載の判定装置。

【請求項4】

前記属性変数は、前記要求者の属性、前記提供者の属性、前記メッセージの送信時刻、前記メッセージの送信回数及び前記メッセージの送信頻度の中から選択された1以上のデータによって定義される、請求項１に記載の判定装置。

【請求項5】

前記予測モデルは、前記メッセージ変数、前記属性変数及び前記メッセージが不適切であるか否かを学習データとして、前記学習データの学習によって構築される、請求項１に記載の判定装置。

【請求項6】

要求者と提供者との間のメッセージを管理するステップAと、
前記メッセージが不適切であるか否かを判定するステップBと、を備え、
前記ステップBは、
前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定するステップと、を含む、判定方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、判定装置及び判定方法に関する。

【背景技術】

【0002】

近年、情報通信技術の発展に伴って、様々なサービスが提供されている。様々なサービスを提供するにあたって、コミュニケーションに含まれる不適切な表現を検出する技術も提案されている。例えば、広告を提供するサービスにおいて、広告に含まれる不適切な表現を検出し、不適切な表現を含む広告の表示を制限する技術が提案されている（例えば、特許文献１）。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特開２０２１－２６６９０号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ところで、様々なサービスの1つとして、要求者と提供者とのマッチングを行うことによって、要求者が提供者から各種の情報を受け取ることを支援するサービス（以下、マッチングサービス）が知られている。例えば、要求者が所定企業への就職を希望する求職者（例えば、学生）であり、提供者が所定企業の在籍者又は退職者であるケース、要求者が所定企業への就職又は転職を希望する求職者（例えば、社会人）であり、提供者が所定企業への就職又は転職を斡旋するエージェントであるケースなどが考えられる。

【0005】

マッチングサービスにおいては、要求者と提供者との間において双方向のコミュニケーションが実施されることが想定され、数回に亘ってメッセージの送受信が実施されることが想定される。

【0006】

このような背景下において、不適切な表現を含むメッセージを判定することが望ましいが、不適切な表現を幅広く設定してしまうと、不適切な表現を含むメッセージが膨大な量となる可能性がある。従って、不適切な表現を含むメッセージの送信を制限すると、円滑なコミュニケーションが阻害され、不適切な表現を含むメッセージの目視検査を実施すると、目視検査に伴う作業負荷が増大する。

【0007】

そこで、本発明は、上述した課題を解決するためになされたものであり、不適切な表現を含むメッセージを適切に判定することを可能とする判定装置及び判定方法を提供することを目的とする。

【課題を解決するための手段】

【0008】

開示の一態様は、要求者と提供者との間のメッセージを管理する管理部と、前記メッセージが不適切であるか否かを判定する制御部と、を備え、前記制御部は、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定する、判定装置である。

【0009】

開示の一態様は、要求者と提供者との間のメッセージを管理するステップAと、前記メッセージが不適切であるか否かを判定するステップBと、を備え、前記ステップBは、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定するステップと、を含む、判定方法である。

【発明の効果】

【0010】

本発明によれば、不適切な表現を含むメッセージを適切に判定することを可能とする判定装置及び判定方法を提供することができる。

【図面の簡単な説明】

【0011】

【図1】図１は、実施形態に係る判定システム100を示す図である。

【図2】図２は、実施形態に係る判定装置30を示す図である。

【図3】図３は、実施形態に係る判定方法を示す図である。

【図4】図４は、実施形態に係る判定方法を示す図である。

【図5】図５は、変更例1に係る学習について説明するための図である。

【図6】図６は、変更例1に係る判定について説明するための図である。

【発明を実施するための形態】

【0012】

以下において、実施形態について図面を参照しながら説明する。なお、以下の図面の記載において、同一又は類似の部分には、同一又は類似の符号を付している。

【0013】

但し、図面は模式的なものであり、各寸法の比率などは現実のものとは異なる場合があることに留意すべきである。従って、具体的な寸法などは以下の説明を参酌して判断すべきである。また、図面相互間においても互いの寸法の関係又は比率が異なる部分が含まれている場合があることは勿論である。

【0014】

［開示の概要］
開示の概要に係る判定装置は、要求者と提供者との間のメッセージを管理する管理部と、前記メッセージが不適切であるか否かを判定する制御部と、を備え、前記制御部は、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定する。

【0015】

開示の概要に係る判定方法は、開示の一態様は、要求者と提供者との間のメッセージを管理するステップAと、前記メッセージが不適切であるか否かを判定するステップBと、を備え、前記ステップBは、前記メッセージに含まれる1以上の単語に関するメッセージ変数及び前記メッセージの属性に関する属性変数によって構築される予測モデルを用いて、前記メッセージが不適切であるか否かを判定するステップと、を含む。

【0016】

開示の概要では、判定装置は、メッセージに含まれる1以上の単語に関するメッセージ変数及びメッセージの属性に関する属性変数によって構築される予測モデルを用いて、メッセージが不適切であるか否かを判定する。このような構成によれば、要求者と提供者とのマッチングサービスなどを想定した場合に、メッセージに含まれる単語に基づいて単に判定するのではなく、メッセージの属性を考慮することによって、不適切な表現を含むメッセージを適切に判定することができる。

【0017】

なお、要求者は、所定組織への帰属を希望する求職者であり、提供者は、所定組織の在籍者又は退職者であってもよい。要求者は、所定組織への帰属を希望する求職者であり、提供者は、所定組織への帰属を斡旋するエージェントであってもよい。

【0018】

［実施形態］
（判定システム）
以下において、実施形態に係る判定システムについて説明する。図１は、実施形態に係る判定システム100を示す図である。

【0019】

図１に示すように、判定システム100は、第1端末10と、第2端末20と、判定装置30と、を有する。第1端末10、第2端末20、判定装置30は、ネットワーク200によって接続される。特に限定されるものではないが、ネットワーク200は、インターネット網によって構成されてもよい。ネットワーク200は、ローカルエリアネットワークを含んでもよく、移動体通信網を含んでもよく、VPN（Virtual Private Network）を含んでもよい。

【0020】

判定システム100（判定装置30）は、要求者と提供者とのマッチングを行うことによって、要求者が提供者から各種の情報を受け取ることを支援するサービス（以下、マッチングサービス）で用いるシステム（装置）である。

【0021】

例えば、要求者は、所定組織（例えば、企業など）への帰属（例えば、就職又は転職）を希望する求職者（例えば、学生、社会人）であってもよい。提供者は、所定組織の在籍者又は退職者であってもよく、所定組織への帰属（例えば、就職又は転職）を斡旋するエージェントであってもよい。このようなケースにおいて、マッチングサービスは、採用支援サービスであると考えてもよい。

【0022】

例えば、要求者は、所定情報の取得を希望する者であってもよく、所定情報を提供する者であってもよい。このようなケースにおいて、マッチングサービスは、情報支援サービスであると考えてもよい。

【0023】

以下においては、マッチングサービスが採用支援サービスであるケースについて例示する。特に限定されるものではないが、採用支援サービスは、要求者（例えば、学生）と同じ学校（高校、大学、大学院など）を卒業した提供者（例えば、在籍者又は退職者）を要求者に紹介するサービスを含んでもよい。採用支援サービスは、要求者（例えば、社会人）の就職又は転職を斡旋する提供者（例えば、エージェント）を要求者に紹介するサービスを含んでもよい。

【0024】

第1端末10は、要求者が使用する端末である。例えば、第1端末10は、パーソナルコンピュータであってもよく、スマートフォンであってもよく、タブレット端末であってもよい。第1端末10は、第2端末20に対してメッセージを送信する。特に限定されるものではないが、メッセージは、メール又はチャットなどのテキストデータの形式であってもよい。但し、メッセージは、音声をテキスト化したデータの形式であってもよい。以下において、第1端末10を要求者と称することもある。

【0025】

第2端末20は、提供者が使用する端末である。第2端末20は、パーソナルコンピュータであってもよく、スマートフォンであってもよく、タブレット端末であってもよい。第2端末20は、第1端末10に対してメッセージを送信する。特に限定されるものではないが、メッセージは、メール又はチャットなどのテキストデータの形式であってもよい。但し、メッセージは、音声をテキスト化したデータの形式であってもよい。以下において、第2端末20を提供者と称することもある。

【0026】

判定装置30は、第1端末10と第2端末20との間のコミュニケーション（実施形態では、メッセージ）が不適切であるか否かを判定する。判定装置30は、メッセージを中継することによってリアルタイムでメッセージを取得してもよく、メッセージを中継するサーバなどから、リアルタイムで又は事後的にメッセージを取得してもよい。判定装置30の詳細については後述する。

【0027】

（判定装置）
以下において、実施形態に係る判定装置について説明する。図２は、実施形態に係る判定装置30を示す図である。図２に示すように、判定装置30は、通信部31と、管理部32と、制御部33と、を有する。

【0028】

通信部31は、通信モジュールによって構成される。通信モジュールは、IEEE802.11a/b/g/n/ac/ax、LTE、5G、6Gなどの規格に準拠する無線通信モジュールであってもよく、IEEE802.3などの規格に準拠する有線通信モジュールであってもよい。

【0029】

実施形態では、通信部31は、第1端末10と第2端末20との間のメッセージを受信する。通信部31は、メッセージを中継することによってリアルタイムでメッセージをリアルタイムで受信してもよい。通信部31は、メッセージを中継するサーバなどから、リアルタイムで又は事後的にメッセージを受信してもよい。

【0030】

管理部32は、SSD（Solid State Drive）、HDD（Hard Disk Drive）などの記憶媒体によって構成されており、様々な情報を格納する。

【0031】

実施形態では、管理部32は、第1端末10（要求者）と第2端末20（提供者）との間のメッセージを管理する管理部を構成する。メッセージは、要求者及び提供者の組合せ対応付けて管理されてもよい。メッセージは、メッセージの送信時刻と対応付けて管理されてもよい。

【0032】

管理部32は、要求者の属性を管理してもよい。要求者が学生である場合には、要求者の属性は、要求者を識別する情報（氏名、IDなど）、要求者の職業（例えば、学生、大学生、大学院生、アルバイトなど）、要求者の所属（例えば、所属校、所属大学、学部など）を含んでもよい。要求者が社会人である場合には、要求者の属性は、要求者を識別する情報（氏名、IDなど）、要求者の業種又は職種（例えば、現在又は過去の業種又は職種）、要求者の所属（例えば、現在又は過去の企業）を含んでもよい。

【0033】

管理部32は、提供者の属性を管理してもよい。提供者が所定組織の在籍者又は退職者である場合には、提供者の属性は、提供者を識別する情報（氏名、IDなど）、提供者の出身（例えば、出身校、出身大学、出身学部など）を含んでもよい。提供者の属性は、提供者の所属（例えば、所属企業など）を含んでもよい。提供者の属性は、提供者の年齢、提供者が従事する職種などを含んでもよい。提供者がエージェントである場合には、提供者を識別する情報（氏名、IDなど）、提供者の所属（例えば、エージェントが所属するエージェント会社など）、提供者が専門で斡旋する業種（例えば、製造業、IT業など）又は職種（例えば、ソフトウェアエンジニア、法務人材など）を含んでもよい。エージェントは、第三者と称されてもよい。

【0034】

制御部33は、少なくとも１つのプロセッサを含んでもよい。少なくとも１つのプロセッサは、CPU（Central Processing Unit）、MPU（Micro Processing Unit）、GPU（Graphics Processing Unit）、１以上のIntegrated Circuit、１以上のDiscrete Circuit、及び、これらの組合せによって構成されてもよい。

【0035】

実施形態では、制御部33は、メッセージが不適切であるか否かを判定する制御部を構成する。言い換えると、制御部33は、不適切な表現を含むメッセージを判定する。不適切な表現は、後述する1以上の不適切な単語の組合せなどであってもよい。

【0036】

具体的には、制御部33は、メッセージに含まれる1以上の単語に関するメッセージ変数及びメッセージの属性に関する属性変数によって構築される予測モデルを用いて、メッセージが不適切であるか否かを判定する。具体的には、制御部33は、予測モデルを用いて、メッセージが不適切である確率を算定し、算定された確率が閾値を超えるメッセージが不適切であると判定する。なお、予測モデルの詳細については後述する。

【0037】

第1に、メッセージ変数は、管理部32で管理（蓄積）されるメッセージにおいて不適切な単語が出現するか否か、メッセージにおいて不適切な単語が出現する回数及びメッセージにおいて不適切な単語が出現する順序の中から選択された1以上のデータによって定義されてもよい。

【0038】

ここで、不適切な単語は、マッチングサービスの目的に照らし合わせて不適切であると判断される単語であってもよい。特に限定されるものではないが、不適切な単語は、違法な単語、反社会的な単語、誹謗・中傷を目的とする単語、宗教的な単語、不適切な出会いを目的とする単語、マッチングサービス以外の方法のコミュニケーションを目的とする単語などを含んでもよい。不適切な出会いは、マッチングサービスを用いずに要求者又は提供者への接触を図ること、マッチングサービスの規約に違反して要求者又は提供者への接触を図ることなどを含んでもよい。例えば、不適切な出会いは、所定組織への帰属を斡旋するエージェントがマッチングサービスを用いずに要求者への接触を図ることを含んでもよい。

【0039】

不適切な単語は、正規表現（文字列のパターン）によって定義されてもよい。例えば、不適切な単語は、単語単独で定義されてもよく、他の単語との組合せで定義されてもよい。

【0040】

不適切な単語は、マッチングサービスの事業者（以下、オペレータ等）によって手動で登録されてもよい。不適切な単語は、管理部32によって管理されてもよい。

【0041】

第2に、メッセージ変数は、要求者と提供者との間のn（nは2以上の整数）回のメッセージについて設定される変数であってもよい。具体的には、同一の要求者と同一の提供者との間において、n回のメッセージの通信が実行されるケースが想定される。このようなケースを想定して、n回のメッセージの各々についてメッセージ変数が設定されてもよい。

【0042】

ここで、メッセージ変数には、n回のメッセージの各々について異なる重付値が適用されてもよい。例えば、n回目のメッセージのメッセージ変数の重付値は、n-1回目のメッセージのメッセージ変数の重付値よりも高くてもよい。重付値は、メッセージ変数の重要性を調整するための値であってもよい。

【0043】

属性変数は、要求者の属性、提供者の属性、メッセージの送信時刻、メッセージの送信回数及びメッセージの送信頻度の中から選択された1以上のデータによって定義されてもよい。

【0044】

要求者の属性は、上述したように、要求者を識別する情報、要求者の職業、要求者の所属などを含んでもよい。要求者の属性は、管理部32によって管理される情報によって特定可能である。

【0045】

提供者の属性は、上述したように、提供者を識別する情報、提供者の属性は、提供者の出身、提供者の所属、提供者の年齢、提供者が従事する職種などを含んでもよい。提供者の属性は、管理部32によって管理される情報によって特定可能である。

【0046】

メッセージの送信時刻は、要求者から提供者にメッセージを送信した時刻であってもよく、提供者から要求者にメッセージを送信した時刻であってもよい。メッセージの送信時刻は、管理部32によって管理される情報によって特定可能である。

【0047】

メッセージの送信回数は、要求者から提供者にメッセージを送信した回数であってもよく、提供者から要求者にメッセージを送信した回数であってもよい。メッセージの送信回数は、要求者と提供者との間のメッセージの送信回数（すなわち、要求者から提供者にメッセージを送信した回数及び提供者から要求者にメッセージを送信した回数の合計）であってもよい。メッセージの送信回数は、管理部32によって管理される情報によって特定可能である。

【0048】

メッセージの送信回数は、一定期間において要求者から提供者にメッセージを送信した頻度であってもよく、一定期間において提供者から要求者にメッセージを送信した回数であってもよい。メッセージの送信回数は、要求者と提供者との間のメッセージの送信回数（すなわち、一定期間において要求者から提供者にメッセージ及び提供者から要求者にメッセージを送信した頻度）であってもよい。例えば、一定期間は、1日、1週間などのように、任意に設定することが可能であってもよい。メッセージの送信頻度は、管理部32によって管理される情報によって特定可能である。

【0049】

（予測モデル）
以下において、実施形態に係る予測モデルについて説明する。メッセージ変数をmで表し、属性変数をxで表した場合に、メッセージが不適切である確率は、p=F（m,x）で表されてもよい。pは、0～1の値を取る確率であってもよい。このようなケースにおいて、Fは、予測モデル（予測関数）の一例である。

【0050】

例えば、n回目のメッセージが不適切であるか否かを判定するケースについて考える。このようなケースにおいて、メッセージ変数m及び属性変数xは以下のように表されてもよい。

【0051】

第1に、メッセージ変数mは、以下に示す変数を含んでもよい。

【0052】

n回目のメッセージのメッセージ変数: m_n_1, m_n_2, m_n_3,…
n-1回目のメッセージのメッセージ変数: m_n-1_1, m_n-1_2, m_n-1_3,…
n-2回目のメッセージのメッセージ変数: m_n-2_1, m_n-2_2, m_n-2_3,…
…

【0053】

「m_n_1, m_n_2, m_n_3,…」、「m_n-1_1, m_n-1_2, m_n-1_3,…」、「m_n-2_1, m_n-2_2, m_n-2_3,…」は、上述したように、メッセージにおいて不適切な単語が出現するか否か、メッセージにおいて不適切な単語が出現する回数及びメッセージにおいて不適切な単語が出現する順序などを含んでもよい。m_n_1, m_n_2, m_n_3,…, m_n-1_1, m_n-1_2, m_n-1_3,…, m_n-2_1, m_n-2_2, m_n-2_3,…の各々には、異なる重付値が適用されてもよい。上述したように、メッセージ変数には、n回のメッセージの各々について異なる重付値が適用されてもよい。

【0054】

第2に、属性変数xは、以下に示す変数を含んでもよい。

【0055】

要求者の属性変数: xs_1, xs_2, …
提供者の属性変数: xo_1, xo_2, …

【0056】

「xs_1, xs_2, …」は、上述したように、要求者を識別する情報、要求者の職業、要求者の所属などを含んでもよい。「xo_1, xo_2, …」は、上述したように、提供者を識別する情報、提供者の属性は、提供者の出身、提供者の所属、提供者の年齢、提供者が従事する職種などを含んでもよい。xs_1, xs_2, …の各々には、異なる重付値が適用されてもよい。xo_1, xo_2, …の各々には、異なる重付値が適用されてもよい。

【0057】

このような前提下において、判定装置30は、p=F（m,x）が閾値p_0（=0～1）を超える場合に、n回目のメッセージが不適切であると判定する。一方で、判定装置30は、p=F（m,x）が閾値p_0（=0～1）を超えない場合に、n回目のメッセージが不適切でないと判定する。判定装置30は、n回目のメッセージが不適切であると判定した場合に、メッセージが不適切である旨をオペレータ等に通知してもよい。

【0058】

ここで、閾値p_0は、メッセージが不適切であると誤判定されることを許容するように設定されてもよい。すなわち、メッセージが不適切でないと判定する誤判定が生じにくく、メッセージが不適切であると判定する誤判定を許容するように、閾値p_0が設定されてもよい。閾値p_0は、管理部32で管理（蓄積）されるメッセージ（過去のメッセージ）が不適切であるか否かに関する履歴に基づいて設定されてもよい。閾値p_0は、オペレータ等によって設定されてもよい。

【0059】

（判定方法）
以下において、実施形態に係る判定方法について説明する。図３及び図４は、実施形態に係る判定方法について説明する図である。

【0060】

第1に、予測モデルの構築について、図３を参照しながら説明する。

【0061】

図３に示すように、ステップS10及びステップS11において、第1端末10と第2端末20との間でメッセージの送受信が実行される。ステップS10及びステップS11は繰り返されてもよい。

【0062】

ステップS12において、判定装置30は、第1端末10と第2端末20との間のメッセージを管理（蓄積）する。判定装置30は、メッセージを中継することによってリアルタイムでメッセージをリアルタイムで受信してもよい。判定装置30は、メッセージを中継するサーバなどから、リアルタイムで又は事後的にメッセージを受信してもよい。

【0063】

ステップS13において、判定装置30は、予測モデルを構築し、構築された予測モデルを記憶する。予測モデルは、ステップS12で管理（蓄積）されるメッセージ（過去のメッセージ）に基づいて構築されてもよい。

【0064】

ここで、オペレータ等は、ステップS12で管理（蓄積）されるメッセージ（過去のメッセージ）を参照して、以下に示す内容を手動で特定してもよい。オペレータ等は、メッセージの各々が不適切であるか否かを手動で特定してもよい。オペレータ等は、不適切な単語を手動で特定してもよい。オペレータ等は、予測モデルを定義するメッセージ変数の種類を特定してもよい。オペレータ等は、予測モデルを定義する属性変数の種類を特定してもよい。オペレータ等は、メッセージ変数に適用する重付値を特定してもよい。オペレータ等は、属性変数に適用する重付値を特定してもよい。オペレータ等は、メッセージの各々が不適切であるか否かを判定するための閾値を特定してもよい。

【0065】

このように、オペレータ等は、要求者と提供者との間の十分なメッセージを管理部32で管理できていることを前提として、予測モデルを構築することができることに留意すべきである。

【0066】

第2に、メッセージが不適切であるか否かの判定につて、図４を参照しながら説明する。

【0067】

図４に示すように、ステップS20～ステップS23において、第1端末10と第2端末20との間でメッセージの送受信が実行される。第1端末10と第2端末20との間でメッセージの送受信は繰り返されてもよい。

【0068】

ステップS30において、判定装置30は、ステップS13で構築された予測モデルを用いて、メッセージが不適切であるか否かを判定する。具体的には、判定装置30は、メッセージが不適切である確率を算定し、算定された確率が閾値を超えるメッセージが不適切であると判定する。

【0069】

なお、不適切であるか否かを判定する対象メッセージは、ステップS22で第1端末10から第2端末20に送信されるメッセージであってもよく、ステップS23で第2端末20から第1端末10に送信されるメッセージであってもよい。

【0070】

（作用及び効果）
実施形態では、判定装置30は、メッセージに含まれる1以上の単語に関するメッセージ変数及びメッセージの属性に関する属性変数によって構築される予測モデルを用いて、メッセージが不適切であるか否かを判定する。このような構成によれば、要求者と提供者とのマッチングサービスなどを想定した場合に、メッセージに含まれる単語に基づいて単に判定するのではなく、メッセージの属性を考慮することによって、不適切な表現を含むメッセージを適切に判定することができる。

【0071】

［変更例1］
以下において、実施形態の変更例1について説明する。以下においては、実施形態に対する相違点について主として説明する。

【0072】

実施形態では、予測モデルは、オペレータ等によって構築される予測関数Fであるケースについて例示した。これに対して、変更例1では、予測モデルは、管理部32で管理されるメッセージ（過去のメッセージ）に関する学習によって構築される。

【0073】

ここで、管理部32で管理されるメッセージが不適切であるか否かは、オペレータ等によって特定されていることを前提とする。すなわち、メッセージが不適切であるか否かのラベル付けが既に実施されていることを前提とする。

【0074】

変更例1では、予測モデルは、メッセージ変数、属性変数及びメッセージが不適切であるか否かを学習データとして、学習データの学習によって構築される。メッセージが不適切であるか否かのラベル付けが既に実施されていることから、学習データは教師データであると考えてもよい。

【0075】

第1に、図５に示すように、学習部35Aは、メッセージ変数、属性変数及びメッセージが不適切であるか否かの相関関係を学習する。学習部35Aは、上述した制御部33に設けられてもよい。メッセージ変数及び属性変数は、管理部32によって管理される情報によって特定される。メッセージが不適切であるか否かは、オペレータ等によって特定される。学習部35Aは、学習結果として、メッセージが不適切である確率を算定するための予測モデルを構築する。

【0076】

学習方法としては、AI（Artificial Intelligence）に代表される深層学習が用いられてもよい。例えば、学習方法としては、ロジスティック回帰が用いられてもよく、Gradient Boosting Decision Treeが用いられてもよい。

【0077】

第2に、図６に示すように、判定部35Bは、不適切であるか否かを判定する対象メッセージのメッセージ変数及び属性変数を予測モデルに入力し、対象メッセージが不適切である確率を算定してもよい。判定部35Bは、算定された確率が閾値を超えるメッセージが不適切であると判定してもよい。判定部35Bは、上述した制御部33に設けられてもよい。

【0078】

変更例1では、予測モデルが、メッセージが不適切である確率を算定するためのモデルであるケースについて例示した。しかしながら、変更例1はこれに限定されるものではない。予測モデルは、メッセージが不適切であるか否かを特定するためのモデルであってもよい。

【0079】

［変更例2］
以下において、実施形態の変更例2について説明する。以下においては、実施形態に対する相違点について主として説明する。

【0080】

変更例2では、所定組織への帰属を斡旋するエージェントに関するメッセージが不適切であるか否かを判定装置30が判定するケースについて主として説明する。

【0081】

例えば、メッセージ変数は、要求者に対するスカウトメールの履歴（回数、頻度、時刻など）、要求者からのスカウトメールに対する返信メールの履歴（回数、頻度、時刻など）を含んでもよい。

【0082】

例えば、属性変数は、要求者がマッチングサービスに料金を支払う有料会員であるか、要求者がマッチングサービスに料金を支払わない無料会員であるかなどの会員種別を含んでもよい。

【0083】

さらに、変更例2では、予測モデルを構築する変数として、メッセージ変数及び属性変数に加えて、他の変数が用いられてもよい。他の変数は、マッチングサービスに関する変数（以下、サービス変数）を含んでもよい。

【0084】

例えば、サービス変数は、要求者が所定組織への帰属を応募した履歴（応募履歴）、所定組織の担当者と要求者が面接又は面談を行った履歴（面接・面談履歴）、要求者が注目する組織の登録履歴（お気に入り登録履歴）、要求者の職務経歴（レジュメ）の更新履歴（レジュメ更新履歴）、所定組織の求人票を要求者が閲覧した履歴（閲覧履歴）、所定組織の求人票を要求者が検索した履歴（検索履歴）などを含んでもよい。

【0085】

例えば、サービス変数は、所定組織における要求者の選考の有無、所定組織における要求者の選考の進捗履歴、所定組織の求人票の変更履歴、所定組織における要求者の採用履歴などを含んでもよい。

【0086】

このようなケースにおいて、判定装置30は、サービス変数を特定するための情報を管理するデータベースを有していてもよく、サービス変数を特定するための情報を管理するデータベースと通信可能であってもよい。マッチングサービスは、採用者の求人票の管理、求職者の職務経歴の管理、求職者の選考の管理などのサービスを含んでもよい。上述した要求者は、求職者と読み替えてもよい。上述した所定組織又は提供者は、採用者と読み替えてもよい。

【0087】

［その他の実施形態］
本発明は上述した実施形態によって説明したが、この開示の一部をなす論述及び図面は、この発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施形態、実施例及び運用技術が明らかとなろう。

【0088】

上述した開示では、不適切な単語は、オペレータ等によって手動で登録される。しかしながら、上述した開示はこれに限定されるものではない。管理部32で管理されるメッセージが不適切であるか否かについてオペレータ等によって特定されていることを前提として、不適切であると特定されたメッセージの解析によって、不適切な単語が自動で登録されてもよい。例えば、解析は、TF-IDF（Term Frequency-Inverse Document Frequency）などの手法であってもよい。

【0089】

上述した開示では特に触れていないが、要求者と提供者との間のメッセージは、1対1のメッセージであってもよく、1対多のメッセージであってもよく、多対多のメッセージであってもよい。

【0090】

上述した開示では、管理部32が判定装置30に設けられるケースについて例示した。しかしながら、上述した開示はこれに限定されるものではない。管理部32は、判定装置30とは別体として、判定装置30と通信可能な同一の外部サーバに含まれてもよく、判定装置30と通信可能な別々の外部サーバに含まれてもよい。

【0091】

上述した開示では特に触れていないが、判定装置30が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。また、プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。

【0092】

或いは、判定装置30が行う各処理を実行するためのプログラムを記憶するメモリ及びメモリに記憶されたプログラムを実行するプロセッサによって構成されるチップが提供されてもよい。

【符号の説明】

【0093】

10…第1端末、20…第2端末、30…判定装置、31…通信部、32…管理部、33…制御部、40…第三者、100…判定システム、200…ネットワーク

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】