特許 7384558 有害行為検出システムおよび方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-11-13

(45)【発行日】2023-11-21

(54)【発明の名称】有害行為検出システムおよび方法

(51)【国際特許分類】

   G06Q 10/105 20230101AFI20231114BHJP

   G06F 16/35 20190101ALI20231114BHJP

【ＦＩ】

G06Q10/105

G06F16/35

【請求項の数】 7

(21)【出願番号】P 2019015384

(22)【出願日】2019-01-31

(65)【公開番号】P2020123204

(43)【公開日】2020-08-13

【審査請求日】2021-12-06

(73)【特許権者】

【識別番号】000233491

【氏名又は名称】株式会社日立システムズ

(74)【代理人】

【識別番号】110002066

【氏名又は名称】弁理士法人筒井国際特許事務所

(72)【発明者】

【氏名】岩垣 聡

(72)【発明者】

【氏名】島田 敦史

(72)【発明者】

【氏名】末弘 真寿美

(72)【発明者】

【氏名】千葉 英紀

(72)【発明者】

【氏名】堀内 幸一

【審査官】上田 威

(56)【参考文献】

【文献】特開２０１８－０４５５４５（ＪＰ，Ａ）

【文献】特開２０１８－０６８６１８（ＪＰ，Ａ）

【文献】特開２０１７－２１３２７８（ＪＰ，Ａ）

【文献】特開２００８－０６０６３９（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｑ １０／００ － ９９／００

Ｇ０６Ｆ １６／３５

(57)【特許請求の範囲】

【請求項1】

職場環境における人の間でのパワーハラスメント、セクシャルハラスメント、およびいじめを含む有害行為に関する観察および検出を行う計算機を備える有害行為検出システムであって、
前記計算機は、
対象者の周囲の音声を入力した音声データと、前記音声データからの音声認識に基づいて抽出した会話内容を表すワードを含む音声情報、前記音声データからの感情認識に基づいて分類した感情を表す感情情報、および前記対象者のバイタルデータの少なくとも１つと、日時情報と、前記対象者の位置情報とを含むデータを取得し、
前記取得されたデータに基づいて、前記対象者の周囲にいる他者のワードおよび感情と、前記対象者のワード、感情、およびバイタルデータとの５つの要素のうちの少なくとも１つの要素を用いて、前記有害行為に関する指標値を計算し、
前記指標値に基づいて、前記有害行為の被害者および加害者の少なくとも一方と、前記有害行為の有無または度合いと、を含む前記有害行為の状態を推定し、
前記推定された状態に応じた前記有害行為への対処のための対処データを出力し、
前記計算機は、前記取得したワードを、設定されているキーワードと比較し、該当するキーワードに応じて、前記ワードの評価値（Ｗ）を計算し、前記取得した感情の値に応じて、前記感情の評価値（Ｅ）を計算し、前記取得したバイタルデータの値を、設定されている範囲と比較し、該当する範囲に応じて、前記バイタルデータの評価値（Ｖ）を計算し、
前記計算機は、前記ワードの評価値（Ｗ）、前記感情の評価値（Ｅ）、および前記バイタルデータの評価値（Ｖ）を組み合わせた計算式を用いて、これらの３つの要素を反映した指標値（Ｓ）を計算し、
前記計算機は、時系列上で各時点の前記指標値を計算し、前記各時点の前記指標値の集計によって前記対象者の状態に関する危険度を計算し、予め設定された、前記危険度と前記対処とを関係付けた判定条件に基づいて、前記危険度に応じて前記判定条件から前記対処を決定する、
有害行為検出システム。

【請求項2】

請求項１記載の有害行為検出システムにおいて、
前記計算機は、［前記他者の前記ワードの評価値（Ｗ）］と［前記対象者の前記バイタルデータの評価値（Ｖ）］に対し、［前記他者の前記感情の評価値（Ｅ）］を反映する演算によって、前記指標値（Ｓ）を計算する、
有害行為検出システム。

【請求項3】

請求項１記載の有害行為検出システムにおいて、
前記計算機は、［前記対象者の前記ワードの評価値（Ｗ）］と［前記対象者の前記バイタルデータの評価値（Ｖ）］に対し、［前記対象者の前記感情の評価値（Ｅ）］を反映する演算によって、前記指標値（Ｓ）を計算する、
有害行為検出システム。

【請求項4】

請求項１記載の有害行為検出システムにおいて、
前記計算機は、前記指標値（Ｓ）を、（［前記ワードの評価値（Ｗ）］＋［前記バイタルデータの評価値（Ｖ）］）×［前記感情の評価値（Ｅ）］という計算式によって計算する、
有害行為検出システム。

【請求項5】

請求項１記載の有害行為検出システムにおいて、
ユーザ設定に応じて、前記対象者ごとに、個人差を調整するように、前記有害行為の状態の推定に関する判定条件の閾値を設定する、
有害行為検出システム。

【請求項6】

請求項１記載の有害行為検出システムにおいて、
前記計算機は、前記危険度を、設定されている複数の閾値範囲と比較し、該当する閾値範囲に応じて、設定されている複数の対処のうちの該当する対処を決定し、決定した対処に応じた前記対処データを作成し、前記対処データを、設定されている契約者端末または連絡先へ送信し、
前記複数の対処は、注意の通知、警告の通知、定期的なレポート、および警備員派遣を有する、
有害行為検出システム。

【請求項7】

職場環境における人の間でのパワーハラスメント、セクシャルハラスメント、およびいじめを含む有害行為に関する観察および検出を行う計算機を備える有害行為検出システムにおける有害行為検出方法であって、
前記計算機によって実行されるステップとして、
対象者の周囲の音声を入力した音声データと、前記音声データからの音声認識に基づいて抽出した会話内容を表すワードを含む音声情報、前記音声データからの感情認識に基づいて分類した感情を表す感情情報、および前記対象者のバイタルデータの少なくとも１つと、日時情報と、前記対象者の位置情報とを含むデータを取得するステップと、
前記取得されたデータに基づいて、前記対象者の周囲にいる他者のワードおよび感情と、前記対象者のワード、感情、およびバイタルデータとの５つの要素のうちの少なくとも１つの要素を用いて、前記有害行為に関する指標値を計算するステップと、
前記指標値に基づいて、前記有害行為の被害者および加害者の少なくとも一方と、前記有害行為の有無または度合いと、を含む前記有害行為の状態を推定するステップと、
前記推定された状態に応じた前記有害行為への対処のための対処データを出力するステップと、
前記取得したワードを、設定されているキーワードと比較し、該当するキーワードに応じて、前記ワードの評価値（Ｗ）を計算し、前記取得した感情の値に応じて、前記感情の評価値（Ｅ）を計算し、前記取得したバイタルデータの値を、設定されている範囲と比較し、該当する範囲に応じて、前記バイタルデータの評価値（Ｖ）を計算するステップと、
を有し、
前記指標値を計算するステップは、前記ワードの評価値（Ｗ）、前記感情の評価値（Ｅ）、および前記バイタルデータの評価値（Ｖ）を組み合わせた計算式を用いて、これらの３つの要素を反映した指標値（Ｓ）を計算するステップであり、
前記有害行為の状態を推定するステップは、時系列上で各時点の前記指標値を計算し、前記各時点の前記指標値の集計によって前記対象者の状態に関する危険度を計算するステップであり、
前記対処データを出力するステップは、予め設定された、前記危険度と前記対処とを関係付けた判定条件に基づいて、前記危険度に応じて前記判定条件から前記対処を決定するステップである、
有害行為検出方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理システム等の技術に関し、職場環境でのパワーハラスメント等の有害行為に関する観察、検出、および対処支援等に適用して有効な技術に関する。

【背景技術】

【0002】

大きな社会問題として、パワーハラスメント（power harassment：パワハラと記載する場合がある）、セクシャルハラスメント（sexual harassment：セクハラと記載する場合がある）、いじめ（bullying）、悪質クレームまたはカスタマーハラスメント（customer harassment）等の有害行為が存在する。会社、学校、店舗等の各種の職場環境において、社員、生徒、店員等の人は、そのような有害行為によって、精神的・身体的苦痛を受ける。また、その有害行為によって、職場環境が悪化する。有害行為の具体例としては、暴言、脅迫、強要、虐待、過度の説教や要求、等が挙げられる。このような社会問題に対し、一般的な対策は、教育や啓発等の意識付けや相談窓口設置程度に留まっており、有効な対策は実現できていない。このような社会問題は社会的に大きなコストとなる。このような有害行為に対し、情報処理システム等を用いて、防止や対処を支援できる仕組みが求められる。

【0003】

このような社会問題に係わる先行技術例としては、特開２００８－１６５０９７号公報（特許文献１）、特開２０１７－２１１５８６（特許文献２）が挙げられる。特許文献１には、いじめを早期発見し、抑制することを目的とした音声録音装置等を提供する旨が記載されている。特許文献１には、児童の行動が大人の目の届かなくなる時間帯を予めスケジュール登録し、そのスケジュールに従い音声録音を行い、録音音声データから、誹謗中傷目的のキーワードを検出し、いじめを早期発見する旨が記載されている。特許文献２には、心理分析装置として、振り込め詐欺等のソーシャル・エンジニアリングに対策する旨が記載されている。特許文献２には、発話者の音声データに対して感情分析を行い、発話者に関するテキストデータに対して文脈分析を行い、感情分析の結果と文脈分析の結果とを比較し、比較結果に基づいて発話者の心理を分析する旨が記載されている。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２００８－１６５０９７号公報

【文献】特開２０１７－２１１５８６号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

従来、職場環境でのパワハラ、セクハラ、いじめ等の有害行為に関して、情報処理システム等を用いて観察、検出、対処等を行う仕組みは、十分には検討されていない。従来技術例としては、警備会社等が、位置情報や監視カメラ映像等を用いて、対象利用者の見守りを行うシステム等が挙げられるが、有害行為に係わる人の心身の状態に関しては判断できていない。また、特許文献１の例のように、音声を用いていじめ等の検出を図る技術があるが、キーワードのみの判断であり、心身の状態に関しては判断できておらず、検出精度等には改善余地がある。

【0006】

本発明の目的は、情報処理システムを用いて、職場環境でのパワハラ、セクハラ、いじめ等の有害行為に関して検出でき、対処を支援することができる技術を提供することである。本発明の他の目的は、有害行為に関する被害者や加害者を検出してケアすることができ、職場環境の改善や悪化防止等に寄与できる技術を提供することである。本発明の他の課題や効果等については、発明を実施するための形態で説明される。

【課題を解決するための手段】

【0007】

本発明のうち代表的な実施の形態は、以下に示す構成を有する。一実施の形態は、職場環境における人の間でのパワーハラスメント、セクシャルハラスメント、およびいじめを含む有害行為に関する観察および検出を行う計算機を備える有害行為検出システムであって、前記計算機は、対象者の周囲の音声を入力した音声データと、前記音声データからの音声認識に基づいて抽出した会話内容を表すワードを含む音声情報、前記音声データからの感情認識に基づいて分類した感情を表す感情情報、および前記対象者のバイタルデータの少なくとも１つと、日時情報と、前記対象者の位置情報とを含むデータを取得し、前記取得されたデータに基づいて、前記対象者の周囲にいる他者のワードおよび感情と、前記対象者のワード、感情、およびバイタルデータとの５つの要素のうちの少なくとも１つの要素を用いて、前記有害行為に関する指標値を計算し、前記指標値に基づいて、前記有害行為の被害者および加害者の少なくとも一方と、前記有害行為の有無または度合いと、を含む前記有害行為の状態を推定し、前記推定された状態に応じた前記有害行為への対処のための対処データを出力する。

【発明の効果】

【0008】

本発明のうち代表的な実施の形態によれば、情報処理システムを用いて、職場環境でのパワハラ、セクハラ、いじめ等の害のある行為に関して検出でき、対応を支援することができる。本発明のうち代表的な実施の形態によれば、そのような行為に関する被害者や加害者を検出してケアすることができ、職場環境の改善や悪化防止等に寄与できる。

【図面の簡単な説明】

【0009】

【図1】本発明の実施の形態１の有害行為検出システムの構成を示す図である。

【図2】実施の形態１で、職場環境の第１例（会社）を示す図である。

【図3】実施の形態１で、職場環境の第２例（学校）を示す図である。

【図4】実施の形態１で、職場環境の第３例（店舗）を示す図である。

【図5】実施の形態１で、計算機の処理フローを示す図である。

【図6】実施の形態１で、情報端末およびサーバの構成を示す図である。

【図7】実施の形態１で、有害行為の発生の２つのパターンを示す図である。

【図8】実施の形態１で、取得データのテーブルの構成例を示す図である。

【図9】実施の形態１で、指標値の計算式、各要素の評価用の設定表、および判定条件の設定表を示す図である。

【図10】実施の形態１の変形例の有害行為検出システムの構成を示す図である。

【図11】本発明の実施の形態２の有害行為検出システムの構成を示す図である。

【図12】本発明の実施の形態３の有害行為検出システムの構成を示す図である。

【発明を実施するための形態】

【0010】

（実施の形態１）
図１～図１０を用いて、本発明の実施の形態１の有害行為検出システムおよび方法について説明する。実施の形態１の有害行為検出システムは、職場環境における人の間でのパワハラ等の有害行為に関する観察および検出を行う計算機を備えるシステムである。実施の形態１の有害行為検出方法は、実施の形態１の有害行為検出システムの計算機によって実行されるステップを有する方法である。

【0011】

［有害行為検出システム（１）］
図１は、実施の形態１の有害行為検出システムの基本構成を示す。実施の形態１の有害行為検出システムは、計算機として、対象者Ｈ１の情報端末１と、事業者のサーバ装置２と、契約者Ｈ３の契約者端末３とを有し、これらは通信網５を介して適宜に通信接続される。情報端末１は、職場環境の複数の人のうちの対象者Ｈ１が所有し携帯するスマートフォンやウェアラブル端末等の装置である。契約者端末３は、契約者Ｈ３が使用するスマートフォンやＰＣ等の装置である。この有害行為検出システムは、計算機の情報処理に基づいて、有害行為を観察し検出するシステムであり、有害行為に対する対処等を支援するシステムである。事業者は、有害行為検出システムを管理し、そのサービスを提供する。

【0012】

適用対象となる職場環境は、例えば会社であるが、これに限らず、後述の学校、店舗等の各種の職場環境が可能である。職場環境内には、対象者Ｈ１や他者Ｈ２等を含む複数の人、例えば社員が存在する。対象者Ｈ１は、有害行為検出システムのサービス利用に関して契約した利用者であり、例えば利用者Ａとする。対象者Ｈ１は、例えば有害行為の被害者であるとする。他者Ｈ２は、対象者Ｈ１に対する他者であり、職場環境内の他の人である。他者Ｈ２は、有害行為検出システムのサービス利用については契約していない利用者であり、例えば利用者Ｂとする。他者Ｈ２は、例えば有害行為の加害者であるとする。加害者は、言い換えると攻撃者であり、対象者Ｈ１にストレスや暴力等を与える人である。

【0013】

契約者Ｈ３は、有害行為検出システムのサービス利用に関して契約した、対象者Ｈ１と関係を持つ利用者であり、設定された所定の人であり、例えば利用者Ａに対する家族の人（例えば親やパートナー）である。警備員Ｈ４は、対処の一例として職場環境内に派遣される、設定された所定の人である。対象者Ｈ１に対する有害行為が検出され、その有害行為の度合いが大きい場合には、警備員Ｈ４が派遣される。警備員Ｈ４は、現場の状況に応じて、対象者Ｈ１と他者Ｈ２との間での調停、聴取、暴力抑止、保護、連絡等を行う。警備員Ｈ４は、例えば特定の社員としてもよいし、代わりに契約者Ｈ３としてもよい。

【0014】

情報端末１は、有害行為検出機能を構成するアプリケーションプログラム等を備える。情報端末１は、周囲の音声をマイクから入力して音声データとして取得する機能を備える。また、情報端末１は、入力の音声データに基づいて、音声認識処理によって、会話内容を表すワードを含むテキストや文字列等の音声情報を取得する機能を備える。また、情報端末１は、入力の音声データに基づいて、感情認識処理によって、発声者の感情を取得する機能を有する。この感情は、平常／喜／怒／哀／楽等の所定の複数の感情の分類のうちの選択される感情の値である。また、情報端末１は、入力の音声データに基づいて、声紋認識処理によって、発声者が対象者Ｈ１であるか他者Ｈ２であるかの区別、あるいは、個人の識別を行う機能を備える。また、情報端末１は、対象者Ｈ１のバイタルデータを計測する活動量計としての機能を備える。

【0015】

なお、対象者Ｈ１が持つ情報端末１は、１台に限らず、連携する複数の情報端末としてもよく、例えばスマートフォンとウェアラブル端末との組でもよい。ウェアラブル端末は、例えば活動量計としての機能や他のセンサの機能を備える。他の実施の形態では、情報端末１は、職場環境に固定的に設置される１台以上のＰＣや他の機器を含んでもよい。この場合、その固定的な情報端末１は、周囲のある程度の距離範囲内に人がいる場合に、その人の音声を取得可能である。

【0016】

情報端末１は、例えば常時に音声入力機能等がオン状態になるように設定され、そのオン状態では自動的に周囲の音声の音声データを取得する。対象者Ｈ１は、操作によって有害行為検出機能のオン／オフを切り替えることができる。情報端末１は、対象者Ｈ１とその周囲にいる他者Ｈ２との間での会話等に伴う音声を入力し、音声データとして記憶する。情報端末１は、その音声データに基づいて、声紋を認識し、ワード等の音声情報を取得し、分類による感情を取得する。また、情報端末１は、それらと共に、ＩＤ、日時、位置、およびバイタルデータ等を取得する。ＩＤは、利用者ＩＤや端末ＩＤ、端末アドレス等が挙げられる。情報端末１は、それらのデータや情報を用いて、有害行為の可能性や状態に関する指標値を計算する。情報端末１は、ＩＤ、日時、位置、音声データ、声紋情報、音声情報、感情情報、バイタルデータ、および指標値、等の各種のデータや情報を関連付けて記憶する。情報端末１は、指標値を含むデータを用いて、サーバ２への状態通知のための所定の送信データＤ１を構成し、サーバ２へ送信する。

【0017】

サーバ２は、事業者のデータセンタやクラウドコンピューティングシステム等のシステム内に設置されるサーバ装置であり、ストレージ装置や通信装置等を伴う。事業者内の分析作業者は、サーバ２の管理作業やデータ分析補助作業等を行う。サーバ２は、情報端末１からの、音声に係わる送信データＤ１を受信して記憶し、有害行為の可能性や状態に関する分析処理を行い、その結果の状態に応じた対処データＤ２を作成し、出力する。サーバ２は、例えば、設定された契約者端末３へ、対処データＤ２を送信する。対処データＤ２の出力は、有害行為の状態に関する、即時の通知や、定期的なレポートの送信等を含む。なお、事業者は、対象者Ｈ１の情報端末１から受信したデータや設定情報に関して、契約に基づいて、プライバシー等に配慮し、暗号化等の対策処理を施し、ＤＢ等にセキュアに管理する。

【0018】

［有害行為検出システム（２）］
実施の形態１の有害行為検出システムは、対象者Ｈ１の周囲の音声を用いた分析処理に基づいて有害行為を推定して検出し、対象者Ｈ１を有害行為から保護するための機能である有害行為検出機能を有する。また、この機能は、有害行為の状態の度合いに応じて異なる種類の対処を行う機能を含む。

【0019】

なお、一般に、ある行為がパワハラ等に該当するかの判断には難しさがあり、個別の事例に応じて異なる。実施の形態１の有害行為検出システムおよび機能における有害行為の判断は、あくまで推定であって、有害行為の可能性を扱うものであるが、実際の有害行為の防止や検証、対処支援等に有効である。職場環境の人は、この機能による判断の情報（対処データＤ２）を利用して、被害者および加害者に対する対処やケアを有効に行うことができる。

【0020】

実施の形態１の有害行為検出システムを構成する計算機は、特に、音声会話における、他者Ｈ２のワード、感情、対象者Ｈ１本人のワード、感情、およびバイタルデータの５つの要素の組み合わせに基づいて、指標値を計算する。この指標値は、他者Ｈ２や対象者Ｈ１の心身の状態に関する評価値である。計算機は、指標値の時系列上の変化を含め把握する。計算機は、指標値に基づいて、有害行為の有無や度合い等に関する状態（後述の危険度）を判断する。そして、計算機は、その状態に応じて、対処を決定し、対応する対処データＤ２を作成し、出力する。対処は、設定された複数の対処の種類から選択される対処である。これにより、有害行為検出システムは、パワハラ等の有害行為を検出し、関係者による対処を支援することができる。この有害行為検出システムは、複数の要素を用いた複合的な分析によって、検出精度を高めることができる。

【0021】

［サービス利用形態］
実施の形態１の有害行為検出システムを職場環境で対象者Ｈ１等の利用者が利用するサービス利用形態は、大別すると、対象者Ｈ１が単独の個人である場合と複数人の集団である場合とがある。図１等の構成例は、対象者Ｈ１が個人である場合の利用形態を示す。図１で、例えば会社内のある１人の社員である利用者Ａが対象者Ｈ１であり、他の社員である他者Ｈ２は、対象者ではなく、情報端末１を保持していない。この利用形態の場合、対象者Ｈ１個人は、職場環境内でパワハラ等の有害行為から自己を守ることができる。対象者Ｈ１および契約者Ｈ３は、有害行為検出機能による対処データＤ２に基づいて、有害行為の被害の可能性に関する指摘を受けることができる。これにより、対象者Ｈ１および契約者Ｈ３は、有害行為への対処がしやすくなる。また、逆に、対象者Ｈ１個人が、他者Ｈ２に対し有害行為を自覚無く行ってしまう可能性もある。その場合にも、対象者Ｈ１等は、この機能によって有害行為の加害の可能性に関する指摘を受けることができ、加害の防止が可能である。

【0022】

［有害行為］
有害行為とは、パワハラ、セクハラ、いじめ、悪質クレーム等を含む概念であり、暴力行為や犯罪行為等も含む概念とする。図１では、有害行為とは、加害者となる他者Ｈ２から被害者となる対象者Ｈ１に対し、暴言等によって、精神的・身体的な苦痛や害を与える行為である。実施の形態１の有害行為検出システムの有害行為検出機能は、このような有害行為に伴う音声から、分析処理によって、有害行為を推定し検出する機能である。

【0023】

有害行為に伴う、音声、ワード、感情、およびバイタル等の要素の組合せは、様々な状態の値をとり得る。例えば、パワハラの際に、他者Ｈ２のワードが平常なワード（例えば「コノシゴトヤットイテ」）の場合でも、その際の感情が「怒」の場合もある。また、他者Ｈ２のワードが悪いワード（例えば「バカヤロウ」）の場合でも、その際の感情が「楽」である場合もある。実施の形態１の有害行為検出システムの計算機は、要素の組合せで分析するので、前者にはパワハラの可能性が有るまたは高いと推定でき、後者にはパワハラの可能性が無いまたは低いと推定できる。さらに、その際、対象者Ｈ１のワードが平常のワード（例えば「ワカリマシタ」）の場合でも、その際の感情が「哀」で、バイタルが不良である場合もあるし、感情が「平常」または「楽」で、バイタルが良好である場合もある。このように、計算機は、特に複数の要素の組合せで評価する方式で有害行為の可能性や度合いを推定することで、より高精度の推定が可能である。

【0024】

［職場環境］
以下には、実施の形態１の有害行為検出システムを、３つの職場環境および対応する有害行為の事例に適用した場合を示す。第１例は会社、第２例は学校、第３例は店舗である。実施の形態１の有害行為検出システムは、これらの事例に限らず、各種の職場環境や有害行為に同様に適用可能である。

【0025】

［職場環境（１）－会社］
図２は、第１例として、職場環境が会社である場合の構成例を示す。検出対象の有害行為は、社員間でのパワハラやセクハラやいじめである。この場合の有害行為検出システムは、言い換えると、パワハラ検出システム、パワハラ対処支援システムである。本例では、１人の社員Ａが対象者Ｈ１としてサービスを利用している。被害者の例として、対象者Ｈ１である社員Ａとし、加害者の例として他者Ｈ２である社員Ｂとする。会社の内部または外部にいる契約者Ｈ３は、例えば対象者Ｈ１に対する家族の人である。契約者Ｈ３を会社の経営者や総務部担当者等とすることも可能もある。警備員Ｈ４を特定の社員等とすることも可能である。

【0026】

なお、厚生労働省によれば、職場のパワーハラスメントとは、同じ職場で働く者に対して、職務上の地位や人間関係等の職場内の優位性を背景に、業務の適正な範囲を超えて、精神的・身体的苦痛を与える、または職場環境を悪化させる行為である。パワハラの典型例としては以下が挙げられる。１．身体的な攻撃（暴行等）、２．精神的な攻撃（暴言、脅迫、侮辱等）、３．人間関係からの切り離し（無視、仲間外し等）、４．過大な要求（業務上で不要なことや遂行不可能なことの強制等）、５．過小な要求（業務上で合理性が無く能力や経験とはかけ離れた程度の低い仕事を命じることや、仕事を与えないこと等）、６．個の侵害（私的なことへの過度な立ち入り等）。会社がパワハラの加害者を放置した場合、職場環境調整義務違反を問われる場合もある。

【0027】

また、厚生労働省によれば、セクシャルハラスメントとは、職場において、労働者の意に反する性的な言動が行われ、それを拒否する等の対応により、解雇、降格、減給等の不利益を受けること、または、性的な言動が行われることで職場環境が不快なものとなり、労働者の能力の発揮に悪影響が生じることである。男女雇用機会均等法によって、事業者にはセクハラへの対策が義務付けられている。

【0028】

図２で、社員Ａは、社員Ｂ，Ｃ，Ｄ等の他者Ｈ２から、パワハラ等の有害行為を受ける場合がある。例えば、社員Ｂは、「コノヤロウ」等の暴言を発声し、社員Ａは、応答の言葉を発声するか、応答できずに沈黙し後でネガティブワード等を呟く場合がある。この際、情報端末１は、入力音声に基づいて送信データＤ１を構成し、サーバ２へ送信する。サーバ２は、パワハラ等の状態に関する判定を行い、対処データＤ２を構成し、契約者Ｈ３の契約者端末３等へ送信する。パワハラ等の度合いが高い場合には、即時に警備員Ｈ４が派遣される。

【0029】

［職場環境（２）－学校］
図３は、第２例として、職場環境が学校である場合を示す。検出対象の有害行為は、生徒間でのいじめ、あるいは、教師と生徒との間でのいじめや他の暴力である。この場合の有害行為検出システムは、言い換えると、いじめ検出システム、いじめ対処支援システムである。本例では、１人の生徒Ａが対象者Ｈ１としてサービスを利用している。被害者の例として、対象者Ｈ１である生徒Ａとし、加害者の例として、他者Ｈ２である生徒Ｂとする。学校の内部または外部にいる契約者Ｈ３は、例えば対象者Ｈ１に対する家族の人（例えば親）である。契約者Ｈ３や警備員Ｈ４を特定の教師等とすることも可能もある。なお、教師が加害者となる場合もあるし、教師が被害者となる場合もある。

【0030】

いじめ防止対策推進法において、学校に在籍する児童または生徒間でのいじめは禁じられている。いじめ防止対策推進法では、いじめとは、児童等に対して、当該児童等が在籍する学校に在籍している等当該児童等と一定の人間関係にある他の児童等が行う心理的または物理的な影響を与える行為であって、当該行為の対象となった児童等が行う心身の苦痛を感じているもの、とされている。

【0031】

図３で、生徒Ａは、生徒Ｂ，Ｃ，Ｄ等の他者Ｈ２から、いじめを受ける場合がある。この際、同様に、情報端末１は、送信データＤ１をサーバ２へ送信し、サーバ２は、いじめの状態に関する判定を行い、対処データＤ２を契約者Ｈ３の契約者端末３等へ送信する。契約者Ｈ３は、通知やレポートによって、対象者Ｈ１がいじめを受けていないかどうかを確認できる。

【0032】

［職場環境（３）－店舗］
図４は、第３例として、職場環境が店舗である場合を示す。検出対象の有害行為は、特に顧客（言い換えると悪質クレーマー）から店員への悪質クレーム等の迷惑行為である。この場合の有害行為検出システムは、言い換えると、悪質クレーム検出システム、悪質クレーム対処支援システムである。本例では、１人の店員Ａが対象者Ｈ１としてサービスを利用している。被害者の例として、対象者Ｈ１である店員Ａとし、加害者の例として、他者Ｈ２である悪質クレーマーに相当する顧客とする。店舗の内部または外部にいる契約者Ｈ３は、例えば店舗の顧客対応室の顧客対応者あるいは他の店員や経営者等である。警備員Ｈ４を顧客担当者等の店員とすることも可能である。

【0033】

悪質クレーマーは、店員Ａに対し、本来の正当なクレームではなく、悪質クレーム（言い換えるとカスタマーハラスメント）を行う者である。悪質クレームの例は、店舗、商品、サービス等に対し、不具合が無いまたは軽微である場合にも、不具合が有るまたは重大であるとして、理不尽な罵倒や説教や要求を伴って行われるクレームである。

【0034】

図４で、店員Ａは、顧客から悪質クレームを受ける場合がある。この際、同様に、情報端末１は、送信データＤ１をサーバ２へ送信し、サーバ２は、悪質クレームの状態に関する判定を行い、対処データＤ２を契約者Ｈ３の契約者端末３等へ送信する。契約者Ｈ３は、悪質クレームの発生を確認でき、すぐに対処ができる。悪質クレームの度合いが高い場合には、即時に警備員Ｈ４が派遣される。

【0035】

［処理フロー（１）］
図５は、実施の形態１の有害行為検出システムの主な処理のフローを示す。このフローはステップＳ１～Ｓ１１を有する。以下、ステップの順に説明する。処理の主体は計算機である。図５のフローは後述の図６の構成例と対応している。

【0036】

ステップＳ１で、予め、有害行為検出システムにおけるユーザ設定が行われる。このユーザ設定では、情報端末１、およびサーバ２の図６のＤＢ５０のうちの顧客ＤＢ５１に、対象者Ｈ１および契約者Ｈ３とのサービス利用契約に関する各種の情報が設定される。この設定情報は、利用者ＩＤ、対象者Ｈ１の情報端末１、および契約者Ｈ３の契約者端末３の連絡先等の情報を含む。また、この設定情報は、有害行為検出機能に係わる判定条件や、対処種類、通知やレポートのタイミング等の情報を含む。また、この設定情報は、対象者Ｈ１の音声に基づいた声紋のデータ（声紋データと記載する）を含む。図６のＤＢ５０のうちの図示しない声紋ＤＢには、対象者Ｈ１毎の声紋データが登録される。

【0037】

ステップＳ２で、情報端末１は、音声入力機能を含む有害行為検出機能のオン状態で、自動的に、周囲の音声をマイクから入力し、音声データとして取得する。この際の音声は、対象者Ｈ１本人の音声、または周囲にいる他者Ｈ２の音声等を含み、この時点ではそれらが区別されない。

【0038】

ステップＳ３で、情報端末１は、音声データから声紋認識処理を行う。情報端末１は、この声紋認識処理で、音声データから声紋を抽出し、その入力の声紋を、情報端末１内の図６のＤＢ４０の図示しない声紋ＤＢの対象者Ｈ１の声紋データと比較し、音声区間毎に発声者が対象者Ｈ１であるか他者Ｈ２であるかを区別する。この声紋ＤＢは、サーバ２側にある声紋ＤＢと対応した内容を持つ。また、この声紋認識処理で個人識別を行ってもよい。その場合、情報端末１は、入力の声紋から、発声者である他者Ｈ２がどの個人であるかを識別する。この声紋認識処理の結果得られる情報を声紋情報と記載し、少なくとも対象者Ｈ１と他者Ｈ２との区別の情報を含む。

【0039】

ステップＳ４で、情報端末１は、音声データから感情認識処理を行う。情報端末１は、この感情認識処理では、入力の音声データの波形、特に周波数等の特性を、情報端末１内の図６のＤＢ４０のうちの図示しない感情ＤＢの波形データと比較しながら解析する。この感情ＤＢは、サーバ２側にある感情ＤＢと対応した内容を持つ。これにより、情報端末１は、発声者（すなわちステップＳ３で区別された対象者Ｈ１または他者Ｈ２）の感情を、所定の複数の感情の分類の値（平常／喜／怒／哀／楽）のうちの１つの感情の値として推定する。この感情認識処理の結果得られる情報を感情情報と記載し、少なくとも上記感情の値を含む。

【0040】

ステップＳ５で、情報端末１は、音声データから音声認識処理を行って、音声情報を取得する。情報端末１は、この音声認識処理では、音声データから認識したテキストを、情報端末１内の図６のＤＢ４０のうちの図示しないキーワードＤＢのキーワードと比較し、該当するワードを検出する。このキーワードＤＢは、サーバ２側にあるキーワードＤＢと対応した内容を持つ。これにより、情報端末１は、会話内容から有害行為の可能性を表すワードを検出する。この音声認識処理の結果得られる情報を音声情報と記載し、少なくとも上記ワードを含む。

【0041】

一方、ステップＳ６の処理は、ステップＳ２～Ｓ５の処理と並列で行われている。なお、ステップＳ３～Ｓ５の処理の順序は他の順序としてもよい。ステップＳ６で、情報端末１は、その時の音声入力に対応した日時（例えば年月日時分秒）、および情報端末１の位置（例えばＧＰＳ等による位置情報）を取得する。また、情報端末１は、その日時に対応して、対象者Ｈ１のバイタルデータを計測して取得する。バイタルデータの項目は、例えば脈拍数および体温であるが、これに限らず適用可能である。

【0042】

ステップＳ７で、情報端末１は、ステップＳ２～Ｓ６で取得した各データや情報を、関連付けて、一旦メモリに記憶する。情報端末１は、上記各ステップで取得したデータや情報における複数の要素、すなわち、日時、位置、声紋、ワード、感情、およびバイタルデータ等を用いて、有害行為の可能性や状態を表す指標値を計算する。この指標値は、日時の時点毎に得られる。また、ある時点で複数の要素のデータが取得されている場合、この指標値は、その複数の要素、特にワード、感情、およびバイタルデータの組合せの分析によって計算される。この指標値は、基本的には、有害行為の可能性が高い場合には負に大きい値となり、可能性が低い場合には正に大きい値となる。情報端末１は、計算した指標値を、各データと関連付けて、一旦メモリ（例えば図６のＤＢ４０）に記憶する。なお、図６の実施の形態１の構成例では、この指標値は、情報端末１内で計算されるが、後述の実施の形態２では、この指標値は、サーバ２内で計算される。

【0043】

ステップＳ８で、情報端末１は、ステップＳ７で計算した指標値を含む、所定の送信データＤ１を作成し、暗号化して、サーバ２へ送信する。この送信データＤ１は、情報端末１のＩＤ、対象者Ｈ１のＩＤ、ステップＳ６の日時および位置、ステップＳ３の声紋情報（対象者Ｈ１と他者Ｈ２との区別）、およびステップＳ７の指標値等の情報を含む。実施の形態１では、この送信データＤ１は、ステップＳ２の音声データ、ステップＳ５の音声情報、ステップＳ４の感情情報、およびステップＳ６のバイタルデータを含まない。他の実施の形態では、ユーザ設定に応じて、これらのデータを送信データＤ１に含ませてもよい。

【0044】

ステップＳ９で、サーバ２は、情報端末１から受信した送信データＤ１を復号化してメモリおよび図６のＤＢ５０のうちの状態ＤＢ５２に格納する。サーバ２は、送信データＤ１から、情報端末１のＩＤ、対象者Ｈ１のＩＤ、日時、位置、および指標値等の情報を取り出す。サーバ２は、時系列上の時点毎の指標値に基づいて、所定の判定条件と比較することで、有害行為の可能性および対象者Ｈ２の状態に関する指標値である危険度を判定する。この危険度は、有害行為の可能性や度合いに応じた、対象者Ｈ１の心身の状態に関する評価値である。より具体的な方式としては、サーバ２は、時点毎の指標値を合計してゆき、その時の合計の指標値を危険度とする。サーバ２は、その危険度を、所定の複数の閾値範囲と比較し、複数のレベルのうちのどのレベルに該当するかを判定する。なお、他の実施の形態での方式としては、時点毎の指標値をそのまま危険度としてもよい。危険度の計算は、時点毎の指標値の合計に限らず、他の集計の方式としてもよい。

【0045】

ステップＳ１０で、サーバ２は、ステップＳ９で判定した危険度から、対処の種類を決定する。具体的な方式としては、サーバ２は、危険度のレベルに応じて、対応付けられる対処の種類（通知、レポート、警備員派遣等）を選択する。そして、サーバ２は、その対処の種類に応じた対処データＤ２を作成する。サーバ２は、対処が通知の場合には、設定されている通知手順および設定情報に従って、所定の情報を含む通知の情報を作成する。サーバ２は、対処がレポートの場合には、設定されているレポート作成手順および設定情報に従って、所定の情報を含むレポートデータを作成する。

【0046】

ステップＳ１１で、サーバ２は、対処データＤ２を、図６の顧客ＤＢ５１の情報に基づいて、対処の種類に応じた、契約者端末３等の連絡先（ＩＰアドレス、メールアドレス、または電話番号等）へ出力する。サーバ２は、対処が即時の通知の場合には、対処データＤ２である通知情報を即時に契約者端末３等へ送信する。サーバ２は、対処がレポートの場合には、対処データＤ２であるレポートデータを、レポート提出間隔に対応した定期的なタイミングで契約者端末３等へ送信する。レポートの定期のタイミングは、１日、１週間等の単位から設定可能である。また、ステップＳ１１内で、対処が警備員派遣である場合には、サーバ２は、規定の警備員Ｈ４の連絡先に対し、対象者Ｈ１のＩＤ、位置に対応する職場環境内の場所やエリアの情報を含む、派遣の指示を連絡する。

【0047】

ステップＳ１１の後にこのフローが終了する。このフローの各ステップは同様に繰り返される。ステップＳ９～Ｓ１１は、言い換えると、サーバ２による有害行為に関する監視のステップである。

【0048】

［システム構成例（１）］
図６は、図１の実施の形態１の有害行為検出システムの、より詳細な構成例として、情報端末１およびサーバ２の構成を示す。この構成例は、情報端末１とサーバ２とが連携して、有害行為検出機能の処理全体を分担する。情報端末１は、一部の処理として各データ取得および指標値計算等を実行し、サーバ２は、他の一部の処理として危険度判定および対処データ出力等を実行する。

【0049】

情報端末１は、図示しないが、一般的な構成要素として、ＣＰＵ、ＲＯＭ、ＲＡＭ等で構成されるプロセッサ、メモリ、通信インタフェース回路、マイク、スピーカ、タッチパネル等の入出力デバイス、操作ボタン、各種のセンサ、およびバッテリ等を備え、それらはシステムバスを介して接続されている。情報端末１内には、有害行為検出機能を実現するためのアプリケーションプログラムやＤＢ４０、ユーザ設定情報等が保持される。情報端末１側のＤＢ４０には、ある利用者（対象者Ｈ１）に係わる情報が格納されている。

【0050】

情報端末１は、機能ブロックとして、音声入力部１１、音声データ記憶部１２、音声データ処理部１３、日時取得部１４、位置取得部１５、バイタルデータ取得部１６、指標値計算部１７、データ作成送信部１８を備える。各機能ブロックは、プロセッサ等によるソフトウェアプログラム処理、または回路（例えばＩＣチップ）等で構成される。

【0051】

音声入力部１１は、マイクから入力される音声を音声データとして取得する。音声データ記憶部１２は、音声入力部１１からの音声データを処理用にメモリに記憶する。なお、後述するが、処理後に音声データを保存しない設定、すなわち音声データを消去する設定も可能である。

【0052】

音声データ処理部１３は、音声データ記憶部１２の音声データに対して所定の処理を行うことで、声紋情報、音声情報、感情情報等を取得する。音声データ処理部１３は、詳しくは、声紋認識処理部、ワード認識処理部、感情認識処理部等を含む。

【0053】

声紋認識処理部は、音声データからの声紋認識処理に基づいて声紋情報を取得する。声紋情報は、声紋に基づいた発声者の区別や識別の情報である。声紋認識処理部は、入力音声データの声紋と、情報端末１内のＤＢ４０内の声紋ＤＢの声紋データとを比較し、発声者が対象者Ｈ１であるか他者Ｈ２であるかを区別し、可能な場合には個人を識別して利用者ＩＤを特定する。声紋認識処理は、公知技術を利用できる。なお、情報端末１内の声紋ＤＢは、サーバ２のＤＢ５０内の図示しない声紋ＤＢから取得したＤＢとしてもよいし、取得せずにサーバ２側の声紋ＤＢを参照する処理に代えてもよい。

【0054】

感情認識処理部は、音声データからの感情認識処理に基づいて感情情報を取得する。感情情報は、感情の分類の値として、例えば、平常／喜／怒／哀／楽の５種類の値から選択される値である。感情認識処理は、公知技術を利用できる。音声データの波形における周波数等の特性は、感情の状態が反映されているため、感情認識処理によって感情の推定が可能である。感情認識処理部は、入力音声データの波形と、情報端末１内のＤＢ４０内の感情ＤＢの感情波形データとを比較することで、感情の分類を行う。なお、情報端末１内の感情ＤＢは、サーバ２のＤＢ５０内の図示しない感情ＤＢから取得したＤＢとしてもよいし、取得せずにサーバ２側の感情ＤＢを参照する処理に代えてもよい。感情の値は、上記に限らず、より細かい分類の値としてもよい。

【0055】

ワード認識処理部は、音声データからの音声認識処理に基づいて、会話内容を表すテキストやワードを含む音声情報を取得する。音声認識処理は、公知技術を利用できる。ワード認識処理部は、入力音声データから音声認識で抽出したワードと、情報端末１内のＤＢ４０内のキーワードＤＢのキーワードとを比較することで、該当するワードを抽出する。なお、情報端末１内のキーワードＤＢは、サーバ２のＤＢ５０内の図示しないキーワードＤＢから取得したＤＢとしてもよいし、取得せずにサーバ２側のキーワードＤＢを参照する処理に代えてもよい。

【0056】

日時取得部１４は、時計を用いて現在の日時情報を取得する。位置取得部１５は、ＧＰＳ受信器または屋内測位システム等を用いて現在の位置情報を取得する。位置情報は、例えば緯度および経度等の情報でもよいし、例えば会社内でのフロアやエリア等の情報でもよい。バイタルデータ取得部１６は、情報端末１の活動量計の機能を用いて、対象者Ｈ１の脈拍数、体温等を計測し、項目毎のバイタルデータとして取得する。

【0057】

指標値計算部１７は、上記音声データ、声紋情報、音声情報、感情情報、日時情報、位置情報、およびバイタルデータのうちの取得できたデータを参照する。指標値計算部１７は、これらのデータを用いて、要素の組合せの分析に基づいて、有害行為に関する指標値を計算する。なお、ワード、感情、バイタルデータ等の要素のうち１つのみしか取得できない場合でも、その１つの要素を用いて相応の推定が可能である。また、指標値の計算の際に使用する要素に関しては、ユーザ設定で変更可能である。デフォルト設定では、ワード、感情、およびバイタルデータのすべての要素を使用する設定であるが、ワードのみ、感情のみ、バイタルデータのみ、ワードと感情の組合せ、感情とバイタルデータの組合せ、ワードとバイタルデータの組合せ等、各種の設定が可能である。なお、実施の形態１では、指標値や評価値は、正負に増減する値（例えば－１．５，－１，０，＋０．５，＋１等）として定義されるが、これに限らず、他の定義の値（例えば０以上の値や百分率（％）等）としてもよい。

【0058】

データ作成送信部１８は、上記指標値を含むデータを参照する。データ作成送信部１８は、それらのデータを用いて、所定の送信データＤ１を構成し、暗号化等の処理を施して、サーバ２へ送信する。送信データＤ１は、実施の形態１では、情報端末１のＩＤ、対象者Ｈ１のＩＤ、日時、位置、発声者の区別、および指標値を含むデータであり、前述のように音声データ等を含まない。実施の形態１では、通信網５上で音声データが送信されないので、通信網５上の負荷を抑制できる。

【0059】

サーバ２は、図示しないが、一般的な構成要素として、ＣＰＵ、ＲＯＭ、ＲＡＭ等で構成されるプロセッサ、メモリ、通信インタフェース回路、入出力デバイス等を備え、それらはシステムバスを介して接続されている。

【0060】

サーバ２は、機能ブロックとして、データ受信部２１、データ記憶部２２、分析部２３、対処動作部２４、およびＤＢ５０を備える。ＤＢ５０は、ストレージ装置やＤＢサーバ等で構成され、詳しくは、顧客ＤＢ５１、状態ＤＢ５２、履歴ＤＢ５３等を含み、図示しない声紋ＤＢ、キーワードＤＢ、感情ＤＢ等を含む。各機能ブロックは、プロセッサ等によるソフトウェアプログラム処理、または回路（例えばＩＣチップ）等で構成される。サーバ２内には、有害行為検出機能を実現するためのサーバプログラムやＤＢ５０、設定情報等が保持される。サーバ２側のＤＢ５０には、複数の利用者に係わる情報が格納されている。

【0061】

データ受信部２１は、情報端末１からの送信データＤ１を受信し、復号化等の処理を行って、送信データＤ１内のデータを取得する。データ記憶部２２は、送信データＤ１および各データを、処理用のメモリおよびＤＢ５０内に記載する。データ記憶部２２は、時点毎の指標値を含むデータを、状態ＤＢ５２内に格納する。分析部２３は、送信データＤ１内の指標値等のデータを用いて、有害行為および対象者Ｈ１の状態に関する危険度を判定する。分析部２３は、判定した危険度を、状態ＤＢ５２内に記載する。

【0062】

対処動作部２４は、対象者Ｈ１の危険度に応じて、対処の種類を決定し、対応する対処データＤ２を作成し、契約者端末３等の連絡先へ送信する。対処動作部２４は、詳しくは、即時の通知を行う通知部、レポートデータを作成し送信するレポート部、警備員Ｈ４を派遣する警備員派遣部、等を含む。

【0063】

ＤＢ５０内のデータは暗号化されている。顧客ＤＢ５１は、事業者に対する顧客である対象者Ｈ１および契約者Ｈ３に関するサービス契約情報、ユーザ設定情報等が設定されている。状態ＤＢ５２は、対象者Ｈ１毎の指標値および危険度等の情報が、時系列上の変化の履歴を含め保持されている。履歴ＤＢ５３には、対象者Ｈ１毎に、時系列上の対処（対処データＤ２の出力）の履歴情報が保持されている。声紋ＤＢには対象者Ｈ１毎の声紋データが登録されている。感情ＤＢには感情認識処理用の波形データが登録されている。キーワードＤＢにはワード認識処理用のキーワードが登録されている。また、サーバ２は、ユーザインタフェースとして、例えばＷｅｂページで構成されるユーザ設定画面等を、利用者である対象者Ｈ１の情報端末１や契約者Ｈ３の契約者端末３に対し提供する。

【0064】

［分析］
実施の形態１の有害行為検出システムの計算機は、上記音声に基づいて取得される複数の要素のデータ、すなわち、他者Ｈ２のワード、感情、対象者Ｈ１のワード、感情、およびバイタルデータといった５つの要素の組合せの分析に基づいて、有害行為に関する指標値を計算し、危険度を判定する。この分析の方式について以下に説明する。

【0065】

まず、上記対象者Ｈ１と他者Ｈ２との区別を考える場合の５つの要素、または、対象者Ｈ１と他者Ｈ２との区別を考えない場合の３種類の要素に関して、要素毎に指標値（評価値と記載する場合がある）の計算が可能である。すなわち、ワードに関する指標値（ワード評価値と記載する場合がある）と、感情に関する指標値（感情評価値と記載する場合がある）と、バイタルデータに関する指標値（バイタル評価値と記載する場合がある）とがそれぞれ独立に計算可能である。例えば、ワードのみで判断する場合、特定のキーワードの該当に基づいて、有害行為の可能性をある程度推定可能であるが、特定のキーワードが必ずしも有害行為を表さない等、精度には課題がある。また、バイタルデータのみで判断する場合、平常時のバイタル値との偏差等に基づいて、有害行為の可能性をある程度推定可能であるが、単に体調が悪い場合との区別ができない等、精度には課題がある。

【0066】

さらに、精度を高めるために、２つ以上の要素（対応する評価値）の組合せによる複合的な分析によって、指標値の計算が可能である。例えば、ワードと感情の組合せで判断する方式や、ワードと感情とバイタルとの組合せで判断する方式が適用できる。これにより、有害行為の推定に関して、精度を高めることができる。実施の形態１の有害行為検出システムは、例えば、ワード評価値と感情評価値とバイタル評価値とを組み合わせて定義される計算式を用いて、３つの要素を反映した指標値を計算する。

【0067】

［有害行為発生パターン］
図７は、有害行為の発生状況の２つのパターンについて示す。（Ａ）は、第１パターンを示す。本例では、会社等の職場環境において、利用者Ａは対象者Ｈ１であり被害者側であり、利用者Ｂは他者Ｈ２であり加害者側である。図７中の縦方向は概略的に時系列を示す。会話内容として、利用者Ｂが、利用者Ａに対し、パワハラ等の有害行為に係わるワードｗ１（例「コナクテイイヨ」等の罵倒）を発声している。このワードｗ１には、感情認識に基づいて、感情ｅ１（例：怒り）が対応付けられる。利用者Ａは、利用者Ｂのワードｗ１に対し、言い返すことはできず我慢し、応答としては沈黙している。そのため、この時のワードおよび感情のデータは得られないが、バイタルデータｖ１は得られる。バイタルデータｖ１には、この状況のストレスが反映されている。例えば、脈拍数や体温は、平常時の値との偏差が大きい状態となる。このように、第１パターンの場合、データとして、他者Ｈ２のワードｗ１、感情ｅ１、および対象者Ｈ１本人のバイタルデータｖ１という３つの要素のデータが得られる。

【0068】

（Ｂ）は、同様に第２パターンを示す。会話内容として、利用者Ｂが、利用者Ａに対し、パワハラ等の有害行為に係わるワードｗ２（例「コノヤロウ」等の罵倒）を発声している。このワードｗ２には、感情認識に基づいて、感情ｅ２（例：怒り）が対応付けられる。利用者Ａは、利用者Ｂのワードｗ２に対し、応答として、ワードｗ３（例「スイマセン」）を発声している。ワードｗ３には、感情認識に基づいて、感情ｅ３（例：哀しみ）が対応付けられ、また、この時のバイタルデータｖ３が得られる。感情ｅ３やバイタルデータｖ３には、この状況のストレスが反映されている。この場合、データとして、他者Ｈ２のワードｗ２、感情ｅ２、対象者Ｈ１のワードｗ３、感情ｅ３、およびバイタルデータｖ３という５つの要素のデータが得られる。また、その後、利用者Ａは、一人の状況で、ネガティブワードの呟き等に対応するワードｗ４（例「シニタイ」）を発声している。このワードｗ４には、感情ｅ４（例：哀しみ）が対応付けられ、バイタルデータｖ４が得られる。このように、第２パターンの場合、少なくとも、対象者Ｈ１のワード、感情、およびバイタルデータという３つの要素が得られ、さらに、他者Ｈ２のワード、感情、対象者Ｈ１のワード、感情、およびバイタルデータという５つの要素が得られる。

【0069】

第１パターンの場合の分析例は以下の通りである。まず、他者Ｈ２のワードｗ１と感情ｅ１との組合せから指標値が計算できる。さらに、他者Ｈ２のワードｗ１と感情ｅ１と対象者Ｈ１のバイタルデータｖ１との組合せからも指標値が計算できる。いずれかの指標値から、その時の危険度ｘ１が計算できる。サーバ２は、危険度ｘ１を閾値と比較してレベルを判断し、レベルに応じた対処を決定できる。

【0070】

第２パターンの場合の分析例は以下の通りである。まず、他者Ｈ２のワードｗ２と感情ｅ２との組合せから指標値が計算できる。また、対象者Ｈ１のワードｗ３と感情ｅ３とバイタルデータｖ３との組合せから指標値が計算できる。さらに、他者Ｈ２のワードｗ２と感情ｅ２と対象者Ｈ１のワードｗ３と感情ｅ３とバイタルデータｖ３との５つの要素の組合せから指標値が計算できる。いずれかの指標値から、その時の危険度ｘ３が計算できる。サーバ２は、危険度ｘ３を閾値と比較してレベルを判断し、レベルに応じた対処を決定できる。同様に、次の時点では、対象者Ｈ１のワードｗ４と感情ｅ４とバイタルデータｖ４との組合せから指標値が計算でき、その指標値から、その時点の更新された危険度ｘ４が計算できる。サーバ２は、危険度ｘ４を閾値と比較してレベルを判断し、レベルに応じた対処を決定できる。

【0071】

上記分析例のように、実施の形態１の有害行為検出システムは、複数の要素の組合せで指標値や危険度を計算することで、有害行為の可能性や対象者Ｈ１の状態を高精度に推定できる。有害行為検出システムは、対象者Ｈ１の発声が無い第１パターンの場合や、対象者Ｈ１の発声が有る第２パターンの場合に応じた、それぞれの分析処理を行う機能を有し、いずれのパターンにも対処が可能である。また、有害行為検出システムは、扱うパターンや要素の設定が可能である。

【0072】

［取得データテーブル］
図８は、対象者Ｈ１の情報端末１からの送信データＤ１に基づいてサーバ２のＤＢ５０の状態ＤＢ５２内に取得可能である、時系列のデータを格納するテーブルの構成例を示す。このテーブルは、行番号（＃）の方向が時系列に対応し、各行は、時点毎に取得されるデータ群を示し、各列は、データの要素等に対応する。なお、本例では、このテーブルにおける取得データは、指標値のみならず、ワード、感情、バイタルデータ等の要素も格納される場合を示している。送信データＤ１にワード等が含まれる方式の場合には、サーバ２は、状態ＤＢ５２のテーブルに、ワード等を含む取得データを格納する。送信データＤ１にワード等が含まれない方式の場合には、情報端末１とサーバ２とで分担し、情報端末１側のＤＢのテーブルに一部のデータが格納され、サーバ２側のＤＢのテーブルに他の一部のデータが格納される。

【0073】

このテーブルは、列に対応する項目として、行番号（＃）、日付、時間、位置、ワード、発声者声紋、発声者感情、体温、体温偏差、脈拍数、脈拍数偏差、指標値（危険度）を有する。また、図示しないが、テーブルには、対象者Ｈ１の平常時の体温（例えば３６℃）および脈拍数（例えば６５）も設定されている。「日付」および「時間」項目は前述の日時情報（年月日時分）に対応する。「位置」項目は、前述の位置情報に対応し、ここでは抽象化した緯度および経度を示す。「ワード」項目は、前述の音声情報のワードに対応する。「発声者声紋」項目は、前述の声紋情報に対応し、発声者の区別または識別の利用者ＩＤを示す。例えば対象者Ｈ１本人は利用者ＩＤ＝Ａである。「発声者感情」項目は、前述の感情情報に対応し、平常／喜／怒／哀／楽の５種類の値を示す。「体温」項目は、前述のバイタルデータのうちの体温データ項目に対応する。「体温偏差」項目は、対象者Ｈ１の「体温」値と、予め設定された平常時の体温値との偏差を示す。「脈拍数」項目は、前述のバイタルデータのうちの脈拍数データ項目に対応する。「脈拍数偏差」項目は、対象者Ｈ１の「脈拍数」値と、予め設定された平常時の脈拍数値との偏差を示す。

【0074】

「指標値（危険度）」項目は、時点毎の有害行為の可能性や状態を表す指標値である。各時点での指標値は、ワード、感情、バイタルデータ等の要素から計算された値であり、基本的には、有害行為の可能性が低いほど正に大きい値となり、有害行為の可能性が高いほど負に大きい値となるように計算されている。「合計」行の「指標値」は、同じ対象者Ｈ１に関する、各時点の指標値の合計値であり、最新時点の対象者Ｈ１の状態に関する危険度を示す。実施の形態１では、この合計の指標値である危険度を対処の判定に用いる。このテーブルには、対象者Ｈ１毎に同様にデータが格納され、対象者Ｈ１毎の現在の状態が保持されている。

【0075】

［条件］
図９は、さらに、指標値および危険度の計算に関する条件の設定例を示す。実施の形態１の有害行為検出システムにはこの条件が予め設定されている。（Ａ）は、指標値の計算式を示す。基本的な指標値の計算式は、［指標値（Ｓ）］＝（［ワード評価値（Ｗ）］＋［バイタル評価値（Ｖ）］）×［感情評価値（Ｅ）］である。指標値を記号Ｓ、ワード評価値を記号Ｗ、バイタル評価値を記号Ｖ、感情評価値を記号Ｅでも示す。すなわち、この計算式は、発声者のワードに関する評価値と、対象者Ｈ２のバイタルデータに関する評価値との両方に対し、発声者の感情に関する評価値を係数として乗算するようにして、複合的な評価を行う式である。具体例では、バイタルデータに２つの項目（体温、脈拍数）があるので、その場合、体温評価値をＶ１、脈拍数評価値をＶ２とすると、計算式は、Ｓ＝（Ｗ＋Ｖ１＋Ｖ２）×Ｅとなる。３つ以上の項目を用いる場合も同様に可能である。

【0076】

なお、他の実施の形態では、指標値の計算式を他の式とすることも可能である。例えば、ワード評価を用いない場合、Ｗ＝０として、計算式は、Ｓ＝Ｖ×Ｅとすることができる。バイタルデータ評価を用いない場合、Ｖ＝０として、計算式は、Ｓ＝Ｗ×Ｅとすることができる。感情評価を用いない場合、Ｅ＝１として、計算式は、Ｓ＝（Ｗ＋Ｖ）とすることができる。また、ワードとバイタルとの関係を評価する方式とする場合には、Ｓ＝Ｗ＋Ｖとする以外にも、Ｓ＝Ｗ×Ｖとしてもよい。また、各要素に重み付けを持たせる方式とする場合には、要素毎の係数（Ｃｗ，Ｃｖ，Ｃｅ）を用いて、例えば、Ｓ＝（Ｃｗ×Ｗ＋Ｃｖ×Ｖ）×（Ｃｅ×Ｅ）のようにしてもよい。なお、このような他の方式を用いる場合には、それに合わせて評価体系（設定表）を異なるものに設定すればよい。

【0077】

（Ｂ）は、条件に関する設定表の１つとして、ワード評価に関する設定表を示す。この表には、予め、発声内容から有害行為を推定するためのキーワードが設定されている。この表は、列として、発声者、キーワード、ワード評価値（Ｗ）を有する。「発声者」項目は、対象者Ｈ１本人と他者Ｈ２との区別を示す。「キーワード」項目は、有害行為の可能性を表すキーワードを示す。「ワード評価値（Ｗ）」は、発声者のワードがそのキーワードに該当する場合の、有害行為の可能性に関する評価値を示す。例えば、他者Ｈ２のワード「バカヤロウ」の場合、Ｗ＝－０．５となる。対象者Ｈ１本人のワード「シニタイ」の場合、Ｗ＝－１．５となる。未登録のワードの場合、Ｗ＝０となる。

【0078】

（Ｃ）は、条件に関する設定表の１つとして、バイタル評価、特に体温評価に関する設定表を示す。この表は、列として、体温偏差範囲、体温評価値（Ｖ１）を有する。「体温偏差範囲」項目は、対象者Ｈ１のその時の体温と設定された平常時の体温との偏差に関する閾値範囲を示す。「体温評価値（Ｖ１）」は、対象者Ｈ１のその時の体温による体温偏差が、「体温偏差範囲」に該当する場合の、有害行為の可能性に関する評価値を示す。例えば、体温偏差が０以上で０．２以下の範囲内の場合にはＶ１＝０、０．３以上で０．５以下の範囲内の場合にはＶ１＝－０．２５、といったように、偏差が大きいほど負の大きな値となる。

【0079】

（Ｄ）は、同様に、特に脈拍数評価に関する設定表を示す。この表は、列として、脈拍数偏差範囲、脈拍数評価値（Ｖ２）を有する。「脈拍数偏差範囲」項目は、対象者Ｈ１のその時の脈拍数と設定された平常時の脈拍数との偏差に関する閾値範囲を示す。「脈拍数評価値（Ｖ２）」は、対象者Ｈ１のその時の脈拍数による脈拍数偏差が、「脈拍数偏差範囲」に該当する場合の、有害行為の可能性に関する評価値を示す。

【0080】

（Ｅ）は、条件に関する設定表の１つとして、感情評価に関する設定表を示す。この表は、列として、発声者感情、感情評価値（Ｅ）を有する。「発声者感情」項目は、発声者（対象者Ｈ１または他者Ｈ２）の感情の分類の５種類の値（平常／喜／怒／哀／楽）を示す。感情評価値（Ｅ）は、発声者のその時の感情が、「発声者感情」の値に該当する場合の、有害行為の可能性に関する評価値を示し、前述の計算式の係数となる。例えば、発声者の感情が「平常」である場合にはＥ＝１、「喜」である場合にはＥ＝０．２、「怒」である場合にはＥ＝１．３、「哀」である場合にはＥ＝１．３、「楽」である場合にはＥ＝０．２、となる。

【0081】

［危険度および対処の判定］
図９の（Ｆ）は、さらに、危険度から対処を判定する際の条件の設定表を示す。この表は、列として、危険度範囲、レベル、対処種類を有する。「危険度範囲」項目は、危険度の閾値範囲を示す。「レベル」項目は、「危険度範囲」に対応付けられたレベルを示す。「対処種類」項目は、「レベル」に対応付けられた対処（言い換えると対処行動）の種類を示す。実施の形態１では、主に、４つのレベルおよび対処種類が設定されている。危険度のレベルが高いほど、危険性や可能性が高いことを表している。本例では、危険度が、０以上の範囲に該当する場合には、レベル１に相当し、第１対処に決定される。危険度が、－１０以上で０未満の範囲に該当する場合には、レベル２に相当し、第２対処に決定される。危険度が、－２０以上で－１０未満の範囲に該当する場合には、レベル３に相当し、第３対処に決定される。危険度が、－２０未満の範囲に該当する場合には、レベル４に相当し、第４対処に決定される。

【0082】

レベル１は、平常、問題無しであり、第１対処は、状態の情報の記録のみとし、契約者端末３に対する即時の通知等は行われない。なお、変形例として、第１対処を、契約者端末３への平常の状態に関する通知としてもよい。レベル２は、注意、要観察を表し、第２対処は、契約者端末３に対する注意の旨の通知であり、即時の通知または定期的なレポートとして行われる。レベル３は、警告を表し、第３対処は、契約者端末３に対する即時の警告の旨の通知である。レベル４は、重大な危険を表し、第４対処は、契約者端末３に対する即時の通知と共に、警備員Ｈ４の派遣である。

【0083】

［ユーザ設定］
実施の形態１の有害行為検出システムは、職場環境、あるいは対象者Ｈ１や契約者Ｈ３毎に、有害行為の検出に係わる判定条件等を設定可能である。有害行為検出システムには、図９の例のように基本的な判定条件が設定されている。さらに、変形例としては、対象者Ｈ１や契約者Ｈ３毎に、ユーザ設定に応じて、その判定条件の閾値等を変更可能である。これにより、利用者毎の意図や個人差（ストレス耐性等）に応じて調整された判定条件とすることができる。

【0084】

例として、図９の（Ｆ）の判定条件に関して、危険度範囲の閾値を変更してもよい。例えば、利用者Ａ１の場合に、危険度範囲の閾値が上下に調整される。例えば、レベル２とレベル３の境界が、－１０ではなく、－１５または－５等に変更される。他の例として、対処の変更も可能である。例えば、利用者Ａ２の場合に、レベル４の第４対処として、「警備員派遣」とするのではなく、「警告の通知」とすることができる。あるいは、第４対処を、「契約者に確認および了承後に警備員派遣」にすることができる。職場環境によっては、第４対処を「警察へ通報」とすることもできる。

【0085】

［対処データ出力］
実施の形態１の有害行為検出システムの有害行為検出機能は、有害行為に関して、即時の検出、通知、対処動作を行う機能を含む。例えば、対処が、第２対処や第３対処のように、通知である場合に関して、以下の構成を有する。

【0086】

対処が、第２対処である場合で、定期的なレポートを送信する場合には、以下の構成を有する。サーバ２は、レポートに、対象者Ｈ１および契約者Ｈ３毎に予め設定された種類の情報を記載する。例えば、レポートには、対象者Ｈ１のＩＤ、日時、位置、危険度、所定のメッセージ、等の情報を含む。サーバ２は、状態ＤＢ５２に基づいて、例えば、１日、１週間等の所定の期間の単位で、状態や結果を集計し、レポートに記載する。サーバ２は、定期のタイミングで、レポートを契約者端末３へ送信する。集計情報は、有害行為の回数、頻度、平均値等を含んでもよいし、グラフを含んでもよい。レポートデータがＷｅｂページで構成されてサーバ２に保持され、契約者端末３等からサーバ２上のレポートデータを閲覧する方式としてもよい。

【0087】

対処が、第３対処である場合で、即時に警告を通知する場合には、以下の構成を有する。サーバ２は、即時に、警告の通知情報を、契約者端末３へ送信する。この通知情報には、対象者Ｈ１および契約者Ｈ３毎に予めユーザ設定された種類の情報内容が記載される。例えば、この通知情報には、対象者Ｈ１のＩＤ、日時、位置、危険度、および所定の警告メッセージ（例えば「利用者Ａさんはパワハラを受けている可能性が高いと推測されます。」）等の情報を含む。

【0088】

対処が、第４対処である警備員派遣である場合には、以下の構成を有する。サーバ２には、予め、派遣の対象となる警備員Ｈ４等の人の連絡先等の情報が設定されている。サーバ２は、契約者端末３へ通知すると共に、電話やメール等を用いて警備員Ｈ４の連絡先へ、派遣の指示の連絡を行う。この指示には、対象者Ｈ１等がいる場所やエリアの情報を含む。警備員Ｈ４は、その指示に従って、対象者Ｈ１等がいる現場へ向かい、調停等を行う。他の対処の例としては、即時に警察に通報することも可能である。

【0089】

サーバ２は、加害者の推定ができている場合には、設定に応じて、対処データＤ２内に、被害者情報だけでなく、加害者情報を記載してもよい。

【0090】

［分析例］
図８のデータや図９の条件を用いた分析の例は以下の通りである。なお、図８のデータ例は、図７の（Ａ）の第１パターンに対応している。図８のテーブルで、第１行の時点では、他者Ｈ２である利用者Ｂが例えば「バカヤロウ」と発声し、その時の感情は平常である。それに対し、対象者Ｈ１である利用者Ａの体温偏差が０、脈拍数偏差が１である。この時の各データの状態から、図９の条件に基づいて、ワード評価値（Ｗ）は－０．５となり、感情評価値（Ｅ）は１となり、バイタル評価値（Ｖ）は、Ｖ１＝０、Ｖ２＝０となる。指標値（Ｓ）は、式から、Ｓ＝（Ｗ＋Ｖ１＋Ｖ２）×Ｅ＝（－０．５＋０＋０）×１＝－０．５となる。同様に、第２行の時点では、他者Ｈ２である利用者Ｃが例えば「バカヤロウ」と発声し、その時の感情は怒りである。それに対し、対象者Ｈ１の体温偏差が１、脈拍数偏差が１０である。この時、Ｗ＝－０．５、Ｅ＝１．３、Ｖ１＝－０．５、Ｖ２＝－０．５となる。指標値（Ｓ）は、Ｓ＝（－０．５－０．５－０．５）×１．３＝－１．９５となる。

【0091】

第３行の時点では、別の位置であり、不明な他者が例えば「フザケルナ」と発声し、その時の感情は怒りである。それに対し、対象者Ｈ１の体温偏差が０、脈拍数偏差が１２である。この時、Ｗ＝－０．３、Ｅ＝１．３、Ｖ１＝０、Ｖ２＝－０．７５となる。指標値（Ｓ）は、Ｓ＝（－０．３＋０－０．７５）×１．３＝－１．３６５となる。第４行の時点では、他者Ｈ２である利用者Ｂが例えば「コノヤロウ」と発声し、その時の感情は喜びである。それに対し、対象者Ｈ１の体温偏差が０、脈拍数偏差が０である。この時、Ｗ＝－０．５、Ｅ＝０．２、Ｖ１＝０、Ｖ２＝０となる。指標値（Ｓ）は、Ｓ＝（－０．５＋０＋０）×０．２＝－０．１となる。第５行の時点では、他者Ｈ２である利用者ＤがキーワードＤＢには未登録のワードを発声し、その時の感情は怒りである。それに対し、対象者Ｈ１の体温偏差が０．５、脈拍数偏差が５である。この時、Ｗ＝０、Ｅ＝１．３、Ｖ１＝－０．２５、Ｖ２＝－０．２５となる。指標値（Ｓ）は、Ｓ＝（０－０．２５－０．２５）×１．３＝－０．６５となる。

【0092】

その後、第２４行の時点で、対象者Ｈ１である利用者Ａは、ワード「クルシイ」を発声し、その時の感情は哀しみである。その時の体温偏差が１、脈拍数偏差が５である。この時、Ｗ＝－０．５、Ｅ＝１．３、Ｖ１＝－０．５、Ｖ２＝－０．２５となる。指標値（Ｓ）は、Ｓ＝（－０．５－０．５－０．２５）×１．３＝－１．６２５となる。第２５行の時点で、対象者Ｈ１は、未登録のワードを発声し、その時の感情は哀しみである。その時の体温偏差が１、脈拍数偏差が１０である。この時、Ｗ＝０、Ｅ＝１．３、Ｖ１＝－０．５、Ｖ２＝－０．５となる。指標値（Ｓ）は、Ｓ＝（０－０．５－０．５）×１．３＝－１．３となる。第２６行の時点で、対象者Ｈ１は、ワード「シニタイ」を発声し、その時の感情は哀しみである。その時の体温偏差が１、脈拍数偏差が１３である。この時、Ｗ＝－１．５、Ｅ＝１．３、Ｖ１＝－０．５、Ｖ２＝－０．７５となる。指標値（Ｓ）は、Ｓ＝（－１．５－０．５－０．７５）×１．３＝－３．５７５となる。

【0093】

サーバ２は、時点毎に危険度を計算する。例えば、第２６行までの時点で、危険度は、第１行から第２６行までの指標値の合計として、（－０．５－１．９５……－３．５７５）＝－１１．０６５となる。サーバ２は、図９の判定条件に基づいて、その危険度が、レベル３の危険度範囲に該当するので、第３対処に決定する。

【0094】

［追加機能－音声データの記録や消去］
実施の形態１の有害行為検出システムは、他の機能として以下の追加機能を有する。追加機能では、情報端末１またはサーバ２は、取得された音声データ等の各データを、ユーザ設定に応じて、証拠用に記録して残しておいてもよいし、自動的に消去するようにしてもよい。

【0095】

利用者は、後での音声データの利用を考慮する場合、上記記録の設定にできる。この設定の場合、例えば、前述の図１や図６の構成で、情報端末１は、内部のメモリ等に、音声データを記録して保持する。あるいは、サーバ２は、ＤＢ５０内に、音声データを記録して保持する。これらの記録される音声データは、対象者Ｈ１毎に、ＩＤ、日時、位置、音声情報、指標値、対処データＤ２等と関連付けた状態で履歴として管理される。利用者は、後で確認等のために音声データを参照したい場合、所定の入力操作（例えば日時等の条件の指定）を行う。これに応じて、情報端末１内またはサーバ２内から、該当する音声データおよびそれに関連する情報が読み出され、再生や表示ができる。契約者Ｈ３等は、それらの音声データや情報を確認することで、パワハラ等の行為に関する確認を行うことができる。音声データ等がサーバ２側のＤＢ５０に保持される場合、第三者に対応する事業者側に利用者のデータをセキュアに保持でき、後で確認等に利用可能である。

【0096】

上記消去の設定の場合、情報端末１またはサーバ２は、必要な処理後の音声データを消去する。この場合、情報端末１またはサーバ２のメモリ使用量を削減できる。利用者は、音声を含むプライバシーを気にする場合には、このように音声データを消去する設定にできる。

【0097】

［追加機能－時間・場所の限定］
実施の形態１では、有害行為検出機能に係わる音声データ取得や送信データ作成等の基本的な処理を、ユーザ設定に基づいて基本的に常時に行う構成とした。情報端末１は、ユーザ設定に応じて、常時に音声を入力し音声データを取得することもできるし、限定された時間のみに音声データを取得することもできる。後者の設定は、例えば以下のような構成例が挙げられる。第１構成例として、予めユーザ設定で、対象者Ｈ１および契約者Ｈ３毎に、音声を取得する対象となる日時（時間帯を含む）および場所等が設定される。例えば、場所は、対象者Ｈ１が属する会社の位置を中心とした範囲に限定され、日時は、その会社の就業日時に限定される。例えば、情報端末１は、既存のセンサ等を用いて、現在の日時や場所の状態が、設定された日時や場所の条件に該当するかを確認する。情報端末１は、該当する場合のみに、有害行為検出機能を自動的にオン状態に切り替え、前述の音声データ取得等の処理を実行する。情報端末１は、条件を満たさない場合には、自動的にオフ状態に切り替える。この設定の場合、情報端末１の処理量やバッテリ使用量を削減できる。

【0098】

第２構成例として、情報端末１は、音声入力機能をオン状態とした前提で、マイクからの入力音声の音量が、所定の音量閾値以上となるか、またはその音量状態が所定時間以上継続するかを判断する。情報端末１は、その条件を満たす場合には、有害行為検出機能をオン状態にし、前述の処理を実行する。情報端末１は、条件を満たさない場合には、自動的にオフ状態に切り替える。この設定の場合、同様に、情報端末１の処理量やバッテリ使用量を削減できる。この設定の場合、例えば他者Ｈ２が大声で罵倒等の発声をした場合、それがトリガとなって処理が実行される。

【0099】

［効果等］
上記のように、実施の形態１の有害行為検出システムによれば、例えば会社でのパワハラ等の有害行為に関する可能性を推定して検出でき、対処を支援することができる。実施の形態１の有害行為検出システムによれば、被害者および加害者の検出やケアができ、有害行為の抑止や早期検出ができ、職場環境の改善や悪化防止等に寄与できる。実施の形態１の有害行為検出システムによれば、個人の対象者Ｈ１が有害行為から自己を守ることができる。実施の形態１の有害行為検出システムによれば、加害者や被害者に自覚が無い場合でも、パワハラ等の可能性を指摘することができ、有害行為の防止や意識改善ができる。このシステムによれば、有害行為をリアルタイムで検出し対処が可能であり、事件等に至る前に防止できる。このシステムによれば、第三者の観点から有害行為を評価でき、対処が可能である。

【0100】

他の実施の形態として以下も可能である。実施の形態１では、事業者のサーバ２は、通信網５上に存在し、複数の職場環境と通信接続され、複数の対象者Ｈ１に対しサービスを提供する。これに限らず、サーバ２は、ある特定の職場環境内でＬＡＮ等に設けられるサーバとしてもよい。すなわち、ある職場環境においてクライアントサーバ方式で前述の機能が実現されてもよい。また、有害行為検出システムを構成する計算機が、主に情報端末１とサーバ２とで構成される場合を示したが、これに限らず、さらに他の連携する装置（例えばＬＡＮ上のサーバ）が設けられてもよい。また、事業者のサーバ２は、複数の対象者Ｈ１の情報端末１からのデータを集積し、例えば統計処理等の分析処理を行ってもよい。これにより、ＤＢ５０の設定情報、例えば判定条件が更新されてもよい。分析は、例えば、年齢・性別・職種等の属性の分析を含んでもよい。また、例えば店舗等の職場環境に監視カメラシステム等が設置されている場合には、有害行為検出システムは、監視カメラの映像データを取得し、前述のデータと併用して、分析を行ってもよい。

【0101】

変形例として、図１での契約者Ｈ３が対象者Ｈ１と同じである形態も可能である。この場合、サーバ２からの通知等の対処データＤ２の出力の際には、対象者Ｈ１の情報端末２へ送信されることになる。

【0102】

変形例として、音声に基づいた分析処理の際に、音量等のパラメータを併用してもよい。例えば、他者Ｈ２のワードの音量が閾値以上である場合や、ワード間の音量差が大きい場合、その分評価値を大きくする等の方式としてもよい。

【0103】

［変形例－複数の対象者］
図１０は、実施の形態１の変形例の有害行為検出システムにおいて、ある職場環境に複数の対象者Ｈ１が存在する利用形態を示す。例えば、会社内のある部署の全ての社員が、それぞれ対象者Ｈ１となる。契約者Ｈ３は、例えばそれらの複数の社員との関係を持つ経営者や総務部担当者等の規定の人である。契約者Ｈ３は、各社員のパワハラ等の行為を抑止および検出できるように、このサービスを利用する。この利用形態の場合、各社員が同様に情報端末１を所持する。この利用形態の場合、導入時点で、有害行為に関する相応の抑止効果が得られる。さらに、この利用形態では、社員が自覚無くパワハラ等を行っている場合や受けている場合でも、その有害行為の可能性を検出し、指摘することができる。また、この形態では、被害者側の情報端末１からの送信データＤ１と、加害者側の情報端末１からの送信データＤ１との両方が得られるので、被害者と加害者との両方を考慮して、有害行為に関する推定や判定が可能である。

【0104】

図１０の例では、複数の対象者Ｈ１として、社員である利用者Ａ，Ｂ，Ｃ，Ｄ等を有する。各対象者Ｈ１は、情報端末１を持つ。例えば、利用者Ａは情報端末１Ａを持ち、利用者Ｂは情報端末１Ｂを持つ。各情報端末１およびサーバ２の構成は例えば図６の場合と同様である。本例では、ある時点での有害行為に関して、利用者Ａが被害者、利用者Ｂが加害者であるとする。

【0105】

有害行為の発生の状況において、利用者Ａの情報端末１Ａは、音声入力に基づいて、送信データＤ１Ａを構成し、サーバ２へ送信する。利用者Ｂの情報端末１Ｂは、音声入力に基づいて、送信データＤ１Ｂを構成し、サーバ２へ送信する。サーバ２は、送信データＤ１Ａおよび送信データＤ１Ｂを受信し、それぞれの対象者Ｈ１（利用者Ａ，Ｂ）に関して、危険度を判定し、それぞれの対処を決定し、それぞれの対処データＤ２（Ｄ２Ａ，Ｄ２Ｂ）を作成する。例えば、サーバ２は、契約者端末３等に対し、対処データＤ２（Ｄ２Ａ，Ｄ２Ｂ）を送信する。

【0106】

また、この構成例では、サーバ２は、情報端末１Ａに対処データＤ２Ａを送信し、情報端末１Ｂに対処データＤ２Ｂを送信してもよい。各情報端末１に送信される対処データＤ２は、その利用者の状態に応じた内容を持ち、異なっていてもよい。例えば、利用者Ａに対しては有害行為の被害者の可能性を伝えるメッセージが通知され、利用者Ｂに対しては有害行為の加害者の可能性を伝えるメッセージが通知される。この変形例によれば、職場環境の複数の人に関して、被害者および加害者の両方に関して検出およびケアすることができる。

【0107】

（実施の形態２）
図１１を用いて、本発明の実施の形態２の有害行為検出システムについて説明する。以下では、実施の形態２等における実施の形態１とは異なる構成部分について説明する。実施の形態１は、情報端末１とサーバ２との間で連携し処理を分担する構成とした。この分担は、各種の構成が可能である。実施の形態２は、有害行為検出機能に係わる主要な処理をサーバ２で行う構成とする。

【0108】

図１１は、実施の形態２の有害行為検出システムの構成を示す。情報端末１は、前述の図６の構成に対し、異なる構成点としては、音声データ処理部１３や指標値計算部１７を備えない。情報端末１のデータ作成送信部１８は、音声データ、日時、位置、バイタルデータ等を取得し、それらのデータを含む送信データＤ１を構成し、暗号化等を行って、サーバ２へ送信する。実施の形態２では、通信網５上、音声データを含む送信データＤ１が転送される。

【0109】

サーバ２は、前述の図６の構成に対し、音声データ処理部２５、および指標値計算部２６が追加されている。音声データ処理部２５は、送信データＤ１に含まれる音声データに基づいて、前述と同様の処理によって、声紋情報、音声情報、および感情情報を取得する。指標値計算部２６は、前述と同様に複数の要素の組合せの分析に基づいて、指標値を計算する。分析部２３は、指標値計算部２６で計算した指標値を用いて危険度を判定する。ＤＢ５０には、顧客ＤＢ５１、状態ＤＢ５２、履歴ＤＢ５３、声紋ＤＢ５４、感情ＤＢ５５、キーワードＤＢ５６等を含んでいる。サーバ２側のＤＢ５０には、複数の利用者に係わる情報が格納されている。

【0110】

上記のように、実施の形態２の有害行為検出システムによっても、実施の形態１と類似の効果が得られる。

【0111】

（実施の形態３）
図１２を用いて、本発明の実施の形態３の有害行為検出システムについて説明する。実施の形態３は、有害行為検出機能に係わる主要な処理を情報端末１で行う構成とする。

【0112】

図１２は、実施の形態３の有害行為検出システムの構成を示す。情報端末１は、前述の図６の構成に対し、分析部３１、対処動作部３２、通信部３３、表示部３４、およびＤＢ６０を備える。分析部３１は、指標値計算部１７で計算された指標値を用いて危険度を判定する。対処動作部３２は、危険度に応じて対処を決定し、対処データＤ２を作成し、通知やレポート等の動作を制御する。通信部３３は、対処動作部３２からの制御に基づいて、サーバ２との通信や、契約者端末３との通信、警備員Ｈ４への連絡等を行う。また、表示部３４は、ディスプレイに、対処データＤ２の通知やレポート等の情報を表示する。

【0113】

ＤＢ６０は、サーバ２側のＤＢ５０と対応しており、日時、位置、音声データ、声紋情報、音声情報、感情情報、バイタルデータ、および指標値や危険度等の各種のデータが関連付けられて保持される。情報端末１側のＤＢ６０には、ある利用者（対象者Ｈ１）に係わる情報が格納されている。実施の形態３の構成では、前述の送信データＤ１は無く、代わりにサーバ２への通知情報Ｄ６等がある。通知情報Ｄ６は、情報端末１でのサービス利用の状態等を通知する情報である。なお、通知情報Ｄ６に、指標値や危険度の情報を含ませてもよいし、対処動作を実行したことを表す対処情報を含ませてもよい。

【0114】

サーバ２は、前述の図６の構成に対し、分析部２３や対処動作部２４を備えず、サービス処理部２９を備える。サービス処理部２９は、複数の各情報端末１からのアクセスを受け付けて、サービス利用契約およびユーザ設定等の処理を行い、ＤＢ５０に設定情報等を格納する。また、サービス処理部２９は、各情報端末１からの通知情報Ｄ６を取得し、サービス利用状態や履歴等の情報をＤＢ５０内に格納する。

【0115】

上記のように、実施の形態３の有害行為検出システムによっても、実施の形態１や２と類似の効果が得られる。

【符号の説明】

【0116】

１…情報端末、２…サーバ、３…契約者端末、５…通信網、Ｈ１…対象者、Ｈ２…他者、Ｈ３…契約者、Ｈ４…警備員、Ｄ１…送信データ、Ｄ２…対処データ。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】