知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023009563
(43)【公開日】2023-01-20
(54)【発明の名称】ハラスメント予防システム及びハラスメント予防方法
(51)【国際特許分類】
G10L 25/51 20130101AFI20230113BHJP
G10L 15/10 20060101ALI20230113BHJP
G10L 25/63 20130101ALI20230113BHJP
H04M 3/42 20060101ALI20230113BHJP
【ＦＩ】
G10L25/51
G10L15/10 200W
G10L25/63
H04M3/42 P
【審査請求】未請求
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2021112958
(22)【出願日】2021-07-07
(71)【出願人】
【識別番号】000005108
【氏名又は名称】株式会社日立製作所
(74)【代理人】
【識別番号】110000176
【氏名又は名称】弁理士法人一色国際特許事務所
(72)【発明者】
【氏名】杉原 優子
(72)【発明者】
【氏名】野尻 周平
(72)【発明者】
【氏名】津田 麻友佳
(72)【発明者】
【氏名】向坂 太郎
(72)【発明者】
【氏名】広瀬 雄二
【テーマコード（参考）】
5K201
【Ｆターム（参考）】
5K201BA15
5K201BB09
5K201CC10
5K201DC02
5K201DC04
5K201DC05
5K201DC07
5K201EC06
5K201EF09
(57)【要約】
【課題】リモートワーク環境下で発生するハラスメント行為を、効果的に予防する技術を提供する。
【解決手段】ハラスメント予防システム１を構成するサーバ１０において、会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び各種事象の影響度を変数としたハラスメントレベルの算定式を保持する記憶装置１０１と、発話の音声データを取得して会話参加者を指す所定語彙を抽出し、会話参加人数及び発話対象を特定し、音声データから各種事象に対応するデータを抽出して評価情報と照合し、各種事象に関する影響度を判定し、この影響度を算定式に適用してハラスメントレベルを算定する演算装置１０４を含む構成とする。
【選択図】図２
【解決手段】ハラスメント予防システム１を構成するサーバ１０において、会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び各種事象の影響度を変数としたハラスメントレベルの算定式を保持する記憶装置１０１と、発話の音声データを取得して会話参加者を指す所定語彙を抽出し、会話参加人数及び発話対象を特定し、音声データから各種事象に対応するデータを抽出して評価情報と照合し、各種事象に関する影響度を判定し、この影響度を算定式に適用してハラスメントレベルを算定する演算装置１０４を含む構成とする。
【選択図】図２
【特許請求の範囲】
【請求項1】
会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を保持する記憶装置と、
会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する演算装置と、
を含むことを特徴とするハラスメント予防システム。
会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する演算装置と、
を含むことを特徴とするハラスメント予防システム。
【請求項2】
前記演算装置は、
前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
【請求項3】
前記記憶装置は、
前記評価情報として、会話に含まれる単語、会話の音声が示す感情、会話の遮り、沈黙の長さ、及び発話対象者の数、の少なくともいずれか複数の事象それぞれについてのハラスメントへの影響度を定めたものを保持し、
前記演算装置は、
前記影響度の判定に際し、前記音声データから前記複数の事象それぞれに対応するデータを抽出して前記評価情報と照合し、当該複数の事象それぞれに関する前記影響度を判定するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
前記評価情報として、会話に含まれる単語、会話の音声が示す感情、会話の遮り、沈黙の長さ、及び発話対象者の数、の少なくともいずれか複数の事象それぞれについてのハラスメントへの影響度を定めたものを保持し、
前記演算装置は、
前記影響度の判定に際し、前記音声データから前記複数の事象それぞれに対応するデータを抽出して前記評価情報と照合し、当該複数の事象それぞれに関する前記影響度を判定するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
【請求項4】
前記演算装置は、
前記会話参加人数及び発話対象を特定するに際し、前記音声データにおいて会話参加者を指す語彙である、個人名ないし人称代名詞を抽出し、当該個人名ないし人称代名詞の有無および数に基づいて会話参加人数及び発話対象を特定するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
前記会話参加人数及び発話対象を特定するに際し、前記音声データにおいて会話参加者を指す語彙である、個人名ないし人称代名詞を抽出し、当該個人名ないし人称代名詞の有無および数に基づいて会話参加人数及び発話対象を特定するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
【請求項5】
前記記憶装置は、
前記会話参加者の属性情報と、前記会話参加者の属性に基づく前記影響度の調整情報をさらに保持するものであり、
前記演算装置は、
前記影響度の判定に際し、前記会話参加人数が２者以上である場合、前記発話対象で特定した発話者と当該発話の受け手のそれぞれの属性情報を前記記憶装置から抽出し、当該属性情報が示す、前記発話者と前記受け手の社会的立場又は地域性の少なくともいずれかに基づき、所定事象に関する前記影響度を前記調整情報に基づき増減させるものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
前記会話参加者の属性情報と、前記会話参加者の属性に基づく前記影響度の調整情報をさらに保持するものであり、
前記演算装置は、
前記影響度の判定に際し、前記会話参加人数が２者以上である場合、前記発話対象で特定した発話者と当該発話の受け手のそれぞれの属性情報を前記記憶装置から抽出し、当該属性情報が示す、前記発話者と前記受け手の社会的立場又は地域性の少なくともいずれかに基づき、所定事象に関する前記影響度を前記調整情報に基づき増減させるものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
【請求項6】
前記演算装置は、
前記増減を施した影響度に基づき前記ハラスメントレベルを算定した結果、算定結果であるハラスメントレベルが所定の基準以上であった場合、当該ハラスメントレベルの算定に関与した所定の事象に関して、前記会話参加者のそれぞれ、または当該会話参加者の所属組織に特有の値となるよう前記影響度を所定ルールで増減して前記評価情報を更新するものである、
ことを特徴とする請求項５に記載のハラスメント予防システム。
前記増減を施した影響度に基づき前記ハラスメントレベルを算定した結果、算定結果であるハラスメントレベルが所定の基準以上であった場合、当該ハラスメントレベルの算定に関与した所定の事象に関して、前記会話参加者のそれぞれ、または当該会話参加者の所属組織に特有の値となるよう前記影響度を所定ルールで増減して前記評価情報を更新するものである、
ことを特徴とする請求項５に記載のハラスメント予防システム。
【請求項7】
前記演算装置は、
会話中に会話参加者の端末よりハラスメント報告を受けた場合、当該ハラスメント報告を受けた時点または直前に関する音声データから、前記語彙の抽出を行い、当該語彙に基づく前記会話参加人数及び前記発話対象を特定し、前記音声データから前記各種事象に対応するデータを抽出して、前記会話参加人数及び前記発話対象を含めた前記各種事象に対応するデータを説明変数とし、前記ハラスメント報告の内容を目的変数とした回帰分析または機械学習を実行することで、前記評価情報における前記各種事象に関する影響度を、前記ハラスメント報告を行った会話参加者個人向けに更新するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
会話中に会話参加者の端末よりハラスメント報告を受けた場合、当該ハラスメント報告を受けた時点または直前に関する音声データから、前記語彙の抽出を行い、当該語彙に基づく前記会話参加人数及び前記発話対象を特定し、前記音声データから前記各種事象に対応するデータを抽出して、前記会話参加人数及び前記発話対象を含めた前記各種事象に対応するデータを説明変数とし、前記ハラスメント報告の内容を目的変数とした回帰分析または機械学習を実行することで、前記評価情報における前記各種事象に関する影響度を、前記ハラスメント報告を行った会話参加者個人向けに更新するものである、
ことを特徴とする請求項１に記載のハラスメント予防システム。
【請求項8】
前記演算装置は、
前記ハラスメント報告を受けた場合、当該ハラスメント報告の内容に応じてフィードバック内容を生成し、当該フィードバック内容を、当該ハラスメントの実行者たる会話参加者の端末に通知するものである、
ことを特徴とする請求項７に記載のハラスメント予防システム。
前記ハラスメント報告を受けた場合、当該ハラスメント報告の内容に応じてフィードバック内容を生成し、当該フィードバック内容を、当該ハラスメントの実行者たる会話参加者の端末に通知するものである、
ことを特徴とする請求項７に記載のハラスメント予防システム。
【請求項9】
情報処理装置が、
会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を記憶装置にて保持し、
会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する、
ことを特徴とするハラスメント予防方法。
会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を記憶装置にて保持し、
会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する、
ことを特徴とするハラスメント予防方法。
【請求項10】
前記情報処理装置が、
前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信する、
ことを特徴とする請求項９に記載のハラスメント予防方法。
前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信する、
ことを特徴とする請求項９に記載のハラスメント予防方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ハラスメント予防システム及びハラスメント予防方法に関するものである。
【背景技術】
【0002】
近年のリモートワーク普及に伴い、オンライン会議の開催機会が急増している。そうしたオンライン会議における参加者は、実際に対面する従来の会議とは異なったふるまいをするケースも多い。
そのため各参加者は、自身の発言が他の参加者にどのように受け取られているか、その表情や反応、雰囲気から直ちに認識することは難しい。
そのため各参加者は、自身の発言が他の参加者にどのように受け取られているか、その表情や反応、雰囲気から直ちに認識することは難しい。
【0003】
この状況は、リアルタイムに映像を確認できる会議ではなく、音声のみでコミュニケーションを行う会議の場合、特に顕著となる。当然、相手方の反応が把握しにくい課題は、意図せず又は意図的に、自身の発言等が他の参加者に対するハラスメント行為となる可能性にも結びつく。
【0004】
リモートワーク環境下でのオンライン会議の場合、上述のようなハラスメント行為に対し、組織の同僚や上司などが適宜に指摘、指導を行うどころか、問題の存在にすら気がつけない可能性すらある。
【0005】
こうしたハラスメント行為の回避等に関連する従来技術としては、職場環境でのパワハラ、セクハラ、いじめ等の有害行為に関して検出でき、対処を支援することができる技術を提供するシステム（特許文献１参照）などが提案されている。
【0006】
このシステムは、職場環境における人の間でのパワーハラスメント、セクシャルハラスメント、およびいじめを含む有害行為に関する観察および検出を行う計算機を備える有害行為検出システムであって、前記計算機は、対象者の周囲の音声を入力した音声データと、前記音声データからの音声認識に基づいて抽出した会話内容を表すワードを含む音声情報、前記音声データからの感情認識に基づいて分類した感情を表す感情情報、および前記対象者のバイタルデータの少なくとも１つと、日時情報と、前記対象者の位置情報とを含むデータを取得し、前記取得されたデータに基づいて、前記対象者の周囲にいる他者のワードおよび感情と、前記対象者のワード、感情、およびバイタルデータとの５つの要素のうちの少なくとも１つの要素を用いて、前記有害行為に関する指標値を計算し、前記指標値に基づいて、前記有害行為の被害者および加害者の少なくとも一方と、前記有害行為の有無または度合いと、を含む前記有害行為の状態を推定し、前記推定された状態に応じた前記有害行為への対処のための対処データを出力するものである。
【0007】
また、ハラスメントの発生を適切に検知するハラスメント検知プログラム、ハラスメント検知システム及びハラスメント検知方法を提供するプログラム（特許文献２参照）なども提案されている。
【0008】
このプログラムは、第一の人物に関する音声データ、及び前記第一の人物と第二の人物との位置を照合するための照合情報であって、前記第一の人物に関する照合情報を取得し、前記第二の人物に関する、身体情報データ、及び前記照合情報を取得し、前記第一の人物に関して取得した音声データに基づいて、前記第一の人物のハラスメントに関する第一の嫌疑を検出し、前記第二の人物に関して取得した身体情報データに基づいて、前記第二の人物のハラスメントに関する第二の嫌疑を検出し、前記第一の嫌疑の検出時期と前記第二の嫌疑の検出時期との照合結果、及び前記第一の人物に関して取得した照合情報と前記
第二の人物に関して取得した照合情報との照合結果に基づいて、前記第一の人物と前記第二の人物との間におけるハラスメントの発生を検知するものである。
第二の人物に関して取得した照合情報との照合結果に基づいて、前記第一の人物と前記第二の人物との間におけるハラスメントの発生を検知するものである。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開２０２０－１２３２０４号公報
【特許文献1】特開２０２０－００９２３８号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
ところが、従来技術を採用するとしても、参加者同士が離れた場所で会議に参加するリモートワーク環境が前提となっている場合、当該参加者らの位置や互いの距離等を観測できず、有効な効果は期待できない。こうした点は、参加者周囲の音声をインプットとする技術を採用する場合でも同様である。
結局のところ、昨今のリモートワーク環境下で発生するハラスメント行為に対して効果的に対処する技術は提供されていない。
結局のところ、昨今のリモートワーク環境下で発生するハラスメント行為に対して効果的に対処する技術は提供されていない。
【0011】
そこで本発明の目的は、リモートワーク環境下で発生するハラスメント行為を、効果的に予防する技術を提供することにある。
【課題を解決するための手段】
【0012】
上記課題を解決する本発明のハラスメント予防システムは、会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を保持する記憶装置と、会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する演算装置と、を含むことを特徴とする。
また、本発明のハラスメント予防方法は、情報処理装置が、会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を記憶装置にて保持し、会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する、ことを特徴とする。
また、本発明のハラスメント予防方法は、情報処理装置が、会話に伴う各種事象についてハラスメントへの影響度を定めた評価情報、及び前記各種事象の前記影響度を変数としたハラスメントレベルの算定式を記憶装置にて保持し、会話参加者による発話の音声データを所定装置より取得し、当該音声データにおいて会話参加者を指す所定語彙を抽出し、当該語彙に基づいて会話参加人数及び発話対象を特定する処理と、前記音声データから前記各種事象に対応するデータを抽出して前記評価情報と照合し、当該各種事象に関する前記影響度を判定する処理と、前記判定した影響度を前記算定式に適用してハラスメントレベルを算定する処理を実行する、ことを特徴とする。
【発明の効果】
【0013】
本発明によれば、リモートワーク環境下で発生するハラスメント行為を、効果的に予防可能となる。
【図面の簡単な説明】
【0014】
【図1】本実施形態のハラスメント予防システムのネットワーク構成例を示す図である。
【図2】本実施形態におけるサーバのハードウェア構成例を示す図である。
【図3】本実施形態における端末のハードウェア構成例を示す図である。
【図4A】本実施形態のワード評価（ＮＧワード）テーブルの構成例を示す図である。
【図4B】本実施形態のワード評価（後続ワード）テーブルの構成例を示す図である。
【図4C】本実施形態の感情評価テーブルの構成例を示す図である。
【図4D】本実施形態の遮り値テーブルの構成例を示す図である。
【図4E】本実施形態の沈黙長さ基準テーブルの構成例を示す図である。
【図4F】本実施形態の会話対象評価テーブルの構成例を示す図である。
【図4G】本実施形態のハラスメント判定テーブルの構成例を示す図である。
【図5】本実施形態の入力情報テーブルの構成例を示す図である。
【図6】本実施形態におけるハラスメント予防方法のフロー例を示す図である。
【図7】本実施形態におけるハラスメント度合い算出例を示す図である。
【図8】本実施形態における会話方向性判定のフロー例を示す図である。
【図9】本実施形態におけるサーバのハードウェア構成例を示す図である。
【図10】本実施形態における参加者属性情報の例を示す図である。
【図11】本実施形態の個別ハラスメントモデルの定義更新用テーブルの構成例を示す図である。
【図12】本実施形態におけるハラスメント予防方法のフロー例を示す図である。
【図13】本実施形態におけるサーバのハードウェア構成例を示す図である。
【図14】本実施形態におけるハラスメント予防方法のフロー例を示す図である。
【図15】本実施形態における画面例を示す図である。
【発明を実施するための形態】
【0015】
＜ネットワーク構成＞
以下に本発明の実施形態について図面を用いて詳細に説明する。図１は、本実施形態のハラスメント予防システム１を含むネットワーク構成図である。図１に示すハラスメント予防システム１は、リモートワーク環境下で発生するハラスメント行為を、効果的に予防可能とするコンピュータシステムである。
以下に本発明の実施形態について図面を用いて詳細に説明する。図１は、本実施形態のハラスメント予防システム１を含むネットワーク構成図である。図１に示すハラスメント予防システム１は、リモートワーク環境下で発生するハラスメント行為を、効果的に予防可能とするコンピュータシステムである。
【0016】
本実施形態のハラスメント予防システム１は、図１で示すように、ネットワーク５を介して、ハラスメント予防装置たるサーバ１０と、オンライン会議の参加者らが操作する端末２０とが通信可能に接続された構成となっている。なお、本実施形態のハラスメント予防システム１は、その最小構成としてサーバ１０を含むものとする。
【0017】
サーバ１０は、オンライン会議中に端末２０を通じて発話された内容について、少なくとも音声データ、より好ましくは映像データも取得し、これらデータに基づいて、ハラスメントレベルの判定とその結果の出力といった一連の処理を実行する。
【0018】
一方、端末２０は、オンライン会議中の上述の音声データ等をネットワーク５を介してサーバ１０にリアルタイムに又は一定時間ごとに配信する。また、サーバ１０によるハラスメントレベルの判定結果等について通知を受け、これをディスプレイやスピーカーなど適宜な出力装置で出力し、会議参加者等に提示する。
＜ハードウェア構成：サーバ＞
また、本実施形態のハラスメント予防システム１を構成する各装置のハードウェア構成について説明する。図２は、本実施形態におけるサーバ１０のハードウェア構成例を示す図である。
＜ハードウェア構成：サーバ＞
また、本実施形態のハラスメント予防システム１を構成する各装置のハードウェア構成について説明する。図２は、本実施形態におけるサーバ１０のハードウェア構成例を示す図である。
【0019】
図２で例示するように、サーバ１０は、記憶装置１０１、メモリ１０３、演算装置たるＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１０４、入出力Ｉ／Ｆ１０５、およびネットワークＩ／Ｆ１０６、を備える。
【0020】
このうち記憶装置１０１は、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）やハードディスクドライブなど適宜な不揮発性記憶素子で構成される。
【0021】
また、メモリ１０３は、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）など揮発性記憶素子で構成される。
【0022】
また、ＣＰＵ１０４は、記憶装置１０１に保持されるプログラム１１０～１１４をメモリ１０３に読み出すなどして実行し装置自体の統括制御を行なうとともに各種判定、演算及び制御処理を行なう演算装置である。
【0023】
また、入出力Ｉ／Ｆ１０５は、必要に応じてユーザからのキー入力や音声入力を受け付ける入力装置や、処理データの表示を行うディスプレイ等の出力装置とのデータ授受を実行するインターフェイスである。
【0024】
また、ネットワークＩ／Ｆ１０６は、ネットワーク５と接続して端末２０との通信処理を担う通信装置である。
【0025】
また、記憶装置１０１には、本実施形態のサーバ１０として必要な機能を実装する為のプログラム１１０～１１４に加えて、端末２０から得た各種のデータや、判定等に使用するテーブル等が情報記憶領域１１５に記憶されている。
【0026】
この情報記憶領域１１５で保持するデータ等としては、ワード評価情報（ＮＧワード）１２０、ワード評価情報（後続ワード）１２１、感情評価情報１２２、遮り評価情報１２３、沈黙長さ評価情報１２４、会話対象評価１２５、ハラスメント判定基準１２６、個別ハラスメントモデルの定義更新用テーブル１２７、入力情報テーブル１２８、参加者属性情報１２９を想定する。ただし、これらデータやテーブル等の詳細については後述する。
【0027】
なお、記憶装置１０１で保持するプログラムのうち入力処理プログラム１１０は、端末２０から、音声データを取得し成形する処理や、オンライン会議の参加者に関するデータを取得する機能を実装する。
【0028】
また、会話方向性判定プログラム１１１は、オンライン会議における発話の向け先を判定する機能を実装する。
【0029】
また、ハラスメント判定プログラム１１２は、音声データから得られる各事象の特徴に基づきオンライン会議中の発話者の会話内容に関して、ハラスメント度合いを判定する機能を実装する。
【0030】
また、フィードバック生成プログラム１１３は、ハラスメント判定プログラム１１２での判定結果を元に、オンライン会議中の発話者に対して表示するメッセージを生成する機能や、ハラスメントと判定された発言をした参加者を特定する機能を実装する。
【0031】
また、出力処理プログラム１１４は、フィードバック生成プログラム１１３が生成したメッセージを、しかるべき表示先である発話者の端末２０に配信して表示させる機能を実装する。
＜ハードウェア構成：端末＞
また、本実施形態のハラスメント予防システム１を構成する端末２０のハードウェア構成について説明する。図３は、本実施形態における端末２０のハードウェア構成例を示す図である。
＜ハードウェア構成：端末＞
また、本実施形態のハラスメント予防システム１を構成する端末２０のハードウェア構成について説明する。図３は、本実施形態における端末２０のハードウェア構成例を示す図である。
【0032】
図３で例示するように、端末２０は、記憶装置２０１、メモリ２０３、演算装置たるＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）２０４、入力Ｉ／Ｆ２０５、
出力Ｉ／Ｆ２０６、およびネットワークＩ／Ｆ２０７、を備える。
出力Ｉ／Ｆ２０６、およびネットワークＩ／Ｆ２０７、を備える。
【0033】
このうち記憶装置２０１は、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）やハードディスクドライブなど適宜な不揮発性記憶素子で構成される。
【0034】
また、メモリ２０３は、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）など揮発性記憶素子で構成される。
【0035】
また、ＣＰＵ２０４は、記憶装置２０１に保持されるプログラム２１０～２１４をメモリ２０３に読み出すなどして実行し装置自体の統括制御を行なうとともに各種判定、演算及び制御処理を行なう演算装置である。
【0036】
また、入力Ｉ／Ｆ２０５は、必要に応じてユーザからのキー入力や音声入力を受け付ける入力装置（例：マイク、カメラ、キーボード、マウス、タッチパネルなど）そのもの、ないしそうした入力装置とのデータ授受を実行するインターフェイスである。
【0037】
また、出力Ｉ／Ｆ２０６は、処理データの表示等を行う出力装置（例：ディスプレイ、スピーカーなど）そのもの、ないしそうした出力装置とのデータ授受を実行するインターフェイスである。
【0038】
また、ネットワークＩ／Ｆ２０７は、ネットワーク５と接続してサーバ１０との通信処理を担う通信装置である。
【0039】
また、記憶装置２０１には、本実施形態の端末２０として必要な機能を実装する為のプログラム２１０～２１４に加えて、本端末２０の操作を行ってオンライン会議に参加するユーザの音声データや映像データ等が情報記憶領域２１５に記憶されている。
【0040】
なお、記憶装置２０１で保持するプログラムのうち音声データ取得プログラム２１０は、入力Ｉ／Ｆ２０５たるマイクから、発話内容たる音声データを取得する機能を実装する。
【0041】
また、画像データ取得プログラム２１１は、入力Ｉ／Ｆ２０５たるカメラから、ユーザである会議参加者の画像データを取得する機能を実装する。ただし、この画像データ取得プログラム２１１は必須ではない。
【0042】
また、入力データ取得プログラム２１２は、入力Ｉ／Ｆ２０５たるキーボードから、ユーザのキー入力をテキストデータとして取得する機能を実装する。ただし、この入力データ取得プログラム２１２は必須ではない。
【0043】
また、ハラスメントボタン入力検知プログラム２１３は、入力Ｉ／Ｆ２０５にてハラスメント通知ボタンが押下されたことを検出する機能を実装する。ハラスメント通知ボタンは、会議参加者たるユーザがハラスメント行為を受けたと認識した際に押下するインターフェイスである。
【0044】
また、データ送信プログラム２１４は、上述のプログラムらが取得したデータおよび、端末２０の識別情報（参加者の識別情報の概念も含みうる）をサーバ１０に送信する機能を実装する。
＜データ構造例＞
続いて、本実施形態のサーバ１０が記憶装置１０１にて保持する各種データについて、図４Ａ～図４Ｇ、及び図５に基づき説明する。
＜データ構造例＞
続いて、本実施形態のサーバ１０が記憶装置１０１にて保持する各種データについて、図４Ａ～図４Ｇ、及び図５に基づき説明する。
【0045】
図４Ａに、本実施形態におけるワード評価情報（ＮＧワード）１２０のデータ構成例を示す。本実施形態のワード評価情報（ＮＧワード）１２０は、オンライン会議の発話が含むと想定する単語に関して、ハラスメント行為に結びつく可能性すなわち影響度を規定したテーブルである。
【0046】
なお、このワード評価情報（ＮＧワード）１２０が規定する影響度は、知見ある者が規定した又は過去の事例データを統計処理して得た各単語の評価値である。評価値の性質として、ハラスメント行為に結びつく可能性が高いほど、絶対値が大きくなる。
【0047】
図４Ｂに、本実施形態におけるワード評価情報（後続ワード）１２１のデータ構成例を示す。本実施形態のワード評価情報（後続ワード）１２１は、オンライン会議の発話が含むと想定する単語であって、上述のＮＧワードの発話の後に、当該ＮＧワードを受け取った者（つまりハラスメント行為の被害者となりうる者）が応答時に発しやすい単語、に関して、その可能性の高さを影響度として規定したテーブルである。
【0048】
なお、このワード評価情報（後続ワード）１２１が規定する影響度は、知見ある者が規定した又は過去の事例データを統計処理して得た各単語の評価値である。評価値の性質として、ＮＧワードへの反応として出現する可能性が高いほど、絶対値が大きくなる。
【0049】
図４Ｃに、本実施形態における感情評価情報１２２のデータ構成例を示す。本実施形態の感情評価情報１２２は、上述の音声データを所定の感情分析プログラムに入力して得た、当該音声データが示す感情の種類ごとに、上述のＮＧワードや後続ワードの帯びる意図を評価値の形で規定したテーブルである。つまり、同じ単語でも、その際の音声が帯びる感情の意図により、ハラスメント行為に結びつく度合いが異なることを規定するものとなる。
【0050】
図４Ｄに、本実施形態における遮り評価情報１２３のデータ構成例を示す。本実施形態の遮り評価情報１２３は、オンライン会議における会話中に相手が話を遮った事象が、ハラスメント行為に結びつく可能性について規定するものとなる。
【0051】
図４Ｅに、本実施形態における沈黙長さ評価情報１２４のデータ構成例を示す。本実施形態の沈黙長さ評価情報１２４は、オンライン会議における会話中での相手（ＮＧワードを発話した者）の発話後、これを受けた者が（恐らくＮＧワードに衝撃を受けて傷つき）沈黙状態となった事象が、ハラスメント行為に結びつく可能性について規定するものとなる。
【0052】
図４Ｆに、本実施形態における会話対象評価情報１２５のデータ構成例を示す。本実施形態の会話対象評価情報１２５は、オンライン会議における会議参加者の間での会話が、１対１でなされたか又は複数人との間でなされたかにより、ＮＧワードを自分を特定されて言われたか、特に自分宛と特定されずに言われたかにより、精神的に被る衝撃が異なり、ハラスメント行為に結びつく可能性について規定するものとなる。
【0053】
なお、上述の図４Ａ～図４Ｆまでに示した各評価情報の内容は、例えば、オンライン会議の会議参加者に一般的に適用できる標準ハラスメントモデル、とする。一方、会議参加者別やその所属組織別に、評価情報の内容をチューニングしたものを個別ハラスメントモデルとする。この個別ハラスメントモデルは、上述の各評価情報にて規定する数値が、例えば、会議参加者の出身地や所在地といった地域特性や、組織内での職位といった社会的立場によって調整されたものとなる（詳細は後述）。
【0054】
図４Ｇに、本実施形態におけるハラスメント判定基準１２６のデータ構成例を示す。本実施形態のハラスメント判定基準１２６は、サーバ１０が上述の図４Ａ～図４Ｆの事象ごとの評価値に基づき算定したハラスメント度合いが、ハラスメント行為であるか否かを判定する基準である。
【0055】
図５に、本実施形態における入力情報テーブル１２８のデータ構成例を示す。本実施形態における入力情報テーブル１２８は、サーバ１０が端末２０から得た音声データ等を格納したテーブルである。なお、この音声データは、端末２０が入力Ｉ／Ｆ２０５であるマイクを介して、会議参加者の発話音声を録音したデータとなる。
【0056】
こうした入力情報テーブル１２８における各レコードは、会議参加者を一意に特定する参加者ＩＤをキーとして、当該会議参加者による発話開始時刻、発話終了時刻、音声データ、遮りフラグ、及び発話相手、といった値が対応付けられたものとなっている。
【0057】
なお、こうしたレコードは、会議参加者による音声が出現したタイミングから、当該音声が途切れるまでの１区間の音声データである。
【0058】
また、遮りフラグは、会議参加者とは別の会議参加者により当該発話が遮られた事象が発生したことを示すものである。音声の途切れを検出する前に、別の話者が話始めたら、遮りと判定し、別の話者のレコードの「遮りフラグ」が「１」となる。
【0059】
また、発話相手は、当該レコードにおいて発話を主導している会議参加者と会話を行っている、他の会議参加者が個人または複数人、かを示す値である。
＜フロー例：メインフロー＞
以下、本実施形態におけるハラスメント予防方法の実際手順について図に基づき説明する。以下で説明するハラスメント予防方法に対応する各種動作は、ハラスメント予防システム１を主として構成するサーバ１０がメモリ等に読み出して実行するプログラムによって実現される。そして、このプログラムは、以下に説明される各種の動作を行うためのコードから構成されている。
＜フロー例：メインフロー＞
以下、本実施形態におけるハラスメント予防方法の実際手順について図に基づき説明する。以下で説明するハラスメント予防方法に対応する各種動作は、ハラスメント予防システム１を主として構成するサーバ１０がメモリ等に読み出して実行するプログラムによって実現される。そして、このプログラムは、以下に説明される各種の動作を行うためのコードから構成されている。
【0060】
図６は、本実施形態におけるハラスメント予防方法のフロー例を示す図である。この場合、サーバ１０は、参加者属性情報１２９（図１０で詳細説明）の音声特徴および音声データから、発話の相手は誰なのか（すなわち会話の方向性）を判定する（ｓ１）。この判定の詳細なロジックについては図８に基づき後述する。
【0061】
上述の判定の結果、発話相手が個人または複数人のいずれでもない場合（ｓ２：Ｎｏ）、当該会議参加者の独り言だとしてサーバ１０は処理を終了する。
【0062】
一方、上述の判定の結果、発話相手が個人または複数人のいずれかである場合（ｓ２：Ｙｅｓ）、サーバ１０は、参加者属性情報１２９及び音声データから、会話に登場する各会議参加者が誰なのか判定する（ｓ３）。
【0063】
続いて、サーバ１０は、上述の音声データから、ハラスメント度合いの算定に用いる事象のデータ（要素データ）を抽出し（ｓ４）、各種の要素データを図４Ａ～図４Ｆで既に述べた評価情報に適用して評価値を判定して、これらをハラスメント度合い算定用の数式に適用することでハラスメント度合いを算出する（ｓ５）。
【0064】
本実施形態で示す具体例では、音声データが示す発話内容に含まれるＮＧワード、そのＮＧワードに対応して発せられた後続ワード、音声の雰囲気から判定された感情、会話の遮り有無、沈黙長さ、会話対象（個人向けか複数人向けか）、といった事象についての評
価値が得られるため、これらを数式に代入する。
価値が得られるため、これらを数式に代入する。
【0065】
その場合の数式としては、例えば、ハラスメント度合い＝（（ＮＧワード＋遮り有無＋個人ｏｒ複数）×感情）＋（（後続ワード＋沈黙長さ）×後続感情）、といったものを想定する。図７において、「ＮＧワードあり」、「ＮＧワードではないが周りが恐怖を感じている」、「ハラスメントではない」の各パターンについて、具体的に算定した例を示している。例えば、「ＮＧワードあり」のパターンにおいて、ＮＧワード、さえぎり有無、個ｏｒ複数、感情、後続ワード、沈黙長さ、及び後続感情、の各事象の値に基づき、「例１」では、（（－０．７－０．１－０．１）×１．５）＋（（－０．５－０．１）×１．５）＝－２．２５、などとハラスメント度合いの値を算定している。同様に、「ＮＧワードではないが周りが恐怖を感じている」パターンにおいて、ＮＧワード、さえぎり有無、個ｏｒ複数、感情、後続ワード、沈黙長さ、及び後続感情、の各事象の値に基づき、「例１」では、（（－０．１－０－０）×１．５）＋（（－０．５－０）×１．５）＝－０．９、などとハラスメント度合いの値を算定している。同様に、「ハラスメントではない」パターンにおいて、ＮＧワード、さえぎり有無、個ｏｒ複数、感情、後続ワード、沈黙長さ、及び後続感情、の各事象の値に基づき、「例１」では、（（－０．１－０－０）×０．１）＋（（－０．１－０）×０．１）＝－０．０２などとハラスメント度合いの値を算定している。
【0066】
ここに記載したハラスメント度合い算出方法は一例であり、これに限らない。例えば、機械学習による手法も採用可能である。その場合、サポーティングベクターマシン（ＳＶＭ）やニューラルネットワーク（ＮＮ）などを活用して、これら（各事象の評価値）とその結果（ハラスメント度合い）をあらかじめＳＶＭやＮＮに学習させたモデルに基づき判断させることもできる。
【0067】
勿論、会議参加者やその所属組織に跨がって生成・活用される評価情報（図４Ａ～図４Ｆ：標準モデル）とは異なり、会議参加者や所属組織ごとに個別に生成・活用される評価情報を想定し、これに基づいて判断モデルを学習させる構成も想定可能である。こうした個別モデルに基づく構成や処理については後述する。こうした個別モデルでは、重み（各事象の評価値の値）や、ハラスメント判定の閾値を個別（個々のユーザ群）に合わせてカスタマイズできる。
【0068】
続いて、サーバ１０は、ｓ５で算出したハラスメント度合いの値が、ハラスメント判定基準１２６（図４Ｇ）より大きいか判定する（ｓ６）。
【0069】
上述の判定の結果、ハラスメント度合いの値がハラスメント判定基準の値以上ではない場合（ｓ６：Ｎｏ）、サーバ１０は処理を終了する。
【0070】
他方、ハラスメント度合いの値がハラスメント判定基準の値以上である場合（ｓ６：Ｙｅｓ）、当該ハラスメント度合いに応じたフィードバックを生成する（ｓ７）。このフィードバックは、ハラスメント行為が行われていることを示すメッセージの他、当該ハラスメント行為の度合いとその危険性について警告するメッセージを、ハラスメント度合いの大きさに応じて予め定めたものとする。
【0071】
続いて、サーバ１０は、ｓ７で生成したフィードバックの値を発話者の端末２０に対して送信し（ｓ８）、処理を終了する。
＜フロー例：会話方向性判定＞
ここで、上述の図６のフローにおける方向性判定（ｓ１）の詳細について、図８に基づき説明する。ここでサーバ１０は、音声データが人称代名詞や個人名を含むかについて判定する場合、音声データが含む単語を既存の音声認識アルゴリズムによって抽出し、当該
単語が人称代名詞や個人名に該当するか、人称代名詞や個人名を規定した辞書（サーバ１０が記憶装置１０１にて保持）に基づき特定するものとする。
＜フロー例：会話方向性判定＞
ここで、上述の図６のフローにおける方向性判定（ｓ１）の詳細について、図８に基づき説明する。ここでサーバ１０は、音声データが人称代名詞や個人名を含むかについて判定する場合、音声データが含む単語を既存の音声認識アルゴリズムによって抽出し、当該
単語が人称代名詞や個人名に該当するか、人称代名詞や個人名を規定した辞書（サーバ１０が記憶装置１０１にて保持）に基づき特定するものとする。
【0072】
サーバ１０は、入力情報テーブル１２８から未処理の１つのレコード（例えば、入力情報テーブル１２８におけるｎ番目のレコードとする）を抽出する（ｓ２０）。
【0073】
また、サーバ１０は、例えば、入力情報テーブル１２８（１つのオンライン会議ごとのもの）の各レコードに含まれる参加者ＩＤを参照し、その種類をカウントすることで、このオンライン会議の参加者人数を算定し、会議参加者が２名以上か判定する（ｓ２１）。
【0074】
この判定の結果、参加者が２名以上ではない場合（ｓ２１：Ｎｏ）、サーバ１０は、当該レコードｎが示す発話は独り言であると判定し（ｓ２２）、処理をｓ３２に遷移させる。
【0075】
一方、上述の判定の結果、参加者が２名以上である場合（ｓ２１：Ｙｅｓ）、サーバ１０は、時系列的に次の時刻に登録された未処理レコードｎ＋１があるか入力情報テーブル１２８にて探索し判定する（ｓ２３）。
【0076】
上述の判定の結果、未処理レコードｎ＋１がない場合（ｓ２３：Ｎｏ）、サーバ１０は、例えば、１０秒待機し（ｓ２４）、処理をｓ２３に戻す。
【0077】
一方、上述の判定の結果、未処理レコードがある場合（ｓ２３：Ｙｅｓ）、サーバ１０は、上述のｎ番目のレコードの発言内容に個人名または一人称代名詞が含まれるか判定する（ｓ２５）。
【0078】
上述の判定の結果、ｎ番目のレコードが示す発言内容に個人名または一人称代名詞が含まれている場合（ｓ２５：Ｙｅｓ）、サーバ１０は、当該発言は個人に向けた発話であると判定し（ｓ２６）、処理をｓ３２に遷移させる。
【0079】
一方、上述の判定の結果、ｎ番目のレコードが示す発言内容に個人名または一人称代名詞が含まれていない場合（ｓ２５：Ｎｏ）、サーバ１０は、ｎ番目のレコードが示す発言内容に二人称代名詞が含まれるか判定する（ｓ２７）。
【0080】
上述の判定の結果、ｎ番目のレコードが示す発言内容に二人称代名詞が含まれている場合（ｓ２７：Ｙｅｓ）、サーバ１０は、複数人に向けた発話として特定し（ｓ２８）、処理をｓ３２に遷移させる。
【0081】
一方、上述の判定の結果、ｎ番目のレコードが示す発言内容に二人称代名詞が含まれていない場合（ｓ２７：Ｎｏ）、サーバ１０は、一定時間以内にｎ番目のレコードの発話者以外の人が発話しているか判定する（ｓ２９）。
【0082】
この判定の結果、一定時間以内にｎ番目のレコードの発話者以外の人が発話している場合（ｓ２９：Ｙｅｓ）、サーバ１０は、個人または複数人に向けた発話として特定し（ｓ３０）、処理をｓ３２に遷移させる。
【0083】
一方、上述の判定の結果、一定時間以内にｎ番目のレコードの発話者以外の人が発話していない場合（ｓ２９：Ｎｏ）、サーバ１０は、会話の方向性が不明と特定し（ｓ３１）、処理をｓ３２に遷移させる。
【0084】
最後にサーバ１０は、上述までの処理で特定した発話の方向性すなわち発話相手に基づ
き、当該レコードの発話相手欄に値を設定し（ｓ３２）、処理を終了する。
＜個別ハラスメントモデルの更新＞
ここで、サーバ１０が個別ハラスメントモデルを用いる構成について、図９～図１２に基づき説明する。この場合、サーバ１０は、図２で示した構成に加えて、個別ハラスメントモデル更新プログラム１１６を有している。この個別ハラスメントモデル更新プログラム１１６は、ハラスメント度合いの判定結果に応じて、評価情報すなわち個別ハラスメントモデルを更新する機能を実装するものとなる。
き、当該レコードの発話相手欄に値を設定し（ｓ３２）、処理を終了する。
＜個別ハラスメントモデルの更新＞
ここで、サーバ１０が個別ハラスメントモデルを用いる構成について、図９～図１２に基づき説明する。この場合、サーバ１０は、図２で示した構成に加えて、個別ハラスメントモデル更新プログラム１１６を有している。この個別ハラスメントモデル更新プログラム１１６は、ハラスメント度合いの判定結果に応じて、評価情報すなわち個別ハラスメントモデルを更新する機能を実装するものとなる。
【0085】
また、サーバ１０は、情報記憶領域１１５にて、図１０に示す参加者属性情報１２９、図１１に示す個別ハラスメントモデルの定義更新用テーブル１２７を保持している。これらを用いた処理については図１２のフローに基づき後述する。
【0086】
参加者属性情報１２９は、オンライン会議の参加者それぞれについての情報を格納したテーブルである。各レコードは、会議参加者を一意に特定する社員番号などのＩＤをキーに、当該会議参加者の氏名、メールアドレス、生年月日、出身地または現所在地、所属する部署、職制、音声特徴、といった値を対応付けたものとなる。こうした情報は、例えば、会議参加者の所属組織がサーバ１０にセットしたものを想定できる。
【0087】
また、個別ハラスメントモデルの定義更新用テーブル１２７は、会議参加者自身の属性またはその会話相手との関係性に応じて、例えばＮＧワード及び後続ワードの各評価情報における評価値を増減させる内容を規定したものとなる。より具体的には、図１１で示すように、対象属性および対象ワードごとに、当該ワードに関する評価値を、図４Ａ～図４Ｆで示した一般モデルでの値から増減させる率を規定したテーブルである。
【0088】
【0089】
この場合、サーバ１０は、ステップｓ４０、ｓ４１を経て、参加者属性情報１２９及び音声データから、会話に登場する各会議参加者、すなわち発話者及びその発話を向けられた対象者を判定する（ｓ４２）。この対象者の判定は、例えば、入力情報テーブル１２８において、時系列的に連続するレコードで、参加者ＩＤが異なるレコードのセットのうち、一方の発話の後にこれに応じて発話した者に関するレコードから特定できる。勿論、こうした手法において、音声データから音声認識で会議参加者を判定し、それらの間での会話の時系列順に基づき発話者とその受け手である対象者を特定するといった処理も想定できる。
【0090】
また、サーバ１０は、上述のステップｓ４２及びその後のｓ４３を経て、参加者属性情報１２９から、発話者および発話を向けられた対象者の属性情報を要素データ、すなわちハラスメント度合いの算定式で変数となる事象の対象データとして取得する（ｓ４４）。
【0091】
続いて、サーバ１０は、ｓ４４で得た事象のデータ（要素データ）を、図４Ａ～図４Ｆで既に述べた評価情報に適用して評価値を判定して、これらをハラスメント度合い算定用の数式に適用することでハラスメント度合いを算出する（ｓ４５）。
【0092】
ここで算出したハラスメント度合いの値がハラスメント判断基準１２６の値以上である場合（ｓ４６：Ｙｅｓ）、個別ハラスメントモデルすなわち当該会議参加者向けの各種評価情報（ワード評価情報（ＮＧワード）１２０～会話対象評価情報１２５）における評価値を、個別ハラスメントモデルの定義更新用テーブル１２７に基づき増減させ更新する。勿論、ハラスメント度合いの値の大きさが大きいほど、個別ハラスメントモデルの定義更新用テーブル１２７で定義する増減率をさらに割増した上で、評価値の更新を行うとして
もよい。
もよい。
【0093】
こうした運用を行うことで、会議参加者やその所属組織に跨がって生成・活用される評価情報（図４Ａ～図４Ｆ：標準モデル）とは異なり、会議参加者や所属組織ごとに個別に生成・活用される評価情報を想定し、これに基づいて判断モデルを学習させる構成も想定可能である。つまり、こうした個別モデルでは、重み（各事象の評価値の値）や、ハラスメント判定の閾値を個別（個々のユーザ群）に合わせてカスタマイズできる。
＜ハラスメント行為に対する感受性対応について＞
ここで、オンライン会議における会議参加者が、他者の発言に対してハラスメント行為を認識した場合、オンライン会議ツールの画面上でその旨を申告しうる運用に関して説明する。この申告は、申告者が操作する端末２０の、例えば図１５で例示すようなＷＥＢミーティングツールの画面１５００にて、ハラスメント通知ボタン１５０４が押下されることで遂行される。
＜ハラスメント行為に対する感受性対応について＞
ここで、オンライン会議における会議参加者が、他者の発言に対してハラスメント行為を認識した場合、オンライン会議ツールの画面上でその旨を申告しうる運用に関して説明する。この申告は、申告者が操作する端末２０の、例えば図１５で例示すようなＷＥＢミーティングツールの画面１５００にて、ハラスメント通知ボタン１５０４が押下されることで遂行される。
【0094】
サーバ１０は、端末２０におけるハラスメント通知ボタン１５０４の押下データを、ネットワークＩ／Ｆ１０６を通じて受信して、これを入力処理プログラム１１０の機能により検知する。またサーバ１０は、個別ハラスメント感受傾向学習プログラム１１７の機能により、ハラスメント通知ボタン１５０４の押下タイミングに基づき、その直近で得られている音声データ（オンライン会議のもの）から、ハラスメント対象と推定できるＮＧワードを特定し、これに基づいて個別ハラスメントモデルたる各評価情報の更新を行うこととなる。よって、この場合のサーバ１０のハードウェア構成例は、図１３で示すように、記憶装置１０１で保持するプログラムとして、個別ハラスメント感受傾向学習プログラム１１７をさらに備えた構成となっている。その他の構成については、これまで既に説明したサーバ１０と同様である。
【0095】
【0096】
また、サーバ１０は、ハラスメント通知ボタン１５０４が押下された時刻またはその直近の音声データ（入力情報テーブル１２８のレコード）から、ハラスメント度合いの算定に用いる各事象のデータ（要素データ）を抽出する（ｓ５１）。
【0097】
続いて、サーバ１０は、参加者属性情報１２９から、発話者および発話を向けられた対象者の属性情報を要素データとして取得する（ｓ５２）。
【0098】
また、サーバ１０は、ｓ５２までで得た要素データを学習データとして、所定の機械学習エンジン（サーバ１０が保持又は利用可能なもの）における学習モデルの学習を進める（ｓ５３）。
【0099】
この学習モデルは、当該会議参加者向けの各種評価情報における評価値を増減させて好適なものに更新するモデルである。より具体的には、例えば、あるＮＧワードに対して、一定期間内に一定頻度以上でハラスメント通知ボタン１５０４の押下があった場合、それまでのワード評価情報（ＮＧワード）１２９での当該ＮＧワードの評価値を、所定割合だけ増加させる、といった更新処理を行うものとなる。或いは、ある属性が共通する会議参加者から、同じＮＧワードに関してハラスメント通知ボタン１５０４の押下が一定頻度以上に発生した場合、当該属性を有する他の会議参加者やその所属組織に関するワード評価情報（ＮＧワード）１２０についても、そのＮＧワードの評価値を割増しする。
【0100】
また、サーバ１０は、ｓ５２で得た要素データを対応する評価情報（ｓ５３で更新され
たもの）に適用して評価値を取得し、これを算定式に代入することでハラスメント度合いの値を算定する。サーバ１０は、ここで得たハラスメント度合いに応じたフィードバックを生成する（ｓ５４）。このフィードバックは、ハラスメント行為が行われていることを示すメッセージの他、当該ハラスメント行為の度合いとその危険性について警告するメッセージを、ハラスメント度合いの大きさに応じて予め定めたものとする。
たもの）に適用して評価値を取得し、これを算定式に代入することでハラスメント度合いの値を算定する。サーバ１０は、ここで得たハラスメント度合いに応じたフィードバックを生成する（ｓ５４）。このフィードバックは、ハラスメント行為が行われていることを示すメッセージの他、当該ハラスメント行為の度合いとその危険性について警告するメッセージを、ハラスメント度合いの大きさに応じて予め定めたものとする。
【0101】
続いて、サーバ１０は、ｓ５４で生成したフィードバック（図１５の画面１５００）を発話者の端末２０に対して送信し（ｓ５５）、処理を終了する。
【0102】
図１５で示す画面１５００は、既に述べたハラスメント通知ボタン１５０４の他、会議参加者の顔画像一覧１５０１、自身の顔画像１５０２、及び上述のフィードバック１５０３、をそれぞれ表示するインターフェイスを含んでいる。会議参加者は、他者の発言により精神的負担等を感じた場合、ハラスメント通知ボタン１５０４を押下し、サーバ１０に申告を行う。これに対してサーバ１０は、当該申告の直近でのＮＧワードの発言を特定し、上述のフローを実行することとなる。
【0103】
これによれば、会話参加者が個々にハラスメント行為を感じたことについて、直接的に告知を受け付けて、その対象行為たる発話やその内容等に基づき、上述の会話参加者や所属組織に関して適用する評価情報を個別のものとして更新することが可能となる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0104】
以上、本発明を実施するための最良の形態などについて具体的に説明したが、本発明はこれに限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。
【0105】
こうした本実施形態によれば、例えば、ハラスメント行為の加害者の立場では、リアルタイムで会話内のハラスメント予兆を通知され、問題発生となる前に自制機会を得ることができる。勿論、意図せず他の他者に不快感を与えていた場合、その事実に早めに気が付くこともできる。
【0106】
一方、ハラスメント被害者の立場では、当事者に代わってシステムが、ハラスメント行為の実行者に対して警告等を行うことで、人間関係悪化などを懸念して相談窓口等への報告が出来ない等の事態を解消できる。そのため、ハラスメント行為に関する報告行動に関する精神的な敷居を下げることにつながる。
【0107】
また、ハラスメント行為の予防を企図する組織としては、本システムにより自動的に警告がなされる環境が形成され、例えば人事部門が当該ハラスメント問題に関して直接的に介入・解決する機会を低減可能となる。さらには、当事者による申告を待たずに、ハラスメント行為の存在を検知し、その問題が深刻化する前に対処可能となりやすい。
【0108】
すなわち、リモートワーク環境下で発生するハラスメント行為を、効果的に予防可能となる。
【0109】
本明細書の記載により、少なくとも次のことが明らかにされる。すなわち、本実施形態のハラスメント予防システムにおいて、前記演算装置は、前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信するものである、としてもよい。
【0110】
これによれば、リモートワーク環境でのオンライン会議で発生したハラスメント行為について、会議参加者間でその存在を明確に認識し、反省や対処のトリガーとなりうる。ひ
いては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
いては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0111】
また、本実施形態のハラスメント予防システムにおいて、前記記憶装置は、前記評価情報として、会話に含まれる単語、会話の音声が示す感情、会話の遮り、沈黙の長さ、及び発話対象者の数、の少なくともいずれか複数の事象それぞれについてのハラスメントへの影響度を定めたものを保持し、前記演算装置は、前記影響度の判定に際し、前記音声データから前記複数の事象それぞれに対応するデータを抽出して前記評価情報と照合し、当該複数の事象それぞれに関する前記影響度を判定するものである、としてもよい。
【0112】
これによれば、オンライン会議環境下での会話の重要要素を多角的かつ的確に捉え、これをハラスメント判定ロジックに反映することで、精度良好にハラスメントの存在等を補足可能となる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0113】
また、本実施形態のハラスメント予防システムにおいて、前記演算装置は、前記会話参加人数及び発話対象を特定するに際し、前記音声データにおいて会話参加者を指す語彙である、個人名ないし人称代名詞を抽出し、当該個人名ないし人称代名詞の有無および数に基づいて会話参加人数及び発話対象を特定するものである、としてもよい。
【0114】
これによれば、会話参加者や発話対象の特定等が効率的、かつ精度良く行えることとなり、ハラスメント判定の効率や精度も向上しやすくなる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0115】
また、本実施形態のハラスメント予防システムにおいて、前記記憶装置は、前記会話参加者の属性情報と、前記会話参加者の属性に基づく前記影響度の調整情報をさらに保持するものであり、前記演算装置は、前記影響度の判定に際し、前記会話参加人数が２者以上である場合、前記発話対象で特定した発話者と当該発話の受け手のそれぞれの属性情報を前記記憶装置から抽出し、当該属性情報が示す、前記発話者と前記受け手の社会的立場又は地域性の少なくともいずれかに基づき、所定事象に関する前記影響度を前記調整情報に基づき増減させるものである、としてもよい。
【0116】
これによれば、同じ単語であっても出身地域や社会的立場の上下によって受け取り方が大きく異なる状況に的確に対処し、ハラスメント判定の精度を向上させる効果が期待できる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0117】
また、本実施形態のハラスメント予防システムにおいて、前記演算装置は、前記増減を施した影響度に基づき前記ハラスメントレベルを算定した結果、算定結果であるハラスメントレベルが所定の基準以上であった場合、当該ハラスメントレベルの算定に関与した所定の事象に関して、前記会話参加者のそれぞれ、または当該会話参加者の所属組織に特有の値となるよう前記影響度を所定ルールで増減して前記評価情報を更新するものである、としてもよい。
【0118】
これによれば、会話参加者の属性や個別の事情によって、事象の影響度が変化しハラスメント判定結果も異なりうる点に対応し、当該会話参加者や所属組織に関して適用する評価情報を個別のものとして更新することが可能となる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0119】
また、本実施形態のハラスメント予防システムにおいて、前記演算装置は、会話中に会
話参加者の端末よりハラスメント報告を受けた場合、当該ハラスメント報告を受けた時点または直前に関する音声データから、前記語彙の抽出を行い、当該語彙に基づく前記会話参加人数及び前記発話対象を特定し、前記音声データから前記各種事象に対応するデータを抽出して、前記会話参加人数及び前記発話対象を含めた前記各種事象に対応するデータを説明変数とし、前記ハラスメント報告の内容を目的変数とした回帰分析または機械学習を実行することで、前記評価情報における前記各種事象に関する影響度を、前記ハラスメント報告を行った会話参加者個人向けに更新するものである、としてもよい。
話参加者の端末よりハラスメント報告を受けた場合、当該ハラスメント報告を受けた時点または直前に関する音声データから、前記語彙の抽出を行い、当該語彙に基づく前記会話参加人数及び前記発話対象を特定し、前記音声データから前記各種事象に対応するデータを抽出して、前記会話参加人数及び前記発話対象を含めた前記各種事象に対応するデータを説明変数とし、前記ハラスメント報告の内容を目的変数とした回帰分析または機械学習を実行することで、前記評価情報における前記各種事象に関する影響度を、前記ハラスメント報告を行った会話参加者個人向けに更新するものである、としてもよい。
【0120】
これによれば、会話参加者が個々にハラスメント行為を感じたことについて、直接的に告知を受け付けて、その対象行為たる発話やその内容等に基づき、上述の会話参加者や所属組織に関して適用する評価情報を個別のものとして更新することが可能となる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0121】
また、本実施形態のハラスメント予防システムにおいて、前記演算装置は、前記ハラスメント報告を受けた場合、当該ハラスメント報告の内容に応じてフィードバック内容を生成し、当該フィードバック内容を、当該ハラスメントの実行者たる会話参加者の端末に通知するものである、としてもよい。
【0122】
これによれば、ハラスメント行為の当事者に対して、即時性をもって警告を与えることで、その行動を直ちに、さらには将来にわたって変容させることが期待できる。ひいては、リモートワーク環境下で発生するハラスメント行為を、より効果的に予防可能となる。
【0123】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記ハラスメントレベルの算定結果を、前記会話参加者または当該会話参加者の所属組織の端末に配信する、としてもよい。
【0124】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記記憶装置にて、前記評価情報として、会話に含まれる単語、会話の音声が示す感情、会話の遮り、沈黙の長さ、及び発話対象者の数、の少なくともいずれか複数の事象それぞれについてのハラスメントへの影響度を定めたものを保持し、前記影響度の判定に際し、前記音声データから前記複数の事象それぞれに対応するデータを抽出して前記評価情報と照合し、当該複数の事象それぞれに関する前記影響度を判定する、としてもよい。
【0125】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記会話参加人数及び発話対象を特定するに際し、前記音声データにおいて会話参加者を指す語彙である、個人名ないし人称代名詞を抽出し、当該個人名ないし人称代名詞の有無および数に基づいて会話参加人数及び発話対象を特定する、としてもよい。
【0126】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記記憶装置において、前記会話参加者の属性情報と、前記会話参加者の属性に基づく前記影響度の調整情報をさらに保持し、前記影響度の判定に際し、前記会話参加人数が２者以上である場合、前記発話対象で特定した発話者と当該発話の受け手のそれぞれの属性情報を前記記憶装置から抽出し、当該属性情報が示す、前記発話者と前記受け手の社会的立場又は地域性の少なくともいずれかに基づき、所定事象に関する前記影響度を前記調整情報に基づき増減させる、としてもよい。
【0127】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記増減を施した影響度に基づき前記ハラスメントレベルを算定した結果、算定結果であるハラスメントレベルが所定の基準以上であった場合、当該ハラスメントレベルの算定に関与した所
定の事象に関して、前記会話参加者のそれぞれ、または当該会話参加者の所属組織に特有の値となるよう前記影響度を所定ルールで増減して前記評価情報を更新する、としてもよい。
定の事象に関して、前記会話参加者のそれぞれ、または当該会話参加者の所属組織に特有の値となるよう前記影響度を所定ルールで増減して前記評価情報を更新する、としてもよい。
【0128】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、会話中に会話参加者の端末よりハラスメント報告を受けた場合、当該ハラスメント報告を受けた時点または直前に関する音声データから、前記語彙の抽出を行い、当該語彙に基づく前記会話参加人数及び前記発話対象を特定し、前記音声データから前記各種事象に対応するデータを抽出して、前記会話参加人数及び前記発話対象を含めた前記各種事象に対応するデータを説明変数とし、前記ハラスメント報告の内容を目的変数とした回帰分析または機械学習を実行することで、前記評価情報における前記各種事象に関する影響度を、前記ハラスメント報告を行った会話参加者個人向けに更新する、としてもよい。
【0129】
また、本実施形態のハラスメント予防方法において、前記情報処理装置が、前記ハラスメント報告を受けた場合、当該ハラスメント報告の内容に応じてフィードバック内容を生成し、当該フィードバック内容を、当該ハラスメントの実行者たる会話参加者の端末に通知する、としてもよい。
【符号の説明】
【0130】
１ ハラスメント予防システム
５ ネットワーク
１０ サーバ（ハラスメント予防装置）
１０１ 記憶装置
１０３ メモリ
１０４ 演算装置
１０５ 入出力Ｉ／Ｆ
１０６ ネットワークＩ／Ｆ
１１０ 入力処理プログラム
１１１ 会話方向性判定プログラム
１１２ ハラスメント判定プログラム
１１３ フィードバック生成プログラム
１１４ 出力処理プログラム
１１５ 情報記憶領域
１１６ 個別ハラスメントモデル更新プログラム
１１７ 個別ハラスメント感受傾向学習プログラム
１２０ ワード評価情報（ＮＧワード）
１２１ ワード評価情報（後続ワード）
１２２ 感情評価情報
１２３ 遮り評価情報
１２４ 沈黙長さ評価情報
１２５ 会話対象評価情報
１２６ ハラスメント判定基準
１２７ 個別ハラスメントモデルの定義更新用テーブル
１２８ 入力情報テーブル
１２９ 参加者属性情報
２０ 端末
２０１ 記憶装置
２０３ メモリ
２０４ 演算装置
２０５ 入力Ｉ／Ｆ
２０６ 出力Ｉ／Ｆ
２０７ ネットワークＩ／Ｆ
２１０ 音声データ取得プログラム
２１１ 画像データ取得プログラム
２１２ 入力データ取得プログラム
２１３ ハラスメントボタン入力検知プログラム
２１４ データ送信プログラム
２１５ 情報記憶領域
５ ネットワーク
１０ サーバ（ハラスメント予防装置）
１０１ 記憶装置
１０３ メモリ
１０４ 演算装置
１０５ 入出力Ｉ／Ｆ
１０６ ネットワークＩ／Ｆ
１１０ 入力処理プログラム
１１１ 会話方向性判定プログラム
１１２ ハラスメント判定プログラム
１１３ フィードバック生成プログラム
１１４ 出力処理プログラム
１１５ 情報記憶領域
１１６ 個別ハラスメントモデル更新プログラム
１１７ 個別ハラスメント感受傾向学習プログラム
１２０ ワード評価情報（ＮＧワード）
１２１ ワード評価情報（後続ワード）
１２２ 感情評価情報
１２３ 遮り評価情報
１２４ 沈黙長さ評価情報
１２５ 会話対象評価情報
１２６ ハラスメント判定基準
１２７ 個別ハラスメントモデルの定義更新用テーブル
１２８ 入力情報テーブル
１２９ 参加者属性情報
２０ 端末
２０１ 記憶装置
２０３ メモリ
２０４ 演算装置
２０５ 入力Ｉ／Ｆ
２０６ 出力Ｉ／Ｆ
２０７ ネットワークＩ／Ｆ
２１０ 音声データ取得プログラム
２１１ 画像データ取得プログラム
２１２ 入力データ取得プログラム
２１３ ハラスメントボタン入力検知プログラム
２１４ データ送信プログラム
２１５ 情報記憶領域
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図4D】
【図4E】
【図4F】
【図4G】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】