(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-22
(45)【発行日】2022-12-01
(54)【発明の名称】ニュース素材分類装置、プログラム及び学習モデル
(51)【国際特許分類】
G06F 16/35 20190101AFI20221124BHJP
【ＦＩ】
G06F16/35
【請求項の数】
6
(21)【出願番号】P 2018017228
(22)【出願日】2018-02-02
(65)【公開番号】P2019133565
(43)【公開日】2019-08-08
【審査請求日】2021-01-04
【前置審査】
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】100121119
【弁理士】
【氏名又は名称】花村 泰伸
(72)【発明者】
【氏名】牧野 仁宣
(72)【発明者】
【氏名】宮▲崎▼ 太郎
(72)【発明者】
【氏名】後藤 淳
(72)【発明者】
【氏名】武井 友香
【審査官】早川 学
(56)【参考文献】
【文献】特開２０１７－２０１４３７（ＪＰ，Ａ）
【文献】宮▲崎▼太郎ほか，ニュース制作のための有用ｔｗｅｅｔ提示システム，映像情報メディア学会２０１７年年次大会講演予稿集 ［ＣＤ－ＲＯＭ］，一般社団法人映像情報メディア学会，2017年08月16日，講演番号 ３２Ｂ－１
【文献】C▲i▼cero Nogueira dos Santos et al.，Deep Convolutional Neural Networks for Sentiment Analysis of Short Texts，Proceedings of COLING 2014, the 25th International Conference on Computational Linguistics: Technical Papers [online]，2014年，pp.69-78，[検索日:2021.12.20], Internet<URL: https://aclanthology.org/C14-1008/ >
【文献】森田直志ほか，ソーシャルメディア情報を活用した防災システム，ＦＵＪＩＴＳＵ，富士通株式会社，2017年11月01日，Ｖｏｌ．６８，Ｎｏ．６ ，ｐｐ．６２－６７
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｆ １６／００－１６／９５８
(57)【特許請求の範囲】
【請求項1】
ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を利用者の要求に応じて分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトルを生成すると共に、前記単語の系列を表す単語ベクトルを生成する系列生成部と、
機械学習された学習モデルを記憶する学習モデル記憶部と、
前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトル及び前記単語ベクトルに基づき、前記ニュース性投稿情報についての前記利用者の要求に応じた分類情報を生成して出力する分類部と、を備え、
前記学習モデルは、
前記ニュース性投稿情報の前記文字ベクトルを入力データとし、演算結果のベクトルを出力データとする文字ＮＮ（ニューラルネットワーク）、
前記ニュース性投稿情報の前記単語ベクトルを入力データとし、演算結果のベクトルを出力データとする単語ＮＮ、及び、
前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、演算結果である前記分類情報を出力データとする出力ＮＮにより構成され、
前記分類部は、
前記分類情報を、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報として、
前記文字ＮＮを用いて、前記ニュース性投稿情報の前記文字ベクトルに基づきＮＮの演算を行い、
前記単語ＮＮを用いて、前記ニュース性投稿情報の前記単語ベクトルに基づきＮＮの演算を行い、
前記出力ＮＮを用いて、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルに基づいてＮＮの演算を行い、演算結果である前記既出・非既出情報を第１分類結果として出力し、
当該ニュース素材分類装置は、さらに、第２分類部及び判定部を備え、
前記第２分類部は、
前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に付加された、投稿元の機器を識別するためのエージェント情報を抽出し、当該エージェント情報に基づいて、前記既出・非既出情報を生成して第２分類結果として出力し、
前記判定部は、
前記分類部により出力された前記第１分類結果、及び前記第２分類部により出力された前記第２分類結果に基づいて、新たな既出・非既出情報を生成して出力する、ことを特徴とするニュース素材分類装置。
【請求項2】
請求項１に記載のニュース素材分類装置において、前記系列生成部は、
前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字に対応したone-hot列ベクトルを並べて文字one-hotベクトル系列を生成すると共に、前記単語に対応したone-hot列ベクトルを並べて単語one-hotベクトル系列を生成し、
前記学習モデルは、
前記系列生成部により生成された前記文字one-hotベクトル系列を入力データとし、ＦＦＮＮ（フィードフォワードニューラルネットワーク）の演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、
当該文字入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＲＮＮ（リカレントニューラルネットワーク）の演算結果のベクトルを出力データとする文字ＲＮＮ、
前記系列生成部により生成された前記単語one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、
当該単語入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＲＮＮの演算結果のベクトルを出力データとする単語ＲＮＮ、
前記文字ＲＮＮの演算結果のベクトルと前記単語ＲＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、
当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、
前記分類部は、
前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、
前記文字ＲＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＲＮＮの演算を行い、
前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、
前記単語ＲＮＮを用いて、前記単語入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＲＮＮの演算を行い、
前記中間層用ＦＦＮＮを用いて、前記文字ＲＮＮの演算結果のベクトルと前記単語ＲＮＮの演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、
前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とするニュース素材分類装置。
【請求項3】
ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を利用者の要求に応じて分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトルを生成すると共に、前記単語の系列を表す単語ベクトルを生成する系列生成部と、
機械学習された学習モデルを記憶する学習モデル記憶部と、
前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトル及び前記単語ベクトルに基づき、前記ニュース性投稿情報についての前記利用者の要求に応じた分類情報を生成して出力する分類部と、を備え、
前記学習モデルは、
前記ニュース性投稿情報の前記文字ベクトルを入力データとし、演算結果のベクトルを出力データとする文字ＮＮ（ニューラルネットワーク）、
前記ニュース性投稿情報の前記単語ベクトルを入力データとし、演算結果のベクトルを出力データとする単語ＮＮ、及び、
前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、演算結果である前記分類情報を出力データとする出力ＮＮにより構成され、
前記分類部は、
前記文字ＮＮを用いて、前記ニュース性投稿情報の前記文字ベクトルに基づきＮＮの演算を行い、
前記単語ＮＮを用いて、前記ニュース性投稿情報の前記単語ベクトルに基づきＮＮの演算を行い、
前記出力ＮＮを用いて、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルに基づいてＮＮの演算を行い、演算結果を前記分類情報として出力し、
前記分類情報を、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報とし、
前記系列生成部は、
前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字に対応したone-hot列ベクトルを並べて文字one-hotベクトル系列を生成すると共に、前記単語に対応したone-hot列ベクトルを並べて単語one-hotベクトル系列を生成し、
前記学習モデルは、
前記系列生成部により生成された前記文字one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、
当該文字入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＣＮＮ（畳み込みニューラルネットワーク）の演算結果のベクトルを出力データとする文字ＣＮＮ、
当該文字ＣＮＮの演算結果のベクトルを入力データとし、プーリングの演算結果のベクトルを出力データとする文字プーリング層と、
前記系列生成部により生成された前記単語one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、
当該単語入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＣＮＮの演算結果のベクトルを出力データとする単語ＣＮＮ、
当該単語ＣＮＮの演算結果のベクトルを入力データとし、プーリングの演算結果のベクトルを出力データとする単語プーリング層と、
前記文字プーリング層の演算結果のベクトルと前記単語プーリング層の演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、
当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、
前記分類部は、
前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、
前記文字ＣＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＣＮＮの演算を行い、
前記文字プーリング層を用いて、前記文字ＣＮＮの演算結果のベクトルに基づき、プーリングの演算を行い、
前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、
前記単語ＣＮＮを用いて、前記単語入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＣＮＮの演算を行い、
前記単語プーリング層を用いて、前記単語ＣＮＮの演算結果のベクトルに基づき、プーリングの演算を行い、
前記中間層用ＦＦＮＮを用いて、前記文字プーリング層の演算結果のベクトルと前記単語プーリング層の演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、
前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とするニュース素材分類装置。
【請求項4】
請求項１に記載のニュース素材分類装置において、前記系列生成部は、
前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、抽出した全ての前記文字に対応した文字BOWベクトルを生成すると共に、抽出した全ての単語に対応した単語BOWベクトルを生成し、
前記学習モデルは、
前記系列生成部により生成された前記文字BOWベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、
前記系列生成部により生成された前記単語BOWベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、
前記文字入力層用ＦＦＮＮの演算結果のベクトルと前記単語入力層用ＦＦＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、
当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、
前記分類部は、
前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字BOWベクトルに基づき、ＦＦＮＮの演算を行い、
前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語BOWベクトルに基づき、ＦＦＮＮの演算を行い、
前記中間層用ＦＦＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルと前記単語入力層用ＦＦＮＮの演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、
前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とするニュース素材分類装置。
【請求項5】
ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を既出または非既出に分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字または単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトル、または前記単語の系列を表す単語ベクトルを生成する系列生成部と、
前記ニュース性投稿情報の前記文字ベクトルまたは前記単語ベクトルを入力データとし、演算結果である、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報を出力データとするＮＮにより構成された学習モデルであって、機械学習された前記学習モデルを記憶する学習モデル記憶部と、
前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトルまたは前記単語ベクトルに基づき、前記既出・非既出情報を生成して第１分類結果として出力する分類部と、
前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に付加された、投稿元の機器を識別するためのエージェント情報を抽出し、当該エージェント情報に基づいて、前記既出・非既出情報を生成して第２分類結果として出力する第２分類部と、
前記分類部により出力された前記第１分類結果、及び前記第２分類部により出力された前記第２分類結果に基づいて、新たな既出・非既出情報を生成して出力する判定部と、
を備えたことを特徴とするニュース素材分類装置。
【請求項6】
コンピュータを、請求項１から５までのいずれか一項のニュース素材分類装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、多数のソーシャルメディア情報からニュース素材となり得る情報を抽出し、抽出した情報を分類するニュース素材分類装置及びプログラム、並びにニュース素材分類装置に用いる学習モデルに関する。
【背景技術】
【0002】
従来、インターネットを用いて個人が情報を発信することで、様々な情報交流サービスを形成するｔｗｉｔｔｅｒ（登録商標）等のソーシャルメディアが盛んに利用されている。ソーシャルメディアでは、例えば火事、事故等の現場に居合わせた個人から即時性の高い投稿情報（以下、「ソーシャルメディア情報」という。）が発信される。
【0003】
放送局では、個々のソーシャルメディア情報からニュース素材となり得る情報（以下、「ニュース性投稿情報」という。）を抽出することで、ニュース性投稿情報をニュースまたは番組の制作に活用するケースが増えている。
【0004】
ソーシャルメディア情報からニュース性投稿情報を抽出する作業を、人手により行うとすると、大きな労力が必要となり、現実的ではない。そこで、人手による労力の低減を図るために、ソーシャルメディア情報からニュース性投稿情報を抽出する作業を自動的に行う手法が提案されている（例えば特許文献１、非特許文献１を参照）。
【0005】
図２２は、従来のニュース素材抽出装置の概要を説明する図である。このニュース素材抽出装置は、例えば特許文献１の手法を組み込んだ装置である。
【0006】
このニュース素材抽出装置１００は、学習フェーズにおいて、投稿情報であるソーシャルメディア情報を入力し、特徴ベクトルの特徴量とする素性を生成し、機械学習により学習モデルを生成する。また、ニュース素材抽出装置１００は、判定フェーズにおいて、ソーシャルメディア情報を入力し、学習モデル（学習済みモデル）を用いて、入力したソーシャルメディア情報がニュース性投稿情報であるか否かを判定する。そして、ニュース素材抽出装置１００は、ニュース性投稿情報を出力すると共に、ニュース性投稿情報以外の情報を破棄する。
【0007】
このニュース素材抽出装置１００は、入力したソーシャルメディア情報から言語情報を抽出し、言語情報を入力データとした機械学習にて学習モデルを生成することを基本としている。このような機械学習を用いた手法には、単語系列を入力データとする場合、文字系列を入力データとする場合、単語系列及び文字系列の組み合わせを入力データとする場合等がある（例えば非特許文献２－６を参照）。
【0008】
さらに、ソーシャルメディア情報から、電車の遅延等の所定のイベントを検出するための手法も提案されている（例えば、特許文献２，３を参照）。
【先行技術文献】
【特許文献】
【0009】
【文献】特開２０１７－２０１４３７号公報
【文献】特開２０１３－１６８０２１号公報
【文献】特開２０１４－２５５１号公報
【非特許文献】
【0010】
【文献】宮崎他,“Twitterからの有用情報抽出のための学習データのマルチクラス化”,IFAT,2017,pages1-6
【文献】Yoon Kim, et al.“Character-Aware Neural Language Models”, AAAI 2016
【文献】Rafal Jozefowicz, et al.“Exploring the limits of language modeling.”, CoRR, 2016, abs/1602.02410.
【文献】Lyan Verwimp, et al.,“Character-Word LSTM Language Models”, EACL2017, pages 417-427
【文献】Rupesh K. Srivastava, et al.,“Training Very Deep Networks.”NIPS, 2015, pages 2377-2385.
【文献】X. Ma and E. Hovy. End-to-end sequence labeling via bi-directional lstm-cnns-crf. In Proceedings of the 54th ACL, pages 1064-1074, Berlin, Germany, August 2016. ACL.
【発明の概要】
【発明が解決しようとする課題】
【0011】
一般に、ソーシャルメディアへ発信されるソーシャルメディア情報は多数であり、ソーシャルメディア情報から抽出されるニュース性投稿情報も多数である。このため、図２２に示したニュース素材抽出装置１００がソーシャルメディア情報からニュース性投稿情報を自動的に抽出したとしても、全てのニュース性投稿情報を利用者が監視することは困難である。
【0012】
また、ニュース性投稿情報の活用方法は、利用者、目的、用途、状況等に応じて大きく異なるものである。利用者は、多数のソーシャルメディア情報から抽出された多数のニュース性投稿情報のうち、所望の投稿情報のみを取得したいものと考えられる。このため、ニュース性投稿情報は、利用者の要求に適応するように、分類されることが望ましい。
【0013】
例えば、利用者が第一報のニュース性投稿情報を取得したい場合には、報道機関またはまとめサイトに関連する投稿情報及びこれを引用した投稿情報は、既出投稿（既に出現した投稿）であって第一報の投稿情報ではないから、必要とされない。ここで、既出投稿とは、ソーシャルメディアにおいて既に出現した投稿、すなわちソーシャルメディアにて既に呟かれた投稿、またはそれを引用した投稿をいう。
【0014】
一般に、多数の人が意見を発信したいと感じるニュースについて、その投稿が一旦行われると、既出投稿は、大幅に増加する。このため、利用者は、ニュース性投稿情報をリアルタイムに監視し、第一報のニュース性投稿情報である非既出投稿を発見することは困難である。ここで、非既出投稿とは、ソーシャルメディアにおいて過去に出現しておらず、初めて出現した投稿をいう。
【0015】
同様に、利用者がニュースに対する意見及び続報のニュース性投稿情報を取得したい場合、第一報のニュース性投稿情報である非既出投稿は必要とされない。
【0016】
このように、利用者が第一報のニュース性投稿情報である非既出投稿を取得するためには、ソーシャルメディア情報からニュース性投稿情報が自動的に抽出された後、ニュース性投稿情報が既出投稿または非既出投稿であるかを自動的に分類することが望ましい。これは、利用者がニュースに対する意見及び続報のニュース性投稿情報である既出投稿を取得する場合も同様である。
【0017】
既出投稿には、引用元が明示されていて、その名称をキーワードとしたフィルタリングにより簡単に分類できる投稿が含まれる。また、既出投稿には、人目には文体等により既出であると分類されるが、キーワードのフィルタリング等の簡単な処理では分類が困難な投稿も含まれる。ソーシャルメディアでは、引用であっても文を簡単に変更することが可能であり、引用者により出典が削除されることもあり得る。
【0018】
このため、利用者が第一報のニュース性投稿情報を取得する場合には、単純なキーワードのフィルタリングにより分類が行われるのではなく、様々な文の条件を考慮する機械学習等により分類が行われることが望ましい。
【0019】
ここで、機械学習の観点で、ソーシャルメディア情報からニュース性投稿情報を抽出する処理と、ニュース性投稿情報を第一報の情報である非既出投稿とその他の情報である既出投稿とに分類する処理とを、一連の処理にて行う場合を想定する。前者の処理を抽出処理といい、後者の処理を分類処理という。
【0020】
この一連の処理では、抽出処理により抽出したニュース性投稿情報だけでなく、抽出処理により破棄されるべき情報（ニュース性投稿情報ではない情報、すなわち分類する必要のない情報）も含めて、分類処理が行われてしまう。このため、一連の処理に対して機械学習を適用した場合には、学習データが増え、処理負荷が高くなり、分類精度が低下してしまう。
【0021】
また、既出投稿及び非既出投稿以外の分類処理を行うために、分類の構成を変更する場合には、一連の処理を行う全体のシステムを再度構築し、抽出の大規模な学習も含めて再学習を行う必要がある。
【0022】
このように、抽出処理及び分類処理を一連の処理にて行う場合には、利用者の要求に合わせた分類処理を増やす毎に、全体の学習を再度行う必要があり、現実的ではない。
【0023】
一方で、言語情報を入力データとした機械学習にて学習モデルを生成する場合、以下のとおり、文字系列を入力データとして用いるか、または単語系列を用いるかにより、異なる長所及び短所がある。
【0024】
文字系列を入力データとして用いる場合、文字は単語よりもバリエーションが少ないため、少ないノード数で各文字を学習モデルの入力層のノードに割り当て易くなり、ノードとして入力されない未知語が減り、文を構成する文字を正確に入力データとして扱うことができ、学習モデルを用いた判定精度が高くなるという長所がある。文字と単語を比較すると、単語は複数の文字から構成され様々な組み合わせがあることから、単語は文字よりも未知語が多くなる。このため、単語系列の場合、各単語を学習モデルの入力層のノードに割り当て難くなる。これに対し、文字には組み合わせがないから、文字は単語よりも未知語が少なくなる。
【0025】
一方で、文字は単語よりも一要素の持ち得る意味が多く、文全体に対して情報が少なくその意味を特定し難いため、文全体に対して文字の意味が異なる場合であっても同じ判定を行う学習モデルが生成されてしまうことがあり、判定精度が低くなるという短所がある。これは、文字単体では意味が曖昧であり、同じ文字であっても一方の文に使用される文字の意味と他方の文に使用される文字の意味とを区別し難いにも関わらず、文字は学習モデルの入力層の１ノードに割り当てられるからである。
【0026】
これに対し、単語系列を入力データとして用いる場合、単語は文字よりも一要素の持ち得る意味が限られ、その意味を特定し易いため、単語が異なる場合に異なる判定を行う学習モデルが生成され、判定精度が高くなるという長所がある。
【0027】
一方で、単語は文字よりもバリエーションが多く、使用する単語数を限ると（または使用するノード数を限ると）未知語の数が多くなるため、各単語を学習モデルの入力層のノードに割り当て難くなり、文を構成する単語を正確に入力データとして扱うことができない場合があり、学習モデルを用いた判定精度が低くなるという短所がある。
【0028】
また、日本語のような、単語間に空白を空けない言語を利用する場合には、文章を単語系列に変換する系列生成器の性能にも大きく影響を受けてしまい、理想的な系列生成器は存在しないため、学習及び判定精度が低くなるという短所がある。
【0029】
このため、文字系列の長所及び単語系列の長所の両方を活かした機械学習を行うことが望まれる。尚、前述の非特許文献３－６では、文字系列及び単語系列を入力データとして機械学習を行うものであるが、いずれか一方が他方を補完し、文字系列及び単語系列を１系列として扱っていることから、それぞれの長所を完全に活かした機械学習にはなっていない。
【0030】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、利用者が多数のソーシャルメディア情報から所望の情報を取得する際に、ソーシャルメディア情報から抽出されたニュース性投稿情報を精度高く分類可能なニュース素材分類装置、プログラム及び学習モデルを提供することにある。
【課題を解決するための手段】
【0033】
また、請求項１のニュース素材分類装置は、ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を利用者の要求に応じて分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトルを生成すると共に、前記単語の系列を表す単語ベクトルを生成する系列生成部と、機械学習された学習モデルを記憶する学習モデル記憶部と、前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトル及び前記単語ベクトルに基づき、前記ニュース性投稿情報についての前記利用者の要求に応じた分類情報を生成して出力する分類部と、を備え、前記学習モデルが、前記ニュース性投稿情報の前記文字ベクトルを入力データとし、演算結果のベクトルを出力データとする文字ＮＮ（ニューラルネットワーク）、前記ニュース性投稿情報の前記単語ベクトルを入力データとし、演算結果のベクトルを出力データとする単語ＮＮ、及び、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、演算結果である前記分類情報を出力データとする出力ＮＮにより構成され、前記分類部が、前記分類情報を、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報として、前記文字ＮＮを用いて、前記ニュース性投稿情報の前記文字ベクトルに基づきＮＮの演算を行い、前記単語ＮＮを用いて、前記ニュース性投稿情報の前記単語ベクトルに基づきＮＮの演算を行い、前記出力ＮＮを用いて、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルに基づいてＮＮの演算を行い、演算結果である前記既出・非既出情報を第１分類結果として出力し、当該ニュース素材分類装置が、さらに、第２分類部及び判定部を備え、前記第２分類部が、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に付加された、投稿元の機器を識別するためのエージェント情報を抽出し、当該エージェント情報に基づいて、前記既出・非既出情報を生成して第２分類結果として出力し、前記判定部が、前記分類部により出力された前記第１分類結果、及び前記第２分類部により出力された前記第２分類結果に基づいて、新たな既出・非既出情報を生成して出力する、ことを特徴とする。
【0034】
また、請求項２のニュース素材分類装置は、請求項１に記載のニュース素材分類装置において、前記系列生成部が、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字に対応したone-hot列ベクトルを並べて文字one-hotベクトル系列を生成すると共に、前記単語に対応したone-hot列ベクトルを並べて単語one-hotベクトル系列を生成し、前記学習モデルが、前記系列生成部により生成された前記文字one-hotベクトル系列を入力データとし、ＦＦＮＮ（フィードフォワードニューラルネットワーク）の演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、当該文字入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＲＮＮ（リカレントニューラルネットワーク）の演算結果のベクトルを出力データとする文字ＲＮＮ、前記系列生成部により生成された前記単語one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、当該単語入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＲＮＮの演算結果のベクトルを出力データとする単語ＲＮＮ、前記文字ＲＮＮの演算結果のベクトルと前記単語ＲＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、前記分類部が、前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、前記文字ＲＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＲＮＮの演算を行い、前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、前記単語ＲＮＮを用いて、前記単語入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＲＮＮの演算を行い、前記中間層用ＦＦＮＮを用いて、前記文字ＲＮＮの演算結果のベクトルと前記単語ＲＮＮの演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とする。
【0035】
また、請求項３のニュース素材分類装置は、ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を利用者の要求に応じて分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトルを生成すると共に、前記単語の系列を表す単語ベクトルを生成する系列生成部と、機械学習された学習モデルを記憶する学習モデル記憶部と、前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトル及び前記単語ベクトルに基づき、前記ニュース性投稿情報についての前記利用者の要求に応じた分類情報を生成して出力する分類部と、を備え、前記学習モデルが、前記ニュース性投稿情報の前記文字ベクトルを入力データとし、演算結果のベクトルを出力データとする文字ＮＮ（ニューラルネットワーク）、前記ニュース性投稿情報の前記単語ベクトルを入力データとし、演算結果のベクトルを出力データとする単語ＮＮ、及び、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、演算結果である前記分類情報を出力データとする出力ＮＮにより構成され、前記分類部が、前記文字ＮＮを用いて、前記ニュース性投稿情報の前記文字ベクトルに基づきＮＮの演算を行い、前記単語ＮＮを用いて、前記ニュース性投稿情報の前記単語ベクトルに基づきＮＮの演算を行い、前記出力ＮＮを用いて、前記文字ＮＮの演算結果のベクトルと前記単語ＮＮの演算結果のベクトルとを結合したベクトルに基づいてＮＮの演算を行い、演算結果を前記分類情報として出力し、前記分類情報を、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報とし、前記系列生成部が、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、前記文字に対応したone-hot列ベクトルを並べて文字one-hotベクトル系列を生成すると共に、前記単語に対応したone-hot列ベクトルを並べて単語one-hotベクトル系列を生成し、前記学習モデルが、前記系列生成部により生成された前記文字one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、当該文字入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＣＮＮ（畳み込みニューラルネットワーク）の演算結果のベクトルを出力データとする文字ＣＮＮ、当該文字ＣＮＮの演算結果のベクトルを入力データとし、プーリングの演算結果のベクトルを出力データとする文字プーリング層と、前記系列生成部により生成された前記単語one-hotベクトル系列を入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、当該単語入力層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＣＮＮの演算結果のベクトルを出力データとする単語ＣＮＮ、当該単語ＣＮＮの演算結果のベクトルを入力データとし、プーリングの演算結果のベクトルを出力データとする単語プーリング層と、前記文字プーリング層の演算結果のベクトルと前記単語プーリング層の演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、前記分類部が、前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、前記文字ＣＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＣＮＮの演算を行い、前記文字プーリング層を用いて、前記文字ＣＮＮの演算結果のベクトルに基づき、プーリングの演算を行い、前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語one-hotベクトル系列に基づき、ＦＦＮＮの演算を行い、前記単語ＣＮＮを用いて、前記単語入力層用ＦＦＮＮの演算結果のベクトルに基づき、ＣＮＮの演算を行い、前記単語プーリング層を用いて、前記単語ＣＮＮの演算結果のベクトルに基づき、プーリングの演算を行い、前記中間層用ＦＦＮＮを用いて、前記文字プーリング層の演算結果のベクトルと前記単語プーリング層の演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とする。
【0036】
また、請求項４のニュース素材分類装置は、請求項１に記載のニュース素材分類装置において、前記系列生成部が、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字及び単語をそれぞれ抽出し、抽出した全ての前記文字に対応した文字BOWベクトルを生成すると共に、抽出した全ての単語に対応した単語BOWベクトルを生成し、前記学習モデルが、前記系列生成部により生成された前記文字BOWベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする文字入力層用ＦＦＮＮ、前記系列生成部により生成された前記単語BOWベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする単語入力層用ＦＦＮＮ、前記文字入力層用ＦＦＮＮの演算結果のベクトルと前記単語入力層用ＦＦＮＮの演算結果のベクトルとを結合したベクトルを入力データとし、ＦＦＮＮの演算結果のベクトルを出力データとする中間層用ＦＦＮＮ、及び、当該中間層用ＦＦＮＮの演算結果のベクトルを入力データとし、ＦＦＮＮの演算結果である前記既出・非既出情報を出力データとする出力層用ＦＦＮＮにより構成され、前記分類部が、前記文字入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記文字BOWベクトルに基づき、ＦＦＮＮの演算を行い、前記単語入力層用ＦＦＮＮを用いて、前記系列生成部により生成された前記単語BOWベクトルに基づき、ＦＦＮＮの演算を行い、前記中間層用ＦＦＮＮを用いて、前記文字入力層用ＦＦＮＮの演算結果のベクトルと前記単語入力層用ＦＦＮＮの演算結果のベクトルとを結合したベクトルに基づき、ＦＦＮＮの演算を行い、前記出力層用ＦＦＮＮを用いて、前記中間層用ＦＦＮＮの演算結果のベクトルに基づき、ＦＦＮＮの演算を行い、演算結果を前記既出・非既出情報として出力する、ことを特徴とする。
【0037】
また、請求項５のニュース素材分類装置は、ソーシャルメディア情報のうち、ニュース素材となり得る投稿情報をニュース性投稿情報として入力し、当該ニュース性投稿情報を既出または非既出に分類するニュース素材分類装置において、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に含まれる文字または単語をそれぞれ抽出し、前記文字の系列を表す文字ベクトル、または前記単語の系列を表す単語ベクトルを生成する系列生成部と、前記ニュース性投稿情報の前記文字ベクトルまたは前記単語ベクトルを入力データとし、演算結果である、前記ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報を出力データとするＮＮにより構成された学習モデルであって、機械学習された前記学習モデルを記憶する学習モデル記憶部と、前記学習モデル記憶部から前記学習モデルを読み出し、当該学習モデルを用いて、前記系列生成部により生成された前記文字ベクトルまたは前記単語ベクトルに基づき、前記既出・非既出情報を生成して第１分類結果として出力する分類部と、前記ニュース性投稿情報を入力し、当該ニュース性投稿情報に付加された、投稿元の機器を識別するためのエージェント情報を抽出し、当該エージェント情報に基づいて、前記既出・非既出情報を生成して第２分類結果として出力する第２分類部と、前記分類部により出力された前記第１分類結果、及び前記第２分類部により出力された前記第２分類結果に基づいて、新たな既出・非既出情報を生成して出力する判定部と、を備えたことを特徴とする。
【0038】
さらに、請求項６のプログラムは、コンピュータを、請求項１から５までのいずれか一項のニュース素材分類装置として機能させることを特徴とする。
【発明の効果】
【0040】
以上のように、本発明によれば、利用者が多数のソーシャルメディア情報から所望の情報を取得する際に、ソーシャルメディア情報から抽出されたニュース性投稿情報を精度高く分類することが可能となる。
【図面の簡単な説明】
【0041】
【図1】実施例１のニュース素材分類装置を含む全体構成例の概要を説明する図である。
【図2】実施例１のニュース素材分類装置の構成例を示すブロック図である。
【図3】実施例２のニュース素材分類装置を含む全体構成例の概要を説明する図である。
【図4】実施例２のニュース素材分類装置の構成例を示すブロック図である。
【図5】エージェント分類部の処理例を示すフローチャートである。
【図6】判定部の第１の処理例（処理例１）を示すフローチャートである。
【図7】判定部の第２の処理例（処理例２）を示すフローチャートである。
【図8】学習装置の構成例を示すブロック図である。
【図9】学習モデルの概略構造を説明する図である。
【図10】ＦＦＮＮ及びＬＳＴＭを用いた学習モデル（具体例１）の概略構造を説明する図である。
【図11】具体例１におけるノード数及び入出力データを説明する図である。
【図12】ＦＦＮＮ及びＣＮＮを用いた学習モデル（具体例２）の概略構造を説明する図である。
【図13】具体例２におけるノード数及び入出力データを説明する図である。
【図14】ＦＦＮＮを用いた学習モデル（具体例３）の概略構造を説明する図である。
【図15】具体例３におけるノード数及び入出力データを説明する図である。
【図16】ニュース性投稿情報から生成された文字系列の例及び単語系列の例を示す図である。
【図17】文字one-hotベクトル系列｛ｘchar｝の例を示す図である。
【図18】単語one-hotベクトル系列｛ｘword｝の例を示す図である。
【図19】文字BOWベクトルｘcharの例を示す図である。
【図20】単語BOWベクトルｘwordの例を示す図である。
【図21】実験結果を説明する図である。
【図22】従来のニュース素材抽出装置の概要を説明する図である。
【発明を実施するための形態】
【0042】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。本発明は、ソーシャルメディア情報からニュース性投稿情報を抽出する処理とは別に、ニュース性投稿情報を、利用者の要求に応じた情報（例えば第一報の非既出情報）とその他の情報（例えば既出情報）とに分類するものである。既出情報とは、既に出現した情報をいい、非既出情報とは、過去に出現しておらず、初めて出現した情報をいう。
【0043】
利用者が多数のソーシャルメディア情報から所望の情報を取得する際の処理を、二段階に分ける。第１の処理は、ソーシャルメディア情報からニュース性投稿情報を抽出する処理であり、既存の技術を用いて実現する。
【0044】
第２の処理は、本発明によるものであり、第１の処理により抽出されたニュース性投稿情報を、機械学習により、利用者の要求に応じた情報とその他の情報とに分類する処理である。
【0045】
本発明は、第２の処理において、ニュース性投稿情報から文字ベクトル及び単語ベクトルを生成し、予め機械学習された学習モデルを用いて、文字ベクトル及び単語ベクトルを入力データとして入力層に入力する。そして、本発明は、文字ベクトルの中間データと単語ベクトルの中間データとを中間層にて結合し、利用者の要求に応じた情報とその他の情報とを判定し、この判定結果を出力データとして出力層から出力する。
【0046】
以下、本発明について、実施例１，２を挙げて具体的に説明する。実施例１，２は、利用者が多数のソーシャルメディア情報から第一報の非既出情報を取得できるようにするものである。実施例１は、学習モデルを用いて、ニュース性投稿情報の文面（本文）に基づき、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成する。
【0047】
実施例２は、実施例１の処理に加え、ニュース性投稿情報の文面以外の発信元のアプリケーション、ＯＳ等のエージェント情報を用いたフィルタリングにて、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成する。そして、実施例２は、実施例１の処理による学習モデルを用いた判定結果、及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成する。
【0048】
また、以下、実施例１，２に用いる学習モデルの種類について、具体例１，２，３を挙げて説明する。具体例１は、学習モデルとしてＦＦＮＮ（FeedForward Neural Network：フィードフォワード（順伝搬型）ニューラルネットワーク）及びＬＳＴＭ（Long Short Term Memory：長短期記憶ユニット）を用いた例である。具体例２は、ＦＦＮＮ及びＣＮＮ（Convolutional Neural Network：畳み込みニューラルネットワーク）を用いた例であり、具体例３は、ＦＦＮＮを用いた例である。
【0049】
〔実施例１〕
まず、実施例１について説明する。前述のとおり、実施例１は、学習モデルを用いて、ニュース性投稿情報の文面に基づき、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成する例である。
まず、実施例１について説明する。前述のとおり、実施例１は、学習モデルを用いて、ニュース性投稿情報の文面に基づき、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成する例である。
【0050】
図１は、実施例１のニュース素材分類装置を含む全体構成例の概要を説明する図である。このシステムは、利用者が多数のソーシャルメディア情報から第一報の非既出情報を取得するためのものであり、ニュース素材抽出装置１００及びニュース素材分類装置１－１を備えて構成される。
【0051】
ニュース素材抽出装置１００は、図２２にて説明したとおり、投稿情報であるソーシャルメディア情報を入力し、ソーシャルメディア情報からニュース性投稿情報を抽出する。そして、ニュース素材抽出装置１００は、ソーシャルメディア情報のうち抽出したニュース性投稿情報をニュース素材分類装置１－１へ出力し、その他の情報を破棄する。
【0052】
ニュース素材抽出装置１００は、ニューラルネットワークの学習モデルを用いた前述の非特許文献１の手法、キーワードマッチングの手法等の既存技術にて実現する。例えば、ニュース素材抽出装置１００は、実際に報道現場で人手により抽出したニュース性のあるソーシャルメディア情報を正例とし、ランダムサンプルしたソーシャルメディア情報を負例とした学習データを用いて機械学習を行い、学習モデルを生成する。機械学習は、ソーシャルメディア情報の文字one-hotベクトル系列を入力データとし、例えばBi-directional ＬＳＴＭを用いて行われる。そして、ニュース素材抽出装置１００は、機械学習した学習モデルを用いて、ソーシャルメディア情報からニュース性投稿情報を自動的に抽出する。
【0053】
ニュース素材分類装置１－１は、ニュース素材抽出装置１００からニュース性投稿情報を入力し、学習モデルを用いて、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類する。
【0054】
ニュース素材分類装置１－１は、分類した第一報の非既出情報を、非既出のラベル付けニュース性投稿情報とし、分類したその他の既出情報を、既出のラベル付けニュース性投稿情報とする。そして、ニュース素材分類装置１－１は、ニュース性投稿情報について既出または非既出を示すラベル情報を、既出・非既出情報として出力する。ニュース素材分類装置１－１の詳細については後述する。
【0055】
【0056】
系列生成部１０は、ニュース性投稿情報を入力し、ニュース性投稿情報に基づいて、ニュース性投稿情報に含まれる文字を文字系列として抽出すると共に、ニュース性投稿情報に含まれる単語を単語系列として抽出する。そして、系列生成部１０は、文字系列からなる文字ベクトルを生成すると共に、単語系列からなる単語ベクトルを生成する。そして、系列生成部１０は、ニュース性投稿情報の文字ベクトル及び単語ベクトルを文面分類部１１に出力する。
【0057】
例えば、系列生成部１０は、ニュース性投稿情報に含まれる文字を抽出し、文字に対応したone-hot（ワンホット）列ベクトルを並べて、文字one-hotベクトル系列を生成する。また、系列生成部１０は、ニュース性投稿情報に含まれる単語を抽出し、単語に対応したone-hot列べクトルを並べて、単語one-hotベクトル系列を生成する。また例えば、系列生成部１０は、抽出した文字の系列からなる文字BOW（Bags Of Words、ボウ）ベクトルを生成し、抽出した単語の系列からなる単語BOWベクトルを生成する。文字one-hotベクトル系列、単語one-hotベクトル系列、文字BOWベクトル及び単語BOWベクトルの詳細については後述する。
【0058】
文面分類部１１は、系列生成部１０からニュース性投稿情報の文字ベクトル及び単語ベクトルを入力する。そして、文面分類部１１は、学習モデル記憶部１２に記憶された学習モデルを用いて、文字ベクトル及び単語ベクトルに基づき、既出または非既出を示すラベル情報を生成し、これを既出・非既出情報として出力する。この既出・非既出情報は、系列生成部１０が入力したニュース性投稿情報が既出であるか、または非既出であるかを示す情報である。
【0059】
学習モデル記憶部１２には、後述する図８の学習装置２により機械学習された学習モデルが記憶されている。
【0060】
図９は、図２に示した学習モデル記憶部１２に記憶された学習モデルの概略構造を説明する図である。この学習モデルは、文字ＮＮ（Neural Network：ニューラルネットワーク）２１、単語ＮＮ２２及び出力ＮＮ２３を備え、文字ＮＮ２１の出力データ及び単語ＮＮ２２の出力データが出力ＮＮ２３に入力されるように、文字ＮＮ２１及び単語ＮＮ２２と出力ＮＮ２３とが結合して構成される。
【0061】
この学習モデルは、後述する図８に示す学習装置２の機械学習により生成され、ニュース性投稿情報の文字ベクトル及び単語ベクトルを入力データとし、入力データに対して、当該ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報を出力するように、コンピュータを機能させるためのものである。また、この学習モデルは、機械学習された文字ＮＮ２１の重み係数、単語ＮＮ２２の重み係数及び出力ＮＮ２３の重み係数を保持している。
【0062】
文面分類部１１は、学習モデル記憶部１２に記憶された図９に示す学習モデルを読み出し、図２には示していないメモリに格納する。文面分類部１１は、系列生成部１０により生成された文字ベクトルを文字ＮＮ２１の入力層に入力し、文字ベクトルの各要素の値に対し、機械学習された重み係数を付加する等のＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルを文字ＮＮ２１の出力層から出力し、出力ＮＮ２３へ伝搬させる。
【0063】
また、文面分類部１１は、系列生成部１０により生成された単語ベクトルを単語ＮＮ２２の入力層に入力し、単語ベクトルの各要素の値に対し、機械学習された重み係数を付加する等のＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルを単語ＮＮ２２の出力層から出力し、出力ＮＮ２３へ伝搬させる。
【0064】
この場合、文字ＮＮ２１から出力された演算結果のベクトルと、単語ＮＮ２２から出力された演算結果のベクトルとが結合され、結合したベクトルが出力ＮＮ２３へ伝搬される。
【0065】
文面分類部１１は、文字ＮＮ２１から演算結果のベクトルを出力ＮＮ２３の入力層に入力すると共に、単語ＮＮ２２から演算結果のベクトルを出力ＮＮ２３の入力層に入力する。そして、文面分類部１１は、入力したベクトルの各要素の値に対し、機械学習された重み係数を付加する等のＮＮの演算を行う。文面分類部１１は、演算結果に対し、softmax関数を用いて確率値を演算し、確率値に対し、argmax関数を用いて既出または非既出の二値情報を演算し、二値情報を既出・非既出情報として出力ＮＮ２３の出力層から出力する。
【0066】
尚、文面分類部１１は、文字ＮＮ２１、単語ＮＮ２２及び出力ＮＮ２３の各層から演算結果を出力する際に、活性化関数ＲＥＬＵ（REctified Linear Unit）の演算を行うものとする。後述する図１０～図１５に示す学習モデルについても同様である。
【0067】
以上のように、実施例１のニュース素材分類装置１－１によれば、系列生成部１０は、ニュース素材抽出装置１００により抽出されたニュース性投稿情報から、文字ベクトル及び単語ベクトルを生成する。文面分類部１１は、学習モデルを用いて、ニュース性投稿情報の文字ベクトル及び単語ベクトルを入力データとし、既出・非既出情報を出力データとした演算を行い、既出・非既出情報を生成して出力する。このようにして、ニュース性投稿情報が非既出情報または既出情報に分類される。
【0068】
学習モデルは、ニュース性投稿情報の文字ベクトルを入力データとする文字ＮＮ２１と、ニュース性投稿情報の単語ベクトルを入力データとする単語ＮＮ２２と、文字ＮＮ２１の演算結果と単語ＮＮ２２の演算結果とを結合したベクトルを入力データとし、既出・非既出情報を出力データとする出力ＮＮ２３とにより構成される。
【0069】
これにより、文面分類部１１にて、文字ベクトル及び単語ベクトルの独立した演算が行われるから、ニュース性投稿情報の文字情報及び単語情報の優位性を活かした判定が可能となり、精度の高い既出・非既出情報を得ることができる。この場合の優位性とは、前述のとおり、文字情報については、例えば文字ＮＮ２１の入力層のノード数と単語ＮＮ２２の入力層のノード数とが同じ場合に、その未知語が単語情報よりも少なく、単語情報については、文字情報よりも一要素の持ち得る意味が限られることをいう。
【0070】
つまり、ニュース素材分類装置１－１が用いる学習モデルは、未知語が少ない文字の長所、及び一要素の持ち得る意味が限られる単語の長所が反映されるように機械学習されたモデルである。したがって、ニュース性投稿情報に対し、文面の観点から文字及び単語の優位性が反映された判定が行われ、結果として、精度の高い既出・非既出情報を得ることができる。
【0071】
このように、利用者が多数のソーシャルメディア情報から第一報の非既出情報または既出情報を取得する際に、ニュース素材分類装置１－１を用いることで、既出情報と非既出情報とを精度高く分類することが可能となる。
【0072】
また、実施例１のニュース素材分類装置１－１は、ニュース素材抽出装置１００とは独立して無相関に動作する。このため、ニュース素材分類装置１－１の学習モデルは、ニュース素材抽出装置１００が入力する多数のソーシャルメディア情報を用いる必要がなく、ニュース素材抽出装置１００が入力するソーシャルメディア情報の数よりも少ないニュース性投稿情報を用いればよい。
【0073】
したがって、学習データが少なくて済むから、学習モデルを機械学習するためのハードウェアの負担が少なくなり、限られた計算機資源であっても複雑な処理を行うことも可能である。
【0074】
さらに、実施例１のニュース素材分類装置１－１は、ニュース素材抽出装置１００とは独立して動作するから、ニュース素材抽出装置１００による抽出処理とニュース素材分類装置１－１による分類処理とは、ほぼ無相関の関係にある。したがって、ニュース素材抽出装置１００による抽出処理との関係をさほど気にすることなく、ニュース素材分類装置１－１の分類処理の内容を変更することができ、分類処理を変更する際の作業が容易となる。
【0075】
また、本願の発明者による実験によれば、既出情報と非既出情報の正しい割合を２０％及び８０％とした場合に、単純な従来のフィルタリング処理では、約５０％の精度でそれぞれ既出情報及び非既出情報に分類するという結果が得られた。つまり、ニュース性投稿情報のうち２０％の既出情報を抽出しようとした場合に、本来の既出情報のうち３４％を、９４．１％の精度で取得することができる。一方、実施例１のニュース素材分類装置１－１では、約８０％以上の精度で既出情報及び非既出情報に分類するという結果が得られた。つまり、ニュース性投稿情報のうち２０％の既出情報を抽出しようとした場合に、本来の既出情報のうち８０％を、９０％の精度で取得することができる。詳細については、後述する図２１にて説明する。
【0076】
〔実施例２〕
次に、実施例２について説明する。前述のとおり、実施例２は、実施例１の処理により、学習モデルを用いた判定結果を生成し、エージェント情報を用いたフィルタリングにて、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成し、学習モデルを用いた判定結果及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成する例である。
次に、実施例２について説明する。前述のとおり、実施例２は、実施例１の処理により、学習モデルを用いた判定結果を生成し、エージェント情報を用いたフィルタリングにて、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類し、判定結果を生成し、学習モデルを用いた判定結果及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成する例である。
【0077】
一般に、ソーシャルメディアの投稿には、本文のみならず、投稿元のアプリケーションまたはＯＳ等のエージェント情報、さらには投稿時間の情報が付加されており、利用者は、これらの情報を利用することが可能な場合がある。
【0078】
携帯端末等の可搬通信機器から発信されるニュースに関わる投稿は、第一報の非既出情報である可能性が高い。これに対し、携帯端末等の可搬通信機器でない設置型のサーバーまたはパーソナルコンピュータから発信される投稿は、報道局またはホームページから自動的に投稿されるもの、または屋内のパーソナルコンピュータにて何かの情報を得て投稿されるものが多い。この場合の投稿情報は、第一報の非既出情報である可能性が低く、既出情報である可能性が高い。エージェント情報の種類は膨大であるが、携帯電話からの投稿であるか否かの情報のみを用いて、既出・非既出の判別を行うことが可能である。
【0079】
そこで、実施例２では、エージェント情報を用いたフィルタリングにて非既出情報と既出情報とを判定し、学習モデルを用いた判定結果、及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成するようにした。
【0080】
図３は、実施例２のニュース素材分類装置を含む全体構成例の概要を説明する図である。このシステムは、利用者が多数のソーシャルメディア情報から第一報の非既出情報を取得するためのものであり、ニュース素材抽出装置１００及びニュース素材分類装置１－２を備えて構成される。
【0081】
ニュース素材抽出装置１００は、図１に示したニュース素材抽出装置１００と同様であるから、ここでは説明を省略する。
【0082】
ニュース素材分類装置１－２は、ニュース素材抽出装置１００からニュース性投稿情報を入力し、学習モデルを用いて、ニュース性投稿情報を、文面に基づき非既出情報と既出情報とに分類する。また、ニュース素材分類装置１－２は、エージェント情報を用いたフィルタリングにて、ニュース性投稿情報を、エージェント情報に基づき非既出情報と既出情報とに分類する。そして、ニュース素材分類装置１－２は、文面に基づいて分類した非既出情報及び既出情報、並びにエージェント情報に基づいて分類した非既出情報及び既出情報に基づいて、最終的な判定結果を生成する。
【0083】
ニュース素材分類装置１－２は、最終的な判定結果として、ニュース性投稿情報について既出または非既出を示すラベル情報を、既出・非既出情報として出力する。ニュース素材分類装置１－２の詳細については後述する。
【0084】
図４は、図３に示した実施例２のニュース素材分類装置１－２の構成例を示すブロック図である。このニュース素材分類装置１－２は、系列生成部１０、文面分類部１１、学習モデル記憶部１２、エージェント分類部１３及び判定部１４を備えている。
【0085】
系列生成部１０、文面分類部１１及び学習モデル記憶部１２は、図２に示した系列生成部１０、文面分類部１１及び学習モデル記憶部１２と同様であるから、ここでは説明を省略する。文面分類部１１は、既出・非既出情報ａ（第１判定結果）を判定部１４に出力する。
【0086】
エージェント分類部１３は、ニュース素材抽出装置１００からニュース性投稿情報を入力し、ニュース性投稿情報に付加されたエージェント情報に基づいて、ニュース性投稿情報が既出であるか、または非既出であるかを判定し、そのラベル情報を生成する。そして、エージェント分類部１３は、生成したラベル情報を既出・非既出情報ｂ（第２判定結果）として判定部１４に出力する。
【0087】
エージェント情報は、投稿元の機器を識別するための情報であり、例えば、投稿元の機器の種類、投稿元の機器にて投稿に使用するアプリケーションまたはＯＳ等の情報が含まれる。
【0088】
図５は、エージェント分類部１３の処理例を示すフローチャートである。エージェント分類部１３は、ニュース素材抽出装置１００からニュース性投稿情報を入力し（ステップＳ５０１）、ニュース性投稿情報からエージェント情報を抽出する（ステップＳ５０２）。ニュース性投稿情報にはエージェント情報が付加されている場合があり、エージェント分類部１３は、ニュース性投稿情報から、当該ニュース性投稿情報に付加されたエージェント情報を抽出することができる。
【0089】
エージェント分類部１３は、エージェント情報に基づいて、ニュース性投稿情報が既出であるか、または非既出であるかを判定し（ステップＳ５０３）、そのラベル情報を生成する。エージェント分類部１３は、ラベル情報を既出・非既出情報ｂとして判定部１４に出力する（ステップＳ５０４）。
【0090】
具体的には、エージェント分類部１３は、エージェント情報が、携帯端末の機器名称、携帯端末にて使用するアプリケーションまたはＯＳの名称である場合、投稿元が携帯端末であると判断し、当該ニュース性投稿情報は非既出であると判定する。一方、エージェント分類部１３は、エージェント情報が、携帯端末の機器名称、携帯端末にて使用するアプリケーションまたはＯＳの名称でない場合（設置型のコンピュータの機器名称、設置型のコンピュータにて使用するアプリケーション及びＯＳの名称である場合）、投稿元が携帯端末でないと判断し、当該ニュース性投稿情報は既出であると判定する。
【0091】
例えば、エージェント分類部１３は、エージェント情報が「Twitter for iPhone（登録商標）」または「Twitter for Android（登録商標）」である場合、非既出であると判定する。一方、エージェント分類部１３は、エージェント情報が「Twitter for iPhone（登録商標）」及び「Twitter for Android（登録商標）」以外の場合、既出であると判定する。
【0092】
図４に戻って、判定部１４は、文面分類部１１から既出・非既出情報ａを入力すると共に、エージェント分類部１３から既出・非既出情報ｂを入力し、既出・非既出情報ａ，ｂに基づいて、既出・非既出情報を生成して出力する。
【0093】
図６は、判定部１４の第１の処理例（処理例１）を示すフローチャートである。判定部１４は、文面分類部１１及びエージェント分類部１３から既出・非既出情報ａ，ｂをそれぞれ入力する（ステップＳ６０１）。
【0094】
判定部１４は、既出・非既出情報ａが既出を示しているか否かを判定する（ステップＳ６０２）。判定部１４は、既出・非既出情報ａが既出を示している場合（ステップＳ６０２：Ｙ）、ステップＳ６０３へ移行し、既出・非既出情報ａが既出を示していない場合（非既出を示している場合）（ステップＳ６０２：Ｎ）、ステップＳ６０５へ移行する。
【0095】
判定部１４は、ステップＳ６０２（Ｙ）から移行して、既出・非既出情報ｂが既出を示しているか否かを判定する（ステップＳ６０３）。判定部１４は、既出・非既出情報ｂが既出を示している場合（ステップＳ６０３：Ｙ）、既出を判定し、既出を示すラベル情報を生成する（ステップＳ６０４）。一方、判定部１４は、既出・非既出情報ｂが既出を示していない場合（非既出を示している場合）（ステップＳ６０３：Ｎ）、ステップＳ６０５へ移行する。
【0096】
判定部１４は、ステップＳ６０２（Ｎ）またはステップＳ６０３（Ｎ）から移行して、非既出を判定し、非既出を示すラベル情報を生成する（ステップＳ６０５）。判定部１４は、ステップＳ６０４またはステップＳ６０５から移行して、ラベル情報を既出・非既出情報として出力する（ステップＳ６０６）。
【0097】
このように、判定部１４は、図６に示した処理例１において、既出・非既出情報ａ，ｂの両者が既出を示している場合、既出を示す既出・非既出情報を出力し、それ以外の場合、非既出を示す既出・非既出情報を出力する。
【0098】
図７は、判定部１４の第２の処理例（処理例２）を示すフローチャートである。図７に示すステップＳ７０１及びステップＳ７０６は、図６に示したステップＳ６０１及びステップＳ６０６と同様であるから、ここでは説明を省略する。
【0099】
判定部１４は、既出・非既出情報ａが既出を示しているか否かを判定する（ステップＳ７０２）。判定部１４は、既出・非既出情報ａが既出を示している場合（ステップＳ７０２：Ｙ）、ステップＳ７０４へ移行し、既出・非既出情報ａが既出を示していない場合（非既出を示している場合）（ステップＳ７０２：Ｎ）、ステップＳ７０３へ移行する。
【0100】
判定部１４は、ステップＳ７０２（Ｎ）から移行して、既出・非既出情報ｂが既出を示しているか否かを判定する（ステップＳ７０３）。判定部１４は、既出・非既出情報ｂが既出を示している場合（ステップＳ７０３：Ｙ）、ステップＳ７０４へ移行する。一方、判定部１４は、既出・非既出情報ｂが既出を示していない場合（非既出を示している場合）（ステップＳ７０３：Ｎ）、ステップＳ７０５へ移行する。
【0101】
判定部１４は、ステップＳ７０２（Ｙ）またはステップＳ７０３（Ｙ）から移行して、既出を判定し、既出を示すラベル情報を生成する（ステップＳ７０４）。判定部１４は、ステップＳ７０３（Ｎ）から移行して、非既出を判定し、非既出を示すラベル情報を生成する（ステップＳ７０５）。
【0102】
このように、判定部１４は、図７に示した処理例２において、既出・非既出情報ａ，ｂのいずれか一方が既出を示している場合、既出を示す既出・非既出情報を出力し、それ以外の場合、非既出を示す既出・非既出情報を出力する。
【0103】
以上のように、実施例２のニュース素材分類装置１－２によれば、系列生成部１０は、ニュース素材抽出装置１００により抽出されたニュース性投稿情報から、文字ベクトル及び単語ベクトルを生成する。文面分類部１１は、学習モデルを用いて、ニュース性投稿情報の文字ベクトル及び単語ベクトルを入力データとし、既出・非既出情報を出力データとした演算を行い、既出・非既出情報ａを生成する。エージェント分類部１３は、ニュース性投稿情報に含まれるエージェント情報に基づいて、既出・非既出情報ｂを生成する。判定部１４は、既出・非既出情報ａ，ｂに基づいて、ニュース性投稿情報に対する既出・非既出情報を生成する。
【0104】
これにより、実施例１と同様の効果を奏する。特に、ニュース性投稿情報の文面に基づいて、文字情報及び単語情報の優位性を活かした判定に加え、ニュース性投稿情報に含まれるエージェント情報に基づいた判定を行うから、一層精度の高い既出・非既出情報を得ることができる。
【0105】
このように、利用者が多数のソーシャルメディア情報から第一報の非既出情報または既出情報を取得する際に、ニュース素材分類装置１－２を用いることで、既出情報と非既出情報とを一層精度高く分類することが可能となる。
【0106】
〔実施例２の変形例〕
次に、実施例２の変形例について説明する。実施例２の変形例は、文字ベクトル及び単語ベクトルを入力データとして機械学習された学習モデルを用いる代わりに、文字ベクトルのみまたは単語ベクトルのみを入力データとして機械学習された学習モデルを用いるものである。つまり、実施例２の変形例は、文字ベクトルのみまたは単語ベクトルのみで機械学習された学習モデルを用いた判定結果を生成し、エージェント情報を用いたフィルタリングにて判定結果を生成し、学習モデルを用いた判定結果及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成する例である。
次に、実施例２の変形例について説明する。実施例２の変形例は、文字ベクトル及び単語ベクトルを入力データとして機械学習された学習モデルを用いる代わりに、文字ベクトルのみまたは単語ベクトルのみを入力データとして機械学習された学習モデルを用いるものである。つまり、実施例２の変形例は、文字ベクトルのみまたは単語ベクトルのみで機械学習された学習モデルを用いた判定結果を生成し、エージェント情報を用いたフィルタリングにて判定結果を生成し、学習モデルを用いた判定結果及びフィルタリングによる判定結果に基づいて、最終的な判定結果を生成する例である。
【0107】
実施例２の変形例におけるニュース素材分類装置１－２は、図４の構成において、実施例２とは異なる系列生成部１０、文面分類部１１及び学習モデル記憶部１２を備え、実施例２と同じエージェント分類部１３及び判定部１４を備えている。
【0108】
実施例２の変形例の系列生成部１０は、ニュース性投稿情報を入力し、ニュース性投稿情報に基づいて、ニュース性投稿情報に含まれる文字を文字系列として抽出し、または、ニュース性投稿情報に含まれる単語を単語系列として抽出する。そして、系列生成部１０は、文字系列からなる文字ベクトル、または単語系列からなる単語ベクトルを生成し、文字ベクトルまたは単語ベクトルを文面分類部１１に出力する。
【0109】
文面分類部１１は、系列生成部１０から文字ベクトルまたは単語ベクトルを入力し、学習モデル記憶部１２に記憶された学習モデルを用いて、文字ベクトルまたは単語ベクトルに基づき、既出・非既出情報ａを生成し、これを判定部１４に出力する。
【0110】
学習モデル記憶部１２には、従来の学習装置により機械学習された従来の学習モデルが記憶されている。この学習モデルは、例えば文字ＮＮ及び出力ＮＮにより構成され、または単語ＮＮ及び出力ＮＮにより構成される。
【0111】
以上のように、実施例２の変形例のニュース素材分類装置１－２によれば、文面分類部１１は、学習モデルを用いて、ニュース性投稿情報の文字ベクトルまたは単語ベクトルを入力データとし、既出・非既出情報を出力データとした演算を行い、既出・非既出情報ａを生成する。エージェント分類部１３は、ニュース性投稿情報に含まれるエージェント情報に基づいて、既出・非既出情報ｂを生成する。判定部１４は、既出・非既出情報ａ，ｂに基づいて、ニュース性投稿情報に対する既出・非既出情報を生成する。
【0112】
これにより、ニュース性投稿情報の文面に基づいた判定に加え、ニュース性投稿情報に含まれるエージェント情報に基づいた判定を行うから、従来の、文面のみに基づいた判定よりも、精度の高い既出・非既出情報を得ることができる。
【0113】
このように、利用者が多数のソーシャルメディア情報から第一報の非既出情報または既出情報を取得する際に、実施例２の変形例のニュース素材分類装置１－２を用いることで、既出情報と非既出情報とを精度高く分類することが可能となる。
【0114】
【0115】
図８は、学習装置の構成例を示すブロック図である。この学習装置２は、系列生成部１０、学習部２０及び学習モデル記憶部１２を備えている。
【0116】
系列生成部１０及び学習モデル記憶部１２は、図２及び図４に示した系列生成部１０及び学習モデル記憶部１２と同様であるから、ここでは説明を省略する。学習モデル記憶部１２に記憶される学習モデルは、学習部２０により生成される。
【0117】
学習部２０は、系列生成部１０からニュース性投稿情報の文字ベクトル及び単語ベクトルを入力すると共に、ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報を入力する。
【0118】
学習部２０は、ニュース性投稿情報の文字ベクトル及び単語ベクトルを入力データとし、既出・非既出情報を出力データとし、これらの学習データを用いて機械学習を行う。そして、学習部２０は、図９に示した学習モデルを生成し、学習モデルを学習モデル記憶部１２に記憶する。例えば、学習部２０は、後述する図１０～図１５に示す学習モデルを生成する。学習部２０による学習は、例えばバックプロパゲーション法により行われ、機械学習の度にノード間の重み係数等が更新される。
【0119】
既出・非既出情報の学習データは、人手のアノテータにより生成される。アノテータは、図１及び図３に示したニュース素材抽出装置１００により抽出されたニュース性投稿情報に対し、ニュース記事が含まれているか否かを判定する。そして、アノテータは、ニュース性投稿情報にニュース記事の引用が含まれていると判定した場合、当該ニュース性投稿情報について既出のラベル付けを行い、既出を示す既出・非既出情報を生成する。一方、アノテータは、ニュース性投稿情報にニュース記事の引用が含まれていないと判定した場合、当該ニュース性投稿情報について非既出のラベル付けを行い、非既出を示す既出・非既出情報を生成する。
【0120】
【0121】
〔学習モデル〕
次に、図８に示した学習装置２により生成され、図１及び図２に示した実施例１のニュース素材分類装置１－１、または図３及び図４に示した実施例２のニュース素材分類装置１－２に用いる学習モデルについて説明する。
次に、図８に示した学習装置２により生成され、図１及び図２に示した実施例１のニュース素材分類装置１－１、または図３及び図４に示した実施例２のニュース素材分類装置１－２に用いる学習モデルについて説明する。
【0122】
学習装置２により生成された学習モデルは、ニュース性投稿情報の文字ベクトル及び単語ベクトルを入力データとし、入力データに対して、当該ニュース性投稿情報が既出であるか、または非既出であるかを示す既出・非既出情報を出力するように、コンピュータを機能させるためのものであり、機械学習された重み係数を保持している。図２及び図４に示した文面分類部１１は、学習モデル記憶部１２に記憶された学習モデルを読み出してメモリに格納し、学習モデルを用いて演算を行う演算部として機能する。
【0123】
具体例１は、ＦＦＮＮ及びＬＳＴＭを用いた学習モデルであり、具体例２は、ＦＦＮＮ及びＣＮＮを用いた学習モデルであり、具体例３は、ＦＦＮＮを用いた学習モデルである。これらの具体例１～３は、図９に示した学習モデルを具体的に示したものである。
【0124】
（具体例１）
まず、具体例１の学習モデルについて説明する。図１０は、ＦＦＮＮ及びＬＳＴＭを用いた学習モデル（具体例１）の概略構造を説明する図であり、図１１は、具体例１におけるノード数及び入出力データを説明する図である。
まず、具体例１の学習モデルについて説明する。図１０は、ＦＦＮＮ及びＬＳＴＭを用いた学習モデル（具体例１）の概略構造を説明する図であり、図１１は、具体例１におけるノード数及び入出力データを説明する図である。
【0125】
この学習モデルは、文字入力層用ＦＦＮＮ２４、単語入力層用ＦＦＮＮ２５、文字ＬＳＴＭ２６、単語ＬＳＴＭ２７、中間層用ＦＦＮＮ２８及び出力層用ＦＦＮＮ２９を備えて構成される。また、この学習モデルは、文字入力層用ＦＦＮＮ２４の出力データが文字ＬＳＴＭ２６に入力されるように、文字入力層用ＦＦＮＮ２４と文字ＬＳＴＭ２６とが結合し、単語入力層用ＦＦＮＮ２５の出力データが単語ＬＳＴＭ２７に入力されるように、単語入力層用ＦＦＮＮ２５と単語ＬＳＴＭ２７とが結合し、文字ＬＳＴＭ２６の出力データ及び単語ＬＳＴＭ２７の出力データが中間層用ＦＦＮＮ２８に入力されるように、文字ＬＳＴＭ２６及び単語ＬＳＴＭ２７と中間層用ＦＦＮＮ２８とが結合し、中間層用ＦＦＮＮ２８の出力データが出力層用ＦＦＮＮ２９に入力されるように、中間層用ＦＦＮＮ２８と出力層用ＦＦＮＮ２９とが結合して構成される。
【0126】
この学習モデルは、文字one-hotベクトル系列｛ｘchar｝及び単語one-hotベクトル系列｛ｘword｝のそれぞれを入力データとし、中間層にて両者を結合し、二値の既出・非既出情報を出力データとするニューラルネットワークである。また、この学習モデルは、図８に示した学習装置２により機械学習された文字入力層用ＦＦＮＮ２４～出力層用ＦＦＮＮ２９の重み係数を保持している。
【0127】
文面分類部１１は、学習モデル記憶部１２に記憶された図１０に示す学習モデルを読み出す。文面分類部１１は、系列生成部１０により生成された文字one-hotベクトル系列｛ｘchar｝を文字入力層用ＦＦＮＮ２４に入力し、文字one-hotベクトル系列｛ｘchar｝の各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトル系列｛ｈchar
in｝を文字入力層用ＦＦＮＮ２４から出力し、文字ＬＳＴＭ２６へ伝搬させる。尚、ＦＦＮＮの演算は既知であるから、ここでは説明を省略する。
【0128】
図１６は、ニュース性投稿情報から生成された文字系列の例及び単語系列の例を示す図である。ニュース性投稿情報が「新宿駅西口付近で火事１１月１５日」である場合、系列生成部１０により、このニュース性投稿情報から文字系列「新，宿，駅，西，口，付，近，で，火，事，１，１，月，１，５，日」が抽出される。この文字系列は、「新」「宿」・・・「日」の各文字から構成される。
【0129】
また、系列生成部１０により、このニュース性投稿情報から単語系列「新宿駅西口，付近，で，火事，１１月１５日」が抽出される。この単語系列は、「新宿駅西口」「付近」・・・「１１月１５日」の各単語から構成される。
【0130】
図１７は、文字one-hotベクトル系列｛ｘchar｝の例を示す図である。文字系列が図１６に示した「新，宿，駅，西，口，付，近，で，火，事，１，１，月，１，５，日」である場合、系列生成部１０により、図１７に示す６３００行×１５０列の文字one-hotベクトル系列｛ｘchar｝が生成される。この文字one-hotベクトル系列｛ｘchar｝の列数１５０は、投稿の文字数の最大値１５０に相当する。行数６３００は、実施例１，２に用いる文字の種類の最大値に相当し、学習モデルの設計者により、学習データとして出現する文字の頻度等を考慮して予め設定される。
【0131】
文字one-hotベクトル系列｛ｘchar｝の列データは、文字系列を構成する各文字「新」「宿」・・・「日」に対応しており、６３００の行位置のうち当該文字に対応する１つの行位置に「１」が設定され、その他は「０」が設定される。文字系列が１５０文字に満たない場合、残りの列データにはヌルデータである「０」が設定される。
【0132】
図１１を参照して、図１６及び図１７の例において、文面分類部１１は、ニュース性投稿情報が「新宿駅西口付近で火事１１月１５日」である場合、６３００行×１５０列の文字one-hotベクトル系列｛ｘchar｝を文字入力層用ＦＦＮＮ２４に入力し、ＦＦＮＮの演算を行う。この場合の文字入力層用ＦＦＮＮ２４における入力層のノード数は、６３００である。
【0133】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１５０列のベクトル系列｛ｈchar
in｝を生成し、これを文字入力層用ＦＦＮＮ２４から出力し、文字ＬＳＴＭ２６へ伝搬させる。この場合の文字入力層用ＦＦＮＮ２４における出力層のノード数は、２００である。
【0134】
図１０に戻って、文面分類部１１は、文字入力層用ＦＦＮＮ２４から演算結果のベクトル系列｛ｈchar
in｝を文字ＬＳＴＭ２６に入力し、ベクトル系列｛ｈchar
in｝の各要素の値に対し、機械学習された重み係数を付加する等のＬＳＴＭの演算を行う。そして、文面分類部１１は、演算結果のベクトルｈchar
LSTMを文字ＬＳＴＭ２６から出力し、ベクトルｈchar
LSTM及び後述するベクトルｈword
LSTMを結合して中間層用ＦＦＮＮ２８へ伝搬させる。尚、ＬＳＴＭの演算は既知であるから、ここでは説明を省略する。
【0135】
図１１を参照して、図１６及び図１７の例において、文面分類部１１は、文字入力層用ＦＦＮＮ２４から２００行×１５０列のベクトル系列｛ｈchar
in｝を文字ＬＳＴＭ２６に入力し、ＬＳＴＭの演算を行う。この場合の文字ＬＳＴＭ２６における入力層のノード数は、２００である。
【0136】
そして、文面分類部１１は、ＬＳＴＭの演算結果として２００行×１列のベクトルｈchar
LSTMを生成し、これを文字ＬＳＴＭ２６から出力し、中間層用ＦＦＮＮ２８へ伝搬させる。この場合の文字ＬＳＴＭ２６における出力層のノード数は、２００である。
【0137】
図１０に戻って、文面分類部１１は、系列生成部１０により生成された単語one-hotベクトル系列｛ｘword｝を単語入力層用ＦＦＮＮ２５に入力し、単語one-hotベクトル系列｛ｘword｝の各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトル系列｛ｈword
in｝を単語入力層用ＦＦＮＮ２５から出力し、単語ＬＳＴＭ２７へ伝搬させる。
【0138】
図１８は、単語one-hotベクトル系列｛ｘword｝の例を示す図である。単語系列が図１６に示した「新宿駅西口，付近，で，火事，１１月１５日」である場合、系列生成部１０により、図１８に示す７２０００行×１５０列の単語one-hotベクトル系列｛ｘword｝が生成される。この単語one-hotベクトル系列｛ｘword｝の列数１５０は、投稿の文字数の最大値１５０に相当する。行数７２０００は、実施例１，２に用いる単語の種類の最大値に相当し、学習モデルの設計者により、学習データとして出現する単語の頻度等を考慮して予め設定される。
【0139】
単語one-hotベクトル系列｛ｘword｝の列データは、単語系列を構成する各単語「新宿駅西口」「付近」・・・「１１月１５日」に対応しており、７２０００の行位置のうち当該単語に対応する１つの行位置に「１」が設定され、その他は「０」が設定される。単語系列が１５０文字に満たない場合、残りの列データにはヌルデータである「０」が設定される。
【0140】
図１１を参照して、図１６及び図１８の例において、文面分類部１１は、ニュース性投稿情報が「新宿駅西口付近で火事１１月１５日」である場合、７２０００行×１５０列の単語one-hotベクトル系列｛ｘword｝を単語入力層用ＦＦＮＮ２５に入力し、ＦＦＮＮの演算を行う。この場合の単語入力層用ＦＦＮＮ２５における入力層のノード数は、７２０００である。
【0141】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１５０列のベクトル系列｛ｈword
in｝を生成し、これを単語入力層用ＦＦＮＮ２５から出力し、単語ＬＳＴＭ２７へ伝搬させる。この場合の単語入力層用ＦＦＮＮ２５における出力層のノード数は、２００である。
【0142】
図１０に戻って、文面分類部１１は、単語入力層用ＦＦＮＮ２５から演算結果のベクトル系列｛ｈword
in｝を単語ＬＳＴＭ２７に入力し、ベクトル系列｛ｈword
in｝の各要素の値に対し、機械学習された重み係数を付加する等のＬＳＴＭの演算を行う。そして、文面分類部１１は、演算結果のベクトルｈword
LSTMを単語ＬＳＴＭ２７から出力し、ベクトルｈchar
LSTM及びベクトルｈword
LSTMを結合して中間層用ＦＦＮＮ２８へ伝搬させる。
【0143】
図１１を参照して、図１６及び図１８の例において、文面分類部１１は、単語入力層用ＦＦＮＮ２５から２００行×１５０列のベクトル系列｛ｈword
in｝を単語ＬＳＴＭ２７に入力し、ＬＳＴＭの演算を行う。この場合の単語ＬＳＴＭ２７における入力層のノード数は、２００である。
【0144】
そして、文面分類部１１は、ＬＳＴＭの演算結果として２００行×１列のベクトルｈword
LSTMを生成し、これを単語ＬＳＴＭ２７から出力し、中間層用ＦＦＮＮ２８へ伝搬させる。この場合の単語ＬＳＴＭ２７における出力層のノード数は、２００である。
【0145】
図１０に戻って、文面分類部１１は、文字ＬＳＴＭ２６からのベクトルｈchar
LSTMと単語ＬＳＴＭ２７からのベクトルｈword
LSTMとが結合したベクトルｈLSTMを中間層用ＦＦＮＮ２８に入力し、ベクトルｈchar
LSTM及びベクトルｈword
LSTMの各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルｈintを中間層用ＦＦＮＮ２８から出力し、出力層用ＦＦＮＮ２９へ伝搬させる。
【0146】
図１１を参照して、図１６～図１８の例において、文面分類部１１は、文字ＬＳＴＭ２６からの２００行×１列のベクトルｈchar
LSTMと単語ＬＳＴＭ２７からの２００行×１列のベクトルｈword
LSTMとを結合させたベクトルｈLSTMを中間層用ＦＦＮＮ２８に入力し、ＦＦＮＮの演算を行う。この場合の中間層用ＦＦＮＮ２８における入力層のノード数は、４００である。
【0147】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１列のベクトルｈintを生成し、これを中間層用ＦＦＮＮ２８から出力し、出力層用ＦＦＮＮ２９へ伝搬させる。この場合の中間層用ＦＦＮＮ２８における出力層のノード数は、２００である。
【0148】
図１０に戻って、文面分類部１１は、中間層用ＦＦＮＮ２８からベクトルｈintを出力層用ＦＦＮＮ２９に入力し、ベクトルｈintの各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルｈoutに対し、softmax関数を用いて確率値を演算し、確率値に対し、argmax関数を用いて二値情報を演算し、これを既出・非既出情報として出力する。
【0149】
図１１を参照して、図１６～図１８の例において、文面分類部１１は、中間層用ＦＦＮＮ２８から２００行×１列のベクトルｈintを出力層用ＦＦＮＮ２９に入力し、ＦＦＮＮの演算を行う。この場合の出力層用ＦＦＮＮ２９における入力層のノード数は、２００である。
【0150】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２行×１列のベクトルｈoutを生成し、ベクトルｈoutに対して関数処理を行い、既出・非既出情報を出力する。この場合の出力層用ＦＦＮＮ２９における出力層のノード数は、２である。
【0151】
尚、図１０及び図１１に示したＦＦＮＮ及びＬＳＴＭを用いた具体例１の学習モデルにおいて、文字ＬＳＴＭ２６及び単語ＬＳＴＭ２７のそれぞれにアテンションメカニズムを追加するようにしてもよい。文字ＬＳＴＭ２６にアテンションメカニズムを追加することにより、ニュース性投稿情報の文字系列全体に影響を及ぼしている文字に対して高い重み係数が与えられ、さほどの影響を及ぼしていない文字に対して低い重み係数が与えられる。また、単語ＬＳＴＭ２７にアテンションメカニズムを追加することにより、ニュース性投稿情報の単語系列全体に影響を及ぼしている単語に対して高い重み係数が与えられ、さほどの影響を及ぼしていない単語に対して低い重み係数が与えられる。
【0152】
アテンションメカニズムは既知であり、詳細については以下の文献を参照されたい。
宮崎他、“ニュース制作に役立つｔｗｅｅｔの自動抽出手法”、言語処理学会、第２３回年次大会、発表論文集（２０１７年３月）、P.418-421
宮崎他、“ニュース制作に役立つｔｗｅｅｔの自動抽出手法”、言語処理学会、第２３回年次大会、発表論文集（２０１７年３月）、P.418-421
【0153】
また、図１０及び図１１に示したＦＦＮＮ及びＬＳＴＭを用いた具体例１の学習モデルにおいて、ＬＳＴＭの代わりに、ＧＲＵ（Gated Recurrent Unit：ゲート付きリカレント（再帰型）ユニット）等の他のＲＮＮ（Recurrent Neural Network：リカレント（再帰型）ニューラルネットワーク）を用いるようにしてもよい。具体的には、文字ＬＳＴＭ２６及び単語ＬＳＴＭ２７の代わりに、それぞれ文字ＲＮＮ及び単語ＲＮＮが用いられる。つまり、本発明は、ＦＦＮＮ及びＲＮＮを用いた学習モデルに適用がある。
【0154】
（具体例２）
次に、具体例２の学習モデルについて説明する。図１２は、ＦＦＮＮ及びＣＮＮを用いた学習モデル（具体例２）の概略構造を説明する図であり、図１３は、具体例２におけるノード数及び入出力データを説明する図である。
次に、具体例２の学習モデルについて説明する。図１２は、ＦＦＮＮ及びＣＮＮを用いた学習モデル（具体例２）の概略構造を説明する図であり、図１３は、具体例２におけるノード数及び入出力データを説明する図である。
【0155】
この学習モデルは、文字入力層用ＦＦＮＮ３０、単語入力層用ＦＦＮＮ３１、文字ＣＮＮ３２、単語ＣＮＮ３３、プーリング４０，４１（文字プーリング層４０、単語プーリング層４１）、中間層用ＦＦＮＮ３４及び出力層用ＦＦＮＮ３５を備えて構成される。また、この学習モデルは、文字入力層用ＦＦＮＮ３０の出力データが文字ＣＮＮ３２に入力されるように、文字入力層用ＦＦＮＮ３０と文字ＣＮＮ３２とが結合し、文字ＣＮＮ３２の出力データがプーリング４０の層に入力されるように、文字ＣＮＮ３２とプーリング４０とが結合し、単語入力層用ＦＦＮＮ３１の出力データが単語ＣＮＮ３３に入力されるように、単語入力層用ＦＦＮＮ３１と単語ＣＮＮ３３とが結合し、単語ＣＮＮ３３の出力データがプーリング４１の層に入力されるように、単語ＣＮＮ３３とプーリング４１とが結合し、プーリング４０の出力データ及びプーリング４１の出力データが中間層用ＦＦＮＮ３４に入力されるように、プーリング４０，４１と中間層用ＦＦＮＮ３４とが結合し、中間層用ＦＦＮＮ３４の出力データが出力層用ＦＦＮＮ３５に入力されるように、中間層用ＦＦＮＮ３４と出力層用ＦＦＮＮ３５とが結合して構成される。尚、文字ＣＮＮ３２及びプーリング４０では演算が繰り返し行われ、単語ＣＮＮ３３及びプーリング４１でも演算が繰り返し行われる。
【0156】
この学習モデルは、文字one-hotベクトル系列｛ｘchar｝及び単語one-hotベクトル系列｛ｘword｝のそれぞれを入力データとし、中間層にて両者を結合し、二値の既出・非既出情報を出力データとするニューラルネットワークである。また、この学習モデルは、図８に示した学習装置２により機械学習された文字入力層用ＦＦＮＮ３０～出力層用ＦＦＮＮ３５及びプーリング４０，４１の各層の重み係数を保持している。
【0157】
文面分類部１１は、学習モデル記憶部１２に記憶された図１２に示す学習モデルを読み出す。文面分類部１１は、系列生成部１０により生成された文字one-hotベクトル系列｛ｘchar｝を文字入力層用ＦＦＮＮ３０に入力し、文字one-hotベクトル系列｛ｘchar｝の各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトル系列｛ｈchar
in｝を文字入力層用ＦＦＮＮ３０から出力し、文字ＣＮＮ３２へ伝搬させる。
【0158】
図１３を参照して、図１６及び図１７の例において、文面分類部１１は、図１１の具体例１と同様に、６３００行×１５０列の文字one-hotベクトル系列｛ｘchar｝を文字入力層用ＦＦＮＮ３０に入力し、ＦＦＮＮの演算を行う。この場合の文字入力層用ＦＦＮＮ３０における入力層のノード数は、６３００である。
【0159】
そして、文面分類部１１は、図１１の具体例１と同様に、ＦＦＮＮの演算結果として２００行×１５０列のベクトル系列｛ｈchar
in｝を生成し、これを文字入力層用ＦＦＮＮ３０から出力し、文字ＣＮＮ３２へ伝搬させる。この場合の文字入力層用ＦＦＮＮ３０における出力層のノード数は、２００である。
【0160】
図１２に戻って、文面分類部１１は、文字入力層用ＦＦＮＮ３０から演算結果のベクトル系列｛ｈchar
in｝を文字ＣＮＮ３２に入力し、ベクトル系列｛ｈchar
in｝の各要素の値に対し、機械学習された重み係数を付加する等のＣＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルを文字ＣＮＮ３２から出力し、プーリング４０へ伝搬させる。文面分類部１１は、文字ＣＮＮ３２から演算結果のベクトルをプーリング４０の層に入力し、ベクトルの各要素の値に対し、機械学習された重み係数を付加する等のプーリングの演算を行う。この場合、文面分類部１１は、文字ＣＮＮ３２及びプーリング４０の演算を所定回数繰り返し行い、演算結果のベクトルｈchar
CNNをプーリング４０から出力し、ベクトルｈchar
CNN及び後述するベクトルｈword
CNNを結合して中間層用ＦＦＮＮ３４へ伝搬させる。
【0161】
ここで、ＣＮＮの演算とは畳み込みの演算をいい、当該演算により、入力したベクトル系列｛ｈchar
in｝の局所的な特徴が抽出される。また、プーリングの処理とは、ＣＮＮの演算結果をまとめ上げる処理をいい、ベクトル系列｛ｈchar
in｝の局所的な特徴を維持しながら縮小が行われる。尚、ＣＮＮ及びプーリングの演算の詳細は既知であるから、ここでは説明を省略する。
【0162】
図１３を参照して、図１６及び図１７の例において、文面分類部１１は、文字入力層用ＦＦＮＮ３０から２００行×１５０列のベクトル系列｛ｈchar
in｝を文字ＣＮＮ３２に入力し、ＣＮＮの演算を行い、演算結果のベクトルをプーリング４０の層に入力し、プーリングの演算を行い、ＣＮＮ及びプーリングの演算を繰り返す。この場合の文字ＣＮＮ３２における入力層のノード数は、２００である。
【0163】
そして、文面分類部１１は、ＣＮＮ及びプーリングの演算結果として２００行×１列のベクトルｈchar
CNNを生成し、これをプーリング４０の層から出力し、中間層用ＦＦＮＮ３４へ伝搬させる。この場合のプーリング４０における出力層のノード数は、２００である。
【0164】
図１２に戻って、文面分類部１１は、系列生成部１０により生成された単語one-hotベクトル系列｛ｘword｝を単語入力層用ＦＦＮＮ３１に入力し、単語one-hotベクトル系列｛ｘword｝の各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトル系列｛ｈword
in｝を単語入力層用ＦＦＮＮ３１から出力し、単語ＣＮＮ３３へ伝搬させる。
【0165】
図１３を参照して、図１６及び図１８の例において、文面分類部１１は、図１１の具体例１と同様に、７２０００行×１５０列の単語one-hotベクトル系列｛ｘword｝を単語入力層用ＦＦＮＮ３１に入力し、ＦＦＮＮの演算を行う。この場合の単語入力層用ＦＦＮＮ３１における入力層のノード数は、７２０００である。
【0166】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１５０列のベクトル系列｛ｈword
in｝を生成し、これを単語入力層用ＦＦＮＮ３１から出力し、単語ＣＮＮ３３へ伝搬させる。この場合の単語入力層用ＦＦＮＮ３１における出力層のノード数は、２００である。
【0167】
図１２に戻って、文面分類部１１は、単語入力層用ＦＦＮＮ３１から演算結果のベクトル系列｛ｈword
in｝を単語ＣＮＮ３３に入力し、ベクトル系列｛ｈword
in｝の各要素の値に対し、機械学習された重み係数を付加する等のＣＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルを単語ＣＮＮ３３から出力し、プーリング４１へ伝搬させる。文面分類部１１は、単語ＣＮＮ３３から演算結果のベクトルをプーリング４１の層に入力し、ベクトルの各要素の値に対し、機械学習された重み係数を付加する等のプーリングの演算を行う。この場合、文面分類部１１は、単語ＣＮＮ３３及びプーリング４１の演算を所定回数繰り返し行い、演算結果のベクトルｈword
CNNをプーリング４１から出力し、ベクトルｈchar
CNN及びベクトルｈword
CNNを結合して中間層用ＦＦＮＮ３４へ伝搬させる。
【0168】
図１３を参照して、図１６及び図１８の例において、文面分類部１１は、単語入力層用ＦＦＮＮ３１から２００行×１５０列のベクトル系列｛ｈword
in｝を単語ＣＮＮ３３に入力し、ＣＮＮの演算を行い、演算結果のベクトルをプーリング４１の層に入力し、プーリングの演算を行い、ＣＮＮ及びプーリングの演算を繰り返す。この場合の単語ＣＮＮ３３における入力層のノード数は、２００である。
【0169】
そして、文面分類部１１は、ＣＮＮ及びプーリングの演算結果として２００行×１列のベクトルｈword
CNNを生成し、これをプーリング４１の層から出力し、中間層用ＦＦＮＮ３４へ伝搬させる。この場合のプーリング４１における出力層のノード数は、２００である。
【0170】
図１２に戻って、文面分類部１１は、プーリング４０からのベクトルｈchar
CNNとプーリング４１からのベクトルｈword
CNNとが結合したベクトルｈCNNを中間層用ＦＦＮＮ３４に入力する。文面分類部１１は、図１０に示した中間層用ＦＦＮＮ２８及び出力層用ＦＦＮＮ２９と同様の処理を行い、既出・非既出情報を出力する。
【0171】
尚、中間層用ＦＦＮＮ３４及び出力層用ＦＦＮＮ３５については、図１０に示した中間層用ＦＦＮＮ２８及び出力層用ＦＦＮＮ２９とそれぞれ同じであり、ノード数、ベクトルサイズ及び演算も同様であるから、これらの説明は省略する。
【0172】
（具体例３）
次に、具体例３の学習モデルについて説明する。図１４は、ＦＦＮＮを用いた学習モデル（具体例３）の概略構造を説明する図であり、図１５は、具体例３におけるノード数及び入出力データを説明する図である。
次に、具体例３の学習モデルについて説明する。図１４は、ＦＦＮＮを用いた学習モデル（具体例３）の概略構造を説明する図であり、図１５は、具体例３におけるノード数及び入出力データを説明する図である。
【0173】
この学習モデルは、文字入力層用ＦＦＮＮ３６、単語入力層用ＦＦＮＮ３７、中間層用ＦＦＮＮ３８及び出力層用ＦＦＮＮ３９を備えて構成される。また、この学習モデルは、文字入力層用ＦＦＮＮ３６の出力データ及び単語入力層用ＦＦＮＮ３７の出力データが中間層用ＦＦＮＮ３８に入力されるように、文字入力層用ＦＦＮＮ３６及び単語入力層用ＦＦＮＮ３７と中間層用ＦＦＮＮ３８とが結合し、中間層用ＦＦＮＮ３８の出力データが出力層用ＦＦＮＮ３９に入力されるように、中間層用ＦＦＮＮ３８と出力層用ＦＦＮＮ３９とが結合して構成される。
【0174】
この学習モデルは、文字BOWベクトルｘchar及び単語BOWベクトルｘwordのそれぞれを入力データとし、中間層にて両者を結合し、二値の既出・非既出情報を出力データとするニューラルネットワークである。また、この学習モデルは、図８に示した学習装置２により機械学習された文字入力層用ＦＦＮＮ３６～出力層用ＦＦＮＮ３９の重み係数を保持している。
【0175】
文面分類部１１は、学習モデル記憶部１２に記憶された図１４に示す学習モデルを読み出す。文面分類部１１は、系列生成部１０により生成された文字BOWベクトルｘcharを文字入力層用ＦＦＮＮ３６に入力し、文字BOWベクトルｘcharの各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトルｈchar
inを文字入力層用ＦＦＮＮ３６から出力し、中間層用ＦＦＮＮ３８へ伝搬させる。
【0176】
図１９は、文字BOWベクトルｘcharの例を示す図である。文字系列が図１６に示した「新，宿，駅，西，口，付，近，で，火，事，１，１，月，１，５，日」である場合、系列生成部１０により、図１９に示す６３００行×１列の文字BOWベクトルｘcharが生成される。この文字BOWベクトルｘcharの行数６３００は、あらゆる文字系列に表れる文字の最大数に相当する。
【0177】
６３００の行位置のうち、文字系列を構成する各文字「新」「宿」・・・「日」に対応する行位置に「１」が設定され、その他の行位置に「０」が設定される。つまり、６３００の行位置のうち、各文字に対応する行位置に「１」が設定される。
【0178】
図１５を参照して、図１６及び図１９の例において、文面分類部１１は、６３００行×１列の文字BOWベクトルｘcharを文字入力層用ＦＦＮＮ３６に入力し、ＦＦＮＮの演算を行う。この場合の文字入力層用ＦＦＮＮ３６における入力層のノード数は、６３００である。
【0179】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１列のベクトルｈchar
inを生成し、これを文字入力層用ＦＦＮＮ３６から出力し、ベクトルｈchar
inと後述するベクトルｈword
inとを結合して中間層用ＦＦＮＮ３８へ伝搬させる。この場合の文字入力層用ＦＦＮＮ３６における出力層のノード数は、２００である。
【0180】
図１４に戻って、文面分類部１１は、系列生成部１０により生成された単語BOWベクトルｘwordを単語入力層用ＦＦＮＮ３７に入力し、単語BOWベクトルｘwordの各要素の値に対し、機械学習された重み係数を付加する等のＦＦＮＮの演算を行う。そして、文面分類部１１は、演算結果のベクトル系列ｈword
inを単語入力層用ＦＦＮＮ３７から出力し、中間層用ＦＦＮＮ３８へ伝搬させる。
【0181】
図２０は、単語BOWベクトルｘwordの例を示す図である。単語系列が図１６に示した「新宿駅西口，付近，で，火事，１１月１５日」である場合、系列生成部１０により、図２０に示す７２０００行×１列の単語BOWベクトルｘwordが生成される。この単語BOWベクトルｘwordの行数７２０００は、あらゆる単語系列に表れる単語の最大数に相当する。
【0182】
７２０００の行位置のうち、単語系列を構成する各単語「新宿駅西口」「付近」・・・「１１月１５日」に対応する行位置に「１」が設定され、その他の行位置に「０」が設定される。つまり、７２０００の行位置のうち、各単語に対応する行位置に「１」が設定される。
【0183】
図１５を参照して、図１６及び図２０の例において、文面分類部１１は、ニュース性投稿情報が「新宿駅西口付近で火事１１月１５日」である場合、７２０００行×１列の単語BOWベクトルｘwordを単語入力層用ＦＦＮＮ３７に入力し、ＦＦＮＮの演算を行う。この場合の単語入力層用ＦＦＮＮ３７における入力層のノード数は、７２０００である。
【0184】
そして、文面分類部１１は、ＦＦＮＮの演算結果として２００行×１列のベクトルｈword
inを生成し、これを単語入力層用ＦＦＮＮ３７から出力し、中間層用ＦＦＮＮ３８へ伝搬させる。この場合の単語入力層用ＦＦＮＮ３７における出力層のノード数は、２００である。
【0185】
図１４に戻って、文面分類部１１は、文字入力層用ＦＦＮＮ３６からのベクトルｈchar
inと単語入力層用ＦＦＮＮ３７からのベクトルｈword
inとが結合したベクトルｈinを中間層用ＦＦＮＮ３８に入力する。文面分類部１１は、図１０に示した中間層用ＦＦＮＮ２８及び出力層用ＦＦＮＮ２９と同様の処理を行い、既出・非既出情報を出力する。
【0186】
尚、中間層用ＦＦＮＮ３８及び出力層用ＦＦＮＮ３９については、図１０に示した中間層用ＦＦＮＮ２８及び出力層用ＦＦＮＮ２９とそれぞれ同じであり、ノード数、ベクトルサイズ及び演算も同様であるから、これらの説明は省略する。
【0187】
〔実験結果〕
次に、コンピュータを用いたシミュレーションによる実験結果について説明する。図２１は、実験結果を説明する図である。（１）は、キーワードフィルタリングの手法を用いた従来技術の実験結果を示し、（２）は、文字のみを入力データとしたＮＮを用いた従来技術の実験結果を示し、（３）は、単語のみを入力データとしたＮＮを用いた従来技術の実験結果を示す。また、（４）は、文字及び単語を入力データとしたＮＮを用いた実施例１の実験結果を示す。
次に、コンピュータを用いたシミュレーションによる実験結果について説明する。図２１は、実験結果を説明する図である。（１）は、キーワードフィルタリングの手法を用いた従来技術の実験結果を示し、（２）は、文字のみを入力データとしたＮＮを用いた従来技術の実験結果を示し、（３）は、単語のみを入力データとしたＮＮを用いた従来技術の実験結果を示す。また、（４）は、文字及び単語を入力データとしたＮＮを用いた実施例１の実験結果を示す。
【0188】
（２）（３）（４）おいては、ＬＳＴＭ、ＣＮＮ及びＦＦＮＮの学習モデルを用いた場合の実験結果をそれぞれ示す。また、（４）において、ＬＳＴＭは、図１０及び図１１に示した具体例１の学習モデルであり、ＣＮＮは、図１２及び図１３に示した具体例２の学習モデルであり、ＦＦＮＮは、図１４及び図１５に示した具体例３の学習モデルである。
【0189】
適合率（Precision）は、既出・非既出情報である判定結果が、実際の正解データとどの程度一致しているかを表す、正確性に関する指標である。また、再現率（Recall）は、判定結果が、実際の正解データをどのくらい網羅しているかを表す、網羅性に関する指標である。さらに、Ｆ値は、適合率及び再現率を調和平均した値である。
【0190】
それぞれの学習モデルを機械学習するための学習データとして、所定期間の４４６７０個のニュース性投稿情報を用いた。このうち既出情報の数は９３００であり、非既出情報の数は３５３７０である。そして、図２１に示す実験結果を得るためのテストデータとして、所定期間のニュース性投稿情報からランダムサンプルした１００００個のニュース性投稿情報を用いた。このうち既出情報の数は２０２８であり、非既出情報の数は７９７２である。
【0191】
図２１の実験結果によれば、（１）のＦ値は５０．０％であり、（２）のＬＳＴＭ、ＣＮＮ及びＦＦＮＮのＦ値はそれぞれ８７．３％，８６．１％，８５．０％であり、（３）のＬＳＴＭ、ＣＮＮ及びＦＦＮＮのＦ値はそれぞれ８６．２％，８５．４％，８４．０％である。また、（４）のＬＳＴＭ、ＣＮＮ及びＦＦＮＮのＦ値はそれぞれ８８．１％，８８．４％，８５．９％である。これにより、（１）の従来技術よりも、（２）～（４）の学習モデルを用いた方が、結果が良くなっていることがわかる。
【0192】
また、（２）の文字のみの学習モデルを用いた場合、または（３）の単語のみの学習モデルを用いた場合よりも、（４）の実施例１の学習モデルを用いた方が、ＬＳＴＭ、ＣＮＮ及びＦＦＮＮの学習モデルのそれぞれにおいて、結果が良くなっていることがわかる。
【0193】
以上、実施例１，２及び具体例１，２，３を挙げて本発明を説明したが、本発明は前記実施例１，２及び具体例１，２，３に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。
【0194】
例えば前記実施例１，２及び具体例１，２，３において、ニュース素材分類装置１－１，１－２は、学習モデルを用いて、ニュース性投稿情報を、第一報の非既出情報とその他の既出情報とに分類するようにした。本発明は、これに限定されるものではなく、利用者の要求に応じた他の分類にも適用がある。例えば、ニュース素材分類装置１－１，１－２は、ニュース性投稿情報について、その投稿者が男性であるか、または女性であるかを示す情報に分類するようにしてもよく、方言を含むか否かを示す情報に分類するようにしてもよい。この場合、学習装置２は、既出・非既出情報の代わりに、男性または女性を示す情報、方言を含むか否かを示す情報等の分類情報を用いて、学習モデルを機械学習する。
【0195】
尚、本発明の実施例１によるニュース素材分類装置１－１、実施例２によるニュース素材分類装置１－２、及び学習装置２のハードウェア構成としては、通常のコンピュータを使用することができる。ニュース素材分類装置１－１，１－２及び学習装置２は、ＣＰＵ（またはＧＰＵ）、ＲＡＭ等の揮発性の記憶媒体、ＲＯＭ等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。
【0196】
ニュース素材分類装置１－１に備えた系列生成部１０、文面分類部１１及び学習モデル記憶部１２の各機能は、これらの機能を記述したプログラムをＣＰＵに実行させることによりそれぞれ実現される。また、ニュース素材分類装置１－２に備えた系列生成部１０、文面分類部１１、学習モデル記憶部１２、エージェント分類部１３及び判定部１４の各機能も、これらの機能を記述したプログラムをＣＰＵに実行させることによりそれぞれ実現される。さらに、学習装置２に備えた系列生成部１０、学習部２０及び学習モデル記憶部１２の各機能も、これらの機能を記述したプログラムをＣＰＵに実行させることによりそれぞれ実現される。
【0197】
これらのプログラムは、前記記憶媒体に格納されており、ＣＰＵに読み出されて実行される。また、これらのプログラムは、磁気ディスク（フロッピー（登録商標）ディスク、ハードディスク等）、光ディスク（ＣＤ－ＲＯＭ、ＤＶＤ等）、半導体メモリ等の記憶媒体に格納して頒布することもでき、ネットワークを介して送受信することもできる。
【0198】
また、図９～図１５に示した学習モデルは、機械学習された学習済みモデルであり、コンピュータを、多数のソーシャルメディア情報から抽出されたニュース性投稿情報を既出または非既出を示す既出・非既出情報に分類し既出・非既出情報を出力するように機能させるためのものである。また、その構成は、各図に示したとおりである。
【0199】
これらの学習モデルは、人口知能ソフトウェアの一部であるプログラムモジュールとして利用され、ＣＰＵ及びメモリを備えるコンピュータにて用いられる。具体的には、例えば図９に示した学習モデルの場合、コンピュータのＣＰＵは、メモリに記憶された学習モデルからの指令に従って、文字ベクトルを文字ＮＮ２１に入力し、文字ＮＮ２１の入力層に入力された文字ベクトルに対し、機械学習された重み係数に基づくＮＮの演算を行い、出力層から演算結果のベクトルを出力ＮＮ２３に出力するように動作する。また、コンピュータのＣＰＵは、単語ベクトルを単語ＮＮ２２に入力し、単語ＮＮ２２の入力層に入力された単語ベクトルに対し、機械学習された重み係数に基づくＮＮの演算を行い、出力層から演算結果のベクトルを出力ＮＮ２３に出力するように動作する。そして、コンピュータのＣＰＵは、出力ＮＮ２３の入力層に入力された、文字ＮＮ２１の出力層から出力された演算結果のベクトルと単語ＮＮ２２の出力層から出力された演算結果のベクトルとが結合されたベクトルに対し、機械学習された重み係数に基づくＮＮの演算を行い、出力層から演算結果の既出・非既出情報を出力するように動作する。図１０～図１５に示した学習モデルについても、同様に動作する。
【符号の説明】
【0200】
１ ニュース素材分類装置
２ 学習装置
１０ 系列生成部
１１ 文面分類部
１２ 学習モデル記憶部
１３ エージェント分類部
１４ 判定部
２０ 学習部
２１ 文字ＮＮ（ニューラルネットワーク）
２２ 単語ＮＮ
２３ 出力ＮＮ
２４，３０，３６ 文字入力層用ＦＦＮＮ（順伝播型ニューラルネットワーク）
２５，３１，３７ 単語入力層用ＦＦＮＮ
２６ 文字ＬＳＴＭ（長短期記憶ユニット）
２７ 単語ＬＳＴＭ
２８，３４，３８ 中間層用ＦＦＮＮ
２９，３５，３９ 出力層用ＦＦＮＮ
３２ 文字ＣＮＮ（畳み込みニューラルネットワーク）
３３ 単語ＣＮＮ
４０，４１ プーリング
１００ ニュース素材抽出装置
ａ，ｂ 既出・非既出情報
｛ｘchar｝ 文字one-hotベクトル系列
｛ｘword｝ 単語one-hotベクトル系列
ｘchar 文字BOWベクトル
ｘword 単語BOWベクトル
２ 学習装置
１０ 系列生成部
１１ 文面分類部
１２ 学習モデル記憶部
１３ エージェント分類部
１４ 判定部
２０ 学習部
２１ 文字ＮＮ（ニューラルネットワーク）
２２ 単語ＮＮ
２３ 出力ＮＮ
２４，３０，３６ 文字入力層用ＦＦＮＮ（順伝播型ニューラルネットワーク）
２５，３１，３７ 単語入力層用ＦＦＮＮ
２６ 文字ＬＳＴＭ（長短期記憶ユニット）
２７ 単語ＬＳＴＭ
２８，３４，３８ 中間層用ＦＦＮＮ
２９，３５，３９ 出力層用ＦＦＮＮ
３２ 文字ＣＮＮ（畳み込みニューラルネットワーク）
３３ 単語ＣＮＮ
４０，４１ プーリング
１００ ニュース素材抽出装置
ａ，ｂ 既出・非既出情報
｛ｘchar｝ 文字one-hotベクトル系列
｛ｘword｝ 単語one-hotベクトル系列
ｘchar 文字BOWベクトル
ｘword 単語BOWベクトル
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】