(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-06-20
(45)【発行日】2022-06-28
(54)【発明の名称】情報処理装置及びプログラム
(51)【国際特許分類】
H04L 51/02 20220101AFI20220621BHJP
H04M 11/00 20060101ALI20220621BHJP
H04Q 9/00 20060101ALI20220621BHJP
【FI】
H04L51/02
H04M11/00 301
H04Q9/00 301Z
(21)【出願番号】P 2018110028
(22)【出願日】2018-06-08
【審査請求日】2021-05-24
(73)【特許権者】
【識別番号】000005496
【氏名又は名称】富士フイルムビジネスイノベーション株式会社
(74)【代理人】
【識別番号】110001210
【氏名又は名称】特許業務法人YKI国際特許事務所
(72)【発明者】
【氏名】得地 賢吾
【審査官】佐々木 洋
(56)【参考文献】
【文献】特開2017-120627(JP,A)
【文献】特開2015-026092(JP,A)
【文献】特開2015-108867(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04L 51/02
H04M 11/00
H04Q 9/00
(57)【特許請求の範囲】
【請求項1】
会話型のユーザインターフェースにおいて、ユーザが複数の会話相手に対して指示を与えた場合、前記指示の対応結果の通知を制御する制御手段を有
し、
前記複数の会話相手は、前記指示に含まれる処理を実行するための第1機器に紐付けられて前記ユーザの発言に対して発言する第1会話相手と、前記処理を実行するための第2機器に紐付けられて前記ユーザの発言に対して発言する第2会話相手とを含み、
前記制御手段は、更に、互いの相性に基づいて定められた機器の組み合わせの候補の一覧を前記ユーザインターフェースに表示させ、
前記第1機器と前記第2機器は、前記一覧の中から前記ユーザによって選択された機器の組み合わせであり、
前記第1会話相手は、前記ユーザの発言に対して自動で発言する第1チャットボットであり、
前記第2会話相手は、前記ユーザの発言に対して自動で発言する第2チャットボットである、
ことを特徴とする情報処理装置。
【請求項2】
前記第1会話相手に紐付けられた第1画像と、前記第2会話相手に紐付けられた第2画像が、前記ユーザインターフェースに表示されている状態で、前記ユーザによって前記指示が与えられた場合、前記制御手段は、前記対応結果の通知を制御する、
ことを特徴とする請求項
1に記載の情報処理装置。
【請求項3】
前記指示は、前記第1機器と前記第2機器が互いに連携して実行可能な1又は複数の処理を含む、
ことを特徴とする
請求項1又は請求項2に記載の情報処理装置。
【請求項4】
前記指示は、1又は複数の処理を含み、
前記第1会話相手と前記第2会話相手は、前記指示に含まれる1又は複数の処理を分けて担当する、
ことを特徴とする
請求項1又は請求項2に記載の情報処理装置。
【請求項5】
前記第1会話相手は、前記指示の中で前記第1機器によって実行可能な処理の実行を制御し、
前記第2会話相手は、前記指示の中で前記第2機器によって実行可能な処理の実行を制御する、
ことを特徴とする請求項
4に記載の情報処理装置。
【請求項6】
前記第1会話相手と前記第2会話相手は、前記指示に含まれる処理の完了に要する時間が短くなるように、前記指示に含まれる1又は複数の処理を分けて担当する、
ことを特徴とする請求項
4又は請求項
5に記載の情報処理装置。
【請求項7】
前記第1会話相手と前記第2会話相手は、前記第1会話相手が担当する処理の数と前記第2会話相手が担当する処理の数との差が小さくなるように、前記指示に含まれる1又は複数の処理を分けて担当する、
ことを特徴とする請求項
4又は請求項
5に記載の情報処理装置。
【請求項8】
前記第1会話相手と前記第2会話相手は、前記第1機器の性能と前記第2機器の性能に応じて、前記指示に含まれる1又は複数の処理を分けて担当する、
ことを特徴とする請求項
4又は請求項
5に記載の情報処理装置。
【請求項9】
前記第1会話相手と前記第2会話相手は、前記第1機器によって得られる処理結果の質と前記第2機器によって得られる処理結果の質に応じて、前記指示に含まれる1又は複数の処理を分けて担当する、
ことを特徴とする請求項
4又は請求項
5に記載の情報処理装置。
【請求項10】
前記制御手段は、更に、前記第1会話相手が担当した処理の第1完了予測時間の通知と、前記第2会話相手が担当した処理の第2完了予測時間の通知を制御する、
ことを特徴とする請求項
4から請求項
9何れかに記載の情報処理装置。
【請求項11】
前記制御手段は、前記第1完了予測時間と前記第2完了予測時間とを別々に通知する、
ことを特徴とする請求項
10に記載の情報処理装置。
【請求項12】
前記第1完了予測時間と前記第2完了予測時間との差分が閾値以下である場合、前記制御手段は、前記第1完了予測時間と前記第2完了予測時間とを同一メッセージとして通知する、
ことを特徴とする請求項
10に記載の情報処理装置。
【請求項13】
前記制御手段は、更に、前記第1会話相手が担当した処理の完了の通知と、前記第2会話相手が担当した処理の完了の通知を制御する、
ことを特徴とする請求項
4から請求項
12何れかに記載の情報処理装置。
【請求項14】
前記第1会話相手が担当した処理の完了と、前記第2会話相手が担当した処理の完了が通知された後、予め定められた時間以内に前記ユーザによる確認作業が行われなかった場合、前記制御手段は、更に、前記ユーザに確認作業を促すための情報の通知を制御する、
ことを特徴とする請求項
13に記載の情報処理装置。
【請求項15】
前記第1機器と前記第2機器は、同一種類の機器、又は、異なる種類の機器である、
ことを特徴とする請求項
1から請求項
14何れかに記載の情報処理装置。
【請求項16】
前記第1機器には、互いに設定の異なる複数の第1会話相手が紐付けられている、
ことを特徴とする請求項
1から請求項
15何れかに記載の情報処理装置。
【請求項17】
前記第1機器と前記第2機器とによって実行できない指示が前記ユーザによって与えられた場合、制御手段は、更に、その旨の通知を制御する、
ことを特徴とする請求項
1から請求項
16何れかに記載の情報処理装置。
【請求項18】
前記制御手段は、更に、前記指示を実行する機能を有する機器の案内を通知する、
ことを特徴とする請求項1から請求項
17何れかに記載の情報処理装置。
【請求項19】
コンピュータを、
会話型のユーザインターフェースにおいて、ユーザが複数の会話相手に対して指示を与えた場合、前記指示の対応結果の通知を制御する制御手段、
として機能させ
、
前記複数の会話相手は、前記指示に含まれる処理を実行するための第1機器に紐付けられて前記ユーザの発言に対して発言する第1会話相手と、前記処理を実行するための第2機器に紐付けられて前記ユーザの発言に対して発言する第2会話相手とを含み、
前記制御手段は、更に、互いの相性に基づいて定められた機器の組み合わせの候補の一覧を前記ユーザインターフェースに表示させ、
前記第1機器と前記第2機器は、前記一覧の中から前記ユーザによって選択された機器の組み合わせであり、
前記第1会話相手は、前記ユーザの発言に対して自動で発言する第1チャットボットであり、
前記第2会話相手は、前記ユーザの発言に対して自動で発言する第2チャットボットである、
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及びプログラムに関する。
【背景技術】
【0002】
特許文献1には、1つ以上のボットとの通信を確立し、当該1つ以上のボットを通じて、ユーザがメディアを消費しようとするデバイスとユーザとが遠隔的に相互作用することを可能にするための方法が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の目的は、複数の会話相手に対して指示を与えるためのユーザインターフェースを提供することにある。
【課題を解決するための手段】
【0005】
請求項1に記載の発明は、会話型のユーザインターフェースにおいて、ユーザが複数の会話相手に対して指示を与えた場合、前記指示の対応結果の通知を制御する制御手段を有し、前記複数の会話相手は、前記指示に含まれる処理を実行するための第1機器に紐付けられて前記ユーザの発言に対して発言する第1会話相手と、前記処理を実行するための第2機器に紐付けられて前記ユーザの発言に対して発言する第2会話相手とを含み、前記制御手段は、更に、互いの相性に基づいて定められた機器の組み合わせの候補の一覧を前記ユーザインターフェースに表示させ、前記第1機器と前記第2機器は、前記一覧の中から前記ユーザによって選択された機器の組み合わせであり、前記第1会話相手は、前記ユーザの発言に対して自動で発言する第1チャットボットであり、前記第2会話相手は、前記ユーザの発言に対して自動で発言する第2チャットボットである、ことを特徴とする情報処理装置である。
【0007】
請求項2に記載の発明は、前記第1会話相手に紐付けられた第1画像と、前記第2会話相手に紐付けられた第2画像が、前記ユーザインターフェースに表示されている状態で、前記ユーザによって前記指示が与えられた場合、前記制御手段は、前記対応結果の通知を制御する、ことを特徴とする請求項1に記載の情報処理装置である。
【0010】
請求項3に記載の発明は、前記指示は、前記第1機器と前記第2機器が互いに連携して実行可能な1又は複数の処理を含む、ことを特徴とする請求項1又は請求項2に記載の情報処理装置である。
【0011】
請求項4に記載の発明は、前記指示は、1又は複数の処理を含み、前記第1会話相手と前記第2会話相手は、前記指示に含まれる1又は複数の処理を分けて担当する、ことを特徴とする請求項1又は請求項2に記載の情報処理装置である。
【0012】
請求項5に記載の発明は、前記第1会話相手は、前記指示の中で前記第1機器によって実行可能な処理の実行を制御し、前記第2会話相手は、前記指示の中で前記第2機器によって実行可能な処理の実行を制御する、ことを特徴とする請求項4に記載の情報処理装置である。
【0013】
請求項6に記載の発明は、前記第1会話相手と前記第2会話相手は、前記指示に含まれる処理の完了に要する時間が短くなるように、前記指示に含まれる1又は複数の処理を分けて担当する、ことを特徴とする請求項4又は請求項5に記載の情報処理装置である。
【0014】
請求項7に記載の発明は、前記第1会話相手と前記第2会話相手は、前記第1会話相手が担当する処理の数と前記第2会話相手が担当する処理の数との差が小さくなるように、前記指示に含まれる1又は複数の処理を分けて担当する、ことを特徴とする請求項4又は請求項5に記載の情報処理装置である。
【0015】
請求項8に記載の発明は、前記第1会話相手と前記第2会話相手は、前記第1機器の性能と前記第2機器の性能に応じて、前記指示に含まれる1又は複数の処理を分けて担当する、ことを特徴とする請求項4又は請求項5に記載の情報処理装置である。
【0016】
請求項9に記載の発明は、前記第1会話相手と前記第2会話相手は、前記第1機器によって得られる処理結果の質と前記第2機器によって得られる処理結果の質に応じて、前記指示に含まれる1又は複数の処理を分けて担当する、ことを特徴とする請求項4又は請求項5に記載の情報処理装置である。
【0017】
請求項10に記載の発明は、前記制御手段は、更に、前記第1会話相手が担当した処理の第1完了予測時間の通知と、前記第2会話相手が担当した処理の第2完了予測時間の通知を制御する、ことを特徴とする請求項4から請求項9何れかに記載の情報処理装置である。
【0018】
請求項11に記載の発明は、前記制御手段は、前記第1完了予測時間と前記第2完了予測時間とを別々に通知する、ことを特徴とする請求項10に記載の情報処理装置である。
【0019】
請求項12に記載の発明は、前記第1完了予測時間と前記第2完了予測時間との差分が閾値以下である場合、前記制御手段は、前記第1完了予測時間と前記第2完了予測時間とを同一メッセージとして通知する、ことを特徴とする請求項10に記載の情報処理装置である。
【0020】
請求項13に記載の発明は、前記制御手段は、更に、前記第1会話相手が担当した処理の完了の通知と、前記第2会話相手が担当した処理の完了の通知を制御する、ことを特徴とする請求項4から請求項12何れかに記載の情報処理装置である。
【0021】
請求項14に記載の発明は、前記第1会話相手が担当した処理の完了と、前記第2会話相手が担当した処理の完了が通知された後、予め定められた時間以内に前記ユーザによる確認作業が行われなかった場合、前記制御手段は、更に、前記ユーザに確認作業を促すための情報の通知を制御する、ことを特徴とする請求項13に記載の情報処理装置である。
【0022】
請求項15に記載の発明は、前記第1機器と前記第2機器は、同一種類の機器、又は、異なる種類の機器である、ことを特徴とする請求項1から請求項14何れかに記載の情報処理装置である。
【0023】
請求項16に記載の発明は、前記第1機器には、互いに設定の異なる複数の第1会話相手が紐付けられている、ことを特徴とする請求項1から請求項15何れかに記載の情報処理装置である。
【0024】
請求項17に記載の発明は、前記第1機器と前記第2機器とによって実行できない指示が前記ユーザによって与えられた場合、制御手段は、更に、その旨の通知を制御する、ことを特徴とする請求項1から請求項16何れかに記載の情報処理装置である。
【0026】
請求項18に記載の発明は、前記制御手段は、更に、前記指示を実行する機能を有する機器の案内を通知する、ことを特徴とする請求項1から請求項17何れかに記載の情報処理装置である。
【0027】
請求項19に記載の発明は、コンピュータを、会話型のユーザインターフェースにおいて、ユーザが複数の会話相手に対して指示を与えた場合、前記指示の対応結果の通知を制御する制御手段、として機能させ、前記複数の会話相手は、前記指示に含まれる処理を実行するための第1機器に紐付けられて前記ユーザの発言に対して発言する第1会話相手と、前記処理を実行するための第2機器に紐付けられて前記ユーザの発言に対して発言する第2会話相手とを含み、前記制御手段は、更に、互いの相性に基づいて定められた機器の組み合わせの候補の一覧を前記ユーザインターフェースに表示させ、前記第1機器と前記第2機器は、前記一覧の中から前記ユーザによって選択された機器の組み合わせであり、前記第1会話相手は、前記ユーザの発言に対して自動で発言する第1チャットボットであり、前記第2会話相手は、前記ユーザの発言に対して自動で発言する第2チャットボットである、ことを特徴とするプログラムである。
【発明の効果】
【0028】
請求項1,18に記載の発明によれば、複数の会話相手に対して指示を与えるためのユーザインターフェースを提供することができる。
【0029】
請求項1,19に記載の発明によれば、機器に紐付く会話相手に対して指示を与えることができる。
【0030】
請求項2に記載の発明によれば、表示されている画像に紐付く会話相手に対して指示を与えることができる。
【0031】
請求項1,19に記載の発明によれば、相性に基づいて機器の組み合わせを選択することができる。
【0032】
請求項3に記載の発明によれば、複数の機器を連携させて実行可能な処理の指示を与えることができる。
【0033】
請求項4,5に記載の発明によれば、複数の処理を分担して実行することができる。
【0034】
請求項6に記載の発明によれば、処理の完了に要する時間を短くすることができる。
【0035】
請求項7に記載の発明によれば、各機器の負荷を軽減することができる。
【0036】
請求項8に記載の発明によれば、各機器の性能に応じて各処理を各機器に割り当てることができる。
【0037】
請求項9に記載の発明によれば、処理結果の質に応じて各処理を各機器に割り当てることができる。
【0038】
請求項10,11,12に記載の発明によれば、完了予測時間を通知することができる。
【0039】
請求項13に記載の発明によれば、処理の完了を通知することができる。
【0040】
請求項14に記載の発明によれば、ユーザに確認作業を促すことができる。
【0041】
請求項15に記載の発明によれば、同一種類又は異なる種類の複数の機器に対して指示を与えることができる。
【0042】
請求項16に記載の発明によれば、互いに設定の異なる複数の第1会話相手に対して指示を与えることができる。
【0043】
請求項17に記載の発明によれば、ユーザによって与えられた指示が機器によって実行できないことを通知することができる。
【0044】
請求項1,19に記載の発明によれば、チャットボットを利用して指示を与えることができる。
【図面の簡単な説明】
【0045】
【
図1】本発明の実施形態に係る情報処理システムの構成を示すブロック図である。
【
図14】変形例に係る相性管理テーブルを示す図である。
【発明を実施するための形態】
【0046】
図1を参照して、本発明の実施形態に係る情報処理システムについて説明する。
図1は、本実施形態に係る情報処理システムの一例を示す。
【0047】
本実施形態に係る情報処理システムは、1又は複数の端末装置と1又は複数の機器を含む。
図1に示す例では、情報処理システムは、端末装置10A~10D及び機器12A~12Mを含む。なお、これらは一例に過ぎず、サーバが情報処理システムに含まれてもよい。以下、各端末装置を区別する必要がない場合には、各端末装置を「端末装置10」と称することとする。同様に、各機器を区別する必要がない場合には、各機器を「機器12」と称することとする。なお、機器12の概念の範疇に端末装置10が含まれてもよい。つまり、端末装置10が機器12として扱われてもよい。
【0048】
端末装置10及び機器12は、他の装置と通信する機能を有する。その通信は、無線通信であってもよいし、有線通信であってもよい。例えば、端末装置10及び機器12は、インターネット又は他のネットワーク等の通信経路を介して他の装置と通信してもよいし、直接的に他の装置と通信してもよいし、ハブとして機能する中継器を介して他の装置と通信してもよいし、いわゆるクラウドやサーバを介して他の装置と通信してもよい。各機器12は、いわゆるIoT(Internet of Things)機器であってもよい。
【0049】
端末装置10は、パーソナルコンピュータ(PC)、タブレットPC、スマートフォン又は携帯電話等の装置であり、他の装置と通信する機能を有する。端末装置10は、ウェアラブル端末(腕時計型端末、リストバンド型端末、眼鏡型端末、指輪型端末、コンタクトレンズ型端末、体内埋め込み型端末又はヒアラブル端末等)であってもよい。また、端末装置10は、表示装置としてフレキシブルディスプレイを有していてもよい。フレキシブルディスプレイとして、例えば、有機エレクトロルミネッセンス型のディスプレイ(フレキシブル有機ELディスプレイ)、電子ペーパー型のディスプレイ又はフレキシブル液晶ディスプレイ等が用いられる。これら以外の表示方式が採用されたフレキシブルディスプレイが用いられてもよい。フレキシブルディスプレイは、表示部分が柔軟に変形可能なディスプレイであり、例えば、曲げたり、折り畳んだり、巻いたり、捩ったり、伸ばしたりすることが可能なディスプレイである。端末装置10全体がフレキシブルディスプレイによって構成されていてもよいし、フレキシブルディスプレイとそれ以外の構成とが機能的又は物理的に分かれていてもよい。
【0050】
機器12は機能を有する装置であり、例えば、画像形成機能(スキャン機能、プリント機能、コピー機能、ファクシミリ機能等)を有する画像形成装置、PC、タブレットPC、スマートフォン、携帯電話、ロボット(人型ロボット、人以外の動物型ロボット、又は、それら以外のロボット等)、プロジェクタ、液晶ディスプレイ等の表示装置、記録装置、再生装置、カメラ等の撮像装置、冷蔵庫、炊飯器、電子レンジ、コーヒーメーカー、掃除機、洗濯機、空調機、照明装置、時計、監視カメラ、自動車、二輪車、航空機(例えば無人航空機(いわゆるドローン))、ゲーム機、又は、各種のセンシング機器(例えば温度センサ、湿度センサ、電圧センサ、電流センサ等)等の装置である。機器12は、ユーザに対して情報を出力する機器(例えば画像形成装置又はPC等)であってもよいし、ユーザに対して情報を出力しない機器(例えばセンシング機器)であってもよい。また、後述する連携機能を実行する複数の機器12の中のすべての機器12が、ユーザに対して情報を出力する機器であってもよいし、一部の機器12がユーザに対して情報を出力する機器であり、他の機器12がユーザに対して情報を出力しない機器であってもよいし、すべての機器12がユーザに対して情報を出力しない機器であってもよい。機器12の概念の範疇には機器全般が含まれてもよい。例えば、情報機器、映像機器、音響機器、及び、その他の機器も、機器12の概念の範疇に含まれてもよい。
【0051】
機器12は、単独機能を実行してもよいし、他の機器12と連携して連携機能を実行してもよい。単独機能は、例えば、1つの機器12を用いて実行可能な機能である。連携機能は、例えば、複数の機器12を用いて実行可能な機能である。単独機能及び連携機能では、例えば、機器12が有するハードウェア又はソフトウェアが用いられる。なお、機器12は、他の機器12と連携していない場合、独立してユーザからの指示を受け付けて単独機能を実行してもよい。もちろん、ユーザからの指示を受けずに機能を実行する機器12(例えばセンシング機器)が、情報処理システムに含まれてもよい。
【0052】
ここで、連携機能について説明する。機器12の全体、機器12の特定の部分、ソフトウェアの特定の機能、又は、複数の機能を含む集合機能等が、連携機能に用いられてもよい。例えば、機器12の部分毎に機能が割り当てられている場合、連携機能は、その部分を用いる機能であってもよい。具体例を挙げて説明すると、複数の画像形成機能を有する複合機の本体部にプリント機能が割り当てられており、複合機の読取部(例えば、原稿カバー、原稿ガラス又は自動原稿給紙装置に対応する部分)にスキャン機能が割り当てられており、複合機の後処理装置に後処理機能(例えばステープル止め機能等)が割り当てられているものとする。この場合、複合機の本体部、読取部又は後処理装置が、連携機能に用いられてもよい。また、ソフトウェアとして、RPA(Robotics Process Automation)等のようにブロック単位でまとまった集合機能が、連携機能に用いられてもよい。また、ソフトウェアが複数の機能を有している場合、連携機能は、当該複数の機能の中の一部の機能を用いる機能であってもよい。集合機能は、複数の機能によって構成されており、当該複数の機能が同時又は順次に実行されることで、当該集合機能による処理が実行される。また、連携機能は、ハードウェアのみを用いる機能であってもよいし、ソフトウェアのみを用いる機能であってもよいし、ハードウェアとソフトウェアの両方を用いる機能であってもよい。また、連携機能には、画像ファイル又は文書ファイル等のデータが用いられてもよいし、端末装置10が用いられてもよい。
【0053】
連携機能は、互いに異なる種類の複数の機器12を連携させることで実行可能な機能であってもよいし、同一の種類の複数の機器12を連携させることで実行可能な機能であってもよい。連携機能は、連携前には利用できなかった機能であってもよい。例えば、プリント機能を有する機器12(プリンタ)と、スキャン機能を有する機器12(スキャナ)とを連携させることで、連携機能としてのコピー機能が実行可能となる。すなわち、プリント機能とスキャン機能とを連携させることで、コピー機能が実行可能となる。
【0054】
連携機能の概念の範疇には、複数の機器12を連携させることで新たな機能の実行が可能となる合体機能が含まれてもよい。例えば、複数のディスプレイを組み合わせることで、合体機能としての拡張表示機能が実現されてもよい。別の例として、テレビとレコーダとを組み合わせることで、合体機能としての録画機能が実現されてもよい。その録画機能は、例えば、テレビに表示されている画像を録画する機能である。また、複数のカメラを組み合わせることで、合体機能としての撮影領域拡張機能が実現されてもよい。この拡張機能は、例えば各カメラの撮影領域を繋ぎ合わせて撮影する機能である。また、電話と翻訳機又は翻訳ソフトとを組み合わせることで、合体機能としての翻訳通話機能(電話を介した会話が翻訳される機能)が実現されてもよい。このように、連携機能の概念の範疇には、互いに同一の種類の複数の機器12又はソフトウェアを連携させることで実現可能となる機能、及び、互いに異なる種類の複数の機器12又はソフトウェアを連携させることで実現可能となる機能が含まれてもよい。
【0055】
また、複数の機器12によってコネクテッドホーム(IoT技術を用いて、家電等の機器12同士をネットワークによって接続するシステム)が構築され、そのコネクテッドホームにて連携機能が用いられてもよい。この場合、特定のサーバを介して機器12同士が接続してもよいし、特定のサーバを介さずに機器12同士が接続してもよい。
【0056】
また、複数の機器12は、IFTTT(イフト)を用いて連携することで連携機能を実行してもよい。つまり、連携機能の内容が、ある機器12にてトリガーとなる事象が発生した場合に、他の機器12がアクション(処理)を実行するというものであってもよい。例えば、機器12としてのセンサが扉の開きを検知したことがトリガーとなって、別の機器12としての照明装置を点灯させるというアクションを実行する連携機能が実行されてもよい。また、ある機器12によるアクションが別のトリガーとなって、更に別の機器12がアクションを実行する機能も、連携機能の概念の範疇に含まれてもよい。また、複数のWebサービスを連携させる機能、及び、API(Application Programming Interface)を利用して複数のシステム又はサービス等を連携させるAPI連携が、連携機能の概念の範疇に含まれてもよい。
【0057】
図1に示す例では、機器12A,12D,12Gは、中継器である。機器12B,12Kは、ロボットである。機器12C,12Lは、カメラである。機器12E,12Nは、PCである。機器12F,12Hは、画像形成機能を有する複合機である。
【0058】
なお、中継器は、例えば、当該中継器に接続されている他の機器12(例えば、当該他の機器12が有するハードウェア、及び、当該他の機器12にインストールされているソフトウェア)を制御してもよい。また、中継器は、インターネット等を利用することで、各種の情報を取得してもよい。中継器は、サーバとして機能してもよいし、データ及びユーザ情報の管理等を行ってもよい。中継器は、いわゆるスマートスピーカ(通信機能及びスピーカ機能を有する機器)であってもよいし、通信機能を有するがスピーカ機能を有していない機器であってもよい。中継器は、屋内(例えば、部屋の床、天井、又は、テーブル等)に設置されてもよいし、屋外に設置されてもよい。中継器は、移動可能な機器(例えば自動式の機器)であってもよい。
【0059】
各機器12は、ユーザの指示に従って、又は、ユーザの指示の有無に関わらず自動的に、単独機能を実行するように構成されている。また、各機器12は、自身に設定された連携機能を実行してもよい。例えば、連携機能の内容を示す設定情報が、当該連携機能に用いられる各機器12に記憶され、各機器12は、自身に記憶されている設定情報が示す連携機能を他の機器12と連携して実行する。
【0060】
各端末装置10及び各機器12には、ユーザを補助するための1又は複数の操作アシスタント(パーソナルアシスタント)が搭載されている。操作アシスタントは、例えば、当該操作アシスタントが搭載されている端末装置10又は機器12を制御するように構成されている。操作アシスタントは、端末装置10又は機器12を構成するハードウェアを制御してもよいし、端末装置10又は機器12にインストールされているソフトウェアを制御してもよい。例えば、操作アシスタントは、ユーザによって与えられた指示を解析し、その指示に従って端末装置10又は機器12を制御することで、ユーザによって指定された機能の実行を制御する。もちろん、操作アシスタントが搭載されていない端末装置10及び機器12が、情報処理システムに含まれてもよい。
【0061】
また、操作アシスタントは、ユーザと会話する機能を有する。例えば、操作アシスタントは、自動応答AIであるチャットボット(chatbot)(人工知能を活用した自動会話プログラム)として機能する。つまり、操作アシスタントは、ユーザの会話相手として機能することで、ユーザとの間で情報(例えばメッセージ)をやり取りする。例えば、操作アシスタント(チャットボット)は、ユーザの発言を解析し、その解析結果に基づいて回答を作成してユーザに提供する。例えば、その回答は、操作アシスタントの発言としてユーザに提供される。
【0062】
音声入力又は文字入力等によって、ユーザの指示又は発言が操作アシスタントに与えられた場合、操作アシスタントは、例えば、入力された情報に対して形態素解析等の自然言語処理を適用することで、その指示又は発言を解析し、その解析結果に基づいて、ユーザに対する回答を作成する。
【0063】
操作アシスタント(チャットボット)は、例えば、操作アシスタントプログラム(チャットボットプログラム)が実行されることで実現される。その操作アシスタントプログラムは、各端末装置10及び各機器12にインストールされている。もちろん、操作アシスタントプログラムは、サーバ等の外部装置にインストールされ、操作アシスタントの機能が、サーバから端末装置10及び機器12に提供されてもよい。
【0064】
操作アシスタントは人工知能(AI)によって実現されてもよい。例えば、操作アシスタントは、人工知能による学習機能を有し、その学習機能によって、人に近い判断を行う能力を有していてもよい。また、ニューラルネットワーク型のディープラーニングが利用されてもよいし、部分的に学習分野を強化する強化学習等が利用されてもよいし、その他、遺伝的アルゴリズム、クラスタ分析、自己組織化マップ、又は、アンサンブル学習等が利用されてもよい。もちろん、これら以外の人工知能に関する技術が利用されてもよい。
【0065】
操作アシスタントは、当該操作アシスタントにログインしているユーザアカウントに紐付けられたユーザからの指示に従って動作してもよい。
【0066】
以下、
図2を参照して、端末装置10の構成について詳しく説明する。
図2は、端末装置10の構成の一例を示す。
【0067】
通信部14は通信インターフェースであり、他の装置にデータを送信する機能、及び、他の装置からデータを受信する機能を有する。通信部14は、無線通信機能を有する通信インターフェースであってもよいし、有線通信機能を有する通信インターフェースであってもよい。通信部14は、例えば、1又は複数の種類の通信方式に対応しており、通信相手に適した通信方式(つまり、通信相手が対応している通信方式)に従って通信相手と通信してもよい。通信方式は、例えば、赤外線通信、可視光通信、Wi-Fi(登録商標)通信、又は、近接無線通信(例えばNFC(Near Field Communication)等)等である。近接無線通信としては、Felica(登録商標)、Bluetooth(ブルートゥース)(登録商標)、又は、RFID(Radio Frequency Identifier)等が用いられる。また、通信部14は、第5世代移動通信システム(5G)に対応してもよい。もちろん、別の方式の無線通信が近接無線通信として用いられてもよい。通信部14は、通信相手に応じて通信方式や周波数帯域を切り替えてもよいし、周囲の環境に応じて通信方式や周波数帯域を切り替えてもよい。周波数帯域として、例えば、2.4GHzや5GHz等が用いられてもよい。
【0068】
UI部16はユーザインターフェース部であり、表示部と操作部を含む。表示部は、例えば液晶ディスプレイ等の表示装置である。表示部は、フレキシブルディスプレイであってもよい。操作部は、例えばタッチパネル又はキーボード等の入力装置である。UI部16は、表示部と操作部とを兼ねたユーザインターフェース(例えば、タッチ式のディスプレイ、又は、ディスプレイ上に電子的にキーボード等を表示する装置等を含む)であってもよい。また、UI部16は、マイク等の集音部及びスピーカ等の音声発生部を含んでいてもよい。この場合、音声入力によって情報が端末装置10に入力されてもよいし、音声によって情報が発せられてもよい。
【0069】
記憶部18は、ハードディスク又はメモリ(例えばSSD等)等の記憶装置である。記憶部18には、例えば、各種のデータ及び各種のプログラム(ソフトウェア)等が記憶されている。プログラムとして、例えば、OS(Operating System)、及び、各種のアプリケーションプログラム(ソフトウェア)等が記憶されている。アプリケーションプログラムの一例として、1又は複数の操作アシスタントプログラム(チャットボットプログラム)が記憶部18に記憶されている。また、記憶部18には、機能管理情報が記憶されている。その他、記憶部18には、機器12のアドレスを示す機器アドレス情報(例えば、機器12に割り当てられたIPアドレス又はMACアドレス等)、及び、サーバのアドレスを示すサーバアドレス情報(例えば、サーバに割り当てられたIPアドレス又はMACアドレス等)等が記憶されてもよい。
【0070】
以下、機能管理情報について詳しく説明する。機能管理情報は、機器12を用いることで実行可能な1又は複数の機能を管理するための情報である。例えば、機能管理情報は、予め作成されて記憶部18に記憶されている。機能は、単独機能であってもよいし、連携機能であってもよい。
【0071】
機能管理情報は、例えば、機器12を識別するための機器識別情報と、当該機器12を用いて実行される機能の内容を示す機能情報との対応付けを示す情報である。例えば、単独機能に用いられる機器12の機器識別情報と、当該単独機能の内容を示す機能情報とが互いに対応付けられて、機能管理情報に登録されている。また、連携機能に用いられる複数の機器12の組み合わせを示す情報(各機器12の機器識別情報の組み合わせ)と、当該連携機能の内容を示す機能情報とが互いに対応付けられて、機能管理情報に登録されている。
【0072】
機器識別情報は、例えば、機器12の名称、機器ID、機器12の種類を示す情報、機器12の型番号、機器12を管理するための情報(例えば資産管理情報等)、機器12が設置されている位置を示す情報(機器12の位置情報)、機器12に紐付く画像(機器画像)、又は、機器アドレス情報等である。機器画像は、例えば、機器12を表す外観画像である。外観画像は、機器12の外側(例えば機器12の筐体)を表す画像であってもよいし、筐体を開けて内部が外から見える状態(例えば内部構造)を表す画像であってもよいし、梱包用のシート等によって機器12が覆われている状態を表す画像であってもよい。機器画像は、機器12をカメラ等の撮影装置によって撮影することで生成された画像(機器12の外観を表す画像や内部を表す画像等)であってもよいし、機器12を模式的に表す画像(例えばアイコン等)であってもよい。機器画像は、静止画像であってもよいし、動画像であってもよい。機器画像のデータは、記憶部18に記憶されていてもよいし、他の装置(機器12又はサーバ等)に記憶されていてもよい。
【0073】
また、機能管理情報には、機器12の性能を示す情報、及び、機器12のステータスを示す情報等が含まれてもよい。性能は、例えば、CPU等のプロセッサの性能、メモリの容量、及び、インストールされているソフトウェア等である。ステータスを示す情報は、例えば、稼働中、停止中、故障中、スリープモード中、又は、処理中等を示す情報である。
【0074】
なお、機能管理情報は、端末装置10以外の装置(機器12又はサーバ等)に記憶されていてもよい。この場合、機能管理情報は、端末装置10に記憶されていなくてもよい。
【0075】
連携機能にソフトウェアが用いられる場合、そのソフトウェアを識別するためのソフトウェア識別情報が機能管理情報に登録される。例えば、機器12とソフトウェアとを連携させることで連携機能が実現される場合、当該機器12の機器識別情報と当該ソフトウェアのソフトウェア識別情報との組み合わせと、当該連携機能の内容を示す機能情報とが互いに対応付けられて機能管理情報に登録される。なお、機器12を用いずに連携機能が実現されてもよい。例えば、複数のソフトウェアを用いることで連携機能が実現される場合、当該複数のソフトウェアのソフトウェア識別情報の組み合わせと、当該連携機能の内容を示す機能情報とが互いに対応付けられて機能管理情報に登録される。また、ファイル(データ)又は物理的な物体が、連携機能に用いられてもよい。この場合、当該ファイル又は物体を識別するための情報が、当該連携機能の内容を示す機能情報に対応付けられて機能管理情報に登録される。例えば、機器12とファイルとを用いることで連携機能が実現される場合、当該機器12の機器識別情報と当該ファイルの識別情報との組み合わせと、当該連携機能の内容を示す機能情報とが互いに対応付けられて機能管理情報に登録される。ソフトウェアとファイルとを用いることで連携機能が実現される場合も同様である。このように、連携機能は、複数の機器12の組み合わせ、複数のソフトウェアの組み合わせ、機器12とソフトウェアとの組み合わせ、機器12とファイル又は物体との組み合わせ、又は、ソフトウェアとファイル又は物体との組み合わせによって実現されてもよい。
【0076】
情報処理システムに新たな機器12が追加された場合、当該機器12が有する単独機能、及び、当該機器12と他の機器12とを連携させることで実行可能な連携機能が、機能管理情報に登録される。その登録処理は、端末装置10によって行われてもよいし、機器12によって行われてもよいし、サーバ等の装置によって行われてもよい。
【0077】
制御部20は、端末装置10の各部の動作を制御するように構成されている。例えば、制御部20は、プログラムの実行、通信部14による通信の制御、UI部16を用いた情報の通知(例えば情報の表示及び音声出力等)の制御、UI部16を用いて端末装置10に入力された情報の受け付け、記憶部18への情報の書き込み、及び、記憶部18からの情報の読み出し等を行う。また、制御部20は処理決定部22を含む。
【0078】
処理決定部22は、ユーザによって与えられた指示内容に含まれる処理を解析し、その処理に含まれる個別処理を実行すべき機器12を決定するように構成されている。例えば、処理決定部22は、記憶部18に記憶されている機能管理情報を参照することで、個別処理を実行するために必要な機能を有する機器12を特定し、当該個別処理を当該機器12に割り当てる。処理決定部22は、当該個別処理の実行命令を示す情報を当該機器12に送信し、当該機器12は、当該実行命令に従って、自装置に割り当てられた当該個別処理を実行する。例えば、機器12に搭載されている操作アシスタント(チャットボット)とユーザとの間で情報がやり取りされることで、実行命令を示す情報が当該操作アシスタントに与えられる。当該操作アシスタントは、当該実行命令に従って、当該操作アシスタントが搭載されている機器12を制御することで、当該機器12に当該個別処理を実行させる。
【0079】
以下、
図3を参照して、機器12の構成について詳しく説明する。
図3は、機器12の構成の一例を示す。なお、
図3は、各機器12が共通して有する構成を示しており、各機器12の特有の構成を示していない。
【0080】
通信部24は通信インターフェースであり、他の装置にデータを送信する機能、及び、他の装置からデータを受信する機能を有する。通信部24は、無線通信機能を有する通信インターフェースであってもよいし、有線通信機能を有する通信インターフェースであってもよい。通信部24は、例えば、1又は複数の種類の通信方式に対応しており、通信相手に適した通信方式に従って通信相手と通信してもよい。通信方式は、上述した通信方式が用いられてもよい。通信部24は、通信相手に応じて通信方式や周波数帯域を切り替えてもよいし、周囲の環境に応じて通信方式や周波数帯域を切り替えてもよい。
【0081】
UI部26はユーザインターフェース部であり、表示部と操作部を含む。表示部は、例えば液晶ディスプレイ等の表示装置である。表示部は、フレキシブルディスプレイであってもよい。操作部は、例えばタッチパネル又はキーボード等の入力装置である。UI部26は、表示部と操作部とを兼ねたユーザインターフェースであってもよい。また、UI部26は、マイク等の集音部及びスピーカ等の音声発生部を含んでいてもよい。この場合、音声入力によって情報が機器12に入力されてもよいし、音声によって情報が発せられてもよい。なお、UI部26を有していない機器12が、情報処理システムに含まれてもよい。例えば、情報をユーザに出力しないセンシング機器は、UI部26を有していなくてもよい。
【0082】
実行部28は、機能を実行するように構成されている。例えば、機器12が画像形成装置である場合、実行部28は画像形成機能を実行する。また、機器12がロボットである場合、実行部28は、ロボットが有する機能(例えば、移動機能又は持ち上げ機能等)を実行する。機器12がカメラである場合、実行部28は、撮影機能を実行する。
【0083】
記憶部30は、ハードディスク又はメモリ(例えばSSD等)等の記憶装置である。記憶部30には、例えば、各種のデータ及び各種のプログラム(ソフトウェア)等が記憶されている。プログラムとして、例えば、OS、及び、各種のアプリケーションプログラム(ソフトウェア)等が記憶されている。アプリケーションプログラムの一例として、1又は複数の操作アシスタントプログラム(チャットボットプログラム)が記憶部30に記憶されている。なお、機器12によっては、OS及びアプリケーションプログラムが記憶部30に記憶されていない場合もある。その他、記憶部30には、他の機器12のアドレスを示す機器アドレス情報(例えば、他の機器12に割り当てられたIPアドレス又はMACアドレス等)、端末装置10のアドレスを示す端末アドレス情報(例えば、端末装置10に割り当てられたIPアドレス又はMACアドレス等)、及び、サーバのアドレスを示すサーバアドレス情報(例えば、サーバに割り当てられたIPアドレス又はMACアドレス等)等が記憶されてもよい。また、記憶部30には、機能管理情報が記憶されている。機能管理情報は、例えば、端末装置10に記憶されている機能管理情報と同様に、各機器12を用いて実行可能な単独機能及び連携機能を示す情報である。
【0084】
機能管理情報は、端末装置10及び各機器12によって共有されてもよい。例えば、機器12に新たな機能が追加された場合、当該機器12に記憶されている機能管理情報に当該機能に関する機能情報が新たに登録され、更に、当該機器12の機器識別情報と当該機能情報が、端末装置10と他の機器12に送信され、当該端末装置10と当該他の機器12のそれぞれに記憶されている機能管理情報に登録される。
【0085】
制御部32は、機器12の各部の動作を制御するように構成されている。例えば、制御部32は、プログラムの実行、通信部24による通信の制御、UI部26を用いた情報の通知(例えば情報の表示及び音声出力等)の制御、U2部16を用いて機器12に入力された情報の受け付け、実行部28の制御、記憶部30への情報の書き込み、及び、記憶部30からの情報の読み出し等を行う。また、制御部32は処理決定部34を含む。
【0086】
処理決定部34は、端末装置10に含まれる処理決定部22と同様に、ユーザによって与えられた指示内容に含まれる処理を解析し、その処理に含まれる個別処理を実行すべき機器12を決定する。例えば、処理決定部34は、記憶部30に記憶されている機能管理情報を参照することで、個別処理を実行するために必要な機能を有する機器12を特定し、当該個別処理を当該機器12に割り当てる。なお、処理決定部34は、機器12に搭載されている操作アシスタント(チャットボット)によって実現されてもよい。制御部32についても同様である。
【0087】
本実施形態では、端末装置10に含まれる処理決定部22、又は、機器12に含まれる処理決定部34の何れかによって、機器12に個別処理が割り当てられる。もちろん、処理決定部22,34が協働して個別処理を機器12に割り当ててもよい。また、サーバ等の外部装置に処理決定部が設けられて、当該処理決定部によって機器12に個別処理が割り当てられてもよい。
【0088】
以下、
図4を参照して、中継器の外観について詳しく説明する。
図4は、中継器を示す斜視図である。
図4は、一例として、中継器としての機器12Aを示す。機器12D,12Gも、機器12Aと同様の構成を有していてもよいし、別の構成を有していてもよい。
【0089】
機器12Aは、いわゆるスマートスピーカであり、通信機能と音声によるアシスト機能とを有する。機器12Aは、柱状の本体部36を含む。本体部36の側面には、マイク38、スピーカ40、表示部42、及び、発光部44,46が設けられている。また、本体部36の上面には、センサ48が設けられている。なお、本体部36の形状は、
図4に示されている形状に限定されるものではない。マイク38とスピーカ40を備えた中継器であれば、その形状は、どのような形状であってもよい。また、マイク38、スピーカ40、表示部42、発光部44,46、及び、センサ48は、
図4に示されている位置以外の位置に配置されてもよい。
【0090】
マイク38は、集音装置として機能し、機器12Aの周囲の音を集音する。例えば、ユーザの音声がマイク38によって集音される。
【0091】
ユーザが、機器12Aに搭載されている操作アシスタント(チャットボット)と会話している場合、スピーカ40から操作アシスタントの発言内容が音声として発せられる。また、音楽、テレビの音声又はラジオの音声等が、スピーカ40から発せられてもよい。
【0092】
表示部42は表示装置である。表示部42は、操作部を兼ねたユーザインターフェース(例えばタッチパネル等)であってもよい。
【0093】
発光部44は、1又は複数の光源(例えば光源50,52,54)を含み、機器12Aに搭載されている操作アシスタントの設定内容に応じた発光の仕方に従って発光する。例えば、年齢、性別、職業又は性格等が、設定項目として操作アシスタントに設定される。操作アシスタントは、その設定項目に従って、ユーザに対して回答したり、作業を実行したりする。例えば、職業の設定項目として医師が設定されている場合、光源50,54が青色に発光し、光源52が黄色に発光する。別の設定項目が設定された場合、発光部44は、その設定された内容に応じた発光の仕方に従って発光する。
【0094】
発光部46は、1又は複数の光源(例えば光源56,58,60)を含み、機器12Aに搭載されている操作アシスタントにログインしているユーザアカウントに応じた発光の仕方に従って発光する。例えば、あるユーザが、機器12Aに搭載されている操作アシスタントにログインしている場合、光源56,60が青色に発光し、光源58が黄色に発光する。別のユーザが操作アシスタントにログインしている場合、発光部46は、当該別のユーザに応じた発光の仕方に従って発光する。
【0095】
なお、発光部44,46は区別されずに本体部36に設けられてもよい。例えば、発光部44,46に含まれる全光源を用いて、操作アシスタントの設定内容及びユーザアカウントが表現されてもよい。また、各光源の発光パターン(例えば、点滅の仕方、時間の長さ等)によって、操作アシスタントの設定内容及びユーザアカウントが表現されてもよい。
【0096】
センサ48は、例えば、ユーザのジェスチャーを検知する。機器12Aは、検知されたジェスチャーに従った処理を実行する。例えば、機器12Aは、検知されたジェスチャーに従って、自装置にて処理を実行してもよいし、他の機器12の動作を制御してもよい。
【0097】
以下、
図5及び
図6を参照して、機能管理情報について詳しく説明する。
図5は、機能管理情報としての単独機能管理テーブルの一例を示す。
図6は、機能管理情報としての連携機能管理テーブルの一例を示す。単独機能管理テーブルと連携機能管理テーブルは、別々のテーブルとして作成されてもよいし、1つのテーブルとして作成されてもよい。以下では、まず、
図5を参照して単独機能管理テーブルについて説明し、次に、
図6を参照して連携機能管理テーブルについて説明する。
【0098】
図5に示されている単独機能管理テーブルにおいては、一例として、機器12、ソフトウェア又は対象を識別するための識別情報と、単独機能の内容を示す機能情報とが互いに対応付けられている。機器12の全体又は部分が用いられてもよいし、ソフトウェアの特定の機能が用いられてもよい。対象は、機能が適用されるファイル又は物理的な物体等である。機器12、ソフトウェア及び対象のそれぞれは、下位概念のレベルの情報(例えば、固有名称(例えば、具体的な製品名、商品名、型番、Webサイト名、URL等))によって特定されてもよいし、上位概念のレベルの情報(例えば、普通名称又は一般名称等)によって特定されてもよい。以下、各単独機能について説明する。
【0099】
機器12としての複合機Aは、単独機能として、プリント機能、スキャン機能、コピー機能及びファクシミリ機能等を有する。機器12としてのPC(B)は、単独機能として、表示機能及び通信機能等を有する。文書作成ソフトウェアCは、単独機能として、文書作成機能及び文書表示機能等を有する。文書作成機能は、文書ファイルを作成したり編集したりするための機能である。文書表示機能は、文書ファイルを表示するための機能である。パスワード設定ソフトウェアDは、単独機能として、ファイルに対してパスワードを設定する機能を有する。文書ファイルEには、単独機能として、文書作成機能及び文書表示機能等が対応付けられている。つまり、文書ファイルEには文書作成ソフトウェアが対応付けられており、文書ファイルEには、文書作成ソフトウェアが有する機能が適用される。会計ファイルFには、単独機能として、編集機能及び表示機能等が対応付けられている。つまり、会計ファイルFには会計ソフトウェアが対応付けられており、会計ファイルFには、会計ソフトウェアが有する機能が適用される。
【0100】
単独機能管理テーブルに登録されているソフトウェア及びファイルは、端末装置10に記憶されていてもよいし、機器12に記憶されていてもよいし、サーバ等の装置に記憶されていてもよい。
図5に示されている単独機能は一例に過ぎず、上記以外の単独機能が単独機能管理テーブルに登録されていてもよい。
【0101】
以下、
図6を参照して、連携機能管理テーブルについて説明する。連携機能管理テーブルにおいては、一例として、機器12の組み合わせを示す情報と、連携機能の内容を示す機能情報とが互いに対応付けられている。以下、各連携機能について説明する。
【0102】
機器12としての複合機AとPC(B)とを連携させることで、連携機能としての「スキャン転送機能」及び「プリント機能」を実行することができる。連携機能としてのスキャン転送機能は、複合機Aによるスキャンによって生成された画像データを、PC(B)に転送する機能である。連携機能としてのプリント機能は、PC(B)に記憶されているデータ(文書ファイル又は画像ファイル等)を複合機Aに送信し、複合機Aにて当該データを印刷する機能である。
【0103】
また、機器12としての扉開閉センサGと照明装置Hとを連携させることで、連携機能としての「扉の開きを検知した場合、照明装置を点灯させる機能」を実行することができる。扉開閉センサGは、扉の開及び閉を検知するセンサである。この連携機能は、扉開閉センサGが扉の開きを検知した場合、照明装置Hを点灯させるという機能である。詳しく説明すると、扉開閉センサGが扉の開きを検知した場合、その検知結果を示す情報が、扉開閉センサGから照明装置Hに送信され、照明装置Hが点灯する。その情報は、扉開閉センサGから照明装置Hに直接的に送信されてもよいし、端末装置10又は中継器を介して送信されてもよい。また、端末装置10又は中継器が、検知結果を示す情報を受けた場合、点灯指示を示す制御情報を照明装置Hに送信することで照明装置Hを点灯させてもよい。なお、扉開閉センサG及び照明装置Hのそれぞれの機器アドレス情報は、端末装置10及び各機器12に記憶されており、これらの機器アドレス情報を用いることで、情報が送信される。
【0104】
ソフトウェアが連携機能に用いられ、ソフトウェアの組み合わせを示す情報と、連携機能の内容を示す機能情報とが対応付けられて連携機能管理テーブルに登録されてもよい。例えば、文書作成ソフトウェアCとパスワード設定ソフトウェアDとを連携させることで、連携機能としての「文書ファイルにパスワードを設定する機能」を実行することができる。この連携機能は、例えば、文書作成ソフトウェアCによって編集中又は表示中の文書ファイルに対して、パスワード設定ソフトウェアDによってパスワードを設定する機能である。また、文書作成ソフトウェアCとデータ送信ソフトウェアJとを連携させることで、連携機能としての「文書ファイルを送信する機能」を実行することができる。この連携機能は、文書作成ソフトウェアCによって編集中又は表示中の文書ファイルを、データ送信ソフトウェアJによって宛先に送信する機能である。なお、連携機能管理テーブルに登録されているソフトウェアは、端末装置10にインストールされていてもよいし、機器12にインストールされていてもよいし、サーバ等の外部装置にインストールされていてもよい。
【0105】
ファイルが連携機能に用いられ、ファイルの組み合わせを示す情報と、連携機能の内容を示す機能情報とが対応付けられて連携機能管理テーブルに登録されてもよい。例えば、文書ファイルEと会計ファイルFに適用される連携機能として、「文書ファイルの内容を会計ファイルに追加する機能」が登録されている。なお、連携機能管理テーブルに登録されているソフトウェアは、端末装置10に記憶されていてもよいし、機器12に記憶されていてもよいし、サーバ等の外部装置に記憶されていてもよい。
【0106】
機器12とソフトウェアとの組み合わせによって連携機能が実現されてもよい。例えば、複合機Aと文字認識ソフトウェアKとを連携させることで、連携機能としての「スキャンされた文書に対して文字認識処理を適用する機能」を実行することができる。この連携機能は、複合機Aによって文書をスキャンし、そのスキャンによって生成された画像に対して文字認識ソフトウェアKによって文字認識処理を適用する機能である。
【0107】
機器12、ソフトウェア及びファイルを用いて連携機能が実現されてもよい。例えば、機器12としてのスキャナ、文字認識ソフトウェア、帳票作成ソフトウェア、領収書、及び、会計ファイルを用いて実行可能な連携機能が、連携機能管理テーブルに登録されている。この連携機能は、「領収書がスキャナでスキャンされた場合、そのスキャンの結果に対して文字認識処理を適用し、その結果(領収書の内容)を会計ファイルに追加する機能」である。詳しく説明すると、この連携機能は、スキャナによって領収書をスキャンし、そのスキャンによって生成された画像データに対して文字認識ソフトウェアによって文字認識処理を適用することで、当該画像データから文字列を抽出し、帳票作成ソフトウェアによって、その文字列を会計ファイルに追加する機能である。
【0108】
更に別の例として、Webブラウザ、特定のショッピングサイト、購入指示を示す情報、及び、対象としての特定のブランドバッグ(ショッピング対象)を用いて実行可能な連携機能が、連携機能管理テーブルに登録されている。この連携機能は、「Webブラウザが起動し、特定のショッピングサイトで特定のブランドバッグが出品された場合、購入する機能」である。詳しく説明すると、この連携機能は、Webブラウザによって特定のショッピングサイトを監視し、そのショッピングサイトに特定のブランドバッグが出品された場合、当該ブランドバッグの購入処理を実行する機能である。
【0109】
図6に示されている連携機能は一例に過ぎず、上記以外の連携機能が連携機能管理テーブルに登録されていてもよい。
【0110】
なお、機能を実行する機器12は、端末装置10によって制御されてもよいし、機器12A等の中継器によって制御されてもよい。端末装置10によって機器12が制御される場合、端末装置10は、機器12の動作を制御するための制御信号を、直接的に、又は、中継器を介して、当該機器12に送信することで当該機器12を制御する。中継器によって機器12が制御される場合、中継器は、制御信号を当該機器12に送信することで当該機器12を制御する。中継器が、他の中継器に制御信号を送信し、当該他の中継装置が機器12を制御してもよい。中継器からサーバに制御信号が送信され、サーバが機器12を制御してもよい。
【0111】
本実施形態では、ユーザが与える指示内容に含まれる処理(例えば連携機能等)を実行するための複数の機器12がユーザによって選択される。そして、ユーザと各機器12に搭載されている各チャットボット(各操作アシスタント)との間で情報がやり取りされることで、各チャットボットに対して指示内容が与えられ、その指示内容に従って各機器12が制御されて処理が実行される。なお、機器12に搭載されているチャットボットが、ユーザの会話相手の一例に相当する。以下、本実施形態に係る処理について詳しく説明する。
【0112】
図7を参照して、連携機能を実行するための複数の機器12を選択するための画面について説明する。
図7は、その画面の一例を示す。端末装置10Aの制御部20は、ユーザの指示に従って、画面62をUI部16の表示部に表示させる。画面62は、処理を実行する複数の機器12を選択するための画面である。この画面62にて機器12が選択されることで、当該機器12に搭載されているチャットボットが、会話相手として選択されることになる。画面62には、例えば、情報処理システムに含まれている機器12の一覧が表示される。例えば、ユーザが画面62上で複合機Aを選択した場合、複合機Aに搭載されているチャットボットが、ユーザの会話相手として選択される。なお、画面62には、各機器12の性能、及び、ステータスが表示されてもよい。また、機器12の一覧の代わりに、又は、機器12の一覧と共に、機器12に搭載されているチャットボットの一覧が表示されてもよい。
【0113】
なお、画面62を表示せずに、音声によって機器12又はチャットボットを指定することで、機器12及び会話相手としてのチャットボットが選択されてもよい。
【0114】
本実施形態では、複数の機器12(チャットボット)がユーザによって選択され、当該複数のチャットボットが、ユーザと情報をやり取りする。なお、ユーザとチャットボットとの間で情報がやり取りされている最中に、会話相手のチャットボット(機器12)がユーザによって変更されてもよい。
【0115】
以下、
図8を参照して、ユーザが複数のチャットボットと会話するための画面について説明する。
図8は、その画面の一例を示す。ユーザによって複数の機器12(複数のチャットボット)が選択されると、端末装置10Aの制御部20は、UI部16の表示部に画面64を表示させ、その画面64上に各種の情報を表示させる。画面64は、ユーザが複数のチャットボットと会話するためのユーザインターフェース(会話型のユーザインターフェース)である。つまり、画面64は、チャットボットとユーザとの間でメッセージをやり取りするためのユーザインターフェースである。画面64には、ユーザが端末装置10Aに入力した情報(例えば文字列及び画像等)と、各チャットボットの発言内容を示す情報(例えば文字列及び画像等)が表示される。ユーザとチャットボットとの間の会話は、いわゆるチャット形式の会話(つまり、ユーザとチャットボットが互いに発言しながら会話が進む形式)である。例えば、ユーザ及びチャットボットのそれぞれの発言内容は、発言された時間に沿って時系列順に画面64に表示される。
【0116】
ユーザ用の表示エリアには、ユーザに紐付けられた画像66(例えばアイコン又は写真等)が表示される。チャットボット用の表示エリアには、ユーザによって選択された機器12に搭載されているチャットボットに紐付けられた画像(例えばアイコン等)が表示される。画像に代えて又は画像と共に、ユーザを識別するための文字列、及び、チャットボットを識別するための文字列が表示されてもよい。
【0117】
ここでは、複合機A1,A2が、処理を実行するための機器12としてユーザによって選択されたものとする。この場合、複合機A1に搭載されているチャットボットA1と複合機A2に搭載されているチャットボットA2が、ユーザの会話相手として選択されたことになり、制御部20は、チャットボットA1に紐付けられた画像68とチャットボットB1に紐付けられた画像70を画面64に表示させる。なお、複合機A1が第1機器の一例に相当し、複合機A2が第2機器の一例に相当する。また、チャットボットA1が第1チャットボットの一例に相当し、チャットボットA2が第2チャットボットの一例に相当する。なお、3つ以上の機器12がユーザによって選択されてもよい。この場合、選択された3つ以上のチャットボットが、ユーザの会話相手として動作する。
【0118】
例えば、端末装置10Aは、複合機A1,A2のそれぞれに対して接続要求を示す情報を送信することで、端末装置10Aと複合機A1,A2との間で通信を確立させ、更に、複合機A1,A2の間で通信を確立させる。また、端末装置10Aは、複合機A1,A2が処理に要する機器12として選択されたことを示す情報を、複合機A1,A2に送信する。こうすることで、チャットボットA1は、自身が搭載されている複合機A1が処理に要する機器12として選択されたこと、相手方の機器12が複合機A2であること、及び、端末装置10Aを操作しているユーザが会話相手であることを認識する。チャットボットA2についても同様である。また、複合機A1,A2との間で情報が送受信されることで、チャットボットA1,A2は、それぞれ相手のチャットボットを認識する。
【0119】
上記のように、チャットボットA1,A2がユーザの会話相手として認識され、ユーザとチャットボットA1,A2との間で会話が行われる。ユーザの発言内容を示す情報は、端末装置10Aから複合機A1,A2に送信される。チャットボットA1の発言内容を示す情報は、複合機A1から端末装置10A及び複合機A2に送信される。チャットボットA2の発言内容を示す情報は、複合機A2から端末装置10A及び複合機A1に送信される。こうすることで、画面64には、チャットボットA1,A2のそれぞれの発言内容が表示され、チャットボットA1,A2は、ユーザの発言内容及び他のチャットボットの発言内容を解析して回答を作成することができる。
【0120】
例えば、最初に、「どうしましたか?」といった発言内容72が、チャットボットA1,A2の発言内容として画像68,70に紐付けられて画面64に表示される。これに対して、ユーザが、複合機A1,A2に対する指示内容を発言内容74として端末装置10Aに入力すると、制御部20は、その発言内容74を画像66に紐付けて画面64に表示させる。ここでは、「ある特定のファイルに関して、両面に2ページずつ長編綴じで印刷し、その印刷物を20部作成し、それ以外の10部については、片面の長編綴じで穴あけして印刷する」処理の実行が、指示内容としてユーザによって与えられている。
【0121】
端末装置10Aの処理決定部22は、その指示内容を示す発言内容を解析することで、その指示内容に含まれる処理を1又は複数の個別処理(1つのまとまった処理)に分け、単独機能管理テーブル及び連携機能管理テーブルを参照することで、各個別処理を実行するために必要な機能を有する1又は複数の機器12を特定し、各個別処理を各機器12に割り当てる。なお、上記の解析には、例えば自然言語処理等の処理が用いられる。例えば、複合機A1は穴あけ機能(パンチ機能)を有しておらず、複合機A2が穴あけ機能を有している場合、処理決定部22は、穴あけ加工が不要な個別処理を複合機A1に割り当て、穴あけ加工を要する個別処理を複合機A2に割り当てる。従って、上記の20部を作成する処理が複合機A1に割り当てられ、上記の10部を作成する処理が複合機A2に割り当てられる。なお、複合機A2が、穴あけ加工が不要な個別処理(20部を作成する処理)も実行することが可能であっても、分散して処理を実行する方がより早く処理が完了するので、穴あけ加工が不要な個別処理は、複合機A1に割り当てられる。
【0122】
上記のように個別処理が複合機A1,A2に割り当てられると、処理決定部22は、各個別処理の内容を示す情報を複合機A1,A2に送信する。上記の例では、処理決定部22は、20部を作成する処理を示す情報を複合機A1に送信し、10部を作成する処理を示す情報を複合機A2に送信する。
【0123】
個別処理の内容を示す情報を受けたチャットボットA1,A2は、各個別処理を分けて担当する。つまり、チャットボットA1は、複合機A1によって実行可能な個別処理の実行を担当し、チャットボットA2は、複合機A2によって実行可能な個別処理の実行を担当する。具体的には、チャットボットA1は、複合機A1に割り当てられた個別処理の実行を制御し、チャットボットA2は、複合機A2に割り当てられた個別処理の実行を制御する。
【0124】
個別処理の内容を示す情報を受けたチャットボットA1,A2はそれぞれ、自身に割り当てられた個別処理を確認するための返答を端末装置10Aに送信する。その返答の内容が、発言内容76,78として画面64に表示される。例えば、発言内容76は、複合機A1に割り当てられた個別処理を確認するためのメッセージであり、画像68に紐付けられて画面64に表示される。発言内容78は、複合機A2に割り当てられた個別処理を確認するためのメッセージであり、画像70に紐付けられて画面64に表示される。なお、発言内容76,78が示す情報が、指示内容の対応結果を示す情報の一例に相当する。
【0125】
そして、ユーザが、発言内容80によって連携機能の実行の承認を与えた場合、端末装置10Aは、その承認を示す情報を複合機A1,A2に送信する。その情報を受けたチャットボットA1,A2は、自身に割り当てられた個別処理の実行を制御する。具体的には、チャットボットA1は、複合機A1を制御することで、複合機A1に割り当てられた個別処理を複合機A1に実行させる。同様に、チャットボットA2は、複合機A2を制御することで、複合機A2に割り当てられた個別処理を複合機A2に実行させる。なお、承認がユーザによって与えられなくても、複合機A1,A2は、自身に割り当てられた個別処理を実行してもよい。
【0126】
なお、チャットボットの発言内容がユーザによって読まれた場合(例えば、画面64上にて、チャットボットの発言内容を示す情報がユーザによって指定された場合)、発言内容がユーザによって読まれたことを示す情報(例えば既読を示す情報)が、その発言内容に紐付けて表示されてもよい。また、ユーザの発言内容がチャットボットによって認識された場合、その発言内容がチャットボットによって読まれたことを示す情報(例えば既読を示す情報)が、その発言内容に紐付けて表示されてもよい。
【0127】
上記の例では、端末装置10Aの処理決定部22によって、処理が複合機A1,A2に割り当てられているが、複合機A1,A2のそれぞれの処理決定部34によって、処理が複合機A1,A2に割り当てられてもよい。また、処理決定部34による処理は、機器12に搭載されているチャットボット(操作アシスタント)によって実現されてもよい。以下、この処理について説明する。
【0128】
まず、端末装置10Aは、発言内容74を示す情報を複合機A1,A2に送信する。チャットボットA1,A2はそれぞれ、発言内容74を解析することで、ユーザによって与えられた処理内容を特定する。この解析には、例えば自然言語処理等の処理が用いられる。
【0129】
チャットボットA1(処理決定部34)は、単独機能管理テーブル及び連携機能管理テーブルを参照することで、ユーザによって与えられた処理内容の中で、自身が搭載されている複合機A1が有する機能によって実現可能な個別処理を特定する。チャットボットA2についても同様である。また、チャットボットA1は、複合機A1によって実現可能な個別処理を示す情報をチャットボットA2に送信する。チャットボットA2についても同様である。このように、チャットボットA1,A2は、自身が搭載されている複合機にて実行可能な個別処理を示す情報を交換する。こうすることで、チャットボットA1,A2は、相手のチャットボットが搭載されている複合機にて実行可能な個別処理及び実行不可能な個別処理を認識することができる。
図8に示す例では、チャットボットA1,A2は、複合機A2は、ユーザによって与えられた処理内容に含まれる全処理を実行するための機能を有しており、複合機A1は、穴あけ加工を行うための機能を有していないことを認識することができる。従って、チャットボットA1,A2(処理決定部34)は、穴あけ加工を要する処理(10部を作成する処理)を複合機A2に割り当てて、穴あけ加工を要しない処理(20部を作成する処理)を複合機A1に割り当てる。このようにして処理が複合機A1,A2に割り当てられた場合、チャットボットA1,A2は、その処理を示す発言内容76,78を示す情報を端末装置10Aに送信する。画面64には、発言内容76,78が表示される。そして、実行の承認がユーザによって与えられた場合、チャットボットA1,A2は、複合機A1,A2を制御することで、複合機A1,A2のそれぞれに割り当てられた個別処理を複合機A1,A2に実行させる。
【0130】
本実施形態によれば、複数の会話相手(例えば複数のチャットボット)に対して指示を与えるためのユーザインターフェースが提供される。こうすることで、各会話相手に対して個別的に指示を与える場合と比べて、その指示を与えるための手間(例えば作業数)が減る。
【0131】
なお、上記の例では、単独機能管理テーブル及び連携機能管理テーブルを参照することで複合機A1,A2が実行可能な個別処理を特定し、各個別処理を複合機A1,A2に割り当てているが、これとは別の方法によって、個別処理の割り当てが行われてもよい。
【0132】
例えば、複合機A1には、自装置である複合機A1が有する機能のみを示す機能管理テーブルが記憶されている。その機能管理テーブルには、複合機A1以外の機器12が有する機能は登録されていない。同様に、複合機A2には、自装置である複合機A2が有する機能のみを示す機能管理テーブルが記憶されている。
【0133】
複合機A1に搭載されているチャットボットA1(操作アシスタントA1)は、複合機A1に記憶されている機能管理テーブルを参照することで、ユーザによって与えられた指示内容に含まれる各個別処理を複合機A1にて実行可能か否かを判断する。つまり、チャットボットA1は、各個別処理を実現するための機能を複合機A1が有しているか否かを判断する。複合機A2についても同様である。チャットボットA1,A2は、判断結果を示す情報を互いに送受信することで、指示内容に含まれる複数の個別処理の中で、相手の複合機にて実行可能な個別処理、及び、相手の複合機にて実行不可能な個別処理を認識する。つまり、チャットボットA1,A2は、相手の複合機にてどのような個別処理を実行することが可能であるのか、また、どのような個別処理を実行することができないのかを認識することができる。
図8に示す例で説明すると、チャットボットA1は、指示内容に含まれる複数の個別処理の中で、複合機A1によって両面に複数ページを印刷して長編綴じすることができるが、穴あけ加工(パンチ加工)を実行することができないことを認識し、それらのことを示す情報をチャットボットA2に送信する。また、チャットボットA2は、当該複数の個別処理の中で、複合機A2によって片面に印刷して長編綴じを行い、穴あけ加工を実行することができることを認識し、更に、両面に複数ページを印刷することが可能であることを認識し、それらのことを示す情報をチャットボットA1に送信する。こうすることで、チャットボットA1,A2は、相手の複合機にて実行可能な個別処理、及び、実行不可能な個別処理を認識することができる。そして、チャットボットA1,A2は、その認識に基づいて各個別処理を複合機A1,A2に割り当てる。複合機A1では穴あけ加工を実行することができないが、複合機A2では穴あけ加工を実行することができるので、チャットボットA1,A2は、穴あけ加工を含む個別処理(10部を作成する処理)を複合機A2に割り当てる。また、穴あけ加工が不要な個別処理(20部を作成する処理)は、複合機A1,A2の何れによっても実行可能であるが、個別処理を複数の複合機にて分散して実行した方がより早く処理が完了するため、チャットボットA1,A2は、穴あけ加工が不要な個別処理を複合機A1に割り当てる。
【0134】
チャットボットA1,A2は、その割り当ての結果を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、その情報をチャットボットA1,A2の発言内容76,78として画面64に表示させる。このような処理によっても、指示内容に含まれる各個別処理が各機器12に割り当てられる。
【0135】
なお、ユーザとチャットボットA1,A2との間の会話に、他のユーザが参加してもよい。この場合、当該他のユーザに紐付けられた画像が画面64に表示され、当該他のユーザの発言内容は、当該画像に紐付けられて画面64に表示される。
【0136】
また、ユーザは、音声又はジェスチャーによって、チャットボットにメッセージを与えてもよい。この場合、画面64は表示されなくてもよい。音声又はジェスチャーが用いられる場合であっても、画面64が表示され、その音声の内容又はジェスチャーの内容が、文字列として画面64に表示されてもよい。
【0137】
また、第1機器が第1個別処理を実行し、第2機器が、その第1個別処理の結果物に対して第2個別処理を実行してもよい。例えば、複合機A1,A2によって追い刷りを実行する場合、複合機A1が第1印刷(例えば1色目の印刷)を実行し、複合機A2が、第1印刷による印刷物に対して第2印刷(例えば2色目の印刷)を実行してもよい。この場合、処理決定部22又はチャットボットA1,A2は、複合機A1,A2に第1印刷又は第2印刷を割り当てて、複合機A1,A2に追い刷りを実行させる。例えば、複合機A1,A2の性能又はステータス等によって、印刷の順番が決定されてもよい。また、
図8に示す例において、複合機A1が30部の印刷を行い、複合機A2が、30部のうちの10部について穴あけ(パンチ加工)を行ってもよい。なお、3つ以上の機器12が用いられる場合も同様である。
【0138】
また、機器12に対する割り込み処理の要求が与えられた場合、当該機器12に搭載されているチャットボットが、その要求に対応してもよい。例えば、チャットボットは、その割り込み処理を他の処理よりも先に機器12に実行させてもよいし、その割り込み処理を他の処理よりも優先せずに、実行指示が与えられた順番に従って機器12に実行させてもよい。
【0139】
また、互いに設定の異なる複数のチャットボットが機器12に搭載されて、当該複数のチャットボットによって、比喩的な意味での多重人格チャットボットが形成されてもよい。例えば、職業、年齢及び性別等の設定が互いに異なる複数のチャットボットが、機器12に搭載されてもよい。各チャットボットが、ユーザの発現内容を解析し、その発言内容に対する各チャットボットの返答を示す情報、又は、過半数の返答を示す情報を、発言内容を示す情報として端末装置10Aに送信してもよい。端末装置10Aでは、その発言内容が表示される。例えば、各チャットボットは、ユーザによって与えられた指示内容に含まれる処理を解析し、各個別処理を実行すべき機器12(各チャットボットが個別的に判断した機器12、又は、各チャットボットの過半数に従って決定された機器12等)をユーザに選択させるための情報を端末装置10Aに送信してもよい。その情報は、各チャットボットの発言内容として、端末装置10Aに表示される。そして、ユーザによって選択された機器12によって処理が実行される。もちろん、各チャットボットは、各個別処理を実行すべき機器12を決定し、ユーザによって機器12が選択されなくても、決定された機器12に処理を実行させてもよい。
【0140】
なお、上記のチャットボットA1,A2は、端末装置10A又はサーバ等に搭載されて、複合機A1,A2用のチャットボットとして動作してもよい。
【0141】
また、処理決定部22又はチャットボットA1,A2は、ユーザによって与えられた指示内容に含まれる処理の完了に要する時間に応じて、1又は複数の個別処理を複合機A1,A2に割り当ててもよい。チャットボットA1は、自身が搭載されている複合機A1に割り当てられた個別処理の制御を担当することになり、当該個別処理を複合機A1に実行させる。チャットボットA2についても同様である。
【0142】
例えば、処理決定部22又はチャットボットA1,A2は、複合機A1,A2の性能及びステータスを確認し、指示内容に含まれる処理がより早く完了するように、各個別処理を複合機A1,A2に割り当てる。例えば、処理決定部22又はチャットボットA1,A2は、複合機A1,A2の性能(プロセッサの性能、メモリの容量等)、ステータス及び各個別処理の内容に基づいて、複合機A1,A2のそれぞれが各個別処理を実行した場合に、各個別処理の完了に要する時間を演算(予測)する。そして、処理決定部22又はチャットボットA1,A2は、各個別処理の完了に要する総時間が最小となるように、複合機A1,A2に各個別処理を割り当てる。こうすることで、指示内容に含まれる処理をより早く完了することができる。また、他の処理を実行中の機器12、故障中の機器12、及び、電源がオフになっている機器12には、個別処理は割り当てられなくてもよい。
【0143】
別の例として、処理決定部22又はチャットボットA1,A2は、チャットボットA1が担当する個別処理の数(つまり、複合機A1に割り当てられる個別処理の数)と、チャットボットA2が担当する個別処理の数(つまり、複合機A2に割り当てられる個別処理の数)との差がより小さくなるように、各個別処理を複合機A1,A2に割り当ててもよい。こうすることで、複合機A1,A2の負荷が軽減され得る。また、仮に複合機A1,A2の性能が同じである場合、処理の完了に要する時間が短縮される。また、複合機A1,A2の性能及びステータスに基づく重み付け処理が適用されてもよい。例えば、性能がより高い複合機が、より多くの個別処理を実行してもよい。また、電源がオンになっているが処理を実行していない複合機が、処理を実行中の複合機よりも多くの個別処理を実行してもよい。
【0144】
また、処理決定部22又はチャットボットA1,A2は、複合機A1,A2の性能に応じて、1又は複数の個別処理を複合機A1,A2に割り当ててもよい。例えば、複合機A1,A2が同一機能を有している場合であっても、その機能に関して、複合機A1の性能が複合機A2の性能よりも高い場合、その機能によって実現される個別処理は、複合機A1に割り当てられる。例えば、個別処理が印刷である場合、解像度がより高い複合機に、当該個別処理が割り当てられる。また、複合機に搭載されているプロセッサのクロック周波数、メモリの容量及び画像形成処理の能力等に基づいて、個別処理の割り当てが行われてもよい。機器12の性能を考慮することで、例えば、指示内容に含まれる処理をより早く完了したり、より質の高い結果物(成果物)を生成したりすることができる。また、過去に当該個別処理を実行した実績のある複合機、又は、その実績数がより大きい複合機に、当該個別処理が割り当てられてもよい。もちろん、複合機A1,A2のステータスも考慮して個別処理が割り当てられてもよい。
【0145】
また、処理決定部22又はチャットボットA1,A2は、複合機A1によって得られると想定される処理結果の質と、複合機A2によって得られると想定される処理結果の質とに応じて、1又は複数の個別処理を複合機A1,A2に割り当ててもよい。質は、例えば、完成品(例えば印刷物)の精度又はミスの発生頻度等によって定められる。例えば、複合機A1,A2が同一機能を有している場合であっても、その機能に関して、複合機A1によって得られると想定される完成品の精度が、複合機A2によって得られると想定される完成品の精度よりも高い場合、その機能によって実行される個別処理は、複合機A1に割り当てられる。また、複合機A1による失敗の発生頻度が、複合機A2による失敗の発生頻度よりも低い場合、当該個別処理は複合機A1に割り当てられる。例えば、失敗が履歴として管理されており、その履歴に基づいて、失敗の発生頻度が演算される。このように処理結果の質を考慮することで、より高い質を有する処理結果が得られる。
【0146】
また、個別処理が割り当てられた機器12に搭載されているチャットボットは、当該機器12の性能、ステータス及び当該個別処理の内容に基づいて、自身が担当した個別処理(当該機器12に割り当てられた個別処理)が完了する時間を予測してもよい。その完了予測時間を示す情報は、当該チャットボットの発言内容を示す情報として、当該機器12から端末装置10Aに送信される。端末装置10Aの制御部20は、その完了予測時間を示す情報を、当該チャットボットの発言内容としてUI部16の表示部に表示させる。
【0147】
例えば、チャットボットA1は、複合機A1に割り当てられた個別処理が完了する時間(第1完了予測時間)を予測し、その第1完了予測時間を示す情報を端末装置10Aに送信する。同様に、チャットボットA2は、複合機A2に割り当てられた個別処理が完了する時間(第2完了予測時間)を予測し、その第2完了予測時間を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、第1完了予測時間を示す情報と第2完了予測時間を示す情報をUI部16の表示部に表示させる。
【0148】
例えば
図9に示すように、制御部20は、第1完了予測時間を示す情報を、チャットボットA1の発言内容82として画像68に紐付けて画面64に表示させ、第2完了予測時間を示す情報を、チャットボットA2の発言内容84として画像70に紐付けて画面64に表示させる。
図9に示す例では、第1完了予測時間と第2完了予測時間は、それぞれ別々に画面64に表示されている。こうすることで、各個別処理の完了予測時間を個別的にユーザに提示することができる。
【0149】
また、複合機A1に割り当てられた個別処理が完了した場合、チャットボットA1は、当該個別処理が完了した旨を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、その情報をチャットボットA1の発言内容86として画像68に紐付けて画面64に表示させる。同様に、複合機A2に割り当てられた個別処理が完了した場合、その完了した旨を示す情報が、チャットボットA2の発言内容88として画像70に紐付けて画面64に表示される。なお、発言内容86,88が示す情報が、指示内容の対応結果を示す情報の一例に相当する。
【0150】
また、第1完了予測時間と第2完了予測時間との差分が閾値以下である場合、端末装置10Aの制御部20は、第1完了予測時間と第2完了予測時間とを同一メッセージとして画面64に表示させてもよい。例えば
図10に示すように、制御部20は、完了予測時間を示す情報をチャットボットA1,A2の発言内容90として画像68,70に紐付けて画面64に表示させる。このとき表示される完了予測時間は、第1完了予測時間又は第2完了予測時間であってもよいし、第1完了予測時間と第2完了予測時間の平均であってもよいし、より早い又はより遅い完了予測時間であってもよい。このように、完了予測時間が一括して表示されてもよい。こうすることで、ユーザは1つの完了予測時間を参照することで、指示内容に含まれる処理の完了予測時間を把握することができる。
【0151】
複合機A1,A2のそれぞれに割り当てられた個別処理が完了した場合、制御部20は、その完了した旨を示す情報をチャットボットA1,A2の発言内容92として画像68,70に紐付けて画面64に表示させる。
【0152】
また、チャットボットA1が担当した個別処理(複合機A1に割り当てられた個別処理)が完了し、チャットボットA2が担当した個別処理(複合機A2に割り当てられた個別処理が完了し、その完了がユーザに通知された後、予め定められた時間以内にユーザが確認作業を行わなかった場合、制御部20は、ユーザに確認を促すための情報の通知を制御してもよい。つまり、制御部20は、確認作業の実行をユーザに催促する。
【0153】
例えば、複合機A1,A2のそれぞれに割り当てられた個別処理が完了したものとする。この場合、
図11に示すように、複合機A1に割り当てられた個別処理が完了した旨を示す情報が、チャットボットA1の発言内容94として画像68に紐付けて画面64に表示される。同様に、複合機A2に割り当てられた個別処理が完了した旨を示す情報が、チャットボットA2の発言内容96として画像70に紐付けて画面64に表示される。
【0154】
最後の個別処理(例えば複合機A2に割り当てられた個別処理)が完了した時点、又は、発言内容96が画面64に表示された時点から、予め定められた時間以内にユーザによって確認作業が行われなかった場合、制御部20は、ユーザに確認作業を促すための情報をチャットボットA1,A2の発言内容98として画像68,70に紐付けて画面64に表示させる。
【0155】
確認作業は、例えば、チャットボットA1,A2の発言内容に対する既読操作(例えば、チャットボットA1,A2の発言内容を画面64上にてユーザが指定する操作)、又は、指示内容に含まれる処理に特有の確認作業である。例えば、指示内容に含まれる処理が印刷である場合、その特有の確認作業は、ユーザが印刷物を複合機から取ることである。例えば、複合機A1又は複合機A2の出力トレイに印刷物が残存しており、センサによって当該印刷物が検知されている場合、チャットボットA1,A2は、確認作業がユーザによって実行されていないと判断し、その判断結果を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、その情報を受けると、確認作業をユーザに促すための情報を画面64に表示させる。例えば、処理毎に、ユーザが実行すべき確認作業が定められており、各処理の確認作業を示す情報が、端末装置10及び各機器12に記憶されている。制御部20又はチャットボットA1,A2は、その情報を参照することで、ユーザによって指定された処理に対応する確認作業が行われたか否かを判断する。また、上記の予め定められた時間以内にユーザが既読操作を行わなかった場合、制御部20は、確認作業を促すための情報を画面64に表示させる。このように確認作業を促すための情報を表示することで、ユーザによる確認の忘れを抑制又は防止することができる。
【0156】
また、制御部20は、確認作業が実行されるまで、定期的に(例えば5分間隔毎等に)確認作業を促すための情報を画面64に表示させてもよい。確認作業が実行された場合、制御部20は、その情報の表示を止める。
【0157】
なお、確認作業を促すための情報の表示と共に、又は、その表示の代わりに、確認作業を促すためのメッセージが音声として端末装置10Aから発せられてもよい。チャットボットA1,A2の他のメッセージも同様である。また、ユーザは、確認作業を実行した旨を示すメッセージを音声によって端末装置10Aに入力してもよい。
【0158】
図8に示す例では、同一種類の複数の機器12(例えば複合機A1,A2)を用いることで処理が実行されているが、互いに種類の異なる複数の機器12を用いることで処理が実行されてもよい。以下、
図12を参照して、具体例を挙げて説明する。
図12は、画面64を示す。ここでは、指示内容に含まれる処理を実行するための機器12として、ユーザによって、複合機A1とロボットB1が選択されたものとする。ロボットB1には、チャットボットB1(操作アシスタントB1)が搭載されている。
【0159】
端末装置10Aの制御部20は、ユーザの会話相手であるチャットボットA1に紐付く画像68とチャットボットB1に紐付く画像100を画面64に表示させる。
図8に示す例と同様に、「どうしましたか?」といった発言内容102が画像68,100に紐付けて画面64に表示され、それに対して、ユーザが、文字入力又は音声入力等によって指示内容を端末装置10Aに入力すると、制御部20は、その指示内容を示す発言内容104を画像66に紐付けて画面64に表示させる。端末装置10Aは、その指示内容を示す情報を複合機A1及びロボットB1に送信する。
【0160】
チャットボットA1(処理決定部34)は、例えば、複合機A1に記憶されて複合機A1が有する機能のみを示す機能管理テーブルを参照することで、上記の指示内容に含まれる複数の個別処理の中で、複合機A1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を特定する。そして、チャットボットA1は、複合機A1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を示す情報をロボットB1に送信する。こうすることで、チャットボットA1の相手方であるチャットボットB1は、複合機A1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を認識することができる。同様に、チャットボットB1(処理決定部34)は、ロボットB1に記憶されてロボットB1が有する機能のみを示す機能管理テーブルを参照することで、当該複数の個別処理の中で、ロボットB1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を特定する(ロボットB1が有する機能及び有しない機能を特定する)。そして、チャットボットB1は、ロボットB1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を示す情報を複合機A1に送信する。こうすることで、チャットボットB1の相手方であるチャットボットA1は、ロボットB1が有する機能によって実行可能な個別処理及び実行不可能な個別処理を認識することができる。
【0161】
例えば、「ある特定のファイルに関して、両面に2ページずつ長編綴じで印刷し、その印刷物を20部作成し、それら20部の印刷物をユーザ(端末装置10A)のところへ持ってくる」という処理(連携機能)の実行が、指示内容としてユーザによって与えられている。
【0162】
複合機A1は、両面に2ページずつ長編綴じで印刷する機能を有するが、自走して物を運ぶ機能を有していないものとする。一方、ロボットB1は、印刷機能を有していないが、自走して物を運ぶ機能を有しているものとする。この場合、チャットボットA1は、複合機A1にて上記の印刷を実行することができるが、印刷物をユーザのところへ運ぶことはできないと認識する。また、チャットボットB1は、上記の印刷を実行することができないが、印刷物をユーザのところへ運ぶことができると認識する。上記のように、複合機A1とロボットB1との間で、実行可能な個別処理及び実行不可能な個別処理を示す情報が送受信されるので、チャットボットA1,B1は、互いの認識内容を共有することができる。そして、チャットボットA1,B1は、上記の印刷する処理を複合機A1に割り当て、印刷物をユーザ(端末装置10A)のところへ運ぶ処理をロボットB1に割り当てる。なお、複合機A1、ロボットB1及び端末装置10Aのそれぞれの位置は、例えば、GPS(Global Positioning System)等の技術を用いることで特定することができる。従って、チャットボットA1,B1は、GPS技術等を用いることで、複合機A1、ロボットB1及び端末装置10Aの位置を特定することができる。
【0163】
チャットボットA1,B1は、それぞれ自身の機器12に割り当てられた個別処理を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、チャットボットA1から送られてきた情報に基づいて、複合機A1に割り当てられた個別処理の内容を示す情報をチャットボットA1の発言内容106として画像68に紐付けて画面64に表示させる。ロボットB1に割り当てられた個別処理の内容を示す情報も同様にして、チャットボットB1の発言内容108として画像100に紐付けて画面64に表示される。
【0164】
ユーザが発言内容110によって処理の実行を指示した場合、複合機A1及びロボットB1は、自身に割り当てられた個別処理を実行する。
【0165】
上記のように、互いに種類の異なる複数の機器12に対して指示内容が与えられた場合であっても、各機器12に搭載されているチャットボットは、自身が搭載されている機器12によって実行可能な個別処理、及び、他の機器12によって実行可能な個別処理を特定し、各個別処理を各機器12に割り当てることができる。
【0166】
なお、個別処理の割り当ては、チャットボットA1,B1(処理決定部34)によって行われているが、端末装置10Aの処理決定部22によって行われてもよい。
【0167】
上記の実施形態では、ユーザによって選択された複数の機器12によって実行可能な処理を含む指示内容がユーザによって与えられている。実行不可能な処理を含む指示内容がユーザによって与えられた場合、制御部20は、その旨を通知(表示又は音声出力等)してもよい。
図13を参照して、この処理について説明する。
図13は、画面64を示す。ここでは、指示内容に含まれる処理を実行するための機器12として、ユーザによって、複合機A1とカメラC1が選択されたものとする。カメラC1には、チャットボットC1(操作アシスタントC1)が搭載されている。
【0168】
端末装置10Aの制御部20は、ユーザの会話相手であるチャットボットA1に紐付く画像68とチャットボットC1に紐付く画像112を画面64に表示させる。
図8に示す例と同様に、「どうしましたか?」といった発言内容114が画像68,112に紐付けて画面64に表示され、それに対して、ユーザが、文字入力又は音声入力等によって指示内容を端末装置10Aに入力すると、制御部20は、その指示内容を示す発言内容116を画像66に紐付けて画面64に表示させる。端末装置10Aは、その指示内容を示す情報を複合機A1及びカメラC1に送信する。
【0169】
ここでは、「ラーメンが食べたい。料理して。」という処理を含む指示内容がユーザによって与えられている。複合機A1及びカメラC1が、その処理を実現するための機能を有していない場合(例えば各機器12の機能管理テーブルに上記の処理を実行するための機能が登録されていない場合)、チャットボットA1,C1は、その指示内容に含まれる処理を実行することができない旨を示す情報を端末装置10Aに送信する。端末装置10Aの制御部20は、その旨を示す情報をチャットボットA1,C1の発言内容118として画像68,112に紐付けて画面64に表示させる。ユーザが了解した旨を示す発言内容120が端末装置10Aに入力されると、一連の会話は終了する。
【0170】
(変形例)
以下、変形例について説明する。変形例では、互いの相性に基づいて定められた機器12の組み合わせの候補の一覧が表示される。ユーザは、その一覧の中から、指示内容に含まれる処理を実行すべき機器12を選択する。以下、変形例について詳しく説明する。
【0171】
図14は、変形例に係る相性管理テーブルの一例を示す。変形例に係る相性管理テーブルにおいては、機器12の組み合わせを示す情報と、相性レベルを示す情報とが互いに対応付けられている。相性は、例えば、機器12の組み合わせによって実現可能な連携機能の数、その組み合わせによって実現可能な処理の内容、その組み合わせによって実現される性能の高さ、その組み合わせによって処理が実行された場合の生成物(成果物)の質の高さ、各機器12のステータス、各機器12の製造メーカ、又は、各機器12の規格等に従って予め定められる。例えば、相性の良い組み合わせほど、数値の大きい相性レベルが対応付けられている。相性管理テーブルのデータは、端末装置10及び各機器12に記憶されている。
【0172】
図15は、機器12を選択するための画面の一例を示す。端末装置10Aの制御部20は、ユーザの指示に従って、処理を実行する複数の機器12を選択するための画面122をUI部16の表示部に表示させる。制御部20は、機器12の組み合わせの一覧を画面122に表示させる。この場合に、制御部20は、相性管理テーブルに基づいて、相性の良い機器12の組み合わせを相性の悪い組み合わせよりも優先的に表示する。例えば、制御部20は、相性の良い組み合わせを相性の悪い組み合わせよりも一覧の上位に表示する。例えば、複合機AとPC(B)との組み合わせの相性は、複合機AとロボットCとの組み合わせの相性よりも良いため、複合機AとPC(B)との組み合わせは、複合機AとロボットCとの組み合わせよりも一覧の上位に表示されている。こうすることで、ユーザは、相対的に相性の良い機器12の組み合わせを選択し易くなる。なお、制御部20は、各機器12の性能及びステータスを各組み合わせに紐付けて画面122に表示させてもよい。
【0173】
ユーザは、上記の一覧の中から、指示内容に含まれる処理を実行するための機器12の組み合わせを選択する。その選択後の処理は、上述した実施形態に係る処理と同じである。
【0174】
また、制御部20は、相性に基づいて定められた機器12の組み合わせの候補を画面122に表示させてもよい。例えば、制御部20は、相性レベルが閾値以上となる機器12の組み合わせの候補を画面122に表示させ、相性レベルが閾値未満となる組み合わせの候補を画面122に表示させなくてもよい。こうすることで、ユーザは、相対的に相性の良い機器12の組み合わせを選択し易くなる。
【0175】
上記とは別の例として、ユーザが機器12を選択した場合、その機器12と相性の良い別の機器12がユーザに推奨されてもよい。
図16を参照して、この処理について説明する。
図16は、画面64を示す。例えば、ユーザが端末装置10Aを操作して複合機A1を選択した場合、端末装置10Aは、複合機A1が選択されたことを示す情報を複合機A1に送信する。なお、複合機A1を選択した旨を示す発言内容124が画像66に紐付けて画面64に表示される。
【0176】
複合機A1に搭載されているチャットボットA1(制御部32)は、複合機A1に記憶されている相性管理テーブルを参照することで、複合機A1と相性の良い別の機器12を特定する。例えば、チャットボットA1は、複合機A1との相性レベルが閾値以上となる他の機器12を特定し、当該他の機器12の機器識別情報を端末装置10Aに送信する。端末装置10Aの制御部20は、当該他の機器12の機器識別情報を含む情報をチャットボットA1の発言内容126として画像68に紐付けて画面64に表示させる。例えば、複合機A1とPC(B)との相性レベルが閾値以上である場合、PC(B)が、複合機A1と相性の良い機器12としてユーザに推奨される。複合機A1との相性レベルが閾値以上となる複数の機器12が特定された場合、当該複数の機器12がユーザに推奨される。もちろん、相性レベルが上位から予め定められた順位以内に含まれる機器12が推奨されてもよい。また、複合機A1との相性レベルが閾値以上となる機器12が特定されない場合、複合機A1と相性の良い機器12は推奨されない。
【0177】
更に別の例として、ユーザによって与えられた指示案内に含まれる処理を実行するために必要な機器12がユーザに推奨(案内)されてもよい。
図17を参照して、この処理について説明する。
図17は、画面64を示す。ここでは、指示内容に含まれる処理を実行するための機器12として、ユーザによって、複合機A1,A2が選択されたものとする。画面64には、チャットボットA1に紐付く画像68とチャットボットA2に紐付く画像70が表示され、ユーザに要望を問い合わせるための発言内容128が、画像68,70に紐付けて画面64に表示されている。
【0178】
例えば、「ある特定のファイルを印刷して、印刷物をユーザのところに持ってくる」という連携機能の実行が、指示内容としてユーザによって与えられたものとする。その指示内容を示す発言内容130は、画像66に紐付けられて画面64に表示される。
【0179】
チャットボットA1,A2(処理決定部34)又は端末装置10Aの処理決定部22は、複合機A1,A2が、上記の指示内容に含まれる各個別処理を実行する機能を有しているか否かを判断する。複合機A1,A2は印刷する機能を有しているが、印刷物をユーザ(端末装置10A)のところまで運ぶための機能を有していないものとする。この場合、チャットボットA1,A2又は処理決定部22は、単独機能管理テーブル等を参照することで、印刷物を運ぶための機能を有する機器12を特定する。例えば、ロボットB1が印刷物を運ぶ機能を有している場合(例えば、単独機能管理テーブル等に、ロボットB1が有する機能として運ぶ機能が登録されている場合)、チャットボットA1,A2又は処理決定部22は、ロボットB1の使用をユーザに推奨する。この場合、ロボットB1の使用を推奨するための情報が、発言内容132として画像68,70に紐付けて画面64に表示される。こうすることで、ユーザによって与えられた指示内容に含まれる処理に要する機器12がユーザによって選択されていない場合に、その機器12をユーザに推奨することができる。
【0180】
チャットボットA1,A2又は処理決定部22は、処理に要する機器12としてロボットB1を選択してもよい。例えば、チャットボットA1,A2又は処理決定部22は、ロボットB1に接続要求を示す情報を送信し、ユーザとの会話へのチャットボットB1(ロボットB1に搭載されているチャットボット)の参加を指示する。これにより、ユーザはチャットボットB1との会話が可能となり、ロボットB1を含む機器群に対して、処理の実行を指示することができる。
【0181】
上記の実施形態及び変形例では、機器12の全体にチャットボット(操作アシスタント)が紐付けられているが、機器12の部分毎にチャットボット(操作アシスタント)が紐付けられてもよい。例えば、複合機の本体部に、本体部が有する機能を制御するためのチャットボットが紐付けられ、複合機の後処理部に、後処理部が有する機能を制御するためのチャットボットが紐付けられてもよい。他の機器12についても同様である。例えば、複合機の本体部がユーザによって選択された場合、当該本体部に紐付けられたチャットボットがユーザの会話相手として選択される。当該チャットボットとユーザとの間で会話が行われて、本体部が有する機能を利用する処理を含む指示内容がユーザによって与えられて、処理の実行指示がユーザによって与えられた場合、その処理が本体部によって実行される。画面64には、その本体部に紐付けられたチャットボットの画像が表示され、そのチャットボットの発言内容が表示される。また、複数の部分(例えば複合機の本体部とPCの表示部)がユーザによって選択された場合、各部分に紐付けられたチャットボットがユーザの会話相手として動作する。例えば、複合機の本体に紐付けられたチャットボットとPCの表示部に紐付けられたチャットボットが、ユーザの会話相手として動作する。部分に紐付くチャットボットが用いられる場合も、上記の実施形態及び変形例と同様に、1又は複数の部分に対して指示内容がユーザによって与えられ、その指示内容に含まれる処理が、1又は複数の部分によって実行される。
【0182】
また、上記の実施形態及び変形例では、機器12にチャットボットが紐付けられているが、ソフトウェアにチャットボットが紐付けられていてもよい。例えば、1又は複数のソフトウェアにチャットボットが紐付けられており、ユーザは、そのチャットボットと会話することで、そのチャットボットに紐付けられた1又は複数のソフトウェアに処理の実行指示を与えてもよい。この場合も、機器12に紐付くチャットボットとの会話と同様に、ユーザは、画面64上にて、ソフトウェアに紐付けられたチャットボットと会話することで指示内容を与える。
【0183】
上記の端末装置10及び機器12のそれぞれは、一例としてハードウェアとソフトウェアとの協働により実現される。具体的には、端末装置10及び機器12のそれぞれは、図示しないCPU等の1又は複数のプロセッサを備えている。当該1又は複数のプロセッサが、図示しない記憶装置に記憶されたプログラムを読み出して実行することにより、端末装置10及び機器12のそれぞれの各部の機能が実現される。上記プログラムは、CD又はDVD等の記録媒体を経由して、又は、ネットワーク等の通信経路を経由して、記憶装置に記憶される。別の例として、端末装置10及び機器12のそれぞれの各部は、例えばプロセッサ、電子回路又はASIC(Application Specific Integrated Circuit)等のハードウェア資源により実現されてもよい。その実現においてメモリ等のデバイスが利用されてもよい。更に別の例として、端末装置10及び機器12のそれぞれの各部は、DSP(Digital Signal Processor)又はFPGA(Field Programmable Gate Array)等によって実現されてもよい。
【符号の説明】
【0184】
10 端末装置、12 機器、20,32 制御部、22,34 処理決定部。