特開2026-160759IP Force 特許公報全文掲載

技術分野

情報処理装置、プログラム及びシステム

要約特許出願時に添付された[要約書]

【課題】大規模言語モデルによる回答の質の適正化とユーザの満足感向上又は不快感軽減とをバランス良く両立させる。
【解決手段】大規模言語モデルに対して入力されるべきプロンプトをユーザからの入力情報に応じて生成する情報処理装置であって、コントローラを有する。コントローラは、データベースから供給される複数の被検索情報の夫々と入力情報との関連度を導出し、複数の被検索情報の中から閾値以上の関連度を有する被検索情報を1以上抽出して、抽出した被検索情報を含む参考情報をプロンプトに付加する。コントローラは、ユーザの感情に応じて閾値(TH)を設定する。
【選択図】図8

発明が解決しようとする課題[発明の詳細な説明]から抜粋

但し、大規模言語モデルから得られる回答はハルシネーションを含む可能性がある。ハルシネーションを含む回答に対してユーザがそれほど不快感を抱かない場合も多いが、場合によっては、ハルシネーションを含む回答がユーザに大きな不快感を与えることもある。一方で、ハルシネーションを極力除外するべくプロンプトに含める外部情報の選定基準を過度に厳格化するとRAGのメリットが減退する。

課題を解決するための手段[発明の詳細な説明]から抜粋

本発明に係る情報処理装置は、大規模言語モデルに対して入力されるべきプロンプトをユーザからの入力情報に応じて生成する情報処理装置であって、コントローラを有し、前記コントローラは、データベースから供給される複数の被検索情報の夫々と前記入力情報との関連度を導出し、前記複数の被検索情報の中から閾値以上の前記関連度を有する被検索情報を1以上抽出して、抽出した被検索情報を含む参考情報を前記プロンプトに付・・・ 続きを知財ポータルサイト IP Force にログインして見る

発明の効果[発明の詳細な説明]から抜粋

ユーザの感情によっては、十分に高い関連度を有する被検索情報のみを参考情報に含めることで、ハルシネーションの低減を図った方が有利であることも多い。例えばユーザが苛ついた感情を有するときにハルシネーションを含む回答(プロンプトに基づく大規模言語モデルの回答)をユーザに出力すると、ユーザが強い不快感を抱く場合がある。ハルシネーションの低減により、プロンプトに基づいて大規模言語モデルから得らえる回答の質の向上が見込まれ、ユーザに不快感を生じさせにくい。一方、ユーザの感情によっては、多少のハルシネーションを許容しつつ、或る程度低い関連度を有する被検索情報も参考情報に含めた方が有利であることも多い。或る程度低い関連度を有する被検索情報も参考情報に含めることで、情報を求めるユーザの満足度向上が期待される。これらを考慮し、本発明に係るコントローラは、被検索情報を参考情報に含めるか否かの境界となる閾値を、ユーザの感情に応じて設定する。これによりユーザの感情に応じて閾値の適正化が図られ、以って、大規模言語モデルによる回答の質の適正化とユーザの満足感向上又は不快感軽減とをバランス良く両立させることができる。

この発明についての権利主張の範囲[特許請求の範囲]

知財ポータルサイト IP Force にログインして確認する (無料)

この特許公報に記載されている図面[図面の簡単な説明]から抜粋

【図1】 本発明の情報処理システムの全体構成図である。
【図2】 本発明の情報処理装置の内部構成図である。
【図3】 本発明のサーバ装置の内部構成図である。
【図4】 本発明の実施形態に係り、ユーザが発する質問等に応答する回答がユーザに対して出力されるまでの流れを示すフローチャートである。
【図5】 本発明の実施形態に係り、情報処理装置のコントローラにおける機能ブロック図である。
【図6】 本発明の実施形態に係り、データベース内に複数の被検索情報が記憶される様子と、各被検索情報に対してユーザ入力情報との関連度が導出される様子を示す図である。
【図7】 本発明の実施形態に係り、感情推定に関わる構成図である。
【図8】 本発明の実施形態に係り、情報処理装置にて参照されるテーブルの構造図である。
【図9】 本発明の実施形態に属する実施例EX_1に係り、対話装置の動作フローチャートである。
【図10】 本発明の実施形態に属する実施例EX_2に係り、対話装置の動作フローチャートである。
【図11】 本発明の実施形態に属する実施例EX_2に係り、対話装置の動作フローチャートである。
【図12】 本発明の実施形態に属する実施例EX_2に係り、幾つかの用語の関係を示す図である。
【図13】 本発明の実施形態に属する実施例EX_2に係り、特定のケースにおける参考情報の設定動作を示す図である。
【図14】 本発明の実施形態に属する実施例EX_3Aに係り、第1特殊シーケンスの動作フローチャートである。
【図15】 本発明の実施形態に属する実施例EX_3Aに係り、第1特殊シーケンスの動作フローチャートである。
【図16】 本発明の実施形態に属する実施例EX_3Aに係り、特定のケースにおけるユーザ入力情報の入力からユーザへの回答出力までの動作を示す図である。
【図17】 本発明の実施形態に属する実施例EX_3Bに係り、第2特殊シーケンスの動作フローチャートである。
【図18】 本発明の実施形態に属する実施例EX_3Bに係り、第2特殊シーケンスの動作フローチャートである。
【図19】 本発明の実施形態に属する実施例EX_3Bに係り、特定のケースにおけるユーザ入力情報の入力からユーザへの回答出力までの動作を示す図である。

選択図 図8出願人が指定した本件の代表的な図

SYS 情報処理システム V1 車両 U1 ユーザ 1 対話装置 2 推定用情報の取得装置 3 サーバ装置 3a LLM 31 サーバコントローラ 32 メモリ 33 通信部 31a 演算処理部 321 モデル情報 4 データベース 5 情報処理装置 51 コントローラ 51a 演算処理部 52 メモリ 53 通信部 6 HMI 61 マイクロホン 62 スピーカ 63 表示装置 F1 対話処理部 F2 関連度導出部 F3 参考情報設定部 F4 プロンプト生成部 F5 感情推定部

全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録

[広告欄]

ログインすれば広告は減ります

ログインすれば広告は減ります