特許ウォッチ

公開番号2025112453
公報種別公開特許公報(A)
公開日2025-08-01
出願番号2024006677
出願日2024-01-19
発明の名称行動決定装置、行動決定方法、および行動決定プログラム
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06Q 10/101 20230101AFI20250725BHJP(計算;計数)
要約【課題】合意形成の効率化を図ること。
【解決手段】行動決定装置は、言語モデルに基づいて進行役を模擬する第1エージェントと、言語モデルに基づいて参加者を模擬する第2エージェントと、の間の模擬会話を実行することで、模擬会話の開始から終了に至るまでの複数通りの模擬会話経路を探索する探索処理と、第2エージェントにおける参加者の参加者集団に対する集団認知を示す内面状態に基づいて、複数通りの模擬会話経路において第2エージェントから生成される模擬会話での模擬応答文の発話を評価する評価値を算出する算出処理と、評価値に基づいて、模擬会話の開始時点における複数通りの模擬発話候補文の中から特定の模擬発話候補文を抽出する抽出処理と、特定の模擬発話候補文を出力する出力処理と、を実行する。
【選択図】図1
特許請求の範囲【請求項１】
プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する行動決定装置であって、
前記プロセッサは、
言語モデルに基づいて参加者集団内の会話での合意形成を支援する進行役を模擬する第１エージェントと、前記言語モデルに基づいて前記会話に参加する参加者を模擬する第２エージェントと、の間の模擬会話を実行することで、前記模擬会話の開始から終了に至るまでの複数通りの模擬会話経路を探索する探索処理と、
前記第２エージェントにおける前記参加者の前記参加者集団に対する集団認知を示す内面状態に基づいて、前記探索処理によって探索された前記複数通りの模擬会話経路において前記第２エージェントから生成される前記模擬会話での模擬応答文の発話を評価する評価値を算出する算出処理と、
前記算出処理によって算出された評価値に基づいて、前記模擬会話の開始時点における前記第１エージェントから前記第２エージェントへの複数通りの模擬発話候補文の中から特定の模擬発話候補文を抽出する抽出処理と、
前記抽出処理によって抽出された前記特定の模擬発話候補文を出力する出力処理と、
を実行することを特徴とする行動決定装置。
続きを表示（約 1,900 文字）【請求項２】
請求項１に記載の行動決定装置であって、
前記探索処理では、前記プロセッサは、前記模擬会話として、前記会話の合意形成を支援する合意支援文を前記第１エージェントに入力して複数通りの模擬発話候補文を生成する第１生成と、前記模擬発話候補文を前記第２エージェントに入力して前記模擬発話候補文に対する模擬応答文を前記合意支援文として生成する第２生成と、を繰り返し実行する、
ことを特徴とする行動決定装置。
【請求項３】
請求項２に記載の行動決定装置であって、
前記記憶デバイスは、前記言語モデルと、人物の特徴を示す人物情報と、を記憶しており、
前記プロセッサは、
前記言語モデルおよび人物情報に基づいて、前記第１エージェントおよび第２エージェントを生成する生成処理を実行し、
前記探索処理では、前記プロセッサは、前記生成処理によって生成された前記第１エージェントと前記第２エージェントと、の間の前記模擬会話として、前記第１生成と前記第２生成とを繰り返し実行することで、前記複数通りの模擬会話経路を探索する、
ことを特徴とする行動決定装置。
【請求項４】
請求項２に記載の行動決定装置であって、
前記行動決定装置と通信可能な前記言語モデルを記憶する外部装置にアクセス可能であり、
前記記憶デバイスは、人物の特徴を示す人物情報と、を記憶しており、
前記プロセッサは、
前記人物情報を含む前記第１エージェントおよび前記第２エージェントの生成要求を前記外部装置に送信して、前記人物情報に基づいて前記外部装置に前記第１エージェントおよび前記第２エージェントを生成させるエージェント生成処理を実行し、
前記探索処理では、前記プロセッサは、前記エージェント生成処理によって生成された前記第１エージェントと前記第２エージェントとの間の前記模擬会話として、前記第１生成と前記第２生成とを繰り返し実行することで、前記複数通りの模擬会話経路を探索する、
ことを特徴とする行動決定装置。
【請求項５】
請求項２に記載の行動決定装置であって、
前記探索処理では、前記プロセッサは、前記模擬発話候補文の入力先となる前記第２エージェントを、前記第２エージェントどうしの前記内面状態のベクトル間距離に基づいて決定し、前記模擬発話候補文を決定した前記第２エージェントに入力して前記模擬応答文を前記合意支援文として生成する、
ことを特徴とする行動決定装置。
【請求項６】
請求項２に記載の行動決定装置であって、
前記探索処理では、前記プロセッサは、前記模擬発話候補文の入力先となる前記第２エージェントを、前記第１エージェントの前記内面状態と前記第２エージェントの前記内面状態とのベクトル間距離に基づいて決定し、前記模擬発話候補文を決定した前記第２エージェントに入力して前記模擬応答文を前記合意支援文として生成する、
ことを特徴とする行動決定装置。
【請求項７】
請求項１に記載の行動決定装置であって、
前記プロセッサは、
自由エネルギー原理における、前記参加者の集団認知に関する自由エネルギーを統合した統合自由エネルギーに基づいて、前記評価値を算出する、
ことを特徴とする行動決定装置。
【請求項８】
請求項１に記載の行動決定装置であって、
前記算出処理では、前記プロセッサは、前記第２エージェントどうしの前記内面状態のベクトル間距離の総和に基づいて、前記評価値を算出する、
ことを特徴とする行動決定装置。
【請求項９】
請求項１に記載の行動決定装置であって、
前記算出処理では、前記プロセッサは、前記第２エージェントの各々について、前記模擬会話の進行方向における前記内面状態のベクトル間距離の総和に基づいて、前記評価値を算出する、
ことを特徴とする行動決定装置。
【請求項１０】
請求項２に記載の行動決定装置であって、
前記記憶デバイスは、対話目標と、前記対話目標に対するスコアと、を対応付けた対話目標情報を記憶し、
前記算出処理では、前記プロセッサは、前記対話目標と前記第２生成で生成される前記模擬応答文とのベクトル間距離と、前記スコアと、に基づいて、前記評価値を調整する、
ことを特徴とする行動決定装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、行動を決定する行動決定装置、行動決定方法、および行動決定プログラムに関する。
続きを表示（約 2,700 文字）【背景技術】
【０００２】
下記非特許文献１は、ダイナミックな議論プロセスをマルコフ意思決定プロセス（ＭａｒｋｏｖＤｅｃｉｓｉｏｎＰｒｏｃｅｓｓ；ＭＤＰ）としてモデル化し、複数ラウンドの議論に最適なファシリテーション方針を学習するために設計された２層のファシリテーションエージェントを開示する。
【先行技術文献】
【非特許文献】
【０００３】
Shiyao Ding and Takayuki Ito, A Deep Reinforcement Learning Based Facilitation Agent for Consensus Building among Multi-Round Discussions, ThＬ２0th Pacific International Conference on Artificial Intelligence (PRICAI 2023), November 17-19, 2023, Jakarta, Indonesia.
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上述した従来技術では、ファシリテーションエージェントが会話を支援する発話を強化学習により学習するため、実行時に大量のファシリテーション行動データを学習データとして収集し、学習することを必要とし、効率的な合意形成については、考慮されていない。
【課題を解決するための手段】
【０００５】
本願において開示される発明の一側面となる行動決定装置は、プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する行動決定装置であって、前記プロセッサは、言語モデルに基づいて参加者集団内の会話での合意形成を支援する進行役を模擬する第１エージェントと、前記言語モデルに基づいて前記会話に参加する参加者を模擬する第２エージェントと、の間の模擬会話を実行することで、前記模擬会話の開始から終了に至るまでの複数通りの模擬会話経路を探索する探索処理と、前記第２エージェントにおける前記参加者の前記参加者集団に対する集団認知を示す内面状態に基づいて、前記探索処理によって探索された前記複数通りの模擬会話経路において前記第２エージェントから生成される前記模擬会話での模擬応答文の発話を評価する評価値を算出する算出処理と、前記算出処理によって算出された評価値に基づいて、前記模擬会話の開始時点における前記第１エージェントから前記第２エージェントへの複数通りの模擬発話候補文の中から特定の模擬発話候補文を抽出する抽出処理と、前記抽出処理によって抽出された前記特定の模擬発話候補文を出力する出力処理と、を実行することを特徴とする。
【発明の効果】
【０００６】
本発明の代表的な実施の形態によれば、合意形成の効率化を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
【図面の簡単な説明】
【０００７】
図１は、行動決定システムのシステム構成例１を示す説明図である。
図２は、コンピュータのハードウェア構成例を示すブロック図である。
図３は、人物情報テーブルの一例を示す説明図である。
図４は、話題情報テーブルの一例を示す説明図である。
図５は、対話目標情報テーブルの一例を示す説明図である。
図６は、探索制御情報テーブルの一例を示す説明図である。
図７は、行動決定装置による行動決定処理手順例を示すフローチャートである。
図８は、ステップＳ７０２で生成されたファシリテータエージェントの内部モデルの一例を示す説明図である。
図９は、ステップＳ７０２で生成された参加者エージェントの内部モデルの一例を示す説明図である。
図１０は、発話情報探索処理（ステップＳ７０３）の詳細な処理手順例を示すフローチャートである。
図１１は、探索木の一例を示す説明図である。
図１２は、内面状態のグラフ例１を示す説明図である。
図１３は、内面状態のグラフ例２を示す説明図である。
図１４は、ファシリテータエージェントの発話結果文の画面表示例１を示す説明図である。
図１５は、ファシリテータエージェントの発話結果文の画面表示例２を示す説明図である。
図１６は、行動決定システムのシステム構成例２を示す説明図である。
図１７は、行動決定システムのシステム構成例３を示す説明図である。
【発明を実施するための形態】
【０００８】
以下に示す各実施例では、大規模言語モデル（ＬａｒｇｅＬａｎｇｕａｇｅＭｏｄｅｌ；ＬＬＭ）を活用し、人と人の関係性や合意形成を支援する行動決定システムを提供する。行動決定システムには、特に、人と人の「対立」が問題になり得るシーンにおいて、対立を緩和するエージェントが組み込まれる。具体的には、たとえば、行動決定システムは、自由エネルギー原理および能動推論への集団認知モデルの組込みと、ＬＬＭへの能動推論組込みによるエージェント化（自律化）と、により実現される。
【０００９】
行動決定システムの応用シーンとしては、
１．会議ファシリテーション（複数の参加者間での合意形成を促進）
２．ＳｏｃｉａｌＮｅｔｗｏｒｋｉｎｇＳｅｒｖｉｃｅ（ＳＮＳ）またはオンライン掲示板の管理（暴力的投稿など、参加者間の不適切な相互作用を抑制）
がある。以下、各実施例で詳細に説明する。
【実施例】
【００１０】
＜システム構成例＞
図１は、行動決定システムのシステム構成例１を示す説明図である。行動決定システム１００は、サーバとなる行動決定装置１０１と、１台以上（図１では、例として４台）の端末１０２と、を有する。行動決定装置１０１および端末１０２は、インターネット、ＬＡＮ（ＬｏｃａｌＡｒｅａＮｅｔｗｏｒｋ）、ＷＡＮ（ＷｉｄｅＡｒｅａＮｅｔｗｏｒｋ）などのネットワーク１０３により通信可能に接続される。また、外部装置１０４も、ネットワーク１０３を介して行動決定装置１０１および端末１０２と通信可能に接続される。
（【００１１】以降は省略されています）

関連特許