特許ウォッチ

公開番号2025095287
公報種別公開特許公報(A)
公開日2025-06-26
出願番号2023211201
出願日2023-12-14
発明の名称計算機システム及び制御対象システムの制御支援方法
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06F 16/90 20190101AFI20250619BHJP(計算;計数)
要約【課題】大規模言語モデル(LLM)が誤った情報を参照することによって発生するHallucinationを低減する。
【解決手段】計算機システムは、制御対象システム及び大規模言語モデルを有するテキスト生成システムと接続し、制御対象システムの制御マニュアルを管理するための制御マニュアル情報と、制御ツール及び制御マニュアルを分割した部分テキストの関係性を管理するためのリンク情報とを保持する。リンク情報は、前記制御ツール及び前記部分テキストの識別情報を対応づけた第2データを格納する。計算機システムは、制御ツールの情報を含む応答テキストを受信した場合、制御ツールを実行し、制御ツールの実行結果及び当該制御ツールに対応する部分テキストの識別情報を含む問合せテキストをテキスト生成システムに送信する。
【選択図】図7
特許請求の範囲【請求項１】
制御対象システムの制御を支援する計算機システムであって、
前記制御対象システム及び大規模言語モデルを有するテキスト生成システムと接続し、
前記制御対象システムを制御するための制御ツールと、前記テキスト生成システムと接続するエージェントとを備え、
前記制御対象システムの制御マニュアルを管理するための制御マニュアル情報と、前記制御ツール及び前記制御マニュアルを分割した部分テキストの関係性を管理するためのリンク情報と、を保持し、
前記制御マニュアル情報は、前記部分テキストを管理するための第１データを格納し、
前記リンク情報は、前記制御ツール及び前記部分テキストの識別情報を対応づけた第２データを格納し、
前記エージェントは、
問合せに対する思考、並びに、前記エージェントが実施すべき前記制御ツールに関する情報及び回答の少なくともいずれかを含む応答テキストを出力させるための制御情報を、前記テキスト生成システムに入力する第１処理と、
前記制御対象システムに対する制御の問合せを受け付けた場合、前記問合せに対応する問合せテキストを前記テキスト生成システムに送信する第２処理と、
前記テキスト生成システムから、前記制御ツールの情報を含む前記応答テキストを受信した場合、前記制御ツールを実行し、前記制御ツールの実行結果を含む問合せテキストを前記テキスト生成システムに送信する第３処理と、
前記テキスト生成システムから、前記問合せに対する回答を含む前記応答テキストを受信した場合、前記回答を出力する第４処理と、を実行し、
前記第３処理において、前記エージェントは、実行する前記制御ツールに対応する前記第２データが前記リンク情報に存在する場合、前記制御ツールの実行結果及び当該第２データに対応する前記部分テキストの識別情報を含む前記問合せテキストを前記テキスト生成システムに送信することを特徴とする計算機システム。
続きを表示（約 2,400 文字）【請求項２】
請求項１に記載の計算機システムであって、
前記第２データは参照回数を含み、
前記第３処理において、前記エージェントは、実行する前記制御ツールに対応する前記第２データが複数存在する場合、前記参照回数に基づいて使用する前記第２データを選択し、
前記エージェントは、前記問合せテキスト及び前記応答テキストをステータス情報として保存し、
前記計算機システムは、前記ステータス情報に基づいて、前記第２データの前記参照回数を更新する更新部を備えることを特徴とする計算機システム。
【請求項３】
請求項２に記載の計算機システムであって、
前記更新部は、
前記ステータス情報に基づいて、前記部分テキストの参照パターンを解析し、
前記解析の結果に基づいて、任意の前記部分テキストの前記第２データに、当該部分テキストとともに参照される前記部分テキストの識別情報を追加し、
前記第３処理において、前記エージェントは、実行する前記制御ツールに対応する前記第２データが前記リンク情報に存在する場合、前記制御ツールの実行結果、当該第２データに対応する複数の前記部分テキストの識別情報を含む前記問合せテキストを前記テキスト生成システムに送信することを特徴とする計算機システム。
【請求項４】
請求項１に記載の計算機システムであって、
前記問合せは、前記制御対象システム及び前記制御対象システムのユーザの少なくともいずれかによって入力されることを特徴とする計算機システム。
【請求項５】
計算機システムが実行する制御対象システムの制御支援方法であって、
前記計算機システムは、
前記制御対象システム及び大規模言語モデルを有するテキスト生成システムと接続し、
前記制御対象システムを制御するための制御ツールと、前記テキスト生成システムと接続するエージェントとを有し、
前記制御対象システムの制御マニュアルを管理するための制御マニュアル情報と、前記制御ツール及び前記制御マニュアルを分割した部分テキストの関係性を管理するためのリンク情報と、を保持し、
前記制御マニュアル情報は、前記部分テキストを管理するための第１データを格納し、
前記リンク情報は、前記制御ツール及び前記部分テキストの識別情報を対応づけた第２データを格納し、
前記制御対象システムの制御支援方法は、
前記エージェントが、問合せに対する思考、並びに、前記エージェントが実施すべき前記制御ツールに関する情報及び回答の少なくともいずれかを含む応答テキストを出力させるための制御情報を、前記テキスト生成システムに入力する第１のステップと、
前記制御対象システムに対する制御の問合せを受け付けた場合、前記エージェントが、前記問合せに対応する問合せテキストを前記テキスト生成システムに送信する第２のステップと、
前記テキスト生成システムから、前記制御ツールの情報を含む前記応答テキストを受信した場合、前記エージェントが、前記制御ツールを実行し、前記制御ツールの実行結果を含む問合せテキストを前記テキスト生成システムに送信する第３のステップと、
前記テキスト生成システムから、前記問合せに対する回答を含む前記応答テキストを受信した場合、前記エージェントが、前記回答を出力する第４のステップと、を含み、
前記第３のステップは、実行する前記制御ツールに対応する前記第２データが前記リンク情報に存在する場合、前記エージェントが、前記制御ツールの実行結果及び当該第２データに対応する前記部分テキストの識別情報を含む前記問合せテキストを前記テキスト生成システムに送信するステップを含むことを特徴とする制御対象システムの制御支援方法。
【請求項６】
請求項５に記載の制御対象システムの制御支援方法であって、
前記計算機システムは、更新部を有し、
前記第２データは参照回数を含み、
前記第３のステップは、前記エージェントが、実行する前記制御ツールに対応する前記第２データが複数存在する場合、前記参照回数に基づいて使用する前記第２データを選択するステップを含み、
前記制御対象システムの制御支援方法は、
前記エージェントが、前記問合せテキスト及び前記応答テキストをステータス情報として保存する第５のステップと、
前記更新部が、前記ステータス情報に基づいて、前記第２データの前記参照回数を更新する第６のステップと、を含むことを特徴とする制御対象システムの制御支援方法。
【請求項７】
請求項６に記載の制御対象システムの制御支援方法であって、
前記第６のステップは、
前記更新部が、前記ステータス情報に基づいて、前記部分テキストの参照パターンを解析するステップと、
前記更新部が、前記解析の結果に基づいて、任意の前記部分テキストの前記第２データに、当該部分テキストとともに参照される前記部分テキストの識別情報を追加するステップと、を含み、
前記第３のステップは、実行する前記制御ツールに対応する前記第２データが前記リンク情報に存在する場合、前記エージェントが、前記制御ツールの実行結果、当該第２データに対応する複数の前記部分テキストの識別情報を含む前記問合せテキストを前記テキスト生成システムに送信するステップを含むことを特徴とする制御対象システムの制御支援方法。
【請求項８】
請求項５に記載の制御対象システムの制御支援方法であって、
前記問合せは、前記制御対象システム及び前記制御対象システムのユーザの少なくともいずれかによって入力されることを特徴とする制御対象システムの制御支援方法。

発明の詳細な説明【技術分野】
【０００１】
本発明は、大規模言語モデルを用いたシステムの制御技術に関する。
続きを表示（約 3,000 文字）【背景技術】
【０００２】
近年、様々な用途で大規模言語モデル（ＬＬＭ）が用いられている。ＬＬＭを用いて複雑なタスクを処理するための技術として非特許文献１に記載の技術が知られている。非特許文献１には、思考、行動、観察を繰り返し実行すること、思考では外部ツールの要否等を判断することが記載されている。
【先行技術文献】
【非特許文献】
【０００３】
Shunyu Yao, Jeffrey Zhao, Dian Yu2, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao, ”REACT: SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS”, ［online］, 2022年10月6日, ［令和5年10月30日検索］, インターネット〈URL：https://arxiv.org/abs/2210.03629〉
【発明の概要】
【発明が解決しようとする課題】
【０００４】
非特許文献１に記載の技術を用いてシステムの制御／保守を支援することが考えられる。この場合、制御内容等を決定するために、システム制御／保守に関するテキストを検索し、ＬＬＭに入力する必要がある。
【０００５】
システムの制御／保守に関するテキストのテキスト量（文字数又は頁数）は膨大である。一方、ＬＬＭが受け付け可能なテキストのテキスト量には制限がある。そのため、テキストを所定のサイズの部分テキスト（チャンク）に分割し、さらに、部分テキストの検索のために部分テキストをベクトル表現として管理する必要がある。テキストの分割は、文脈等を考慮されず、文字数又は段落数に基づいて行われる。そのため、誤った部分テキストの入力によって、ＬＬＭが誤った情報を出力するＨａｌｌｕｃｉｎａｔｉｏｎが発生する。
【０００６】
本発明は、ＬＬＭを用いたシステム制御において、誤った部分テキストが参照されることによるＨａｌｌｕｃｉｎａｔｉｏｎを低減する技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、制御対象システムの制御を支援する計算機システムであって、前記制御対象システム及び大規模言語モデルを有するテキスト生成システムと接続し、前記制御対象システムを制御するための制御ツールと、前記テキスト生成システムと接続するエージェントとを備え、前記制御対象システムの制御マニュアルを管理するための制御マニュアル情報と、前記制御ツール及び前記制御マニュアルを分割した部分テキストの関係性を管理するためのリンク情報と、を保持し、前記制御マニュアル情報は、前記部分テキストを管理するための第１データを格納し、前記リンク情報は、前記制御ツール及び前記部分テキストの識別情報を対応づけた第２データを格納し、前記エージェントは、問合せに対する思考及び前記思考の結果に基づいて前記エージェントが実施すべき行動に関する情報を含む応答テキストを出力させるための制御情報を、前記テキスト生成システムに入力する第１処理と、前記制御対象システムに対する制御の問合せを受け付けた場合、前記問合せに対応する問合せテキストを前記テキスト生成システムに送信する第２処理と、前記テキスト生成システムから、前記制御ツールの情報を含む前記応答テキストを受信した場合、前記制御ツールを実行し、前記制御ツールの実行結果を含む問合せテキストを前記テキスト生成システムに送信する第３処理と、前記テキスト生成システムから、前記問合せに対する回答を含む前記応答テキストを受信した場合、前記回答を出力する第４処理と、を実行し、前記第３処理において、前記エージェントは、実行する前記制御ツールに対応する前記第２データが前記リンク情報に存在する場合、前記制御ツールの実行結果及び当該第２データに対応する前記部分テキストの識別情報を含む前記問合せテキストを前記テキスト生成システムに送信する。
【発明の効果】
【０００８】
本発明によれば、ＬＬＭを用いたシステム制御において、誤った部分テキストが参照されることによるＨａｌｌｕｃｉｎａｔｉｏｎを低減できる。これによって、システム制御の精度を向上させることができる。上記した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
【図面の簡単な説明】
【０００９】
実施例１のシステムの構成例を示す図である。
実施例１の制御支援システムを構成する計算機のハードウェア構成の一例を示す図である。
実施例１の制御支援システムの機能構成の一例を示す図である。
実施例１の制御情報の一例を示す図である。
実施例１の制御マニュアル情報の一例を示す図である。
実施例１のリンク情報の一例を示す図である。
実施例１の制御支援システムによる制御対象システムの制御処理のイメージを示す図である。
実施例１の制御対象システムの制御処理の流れを説明するシーケンス図である。
実施例１の制御対象システムの制御処理の流れを説明するシーケンス図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御対象システムの制御処理における問合せテキスト及び応答テキストの一例を示す図である。
実施例１の制御支援システムが生成するステータス情報の一例を示す図である。
実施例１のエージェントが実行する処理の一例を説明するフローチャートである。
実施例１の制御支援システムにおけるリンク情報の更新処理の流れを説明するシーケンス図である。
実施例１のリンク更新部が実行する処理の一例を説明するフローチャートである。
実施例２のリンク情報の一例を示す図である。
実施例２のリンク更新部が実行する処理の一例を説明するフローチャートである。
【発明を実施するための形態】
【００１０】
以下、本発明の実施例を、図面を用いて説明する。ただし、本発明は以下に示す実施例の記載内容に限定して解釈されるものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。
（【００１１】以降は省略されています）

関連特許