特許ウォッチ

公開番号2025139364
公報種別公開特許公報(A)
公開日2025-09-26
出願番号2024038261
出願日2024-03-12
発明の名称プロンプト生成システム
出願人株式会社日立ソリューションズ西日本
代理人藤央弁理士法人
主分類G06F 21/60 20130101AFI20250918BHJP(計算;計数)
要約【課題】テキスト生成モデルに対するプロンプトを生成する。
【解決手段】回答文を生成するテキスト生成モデルに対するプロンプトを生成するシステムであって、1以上の演算装置と1以上の記憶装置とを含み、1以上の演算装置は、ユーザから問い合わせ文を取得し、問い合わせ文に基づいてテキスト生成モデルに対するプロンプトを生成し、生成したプロンプトをオープンネットワークを介してテキスト生成モデルに送信し、プロンプトの生成において指定された秘匿情報を除外するフィルタリング処理を実行する。
【選択図】図1
特許請求の範囲【請求項１】
回答文を生成するテキスト生成モデルに対するプロンプトを生成するシステムであって、
１以上の演算装置と、
１以上の記憶装置と、を含み、
前記１以上の演算装置は、
ユーザから問い合わせ文を取得し、
前記問い合わせ文に基づいて、第１テキスト生成モデルに対するプロンプトを生成し、
生成した前記プロンプトを、オープンネットワークを介して前記第１テキスト生成モデルに送信し、
前記プロンプトの生成において、指定された秘匿情報を除外するフィルタリング処理を実行する、システム。
続きを表示（約 1,100 文字）【請求項２】
請求項１に記載のシステムであって、
前記１以上の記憶装置は、前記フィルタリング処理において除外された秘匿情報を保持し、
前記１以上の演算装置は、
前記第１テキスト生成モデルから、前記プロンプトに対する回答文を受信し、
前記回答文において前記秘匿情報を補完して補完回答文を生成し、
前記補完回答文を前記ユーザに返す、システム。
【請求項３】
請求項１又は２に記載のシステムであって、
前記１以上の記憶装置は、１又は複数の外部デバイスから収集した情報を含むデータベースを格納し、
前記１以上の演算装置は、
前記問い合わせ文から補完要素を抽出し、
前記補完要素に対して予め指定されている補完情報を前記データベースから取得し、
前記問い合わせ文及び前記補完情報に基づいて前記プロンプトを生成する、システム。
【請求項４】
請求項１又は２に記載のシステムであって、
前記１以上の演算装置は、
前記問い合わせ文から補完要素を抽出し、
前記補完要素に対する補完情報を前記ユーザに問い合わせ、
前記ユーザから受信した前記補完情報及び前記問い合わせ文に基づいて前記プロンプトを生成する、システム。
【請求項５】
請求項１又は２に記載のシステムであって、
前記１以上の記憶装置は、入力プロンプトに対して回答文を返すように学習済みの第２テキスト生成モデルを格納し、
前記１以上の演算装置は、前記第２テキスト生成モデルを使用して前記プロンプトを生成する、システム。
【請求項６】
請求項５に記載のシステムであって、
前記１以上の演算装置は、
前記第１テキスト生成モデルから、前記プロンプトに対する回答文を受信し、
前記プロンプト及び前記回答文から、前記第２テキスト生成モデルの学習データを生成して、学習データデータベースに格納する、システム。
【請求項７】
回答文を生成するテキスト生成モデルに対するプロンプトを生成する方法であって、
システムが、ユーザから問い合わせ文を取得し、
前記システムが、前記問い合わせ文に基づいて、第１テキスト生成モデルに対するプロンプトを生成し、
前記システムが、生成した前記プロンプトを、オープンネットワークを介して前記第１テキスト生成モデルに送信し、
前記システムが、前記プロンプトの生成において、指定された秘匿情報を除外するフィルタリング処理を実行する、方法。

発明の詳細な説明【技術分野】
【０００１】
本発明は、テキスト生成モデルに対するプロンプトの生成に関する。
続きを表示（約 1,400 文字）【背景技術】
【０００２】
生成系ＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）の開発及び活用が活発になっている。生成系ＡＩを利用した生成物は、過去のデータ蓄積内容からの検索成果により生成されているので、利用者のリアルタイムの環境状況に応じた生成を行うためには複雑なプロンプトを生成する必要がある。そのため、目的の成果を素早く入手することが困難である。
【０００３】
このような生成系ＡＩの性質のため、マニュアルなどを検索する際、生成系ＡＩは、リアルタイムな環境状況、例えば、質問者の位置情報、気温及び天候などを活用することができない。
【０００４】
一般的な検索エンジンは、利用者のアカウントや位置情報から、検索情報に付加的な情報を付与し、嗜好にあった検索を行う。しかし、生成系ＡＩに使用される一般的なＬＬＭ（ＬａｒｇｅＬａｎｇｕａｇｅＭｏｄｅｌ）には、こういった情報を組み込むことが困難である。
【０００５】
例えば、現場故障が発生した際に、ユーザは、マニュアルを検索し、対応方法を準備する。しかし、一般的なＬＬＭに対して環境情報を付与できないため、一般的なＬＬＭは、入力された情報のみで提案の生成を行う。この結果、一般的なＬＬＭは、タイムリな提案を行えない可能性がある。例えば、車のエアコン故障に対して、周辺気温によって対処すべき事項の優先度が異なる可能性がある。
【先行技術文献】
【特許文献】
【０００６】
特許第７４１６５０８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
例えば、企業内のドキュメント情報を収集したシステムとして、域内ＬＬＭ（ＬｏｃａｌＬＬＭ）を構築することができる。通常、プライベートＬＬＭはオープンＬＬＭに対し、企業内の情報に特化した情報については強度が高い。しかし、言語モデルとしてのパラメータの不足から、適切な回答を得にくい傾向にある。プライベートＬＬＭのパラメータは一般に７５Ｂ程度であり、ＧＰＴ－３．５の３５５Ｂと比較すると大幅に低く、さらに、ＧＰＴ－４の１０００分の１以下である。
【０００８】
逆に、オープンＬＬＭを活用する場合、ファインチューニングの際に企業内の情報が漏洩するリスクが存在する。また、オープンＬＬＭは大量の情報から回答を生成するため、目的の情報を生成することが難しい面がある。
【課題を解決するための手段】
【０００９】
本発明の一態様は、回答文を生成するテキスト生成モデルに対するプロンプトを生成するシステムであって、１以上の演算装置と、１以上の記憶装置と、を含み、前記１以上の演算装置は、ユーザから問い合わせ文を取得し、前記問い合わせ文に基づいて、前記テキスト生成モデルに対するプロンプトを生成し、生成した前記プロンプトを、オープンネットワークを介して前記テキスト生成モデルに送信し、前記プロンプトの生成において、指定された秘匿情報を除外するフィルタリング処理を実行する。
【発明の効果】
【００１０】
本発明の一態様によれば、回答を返す言語モデルに対する適切なプロンプトを生成することができる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許