特許ウォッチ

公開番号2025084476
公報種別公開特許公報(A)
公開日2025-06-03
出願番号2023198410
出願日2023-11-22
発明の名称プロンプト作成装置、応答システム、検索システム、プロンプト作成方法及びプログラム
出願人日本電気株式会社
代理人個人,個人
主分類G06F 40/289 20200101AFI20250527BHJP(計算;計数)
要約【課題】脱獄プロンプトに対して不適切回答を拒否する確率を向上することができるプロンプト作成装置を提供する。
【解決手段】プロンプト作成装置は、背景及び入力データの少なくとも一つと指示とを含む入力プロンプトから、前記指示及び前記指示の内容を示す前記入力データのみに対する回答を求めるプロンプトを作成する手段、を備える。
【選択図】図6
特許請求の範囲【請求項１】
背景及び入力データの少なくとも一つと指示とを含む入力プロンプトから、前記指示及び前記指示の内容を示す前記入力データのみに対する回答を求めるプロンプトを作成する手段、
を備えるプロンプト作成装置。
続きを表示（約 1,500 文字）【請求項２】
前記作成する手段は、前記入力プロンプトを自然言語処理によって部分プロンプトに分解し、前記指示及び前記指示の内容のみを有する部分プロンプトのうち最も単純な構造を有する前記部分プロンプトを前記プロンプトして作成する、
請求項１に記載のプロンプト作成装置。
【請求項３】
前記作成する手段は、前記入力プロンプトを自然言語処理によって部分プロンプトに分解するとともに、前記部分プロンプトの階層構造を解析し、前記階層構造における最深部の部分プロンプトを前記プロンプトして作成する、
請求項１または請求項２に記載のプロンプト作成装置。
【請求項４】
前記作成する手段は、前記部分プロンプトを質問内容とし、当該質問内容への回答を指示する再構成プロンプトを生成し、生成した前記再構成プロンプトを大規模言語処理モデルへ入力し、１つでも回答不可能な前記再構成プロンプトがあれば、前記入力プロンプトに対する回答が不可能と判断する、
請求項２に記載のプロンプト作成装置。
【請求項５】
前記作成する手段は、前記部分プロンプトの構造の複雑度が最も小さい前記部分プロンプトについては、当該部分プロンプトを質問内容とし、当該質問内容への回答を指示する再構成プロンプトを生成し、それ以外の前記部分プロンプトについては、前記複雑度が自分より小さい前記部分プロンプトに係る前記再構成プロンプトへの回答が可能である場合に限り回答することを条件とする、当該部分プロンプトを質問内容とした、当該質問内容への回答を指示する再構成プロンプトを生成し、
前記複雑度が小さい順に当該部分プロンプトに係る前記再構成プロンプトを大規模言語処理モデルへ入力する、
請求項２に記載のプロンプト作成装置。
【請求項６】
前記作成する手段は、前記部分プロンプトの階層構造の最深部の前記部分プロンプトについては、当該部分プロンプトを質問内容とし、当該質問内容への回答を指示する再構成プロンプトを生成し、それ以外の前記部分プロンプトについては、前記階層構造の深さが自分より深い前記部分プロンプトに係る前記再構成プロンプトへの回答が可能である場合に限り回答することを条件とする、当該部分プロンプトを質問内容とした、当該質問内容への回答を指示する再構成プロンプトを生成し、
前記階層構造の深さが深い順に当該部分プロンプトに係る前記再構成プロンプトを大規模言語処理モデルへ入力する、
請求項３に記載のプロンプト作成装置。
【請求項７】
前記作成する手段は、前記プロンプトを質問内容とし、当該質問内容への回答を指示する再構成プロンプトを生成し、生成した前記再構成プロンプトを大規模言語処理モデルへ入力し、回答不可能であれば、前記入力プロンプトに対する回答が不可能と判断する、
請求項２に記載のプロンプト作成装置。
【請求項８】
入力プロンプトを取得する手段と、
請求項１または請求項２に記載のプロンプト作成装置と、
大規模言語処理モデルと、
前記大規模言語処理モデルが生成した回答を出力する手段と、
を備える応答システム。
【請求項９】
請求項８に記載の応答システム、
を備える検索システム。
【請求項１０】
コンピュータが、
背景及び入力データの少なくとも一つと指示とを含む入力プロンプトから、前記指示及び前記指示の内容を示す前記入力データのみに対する回答を求めるプロンプトを作成する、
プロンプト作成方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本開示は、プロンプト作成装置、応答システム、検索システム、プロンプト作成方法及びプログラムに関する。
続きを表示（約 1,200 文字）【背景技術】
【０００２】
大規模言語モデル（ＬＬＭ：Large Language Models）の活用が広がりを見せている。ＬＬＭは、膨大なテキストデータを学習させた自然言語処理のモデルである。ＬＬＭにプロンプトと呼ばれる文章を入力すると、ＬＬＭは入力された文章を解析し、プロンプトに対する応答を行う。例えば、プロンプトとして質問文を入力すると、ＬＬＭは、その質問文への回答を生成して出力する。特許文献１には、ユーザから質問文が入力されると、質問文に対して参考情報を追加したプロンプトを生成し、生成したプロンプトをＬＬＭへ入力することにより、もともと入力された質問文への回答の精度を向上させる技術が開示されている。
【０００３】
ＬＬＭには、脱獄プロンプトと呼ばれる特殊な入力を行うことで、非倫理的な内容や危険な内容を含む不適切回答を出力させる危険性が存在することが知られている。ＬＬＭによって不適切回答が生成されることについては対策が求められるが、脱獄プロンプトに対する決定的な対策は見つかっていない。特許文献１にも、脱獄プロンプトの危険性を回避する技術については開示がない。
【先行技術文献】
【特許文献】
【０００４】
特許第７３１３７５７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本開示は、脱獄プロンプトに対して不適切回答を拒否する確率を向上する技術の提供を目的の一つとする。
【０００６】
そこで本開示は、上述の課題を解決するプロンプト作成装置、応答システム、検索システム、プロンプト作成方法及びプログラムを提供することを目的としている。
【課題を解決するための手段】
【０００７】
本開示の一態様によれば、プロンプト作成装置は、背景及び入力データの少なくとも一つと指示とを含む入力プロンプトから、前記指示及び前記指示の内容を示す前記入力データのみに対する回答を求めるプロンプトを作成する手段、を備える。
【０００８】
本開示の一態様によれば、応答システムは、前記入力プロンプトを取得する手段と、上記のプロンプト作成装置と、大規模言語処理モデルと、前記大規模言語処理モデルが生成した回答を出力する手段と、を備える。
【０００９】
本開示の一態様によれば、検索システムは、上記の応答システムを備える。
【００１０】
本開示の一態様によれば、プロンプト作成方法は、コンピュータが、背景及び入力データの少なくとも一つと指示とを含む入力プロンプトから、前記指示及び前記指示の内容を示す前記入力データのみに対する回答を求めるプロンプトを作成する。
（【００１１】以降は省略されています）

関連特許