特許ウォッチ

公開番号2025139848
公報種別公開特許公報(A)
公開日2025-09-29
出願番号2024038904
出願日2024-03-13
発明の名称質問応答装置、方法及びプログラム
出願人東芝テック株式会社
代理人弁理士法人鈴榮特許綜合事務所
主分類G06F 16/90 20190101AFI20250919BHJP(計算;計数)
要約【課題】ローカル大規模言語モデル(LLM)を用いて自動生成した回答の正確性が低い場合であっても、質問者を煩わせること無く、適切な回答を質問者に提供可能とする。
【解決手段】質問応答装置は、回答生成部と、正確性判定部と、回答取得部と、回答出力部と、を備える。回答生成部は、ローカルLLMを用いて、質問者が操作する質問者端末から入力された質問に対する回答である第1の回答を生成する。正確性判定部は、回答生成部が生成した第1の回答の正確性を判定する。回答取得部は、正確性判定部が判定した正確性が閾値以下の場合に、回答生成部とは異なる回答生成装置に質問を供給し、回答生成装置が生成した第2の回答を取得する。回答出力部は、第1の回答及び/又は第2の回答を質問者端末へ出力する。
【選択図】図2

特許請求の範囲【請求項１】
ローカル大規模言語モデル（ＬＬＭ）を用いて、質問者が操作する質問者端末から入力された質問に対する回答である第１の回答を生成する回答生成部と、
前記回答生成部が生成した前記第１の回答の正確性を判定する正確性判定部と、
前記正確性判定部が判定した前記正確性が閾値以下の場合に、前記回答生成部とは異なる回答生成装置に前記質問を供給し、前記回答生成装置が生成した第２の回答を取得する回答取得部と、
前記第１の回答及び／又は前記第２の回答を前記質問者端末へ出力する回答出力部と、
を備える、質問応答装置。
続きを表示（約 1,200 文字）【請求項２】
前記回答出力部は、
前記正確性判定部が判定した前記正確性が前記閾値以下ではない場合、前記回答生成部が生成した前記第１の回答を前記質問者端末へ出力し、
前記正確性判定部が判定した前記正確性が前記閾値以下の場合、前記回答取得部が取得した前記第２の回答を前記質問者端末へ出力する、
請求項１に記載の質問応答装置。
【請求項３】
前記回答出力部は、
前記正確性判定部による前記正確性の判定結果に依らずに、前記回答生成部が生成した前記第１の回答を前記質問者端末へ出力し、
前記正確性判定部が判定した前記正確性が前記閾値以下の場合、前記回答取得部が取得した前記第２の回答を前記質問者端末へ出力する、
請求項１に記載の質問応答装置。
【請求項４】
前記回答生成装置は、前記第２の回答として、前記質問に対する回答を回答者が入力する回答者端末を含み、
前記回答取得部は、前記回答者端末に前記質問を送信し、前記回答者端末から前記第２の回答を受信する通信部を含む、
請求項１乃至３の何れかに記載の質問応答装置。
【請求項５】
前記回答生成装置は、前記ローカルＬＬＭとはモデルが異なるローカルＬＬＭを用いて、前記質問に対する前記第２の回答を生成する第２の回答生成部を含む、請求項１乃至３の何れかに記載の質問応答装置。
【請求項６】
質問者からの質問に対する回答を提供する質問応答装置のプロセッサが実行する質問応答方法であって、
前記プロセッサによって、前記質問者が操作する質問者端末から入力された前記質問に対して、ローカルＬＬＭを用いて第１の回答を生成することと、
前記プロセッサによって、前記第１の回答の正確性を判定することと、
前記正確性が閾値以下の場合に、前記プロセッサによって、前記質問を回答生成装置に供給し、前記回答生成装置が生成した第２の回答を取得することと、
前記プロセッサによって、前記第１の回答及び／又は前記第２の回答を前記質問者端末へ出力することと、
を含む質問応答方法。
【請求項７】
プロセッサとメモリを備え、質問者からの質問に対する回答を提供する質問応答装置の前記プロセッサによって実行されたとき、
前記プロセッサに、
前記質問者が操作する質問者端末から入力された前記質問を前記メモリに記憶させ、
ローカルＬＬＭを用いて、前記メモリに記憶された前記質問に対する第１の回答を生成させ、
前記第１の回答の正確性を判定させ、
前記正確性が閾値以下の場合に、前記メモリに記憶された前記質問を回答生成装置に供給し、前記回答生成装置が生成した第２の回答を取得させ、
前記第１の回答及び／又は前記第２の回答を前記質問者端末へ出力させる、
質問応答プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明の実施形態は、質問応答装置、方法及びプログラムに関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
近年、ｃｈａｔＧＰＴに代表される大規模言語モデル（ＬＬＭ）が注目を集めている。クラウド上で動かすＬＬＭでは、個人情報を渡すようなサービスや、エッジデバイスが得意とするリアルタイム性の高い処理には向かないという欠点がある。
【０００３】
これに対して、サイズが小規模でデバイス上でも動かせるローカルＬＬＭもリリースされつつある。このローカルＬＬＭは、機能面ではクラウドのＬＬＭサービスには及ばないが、特定用途に限定して最適化すれば、利用できることは知られており、そのための手段としてファインチューニングなどの手法も提供されている。
【０００４】
ローカルＬＬＭを用いるメリットして、個人情報の様にクラウドに上げられないデータを扱える、エッジ上で動かすことで即時応答性が確保できる、などがある。
【０００５】
このようなローカルＬＬＭの利用用途としては、例えば、特許文献１に開示されているような、質問に対して回答を自動生成するシステムが考えられる。
【０００６】
特許文献１に開示のシステムでは、自動生成した回答の正確性が低い場合には、質問者は、回答者と直接やり取りすることで適切な回答を得なければならない。
【先行技術文献】
【特許文献】
【０００７】
特開２０２２－８６８１７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本発明の実施形態が解決しようとする課題は、ローカルＬＬＭを用いて自動生成した回答の正確性が低い場合であっても、質問者を煩わせること無く、適切な回答を質問者に提供可能とする質問応答装置、方法及びプログラムを提供しようとするものである。
【課題を解決するための手段】
【０００９】
一実施形態において、質問応答装置は、回答生成部と、正確性判定部と、回答取得部と、回答出力部と、を備える。回答生成部は、ローカルＬＬＭを用いて、質問者が操作する質問者端末から入力された質問に対する回答である第１の回答を生成する。正確性判定部は、回答生成部が生成した第１の回答の正確性を判定する。回答取得部は、正確性判定部が判定した正確性が閾値以下の場合に、回答生成部とは異なる回答生成装置に質問を供給し、回答生成装置が生成した第２の回答を取得する。回答出力部は、第１の回答及び／又は第２の回答を質問者端末へ出力する。
【図面の簡単な説明】
【００１０】
図１は、第１実施形態に係る質問応答装置が適用されたストアサーバを含む質問応答システムを示す概略構成図である。
図２は、ストアサーバの機能構成の一例を示すブロック図である。
図３は、質問応答システムの動作概要を示すシーケンス図である。
図４は、質問応答システムの動作概要を示すシーケンス図である。
図５は、ストアサーバのプロセッサが実行する質問応答処理の要部手順を示す流れ図である。
図６は、第２実施形態に係る質問応答装置が適用されたストアサーバを含む質問応答システムの動作概要を示すシーケンス図である。
図７は、第２実施形態におけるストアサーバのプロセッサが実行する質問応答処理の要部手順を示す流れ図である。
図８は、第３実施形態に係る質問応答装置が適用されたストアサーバの機能構成の一例を示すブロック図である。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許