特許ウォッチ

公開番号2025127503
公報種別公開特許公報(A)
公開日2025-09-02
出願番号2024024212
出願日2024-02-21
発明の名称対話システムおよび対話方法
出願人株式会社日立製作所
代理人弁理士法人サンネクスト国際特許事務所
主分類G06F 16/335 20190101AFI20250826BHJP(計算;計数)
要約【課題】知識情報群の管理者の意図しない用途での知識情報群の情報利用を制限し得る対話システムを提供する。
【解決手段】知識情報群の文章における所定の表現の出力を制約するための制約事項の情報を制約情報群に登録する登録部と、ユーザ端末を介して入力された入力文章に関連した文章を知識情報群から取得する取得部と、取得部により取得された文章に対応付けられている制約事項を制約情報群から読み出す読出部と、取得部により取得された文章の情報を対話エンジンに入力し、対話エンジンから文章に対する回答である出力文章を得る対話部と、対話部により得られた出力文章における所定の表現が読出部により読み出された制約事項に基づいて隠蔽された回答文章を得る隠蔽部と、隠蔽部により得られた回答文章をユーザ端末に出力する出力部と、を設けるようにした。
【選択図】図1

特許請求の範囲【請求項１】
文章の情報を格納する知識情報群と自然言語処理を行う対話エンジンとを用いて、ユーザ端末を介してユーザにより入力された入力文章に対する回答文章を出力する対話システムであって、
前記知識情報群の文章における所定の表現の出力を制約するための制約事項の情報を制約情報群に登録する登録部と、
前記ユーザ端末を介して入力された入力文章に関連した文章を前記知識情報群から取得する取得部と、
前記取得部により取得された文章に対応付けられている制約事項を前記制約情報群から読み出す読出部と、
前記取得部により取得された前記文章の情報を前記対話エンジンに入力し、前記対話エンジンから前記文章に対する回答である出力文章を得る対話部と、
前記対話部により得られた出力文章における所定の表現が前記読出部により読み出された制約事項に基づいて隠蔽された回答文章を得る隠蔽部と、
前記隠蔽部により得られた回答文章を前記ユーザ端末に出力する出力部と、
を備える対話システム。
続きを表示（約 1,400 文字）【請求項２】
前記登録部は、前記知識情報群の文章における所定の表現の出力を制約するための制約事項として、管理者端末を介して制約対象ごとに入力される、削除または抽象化の情報を登録し、
前記隠蔽部は、前記対話部により得られた出力文章における制約対象が削除または抽象化された回答文章を得る、
請求項１に記載の対話システム。
【請求項３】
前記隠蔽部は、前記対話部により得られた出力文章における所定の表現を前記読出部により読み出された制約事項に基づいて書き換えるように指示するプロンプトを前記対話エンジンに入力し、前記所定の表現が前記制約事項に基づいて隠蔽された回答文章を前記対話エンジンから得る、
請求項１に記載の対話システム。
【請求項４】
前記ユーザ端末を介して入力された入力文章が意味するタスクを分類する分類部を備え、
前記登録部は、前記知識情報群の文章における所定の表現の出力を制約するための制約事項をタスクごとに登録し、
前記分類部は、前記ユーザ端末を介して入力された入力文章が意味するタスクを分類し、
前記取得部は、前記ユーザ端末を介して入力された前記入力文章に関連した文章を前記知識情報群から取得し、
前記読出部は、前記取得部により取得された前記文章に対応付けられている制約事項のうち、前記分類部により分類された前記タスクに対応付けられている制約事項を前記制約情報群から読み出す、
請求項１に記載の対話システム。
【請求項５】
前記分類部は、前記ユーザ端末を介して入力された入力文章が意味するタスクを問い合わせるプロンプトを前記対話エンジンに入力し、前記対話エンジンからの出力に基づいて前記入力文章が意味するタスクを分類する、
請求項４に記載の対話システム。
【請求項６】
前記登録部は、前記知識情報群の文章における所定の表現の出力を制約するための制約事項を、前記知識情報群の文章の全部または一部を出力する要素抽出のタスクに対応付けて登録する、
請求項４に記載の対話システム。
【請求項７】
文章の情報を格納する知識情報群と自然言語処理を行う対話エンジンとを用いて、ユーザ端末を介してユーザにより入力された入力文章に対する回答文章を出力する対話方法であって、
登録部が、前記知識情報群の文章における所定の表現の出力を制約するための制約事項の情報を制約情報群に登録することと、
取得部が、前記ユーザ端末を介して入力された入力文章に関連した文章を前記知識情報群から取得することと、
読出部が、前記取得部により取得された文章に対応付けられている制約事項を前記制約情報群から読み出すことと、
対話部が、前記取得部により取得された前記文章の情報を前記対話エンジンに入力し、前記対話エンジンから前記文章に対する回答である出力文章を得ることと、
隠蔽部が、前記対話部により得られた出力文章における所定の表現が前記読出部により読み出された制約事項に基づいて隠蔽された回答文章を得ることと、
出力部が、前記隠蔽部により得られた回答文章を前記ユーザ端末に出力することと、
を含む対話方法。

発明の詳細な説明【技術分野】
【０００１】
本発明は、概して、対話エンジンを用いた対話システムに関する。
続きを表示（約 1,900 文字）【背景技術】
【０００２】
近年、生成ＡＩ（Artificial Intelligence）の技術の進歩に伴い、大規模言語モデルを活用した対話エンジンの開発が進められている。大規模言語モデルは、大量のテキストデータを学習することで人間との自然な会話を可能とするモデルである。大規模言語モデルと接続された対話エンジンでは、一般的な会話の他にも要素抽出、翻訳、要約、類似文生成等、高度な言語処理タスクを実行することが可能になっている。特に、生成ＡＩの産業適用においては、対話エンジンと知識データベース（以下、知識ＤＢ）とを組み合わせることで独自情報を含めた回答を出力させるＲＡＧ（Retrieval-Augmented Generation）と呼ばれる手法が注目されている。例えば、システムの仕様書およびユーザガイドを知識ＤＢに登録することで、ユーザがシステム障害について質問すると、対話エンジンが知識ＤＢから質問に類似した文章を抽出し、解決手法を回答することが可能となる。
【０００３】
上記に示すようにＲＡＧを活用することで、ユーザの質問に対して知識ＤＢの情報を抽出した上でタスクの実行が可能となっている。一方で、知識ＤＢの管理者にとって、知識ＤＢ上の情報の中にはタスクに応じて隠蔽したい機密情報も多く含まれる。例として、知識ＤＢ上のシステム仕様書に対し、具体的な関数のパラメタ取得は隠蔽したいが、関数記述に基づいた類似文生成は許可したい場合が挙げられる。
【０００４】
対話システムにおける隠蔽手法として、発話文章中の秘密情報の少なくとも一部が最初からログに記録されないことで、対話の中で現れた秘密情報のセキュリティをより確実に確保することができる技術が提案されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００５】
特許第７０３３１９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
上述の公知技術は、第三者に知らせないことが望ましい任意の情報を秘密情報として定め、発話文章に対して当該秘密情報を概念語に置換する処理を実行する。一方で、本発明では、対話エンジンに付随する知識情報群の情報を隠蔽する状況を想定する。このとき、対話システムでは、知識情報群における隠蔽箇所、隠蔽表現の他、対話エンジンにおける隠蔽の必要性を判断する必要があるが、公知例技術では、知識情報群における隠蔽情報を管理することが困難である。
【０００７】
本発明は、以上の点を考慮してなされたもので、知識情報群の管理者の意図しない用途での知識情報群の情報利用を制限し得る対話システム等を提案しようとするものである。
【課題を解決するための手段】
【０００８】
かかる課題を解決するため本発明においては、文章の情報を格納する知識情報群と自然言語処理を行う対話エンジンとを用いて、ユーザ端末を介してユーザにより入力された入力文章に対する回答文章を出力する対話システムであって、前記知識情報群の文章における所定の表現の出力を制約するための制約事項の情報を制約情報群に登録する登録部と、前記ユーザ端末を介して入力された入力文章に関連した文章を前記知識情報群から取得する取得部と、前記取得部により取得された文章に対応付けられている制約事項を前記制約情報群から読み出す読出部と、前記取得部により取得された前記文章の情報を前記対話エンジンに入力し、前記対話エンジンから前記文章に対する回答である出力文章を得る対話部と、前記対話部により得られた出力文章における所定の表現が前記読出部により読み出された制約事項に基づいて隠蔽された回答文章を得る隠蔽部と、前記隠蔽部により得られた回答文章を前記ユーザ端末に出力する出力部と、を設けるようにした。
【０００９】
上記構成では、知識情報群の文章における所定の表現の出力が制約情報群の制約事項に基づいて制約されるので、例えば、管理者は、制約情報群に所望の制約事項を登録することで、管理者の意図しない用途での知識情報群の情報利用を制限することができる。
【発明の効果】
【００１０】
本発明によれば、機密性の高い対話システムを実現することができる。上記以外の課題、構成、および効果は、以下の実施の形態の説明により明らかにされる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許