特許ウォッチ

公開番号2025142551
公報種別公開特許公報(A)
公開日2025-10-01
出願番号2024041978
出願日2024-03-18
発明の名称制御プログラム、制御方法、および情報処理装置
出願人富士通株式会社
代理人個人
主分類G06N 3/08 20230101AFI20250924BHJP(計算;計数)
要約【課題】妥当な出力が得られるように中間表現の操作を制御すること。
【解決手段】制御装置201は、学習済みモデルMに入力された入力データxの中間表現Hを変更する際に、第1の指標に基づいて、学習済みモデルMにより中間表現Hから生成された今回の出力データyの妥当性を評価する。第1の指標は、学習済みモデルMの学習に用いられた学習データのデータ分布における出力データの存在確率と相関のある指標である。制御装置201は、評価した結果に基づいて、学習済みモデルMにより生成される出力データyの妥当性が高くなるように、中間表現Hを変更する。
【選択図】図6
特許請求の範囲【請求項１】
学習済みモデルに入力された入力データの中間表現を変更する際に、
前記学習済みモデルの学習に用いられた学習データのデータ分布における出力データの存在確率と相関のある第１の指標に基づいて、前記学習済みモデルにより前記中間表現から生成された今回の出力データの妥当性を評価し、
評価した結果に基づいて、前記学習済みモデルにより生成される出力データの妥当性が高くなるように、前記中間表現を変更する、
処理をコンピュータに実行させることを特徴とする制御プログラム。
続きを表示（約 1,400 文字）【請求項２】
前記評価する処理は、
前記第１の指標と、目標とする出力データとの近さを表す第２の指標とに基づいて、前記今回の出力データの妥当性を評価する、ことを特徴とする請求項１に記載の制御プログラム。
【請求項３】
前記学習済みモデルは、アミノ酸配列を入力データとして、タンパク質の構造を表す出力データを出力する深層学習モデルであり、
前記第１の指標は、前記学習済みモデルにより前記今回の出力データについて推定される出力構造の確信度を表す指標を含む、
ことを特徴とする請求項２に記載の制御プログラム。
【請求項４】
前記第２の指標は、目標とするタンパク質のターゲット構造に対応する電子密度分布と前記今回の出力データが表すタンパク質の構造に対応する電子密度分布との類似度を含む、ことを特徴とする請求項３に記載の制御プログラム。
【請求項５】
前記学習済みモデルは、文を表す系列情報を入力データとして、別の文を表す系列情報を出力データとして出力するモデルであり、
前記第１の指標は、前記学習済みモデルにより前記今回の出力データについて推定される文の出力確率を表すスコアを含む、
ことを特徴とする請求項２に記載の制御プログラム。
【請求項６】
前記第２の指標は、前記入力データから変換された初回の中間表現から生成された初回の出力データが表す文と、前記今回の出力データが表す文との編集距離を含む、ことを特徴とする請求項５に記載の制御プログラム。
【請求項７】
前記中間表現を変更した結果、所定の終了条件を満たすか否かを判断する処理、
前記所定の終了条件を満たさない場合、変更した前記中間表現から生成された出力データを前記今回の出力データとして、前記評価する処理および前記変更する処理、
前記所定の終了条件を満たす場合、変更した前記中間表現から生成された出力データを出力する処理、
を前記コンピュータに実行させることを特徴とする請求項１～６のいずれか一つに記載の制御プログラム。
【請求項８】
学習済みモデルに入力された入力データの中間表現を変更する際に、
前記学習済みモデルの学習に用いられた学習データのデータ分布における出力データの存在確率と相関のある第１の指標に基づいて、前記学習済みモデルにより前記中間表現から生成された今回の出力データの妥当性を評価し、
評価した結果に基づいて、前記学習済みモデルにより生成される出力データの妥当性が高くなるように、前記中間表現を変更する、
処理をコンピュータが実行することを特徴とする制御方法。
【請求項９】
学習済みモデルに入力された入力データの中間表現を変更する際に、
前記学習済みモデルの学習に用いられた学習データのデータ分布における出力データの存在確率と相関のある第１の指標に基づいて、前記学習済みモデルにより前記中間表現から生成された今回の出力データの妥当性を評価し、
評価した結果に基づいて、前記学習済みモデルにより生成される出力データの妥当性が高くなるように、前記中間表現を変更する、
制御部を有することを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、制御プログラム、制御方法、および情報処理装置に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
従来、Ｔｒａｎｓｆｏｒｍｅｒモデルをはじめとする系列情報を扱う深層学習モデルは、入力情報の理解と構造をもつ出力予測とにおいて高い性能を発揮する（例えば、下記非特許文献１参照）。また、タンパク質構造予測を行うＡｌｐｈａＦｏｌｄ２のように、高い表現能力をもつ大規模な学習済みモデルが知られている（例えば、下記非特許文献２参照）。このような学習済みモデルの表現能力を活かし、学習済みモデルのパラメータに変更を加えることなく、質の良い多様な出力を生成したい場合がある。
【先行技術文献】
【非特許文献】
【０００３】
Ｖａｓｗａｎｉｅｔａｌ．：ＡｔｔｅｎｔｉｏｎｉｓＡｌｌＹｏｕＮｅｅｄ，ＮｅｕｒＩＰＳ２０１７（２０１７）
Ｊｕｍｐｅｒ，Ｊ．ｅｔａｌ．ＨｉｇｈｌｙａｃｃｕｒａｔｅｐｒｏｔｅｉｎｓｔｒｕｃｔｕｒｅｐｒｅｄｉｃｔｉｏｎｗｉｔｈＡｌｐｈａＦｏｌｄ．Ｎａｔｕｒｅ５９６，５８３－５８９（２０２１）
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来技術では、学習済みモデルの中間表現に対して何らかの操作を行って出力に変更を加えようとするとき、妥当性のある出力に対応する中間表現の操作範囲が明らかでなく、どのように操作すれば妥当な出力が得られるのか判断することが難しい。
【０００５】
一つの側面では、本発明は、妥当な出力が得られるように中間表現の操作を制御することを目的とする。
【課題を解決するための手段】
【０００６】
１つの実施態様では、学習済みモデルに入力された入力データの中間表現を変更する際に、前記学習済みモデルの学習に用いられた学習データのデータ分布における出力データの存在確率と相関のある第１の指標に基づいて、前記学習済みモデルにより前記中間表現から生成された今回の出力データの妥当性を評価し、評価した結果に基づいて、前記学習済みモデルにより生成される出力データの妥当性が高くなるように、前記中間表現を変更する、制御プログラムが提供される。
【発明の効果】
【０００７】
本発明の一側面によれば、妥当な出力が得られるように中間表現の操作を制御することができるという効果を奏する。
【図面の簡単な説明】
【０００８】
図１は、実施の形態にかかる制御方法の一実施例を示す説明図である。
図２は、情報処理システム２００のシステム構成例を示す説明図である。
図３は、制御装置２０１のハードウェア構成例を示すブロック図である。
図４は、入力データの具体例を示す説明図である。
図５は、中間表現の具体例を示す説明図である。
図６は、制御装置２０１の機能的構成例を示すブロック図である。
図７は、制御装置２０１の動作例を示す説明図である。
図８は、制御装置２０１の制御処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【０００９】
以下に図面を参照して、本発明にかかる制御プログラム、制御方法、および情報処理装置の実施の形態を詳細に説明する。
【００１０】
（実施の形態）
図１は、実施の形態にかかる制御方法の一実施例を示す説明図である。図１において、情報処理装置１００は、学習済みモデル１１０に入力された入力データの中間表現の操作を制御するコンピュータである。ここで、学習済みモデル１１０は、深層学習（ディープラーニング）などの機械学習により学習された機械学習モデル（学習済み機械学習モデル）である。
（【００１１】以降は省略されています）

関連特許