特許ウォッチ

公開番号2025136388
公報種別公開特許公報(A)
公開日2025-09-19
出願番号2024034917
出願日2024-03-07
発明の名称計算機システム及びタスクの割当制御方法
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06F 9/50 20060101AFI20250911BHJP(計算;計数)
要約【課題】LLM(大規模言語モデル)の特性を考慮し、タスクを割り当てるワーカを決定する。
【解決手段】計算機システムは、タスクを実行するワーカが稼働する複数のワーカシステムと接続し、ワーカを管理するためのワーカ管理情報を保持する。ワーカ管理情報には、ワーカの識別情報及びワーカの特性を示す項目から構成されるデータが格納される。少なくとも一つのワーカシステムでは、大規模言語モデルがワーカとして稼働する。計算機システムは、タスクの実行要求を受け付け、各ワーカについて、所望の結果を得るまでに実行される複数のタスクに関するタスク実行情報を生成し、ワーカ管理情報及びタスク実行情報に基づいて候補ワーカを特定し、候補ワーカの中からタスクを割り当てるワーカを選択する。
【選択図】図6
特許請求の範囲【請求項１】
計算機システムであって、
プロセッサ、前記プロセッサに接続される記憶装置、及び前記プロセッサに接続されるネットワークインタフェースを備え、
計算機リソースを用いてタスクを実行するワーカが稼働する複数のワーカシステムと接続し、
前記ワーカを管理するためのワーカ管理情報を保持し、
前記ワーカ管理情報には、前記ワーカの識別情報及び前記ワーカの特性を示す項目から構成されるデータが格納され、
少なくとも一つの前記ワーカシステムでは、指示内容を記したテキストであるプロンプトを受け付けて、応答となるテキストを出力する言語処理タスクを実行する大規模言語モデルが前記ワーカとして稼働し、
前記プロセッサは、
タスクの実行要求を受け付け、
前記各ワーカについて、所望の結果を得るまでに実行される複数のタスクに関するタスク実行情報を生成し、
前記ワーカ管理情報及び前記タスク実行情報に基づいて、候補ワーカを特定し、
前記候補ワーカの中からタスクを割り当てる前記ワーカを選択することを特徴とする計算機システム。
続きを表示（約 2,100 文字）【請求項２】
請求項１に記載の計算機システムであって、
前記ワーカの特性を示す項目には、少なくともタスクの実行に伴うコストが含まれ、
前記プロセッサは、
前記候補ワーカについて、所望の結果を得るまでに実行されるタスクの実行回数を算出し、
前記コスト及び前記タスクの実行回数に基づいて、前記候補ワーカの評価指標を算出し、
前記評価指標に基づいて、前記候補ワーカの中からタスクを割り当てる前記ワーカを選択することを特徴とする計算機システム。
【請求項３】
請求項２に記載の計算機システムであって、
前記タスクの実行要求は、使用する前記ワーカの特性に関する条件を含み、
前記プロセッサは、前記ワーカ管理情報及び前記タスク実行情報を参照して、前記タスクの実行要求に含まれる前記条件に合致する前記候補ワーカを特定することを特徴とする計算機システム。
【請求項４】
請求項３に記載の計算機システムであって、
前記プロセッサは、前記ワーカが選択された後に新たなタスクの実行要求を受けた場合、選択された前記ワーカにタスクを割り当てることを特徴とする計算機システム。
【請求項５】
請求項３に記載の計算機システムであって、
前記ワーカが実行したタスクの実行ログを格納する実行ログ情報を保持し、
前記実行ログ情報では、所望の結果が得られるまでに実行された複数のタスクの前記実行ログが関連付けて管理され、
前記プロセッサは、前記実行ログ情報を参照して、前記各ワーカについて、前記タスク実行情報を生成することを特徴とする計算機システム。
【請求項６】
請求項５に記載の計算機システムであって、
所望の結果が得られるまでに実行された複数のタスクにおける、最後に実行されたタスクの前記実行ログは、タスクが割り当てられた前記ワーカに対するユーザ評価を含み、
前記プロセッサは、前記ユーザ評価に基づいて前記評価指標を補正することを特徴とする計算機システム。
【請求項７】
請求項３に記載の計算機システムであって、
前記プロセッサは、
前記ワーカ管理情報を参照して、実行が要求されたタスクに対する前記各ワーカの処理性能の順位を決定し、
前記順位を用いた演算を実行することによって前記タスクの実行回数を算出することを特徴とする計算機システム。
【請求項８】
請求項３に記載の計算機システムであって、
前記タスクの実行要求は、前記条件として、タスクにおけるデータのサイズ、前記ワーカにおける外部データの使用の有無、前記外部データのタイプ、及び前記ワーカの処理性能の少なくともいずれかを含むことを特徴とする計算機システム。
【請求項９】
計算機システムが実行する、タスクの割当制御方法であって、
前記計算機システムは、
プロセッサ、前記プロセッサに接続される記憶装置、及び前記プロセッサに接続されるネットワークインタフェースを有し、
計算機リソースを用いてタスクを実行するワーカが稼働する複数のワーカシステムと接続し、
前記ワーカを管理するためのワーカ管理情報を保持し、
前記ワーカ管理情報には、前記ワーカの識別情報及び前記ワーカの特性を示す項目から構成されるデータが格納され、
少なくとも一つの前記ワーカシステムでは、指示内容を記したテキストであるプロンプトを受け付けて、応答となるテキストを出力する言語処理タスクを実行する大規模言語モデルが前記ワーカとして稼働し、
前記タスクの割当制御方法は、
前記プロセッサが、タスクの実行要求を受け付ける第１のステップと、
前記プロセッサが、前記各ワーカについて、所望の結果を得るまでに実行される複数のタスクに関するタスク実行情報を生成する第２のステップと、
前記プロセッサが、前記ワーカ管理情報及び前記タスク実行情報に基づいて、候補ワーカを特定する第３のステップと、
前記プロセッサが、前記候補ワーカの中からタスクを割り当てる前記ワーカを選択する第４のステップと、を含むことを特徴とするタスクの割当制御方法。
【請求項１０】
請求項９に記載のタスクの割当制御方法であって、
前記ワーカの特性を示す項目には、少なくともタスクの実行に伴うコストが含まれ、
前記第２のステップは、前記プロセッサが、前記各ワーカについて、所望の結果を得るまでに実行されるタスクの実行回数を算出するステップを含み、
前記第４のステップは、
前記プロセッサが、前記コスト及び前記タスクの実行回数に基づいて、前記候補ワーカの評価指標を算出する第５のステップと、
前記プロセッサが、前記評価指標に基づいて、前記候補ワーカの中からタスクを割り当てる前記ワーカを選択する第６のステップと、を含むことを特徴とするタスクの割当制御方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、ＬＬＭ等のワーカへタスクを割り当てる技術に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
タスクをワーカに割り当てる技術として特許文献１及び特許文献２に記載の技術が知られている。
【０００３】
特許文献１には「ネットワークを介して、新規タスクを処理可能なワーカ群のうちエキスパートに新規タスクを割り当てるタスク割り当てサーバ１０であって、ワーカ群の各ワーカが過去に処理したタスクの情報を少なくとも含むワーカ群情報を記憶するワーカＤＢ２４と、ワーカ群情報に基づいて、ワーカ群の各ワーカを複数のクラスタのいずれかに分類するクラスタ作成機能部１４と、新規タスクの一部であるテストタスクの処理結果に基づいて、複数のクラスタのうちの１つに属するワーカを、エキスパートとする処理結果解析機能部１８と、を備える」ことが記載されている。
【０００４】
特許文献２には「エージェントのスキル、特定の連絡に使用されたチャネル、個人の嗜好、他の連絡固有情報、連絡の受信と発信のバランス、特定の連絡に対するエージェントの相対費用を含むがこれらに限定されない判定要素を考慮した効率的な多次元ルーティングアルゴリズムを提供する」ことが記載されている。
【先行技術文献】
【特許文献】
【０００５】
特開２０１５－１６２１０９号公報
特表２０１８－５２７６３４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
近年、タスクを実行するワーカとして、ＬＬＭ（大規模言語モデル）が注目されている。ＬＬＭは、大量のテキストデータを用いて構築された自然言語処理モデルであり、様々な言語処理タスクを実行できる。ＬＬＭは、自然言語で記述した質問等、タスクの内容を含むプロンプトを受け付け、タスクの内容の意味を理解し、回答となるテキストを生成し、出力する。
【０００７】
ＬＬＭは、トークン長及び外部データの使用の有無等、ＬＬＭ特有の特性を有する。また、ＬＬＭを用いた場合、一回のタスクの実行では所望の結果が得られないことが多いため、プロンプトの内容を変えながら、複数回タスクを実行させる。
【０００８】
従来技術では、上記のようなＬＬＭの特性を考慮していない。本発明は、ＬＬＭの特性を考慮し、タスクを割り当てるワーカを決定する技術を提供することを目的とする。
【課題を解決するための手段】
【０００９】
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、計算機システムであって、プロセッサ、前記プロセッサに接続される記憶装置、及び前記プロセッサに接続されるネットワークインタフェースを備え、計算機リソースを用いてタスクを実行するワーカが稼働する複数のワーカシステムと接続し、前記ワーカを管理するためのワーカ管理情報を保持し、前記ワーカ管理情報には、前記ワーカの識別情報及び前記ワーカの特性を示す項目から構成されるデータが格納され、少なくとも一つの前記ワーカシステムでは、指示内容を記したテキストであるプロンプトを受け付けて、応答となるテキストを出力する言語処理タスクを実行する大規模言語モデルが前記ワーカとして稼働し、前記プロセッサは、タスクの実行要求を受け付け、前記各ワーカについて、所望の結果を得るまでに実行される複数のタスクに関するタスク実行情報を生成し、前記ワーカ管理情報及び前記タスク実行情報に基づいて、候補ワーカを特定し、前記候補ワーカの中からタスクを割り当てる前記ワーカを選択する。
【発明の効果】
【００１０】
本発明によれば、ＬＬＭの特性を考慮し、タスクを割り当てるワーカを決定できる。上記した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許