特許ウォッチ

公開番号2025118160
公報種別公開特許公報(A)
公開日2025-08-13
出願番号2024013304
出願日2024-01-31
発明の名称情報処理装置、情報処理装置の制御方法及びプログラム
出願人キヤノン株式会社
代理人弁理士法人大塚国際特許事務所
主分類G06N 20/00 20190101AFI20250805BHJP(計算;計数)
要約【課題】ユーザが公開するAIモデルによって、AI倫理上の問題が生じるリスクを低減する技術を提供する。
【解決手段】他の情報処理装置と通信可能な情報処理装置であって、前記他の情報処理装置から学習済みAIモデルの情報を取得する取得手段と、前記学習済みAIモデルを評価する評価手段と、前記評価手段の評価結果に基づいて、前記情報処理装置が前記学習済みAIモデルを公開する公開範囲を決定する決定手段とを備える。
【選択図】図4
特許請求の範囲【請求項１】
他の情報処理装置と通信可能な情報処理装置であって、
前記他の情報処理装置から学習済みＡＩモデルの情報を取得する取得手段と、
前記学習済みＡＩモデルを評価する評価手段と、
前記評価手段の評価結果に基づいて、前記情報処理装置が前記学習済みＡＩモデルを公開する公開範囲を決定する決定手段と、
を備えることを特徴とする情報処理装置。
続きを表示（約 1,200 文字）【請求項２】
前記評価手段は、
前記学習済みＡＩモデルの情報に基づいてＡＩ倫理の評価項目を特定し、前記評価項目に応じた評価用データを確定する確定手段と、
前記評価用データに基づいて前記学習済みＡＩモデルの評価精度を算出する算出手段と、
を備えることを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記決定手段は、前記学習済みＡＩモデルの前記評価精度と、前記評価項目に関連付けられた基準値とに基づいて、前記学習済みＡＩモデルの前記公開範囲を決定することを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記決定手段は、前記評価精度が前記基準値以上である場合、全てのユーザに対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項５】
前記決定手段は、前記評価精度が前記基準値未満であり、前記評価精度と前記基準値との差分が予め設定された限界値以下である場合、前記学習済みＡＩモデルを評価する一部のユーザである評価ユーザに対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項６】
前記決定手段は、前記評価精度が前記基準値未満であり、前記評価精度と前記基準値との差分が予め設定された限界値を超えている場合、前記学習済みＡＩモデルの学習を行ったユーザに対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項７】
前記決定手段は、前記評価精度が前記基準値以上である場合、全世界に対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項８】
前記決定手段は、前記評価精度が前記基準値未満であり、前記評価精度と前記基準値との差分が予め設定された限界値以下である場合、一部の地域に対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項９】
前記決定手段は、前記評価精度が前記基準値未満であり、前記評価精度と前記基準値との差分が予め設定された限界値以下である場合、前記学習済みＡＩモデルに注釈情報を付与し、当該注釈情報の内容に同意したユーザに対して前記学習済みＡＩモデルを公開することを決定することを特徴とする請求項３に記載の情報処理装置。
【請求項１０】
前記評価ユーザによる前記学習済みＡＩモデルに対するレビュー結果を取得する取得手段と、
前記レビュー結果に基づいて前記基準値を変更する変更手段と、
をさらに備えることを特徴とする請求項５に記載の情報処理装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置、情報処理装置の制御方法及びプログラムに関し、特に、複数のＡＩ（Artificial Intelligence：人口知能）タスクの学習を行う技術に関する。
続きを表示（約 1,400 文字）【背景技術】
【０００２】
ＡＩが普及するに従って、ＡＩによる判定結果において人種や男女等の差別が発生することや人間を動物として誤検出することなどが懸念されており、それらの対策として、世界的にＡＩ倫理の策定に向かっている。さらに、ＡＩ倫理は、国や地域等で異なる可能性がある。
【０００３】
近年、ＡＩモデルは、企業や組織だけでなく一般ユーザが自身の用途に合わせて作成することが増えてきている。また、一般ユーザ間で作成した機械学習済のＡＩモデルを公開したり取得したりすることができるインターネット経由のサービスがあり、一度公開されたモデルを多くのユーザが使用可能となっている。
【先行技術文献】
【特許文献】
【０００４】
特開２０２１－３３７０７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、ユーザが作成したＡＩモデルは、ＡＩ倫理を十分に満たしていない可能性がある。その場合、ＡＩモデルがサーバ上に公開されて、全世界のユーザがそのＡＩモデルを使用可能になると、ＡＩモデルの出力結果によって市場でＡＩ倫理上の問題が生じる可能性がある。例えば、特定の人物にオートフォーカスするモデルであるにも関わらず、他の動物にオートフォーカスしてしまう等の問題が生じる可能性がある。
【０００６】
本発明は、上記の課題に鑑みてなされたものであり、ユーザが公開するＡＩモデルによって、ＡＩ倫理上の問題が生じるリスクを低減する技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記の目的を達成する本発明に係る情報処理装置は、
他の情報処理装置と通信可能な情報処理装置であって、
前記他の情報処理装置から学習済みＡＩモデルの情報を取得する取得手段と、
前記学習済みＡＩモデルを評価する評価手段と、
前記評価手段の評価結果に基づいて、前記情報処理装置が前記学習済みＡＩモデルを公開する公開範囲を決定する決定手段と、
を備えることを特徴とする。
【発明の効果】
【０００８】
本発明によれば、ユーザが公開するＡＩモデルによって、ＡＩ倫理上の問題が生じるリスクを低減することが可能となる。
【図面の簡単な説明】
【０００９】
一実施形態に係る情報処理システムにおけるサーバ側の情報処理装置のハードウェア構成図。
一実施形態に係る情報処理システムにおけるユーザ側の情報処理装置のハードウェア構成図。
一実施形態に係る情報処理システムの構成図。
一実施形態に係る情報処理システムの機能ブロック図。
一実施形態に係る公開範囲決定部の機能ブロック図。
一実施形態に係る情報処理装置が実行する処理の手順を示すフローチャート。
【発明を実施するための形態】
【００１０】
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
（【００１１】以降は省略されています）

関連特許