特許ウォッチ

公開番号2025107838
公報種別公開特許公報(A)
公開日2025-07-22
出願番号2024001324
出願日2024-01-09
発明の名称制御装置、制御方法、及びプログラム
出願人キヤノン株式会社
代理人個人
主分類G06T 7/00 20170101AFI20250714BHJP(計算;計数)
要約【課題】プライバシーや人権等を侵害してしまう状況が発生する可能性を低減する。
【解決手段】制御装置は、人物を含む画像を取得する取得手段と、画像から人物の情報を推定するための推定処理を実行する推定手段と、推定手段による推定処理の結果を出力する出力手段とを有する。さらに制御装置は、推定手段による推定処理の使用状況を判定する判定手段と、判定手段による使用状況の判定結果に基づいて、推定手段による推定処理と出力手段による出力との、少なくともいずれか一方を制限する制御手段とを有する。
【選択図】図1
特許請求の範囲【請求項１】
人物を含む画像を取得する取得手段と、
前記画像から前記人物の情報を推定するための推定処理を実行する推定手段と、
前記推定手段による前記推定処理の結果を出力する出力手段と、
前記推定手段による前記推定処理の使用状況を判定する判定手段と、
前記判定手段による前記使用状況の判定結果に基づいて、前記推定手段による推定処理と前記出力手段による出力との、少なくともいずれか一方を制限する制御手段と、
を有することを特徴とする制御装置。
続きを表示（約 1,400 文字）【請求項２】
前記判定手段は、
前記推定処理に使用される前記画像が取得される環境を推定する環境推定手段と、
前記環境推定手段により推定した前記環境が前記推定処理の使用に適切な環境かを判定する環境判定手段と、を有し、
前記環境判定手段による判定結果を、前記使用状況の判定結果とすることを特徴とする請求項１に記載の制御装置。
【請求項３】
前記環境推定手段は、前記画像が取得される環境として当該画像が取得される場所の種類を認識するシーン認識手段を含み、
前記環境判定手段は、前記シーン認識手段により認識した場所の種類が、前記推定処理の使用に適切な場所であるかを判定することを特徴とする請求項２に記載の制御装置。
【請求項４】
前記環境判定手段は、前記シーン認識手段により認識した場所の種類が、所定の種類の場所である場合、前記推定処理の使用に適切ではない場所であると判定し、
前記制御手段は、前記推定処理の使用に適切ではない場所であるとの判定結果に基づいて、前記推定手段による推定処理と前記出力手段による出力との、少なくともいずれか一方を制限することを特徴とする請求項３に記載の制御装置。
【請求項５】
前記所定の種類の場所は、公共の場所であることを特徴とする請求項４に記載の制御装置。
【請求項６】
前記判定手段は、
前記推定手段により前記推定される前記人物の状態を推定する状態推定手段と、
前記状態推定手段により推定した前記状態が前記推定処理の使用に適切な状態かを判定する状態判定手段と、を有し、
前記状態判定手段による判定結果を、前記使用状況の判定結果とすることを特徴とする請求項１乃至５のいずれか１項に記載の制御装置。
【請求項７】
前記状態推定手段は、前記人物の状態として、前記画像に含まれる前記人物の数をカウントし、
前記状態判定手段は、前記状態推定手段によりカウントした人物の数に基づいて、前記推定処理の使用に適切な状態であるかを判定することを特徴とする請求項６に記載の制御装置。
【請求項８】
前記状態判定手段は、前記状態推定手段によりカウントされた前記人物の数が、所定の閾値以上である場合、前記推定処理の使用に適切ではない状態であると判定し、
前記制御手段は、前記推定処理の使用に適切ではない状態であるとの判定結果に基づいて、前記推定手段による推定処理と前記出力手段による出力との、少なくともいずれか一方を制限することを特徴とする請求項７に記載の制御装置。
【請求項９】
前記状態推定手段は、前記人物の状態として、前記人物の感情を推定し、
前記状態判定手段は、前記状態推定手段により推定された前記人物の感情に基づいて、前記推定処理の使用に適切な状態であるかを判定することを特徴とする請求項６に記載の制御装置。
【請求項１０】
前記制御手段は、前記取得手段により取得された画像枚数のうち所定の閾値以上の枚数の画像について前記判定手段が前記推定処理の使用は適切ではないと判定した判定結果が得られた場合に、前記推定手段による推定処理と前記出力手段による出力との、少なくともいずれか一方を制限することを特徴とする請求項１に記載の制御装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、推定処理の制御技術に関する。
続きを表示（約 2,000 文字）【背景技術】
【０００２】
近年、画像を高度に処理して有用な情報を抽出する技術が多く提案されている。特にその中でも、ディープネット（或いはディープニューラルネット、ディープラーニングとも称される）と呼ばれる多階層ニューラルネットワークを用いて人物の顔を認識する技術が盛んに研究開発されている。また、ディープネットによる顔認識技術は、入力された顔画像と、予め登録されている顔画像との比較を行い、入力された顔画像が登録された顔画像と同一人物であるか判定するような人物認証にも用いられている。さらに、ディープネットを用いて画像から情報を抽出する技術は、顔認識への適用にとどまらず、顔画像からその人の感情を推定するような研究への展開も進んでいる。
【０００３】
また、特許文献１には、人物を特定するカード認証と、人物の顔画像情報に基づいてその人物を特定する顔認証との両方を実行可能とした上で、禁止ボタンに対する操作により顔認証を任意に有効・無効にできるようにする技術が開示されている。さらに、特許文献２には、撮像画像から抽出した人物画像の目視識別困難データと、検出対象者について予め登録された登録人物データとを照合して、目視識別困難データの被写体が検出対象者であるか否かを照合する技術が開示されている。
【先行技術文献】
【特許文献】
【０００４】
特開２０１３－１９２６１４号公報
特開２０１８－１２９７５０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
一方で、顔認識技術を含む各種推定処理は、人々のプライバシーや人権等を侵害してしまう可能性がある技術でもあるとも言える。したがって、推定処理を使用する際には、プライバシーや人権侵害に十分配慮する必要がある。また、顔認識技術を含む各種推定処理の利用に関して、一定水準の制限を加えることが望ましいという議論が起こっている。例えば、ＥＵ（欧州連合）では、公共の場所での顔認識技術を用いた大規模な監視活動を行うようなＡＩ（人工知能）については、その使用を禁止する法律の検討が行われている。しかしながら、顔認識技術が販売等された後は、その技術がどのように使われているのかまでは確認できないため、人々のプライバシーや人権等を侵害してしまう状況で使用されることもあり得る。
【０００６】
そこで、本発明では、プライバシーや人権等を侵害してしまう状況が発生する可能性を低減することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の制御装置は、人物を含む画像を取得する取得手段と、前記画像から前記人物の情報を推定するための推定処理を実行する推定手段と、前記推定手段による前記推定処理の結果を出力する出力手段と、前記推定手段による前記推定処理の使用状況を判定する判定手段と、前記判定手段による前記使用状況の判定結果に基づいて、前記推定手段による推定処理と前記出力手段による出力との、少なくともいずれか一方を制限する制御手段と、を有することを特徴とする。
【発明の効果】
【０００８】
本発明によれば、プライバシーや人権等を侵害してしまう状況が発生する可能性を低減できる。
【図面の簡単な説明】
【０００９】
第１の実施形態のＡＩシステムの構成例を示す図である。
取得画像の一例を示す図である。
人物推定部の構成例を示す図である。
識別子管理部により管理される登録生体識別子の一例を示す図である。
第１の実施形態の状況監視部の構成例を示す図である。
第１の実施形態のＡＩシステムのフローチャートである。
第２の実施形態のＡＩシステムの構成例を示す図である。
第２の実施形態の状況監視部の構成例を示す図である。
第２の実施形態のＡＩシステムのフローチャートである。
第３の実施形態の状況監視部の構成例を示す図である。
第３の実施形態のＡＩシステムのフローチャートである。
第４の実施形態のＡＩシステムの構成例を示す図である。
ＡＩシステムのハードウェア構成例を示す図である。
【発明を実施するための形態】
【００１０】
以下、本発明に係る実施形態を、図面を参照しながら説明する。以下の各実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。実施形態の構成は、本発明が適用される装置の仕様や各種条件（使用条件、使用環境等）によって適宜修正又は変更され得る。また、以下の実施形態において、同一もしくは同様の構成や処理工程には同じ参照符号を付し、重複する説明は省略する。
（【００１１】以降は省略されています）

関連特許