1. 前のページに戻る

機械学習技術の脆弱性を外部からブラックボックス的に検証するツールの試作

研究課題

産学が連携した研究開発成果の展開 研究成果展開事業 研究成果最適展開支援プログラム(A-STEP) トライアウト トライアウトタイプ(標準)

体系的番号 JPMJTM20T0
DOI https://doi.org/10.52926/JPMJTM20T0

研究代表者

小野 智司  鹿児島大学, 学術研究院 理工学域工学系, 教授

研究期間 (年度) 2021
概要機械学習器の誤認識を意図的に生じさせる敵対的攻撃の技術を利用し,機械学習システムの脆弱性を発見するツール/サービスを開発する.本技術は,対象システムの内部情報を利用せずに,外部から脆弱性を検証できる点に特徴があり,商用システム/サービスへの適用が可能である.また,一般的な敵対的攻撃では発見できない脆弱性を発見できる点にも特徴がある.さらに,本技術の実現により,脆弱性を含むモデルに対して,有効な防御技術を提案することが可能となる.本課題では,広く利用されている画像認識器における未知の脆弱性を100種類程度明らかにするとともに,対象器の頑健性を高める防御手法の組み合わせを提案できることを示す.

URL: 

JSTプロジェクトデータベース掲載開始日: 2021-07-12   JSTプロジェクトデータベース最終更新日: 2025-03-26  

サービス概要 よくある質問 利用規約

Powered by NII jst