研究課題/領域番号 |
21H03545
|
研究種目 |
基盤研究(B)
|
配分区分 | 補助金 |
応募区分 | 一般 |
審査区分 |
小区分62010:生命、健康および医療情報学関連
|
研究機関 | 九州工業大学 |
研究代表者 |
竹本 和広 九州工業大学, 大学院情報工学研究院, 教授 (40512356)
|
研究期間 (年度) |
2021-04-01 – 2026-03-31
|
研究課題ステータス |
交付 (2023年度)
|
配分額 *注記 |
17,550千円 (直接経費: 13,500千円、間接経費: 4,050千円)
2023年度: 2,990千円 (直接経費: 2,300千円、間接経費: 690千円)
2022年度: 2,990千円 (直接経費: 2,300千円、間接経費: 690千円)
2021年度: 5,590千円 (直接経費: 4,300千円、間接経費: 1,290千円)
|
キーワード | 深層ニューラルネットワーク / 機械学習セキュリティ / ネットワーク科学 / 医用画像診断 |
研究開始時の研究の概要 |
深層ニューラルネットワーク(DNN)は画像認識能力の高さから医用画像診断に応用され始めているが、DNNは敵対的攻撃(外部からの攻撃)に対して脆弱性を示すという問題がある。この問題はDNNを医用画像診断として社会応用する上で大きな障壁となる。そこで本研究課題では、複雑ネットワークの理論を応用することで、医用画像診断のために開発されたDNNの信頼性評価や安全性向上のためのアルゴリズム開発とその応用を目的とする。敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献する。
|
研究実績の概要 |
本研究課題は、複雑ネットワークの理論を応用することで、医用画像診断のために開発された深層ニューラルネットワーク(DNN)の信頼性評価や安全性向上のために、敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献することを目的とする。本年度は以下のような実績をあげた。 DNNのほとんどのタスクを失敗させる・制御する普遍的敵対的摂動(UAP)をブラックボックス条件下で生成する簡単な手法を開発した(Koga and Takemoto 2022)。具体的に、DNNの出力に基づく単純な山登り探索を用いてUAPを生成する方法を提案し、代表的なDNNベースの医療画像分類を用いたブラックボックス条件の比較的小さなデータセットを用いて、UAPが容易に生成可能であることを実証した。 ImageNetなどで事前されたDNNから転移学習はよく用いられるが、その事前訓練DNNにバックドアが仕掛けられていた場合、小型のDNNを除き、転移学習を経てモデルが変更された後もそのバックドアが有効なままであることを明らかにした(Matsuo and Takemoto 2022)。さらに、バックドアを検出することは困難であることも明らかにした。 DNNに対する敵対的攻撃の手法を応用して、社会ネットワークにおける集団意思決定は、極めて小さな(検出困難な)摂動を加えることで歪めることができることを示した(Chiyomaru and Takemoto 2022)。具体的に、投票者モデルにおいて、個人の意見状態を目標状態に近づけるための攻撃方法を提案し、一つの意見が多数派であっても、極めて小さな摂動をで、投票結果を反転させることができることを示した。これは複雑なネットワークにおいてより顕著になることも示した。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
手法の開発と医療用DNNへの応用が順調に進み、着実に研究成果をあげることができている。UAPについては、予定通り、ブラックボックス型に対応したUAPの生成アルゴリズムが予定通り完成した。また、バックドア攻撃についてはより一般的な転移学習における評価も可能となった。
|
今後の研究の推進方策 |
次年度以降も、基本的には当初の研究実施計画通りに進める。特に、ホワイトボックスとブラックボックス条件下での攻撃手法の改善を行うとともに、防御手法についても開発を進めていくことを予定している。代表的な手法はすでに実装済みであり、これらの拡張などを考えている。
|