2019 Fiscal Year Research-status Report
機械学習による誤りが引き起こす情報セキュリティ問題に関する研究
| Project/Area Number |
18K11248
|
|---|
| Research Institution | Tokyo University of Technology |
|---|
Principal Investigator |
宇田 隆哉 東京工科大学, コンピュータサイエンス学部, 講師 (50350509)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
柴田 千尋 東京工科大学, コンピュータサイエンス学部, 講師 (00633299)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 情報セキュリティ / 深層学習 / 人工知能 / Adversarial Examples |
|---|
| Outline of Annual Research Achievements |
本プロジェクトでは、人工知能に使用されている深層学習を情報セキュリティに適用した場合の問題点について研究を行っている。その中で、深層学習を使用して亜種マルウェアを検出する方法とその耐性について研究を行い、国内シンポジウムで発表した。他の研究者らも機械学習を使用した亜種マルウェアの検出を行っているが、そこにはいくつかの問題点がある。
基本的な点として、研究者が考案した何らかの方法で既存の亜種マルウェアと良性ソフトウェアを分類し、その分類精度をもって亜種マルウェアの最終的な検出率とするものが多い。未知のマルウェアを評価することはできないため、この評価方法自体は我々も同様であるが、検出方法が攻撃者に既知である場合の考察がない。例えば、あるシーケンスを含む頻度がこの分類に大きく依存している場合、攻撃者はワームにこのシーケンスを含まない無意味なバイナリを多く追加することによって、そのワームの検出率を故意に下げることが可能となる。また、畳み込みニューラルネットワークのような深層学習を使用する場合には、初期に画像に対して適用されていた敵対的ノイズ(Adversarial Exsamples)がマルウェアにも適用可能であるという研究報告が挙がっている。もう一点は、深層学習を使用する際に対象となるマルウェアのサイズを小さくすることが望ましいが、その際の演算コストと検出率の関係に問題があることである。
本プロジェクトで発表した論文においては、検出方法が攻撃者に既知である場合に、攻撃者がどのような対策を行えるかについて論じ、本手法ではそのすべての対策を無効にできることを示した。その上で、既存の亜種マルウェア4種を評価した場合に、それらのマルウェアを圧縮した上で、圧縮条件によってはこれを100%検出可能であることを示した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
平成30年度のおわりに、サイズの大きい亜種マルウェアをN-gramを用いて小さいサイズにすることで、深層学習を使用して発見する方法について国内研究会にて発表した。平成31年度に、この研究をまとめて査読付ジャーナル論文に投稿したが、関連研究との比較が不十分とのことで不採録となった。既存研究の場合、単純なN-gramの適用では演算コストが非常に大きい。また、演算コストを下げるために工夫をしている研究では、検出手法が攻撃者に既知である場合に、未知の場合と同程度の検出率を保つことが困難である。これらの点について比較を行い、論文中で議論する必要があった。不採録となったこの論文に関しては、関連研究との比較を行い再投稿すればよいのでおおむね順調に進展していると判断した。
また、敵対的ノイズを画像に適用する研究についても進捗がある。いくつかの既存研究において、敵対的ノイズが高確率で人工知能を騙せることが検証されているが、実環境における評価が不十分である。例えば、道路標識などの看板に敵対的ノイズを乗せたものでは、看板であるため対象は歪むことはなく、光量も十分な状態での撮影が行われている。また、人物を人物と認識させなくする研究では、歪みのない特定の模様を人物の中央に配置することで偽装を行っている。本プロジェクトでは、歪みやノイズへの耐性を高める研究を行っている。この時点で研究は予定よりも進んでいたが、コロナウイルスの影響で実験が行えなくなっていることに問題があり、おおむね順調に進展しているという判断とした。
その他、大人数の利用者の中から本人確認をする際に、大量の人数を使った深層学習を行わずに本人確認が行える手法の研究をしている。この研究は未発表であるため、おおむね順調に進展しているという判断とした。
|
| Strategy for Future Research Activity |
既存研究との比較が不十分のため、査読付ジャーナル論文に不採録となった亜種マルウェア検出の研究について、比較を十分に行っていく予定である。とくに、マルウェアを単純にN-gramで圧縮する手法については10年以上前に提案されており、大量に亜種マルウェアを作成して攻撃する手法は最近流行していることから、調査範囲が不十分であったことは否めない。なお、現時点では、既存研究は本研究の新規性を否定するものではないと判断されているが、より詳細に類似研究の調査を行い、結論を確固たるものにする。
敵対的ノイズを画像に適用する研究に関しては、実際の環境で実験を行う必要がある。本来であれば、令和2年の3月にこの実験を行い、成果を国内で発表する予定であったが、コロナウイルスの影響で実験が行えなくなってしまった。この実験は、最終的に1回行えばよいものではなく、実験結果を見て手法に変更を加えるという作業を繰り返す必要がある。東京工科大学では、令和2年7月1日より時間制限無くキャンパスに立ち入れるようになるため、それ以降に実験を開始する予定である。ただし、少人数で、なおかつ人物同士の間隔を開けて作業をする必要があるため、実験方法については今後検討する。とくに、布など歪みが発生する形状のものに印刷した敵対的ノイズについて評価を行う必要があるため、消毒の方法についても検討する。
大人数の利用者の中から本人確認をする際に、大量の人数を使った深層学習を行わずに本人確認が行える手法に関しては、コロナウイルスが流行する以前に実験を終えていたため、すでに評価も行えている。関連研究との比較が十分ではないため、現在は関連研究を入念に調査中であるが、その後に査読付ジャーナル論文に投稿予定である。
|
| Causes of Carryover |
査読付ジャーナル論文に不採録となった亜種マルウェア検出の研究について、再投稿を行うため、次年度使用額が生じた。また、平成31年度における研究の成果を、主に令和2年の3月に行う予定であったが、コロナウイルスの影響で発表自体が中止となったり、予定していた実験が行えなくなってしまったりした影響があり、次年度使用額が生じた。論文誌掲載費用として約25万円、国内研究会または国際会議の参加費および旅費として約50万円、実験の人件費として約10万円を予定している。
平成31年度中に発表できなかった成果に関しては、令和2年度中にずらして発表を行いたい。予定していた実験は、コロナウイルスによる影響を注視しつつ令和2年度中に再開する予定である。また、令和2年度には新たに行われる研究を、国内研究会または国際会議で発表するための参加費および旅費として約20万円を予定している。
|
Research Products
(2 results)
