2020 Fiscal Year Research-status Report
機械学習による誤りが引き起こす情報セキュリティ問題に関する研究
| Project/Area Number |
18K11248
|
|---|
| Research Institution | Tokyo University of Technology |
|---|
Principal Investigator |
宇田 隆哉 東京工科大学, コンピュータサイエンス学部, 講師 (50350509)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
柴田 千尋 東京工科大学, コンピュータサイエンス学部, 講師 (00633299)
|
|---|
| Project Period (FY) |
2018-04-01 – 2022-03-31
|
| Keywords | 情報セキュリティ / 深層学習 / 人工知能 / Adversarial Examples |
|---|
| Outline of Annual Research Achievements |
本プロジェクトでは、人工知能に使用されている深層学習を情報セキュリティに適用した場合の問題点について研究を行っている。その中で、深層学習を使用して亜種マルウェアを検出する方法とその耐性について研究を行い発表した。他の研究者らも機械学習を使用した亜種マルウェアの検出を行っているが、そこにはいくつかの問題点がある。まず、nバイト連続した特徴を利用するn-gramと呼ばれる手法があるが、既存研究ではnの値が固定であるため、検出方法が攻撃者に既知である場合に故意にこのnの値を避けるマルウェアを作成可能である。そこで、マルチn-gramによる亜種マルウェアの検出手法を提案し、国内シンポジウムにて発表した。また、n-gramは作成に時間が掛かるという欠点がある。そのため、接尾辞配列を用いてこの問題点を解決した亜種マルウェアの検出手法を提案し、国際会議にて発表した。
また、本研究室では、人間に読めないナンバープレートを深層学習を使用して読むという研究を行っていたが、うまく読むことができなかった。そこで、コントラスト比を変化させながら機械学習により解像度を上げることで、識別率を向上する手法を提案し、国際会議にて発表した。
さらに、本研究室では、ピッキングと鍵開けを深層学習を使用して区別するという研究を行っていたが、手元が隠されている場合を考慮し、どこまでの骨格座標を取得できれば識別率がどの程度になるかという研究結果を国際会議にて発表した。
また、新たな視点として、既存研究の評価が適切であるかどうかの評価も行った。その結果、XSS攻撃を機械学習を用いて検出するというすべての関連研究はデータセットが不適切であることが判明し、その理由と、深層学習をXSS攻撃に適用する場合にどのようにして適切なデータセットを作成するかについてを国内研究会にて発表した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
平成30年度のおわりに、サイズの大きい亜種マルウェアをn-gramを用いて小さいサイズにすることで、深層学習を使用して発見する方法について国内研究会にて発表した。平成31年度に、この研究をまとめて査読付ジャーナル論文に投稿したが、関連研究との比較が不十分とのことで不採録となった。不採録となった主な理由が、マルウェアにn-gramを適用して機械学習により検出する研究自体はすでに複数あり、それらとの比較が述べられていないことであった。しかし、既存研究では、サイズを小さくするためにn-gramの出現回数や順序といった情報を捨てており、これらが検出率に影響する恐れがある。一方、本プロジェクトの提案手法では、出現回数や順序、一定範囲内の共起度を保つことができるため、その違いを述べて査読付ジャーナル論文に再投稿した。現在査読中である。
また、敵対的ノイズを画像に適用する研究について、平成30年度までも研究を行ってきたが、その研究をさらに発展させている。人工知能を騙すことが可能な敵対的パッチというものが研究されており、その論文の著者らも、それを服に印刷することで人工知能に対して透明人間になれることを示唆している。しかし、服に印刷するとシワによる歪みが生じ、パッチが正常に動作しない。そこで、シワに耐性のある敵対的パッチを本プロジェクトにおいて研究中である。
なお、ピッキングと鍵開けの研究やシワのある服の研究において顕著な問題として、コロナウイルスの影響がある。密を避けるよう大学から指示があり、一部の実験が行えていない。さらに、コロナウイルス感染拡大のため、参加を予定していた国際会議や国内研究会がオンライン開催に変更されてしまったり、消滅してしまったりした。そのため、予定通り予算が執行できなかった。一部の実験が未実施である以外の進捗には問題がないため、おおむね順調と判断する。
|
| Strategy for Future Research Activity |
既存研究との比較が不十分のため、査読付ジャーナル論文に不採録となった亜種マルウェア検出の研究については、再投稿を行って査読中である。条件付採録になった場合には、採録の条件を満たすために追加実験や論文修正を行う予定である。接尾辞配列を用いて亜種マルウェアを検出する手法は、深層学習においてデータサイズを小さくしなければならない点と、一部のデータを削除すると検出精度が落ちてしまう点のジレンマを解消した画期的なものであり、国際会議で発表した論文を改善し、査読付ジャーナル論文に投稿する予定である。
シワに耐性のある敵対的パッチについては、うまく行く可能性のある方法を考えついたため、これから実験を行う予定である。実験結果をまとめ、まずは国内研究会にて発表を行い、専門家の意見を広く集めることを考えている。なお、敵対的パッチをTシャツに印刷し読み取る実験をすでに行っているが、コロナウイルスの影響もあり、今後の実験を予定通り行えるかどうかはわからない。
人間に読めないナンバープレートを深層学習を使用して読むという研究については、読み取り精度が低い段階で、本プロジェクトとは関係なく査読付ジャーナル論文にすでに採録になっている。人間に読めないナンバーに対して、高い精度で人工知能が読み取れる場合と読み取れない場合があるため、その理由の解明こそが、まさに本プロジェクトのテーマに合致するものであると考え、今後も研究を進めていく。
|
| Causes of Carryover |
査読付ジャーナル論文に不採録となった亜種マルウェア検出の研究について、再投稿となったため、次年度使用額が生じた。また、令和2年度における研究の成果を、主に令和3年の3月に行う予定であったが、コロナウイルスの感染が収束しないために発表自体がオンラインとなったり、予定していた実験が行えなくなってしまったりした影響があり、物品費と旅費に次年度使用額が生じた。
不採録となった論文は再投稿を行い、査読中である。採録になれば掲載料が必要となる。令和2年度中に発表できなかった成果に関しては、令和3年度中にずらして発表を行いたい。また、予定していた実験は、コロナウイルスによる影響を注視しつつ令和3年度中に再開する予定である。
|
Research Products
(10 results)
