2018 Fiscal Year Research-status Report
機械学習による誤りが引き起こす情報セキュリティ問題に関する研究
| Project/Area Number |
18K11248
|
|---|
| Research Institution | Tokyo University of Technology |
|---|
Principal Investigator |
宇田 隆哉 東京工科大学, コンピュータサイエンス学部, 講師 (50350509)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
柴田 千尋 東京工科大学, コンピュータサイエンス学部, 講師 (00633299)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 情報セキュリティ / 深層学習 / 人工知能 / Adversarial Examples |
|---|
| Outline of Annual Research Achievements |
本プロジェクトでは、近年、人工知能に使用されている深層学習を情報セキュリティに適用した場合の問題点について研究を行っている。その一つとして、CAPTCHAについての研究を行い、査読付ジャーナル論文として発表した。まず、本プロジェクトの前に、人間に認識しやすくコンピュータに認識しにくい文字列CAPTCHAを開発し、深層学習への耐性を評価した。その結果、耐性は全くないことが判明した。次に、敵対的ノイズ(Adversarial Exsamples)をCAPTCHAに適用することで、深層学習による文字の認識をどの程度妨げられるか評価し、査読付ジャーナル論文として発表した。この評価より、本研究の方法で敵対的ノイズを文字に重畳すれば、深層学習による文字の認識を完全に妨げられるとともに、他の研究における敵対的ノイズの重畳方法よりも、人間への視覚的影響が遙かに小さいことが判明した。この敵対的ノイズの作成方法の詳細については、別途国際会議論文にて発表した。
また、XSS攻撃に深層学習を適用する際の問題点を発見し、国際会議論文にて発表した。他の研究においては単純に深層学習を適用しており、一見するとほぼ100%攻撃を防げるように見えるが、それはIPアドレスや完全修飾ドメイン名(FQDN)に依存した分類であり、攻撃対象が異なる場合には、約20%ほどまで精度が低下することを発見した。一方、本研究の方法では、同様の状況下でほぼ100%攻撃を防げる。
また、マルウェアの亜種を深層学習を使用して発見する方法についても研究を行い、国内研究会にて発表した。メモリ不足となるため、大きいサイズのマルウェアには単純に深層学習を適用できない。他の研究にも、マルウェアを圧縮して深層学習を適用する方法は存在するが、その方法では理論上高い分類精度は出ない。一方、本研究の手法では、圧縮条件によってはこれを100%分類できた。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
研究分担者である柴田千尋講師の尽力により、敵対的ノイズによりCAPTCHAの妨害を行う研究に関しては、本プロジェクトの前段階のものが「Evaluation of Ergonomically Designed CAPTCHAs using Deep Learning Technology」というタイトルで査読付ジャーナル論文に掲載され、本プロジェクトにおいては、「畳込みニューラルネットワークに耐性のあるCAPTCHAの提案と評価」が査読付ジャーナル論文に掲載され、すでに十分な成果が揃った。なお、英文のものはオープンアクセスの論文であり、J-STAGEに掲載されている。また、本プロジェクトのものは推薦論文であり、高い評価を受けている。
XSS攻撃に深層学習を適用して分類する研究に関しては、本研究において高精度で検出が行えたことよりも、他の研究者の方法が全く意味を成していないことを明確に数値で示せたことが大きい。この成果は「Classification of XSS Attacks by Machine Learning with Frequency of Appearance and Co-Occurrence」という国際会議論文で発表し、IEEEから論文が発行されているため、世界中の技術者に注意喚起を行えた。なお、この成果を詳細にまとめたものを、査読付ジャーナル論文に投稿中である。
マルウェアを圧縮し、深層学習を用いて分類する研究に関しては、現時点では国内研究会で手法を開示したのみであるが、この成果をまとめ、査読付ジャーナル論文に投稿する予定である。なお、発表を行った研究会には情報セキュリティの技術者が多数いたが、彼らは深層学習に明るくなく、深層学習を専門的に扱う研究者もいたが、彼らは情報セキュリティ技術に明るくなく、技術者間の交流や連携が必要であることがよく理解できた。
|
| Strategy for Future Research Activity |
敵対的ノイズによりCAPTCHAの妨害を行う研究は、当初の計画以上に進展し、査読付ジャーナル論文も2件掲載済みのため、これで研究は基本的に完了としたい。ただし、柴田千尋講師発案の敵対的ノイズ作成方法は、他の研究者の方法より理論的に有効であるため、深層学習を情報セキュリティに適用する場合に、これを用いて妨害が行えないか模索することは検討している。
XSS攻撃に深層学習を適用して分類する際に、他の研究者の方法が全く意味を成さないことは、他の攻撃手法にも当てはまるため、同様の弱点を突いて、攻撃検出のシステムを故意に妨害できないか研究を進めることは検討している。基本的には、現在、査読付ジャーナル論文に投稿中の成果をもって基本的に完了としたい。
マルウェアを圧縮し、深層学習を用いて分類する研究に関しては、現存のマルウェアに対して評価を行ったのみである。よって、本研究手法の弱点を突いたマルウェアを故意に作成可能かどうかを検証する必要がある。まず、現時点での成果を査読付ジャーナル論文に投稿するが、弱点の有無も含めて研究を継続したい。
|
| Causes of Carryover |
敵対的ノイズによりCAPTCHAの妨害を行う研究に関して、大幅に進捗が見込めると判断したため、平成30年度に使用額の大半を割り当てた。そして実際、査読付ジャーナル論文の掲載があり、十分な成果があった。しかし、想定よりも演算に機器を占有されずに機材費に余裕ができ、査読付国際会議への参加も想定よりも少なかったことから、次年度使用額が生じた。
予想よりも査読付ジャーナル論文に掲載可能な研究成果があったため、次年度使用額は主に論文誌掲載料に使用したい。一部の研究については今後も継続を検討しているため、国際会議の参加費としての使用も視野に入れている。
|
