2018 Fiscal Year Research-status Report
ランダム行列の数理によるディープラーニングの有効性の解明
| Project/Area Number |
17K19989
|
|---|
| Research Institution | Institute of Physical and Chemical Research |
|---|
Principal Investigator |
瀧 雅人 国立研究開発法人理化学研究所, 数理創造プログラム, 上級研究員 (70548221)
|
|---|
| Project Period (FY) |
2017-06-30 – 2020-03-31
|
| Keywords | 深層学習 |
|---|
| Outline of Annual Research Achievements |
今年度は、計算機環境の拡充とともに理論的な解析をもとに応用研究を行った。一つは医療機械学習の研究者とともに、がん細胞の組織顕微鏡写真のセマンティック・セグメンテーションタスクに対して、新たなニューラルネットワークの設計を行い、予測精度を引き上げることに成功した。このような医療データのパターン認識は、通常の画像認識とは若干異なり、幅広い周波数帯の空間パターンを利用する必要がある。そこでそのような必要に向いたニューラルネットワークの改良を行った。現在、この結果を論文に準備中である。また神経科学者とともに、脳活動の計測データを深層学習で分析し、隠れた特徴的パターンの抽出を試みる研究も開始しており、すでにプレリミナリーな結果が出始めている。神経細胞の活動を解析するためには、極めて多量の細胞の集団活動を分析しなくてはならない。主成分分析など、既存の分析方法でもある程度集団活動のロバストな情報は取り出せるが、その細かい活動パターンの特徴量を捉えることは困難である。そこで深層学習による特徴量学習や多様体学習を用い、神経細胞の集団活動の内在的な特性の分類を行なっている。また、応用だけではなく深層学習の基礎的な研究として、敵対的事例の研究を行っている。敵対的事例は、極めてよく訓練された深層学習モデルであっても、特殊な摂動により容易にご判断を誘導できてしまうという、機械学習システムのセキュリティー上極めて深刻な問題である。最近の深層学習の進展を応用して、新たな敵対的事例の生成アルゴリズムを発見した。その結果を投稿中である。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
深層学習の性能に関する理論・模型の考察を通じて、具体的なタスクの性能に実際に寄与する仕組みを設計できている。特に生命科学に関係するデータに関して、それに有用なモデルの設定の知見が溜まってきた。したがって最近の深層学習の理論的な進展を活用して、実際の応用研究に役立てる向性が順調に進行している。その一方、理論自体をより深化させる方向は当初の予想より難しく、引き続き来年度の課題となっている。
|
| Strategy for Future Research Activity |
今後は、応用研究を引き続き行い、さらに有用な結果を出すことが大事である。それと同時に、これまでの研究の知見をもとに深層学習の汎化に関する理論的な理解や、ネットワーク設計に関する第一原理的な理解に近くための理論研究を推進することが大事である。そのためには想定した理論的枠組みだけではなく、この数年の新しい理論的進展も取り入れて、考察する対象の模型の範囲を広げて研究する方針である。
|
| Causes of Carryover |
次年度に新しい計算機資源を購入するため、計画的に支出計画を変更した。
|
