研究課題/領域番号 |
19K22865
|
研究機関 | 東京工業大学 |
研究代表者 |
井上 中順 東京工業大学, 情報理工学院, 助教 (10733397)
|
研究期間 (年度) |
2019-06-28 – 2022-03-31
|
キーワード | 深層学習 / メタ学習 |
研究実績の概要 |
2020年度は、複数の深層ニューラルネットワークを統合するためのメタ学習法について研究を実施し、パラメータ空間上の距離尺度に基づいて、K個の深層ニューラルネットワークを1つに統合するための最適化手法を新たに提案した。評価実験では、音声データに対する話者の認識タスクにおいて、顕著な性能向上がみられ、VoxCelebと呼ばれる大規模な話者照合データセットにおいては、畳み込みニューラルネットワークを用いた教師あり話者照合向けの話者埋め込み抽出手法として、論文発表時点で世界最高の照合精度を達成した。また、学習済みの深層学習モデルがどのような性質を持つかを把握するために、敵対的サンプルの生成を試み、学習済みモデルの頑健性を測るフレームワークを構築した。これに合わせて、2時最適化を用いた新たな敵対的攻撃手法を提案した。この手法は擬似ニュートン法を用いて、従来よりも高効率に敵対的サンプルを生成するものである。現在は、深層ニューラルネットワークの統合前後で、頑健性がどのように変化するかを測定するとともに、複数の異なるニューラルネットワークアーキテクチャに対して、評価実験を実施している段階である。これらの手法は、画像認識モデルと音認識モデルの両方を対象として研究を進めている。現時点までで、当初の目的であった学習済みモデルの事後的統合が、部分的にではあるが実現することが示されたが、初年度に作成した画像認識モデルとの統合が現在の課題となっている。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当初の目的であった学習済みモデルの事後的統合が実現することが示されたため、概ね順調に進んでいる。
|
今後の研究の推進方策 |
初年度に作成した画像認識モデルとの統合が現在の課題となっているため、2021年度は、複数の異なるデータを対象としたニューラルネットワークの統合に取り組む予定である。また、敵対的サンプルの生成に関しても、評価実験を進めている部分があるため、引き続き研究を実施する。
|
次年度使用額が生じた理由 |
研究の実施順序を変更し、リモートで実施可能な評価実験のみを先に実施したため、次年度使用額が生じた。最終年度も東京工業大学のスーパーコンピュータTSUBAME上で研究を実施できるように計画を変更し、その利用料を支払う予定である。
|