| 研究課題/領域番号 |
21K11773
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分60020:数理情報学関連
|
|---|
| 研究機関 | 明治大学 |
|---|
研究代表者 |
飯塚 秀明 明治大学, 理工学部, 専任教授 (50532280)
|
|---|
| 研究期間 (年度) |
2021-04-01 – 2024-03-31
|
| 研究課題ステータス |
交付 (2021年度)
|
| 配分額 *注記 |
3,380千円 (直接経費: 2,600千円、間接経費: 780千円)
2023年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2022年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2021年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
|
|---|
| キーワード | リーマン多様体 / 不動点最適化 / 機械学習 / 適応学習率最適化アルゴリズム / リーマン不動点最適化アルゴリズム |
|---|
| 研究開始時の研究の概要 |
機械学習の解析対象となる大規模データが、ある曲がった空間上に分布するという事例により、リーマン多様体上の最適化が注目を集めている。それは、既存のユークリッド空間上の議論では扱えなかった機械学習を可能にする。本研究の目的は、新アルゴリズム「リーマン不動点最適化アルゴリズム」に基づいた機械学習法を開発することである。本研究の方法は、機械学習に現れる確率的最適化問題をリーマン多様体上の不動点最適化問題に定式化し、その問題を解くためのリーマン不動点最適化アルゴリズムを開発するという方法である。また、提案学習法が従来学習法と比べて高性能を有することを数値実験により実証する。
|
| 研究実績の概要 |
機械学習の解析対象となる大規模データが、ある曲がった空間上に分布するという事例により、リーマン多様体上の最適化が注目を集めている。それは、既存のユークリッド空間上の議論では扱えなかった機械学習を可能にする。特に、AdaGrad、RMSProp、Adam、AMSGrad といったユークリッド空間上の強力な機械学習手法である適応学習率最適化アルゴリズムをリーマン多様体上へ一般化することにより、主成分分析等のデータ解析や自然言語処理といった様々な分野で成功を収めている。しかしながら、例えば、ノイズに対する頑強な学習器構築に必要とされる疎性 (sparsity) を考慮した機械学習においては、従来適応学習率最適化アルゴリズムでは適用できないリーマン多様体上の大規模かつ複雑な制約下での確率的最適化問題を解決する必要がある。本研究の目的は、このような最適化問題を解決する新アルゴリズムに基づいた機械学習法を開発することである。
令和３年度では、リーマン多様体上の大規模かつ複雑な制約下での確率的最適化問題を不動点集合上の確率的最適化問題に表現し、その問題を解くための確率的不動点最適化アルゴリズムとその収束解析について提案することができた。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
令和３年度に開発した「リーマン不動点最適化アルゴリズム」がリーマン多様体上の大規模かつ複雑な制約下での確率的最適化問題を解くことを示した。数値比較実験により、提案手法の有用性を示すことができた。特に、適応学習率最適化アルゴリズムに基づいた提案手法が高速に収束することを示した。これらの結果を纏めた論文は、ジャーナル Numerical Algorithms に採録されることになった。以上のことから、当初の計画以上に進展していると言える。
|
| 今後の研究の推進方策 |
令和３年度の研究成果を発展させる。例えば、より高速、かつ、安定したアルゴリズムの開発ができるようにする。また、提案手法に基づいた機械学習法を構築し、既存機械学手法と比べて高性能であることを数値比較実験により検証する。
|
