研究課題/領域番号 |
22K17964
|
研究種目 |
若手研究
|
配分区分 | 基金 |
審査区分 |
小区分61040:ソフトコンピューティング関連
|
研究機関 | 東京工業大学 |
研究代表者 |
高邉 賢史 東京工業大学, 情報理工学院, 准教授 (60804218)
|
研究期間 (年度) |
2022-04-01 – 2026-03-31
|
研究課題ステータス |
交付 (2022年度)
|
配分額 *注記 |
4,680千円 (直接経費: 3,600千円、間接経費: 1,080千円)
2025年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2024年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2023年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
2022年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円)
|
キーワード | 深層展開 / 情報統計力学 / 乱択アルゴリズム / 確率伝搬法 |
研究開始時の研究の概要 |
深層展開は既存の反復アルゴリズムの内部パラメタを学習することで収束特性を改善する深層学習的手法であり,近年最適化アルゴリズムへの適用が盛んである.本申請では,確率伝搬法やサンプリングといった確率的情報処理アルゴリズムへ深層展開を適用することでそれらの収束特性を改善可能であるか検討する.さらに,確率的情報処理アルゴリズムに対する解析手法を援用することで,深層展開の学習結果であるパラメタ調整戦略を理論的に解明し新たな深層展開の数理の創出と応用を試みる.
|
研究実績の概要 |
深層展開は既存の反復アルゴリズムの内部パラメタを学習することで収束特性を改善する深層学習的手法であり,近年最適化アルゴリズムへの適用が盛んである.本研究課題では,確率伝搬法やサンプリングといった確率的情報処理アルゴリズムへ深層展開を適用することでそれらのアルゴリズムの収束特性を改善可能であるかを検討する. 本年度は,主にサンプリングアルゴリズムへの深層展開に関する検討を行った.一般にマルコフ連鎖モンテカルロ法の内部処理は微分不可能であるため,深層展開を直接適用することは困難である.この困難点を回避するため,(1) 粒子型サンプラーである粒子型変分推定法の利用,(2) 統計力学で用いられるHubbard-Stratonovich変換を利用したモンテカルロ法,という2つの微分可能アルゴリズムに対して深層展開を適用することを検討した.(1)に関してはStein Variational Gradient Descentが再生核ヒルベルト空間上の勾配法であることに着目し,そのステップサイズを深層展開により学習した.結果として,多峰的な確率分布からの乱数生成やベイジアンニューラルネットワークの学習などが効率よく行えることを確認した.(2)に関しては,無線通信における多入力多出力 (MIMO) 信号推定問題に対してHubbard-Stratonovich変換を利用した新たな学習可能信号検出器を開発した.このMIMO信号検出器は低計算量であるにも関わらず比較的良好な信号検出性能を示すことを数値的に確認した.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当初の計画通り概ね順調に進展している.Hubbard-Stratonovich変換を用いたモンテカルロ法の深層展開は当初の想定以上の進展が予想されており,現在研究を進めている.
|
今後の研究の推進方策 |
サンプリングに対する深層展開は概ね順調に研究が進んでいるため,これを継続する予定である.確率伝搬法に対する深層展開については現在扱う問題を選定中であり,研究を徐々に加速していく予定である.
|