多段階の学習に基づくヒューリスティクス法の解析：統計力学的アプローチ

2023 年度 研究成果報告書

• 研究課題/領域番号: 21K21310
• 研究種目: 研究活動スタート支援
• 配分区分: 基金
• 審査区分: 1002:人間情報学、応用情報学およびその関連分野
• 研究機関: 東京大学
• 研究代表者: 高橋 昂 東京大学, 大学院理学系研究科(理学部), 助教 (90906661)
• 研究期間 (年度): 2021-08-30 – 2024-03-31
• キーワード: 統計力学 / 半教師あり学習 / レプリカ法

研究成果の概要

本研究の目的は、擬似的なラベルを学習済のモデルに基づいてデータ点に付与し、それを用いて改めて新たなモデルを学習する操作を繰り返すという自己学習アルゴリズムの挙動を解明することであった。そのために、２クラスの分類の問題において線形モデルを当該手法で学習した際の挙動を、統計力学の平均場理論を用いて解析した。これにより、更新回数に応じて最適なアプローチが異なるということ明らかとし、当該アルゴリズムを用いて効率的に汎化性能を向上させるためのアプローチを整理した。

自由記述の分野

ソフトコンピューティング

研究成果の学術的意義や社会的意義

データ科学の実務的な場面ではラベル付きデータが十分にあるという理想的な設定にないことは一般的で、分析者は様々なヒューリスティクスを用いて問題に対処している。そのなかで多段階の学習に基づくヒューリスティクスはアイディアを実装に繋げやすく、近年盛んに用いられている。本研究はその流れに沿い、そのような多段階の学習に基づくヒューリスティクスの利用方法に関する示唆を与えるものであり、実務に向けた理論的知見を新たに加えたという意義があると思われる。