オンライン予測理論に基づくデータサンプリング問題への統合的アプローチ

2023 年度 実績報告書

• 研究課題/領域番号: 21K12032
• 研究機関: 横浜市立大学
• 研究代表者: 末廣 大貴 横浜市立大学, データサイエンス学部, 准教授 (20786967)
• 研究期間 (年度): 2021-04-01 – 2024-03-31
• キーワード: データサンプリング / 機械学習 / オンライン予測

研究実績の概要

前年度に採択された国際会議ICASSP2023で研究発表を行った．また，前年度までに開発した統合的なデータサンプリングの枠組みに関し，論文執筆，投稿し，機械学習において権威のあるジャーナル Machine Learningに掲載され，ECML/PKDD2023において研究発表も行った．
全体を通し，機械学習における様々なデータサンプリング問題に対し，オンライン予測理論に基づく統合的定式化と理論解析を行った．具体的には，Lerning from Label Proportions と呼ばれる学習問題における疑似ラベル選択，ノイズラベルあり学習問題におけるノイズデータ回避を考え，学習器の挙動に応じて適応的にデータをサンプリングする統合的な枠組みを構築した．従来はデータの性質やタスクに依存したサンプリングが多く，汎用性や理論解析に関する議論が少なかった中，タスクもデータの性質も異なるような学習問題に対し統合的な枠組みを与えたことは大きな成果である．また，いずれの問題においても理論的に適切なサンプリングが行えることを証明し，かつ実験的にも最新手法を超える性能を達成することを示した．具体的には，オンライン予測理論に基づいた定式化を行ったことで，リグレット解析とよばれる枠組みでサンプリングの効果を理論的に評価することが可能となった．オンライン予測理論をサンプリングに活用した事自体が世界初であり，機械学習分野の一大分野であるオンライン予測の発展にも大きく寄与した．

研究成果

• [雑誌論文] No regret sample selection with noisy labels (2024)
  • 著者名/発表者名: Song Heon、Mitsuo Nariaki、Uchida Seiichi、Suehiro Daiki
  • 雑誌名: Machine Learning 巻: 113 ページ: 1163～1188
  • DOI: 10.1007/s10994-023-06478-8
• [雑誌論文] Learning From Label Proportion with Online Pseudo-Label Decision by Regret Minimization (2023)
  • 著者名/発表者名: Matsuo Shinnosuke、Bise Ryoma、Uchida Seiichi、Suehiro Daiki
  • 雑誌名: Proceedings of IEEE International Conference on Acoustics, Speech and Signal Processing 2023 巻: - ページ: 1～5
  • DOI: 10.1109/ICASSP49357.2023.10097069
  • 査読あり
• [学会発表] No Regret Sample Selection with Noisy Labels (2023)
  • 著者名/発表者名: Heon Song, Nariaki Mitsuo, Seiichi Uchida, Daiki Suehiro
  • 学会等名: European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases 2023
  • 国際学会
• [学会発表] ノイズラベルを含むデータに対する適応的サンプリングの枠組み (2023)
  • 著者名/発表者名: ソン ホン， 満尾成亮， 内田誠一， 末廣大貴
  • 学会等名: 第26回情報論的学習理論ワークショップ