• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

機械学習のための再生核の生成と選択

研究課題

研究課題/領域番号 20H04238
配分区分補助金
研究機関北海道大学

研究代表者

田中 章  北海道大学, 情報科学研究院, 教授 (20332471)

研究期間 (年度) 2020-04-01 – 2025-03-31
キーワード機械学習 / 再生核ヒルベルト空間 / モデル生成 / モデル選択
研究実績の概要

今年度の主要な研究成果は以下の三点である。
1) 再生核ヒルベルト空間論を用いる機械学習法において、従来の交叉検証法のような枠組みとは全く異なる新しいモデル選択手法を開発した。具体的には、本来未知である汎化誤差を近似的に推定し、当該近似値を最小化する手法を構成することに成功した。当該手法により、交叉検証法が主に対象とする内挿問題だけでなく、これまで扱いが難しいとされてきた外挿問題におけるモデル選択も可能となった。当該成果は、国際会議にて発表済である。
2) カーネルリッジ回帰は、統計的線形推定子と等価であることが広く知られている。一方、統計的線形推定子の拡張である統計的アフィン推定子に対応するカーネル回帰問題の定式化はこれまで明らかになっていなかった。今年度、この問題に対して理論的に肯定的な結論を得た。すなわち、統計的アフィン推定子と等価となるようなカーネル回帰問題の定式化を明らかにした。この成果により、再生核ヒルベルト空間論に基づく機械学習法において、表現し得る問題のクラスを広げることに成功したと言える。当該成果は、学術論文として公表済である。
3) 本研究課題の最も重要な論点の一つである、広範な再生核の族の生成に関して、実用に繋がる重要な理論的成果を得た。具体的には、歪対称行列のケーリー変換によって、全ての正規直交基底の同値類の代表元を生成できることを理論的に明らかにした。この成果により、再生核の族の生成の根幹をなす二次形式を構成する非負定値対称行列を、歪対称行列と固有値に対応するパラメーターによって完全にパラメトライズが可能であることが明らかになった。当該成果は、学術論文誌に投稿中である。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

初年度、新型コロナウイルス感染拡大により、教育エフォートが著しく増大したことを受け、初年度の進捗は「やや遅れている」との自己評価を行ったが、初年度に得た成果、具体的には、新たに開発したモデル選択法について国際会議で公表することができ、また、現在、論文を投稿中ではあるものの、広範な再生核の生成という課題について理論的に重要なブレークスルーがあったため、当初計画に近いところまで軌道修正できたと判断する。ただ、当初から難航することを予想していた、提案法で生成される再生核の族が有する理論的な性質については手付かずであるため、「概ね順調に推移している」と判断した。

今後の研究の推進方策

今年度までの研究成果によって、実用に向けて必要となる理論整備は概ね完了することができ、また、大規模な計算に対応可能な計算機環境の整備を終えたため、来年度以降は、主に実用に向けた研究活動にシフトする予定である。具体的には、モデル選択アルゴリズムの高速化や大規模な問題への対処等に取り組む。加えて、実用上、それほど問題とはならないであろう論点である、「構成した再生核の族の理論的な性質の解明」についても時間の許す限り並行して取り組む予定である。

  • 研究成果

    (2件)

すべて 2022 2021

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (1件) (うち国際学会 1件)

  • [雑誌論文] Kernel-Based Regressors Equivalent to Stochastic Affine Estimators2022

    • 著者名/発表者名
      TANAKA Akira、NAKAMURA Masanari、IMAI Hideyuki
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E105.D ページ: 116~122

    • DOI

      10.1587/transinf.2021EDP7156

    • 査読あり / オープンアクセス
  • [学会発表] Model Selection of Kernel Ridge Regression for Extrapolation2021

    • 著者名/発表者名
      Tanaka Akira、Nakamura Masanari、Imai Hideyuki
    • 学会等名
      2021 IEEE 31st International Workshop on Machine Learning for Signal Processing (MLSP)
    • 国際学会

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi