• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2013 年度 実施状況報告書

汎関数に基づく推測理論とL1型正則化モデリングの研究

研究課題

研究課題/領域番号 25610035
研究種目

挑戦的萌芽研究

研究機関中央大学

研究代表者

小西 貞則  中央大学, 理工学部, 教授 (40090550)

研究期間 (年度) 2013-04-01 – 2016-03-31
キーワードL1 ノルム正則化法 / 非線形モデリング / 高次モデル評価基準 / 汎関数理論 / スパースモデリング / カーネル識別・判別法
研究概要

現在,諸科学・産業界で蓄積されつつある超高次元のデータから現象解明に有用な情報やパターンを抽出するための新たなモデリング手法の開発研究に取り組み,平成25年度は以下のような研究成果を挙げた.
1.様々なL1タイプの正則化項を評価関数に課した目的関数に基づくモデリングについて理論的側面から研究し,いくつかの問題点を明らかにした.特に,ウェイトパラメータの絶対値を評価関数に課した正則化項について,想定するモデルとの関係を理論的に研究し,その特徴を明らかにした.
2.正則化法において本質的な評価関数と正則化項の関係を調整する正則化パラメータの選択を目的としたベイズアプローチによるモデル評価基準について理論的・数値的に研究し,ベイズ型予測モデル評価基準を提唱した.現在,実際上有効に機能する汎用性の高いモデリングの提唱に向けて研究を推進中である.
3.L1 型正則化法の基本的な考え方を,高次元データ集合からの情報抽出とデータ構造の視覚化に有効な手法である主成分分析に適用し,その理論的側面と数値的側面について研究した.現在,回帰モデリングの枠組みで主成分分析を捉えて,L1 型正則化法によって射影軸を決定する方法について,様々な観点から研究を推進中である.
4.高次元データ集合に基づく非線形識別・判別法として,その柔軟性と汎化能力の高さから様々な分野の問題解決に適用されているのがサポートベクターマシーン (support vector machine) である.本研究では,カーネル法に基づくサポートベクター識別・判別法と回帰モデリングについて取り組み,多クラス非線形識別機への拡張法,汎化能力の向上に決定的な役割を果たすカーネル関数の選択,カーネル関数に含まれる調整パラメータのデータに基づく客観的な推定法について研究し,理論的・実際的側面から重要課題を提示した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本研究の目的とする確率的に変動する超高次元データに基づくL1型正則化モデリングを,ベイズアプローチによって取り組み一定の成果を挙げることができた.この成果は,線形回帰から非線形回帰,識別・判別,カーネル法に基づく識別,次元圧縮などへの展開が期待され,現在研究を推進中である.
モデリングに対して,一般的かつ統一的な理論を構築するには,汎関数の枠組みで研究することが必要となる.このようなアプローチは皆無で,現在,数学的成果をモデリングにどのように取り入れて理論を展開するかを研究中で,いくつかの方法を検討中である.

今後の研究の推進方策

これまでの研究を通して L1 型正則化法に基づくモデリングには,いくつかの問題点があることが明らかになり,これらの問題点を克服する研究を以下に述べるような方法によって推進する.
1.従来の提案手法は,データを発生した真のモデルが想定したモデルの部分モデルとして含まれているとしているが,モデルは実際には真の現象構造の近似にすぎない.特に,データ数に比して極めて次元の高いデータに基づいてモデルを想定するには,当該分野の知識を有効に利用する必要がある.この問題をベイズアプローチによってどのようにモデリングのプロセスに取り込み,現象予測に有効に機能するモデルを構築することが可能か研究する.
2.L1 型正則化モデリングのメリットは,データ数に比して極めて次元の高いデータに基づくモデル化を可能とする点にあるが,その理論研究はデータ数に関する漸近理論に基づいている.この問題点を克服する研究を推進する.
3.モデリングに本質的な正則化項に含まれる調整パラメータの選択に対しては,クロス・バリデーションが主として用いられているが,様々な問題点があり,これに替わる有効なモデル評価基準を予測の観点から構築する.
本研究では,有限個のデータからの情報をもとにモデルを想定し,その近くにデータを生成した真の構造があるという設定のもとで理論を展開し,新たなモデル評価基準を構築し,より実際的な解析手法の研究を推進する予定である.そのための有効な理論と考えられる汎関数に基づく理論構築とそのモデリングへの応用を目指して研究を推進する.

次年度の研究費の使用計画

本研究を推進するに当たって必要な計算機利用環境を整備・充実させる予定であったが,最適な機種が2013年度中に発売されなかったこと,また関連して導入予定の計算機周辺機器,計算機ソフトも購入できなかったことが主たる理由である.
2014年度中に研究遂行上必要とする計算機を導入して,非線形最適化法,グラフィックソフト,高速シミュレーション,数式処理等の計算機ソフトを購入予定である.また,当初の計画通り,研究成果発表旅費,計算機周辺機器,図書および関連分野の研究論文購入経費,などを予定している.

  • 研究成果

    (6件)

すべて 2014 2013 その他

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (3件) 図書 (1件)

  • [雑誌論文] Robust sparse regression and tuning parameter selection via the efficient bootstrap information criteria2014

    • 著者名/発表者名
      Park, H., Sakaori, F. and Konishi, S.
    • 雑誌名

      Journal of Statistical Computation and Simulation

      巻: 84 ページ: 1596-1607

    • DOI

      10.1080/00949655.2012.755532

    • 査読あり
  • [雑誌論文] Tuning parameter selection in sparse regression modeling2013

    • 著者名/発表者名
      Hirose, K., Tateishi, S. and Konishi, S.
    • 雑誌名

      Computational Statistics and Data Analysis

      巻: 59 ページ: 28-40

    • 査読あり
  • [学会発表] Model selection for Cox model via sparse regularization2013

    • 著者名/発表者名
      土居正明, 小西貞則
    • 学会等名
      2013年度統計関連学会連合大会
    • 発表場所
      大阪大学
    • 年月日
      20130908-20130911
  • [学会発表] Mixed effects historical varying coefficient model for evaluating dose response in flexible dose trials2013

    • 著者名/発表者名
      Toshihiro Misumi and Sadanori Konishi
    • 学会等名
      2013 Joint Statistical Meeting
    • 発表場所
      Montreal, Quebec, Canada
    • 年月日
      20130803-20130808
  • [学会発表] Tuning parameter selection in elastic net regularization via the generalized Bayesian information criterion

    • 著者名/発表者名
      保科 架風,小西 貞則
    • 学会等名
      第8回日本統計学会春季集会
    • 発表場所
      同志社大学
  • [図書] Introduction to Multivariate Analysis: Linear and Nonlinear Modeling.2014

    • 著者名/発表者名
      Sadanori Konishi
    • 総ページ数
      334
    • 出版者
      CRC Chapman & Hall, New York

URL: 

公開日: 2015-05-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi