| 研究課題/領域番号 |
26820174
|
|---|
| 研究機関 | 地方独立行政法人東京都立産業技術研究センター |
|---|
研究代表者 |
金田 泰昌 地方独立行政法人東京都立産業技術研究センター, 開発本部 開発第一部 情報技術グループ, 主任研究員 (20463010)
|
|---|
| 研究期間 (年度) |
2014-04-01 – 2016-03-31
|
| キーワード | スパース推定 / 機械学習 / 正則化パラメータ |
|---|
| 研究実績の概要 |
本研究は，スパース推定手法として注目を集めているLASSOにおいて，その正則化パラメータのシステマチックな設計手法の開発，およびリアルタイムシステムに適用するための逐次計算手法の開発を目的としている．平成２６年度は，L1正則化付き線形回帰およびL1正則化付きロジスティック回帰に対して，その正則化パラメータのシステマチックな設計手法を検討した．具体的に得られた成果は以下の通りである．
１．L1正則化付き線形回帰において，正則化パラメータとシステムパラメータの関連性を解析した．その結果，正則化パラメータがシステムパラメータを用いた行列不等式条件として与えられることを示した．また，その行列不等式条件が観測ノイズの共分散行列に依存していることを明らかにした．
２．L1正則化付きロジスティック回帰においても同様に，正則化パラメータの行列不等式条件を導出した．また，その行列不等式条件がロジスティックモデルのモデル化誤差に依存していることを明らかにした．
３．上記行列不等式条件より，システムパラメータから正則化パラメータを設計できる手法を開発した．提案設計手法は観測ノイズおよびモデル化誤差の共分散行列に依存する．そこで本研究では，これらの値が未知の場合は，標本共分散行列を用いることで自動的に正則化パラメータを設計・調整する手法を開発した．数値シミュレーションでは疑似的に生成したデータを用いた評価，ならびに実データを用いた評価を行い，提案手法の有効性を示した．
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
平成２６年度はLASSOにおける正則化パラメータのシステマチックな設計手法を明らかにすることを目標としていた．前項の研究実績にも記載した通り，L1正則化付き線形回帰については観測ノイズの共分散行列から，L1正則化付きロジスティック回帰についてはモデル化誤差の共分散行列からそれぞれ正則化パラメータを設計する手法を開発し，評価を行っている．評価結果は良好で，順調に進展している．
|
| 今後の研究の推進方策 |
逐次型アルゴリズムの検討を行う．逐次型アルゴリズムを導出するために，まずは逐次最小二乗法の導出を参考にする．逐次最小二乗法は過去のデータの影響を推定誤差の共分散行列という形で一つにまとめ，現時刻のデータを１ステップ前の解から成る最適化問題に変更している．そして，共分散行列の逐次計算を導入することで，最適解を逐次的に計算している．そこで，本研究においても，共分散行列を導入することでLASSOの評価関数を１ステップ前の解を陽に扱った形に変更する．数値シミュレーションにより提案手法の有効性を示す．
|
| 次年度使用額が生じた理由 |
物品費およびその他（学会参加費）について当初計画よりも支出が少なくなったため，次年度使用額が発生した．
|
| 次年度使用額の使用計画 |
本研究で使用しているソフトウェア（MATLAB/Simulink）の更新費用として使用する計画である．また，使用しているPCの周辺デバイス（ハードディスク，メモり，など）の購入，および学会発表などの旅費として使用する計画である．
|
