ビッグデータの多重スケール性を考慮したオンライン解析の研究

Research Project

Project/Area Number	18J22032
Research Category	Grant-in-Aid for JSPS Fellows
Allocation Type	Single-year Grants
Section	国内
Research Field	Soft computing
Research Institution	Keio University
Research Fellow	JEONG KWANGJIN 慶應義塾大学, 理工学研究科, 特別研究員(DC1)
Project Period (FY)	2018-04-25 – 2021-03-31
Project Status	Granted (Fiscal Year 2020)
Budget Amount *help	¥2,200,000 (Direct Cost: ¥2,200,000) Fiscal Year 2020: ¥700,000 (Direct Cost: ¥700,000) Fiscal Year 2019: ¥700,000 (Direct Cost: ¥700,000) Fiscal Year 2018: ¥800,000 (Direct Cost: ¥800,000)
Keywords	適応フィルタ / スパース最適化 / 再生核 / パラメータ自動調整
Outline of Annual Research Achievements	1. 4月にカナダで開催された信号処理の国際学会 (ICASSP) で、スパース線形適応フィルタにおける正則化パラメータの自動調整に関する研究成果を発表した。スパース最適化問題における正則化パラメータは、バイアスと分散のトレードオフに関係する重要な因子である。観測データの統計的性質が与えられた場合については、推定誤差を最小にするような最適値を反復アルゴリズムの中で自動調整する手法が提案されている。一方、適応フィルタのように逐次的にデータの観測が行われる場合には観測データの統計的性質を得ることができず、時間的無相関性を仮定する必要があった。私は観測データが時間的相関を持つ場合においても逐次的な正則化パラメータの自動調整のできる手法を提案した。オンラインの状況で、かつ時間的相関を持つ観測データの下での自動調整は、私の調べた範囲では他に提案された手法がない。 2. 多カーネル適応フィルタにおけるカーネル重みの自動調整に関する論文が2019年のICASSPに採択され、5月発表を予定している。多カーネル適応フィルタでは複数の再生核を用いて未知の非線形関数を推定するが、各再生核に正の重みを付加することで、多カーネル適応アルゴリズムの性能を向上させることができる。しかし、適切でない重みを付加した場合には特定の再生核以外の再生核については推定誤差が減少しなくなり、逆に性能が劣化してしまう。最適な重みについては報告されている知見がないので、適応アルゴリズムの中でカーネル重みを自動調整する手法を提案した。提案手法ではカーネル化された入力の自己相関行列を考え、各再生核に対応する自己相関行列の均衡を取るような重み設定を行う。設定された重みは、全ての再生核について一律的に推定誤差が減少するような、「白色化」または「無相関化」に近い効果をもたらすと期待している。
Current Status of Research Progress	Current Status of Research Progress 2: Research has progressed on the whole more than it was originally planned. Reason 1. 当初の計画では、複数のガウス核を用いて多重スケール性を持つデータを表現できる数理モデルを構築することを考えていた。しかし、ガウス核以外の再生核を併用することで、「多重スケール性を持つデータ」より広い範囲のデータ解析に対応できる数理モデルが構築できることが分かった。現在はその一環として、線形核や複数のガウス核を用いたモデルについて考えている。データ解析、最適化等の知見を習得することは現在進行形であり、特にデータ解析については自分の予想以上に広い分野で研究されていて日々新しい論文に出会っている。 2. 複数の再生核を用いたモデルのもとで推定や分類などの問題を定式化することは大体できていて、用いる損失関数としていくつかの候補を検討している。最終的な選択のために理論的な検討および数値実験を今後の研究において行うことを考えている。 3. データの次元削減や過剰適合防止を実現するためにスパース最適化の知見を多カーネル適応アルゴリズムに適用することも当初計画していたことであるものの、線形適応フィルタと多カーネル適応フィルタでスパース性の考え方が多少異なることが分かったので、まずはスパース性を考えない多カーネル適応フィルタを考えることにした。本年度の実績として挙げた、カーネル重み自動調整の研究はそのような考察の一つである。当初の計画のうち、数理モデルの構築については計画より汎用性のあるモデルの構築に近づいている。データ解析の諸問題の定式化についてはまだ追加的な検討が必要である。スパース最適化の知見を活用することについては、自分の予想していなかったことが分かったため、少し方向性を変えることにした。全体的にみると、本年度の進捗状況はおおむね順調に進展していると考えられる。
Strategy for Future Research Activity	1. 複数の再生核によるデータ解析モデルのもとで推定や分類などの問題を考えるための損失関数を定義する。現在はいくつかの候補を検討しているところであるが、理論的な考察および数値実験を通じて最も適切な損失関数を得ることができると考えている。 2. 多カーネル適応アルゴリズムにおけるスパース性の考え方について考察する。再生核を用いる多くの手法では基底関数の数を少なくすることを「スパース化」と呼び、非ゼロ成分が少ないベクトルのことをスパースと呼んでいた線形の場合とはその考え方が多少異なる。まずはその二つの考え方を上手に結ぶような知見を確立する必要があると考えている。 3. 複数の再生核によるモデルでのスパース性に関する概念が確立したら、逐次的な観測よりスパース最適化を行うような適応アルゴリズムを構築する。構築したアルゴリズムで使われるパラメータについて把握し、その働きについて考察する。考察内容から、提案アルゴリズムを最適に動かすようなパラメータの自動調整方法を考える。 4. 比較的に簡単な構造の人工データおよび実データを用いて提案アルゴリズムの性能を評価する。特に、自動調整によるアルゴリズムの性能変化について明らかにする。