• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2015 Fiscal Year Annual Research Report

ビッグデータ解析における最適保証スクリーニングの理論と応用

Research Project

Project/Area Number 26280083
Research InstitutionNagoya Institute of Technology

Principal Investigator

竹内 一郎  名古屋工業大学, 工学(系)研究科(研究院), 教授 (40335146)

Co-Investigator(Kenkyū-buntansha) 烏山 昌幸  名古屋工業大学, 工学(系)研究科(研究院), 助教 (40628640)
畑埜 晃平  九州大学, 学内共同利用施設等, 准教授 (60404026)
Project Period (FY) 2014-04-01 – 2017-03-31
Keywords機械学習 / 凸最適化 / 最適保障計算 / 高速感度分析
Outline of Annual Research Achievements

平成27年度は、本研究課題の主題である最適保障計算のアプローチを高速感度分析(quick sensitivity analysis)へ適用する研究を行った.高速感度分析とは,大量データに基づく最適な機械学習モデルが既に手元にある際に,データやハイパーパラメータに微小な変更があった場合,機械学習モデルを再学習することなく,その影響を効率的に分析する技術である.本研究では,特に,学習デタの事例の一部が追加・削除される逐次学習の問題設定において,感度分析を総学習事例数に依存せず,追加・削除される事例数のみに依存する方法論を新たに開発した.同方法はクロスバリデーションの高速化,ストリーム学習の更新タイミング決定など,様々な応用があることをシミュレーションにより実証した.この研究成果はデータマイニングの最高峰国際会議であるKDD2015にて発表され,国内外から注目を集めつつある.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

本研究課題の主題である最適保障計算原理の新たな応用先として高速感度分析という枠組を考案し,これが大規模データ分析の様々なタスクにとって有用であることを実証できたため.

Strategy for Future Research Activity

平成28年度は,最適保障スクリーニング理論の拡張として,パラメータ表現された線形スコアのバウンド計算について検討する.ここで,線形スコアとは未知の最適解との内積で表される任意のスコアである.平成26年度,27年度に検討してきた最適保障スクリーニングでは,線形スコアを用いて,非サポートベクトルの同定,テスト事例の分類,高速感度分析などを行ったが,この線形スコアをパラメータを含む形式で表現し,そのパラメータが一定範囲内を動くという制約のもとでさらに下界の最小化,上界の最大化を行うことで,一定のパラメータの範囲での線形スコアのバウンドを計算できる.このアプローチは,データや設定に不確実さが含まれる場合のモデリングに有効であると考えられ,同理論のさまざまなデータ解析タスクへの応用に関しても検討する.

Causes of Carryover

平成27年度は理論とアルゴリズムに新たな展開があったため,平成28年度においてそのコンピュータシミュレーションによる検証を行う予定である.そのため,計算リソースとプログラム作成補助の人件費等が必要となったため,一部の予算を次年度に繰り越した.

Expenditure Plan for Carryover Budget

平成28年度への繰越分は高速感度分析のコンピュータシミュレーションを行うための計算リソースの購入とプログラム作成補助の人件費等に充てる予定である.

  • Research Products

    (7 results)

All 2015

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (4 results) (of which Int'l Joint Research: 2 results) Book (1 results)

  • [Journal Article] Proceedmgs of Regularization Path of Cross-Validation Error Lower Bounds2015

    • Author(s)
      Shibagaki A., Suzuki Y., Karasuyama M., Takeuchi I.
    • Journal Title

      The 29th Annual Conference on Neural Information Processing Systems (NIPS2015)

      Volume: 0 Pages: 0

    • Peer Reviewed
  • [Journal Article] Proceedmgs of Quick sensitivity analysis for incremental data modification and its application to leave-one-out CV in linear classification problems2015

    • Author(s)
      Okumura S., Suzuki Y., Takeuchi I.
    • Journal Title

      The 21st ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD2015)

      Volume: 0 Pages: 0

    • DOI

      10.1145/2783258.2783347

    • Peer Reviewed
  • [Presentation] Regularization Path of Cross-Validation Error Lower Bounds2015

    • Author(s)
      Shibagaki A., Suzuki Y., Karasuyama M., Takeuchi I.
    • Organizer
      The 29th Annual Conference on Neural Information Processing Systems (NIPS2015)
    • Place of Presentation
      モントリオールカナダ国際会議場
    • Year and Date
      2015-12-08 – 2015-12-08
    • Int'l Joint Research
  • [Presentation] Quick sensitivity analysis for incremental data modification and its application to leave-one-out CV in linear classification problems2015

    • Author(s)
      Okumura S., Suzuki Y., Takeuchi I.
    • Organizer
      The 21st ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD2015)
    • Place of Presentation
      ヒルトン シドニー
    • Year and Date
      2015-08-13 – 2015-08-13
    • Int'l Joint Research
  • [Presentation] セーフスクリーニングを用いた組み合わせ効果を持つスパースモデルの効率的学習2015

    • Author(s)
      中川和也・鈴村真矢・烏山昌幸・竹内一郎
    • Organizer
      電子情報通信学会IBISML研究会
    • Place of Presentation
      沖縄科学技術大学院大学
    • Year and Date
      2015-06-23
  • [Presentation] 高次交互作用モデルのためのSelective Inference2015

    • Author(s)
      鈴村真矢・中川和也・津田宏治・竹内一郎
    • Organizer
      電子情報通信学会IBISML研究会
    • Place of Presentation
      沖縄科学技術大学院大学
    • Year and Date
      2015-06-23
  • [Book] サポートベクトルマシン2015

    • Author(s)
      竹内一郎・烏山昌幸
    • Total Pages
      192
    • Publisher
      講談社

URL: 

Published: 2017-01-06  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi