• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

ノイズを含むストリームデータ環境における省メモリかつ高速なオンライン学習

研究課題

研究課題/領域番号 12J09511
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
研究分野 知能情報学
研究機関東京大学

研究代表者

大岩 秀和  東京大学, 情報理工学系研究科, 特別研究員(DC1)

研究期間 (年度) 2012-04-01 – 2015-03-31
研究課題ステータス 完了 (2014年度)
配分額 *注記
3,000千円 (直接経費: 3,000千円)
2014年度: 1,000千円 (直接経費: 1,000千円)
2013年度: 1,000千円 (直接経費: 1,000千円)
2012年度: 1,000千円 (直接経費: 1,000千円)
キーワード機械学習 / 言語処理 / 教師あり学習 / 人工知能 / 認知バイアス / オンライン学習 / スパース正則化 / ビッグデータ / 特徴選択 / 確率的最適化 / 効用関数 / 時系列データ / ストリームデータ / 状態空間モデル / 分類問題
研究実績の概要

1. 人間の授かり効果バイアスを考慮したストリームデータ処理アルゴリズムの改良
オンライン学習や確率的学習の枠組みでは、データを受け取る度に予測ルールが逐次的に更新される。この性質のため、過去に正答したデータが再度出現した際に、予測を誤る事がある。人間は授かり効果と呼ばれる認知バイアスを持つことが知られており、この時、効用を著しく損なうことが示唆される。
本研究では被験者実験による、授かり効果による効用損失の実証を始めに行った。次に、授かり効果に基づく損失関数を新たに数理モデル化し、これを導入した目的関数をオンライン学習および確率的学習の枠組みにおいてそれぞれ定式化した。さらに、両者の枠組みに対してこの目的関数値を動的に最適化するアルゴリズムを導出した。最後に、理論解析や実データを用いた実験により、授かり効果を伴う環境下での目的関数最大化問題において、提案アルゴリズムは未知データに対する予測精度を低下させること無く,授かり効果による損失を抑えられることを示した。本研究の貢献をまとめた論文は人工知能分野におけるtop-tier国際会議であるAAAI2014に採択され、口頭発表およびポスター発表を行った。

2. 機械学習理論解析における貢献と言語処理分野への応用
上記に加え、多様な性質を持つデータの混合からなる異種混合データより、効率的な分類・回帰・その他の教師あり学習を実現するための枠組みである、異種混合学習の領域における研究を行った。本研究の貢献は、機械学習分野におけるtop-tierの国際会議であるNIPSに採択され、その貢献が認められた。また、機械学習の主な応用先である自然言語処理分野に対しても、二項関係解析の面から研究を推し進めた。この貢献を論文としてまとめ、COLINGと呼ばれる言語処理分野の国際会議に論文として採択された。

現在までの達成度 (段落)

26年度が最終年度であるため、記入しない。

今後の研究の推進方策

26年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2014 実績報告書
  • 2013 実績報告書
  • 2012 実績報告書
  • 研究成果

    (19件)

すべて 2014 2013 2012 その他

すべて 雑誌論文 (9件) (うち査読あり 9件、 オープンアクセス 4件、 謝辞記載あり 1件) 学会発表 (8件) 備考 (2件)

  • [雑誌論文] Partition-wise Linear Models2014

    • 著者名/発表者名
      Hidekazu Oiwa, Ryohei Fujimaki
    • 雑誌名

      Advances in Neural Information Processing Systems (NIPS 2014)

      巻: 1 ページ: 3527-3535

    • 関連する報告書
      2014 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Formalizing Word Sampling for Vocabulary Prediction as Graph-based Active Learning2014

    • 著者名/発表者名
      Yo Ehara, Yusuke Miyao, Hidekazu Oiwa, Issei Sato, Hiroshi Nakagawa
    • 雑誌名

      Conference on Empirical Methods in Natural Language Processing (EMNLP 2014)

      巻: 1 ページ: 1374-1384

    • 関連する報告書
      2014 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Robust Distributed Training of Linear Classifiers Based on Divergence Minimization Principle2014

    • 著者名/発表者名
      Junpei Komiyama, Hidekazu Oiwa, Hiroshi Nakagawa
    • 雑誌名

      European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML/PKDD 2014)

      巻: 2 ページ: 1-17

    • 関連する報告書
      2014 実績報告書
    • 査読あり
  • [雑誌論文] Common Space Embedding of Primal-Dual Relation Semantic Spaces2014

    • 著者名/発表者名
      Hidekazu Oiwa, Jun'ichi Tsujii
    • 雑誌名

      nternational Conference on Computational Linguistics (COLING-2014)

      巻: 1 ページ: 1579-1590

    • 関連する報告書
      2014 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Online and Stochastic Learning with a Human Cognitive Bias2014

    • 著者名/発表者名
      Hidekazu Oiwa, Hiroshi Nakagawa
    • 雑誌名

      AAAI Conference on Artificial Intelligence (AAAI-14)

      巻: 1 ページ: 2020-2026

    • 関連する報告書
      2014 実績報告書
    • 査読あり / オープンアクセス / 謝辞記載あり
  • [雑誌論文] Feature-aware Regularization for Sparse Online Learning2014

    • 著者名/発表者名
      Hidekazu Oiwa, Shin Matsushima, Hiroshi Nakagawa
    • 雑誌名

      Science China Informatioh Sciences

      巻: 57 号: 5 ページ: 41-660

    • DOI

      10.1007/s11432-014-5082-z

    • 関連する報告書
      2013 実績報告書
    • 査読あり
  • [雑誌論文] The Economic Impact of Herd Behavior in the Japanese Loan Market2012

    • 著者名/発表者名
      Ryuichi Nakagawa, Hidekazu Oiwa, Fumiko Takeda
    • 雑誌名

      Pacific-Basin Finance Journal

      巻: 20(4) 号: 4 ページ: 600-613

    • DOI

      10.1016/j.pacfin.2012.01.002

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [雑誌論文] Healing Truncation Bias : Self-weighted Truncation framework for Dual Averaging2012

    • 著者名/発表者名
      Hidekazu Oiwa, Shin Matsushima, Hiroshi Nakagawa
    • 雑誌名

      The proceedings of the IEEE 12 th International Conference on Data Mining

      ページ: 575-584

    • DOI

      10.1109/icdm.2012.33

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [雑誌論文] Mining words in the minds of second language learners : learner-specific word difficulty2012

    • 著者名/発表者名
      Yo Ehara, Issei Sato, Hidekazu Oiwa, Hiroshi Nakagawa
    • 雑誌名

      The proceedings of the 24th International Conferenee on Computational Linguistics

      ページ: 799-814

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [学会発表] マルチタスク学習と誘因両立性2014

    • 著者名/発表者名
      大岩秀和、中川裕志
    • 学会等名
      人工知能学会第28回全国大会 (JSAI2014)
    • 発表場所
      愛媛
    • 年月日
      2014-05-12 – 2014-05-15
    • 関連する報告書
      2014 実績報告書
  • [学会発表] 多腕バンディットにおけるリグレットの非線形拡張2014

    • 著者名/発表者名
      梁曽漢、小宮山純平、大岩秀和、佐藤一誠、中川裕志
    • 学会等名
      人工知能学会第28回全国大会 (JSAI2014)
    • 発表場所
      愛媛
    • 年月日
      2014-05-12 – 2014-05-15
    • 関連する報告書
      2014 実績報告書
  • [学会発表] ダイバージェンス最小化原理を利用した線形分類器のロバスト分散学習2014

    • 著者名/発表者名
      小宮山純平、大岩秀和、中川裕志
    • 学会等名
      人工知能学会第28回全国大会 (JSAI2014)
    • 発表場所
      愛媛
    • 年月日
      2014-05-12 – 2014-05-15
    • 関連する報告書
      2014 実績報告書
  • [学会発表] テキスト情報による関係の主-双対表現と共通空間射影法2014

    • 著者名/発表者名
      大岩秀和
    • 学会等名
      言語処理学会第20回年次大会
    • 発表場所
      北海道(札幌)北大
    • 年月日
      2014-03-20
    • 関連する報告書
      2013 実績報告書
  • [学会発表] Novel Sparse Modeling by L2 + LO Regularization2013

    • 著者名/発表者名
      Hidekazu Oiwa
    • 学会等名
      DISCML2014
    • 発表場所
      アメリカ、レイクタホ
    • 年月日
      2013-12-09
    • 関連する報告書
      2013 実績報告書
  • [学会発表] 授かり効果付きオンライン学習2013

    • 著者名/発表者名
      大岩秀和
    • 学会等名
      人工知能学会(JSAI)第27回全国大会
    • 発表場所
      山口 山口教育会館
    • 年月日
      2013-06-04
    • 関連する報告書
      2013 実績報告書
  • [学会発表] Healing Truncation Bias : Self-weighted Truncation framework for Dual Averaging2012

    • 著者名/発表者名
      Hidekazu Oiwa
    • 学会等名
      IEEE 12th International Conference on Data Mining
    • 発表場所
      Brussels, Belgium(招待講演)
    • 年月日
      2012-12-12
    • 関連する報告書
      2012 実績報告書
  • [学会発表] Frequency-aware Truncated methods for Sparse Online Learning2012

    • 著者名/発表者名
      Hidekazu Oiwa
    • 学会等名
      Machine Learning Summer School 2012
    • 発表場所
      Kyoto, Japan(招待講演)
    • 年月日
      2012-09-03
    • 関連する報告書
      2012 実績報告書
  • [備考]

    • URL

      http://www.r.dl.itc.u-tokyo.ac.jp/~oiwa/

    • 関連する報告書
      2013 実績報告書
  • [備考]

    • URL

      http://www.r.dl.itc.u-tokyo.ac.jp/~oiwa/

    • 関連する報告書
      2012 実績報告書

URL: 

公開日: 2013-04-25   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi