重要な特徴を自動的に発見する系列ラベリング学習の研究

• 研究課題/領域番号: 22500121
• 研究種目: 基盤研究(C)
• 配分区分: 補助金
• 応募区分: 一般
• 研究分野: 知能情報学
• 研究機関: 愛媛大学
• 研究代表者: 二宮 崇 愛媛大学, 理工学研究科, 准教授 (20444094)
• 研究期間 (年度): 2010-04-01 – 2013-03-31
• 研究課題ステータス: 完了 (2013年度)
• 配分額: 4,290千円 (直接経費: 3,300千円、間接経費: 990千円); 2012年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2011年度: 1,300千円 (直接経費: 1,000千円、間接経費: 300千円); 2010年度: 1,690千円 (直接経費: 1,300千円、間接経費: 390千円)
• キーワード: 自然言語処理 / 機械学習 / オンライン学習 / 素性選択 / ロジスティック回帰 / L1正則化

研究概要

自然言語処理における識別モデルの素性関数は人手による試行錯誤で設計されているが、数十万から数百万に及ぶ素性関数を人手で発見・制御することは非常に困難な作業となっている。本研究は、素性関数を自動的に選択・構築しつつ目的関数を最適化するオンライン・ グラフティングの効率化およびアンサンブル学習による高精度化の研究を行う。本研究の提案手法はL1正則化ロジスティック回帰の近似手法となっているが、実験により、従来法の精度を低下させることなく、学習の高速化を実現することを経験的に示した。また、確率的アルゴリズムを用いたアンサンブル学習によりオンライン・グラフティングの精度が向上することも確認した。

研究成果

• [雑誌論文] Personalized Reading Support for Second-Language Web Documents (2013)
  • 著者名/発表者名: Yo Ehara, Nobuyuki Shimizu, Takashi Ninomiya and Hiroshi Nakagawa
  • 雑誌名: ACM Transactions on Intelligent Systems and Technology (ACM TIST) 巻: vol.4, no.2 号: 2 ページ: 1-19
  • DOI: 10.1145/2438653.2438666
  • 査読あり
• [雑誌論文] 複数素性の同時テストによるオンライングラフティングの効率化 (2013)
  • 著者名/発表者名: 大井健吾,二宮崇
  • 雑誌名: 日本データベース学会論文誌 巻: vol.11, no.3 ページ: 15-20
  • NAID: 40019615397
  • URL: http://dbsj.org/wp-content/uploads/journal/vol11/no3/dbsj-journal-11-03-015.pdf.pagespeed.ce.qlYRfTVCEe.pdf
  • 査読あり
• [雑誌論文] Efficient Online Feature Selection Based On l1-Regularized Logistic Regression (2013)
  • 著者名/発表者名: Kengo Ooi and Takashi Ninomiya
  • 雑誌名: In Proceedings of the 5th International Conference on Agents and Artificial Intelligence (ICAART 2013) ページ: 277-282
  • URL: http://www.icaart.org/Home.aspx?y=2013
  • 査読あり
• [雑誌論文] 複数素性の同時テストによるオンライングラフティングの効率化 (2013)
  • 著者名/発表者名: 大井健吾, 二宮崇
  • 雑誌名: 日本データベース学会論文誌 巻: 11(3) ページ: 15-20
  • NAID: 40019615397
  • 査読あり
• [雑誌論文] Efficient Online Feature Selection Based On l1-Regularized Logistic Regression (2013)
  • 著者名/発表者名: Kengo Ooi, Takashi Ninomiya
  • 雑誌名: Proceedings of the 5th International Conference on Agents and Artificial Intelligence (ICAART 2013) 巻: - ページ: 277-282
  • 査読あり
• [雑誌論文] Deterministic shift-reduce parsing for unification-based grammars (2011)
  • 著者名/発表者名: Takashi Ninomiya
  • 雑誌名: Natural Language Engineering 巻: 17 号: 3 ページ: 331-365
  • DOI: 10.1017/s1351324910000240
  • 査読あり
• [雑誌論文] Exact Passive-Aggressive Algorithm for Multiclass Classification Using Support Class (2010)
  • 著者名/発表者名: Shin Matsushima
  • 雑誌名: The Proceedings of the Tenth SLAM International Conference on Data Mining (SDM10) ページ: 303-314
  • 査読あり
• [雑誌論文] PAアルゴリズムにおけるラベルなしデータの利用 (2010)
  • 著者名/発表者名: 松島慎
  • 雑誌名: 日本データベース学会論文誌 巻: 9 ページ: 82-87
  • 査読あり
• [雑誌論文] 多クラス識別問題におけるPassive-Aggressiveアルゴリズムの効率的厳密解法 (2010)
  • 著者名/発表者名: 松島慎
  • 雑誌名: 電子情報通信学会論文誌D 巻: J93-D ページ: 724-732
  • 査読あり
• [学会発表] カテゴリ毎に異なるナイーブベイズ分類器を用いた大規模評判分析 (2012)
  • 著者名/発表者名: 岩田匠,二宮崇
  • 学会等名: 平成24年度電気関係学会四国支部連合大会講演
  • 発表場所: 香川県高松市(論文集, pp. 285-285 (優秀発表賞を受賞))
  • 年月日: 2012-09-29
• [学会発表] ディリクレ事前分布付き隠れマルコフモデルにおけるスムージング効果の調査 (2012)
  • 著者名/発表者名: 矢野裕一朗,二宮崇
  • 学会等名: 平成24年度電気関係学会四国支部連合大会講演
  • 発表場所: 香川県高松市(論文集, pp. 286-286)
  • 年月日: 2012-09-29
• [学会発表] カテゴリ毎に異なるナイーブベイズ分類器を用いた大規模評判分析 (2012)
  • 著者名/発表者名: 岩田 匠, 二宮 崇
  • 学会等名: 平成24年度 電気関係学会四国支部連合大会
  • 発表場所: 香川県高松市
• [学会発表] ディリクレ事前分布付き隠れマルコフモデルにおけるスムージング効果の調査 (2012)
  • 著者名/発表者名: 矢野 裕一朗, 二宮 崇
  • 学会等名: 平成24年度 電気関係学会四国支部連合大会
  • 発表場所: 香川県高松市
• [学会発表] オンライングラフティングのパラメータ平均化による集合型学習 (2011)
  • 著者名/発表者名: 大井健吾,二宮崇
  • 学会等名: 平成23年度電気関係学会四国支部連合大会講演
  • 発表場所: 徳島県阿南市(論文集, pp. 258-258)
  • 年月日: 2011-09-23
• [学会発表] オンライングラフティングのパラメータ平均化による集合型学習 (2011)
  • 著者名/発表者名: 大井健吾
  • 学会等名: 平成23年度電気関係学会四国支部連合大会
  • 発表場所: 阿南工業高等専門学校(徳島県)
  • 年月日: 2011-09-23
• [学会発表] オンライングラフティングのアンサンブル学習 (2011)
  • 著者名/発表者名: 大井健吾,二宮崇
  • 学会等名: 情報処理学会第73回全国大会講演
  • 発表場所: 東京都目黒区(論文集, vol. 1, pp. 301-302)
  • 年月日: 2011-03-04
• [学会発表] オンライングラフティングのアンサンブル学習 (2011)
  • 著者名/発表者名: 大井健吾
  • 学会等名: 情報処理学会第73回全国大会
  • 発表場所: 東京工業大学(東京都)
  • 年月日: 2011-03-04
• [学会発表] HMMにおけるアンサンブル学習 (2010)
  • 著者名/発表者名: 黒澤雅人
  • 学会等名: NLP若手の会第5回シンポジウム
  • 発表場所: 国立情報学研究所(東京都)
  • 年月日: 2010-09-15
• [学会発表] en.newikipedia.org:英語版Wikipedia中のユーザが知らない英単語を予測するユーザ参加型読解支援システム (2010)
  • 著者名/発表者名: 江原遥
  • 学会等名: 情報処理学会ヒューマンコンピュータインタラクション研究会
  • 発表場所: ドコモR&Dセンター(神奈川県)
  • 年月日: 2010-05-14
• [図書] 月刊愛媛ジャーナルvol.25 no.7(シーズ(研究成果)探訪vol.81,データの自動分類とテキストの構文解析-高速化と高精度化-自動的に特徴を学習するオンライン学習と言語学的文法に基づく構文解析,p.80-82) (2011)
  • 著者名/発表者名: 二宮崇
  • 総ページ数: 3
  • 出版者: 株式会社愛媛ジャーナル
• [図書] AAMTジャーナルNo.50(シンポジウム報告MT Summit XIII参加報告,p.2-3) (2011)
  • 著者名/発表者名: 二宮崇
  • 総ページ数: 2
  • 出版者: アジア太平洋機械翻訳協会(AAMT)
• [図書] Trends in Parsing Technology : Dependency Parsing, Domain Adaptation, and Deep Parsing(分担執筆14.HPSG Parsing with a Supertagger) (2010)
  • 著者名/発表者名: Takashi Ninomiya
  • 出版者: Springer-Verlag
• [備考] 二宮崇 主辞駆動句構造文法のための同期文法の実現に向けて 工学ジャーナル vol.11 pp. 178-183 愛媛大学工学部, 2012年
• [備考] 二宮崇:シーズ(研究成果)探訪vol.81 データの自動分類とテキストの構文解析―高速化と高精度化―自動的に特徴を学習するオンライン学習と言語学的文法に基づく構文解析 月刊愛媛ジャーナルvol.25 no.7 p.80-82 2011年
• [備考] 二宮 崇: HPSG 構文解析とスーパータガー. 愛媛大学数学談話会にて講演,2011 年.
• [備考] 学会発表の論文に対し次の2件の受賞があった。
• [備考] ・NLP若手の会第5回シンポジウム奨励賞,NLP若手の会,2010年9月。
• [備考] ・情報処理学会HCI研究会2010年度学生奨励賞,情報処理学会HCI研究会,2011年3月。