Unsupervised Language Acquisition Integrating Bayesian Double Articulation Analyzer and Deep Learning

• Project/Area Number: 15H05319
• Research Category: Grant-in-Aid for Young Scientists (A)
• Allocation Type: Single-year Grants
• Research Field: Soft computing
• Research Institution: Ritsumeikan University
• Principal Investigator: Taniguchi Tadahiro 立命館大学, 情報理工学部, 教授 (80512251)
• Project Period (FY): 2015-04-01 – 2019-03-31
• Project Status: Completed (Fiscal Year 2018)
• Budget Amount: ¥18,070,000 (Direct Cost: ¥13,900,000、Indirect Cost: ¥4,170,000); Fiscal Year 2017: ¥5,850,000 (Direct Cost: ¥4,500,000、Indirect Cost: ¥1,350,000); Fiscal Year 2016: ¥5,850,000 (Direct Cost: ¥4,500,000、Indirect Cost: ¥1,350,000); Fiscal Year 2015: ¥6,370,000 (Direct Cost: ¥4,900,000、Indirect Cost: ¥1,470,000)
• Keywords: 記号創発 / 言語獲得 / ノンパラメトリックベイズ / 深層学習 / 音声認識 / ソフトコンピューティング / 知能ロボティクス / 人工知能 / 音声等認識 / 言語学

Outline of Final Research Achievements

In this study, we extended the Bayesian double articulation analyzer aiming at achieving automatic phoneme and word discovery from real human speech. There were three main achievements. (1) We have realized the improvement of the accuracy of unsupervised phoneme and word acquisition from actual speech data by utilizing deep learning. (2) We developed an accelerated Bayesian double articulation analyzer that is 100 times faster than the previous algorithm. (3) We developed an unsupervised language acquisition method from multiple speakers by developing unsupervised speaker adaptation method using deep learning.

Academic Significance and Societal Importance of the Research Achievements

ロボットや人工知能が音声言語を認識するためには従来，大量の音声データとその書き起こし文を事前に人手で準備し，機械学習によって音声認識装置を訓練する必要があった．しかし，これは人間の幼児の言語獲得過程と一致しない．人間の幼児は書き言葉を学ぶ前に，音声データから音素や単語を発見していく．この過程を実現するために，本研究では研究代表者が構築してきたベイズ二重分節解析器に深層学習を組み合わせて，高い精度での音素・単語獲得，複数話者からの学習，また，そのアルゴリズムの高速化を実現した．

Research Products

• [Journal Article] Double Articulation Analyzer with Deep Sparse Autoencoder for Unsupervised Word Discovery from Speech Signals (2016)
  • Author(s): Tadahiro Taniguchi, Ryo Nakashima, Hailong Liu and Shogo Nagasaka
  • Journal Title: Advanced Robotics Volume: 0 Issue: 11-12 Pages: 1-14
  • DOI: 10.1080/01691864.2016.1159981
  • Peer Reviewed / Acknowledgement Compliant
• [Journal Article] Symbol Emergence in Robotics: A Survey (2016)
  • Author(s): Tadahiro Taniguchi, Takayuki Nagai, Tomoaki Nakamura, Naoto Iwahashi, Tetsuya Ogata, and Hideki Asoh
  • Journal Title: Advanced Robotics Volume: 0 Issue: 11-12 Pages: 1-23
  • DOI: 10.1080/01691864.2016.1164622
  • Peer Reviewed / Acknowledgement Compliant
• [Presentation] Comparative Study of Feature Extraction Methods for Direct Word Discovery with NPB-DAA from Natural Speech Signals (2017)
  • Author(s): Yuki Tada, Yoshinobu Hagiwara, Tadahiro Taniguchi
  • Organizer: IEEE International Conference on Development and Learning and on Epigenetic Robotics (ICDL-EpiRob)
  • Int'l Joint Research
• [Presentation] ノンパラメトリックベイス二重分節解析器のTIDIGITSコーパスへの適用 (2017)
  • Author(s): 夛田裕貴， 幸優佑，林楓，萩原良信，谷口忠大
  • Organizer: 人工知能学会全国大会（第31回）（JSAI2017)
• [Presentation] 深層混合モデルによるクラスタリング (2017)
  • Author(s): 林楓，岩田具治，谷口忠大
  • Organizer: 第20回情報論的学習理論ワークショップ(IBIS2017) ディスカッショントラック
• [Presentation] Hierarchical Dirichlet Process-Hidden Language Model for Unsupervised Word Discovery from Speech Signals (2016)
  • Author(s): Tadahiro Taniguchi, Kaede Hayashi, Ryo Nakashima and Shogo Nagasaka
  • Organizer: Practical Bayesian Nonparametrics workshop at NIPS 2016
  • Place of Presentation: Barcelona (Spain)
  • Year and Date: 2016-12-09
  • Int'l Joint Research
• [Presentation] 階層ディリクレ過程隠れ言語モデルと 深層学習を用いた語彙獲得過程の計算論 (2016)
  • Author(s): 林楓，中島諒，長坂翔吾，谷口忠大
  • Organizer: 日本認知科学会第33回大会
  • Place of Presentation: 北海道大学（北海道・札幌市）
  • Year and Date: 2016-09-17
• [Presentation] 階層ディリクレ過程隠れ言語モデルへの変分ベイズ法の適用 (2016)
  • Author(s): 林楓，高野敏明，萩原良信，谷口忠大
  • Organizer: 2016年度人工知能学会全国大会,
  • Place of Presentation: 北九州国際会議場（福岡県・北九州市）
  • Year and Date: 2016-06-07
• [Presentation] 階層ディリクレ過程隠れ言語モデルによる実音声 発話からの教師なし語彙獲得 (2015)
  • Author(s): 谷口忠大，長坂翔吾，中島 諒
  • Organizer: 第33回 日本ロボット学会学術講演会
  • Place of Presentation: 東京電機大学（東京都）
  • Year and Date: 2015-09-04
• [Presentation] ノンパラメトリックベイズ二重分節解析器と深層学 習を組み合わせた母音列からの教師なし語彙獲得 (2015)
  • Author(s): 中島諒，谷口忠大，長坂 翔吾
  • Organizer: 第33回 日本ロボット学会学術講演会
  • Place of Presentation: 東京電機大学（東京都）
  • Year and Date: 2015-09-03
• [Remarks] 創発システム研究室研究業績
  • URL: http://www.em.ci.ritsumei.ac.jp/jp/publications/
• [Remarks] 創発システム研究室 研究業績
  • URL: http://www.em.ci.ritsumei.ac.jp/publication
• [Remarks] Double Articulation Analyzer (二重分節解析器)
  • URL: http://daa.tanichu.com/