Linguistic Chronogenesis

• Project Area: Chronogenesis: how the mind generates time
• Project/Area Number: 18H05521
• Research Category: Grant-in-Aid for Scientific Research on Innovative Areas (Research in a proposed research area)
• Allocation Type: Single-year Grants
• Review Section: Complex systems
• Research Institution: Meikai University
• Principal Investigator: 嶋田 珠巳 明海大学, 外国語学部, 教授 (80565383)
• Co-Investigator(Kenkyū-buntansha): 青山 拓央 京都大学, 人間・環境学研究科, 准教授 (20432734) ; 浅原 正幸 大学共同利用機関法人人間文化研究機構国立国語研究所, コーパス開発センター, 教授 (80379528) ; 小林 一郎 お茶の水女子大学, 基幹研究院, 教授 (60281440)
• Project Period (FY): 2018-06-29 – 2023-03-31
• Project Status: Granted (Fiscal Year 2021)
• Budget Amount: ¥201,630,000 (Direct Cost: ¥155,100,000、Indirect Cost: ¥46,530,000); Fiscal Year 2022: ¥39,910,000 (Direct Cost: ¥30,700,000、Indirect Cost: ¥9,210,000); Fiscal Year 2021: ¥39,910,000 (Direct Cost: ¥30,700,000、Indirect Cost: ¥9,210,000); Fiscal Year 2020: ¥39,910,000 (Direct Cost: ¥30,700,000、Indirect Cost: ¥9,210,000); Fiscal Year 2019: ¥39,910,000 (Direct Cost: ¥30,700,000、Indirect Cost: ¥9,210,000); Fiscal Year 2018: ¥41,990,000 (Direct Cost: ¥32,300,000、Indirect Cost: ¥9,690,000)
• Keywords: 時間 / 時間の言語表現 / 人工神経回路 / こころの時間 / 複合領域 / 時間と言語

Outline of Annual Research Achievements

本プロジェクト2年目は下記の研究を実施した。
(i) 人工神経回路の構築：・250億語規模のウェブコーパス（NWJC）に基づき、言語処理の深層学習モデル BERT の日本語モデル NWJC-BERT を構築した。NWJC-BERT による文脈化単語埋め込みに基づいて、語義の類似度をベクトル空間上に可視化して検討した。・日本語時間関係識別を行う深層学習モデルを複数構築し、4つの時間識別タスクによりその性能の精度比較を行った。この結果により、BERTモデルに単語間の最短依存経路(SDP)を追加しファインチューニングするモデルにおいて、高い識別能力を有することを確認した。
(ii) 時間表現の言語学的分析：・個別言語の時間表現に関して、特に日本語のテンス・アスペクト・モダリティを中心に考察した。・時を表す語彙に関して類型的な視点から調査した。・現代日本語書き言葉均衡コーパスに語義の情報を悉皆付与した。・言語フォーラムなどの研究会を通して、言語にあらわれるヒトの時間認識に関する 考察を積み上げた。
(iii) 時間表現の哲学的分析：「現在」時点の推移によって指示対象を変えるA系列的表現は日常的なものでありながら、諸科学での時間のパラメータ化と齟齬をきたすことがある。青山(2019)では、ポストディクションと呼ばれる心理学・神経科学的現象や、物理法則の無時制的特性を論じることで、この齟齬の具体例を示し、その解消策を探った。
(iv) 他班との連携研究：・B01 班が収集した DVD 視聴データに対する言語的な時間情報アノテーションに着手した。・D01班と時間概念発達の言語的出現に関する調査・検討に着手した。・ E01班の時間認知障害研究のB系列課題について共同で検討した。

Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

人工神経回路の構築は複数のモデルを検討する段階に入っている。研究成果の発表、公刊、時間言語フォーラムの実施などにより研究が積み重ねられている。

Strategy for Future Research Activity

2019年度に構築した日本語時間識別深層学習モデルを用い、脳活動状態を深層学習モデルの中間層の状態から推定する回帰モデルを構築する。時間言語フォーラムを活用して分野間の交流をはかる。

Research Products

• [Journal Article] Word Familiarity Rate and Register Type Estimation Using a Bayesian Linear Mixed Model (2020)
  • Author(s): Asahara Masayuki
  • Journal Title: Journal of Natural Language Processing Volume: 27 Pages: 133～150
  • DOI: 10.5715/jnlp.27.133
  • Peer Reviewed
• [Journal Article] Surprisal through Word Embeddings (2019)
  • Author(s): Asahara Masayuki
  • Journal Title: Journal of Natural Language Processing Volume: 26 Pages: 635～652
  • DOI: 10.5715/jnlp.26.635
  • Peer Reviewed
• [Journal Article] BCCWJ-EyeTrack (2019)
  • Author(s): 浅原 正幸、小野 創、宮本 エジソン 正
  • Journal Title: 言語研究 Volume: 156 Pages: 67～96
  • DOI: 10.11435/gengo.156.0_67
  • Peer Reviewed
• [Journal Article] 分類語彙表番号を付与した『現代日本語書き言葉均衡コーパス』の書籍・新聞・雑誌データ (2019)
  • Author(s): 加藤 祥、浅原 正幸、山崎 誠
  • Journal Title: 日本語の研究 Volume: 15 Pages: 134～141
  • DOI: 10.20666/nihongonokenkyu.15.2_134
  • Peer Reviewed
• [Journal Article] Word Familiarity Rate Estimation Using a Bayesian Linear Mixed Model (2019)
  • Author(s): Asahara Masayuki
  • Journal Title: Proceedings of the first workshop on aggregating and analysing crowdsourced annotations for NLP (AnnoNLP) Volume: - Pages: 6～14
  • DOI: 10.18653/v1/D19-5902
  • Peer Reviewed
• [Presentation] Dependency Enhanced Contextual Representations for JapaneseTemporal Relation Classification (2020)
  • Author(s): Chenjing Geng, Lis Kanashiro Pereira, Fei Cheng, Masayuki Asahara and Ichiro Kobayashi
  • Organizer: 言語処理学会第26回年次大会
• [Presentation] Adversarial Training for Commonsense Inference (2020)
  • Author(s): Lis Pereira, Xiaodong Liu, Fei Cheng, Masayuki Asahara, Ichiro Kobayashi
  • Organizer: Association for Computational Linguistics
  • Int'l Joint Research
• [Presentation] HAVE + NP + V-en in Hiberno-English: Meanings of Perfect and Beyond (2020)
  • Author(s): Shimada, Tamami
  • Organizer: New Perspectives on Irish English 6 (NPIE 6)
  • Int'l Joint Research
• [Presentation] NWJC-BERT: 多義語に対するヒトと文脈化単語埋め込みの類似性判断の対照分析 (2020)
  • Author(s): 浅原 正幸，西内 沙恵，加藤 祥
  • Organizer: 言語処理学会第26回年次大会
• [Presentation] 予測を対象とする深層生成モデルを用いた実世界理解への取り組み (2020)
  • Author(s): 黒田彗莉、小林一郎
  • Organizer: 情報処理学会第82回全国大会
• [Presentation] BERTed-BCCWJ: 多層文脈化単語埋め込み情報を付与した『現代日本語書き言葉均衡コーパス』データ (2020)
  • Author(s): 浅原 正幸，加藤 祥
  • Organizer: 言語処理学会第26回年次大会
• [Presentation] A contrastive study of temporality and semantic change: Towards a lexical typology of time (2019)
  • Author(s): Kaji, Hiromi, Fumihiko Sasaki and Tamami Shimada
  • Organizer: The 2019 Annual Conference of Linguistic Association of Canada and the United States (LACUS 2019)
  • Int'l Joint Research
• [Presentation] 『現代日本語書き言葉均衡コーパス』新聞・書籍・雑誌データの助動詞に対する用法情報付与 (2019)
  • Author(s): 加藤 祥，浅原 正幸，山崎 誠
  • Organizer: 日本語学会2019年度春季大会
• [Presentation] クラウドソーシング結果の可視化手法と統計処理 (2019)
  • Author(s): 浅原 正幸
  • Organizer: 日本言語学会第158回大会
• [Presentation] 言語の中と外ーアイルランド英語、言語接触、時間と脳をめぐって (2019)
  • Author(s): 嶋田珠巳
  • Organizer: 京都大学言語学懇話会 第109回例会
• [Presentation] クラウドソーシングによる単語親密度推定 (2019)
  • Author(s): 浅原正幸
  • Organizer: 言語処理学会第25回年次大会
• [Presentation] 単語埋め込みに基づくサプライザルのモデル化 (2018)
  • Author(s): 浅原正幸
  • Organizer: 日本言語学会第157回大会
• [Presentation] Between Reading Time and Clause Boundaries in Japanese - Wrap-up Effect in a Head-Final Language (2018)
  • Author(s): Masayuki Asahara
  • Organizer: Proceedings of PACLIC 32
  • Int'l Joint Research
• [Book] 心にとって時間とは何か (2019)
  • Author(s): 青山 拓央
  • Total Pages: 240
  • Publisher: 講談社
  • ISBN: 978-4-06-518022-8
• [Book] 〈現在〉という謎 (2019)
  • Author(s): 青山拓央ほか共著、森田邦久（編）
  • Total Pages: 320
  • Publisher: 勁草書房
  • ISBN: 978-4-326-10277-8
• [Funded Workshop] Linguistic Chronogenesis: Text, Time, and the Processing of Temporal Experience, the 2019 Australian Systemic Functional Linguistics Association conference (2019)