• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Annual Research Report

メタ文法規則の導出による数理言語学基盤の構築

Research Project

Project/Area Number 21H03514
Allocation TypeSingle-year Grants
Research InstitutionTokyo University of Science

Principal Investigator

池口 徹  東京理科大学, 工学部情報工学科, 教授 (30222863)

Co-Investigator(Kenkyū-buntansha) 加藤 秀行  大分大学, 理工学部, 准教授 (00733510)
島田 裕  埼玉大学, 理工学研究科, 准教授 (50734414)
松本 朋子  東京理科大学, 教養教育研究院神楽坂キャンパス教養部, 准教授 (50783601)
松浦 隆文  日本工業大学, 先進工学部, 准教授 (70579771)
保坂 亮介  芝浦工業大学, システム理工学部, 准教授 (80569210)
木村 貴幸  日本工業大学, 基幹工学部, 准教授 (80579607)
Project Period (FY) 2021-04-01 – 2025-03-31
Keywords言語ネットワーク / Colexification / 係り受け / 自然言語モデル / LLM / 最適化
Outline of Annual Research Achievements

・多言語で構成されるcolexificationネットワークを解析することで,多くの感情の基盤となっている基礎感情を見出すことができ,同研究成果をScientific Reportsに出版した.また,戦前日本のカタカナ表記の変化を時系列解析することで、ナショナリズムの変化を定量的に捉える視座を提供することができた.さらに,英語の小説数作品を対象として,単語の共起ネットワークの骨格構造が著者の作風や単語間の係受け関係の有無と密接に関係するという観点からの調査を,特に単語の共起ネットワークの骨格に含まれる辺のうち係受け関係にある単語対の割合という観点から調査した.これにより骨格構造がどの程度係受け関係にある単語対を含むのかを明らかにした.
・人間が言語を学習する際には音声さえあれば言葉の区切りが判別できることが知られている. そこで,自然言語モデルのトレーニングに音声的な情報を付け加えたデータを使用した場合の影響を調査した.また,LLMのモデルの一つであるM2M100モデルにおける文脈ベクトルを生成する際に算出される各登録トークンの出力確率のデータを用いて,インド-ヨーロッパ語族に属する言語間の類似性を客観的に解析し,言語間の類似性を表すネットワークを生成することにより,言語学者のTyshchenkoの研究結果と比較した.
・巡回セールスマン問題に対して,シミュレーテッドアニーリングの確率的機構をフェロモン蒸発に導入した蟻コロニー最適化手法を提案し,その評価を行った.また,自転車再配置問題や巡回被覆問題など,制約条件が厳しい最適化問題に対し,タブー探索法を基盤としたアルゴリズムの開発し,その性能評価を行った.これらの経路最適化アルゴリズムの評価実験で得た知見を言語における最適化問題を対象とした評価に応用するための検討を行った.

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

自然言語モデルからの解析,最適化からの解析についてはやや遅れていると考えられるため,全体としてはやや遅れていると評価したが,言語ネットワーク解析については順調に進んでおり,2023年度は,査読つき英文論文誌にもその成果を発表することができている.

Strategy for Future Research Activity

・全体としては最終年度となる.そこで,国際シンポジウム NOLTA2024において,当該研究課題に関連する内容で構成されるスペシャルセッションを企画し,議論を行う.
・2023年度までは英語の小説作品十数作品を対象として単語の共起ネットワークの骨格構造と係り受け構造の関係を調査した.今後は,対象とする言語数・作品数を増やし,より詳しく骨格構造と係り受けの関係を調査する予定である.ネットワークの骨格を抽出する際に用いるフィルタリング手法に含まれるパラメータの値と係受け関係にある単語対が骨格に含まれる割合を調査することで,得られた結果の頑健性も調査する.これらの成果を2024年度の国際会議NOLTAで発表予定である.
・2023年度は,BERTに加えてAttensionのみを用いて高速に翻訳するシステムとしてComformerやGPTなどについて調べたが,2024年度は大規模言語モデルの中間言語について検討する.また,2023年度に構築した言語類似度の客観的解析手法を他のLLMモデルにも適用し,言語の類似度解析を拡張する.さらに,各LLMの文脈ベクトルを解析することで,メタ言語的性質を捉えていないかどうかを調査する.
・2023年度までに得られた知見を踏まえ,文章要約最適化問題などの言語分野における最適化問題に対する提案手法の評価をを進める予定である.具体的な内容の一つとして,言語を対象とする最適化問題に対し,2023年度において開発したタブー探索法を基盤としたアルゴリズムを適応する予定である.

  • Research Products

    (38 results)

All 2024 2023

All Journal Article (7 results) (of which Peer Reviewed: 6 results,  Open Access: 6 results) Presentation (31 results) (of which Int'l Joint Research: 15 results)

  • [Journal Article] 所得再分配の壁: 世論調査と実験からの模索2024

    • Author(s)
      松本朋子
    • Journal Title

      世界

      Volume: 2024年2月号 Pages: 78ー85

  • [Journal Article] Evaluation of an effective solving method based on cooperative multi-objective differential evolution for multi-objective optimization problems2024

    • Author(s)
      Y. Matsuzaki,T. Matsuura and T. Kimura
    • Journal Title

      Nonlinear Theory and Its Applications,IEICE

      Volume: 15 Pages: 404ー420

    • DOI

      10.1587/nolta.15.404

    • Peer Reviewed / Open Access
  • [Journal Article] Central emotions and hubs in a colexification network2023

    • Author(s)
      M. Fukuya,T. Matsumoto,Y. Shimada and T. Ikeguchi
    • Journal Title

      Scientific Reports

      Volume: 13 Pages: 21823

    • DOI

      10.1038/s41598-023-48922-8

    • Peer Reviewed / Open Access
  • [Journal Article] Analysis on responses of chaotic Izhikevich neurons to periodic forcing2023

    • Author(s)
      Y. Tsukamoto,H. Tsushima and T. Ikeguchi
    • Journal Title

      Nonlinear Theory and its Appilcations

      Volume: 14 Pages: 677ー690

    • DOI

      10.1587/nolta.14.677

    • Peer Reviewed / Open Access
  • [Journal Article] Rich spike patterns from a periodically forced Izhikevich neuron model2023

    • Author(s)
      Y. Tsukamoto,H. Tsushima and T. Ikeguchi
    • Journal Title

      Nonlinear Theory and its Appilcations

      Volume: 14 Pages: 215ー227

    • DOI

      10.1587/nolta.14.215

    • Peer Reviewed / Open Access
  • [Journal Article] A routing method with adaptively adjusting memory information based on local routing history2023

    • Author(s)
      T. Kimura and Y. Shimada
    • Journal Title

      PLoS One

      Volume: 18 Pages: e0283472

    • DOI

      10.1371/journal.pone.0283472

    • Peer Reviewed / Open Access
  • [Journal Article] Symmetrization effects of k-nearest neighbor recurrence plots on network motif organizations in time series of nonlinear dynamical systems2023

    • Author(s)
      M. Kawaguchi and H. Kato
    • Journal Title

      Nonlinear Theory and Its Applications,IEICE

      Volume: 14 Pages: 590ー608

    • DOI

      10.1587/nolta.14.590

    • Peer Reviewed / Open Access
  • [Presentation] Nonlinear dynamics of temporal network2024

    • Author(s)
      K. Sawada and T. Ikeguchi
    • Organizer
      US Dynamics Days 2024
    • Int'l Joint Research
  • [Presentation] Hebb則と時空間学習則のパターン分離能力の比較2024

    • Author(s)
      塚本陽太,塚田啓道,塚田 稔,池口 徹
    • Organizer
      2024年電子情報通信学会 総合大会
  • [Presentation] スパイク列の発火率差が因果性検出に与える影響2024

    • Author(s)
      澤田和弥,島田 裕,池口 徹
    • Organizer
      2024年電子情報通信学会 総合大会
  • [Presentation] 公職選挙ポスター掲示問題における初期解構築法の性能比較2024

    • Author(s)
      郭 豊ガイ,松浦 隆文,木村 貴幸,池口 徹
    • Organizer
      2024年電子情報通信学会 総合大会
  • [Presentation] 論理制約を伴う意見形成モデルの多値論理による拡張2024

    • Author(s)
      林樹里,島田裕
    • Organizer
      第3回計算社会科学会大会(CSSJ2024)
  • [Presentation] Similarity Analysis among Languages Using Context Vectors Generated in Large Language Model2024

    • Author(s)
      H. Azuma and H. Kato
    • Organizer
      10th Korea-Japan Joint Workshop on Complex Communication Sciences
    • Int'l Joint Research
  • [Presentation] Performance investigation of Adaptive Ant Colony Optimization with 2-Opt method,2024

    • Author(s)
      N. Kotake,R. Shibutani,K. Nakajima,T. Matsuura and T. Kimura
    • Organizer
      RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing
  • [Presentation] A chaotic search method by using an effective adaptive time penalty coefficients for vehicle routing problem with time windows2024

    • Author(s)
      S. Haga,K. Nakajima and T. Kimura
    • Organizer
      RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing
    • Int'l Joint Research
  • [Presentation] 巡回セールスマン問題に対する灰色狼最適化法2024

    • Author(s)
      渋谷陸斗,木村貴幸
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] Heuristic Method by Using Tabu Search for Solving Min-Max multiple Bike Sharing System Routing Problem2024

    • Author(s)
      T. Matsuura
    • Organizer
      RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing
    • Int'l Joint Research
  • [Presentation] Importance of Time Limit Constraint for Multiple-Vehicle Bike Sharing System Routing Problem2023

    • Author(s)
      H. Tsushima,T. Matsuura and T. Ikeguchi
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Colexification networkを用いた語族比較2023

    • Author(s)
      福家 水月,松本 朋子,島田 裕,池口 徹
    • Organizer
      2023年電子情報通信学会NOLTAソサイエティ大会
  • [Presentation] 二つの目的を考慮した公職選挙ポスター掲示問題に対する発見的解法の開発2023

    • Author(s)
      郭 豊ガイ,對馬 帆南,松浦 隆文,木村 貴幸,池口 徹
    • Organizer
      2023年電子情報通信学会NOLTAソサイエティ大会
  • [Presentation] エコーステートネットワークにおけるリザバー層のダイナミクス2023

    • Author(s)
      吉田 しおん,池口 徹
    • Organizer
      電子情報通信学会NOLTAソサエティ非線形問題研究会
  • [Presentation] てんかん患者の脳波データに対する再帰定量化解析2023

    • Author(s)
      関口 真音,池口 徹
    • Organizer
      電子情報通信学会NOLTAソサエティ非線形問題研究会
  • [Presentation] マーク付点過程に対する因果性検出手法の一検討2023

    • Author(s)
      澤田和弥,島田 裕,池口 徹
    • Organizer
      2023年電子情報通信学会 ソサイエティ大会
  • [Presentation] カオス応答を呈するIzhikevichニューロンに正弦波入力を印加した場合の応答解析2023

    • Author(s)
      塚本陽太,對馬帆南,池口徹
    • Organizer
      2023年電子情報通信学会 ソサイエティ大会
  • [Presentation] The Marriage of Politics and Economy: Elite Fusion in the Age of Modernization2023

    • Author(s)
      T. Matsumoto and T. Okazaki
    • Organizer
      TCJS Early-Career Scholar Forum
  • [Presentation] Who Suggests Policies for the Future?: A Historical Randomization of Tenure Lengths in the Indian Parliament2023

    • Author(s)
      J. Goto,T. Matsumoto,S. Tsuda and J. Yamasaki
    • Organizer
      80th Annual Midwest Political Science Association Conference
    • Int'l Joint Research
  • [Presentation] An Analysis on the Relationship Between the Backbone Structure of Word Co-Occurrence Networks and Stylistic Features of Novels2023

    • Author(s)
      S. Tazawa and Y. Shimada
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] 自己組織スパイキング神経回路網モデルにおける臨界現象の解析2023

    • Author(s)
      加藤秀行
    • Organizer
      NOLTAソサイエティ大会
  • [Presentation] Simulating spiking neural networks with Cython2023

    • Author(s)
      H. Kato
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Spiking and bursting properties of spontaneous activities in modular spiking neuronal networks2023

    • Author(s)
      H. Kato,T. Shinkawa,Y. Ishikawa,T. Sumi,H. Yamamoto and Y. Katori
    • Organizer
      International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Analysis of predictive coding model with hierarchical reservoir computing for modeling Stroop effects2023

    • Author(s)
      H. Terakawa,H. Kato,Y. Yonemura and Y. Katori
    • Organizer
      20th International SoC Design Conference
    • Int'l Joint Research
  • [Presentation] 発音情報を含むテキストによるモデルのトレーニングへの影響2023

    • Author(s)
      岩井優希,保坂亮介
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] Performance Evaluation of a Routing Strategy by Using Signal Information for Communication Networks2023

    • Author(s)
      K. Hiraki,T. Matsuura and T. Kimura
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] An Effective Routing Method Using Chaotic Neurodynamics for Transportation Networks2023

    • Author(s)
      T. Inaba,K. Hiraki,T. Matsuura and T. Kimura
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] A Study on Two-Objective Posting Poster Problem for Public Office Election2023

    • Author(s)
      F. Guo,H. Tsushima,T. Matsuura,T. Kimura and Tohru Ikeguchi
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Performance Investigation of Chaotic Search Method for Vehicle Routing Problems with Drones2023

    • Author(s)
      K. Nakajima,Y. Matsuzaki,T. Matsuura and T. Kimura
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] An Effective Solving Method for the Global Search of Pareto Solutions Based on Cooperative Multi-Objective Differential Evolution2023

    • Author(s)
      Y. Matsuzaki,T. Matsuura and T. Kimura
    • Organizer
      2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] 交通シミュレータを用いたカオスニューロダイナミクスによる経路制御手法の評価2023

    • Author(s)
      稲葉賢駿,足立淳,松浦隆文,木村貴幸
    • Organizer
      電子情報通信学会ソサイエティ大会

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi