2023 Fiscal Year Research-status Report
近似計算手法の確立による大規模なシステムの情報統合の解明
| Project/Area Number |
23K11790
|
|---|
| Research Institution | Meiji University |
|---|
Principal Investigator |
保坂 忠明 明治大学, 理工学部, 専任准教授 (60516235)
|
|---|
| Project Period (FY) |
2023-04-01 – 2026-03-31
|
| Keywords | 統合情報理論 / グラフニューラルネットワーク / 注意機構 / 深層学習 |
|---|
| Outline of Annual Research Achievements |
統合情報理論における階層的な最適化問題を直接的に解く代わりにグラフニューラルネットワーク（GNN）を用いて解を推定する手法を検討した。分離脳をモデルにした二つの小ループが連結されたネットワークだけでなく、すべてのノードが結合されたネットワーク、全体が緩く結合されているネットワークについても分析対象とした。これらのネットワークは、5～8個のノードで構成されている。ノードの特徴量としては、発火/非発火に対応する±1で表現されるノードの状態の他に、遷移確率やネットワーク中心性に関する指標を用いた。GNNは、エッジの情報を活用して隣接ノードの特徴量を集約し、統合することでノードの特徴量を更新する。この更新プロセスを繰り返し、最終的に得られるベクトルを全結合層に入力して、統合情報理論の最適化問題の解（統合情報量）を推定する。本研究では、このプロセスに、自然言語処理で用いられる注意機構を取り入れる工夫も施した。さらに、統合情報量以外の値を同時に推定するマルチタスク学習を採用した。
すべてのネットワークから抽出した全3042データの95%を訓練データとして使用し、残り5%をテストデータとして用いたところ、提案手法による統合情報量の推定値は真値と高い相関を示した（相関係数0.994）。また、マルチタスク学習により統合情報量と同時に解くノード分類問題の精度は0.943であり、グラフ単位での完全一致（すべてのノードが正しく分類されること）の割合は0.772を達成した。これらの結果は、GNNを用いたアプローチが統合情報理論の計算量的困難を効果的に解決する有望な手法であることを示唆している。本研究の成果は、2024年の電子情報通信学会総合大会で報告された。
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
当初の計画では、グラフニューラルネットワークを用いた解の推定に加え、統合情報理論の計算に含まれる階層的な最適化問題をガウス過程回帰を用いて近似的に解くアプローチも予定されていた。ガウス過程回帰による方法に関しては、初期段階での検証を完了しているが、得られた精度が想定を大きく下回っており、抜本的な改善が必要であると考えている。そのため、「やや遅れている」という判断をした。
|
| Strategy for Future Research Activity |
当初の計画では、ガウス過程回帰による近似計算のアプローチとグラフニューラルネットワークによる解の推定のどちらを中心に据えるかは未定であった。しかし、2023年度の研究結果により、グラフニューラルネットワークを用いた方法の精度がより高いことが明らかになったため、今後はこのアプローチを中心に研究を進める予定である。
|
| Causes of Carryover |
情報収集や成果発表において、所属機関の助成を利用する機会に恵まれたため、当初の予定よりも旅費としての使用額が少なくなり残額が生じた。今後の研究を推進する際に中核技術となるグラフニューラルネットワークは深層学習の一種であり、高性能なGPUを搭載したコンピュータを使用することで効率的に計算が可能となる。そこで、次年度使用額については計算用のPCを購入する費用の一部に充てる予定である。
|
