ベイズ最適な性能に迫る畳み込み近似的メッセージ伝播法の創出

• Project/Area Number: 23K20932
• Project/Area Number (Other): 21H01326 (2021-2023)
• Research Category: Grant-in-Aid for Scientific Research (B)
• Allocation Type: Multi-year Fund (2024); Single-year Grants (2021-2023)
• Section: 一般
• Review Section: Basic Section 21020:Communication and network engineering-related
• Research Institution: Toyohashi University of Technology
• Principal Investigator: 竹内 啓悟 豊橋技術科学大学, 工学(系)研究科(研究院), 准教授 (30549697)
• Project Period (FY): 2021-04-01 – 2026-03-31
• Project Status: Granted (Fiscal Year 2024)
• Budget Amount: ¥16,900,000 (Direct Cost: ¥13,000,000、Indirect Cost: ¥3,900,000); Fiscal Year 2025: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000); Fiscal Year 2024: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000); Fiscal Year 2023: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000); Fiscal Year 2022: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000); Fiscal Year 2021: ¥6,500,000 (Direct Cost: ¥5,000,000、Indirect Cost: ¥1,500,000)
• Keywords: 6G / 大規模MIMO / ベイズ推論 / メッセージ伝播法 / 深層学習

Outline of Research at the Start

2030年代のサービス開始を目指している第6世代移動通信システム（6G）では、基地局で受信した信号の復調処理を集中処理局で一括して行うことで、仮想的に大規模MIMO（Multiple-input multiple-output）を構成することが想定される。本研究では、仮想的な大規模MIMOにおいて、ベイズ推論上で最適な復調性能を最小限の計算量で達成する畳み込み近似的メッセージ伝播法を提案する。

Outline of Annual Research Achievements

仮想的な大規模MIMOに対する復調法として直交近似的メッセージ伝播法（OAMP）を提案した。仮想的な大規模MIMOの数理モデルとして、空間結合系を検討した。空間結合系とは、(i)通信路行列がブロック帯行列である、(ii)系の両端では信号推定が容易であるという２条件を満たすシステムである。条件(i)は、各基地局が所望ユーザだけでなく、隣接する別の基地局に接続するユーザからも干渉信号を受け取ることに対応する。条件(ii)は、境界付近の基地局に接続するユーザ数や伝送速度を制限することで実現できる。
OAMPの提案は以下の手順で行った。まず、2022年度までに確立した長期記憶型メッセージ伝播法（LM-MP）の動特性を厳密に解析するための状態発展法の一般論を空間結合系の場合に拡張した。LM-MPでは、直近で計算したメッセージだけでなく、過去全ての時点で計算したメッセージに依存して現時点のメッセージを更新する。LM-MPには(i)低計算量かつ適用範囲の広いアルゴリズムを構築できる、(ii)アルゴリズムの収束を原理的に保証できるというメリットがある。
次に、状態発展法の一般論を用いて、軟判定直前の誤差の分布が漸近的にガウスするようにメッセージの補正項を定めることで、空間結合系に対するOAMPを導出した。さらに、前述したメリット(ii)を利用して、提案OAMPの収束を理論的に保証した。
最後に、研究代表者が過去に確立した空間結合系の解析方法を適用して、OAMPの状態発展方程式の不動点を調べた。そのままの方程式では既存解析の枠組みに入らないため、漸近的に誤差が生じないように状態発展方程式を近似することで、既存解析の枠組みを利用した。以上の手順に従って、提案OAMPが情報理論的に最適な圧縮率を達成することを証明した。

Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

本研究プロジェクトのテーマである「ベイズ最適な畳み込み近似的メッセージ伝播法」と題する論文は、情報理論分野のトップジャーナルであるIEEE Transactions on Information Theoryおよび同分野のトップコンファレンスである2021 IEEE International Symposium on Information Theoryで発表済みである。研究開始当初に想定していた最難関の課題は解決済みであるため、研究は新しい課題の解決に上記の研究で得られた成果を利用する方向に展開している。2023年度は、新たな研究の展開として、メッセージ伝播法を空間結合系に適用した。

Strategy for Future Research Activity

仮想的な大規模MIMOの集中処理局で行う復調処理の負荷を軽減する目的で、分散型一般化近似的メッセージ伝播法（GAMP）を提案する。GAMPとは、基地局で使用する電力増幅器等の非理想性を考慮し、受信信号の非線形歪みモデルを含む一般的な受信信号モデルに対処できる近似的メッセージ伝播法（AMP）である。分散型アルゴリズムでは、複数の基地局での受信信号を集中処理局に集約することなく、隣接する基地局間でのメッセージ交換を通じて、集中型のものと同じ復調性能を達成するアルゴリズムである。
分散型GAMPの提案は以下の手順で行う。まず、既存の分散型AMPを参考にして、隣接する基地局間でのメッセージ交換方法として、合意伝播法を採用する。集中型GAMPにおけるメッセージ計算の一部を合意伝播法による計算に置き換えることで、分散型GAMPを定式化する。
次に、定式化した分散型GAMPの収束性および性能を評価するために、大システム極限を想定して、状態発展法による分散型GAMPの動特性解析を行う。大システム極限とは、基地局ネットワークの構造を維持した上で、ユーザ数および各基地局の受信アンテナ数の双方を無限大にした極限である。状態発展法によって、分散型GAMPの信号推定に関する漸近平均二乗誤差を記述する状態発展方程式を導出する。
最後に、得られた分散型GAMPの状態発展方程式が、集中型GAMPの状態発展方程式の不動点に収束するかどうかを調べる。収束性の証明には、2022年度までに確立した長期記憶型メッセージ伝播法（LM-MP）に基づく証明戦略を利用する。このLM-MP戦略に従うことで、ベイズ最適な分散型GAMPの状態発展方程式が、ベイズ最適な集中型GAMPの状態発展方程式の不動点に収束することを証明する。

Research Products

• [Journal Article] Orthogonal Approximate Message-Passing for Spatially Coupled Linear Models (2024)
  • Author(s): Takeuchi Keigo
  • Journal Title: IEEE Transactions on Information Theory Volume: 70 Issue: 1 Pages: 594-631
  • DOI: 10.1109/tit.2023.3311408
  • Peer Reviewed / Open Access
• [Journal Article] Simplification and Accurate Implementation of State Evolution Recursion for Conjugate Gradient (2023)
  • Author(s): HASHIMOTO Sakyo、TAKEUCHI Keigo
  • Journal Title: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences Volume: E106.A Issue: 6 Pages: 952-956
  • DOI: 10.1587/transfun.2022EAL2088
  • ISSN: 0916-8508, 1745-1337
  • Year and Date: 2023-06-01
  • Peer Reviewed
• [Journal Article] Deep Learning of Damped AMP Decoding Networks for Sparse Superposition Codes via Annealing (2023)
  • Author(s): YOSHIDA Toshihiro、TAKEUCHI Keigo
  • Journal Title: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences Volume: E106.A Issue: 3 Pages: 414-421
  • DOI: 10.1587/transfun.2022TAP0009
  • ISSN: 0916-8508, 1745-1337
  • Year and Date: 2023-03-01
  • Peer Reviewed
• [Journal Article] Long-Memory Message-Passing for Spatially Coupled Systems (2023)
  • Author(s): Takeuchi Keigo
  • Journal Title: Proc. 2023 IEEE Int. Conf. Acoust. Speech Signal Process. Volume: － Pages: 1-5
  • DOI: 10.1109/icassp49357.2023.10096334
  • Peer Reviewed
• [Journal Article] On the Convergence of Convolutional Approximate Message-Passing for Gaussian Signaling (2022)
  • Author(s): TAKEUCHI Keigo
  • Journal Title: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences Volume: E105.A Issue: 2 Pages: 100-108
  • DOI: 10.1587/transfun.2021EAP1056
  • NAID: 130008149729
  • ISSN: 0916-8508, 1745-1337
  • Year and Date: 2022-02-01
  • Peer Reviewed / Open Access
• [Journal Article] Finite-Size Correction of Expectation-Propagation Detection (2022)
  • Author(s): OBA Yuki and TAKEUCHI Keigo
  • Journal Title: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences Volume: E105.A Issue: 1 Pages: 77-81
  • DOI: 10.1587/transfun.2021EAL2048
  • NAID: 130008138728
  • ISSN: 0916-8508, 1745-1337
  • Year and Date: 2022-01-01
  • Peer Reviewed / Open Access
• [Journal Article] On the Convergence of Orthogonal/Vector AMP: Long-Memory Message-Passing Strategy (2022)
  • Author(s): Takeuchi Keigo
  • Journal Title: IEEE Transactions on Information Theory Volume: 68 Issue: 12 Pages: 8121-8138
  • DOI: 10.1109/tit.2022.3194855
  • Peer Reviewed / Open Access
• [Journal Article] On the Convergence of Orthogonal/Vector AMP: Long-Memory Message-Passing Strategy (2022)
  • Author(s): Takeuchi Keigo
  • Journal Title: Proc. 2022 IEEE Int. Symp. Inf. Theory Volume: - Pages: 1366-1371
  • DOI: 10.1109/isit50566.2022.9834373
  • Peer Reviewed
• [Journal Article] Pilot Decontamination in Spatially Correlated Massive MIMO Uplink via Expectation Propagation (2021)
  • Author(s): TATSUNO Wataru and TAKEUCHI Keigo
  • Journal Title: IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences Volume: E104.A Issue: 4 Pages: 723-733
  • DOI: 10.1587/transfun.2020EAP1073
  • NAID: 130008013925
  • ISSN: 0916-8508, 1745-1337
  • Year and Date: 2021-04-01
  • Peer Reviewed
• [Journal Article] Bayes-Optimal Convolutional AMP (2021)
  • Author(s): Takeuchi Keigo
  • Journal Title: IEEE Transactions on Information Theory Volume: 67 Issue: 7 Pages: 4405-4428
  • DOI: 10.1109/tit.2021.3077471
  • Peer Reviewed / Open Access
• [Journal Article] Bayes-Optimal Convolutional AMP (2021)
  • Author(s): Takeuchi Keigo
  • Journal Title: Proc. 2021 IEEE Int. Symp. Inf. Theory Volume: － Pages: 1385-1390
  • DOI: 10.1109/isit45174.2021.9517716
  • Peer Reviewed
• [Presentation] メッセージ伝播復調法の課題と展望 (2024)
  • Author(s): 竹内啓悟
  • Organizer: IEICEコミュニケーションシステム/回路とシステム研究会
  • Invited
• [Presentation] Long-Memory Message-Passing for Spatially Coupled Systems (2023)
  • Author(s): Takeuchi Keigo
  • Organizer: 2023 IEEE Int. Conf. Acoust. Speech Signal Process.
  • Int'l Joint Research
• [Presentation] 状態発展法入門～メッセージ伝播法を設計しよう～ (2023)
  • Author(s): 竹内啓悟
  • Organizer: 第46回情報理論とその応用シンポジウム（ワークショップ）
  • Invited
• [Presentation] メモリ近似的メッセージ伝播法の有限サイズ性能 (2023)
  • Author(s): 川瀬敬弘，竹内啓悟
  • Organizer: 第46回情報理論とその応用シンポジウム
• [Presentation] 状態発展法による長期記憶型メッセージ伝播法の性能比較 (2023)
  • Author(s): 小竹泰生，竹内啓悟
  • Organizer: 第46回情報理論とその応用シンポジウム
• [Presentation] メタサーフェス反射板における位相シフト最適化問題の解析 (2023)
  • Author(s): 青木優真，竹内啓悟
  • Organizer: 第46回情報理論とその応用シンポジウム
• [Presentation] On the Convergence of Orthogonal/Vector AMP: Long-Memory Message-Passing Strategy (2022)
  • Author(s): Takeuchi Keigo
  • Organizer: 2022 IEEE Int. Symp. Inf. Theory
  • Int'l Joint Research
• [Presentation] 大規模MIMOに対する畳み込み近似的メッセージ伝播復調法 (2022)
  • Author(s): 大内巧歩，竹内啓悟
  • Organizer: 第45回情報理論とその応用シンポジウム
• [Presentation] 近似的メッセージ伝播法に基づく線形ビームフォーミング (2022)
  • Author(s): 橋本左京，竹内啓悟
  • Organizer: 第45回情報理論とその応用シンポジウム
• [Presentation] Bayes-Optimal Convolutional AMP (2021)
  • Author(s): Takeuchi Keigo
  • Organizer: 2021 IEEE Int. Symp. Inf. Theory
  • Int'l Joint Research
• [Presentation] スパース重ね合わせ符号に対する深層AMP復号ネットのアニーリング学習 (2021)
  • Author(s): 吉田俊宏，竹内啓悟
  • Organizer: 第44回情報理論とその応用シンポジウム
• [Presentation] スパース重ね合わせ符号に対する近似的メッセージ伝播復号法の収束特性を改善するための初歩的深層学習 (2021)
  • Author(s): 吉田俊宏，竹内啓悟
  • Organizer: 令和3年度電気・電子・情報関係学会東海支部連合大会