2023 Fiscal Year Research-status Report
Research on Causality-Inspired Deep Learning Model for Anomaly Detection with Imbalanced Data
| Project/Area Number |
23K11064
|
|---|
| Research Institution | Shiga University |
|---|
Principal Investigator |
周 暁康 滋賀大学, データサイエンス学系, 准教授 (70635234)
|
|---|
| Project Period (FY) |
2023-04-01 – 2026-03-31
|
| Keywords | CRL / ITL / GAN / Federated Learning / Reinforcement Learning / Digital Twin |
|---|
| Outline of Annual Research Achievements |
2023年度は、IoTやCPSS (Cyber-Physical-Social System)環境におけるデータの不均衡やサンプル数が少ない問題に対して、様々な機械学習及び深層学習モデル(強化学習、連合学習、GAN等)の開発と実装を行いました。研究成果の一部をまとめ、いくつかの学術論文誌に投稿し、国際会議で発表しました。
例えば、機械学習パラダイムにおける頑健なOOD汎化を強化することを目的として、情報理論学習(ITL)と因果表現学習(CRL)を二重生成敵対ネットワーク(Dual-GAN)アーキテクチャにシームレスに組み込んだ深層生成モデルフレームワークを新たに設計・提案しました。新たに設計された特徴分離戦略に従って、情報理論に基づく因果グラフが構築・改良され、分離されたコア特徴間の因果関連因子を強化し、洗練された因果関係に基づく介入を介して、反事実特徴で特徴表現をさらに充実させることができました。
また、軽量モデル学習とリアルタイム処理を容易にするために、デジタルツインシステムを組み込んだ、エンドエッジクラウド構造の3層連合強化学習フレームワークを設計・開発しました。デュアル強化学習スキームは、協調的な意思決定戦略により、連合学習中のクライアントノード選択とグローバルアグリゲーション頻度の最適化をサポートするために考案され、モバイルデバイスと環境変化をリアルタイムで監視するためにエッジクラウドに配置された2層のデジタルツインシステムによって支援されました。一方、軽量データ増強メカニズムを備えたモデル分割スキームが、より的を絞った方法で、分割されたニューラルネットワーク構造に基づく集約重みを個別に最適化するためにグローバルに開発され、全体的な通信コストを効果的に削減し、非IID問題を改善することができました。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
スケジュールに記載してある「サンプル数の少なさや不均衡問題に対する多様性を持つデータの拡張手法の開発」、「因果ヒューリスティック深層学習に基づく異常検知・予測モデルの構築」、「連合学習等の手法を用いて異常検知による信頼できる対象の識別方法の開発」により、発表した学術結果は基本的に期待に応えています。
|
| Strategy for Future Research Activity |
最終的にスマートファクトリーの設備異常検知と早期警報の可視化プラットフォームの開発のために、深層学習理論と因果推論の融合モデル、及び異常検知・予測の精度を向上させるアルゴリズムに工夫しなければなりません。
2024年度は、2023年度の研究を継続し、特に「異常検知のための構造化モデルの解釈可能性の探索」、「マルチモーダル異常の因果推論モデルの構築」、及び「複雑な環境における異常検知モデルの分散トレーニング」に対して、効率的なモデルとアルゴリズムの開発を中心に進めていく予定です。
|
| Causes of Carryover |
次年度の使用計画は以下の通りです。
設備購入(20万)、国際交流(論文投稿&国際会議への参加x2、40万)
|
