• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

注意機構を持つ異常値検知手法と深層確率モデルの統合と超高次元時系列データへの応用

研究課題

研究課題/領域番号 23K28047
補助金の研究課題番号 23H03357 (2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2023)
応募区分一般
審査区分 小区分60030:統計科学関連
小区分61030:知能情報学関連
合同審査対象区分:小区分60030:統計科学関連、小区分61030:知能情報学関連
研究機関中央大学

研究代表者

樋口 知之  中央大学, 理工学部, 教授 (70202273)

研究分担者 大草 孝介  中央大学, 理工学部, 准教授 (30636907)
中村 和幸  明治大学, 総合数理学部, 専任教授 (40462171)
研究期間 (年度) 2023-04-01 – 2027-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
18,330千円 (直接経費: 14,100千円、間接経費: 4,230千円)
2026年度: 3,640千円 (直接経費: 2,800千円、間接経費: 840千円)
2025年度: 3,900千円 (直接経費: 3,000千円、間接経費: 900千円)
2024年度: 5,980千円 (直接経費: 4,600千円、間接経費: 1,380千円)
2023年度: 4,810千円 (直接経費: 3,700千円、間接経費: 1,110千円)
キーワード時系列解析 / 深層確率モデル / 異常検知 / マルチチャンネルデータ / 変分推論
研究開始時の研究の概要

本研究課題では、教師無し学習あるいは自己教師あり学習の枠組みで、我々が開発してきた二つの要素技術、a) 新規の学習アルゴリズムを含む逐次変分オートエンコーダをベースにした深層確率モデルと、b) 異常検知向きのAttention機構を用いた深層学習の、 a) と b)を統合することを目指す。

研究実績の概要

時系列解析分野における深層学習手法の応用研究は、長期予測性能の向上と異常値の判別の二つどちらかの目的の達成を目指すものが多い。本研究課題では、教師無し学習あるいは自己教師あり学習の枠組みで、我々がこの2、3年開発してきた二つの要素技術、a) 新規の学習アルゴリズムを含む逐次変分オートエンコーダをベースにした深層確率モデルと、b) 異常検知向きのAttention機構を用いた深層学習の、 a) と b)を統合することを目指す。時系列データの解析向きにVAEを改変したモデル群がSVAE(Sequential VAE)で,その骨格的構造と機能は、状態空間モデルと類似点が多数ある。最近では、自然言語の分野で革命的なインパクトのあったTransformer (2017) に代表されるAttention機構を活用した予測手法も少しずつ提案されている。時系列データ解析においては、季節性や周期性と同時に、長期・短期依存性を把握することが重要である。この観点からSVAEとAttention機構を用いた異常検知のDNNを統合する方式を検討した。あわせて、Attention機構を用いた異常検知の手法を、マルチチャンネル数20程度まで取り扱えるようにする際の問題点を洗い出した。実データ分析のため、ドップラーレーダの収集も開始した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

理論面での進捗をワークショップで発表し参加者と意見交換したことで、検討している統合方式の妥当性を確認することができた。また機械学習と統計学の両方に詳しい研究者が多く参加する研究会にて情報収集を行い、性能的には部分的な改良に留まる可能性はあるがヒントとなる新しい手法の知識を得た。実データへの応用に関しては、センサーデータからの多次元時系列データの収集を開始した。また、センサーデータ以外の多様な多次元時系列に含まれる異常値の取り扱いについて、その分野の識者にアドバイスを仰ぎ、開発する手法の汎用性を高める上で有用な知見を得た。

今後の研究の推進方策

異常検知の性能をSOTA(State of the Art)レベルに保ちながら、超マルチチャンネルの時系列データの発生メカニズムに関する知識発見をも得意とする手法の研究開発を行う。近年の著しい計測・観測機器の性能向上により、数百といった規模のチャンネル数をもつ時系列データも普通になってきている。特に、製造業においては、工場内のかなりの数の製造装置にスマートセンサを取り付け、多数の時系列データを同時にモニターしながら、製造不良を事前に発見するなどの取り組みもようやく活発化してきている。本研究課題で開発する統合手法をそのようなデータに適用することにより、製造業のDX(デジタルトランスフォーメーション)の一つであるスマートファクトリーの実現に資する。
近年、画像生成AIに著しい進捗をもたらした理論である拡散モデルは、その理論的枠組みはベイズ統計である。さらに仮想的時間の導入で構築されたアルゴリズム体系は、状態空間モデルとほぼ同一である。従って長年、状態空間モデル周辺の数値的解法の研究に取り組んできた我々は、本研究課題に拡散モデルを導入することに長けている。その方向性も検討しつつ、研究をすすめていく。

報告書

(1件)
  • 2023 実績報告書
  • 研究成果

    (7件)

すべて 2024 2023 その他

すべて 国際共同研究 (1件) 雑誌論文 (2件) (うち査読あり 1件) 学会発表 (4件) (うち国際学会 1件、 招待講演 2件)

  • [国際共同研究] Academia Sinica,Taiwan(その他の国・地域)

    • 関連する報告書
      2023 実績報告書
  • [雑誌論文] Ensemble kalman variational objective: a variational inference framework for sequential variational auto-encoders2023

    • 著者名/発表者名
      T. Ishizone, T. Higuchi, K. Nakamura
    • 雑誌名

      Nonlinear Theory and Its Applications, IEICE

      巻: 14 号: 4 ページ: 691-717

    • DOI

      10.1587/nolta.14.691

    • ISSN
      2185-4106
    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] 生産ラインにおける異常検知・非定常サイクル同定のオンラインシステム2023

    • 著者名/発表者名
      ISHIZONE Tsuyoshi、HIGUCHI Tomoyuki、NAKAMURA Kazuyuki
    • 雑誌名

      計測自動制御学会論文集

      巻: 59 号: 7 ページ: 342-352

    • DOI

      10.9746/sicetr.59.342

    • ISSN
      0453-4654, 1883-8189
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 人流ビッグデータを内包する感染症モデルのデータ同化による新型コロナウイルス感染動態の解析2024

    • 著者名/発表者名
      荒井智史 , 大野航太 , 樋口知之
    • 学会等名
      日本応用数理学会 若手の会 第9回学生研究発表会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 注意機構を用いた準周期信号のオンライン周期推定と異常値同定の同時実現2024

    • 著者名/発表者名
      石曽根毅 , 樋口知之 , 大草孝介 , 中村和幸
    • 学会等名
      Prof. Toshinari Kamakura’s Retirement Commemoration Symposium
    • 関連する報告書
      2023 実績報告書
    • 招待講演
  • [学会発表] VAEを用いた死亡率予測曲線の凹凸除去2024

    • 著者名/発表者名
      岩井桃佳,石曽根毅,松山直樹,中村和幸
    • 学会等名
      情報処理学会第86回全国大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Domain Adaptation for Application to Smart Meters of Electricity Usage in Each Household2023

    • 著者名/発表者名
      Hisashi Oshima , Tomoyuki Higuchi , Tsuyoshi Ishizone
    • 学会等名
      Statistical Computing And Robust Inference For High Dimensional Data(SCRI2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会 / 招待講演

URL: 

公開日: 2023-04-18   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi