• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Secure edge AI machine learning that works with small amounts of data

Research Project

Project/Area Number 22K04089
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 21020:Communication and network engineering-related
Research InstitutionUniversity of the Ryukyus

Principal Investigator

仲地 孝之  琉球大学, 情報基盤統括センター, 教授 (00628472)

Project Period (FY) 2022-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2023: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2022: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
KeywordsエッジAI機械学習 / プライバシー保護 / ガウス過程 / スパースモデリング / 秘匿演算 / ランダムユニタリ変換 / 機械学習 / エッジAI
Outline of Research at the Start

近年、機械学習は急速に進歩し、さまざまな分野へ応用が進んでいる。その実行にはエッジ・クラウドの利用が拡大しているが、信頼性欠如や事故によるプライバシー情報の流出の問題が指摘されている。本研究では、プライバシー情報を保護しつつ1)少量データでの学習、2)低い演算量、3)説明可能なAI、といった特徴を持つエッジAI機械学習の提案を目的とする。具体的には、スパースモデリングならびに深層ガウス過程と呼ばれる機械学習モデルに着目し秘匿演算手法を提案するとともに、応用例を通して、秘匿性能や予測性能を検証する。

Outline of Annual Research Achievements

近年、AI機械学習は急速に進歩し様々な分野へ応用が進んでいる。実装においては機器の保守管理の容易さや計算コストの利点から、エッジ・クラウドの利用が拡大している。しかし、エッジ・クラウドの利用においては、信頼性欠如や事故などによるデータ流出によって、プライバシー侵害の問題が危惧されている。本研究では、プライバシー情報を保護しつつ 1)少量データでの学習、2)低い演算量、3)説明可能なAI、といった特徴を持つエッジAI 機械学習の提案を目的としている。2年目の本年度はエッジAI 機械学習として、秘匿スパースモデリングの性能向上と応用、秘匿深層ガウス過程の基本モデルの検討、ガウス過程回帰の通信応用について研究を進めた。具体的な成果を以下に示す。
(1)秘匿スパースモデリングの性能向上と応用では、これまで実現できなかった非線形スパースモデリングの秘匿演算法を提案し、パターン認識を通して識別性能の向上を確認した。並行して秘匿スパースモデリングの収束性能を大幅に改善する深層展開に基づく学習モデルの検討を進め、画像再構成への応用を通して有効性を検証した。
(2)秘匿深層ガウス過程の基本モデル検討では、単層の無限幅ニューラルネットワークの秘匿演算がガウス課程回帰を用いることで実現できることを示し、糖尿病の臨床データを用いて有効性を検証した。また並行して、ガウス過程の教師なし機械学習モデルであるガウス過程潜在変数モデルの秘匿演算を提案した。
(3)ガウス過程回帰の通信応用では、ガウス過程回帰にスパース表現を取り入れることで、ネットワークトラフィックの高精度な予測と異常検知を可能とする手法を提案した。
以上の研究結果について、ジャーナル論文2件、国際会議3件を含む発表論文8件の実績を達成した。また、シンポジウムで招待講演を行い、秘匿ガウス過程の概要と最新の研究成果について解説した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

ジャーナル論文2件、国際会議3件を含む発表論文8件の実績を達成し、本研究課題は順調に進展している。主な成果として、秘匿スパースモデリングの性能向上ではこれまで実現できなかった非線形スパースモデリングの秘匿演算法を提案し、パターン認識を通して識別性能の向上を確認した。秘匿深層ガウス過程の基本モデル検討では、単層の無限幅ニューラルネットワークの秘匿演算がガウス課程回帰を用いることで実現できることを示した。今後、単層の無限幅ニューラルネットワークの秘匿演算を拡張することで、深層ガウス過程の秘匿演算が実現できる見通しが得られた。ガウス過程回帰の通信応用では、ガウス過程回帰にスパース表現を取り入れることで、ネットワークトラフィックの高精度な予測と異常検知を可能とする手法を提案した。
今年度の研究により、秘匿スパースモデリングを中心にエッジAI 機械学習の性能向上確認と秘匿深層ガウス過程実現の見通しが得られた。今後、より幅広い応用分野へ提案手法が適用可能であることが期待される。

Strategy for Future Research Activity

今年度までに得られた成果をもとに、秘匿深層ガウス過程の提案と秘匿スパースモデリングを含むエッジAI機械学習の適用分野の拡大について検討を進める。具体的には、以下の3点を中心に研究を進める。
(1)秘匿スパースモデリングの適用分野の拡大:これまでに確認された大幅な収束性能や識別・予測性能の向上に基づき、雑音除去や超解像処理の秘匿演算など新たな画像処理への適用を検討する。秘匿性能ならび画像処理性能の評価を行い、要求条件に応じた秘匿性能向上を併せて検討する。
(2)秘匿深層ガウス過程の提案:単層の無限幅ニューラルネットワークの秘匿演算を多層へ拡張することで、秘匿深層ガウス過程の実現を目指す。実現できれば、深層学習で到達している高い予測性能を保持したまま秘匿演算が可能となる。またブラックボックスとされる深層学習について、深層ガウス過程に基づいた設計を行うことで、秘匿演算においても理論的解釈を与えることができる。
(3)エッジ分散コンピューティングへの適用:スパースモデリングとガウス過程の秘匿演算について、秘匿強度や予測性能ならびにアプリケーションの観点からメリットやデメリットなど特徴をまとめる。特に有望とされるエッジ分散コンピューティングへ適用した際の秘匿強度や予測性能の評価を行う。

Report

(2 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • Research Products

    (17 results)

All 2024 2023 2022

All Journal Article (3 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (14 results) (of which Int'l Joint Research: 4 results,  Invited: 3 results)

  • [Journal Article] Network Traffic Anomaly Detection: A Revisiting to Gaussian Process and Sparse Representation2024

    • Author(s)
      Yitu Wang, Takayuki Nakachi
    • Journal Title

      IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences

      Volume: E107.A Issue: 1 Pages: 125-133

    • DOI

      10.1587/transfun.2022EAP1161

    • ISSN
      0916-8508, 1745-1337
    • Year and Date
      2024-01-01
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Pattern Discovery and Multi-Slot-Ahead Forecast of Network Traffic: A Revisiting to Gaussian Process2023

    • Author(s)
      Yitu Wang, Takayuki Nakachi, Wei Wang
    • Journal Title

      IEEE Transactions on Network and Service Management

      Volume: 20 Issue: 2 Pages: 1691-1706

    • DOI

      10.1109/tnsm.2022.3218081

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Privacy-Preserving Sparse Data Modeling in Encrypted Domain2022

    • Author(s)
      仲地 孝之、坂東 幸浩
    • Journal Title

      IEICE ESS Fundamentals Review

      Volume: 16 Issue: 2 Pages: 100-114

    • DOI

      10.1587/essfr.16.2_100

    • ISSN
      1882-0875
    • Year and Date
      2022-10-01
    • Related Report
      2022 Research-status Report
    • Open Access
  • [Presentation] スパース係数の秘匿を考慮した深層展開でのISTAによるLASSO解推定2024

    • Author(s)
      由解仁知翔, 仲地孝之
    • Organizer
      電子情報通信学会 信号処理研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] プライバシー保護を考慮した線形化カーネル辞書学習2024

    • Author(s)
      黒澤一希, 仲地孝之
    • Organizer
      電子情報通信学会 信号処理研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] Privacy Preserving Deep Unrolling Methods for Sparse Signal Recovery2023

    • Author(s)
      Nichika Yuge, Takayuki Nakachi, Morikazu Nakamura
    • Organizer
      IEICE International Workshop on Smart Info-Media Systems in Asia (SISA2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] A Research on Secure Kernel Dictionary Learning for Sparse Modeling2023

    • Author(s)
      Kazuki Kurozawa, Takayuki Nakachi, Morikazu Nakanura
    • Organizer
      IEICE International Workshop on Smart Info-Media Systems in Asia (SISA2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Privacy-preserving Gaussian Process Latent Variable Model for Dimensional Reduction2023

    • Author(s)
      Takayuki Nakachi, Yitu Wang
    • Organizer
      IEEE International Symposium on Communications and Information Technologies (ISCIT2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] プライバシー保護を考慮した少量データ駆動の非線形AI ー ガウス過程と秘匿演算 ー2023

    • Author(s)
      仲地孝之
    • Organizer
      日本ソーシャルデータサイエンス学会 夏のシンポジウム
    • Related Report
      2023 Research-status Report
    • Invited
  • [Presentation] ランダムユニタリ変換を用いた秘匿領域での深層展開によるISTA解推定2023

    • Author(s)
      由解仁知翔, 仲地孝之, 名嘉村盛和
    • Organizer
      電子情報通信学会 信号処理研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] プライバシー保護を考慮したスパースモデリングのためのカーネル辞書学習2023

    • Author(s)
      黒澤一希, 仲地孝之, 名嘉村盛和
    • Organizer
      電子情報通信学会 信号処理研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 無限幅ニューラルネットワークの秘匿演算に関する考察2023

    • Author(s)
      仲地孝之
    • Organizer
      第38回信号処理シンポジウム
    • Related Report
      2023 Research-status Report
  • [Presentation] ランダムユニタリ変換を用いた秘匿領域での深層展開によるISTA解推定2023

    • Author(s)
      由解仁知翔、仲地孝之、名嘉村盛和
    • Organizer
      電子情報通信学会 信学技法
    • Related Report
      2022 Research-status Report
  • [Presentation] スモールデータ駆動機械学習と秘匿演算2023

    • Author(s)
      仲地孝之
    • Organizer
      大阪電気通信大学 情報学研究所 視覚情報学講演会
    • Related Report
      2022 Research-status Report
    • Invited
  • [Presentation] Access Control for Privacy-Preserving Gaussian Process Regression2022

    • Author(s)
      Takayuki Nakachi、Yitu Wang
    • Organizer
      2022 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)
    • Related Report
      2022 Research-status Report
    • Int'l Joint Research
  • [Presentation] プライバシー保護を考慮したガウス過程潜在変数モデルの秘匿演算2022

    • Author(s)
      仲地孝之、石原裕之
    • Organizer
      第37回信号処理シンポジウム
    • Related Report
      2022 Research-status Report
  • [Presentation] AI機械学習時代のスパースモデリング2022

    • Author(s)
      仲地孝之
    • Organizer
      第35回 回路とシステムワークショップ
    • Related Report
      2022 Research-status Report
    • Invited

URL: 

Published: 2022-04-19   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi