• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Design of Federated Learning Framework as Computer Systems

Research Project

Project/Area Number 23K16858
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 60040:Computer system-related
Research InstitutionOsaka University

Principal Investigator

西川 広記  大阪大学, 大学院情報科学研究科, 助教 (90963538)

Project Period (FY) 2023-04-01 – 2027-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,420,000 (Direct Cost: ¥3,400,000、Indirect Cost: ¥1,020,000)
Fiscal Year 2026: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2025: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2023: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Keywords連合学習 / スケジューリング / データ分布 / ドメイン適応 / Internet of Things / 協調設計
Outline of Research at the Start

Internet of Things におけるデータのプライバシや権利保護の観点から、データの秘匿性を保ちながら機械学習モデルの学習を行う技術が求められている。そこで近年は、連合学習と呼ばれる分散型機械学習方式に注目が集まっている。一般的な学習では、各クライアントが自身のデータを用いて学習を行う。しかし、各クライアントの計算能力や電力は 各々で全く異なり、各クライアントの持つ学習データの特徴もまたクライアントによって異なる。これによる、学習の収束性低下や推論精度の向上が課題である。本研究では、連合学習におけるクライアント間の非均質性を低減し、学習効率の向上および推論精度の向上を目指す。

Outline of Annual Research Achievements

Internet of Things (IoT) デバイスにおけるデータのプライバシや権利保護の観点から、デー タの秘匿性を保ちながら機械学習モデルの学習を行う技術が求められている。そこで近年は、複数のクライアントが各自のデータを用いて学習を行い、学習後のモデルのみを集約し更新する動作を繰り返し行う、連合学習と呼ばれる分散型機械学習方式に注目が集まっている。通常、連合学習では各クライアントが自身のデータを用いてローカルに学習を行う。しかし、クライアントは通常、非均質である。つまり、各クライアントの計算能力や利用可能電力は 各々で全く異なり、各クライアントの持つ学習データの統計的性質もまたクライアント毎に異なるため、学習の収束性低下による学習の遅延や学習モデルの推論精度の低下が課題である。本年は、各クライアントにおける学習データのデータ分布に応じて連合学習を複数クラスタに分けて学習を行うという手法を提案した。事例適用として、車載からのカメラ画像を利用し、昼夜でデータ分布を大まかに分類し、クライアント数と各クライアント有する画像数を変化させながら精度を評価した。結果として、今回利用したデータセットであれば、データ分布の違いよりもむしろ全体的な学習データの枚数が大きく影響していることが明らかとなった。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

本年は研究立ち上げの年であったために計算機の調達や追加で行った開発環境の構築に時間を要した。来年度からは加速的に実施されることが期待できる。

Strategy for Future Research Activity

今後の研究推進方策は、データセットの変更と、さらにデータ分布やクライアント数、データサイズなどの関係性を明らかにすることである。今回事例適用的に行った車載カメラ画像は、連合学習のメカニズムを明らかにする上では応用的なデータセットであったために、細かな挙動について確認することができなかった。データセットを有名かつ基礎的なものに置き換え、同様に連合学習におけるクラスタリングを実施する予定である。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (5 results)

All 2024 2023

All Journal Article (2 results) Presentation (3 results) (of which Int'l Joint Research: 2 results)

  • [Journal Article] Dynamic Point-Pixel Feature Alignment for Multimodal 3-D Object Detection2024

    • Author(s)
      Wang Juncheng、Kong Xiangbo、Nishikawa Hiroki、Lian Qiuyou、Tomiyama Hiroyuki
    • Journal Title

      IEEE Internet of Things Journal

      Volume: 11 Issue: 7 Pages: 11327-11340

    • DOI

      10.1109/jiot.2023.3329884

    • Related Report
      2023 Research-status Report
  • [Journal Article] Non-work conserving dynamic scheduling of moldable gang tasks on multicore systems2024

    • Author(s)
      Shimizu Tomoki、Nishikawa Hiroki、Kong Xiangbo、Tomiyama Hiroyuki
    • Journal Title

      Internet of Things and Cyber-Physical Systems

      Volume: -

    • DOI

      10.1016/j.iotcps.2024.03.001

    • Related Report
      2023 Research-status Report
  • [Presentation] A Non-Work Conserving Algorithm for Dynamic Scheduling of Moldable Gang Tasks on Multicore Systems2024

    • Author(s)
      Tomoki Shimizu, Hiroki Nishikawa, Xiangbo Kong, Hiroyuki Tomiyama
    • Organizer
      International Conference on Electronics, Information, and Communication (ICEIC)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] Adaptive Sampling for Computer Vision-Oriented Compressive Sensing2023

    • Author(s)
      Luyang Liu, Hiroki Nishikawa, Jinjia Zhou, Ittetsu Taniguchi, Takao Onoye
    • Organizer
      ACM Multimedia Asia
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] 自動運転に向けた車載カメラ画像からの物体検出タスクへの連合学習の活用2023

    • Author(s)
      澤風馬, 西川広記, 谷口一徹, 尾上孝雄
    • Organizer
      研究報告システムとLSIの設計技術(SLDM)
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi