• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Parallel-Distributed Machine Learning Environment for Reinforcement Learning

Research Project

Project/Area Number 19K11994
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60090:High performance computing-related
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

NAKADA HIDEMOTO  国立研究開発法人産業技術総合研究所, 情報・人間工学領域, 主任研究員 (80357631)

Project Period (FY) 2019-04-01 – 2023-03-31
Project Status Completed (Fiscal Year 2022)
Budget Amount *help
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2021: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
Fiscal Year 2020: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2019: ¥1,560,000 (Direct Cost: ¥1,200,000、Indirect Cost: ¥360,000)
Keywords分散計算 / 並列計算 / 強化学習 / Julia / 機械学習 / 並列システム / 分散システム
Outline of Research at the Start

前半でプロトタイプの作成と実アプリケーションを用いた評価を一度行い、その評価に基づき後半で本実装を行うことを予定している。このために前半において、プロトタイプの実装と並行してアプリケーションの選定と開発を行う。これによって、実アプリケーションの要請に即したシステムの構築が可能になる。
研究代表者は、筑波大学の連携大学院教授を兼務しており、学生の指導を行っている。本研究提案の遂行には、研究代表者だけでなく、技術研修員として産総研に常駐している筑波大学の学生が当たる。平成31年度は4名の大学院学生(うち博士課程1名)が従事することを予定している。

Outline of Final Research Achievements

In order to construct a framework for reinforcement learning in a parallel and distributed environment, we constructed a parallel and distributed system targeting a fast and highly functional language. We focused on the Julia language, which is rapidly expanding its use in machine learning, as a target language and implemented an actor mechanism suitable for implementing a reinforcement learning framework. Furthermore, considering the use on large-scale computer systems with fast networks, which are often used for large-scale machine learning, we optimized our framewrk for the fast network library and confirmed a significant performance improvement.

Academic Significance and Societal Importance of the Research Achievements

本研究では、並列分散強化学習をターゲットとして研究を進めたが、高性能計算機環境に適した並列分散実行環境の応用範囲は強化学習への適用にとどまらず、広く適用可能である。特にPythonを置き換える可能性のある言語として最近急速に注目を集めているJulia言語で実現したことには大きな社会的意義があると考える。また直感的に利用可能なActorをAPIとして採用することで、多くのユーザや応用分野に資することができると考える。

Report

(5 results)
  • 2022 Annual Research Report   Final Research Report ( PDF )
  • 2021 Research-status Report
  • 2020 Research-status Report
  • 2019 Research-status Report
  • Research Products

    (27 results)

All 2023 2022 2021 2020 2019

All Journal Article (4 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (23 results) (of which Int'l Joint Research: 4 results)

  • [Journal Article] Improve symbolic music pre-training model using MusicTransformer structure2023

    • Author(s)
      Yingfeng Fu, Yusuke Tanimura, Hidemoto Nakada
    • Journal Title

      The 17th International Conference on Ubiquitous Information Management and Communication

      Volume: -

    • DOI

      10.1109/imcom56909.2023.10035617

    • Related Report
      2022 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Symbolic piano music understanding from large-scale pre-training2022

    • Author(s)
      Yingfeng Fu, Yusuke Tanimura, Hidemoto Nakada
    • Journal Title

      Proceedings of the Annual Conference of JSAI

      Volume: JSAI2022 Issue: 0 Pages: 2S5IS2c02-2S5IS2c02

    • DOI

      10.11517/pjsai.JSAI2022.0_2S5IS2c02

    • Related Report
      2022 Annual Research Report
    • Open Access
  • [Journal Article] Julia言語を用いた大規模計算機上での分散並列実行環境の構築2021

    • Author(s)
      中田秀基
    • Journal Title

      信学技報, vol. 120, no. 121, CPSY2020-2

      Volume: 120, 121 Pages: 9-14

    • Related Report
      2020 Research-status Report
  • [Journal Article] Generating In-Between Images Through Learned Latent Space Representation Using Variational Autoencoders2021

    • Author(s)
      Paulino CristovaoHidemoto NakadaYusuke TanimuraHideki Asoh
    • Journal Title

      IEEE Access

      Volume: 8 Pages: 149456-149467

    • DOI

      10.1109/access.2020.3016313

    • Related Report
      2020 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] Julia言語を用いた高性能並列実行環境の構築2023

    • Author(s)
      中田秀基
    • Organizer
      情報処理学会プログラミング研究会
    • Related Report
      2022 Annual Research Report
  • [Presentation] Pre-training music transformer with masked-language model2022

    • Author(s)
      Yingfeng Fu, Yusuke Tanimura, Hidemoto Nakada
    • Organizer
      第25回情報論的学習理論ワークショップ (IBIS2022)
    • Related Report
      2022 Annual Research Report
  • [Presentation] Julia言語へのActorの導入2021

    • Author(s)
      中田秀基
    • Organizer
      情報処理学会プログラミング研究会
    • Related Report
      2021 Research-status Report
  • [Presentation] A Method to Generate Posed Person Image with few Context Images2021

    • Author(s)
      Hidemoto Nakada, Hideki Asoh
    • Organizer
      IMCOM 2022, The 16th International Conference on Ubiquitous Information Management and Communication
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Few Shot Model based on Weight Imprinting with Multiple Projection Head2021

    • Author(s)
      Paulino Cristovao, Hidemoto Nakada, Yusuke Tanimura, Hideki Asoh
    • Organizer
      IMCOM 2022, The 16th International Conference on Ubiquitous Information Management and Communication
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] Variational Information Bottleneck on Few Shot Model based on Weight Imprinting for Image Classification2021

    • Author(s)
      Paulino Cristovao, Hidemoto Nakada, Yusuke Tanimura, Hideki Asoh
    • Organizer
      2021 ASIAN CONFERENCE ON INNOVATION IN TECHNOLOGY
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] A study on the effect of regularization for weight imprinting2021

    • Author(s)
      Paulino Cristovao, Hidemoto Nakada, Yusuke Tanimura, Hideki Asoh
    • Organizer
      2021年度 人工知能学会全国大会 (第35回)
    • Related Report
      2021 Research-status Report
  • [Presentation] Performance of Domain Adaptation Schemes in Video Action Recognition using Synthetic Data2021

    • Author(s)
      Hana Isoi, Atsuko Takefusa, Hidemoto Nakada, Masato Oguchi
    • Organizer
      The 2022 4th International Conference on Image, Video and Signal Processing (IVSP 2022)
    • Related Report
      2021 Research-status Report
    • Int'l Joint Research
  • [Presentation] 合成データを用いた教師なしドメイン適応による室内動作認識手法の比較2021

    • Author(s)
      礒井 葉那, 竹房 あつ子, 中田 秀基, 小口 正人
    • Organizer
      情報処理学会 第84回全国大会
    • Related Report
      2021 Research-status Report
  • [Presentation] 合成データを用いた教師なしドメイン適応による室内動作認識手法の検討2021

    • Author(s)
      礒井 葉那, 竹房 あつ子, 中田 秀基, 小口 正人
    • Organizer
      第14回データ工学と情報マネジメントに関するフォーラム (DEIM)
    • Related Report
      2021 Research-status Report
  • [Presentation] 合成動画データを用いた学習でのドメイン適応による動作認識精度の比較2021

    • Author(s)
      礒井 葉那, 竹房 あつ子, 中田 秀基, 小口 正人
    • Organizer
      第24回画像の認識・理解シンポジウム
    • Related Report
      2021 Research-status Report
  • [Presentation] 動作認識のための合成データ活用に向けたドメイン適応手法の比較2021

    • Author(s)
      礒井 葉那, 竹房 あつ子, 中田 秀基, 小口 正人
    • Organizer
      「マルチメディア、分散、協調とモバイル(DICOMO2021)シンポジウム」
    • Related Report
      2021 Research-status Report
  • [Presentation] 動作認識のための合成データ活用に向けたドメイン適応手法の検討2021

    • Author(s)
      礒井 葉那, 竹房 あつ子, 中田 秀基, 小口 正人
    • Organizer
      信学技報 PRMU2021-5(2021-05)
    • Related Report
      2021 Research-status Report
  • [Presentation] MIDI note embedding with fasttext model2021

    • Author(s)
      Yingfeng Fu, Yusuke Tanimura, Hidemoto Nakada
    • Organizer
      2021年度 人工知能学会全国大会 (第35回)
    • Related Report
      2021 Research-status Report
  • [Presentation] Transfer symbolic music style from latent representation2020

    • Author(s)
      Yingfeng FuYusuke TanimuraHidemoto Nakada
    • Organizer
      2020年度人工知能学会全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] Sparsity enforcement on latent variables for better disentanglement in VAE2020

    • Author(s)
      Paulino CristovaoYusuke TanimuraHidemoto NakadaHideki Asoh
    • Organizer
      2020年度人工知能学会全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] Few-shot Learning with Data Augmentation with Generative Model2020

    • Author(s)
      Mu ZhouYusuke TanimuraHidemoto Nakada
    • Organizer
      2020年度人工知能学会全国大会
    • Related Report
      2020 Research-status Report
  • [Presentation] Piano score vectorization using fasttext2020

    • Author(s)
      Yingfeng FuYusuke TanimuraHidemoto Nakada
    • Organizer
      IBIS2020 第23回情報論的学習理論ワークショップ
    • Related Report
      2020 Research-status Report
  • [Presentation] Auxiliar Dataset on Few Shot Learning with Weight Imprinting2020

    • Author(s)
      Paulino CristovaoYusuke TanimuraHidemoto NakadaHideki Asoh
    • Organizer
      IBIS2020 第23回情報論的学習理論ワークショップ
    • Related Report
      2020 Research-status Report
  • [Presentation] Image synthesis for One-shot Classification with Triplet Network2019

    • Author(s)
      Mu Zhou, Yusuke Tanimura, Hidemoto Nakada
    • Organizer
      第22回情報論的学習理論ワークショップ (IBIS 2019) , 2019
    • Related Report
      2019 Research-status Report
  • [Presentation] Few-Shot Style Transfer for Handwriting Chinese Synthesis Using Conditional GAN2019

    • Author(s)
      Liangyu Liu, Yusuke Tanimura, Hidemoto Nakada
    • Organizer
      第22回情報論的学習理論ワークショップ (IBIS 2019) , 2019
    • Related Report
      2019 Research-status Report
  • [Presentation] An improvement on CycleGAN based symbolic music genre transfer2019

    • Author(s)
      Yingfeng Fu, Yusuke Tanimura, Hidemoto Nakada
    • Organizer
      第22回情報論的学習理論ワークショップ (IBIS 2019) , 2019
    • Related Report
      2019 Research-status Report
  • [Presentation] A study on the latent space of VAE2019

    • Author(s)
      Paulino Cristovao, Yusuke Tanimura, Hidemoto Nakada, Hideki Asoh
    • Organizer
      第22回情報論的学習理論ワークショップ (IBIS 2019) , 2019
    • Related Report
      2019 Research-status Report

URL: 

Published: 2019-04-18   Modified: 2024-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi