• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Research-status Report

単一アナログデバイスと局所的学習則を用いるリアルニューロモーフィックシステム

Research Project

Project/Area Number 19K11876
Research InstitutionNara Institute of Science and Technology

Principal Investigator

木村 睦  奈良先端科学技術大学院大学, 先端科学技術研究科, 客員教授 (60368032)

Co-Investigator(Kenkyū-buntansha) 中島 康彦  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)
ZHANG Renyuan  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00709131)
松田 時宜  龍谷大学, 公私立大学の部局等, 研究員 (30389209) [Withdrawn]
羽賀 健一  北陸先端科学技術大学院大学, シングルナノイノベーティブデバイス研究拠点, 研究員 (40751920) [Withdrawn]
徳光 永輔  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (10197882)
Project Period (FY) 2019-04-01 – 2023-03-31
Keywordsアナログデバイス / 局所的学習則 / ニューロモーフィックシステム / スパイキングニューラルネットワーク / メムキャパシタ
Outline of Annual Research Achievements

人工知能は、未来の社会の中心となる技術であるが、サイズと電力が問題である。ニューロモーフィックシステムは、脳の模倣で、コンパクト・低消費電力が期待できる。そこで我々は、超コンパクト・超低パワーのリアルニューロモーフィックシステムの研究を、アーキテクチャ/マテリアル/アルゴリズムの観点から進めている。本研究では、上記の新技術を導入した動作を、シミュレーション・実機で確認し、実用的かつ人間の脳と同様な超コンパクト・超低パワーの汎用人工知能の可能性を検討する。
現在まで、シミュレーションでは、抵抗変化素子・メモリスタ・強誘電体キャパシタを用いるメムキャパシタのモデリングを行い、新規ニューロン・シナプス回路を設計し、ディープ・畳み込み・さらにスパイキングニューラルネットワークを構築し、論理シミュレーション・HSPICEによる回路シミュレーションを行い、連想記憶・画像認識の機能をMNIST・CIFAR-10の文字・画像のデータセットで評価した。メムキャパシタの動的挙動も含み正確な動作解析に成功した。さらに、たとえばMNISTでは90%程度という十分な認識成功率を達成した。いっぽう、実機では、これまでの材料で新たにSTDPデバイスの作製に成功し、さらに、Hf-Oでメムキャパシタの作製に成功し、クロスポイントチップやLSI積層チップなどを用いて文字認識の動作確認に成功した。
今後は、さらに高度な研究のための1年間の補助期間延長のあいだに、上記の研究の成果を反映して、実機では、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路を搭載し、LSI積層チップで、文字認識の動作確認を行う。最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性も検討し、汎用人工知能としての動作を評価する。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

まず、シミュレーションでは、単一アナログデバイスである抵抗変化素子・メモリスタに加えて、強誘電体キャパシタを用いるメムキャパシタのモデリングを行った。印加電圧の履歴にキャパシタンスが依存するモデルである。そして、これらのモデルを組み込んだ新規ニューロン・シナプス回路すなわちパルス遅延回路・チャージポンプ回路を設計し、局所学習則とともに中規模のニューロモーフィックシステムを想定し、ディープニューラルネット・畳み込みニューラルネット・新型オートエンコーダ+パーセプトロンなどのネットワーク構成を構築した。メムキャパシタ・パルス遅延回路・チャージポンプ回路の動的挙動も含み正確な動作解析に成功した。さらに、たとえばMNISTでは90%程度という十分な認識成功率を達成し、これは従来のハイパフォーマンスのコンピュータと複雑なソフトウェアによる人工知能と同程度の認識成功率である。
つぎに、実機では、アモルファス金属酸化物のIGZO・GTOに加えて、強誘電体材料のBLT・PZT・HZO(いずれも我々が研究している高機能材料)で、材料組成・デバイス構造・製造プロセスなどの最適化でスイッチング特性・強誘電体特性などを制御し、抵抗変化素子・メモリスタ・STDPデバイスさらにメムキャパシタとして活用できるものの作製に成功した。シナプス素子だけ個別基板に集積化したクロスポイントチップや、ニューロン素子をLSIに集積化しそのうえにシナプス素子を成膜したLSI積層チップなどを用いて、実機を試作して動作を確認した。引き続き、現在は、3x3画素の小サイズの文字認識であるが、基本的な動作確認に成功したといえる。これらの結果については、既に様々な研究発表を行っている。

Strategy for Future Research Activity

当初の予定では、抵抗変化素子・メモリスタなどを用いて、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路を搭載し、LSI積層チップで、文字認識の動作確認を行うことで、本研究は完了するはずであった。しかしながら、これまでの研究で、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどで、さらにハイパフォーマンス・ローパワーのニューロモーフィックシステムが実現できる可能性が見いだされた。そこで、さらに高度な研究のための1年間の補助期間延長を行い、これらの研究を極め、実機による動作検証をすることにした。具体的には、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどを用いて、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路すなわちパルス遅延回路・チャージポンプ回路を搭載し、局所学習則とともに中規模のニューロモーフィックシステムを構成し、LSI積層チップで、文字認識の動作確認を行う。その結果をふまえて、最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性もアップデートし、汎用人工知能としての動作を評価する。

Causes of Carryover

まず、コロナ禍のため、予定していた旅費を使用しなかったため、残額として次年度使用額が生じた。次年度にコロナ禍が収束していたら、今年度に行く予定であった出張などで旅費として使用する。コロナ禍が収束していなかければ、その出張で目的としていた研究発表や情報交換などで得られるべきことを補うような、たとえば紙面発表や文献調査などに使用する予定である。
つぎに、これまでの研究で、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどで、さらにハイパフォーマンス・ローパワーのニューロモーフィックシステムが実現できる可能性が見いだされた。そこで、さらに高度な研究のための1年間の補助期間延長を行い、これらの研究を極め、実機による動作検証をすることにした。具体的には、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどを用いて、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路すなわちパルス遅延回路・チャージポンプ回路を搭載し、局所学習則とともに中規模のニューロモーフィックシステムを構成し、LSI積層チップで、文字認識の動作確認を行う。その結果をふまえて、最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性もアップデートし、汎用人工知能としての動作を評価する。

  • Research Products

    (39 results)

All 2023 2022 2021

All Journal Article (5 results) (of which Peer Reviewed: 5 results,  Open Access: 1 results) Presentation (29 results) (of which Int'l Joint Research: 17 results,  Invited: 7 results) Book (1 results) Patent(Industrial Property Rights) (4 results) (of which Overseas: 2 results)

  • [Journal Article] Neuromorphic System Using Memcapacitors and Autonomous Local Learning2023

    • Author(s)
      Kimura Mutsumi、Ishisaki Yuma、Miyabe Yuta、Yoshida Homare、Ogawa Isato、Yokoyama Tomoharu、Haga Ken-Ichi、Tokumitsu Eisuke、Nakashima Yasuhiko
    • Journal Title

      IEEE Transactions on Neural Networks and Learning Systems

      Volume: 34 Pages: 2366~2373

    • DOI

      10.1109/TNNLS.2021.3106566

    • Peer Reviewed
  • [Journal Article] Switchover behavior between long-term potentiation and depression in amorphous Ga-Sn-O thin-film spike-timing-dependent-plasticity device2022

    • Author(s)
      Morigaki Kazuki、Yatida Kenta、Katagiri Tetsuya、KIMURA Mutsumi
    • Journal Title

      Japanese Journal of Applied Physics

      Volume: - Pages: -

    • DOI

      10.35848/1347-4065/ac5d80

    • Peer Reviewed
  • [Journal Article] Neuromorphic chip integrated with a large-scale integration circuit and amorphous-metal-oxide semiconductor thin-film synapse devices2022

    • Author(s)
      Kimura Mutsumi、Shibayama Yuki、Nakashima Yasuhiko
    • Journal Title

      Scientific Reports

      Volume: 12 Pages: 5359

    • DOI

      10.1038/s41598-022-09443-y

    • Peer Reviewed / Open Access
  • [Journal Article] Amorphous-Metal-Oxide-Semiconductor Thin-Film Planar-Type Spike-Timing- Dependent-Plasticity Synapse Device2021

    • Author(s)
      Shibayama Yuki、Ohnishi Yuki、Katagiri Tetsuya、Yamamoto Yuhei、Nakashima Yasuhiko、Kimura Mutsumi
    • Journal Title

      IEEE Electron Device Letters

      Volume: 42 Pages: 1014~1016

    • DOI

      10.1109/LED.2021.3082083

    • Peer Reviewed
  • [Journal Article] Amorphous Ga-Sn-O thin-film crosspoint-type spike-timing-dependent-plasticity device2021

    • Author(s)
      Ohnishi Yuki、Shibayama Yuki、Katagiri Tetsuya、Morigaki Kazuki、Yachida Kenta、Kimura Mutsumi
    • Journal Title

      Japanese Journal of Applied Physics

      Volume: 60 Pages: 078003~078003

    • DOI

      10.35848/1347-4065/ac0d15

    • Peer Reviewed
  • [Presentation] Development of Neuromorphic Systems and Emerging Devices2022

    • Author(s)
      Mutsumi Kimura
    • Organizer
      AM-FPD '22
    • Int'l Joint Research / Invited
  • [Presentation] Machine Learning using Thin-Film Devices for Letter Recognition2022

    • Author(s)
      Mutsumi Kimura
    • Organizer
      IDMC 2022
    • Int'l Joint Research / Invited
  • [Presentation] Multimodal Spike Coding for Memcapacitive Neuromorphic System2022

    • Author(s)
      Reon Oshio, Atsushi Sawada, Mutsumi Kimura, Renyuan Zhang, Yasuhiko Nakashima
    • Organizer
      第69回応用物理学会春季学術講演会
  • [Presentation] ニューロモーフィックシステム&デバイス2021

    • Author(s)
      木村 睦
    • Organizer
      IEEE Computer Society Kansai Chapter, 2021年 第2回技術講演会, ~AI向け次世代計算技術~
    • Invited
  • [Presentation] Feasibility Studies of Novel Applications using AOS Devices for Flexible Electronics2021

    • Author(s)
      Mutsumi Kimura and Yasuhiko Nakashima
    • Organizer
      MRM 2021
    • Int'l Joint Research / Invited
  • [Presentation] AIの基礎の基礎 -画像認識・分類問題-2021

    • Author(s)
      木村 睦
    • Organizer
      IDW '21 チュートリアル
    • Invited
  • [Presentation] - Presentation from TFMD - AI Electronics using Thin-Film Devices2021

    • Author(s)
      Mutsumi Kimura, Sumio Sugisaki, Ayata Kurasaki, and Yuki Shibayama
    • Organizer
      ICFPE 2021
    • Int'l Joint Research / Invited
  • [Presentation] GTO-TFT deposited using Mist-CVD2021

    • Author(s)
      Mutsumi Kimura, Yuta Takishita, Ryugo Okamoto, and Tokiyoshi Matsuda
    • Organizer
      ICDT 2021
    • Int'l Joint Research / Invited
  • [Presentation] Preliminary Evaluation for Multi-domain Spike Coding on Memcapacitive Neuromorphic Circuit2021

    • Author(s)
      Reon Oshio, Atsushi Sawada, Mutsumi Kimura, Renyuan Zhang, and Yasuhiko Nakashima
    • Organizer
      CANDAR 2021
    • Int'l Joint Research
  • [Presentation] Investigation of Multi-level Characteristics in Ga-Sn-O Three-layered ReRAM2021

    • Author(s)
      Daisuke Makioka, Kaito Hashimoto, Ryo Sumida, Shu Shiomi, and Mutsumi Kimura
    • Organizer
      IMFEDK 2021
    • Int'l Joint Research
  • [Presentation] Evaluation of Electrical Properties of Ferroelectric HfO2 Thin Films for Neuromorphic Systems2021

    • Author(s)
      Hiroki Umemura, Yuma Ishisaki, Daiki Matsukawa, Mutsumi Kimura, and Hiroyuki Nishinaka
    • Organizer
      IMFEDK 2021
    • Int'l Joint Research
  • [Presentation] Characteristics of 3-layer Ga-Sn-O Thin Film Synapses for Neuromorphic Devices using Spike-Timing-Dependent Plasticity2021

    • Author(s)
      Kazuki Morigaki, Tetsuya Katagiri, Kenta Yachida, Norito Komai, Naoki Sahara, and Mutsumi Kimura
    • Organizer
      IMFEDK 2021
    • Int'l Joint Research
  • [Presentation] Memcapacitive Characteristics of Ferroelectric Capacitance for Neuromorphic Systems and Application of Y-doped Hf0.5Zr0.5O22021

    • Author(s)
      Daiki Matsukawa, Yuma Ishisaki, Hiroki Umemura, Mutsumi Kimura, Mohit, and Eisuke Tokumitsu
    • Organizer
      IMFEDK 2021
    • Int'l Joint Research
  • [Presentation] Characterization of Ga-Sn-O Thin Film Synapses using Spike-Timing-Dependent Plasticity Learning Rules2021

    • Author(s)
      Kenta Yatida, Tetuya Katagiri, Kazuki Morigaki, Norito Komai, Naoki Sahara, and Mutsumi Kimura
    • Organizer
      IMFEDK 2021
    • Int'l Joint Research
  • [Presentation] RFマグネトロンスパッタリング法で成膜した(Bi,La)4Ti3O12薄膜の作製条件最適化2021

    • Author(s)
      福井 智貴, 中川 滉貴, 枝広 龍磨, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] 電極により異なる特性を示すIn-Ga-Zn-O薄膜ReRAM2021

    • Author(s)
      片桐 徹也, 木村 睦, 森垣 和樹, 谷内田 健太
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] Ga-Sn-O薄膜を用いた抵抗変化型メモリのメモリスタ特性の印加電圧依存2021

    • Author(s)
      角田 涼, 橋本 快人, 牧岡 大輔, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] ミスト CVD法によるニューロモルフィックアプリケション用Gax-Sn1-x-O / Gax-Al1-x-Oデバイスのメモリスタ特性2021

    • Author(s)
      杉崎 澄生, 伊藤 良, 松田 時宜, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] ニューロモーフィックシステムにおけるキャパシタ型シナプス用強誘電体薄膜の誘電特性評価と文字補正応用2021

    • Author(s)
      石﨑 勇真, 梅村 浩輝, 松川 大毅, 徳光 永輔, 羽賀 健一, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] IGZO薄膜を利用した3層ニューロモルフィックデバイス2021

    • Author(s)
      岩城 江津子, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第18回研究集会
  • [Presentation] Amorphous Metal-Oxide Thin-Film Memdevices and Integration to Neuromorphic Systems2021

    • Author(s)
      Mutsumi Kimura, Yuki Shibayama, Yuki Onishi, and Yasuhiko Nakashima
    • Organizer
      MEMRISYS 2021
    • Int'l Joint Research
  • [Presentation] Neuromorphic System using LSI Neurons and MOSFET Synapses with Autonomous Learning Rule2021

    • Author(s)
      Mutsumi Kimura, Yoshinori.Miyamae, Mitsuo Tamura, and Yasuhiko Nakashima
    • Organizer
      ICONS 2021
    • Int'l Joint Research
  • [Presentation] Double-Layer ReRAM with In-Ga-Zn-O Thin Film for Neuromorphic2021

    • Author(s)
      Tetsuya Katagiri, Kazuki Morigaki, Kenta Yachida, and Mutsumi Kimura
    • Organizer
      AM-FPD '21
    • Int'l Joint Research
  • [Presentation] Stacked Cross-Point Memory using IGZO Thin Film for Synaptic Elements2021

    • Author(s)
      Etsuko Iwagi, and Mutsumi Kimura
    • Organizer
      AM-FPD '21
    • Int'l Joint Research
  • [Presentation] Ferroelectric Thin Film for a Capacitor-type Synapse in Neuromorphic Systems2021

    • Author(s)
      Yuma Ishisaki, Hiroki Umemura, Daiki Matsukawa, Eisuke Tokumitsu, Kenichi Haga, Toshihiro Doi, and Mutsumi Kimura
    • Organizer
      AM-FPD '21
    • Int'l Joint Research
  • [Presentation] Non-Volatile Memory using a Ga-Sn-O TFT with a Stacked Gate Insulator Film of SiO2 and (Bi,La)4Ti3O122021

    • Author(s)
      Tomoki Fukui, Koki Nakagawa, and Mutsumi Kimura
    • Organizer
      AM-FPD '21
    • Int'l Joint Research
  • [Presentation] メムキャパシタを用いたスパイキングニューラルネットワークの開発 ~ シナプス強度とキャパシタンスの変換方式改善による認識精度のロス低減 ~2021

    • Author(s)
      澤田 篤志, 押尾 怜穏, 張 任遠, 木村 睦, 中島 康彦
    • Organizer
      電子情報通信学会, VLD2021-32
  • [Presentation] 薄膜メムデバイスによるニューロモーフィックシステム2021

    • Author(s)
      木村 睦, 中島 康彦
    • Organizer
      第82回応用物理学会秋季学術講演会
  • [Presentation] メムキャパシタを用いたスパイキイングニューラルネットワークの開発2021

    • Author(s)
      澤田 篤志, 押尾 怜穏, 野村 武司, 張 任遠, 木村 睦, 中島 康彦
    • Organizer
      電子情報通信学会, CPSY2021-11
  • [Book] Neuromorphic Chip using AOS Thin-Film Devices, Amorphous Oxide Semiconductors: IGZO and Related Materials for Display and Memory2022

    • Author(s)
      Mutsumi Kimura
    • Total Pages
      To be published
    • Publisher
      Wiley
  • [Patent(Industrial Property Rights)] スパイキングニューラルネットワークを実行するための装置及び方法、並びに、スパイキングニューロモーフィックシステム2021

    • Inventor(s)
      押尾、木村、張、中島
    • Industrial Property Rights Holder
      NAIST
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2021-178174
  • [Patent(Industrial Property Rights)] 制御装置2021

    • Inventor(s)
      中島、木村、張
    • Industrial Property Rights Holder
      NAIST
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2021-027859
  • [Patent(Industrial Property Rights)] メモリスタ及びそれを用いたニューラルネットワーク2021

    • Inventor(s)
      木村 睦, 杉崎 澄生 , 宮前 義範
    • Industrial Property Rights Holder
      龍谷大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2018/39111
    • Overseas
  • [Patent(Industrial Property Rights)] MEMRISTOR AND NEURAL NETWORK USING SAME2021

    • Inventor(s)
      木村 睦, 杉崎 澄生 , 宮前 義範
    • Industrial Property Rights Holder
      龍谷大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      US11,276,820
    • Overseas

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi