• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

単一アナログデバイスと局所的学習則を用いるリアルニューロモーフィックシステム

Research Project

Project/Area Number 19K11876
Research InstitutionNara Institute of Science and Technology

Principal Investigator

木村 睦  奈良先端科学技術大学院大学, 先端科学技術研究科, 客員教授 (60368032)

Co-Investigator(Kenkyū-buntansha) 中島 康彦  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)
ZHANG Renyuan  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00709131)
松田 時宜  龍谷大学, 理工学部, 助教 (30389209) [Withdrawn]
羽賀 健一  北陸先端科学技術大学院大学, シングルナノイノベーティブデバイス研究拠点, 研究員 (40751920) [Withdrawn]
徳光 永輔  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (10197882)
Project Period (FY) 2019-04-01 – 2024-03-31
Keywordsアナログデバイス / 局所的学習則 / ニューロモーフィックシステム / スパイキングニューラルネットワーク / メムキャパシタ
Outline of Annual Research Achievements

人工知能は、未来の社会の中心となる技術であるが、サイズと電力が問題である。ニューロモーフィックシステムは、脳の模倣で、コンパクト・低消費電力が期待できる。そこで我々は、超コンパクト・超低パワーのリアルニューロモーフィックシステムの研究を、アーキテクチャ・マテリアル・アルゴリズムの観点から進めている。本研究では、上記の新技術を導入した動作を、シミュレーション・実機で確認し、実用的かつ人間の脳と同様な超コンパクト・超低パワーの汎用人工知能の可能性を検討する。
現在まで、シミュレーションで、アモルファス金属酸化物半導体のメモリスタ・強誘電体キャパシタのメムキャパシタをモデリングし、新規ニューロン・シナプス回路を設計し、ディープ・畳み込み・さらにスパイキングニューラルネットワークを構築し、デバイス・回路特性を意識する学習方法を考案し、Pythonの論理シミュレーション・HSPICEの回路シミュレーションを行い、連想記憶・画像認識の機能をMNIST・CIFAR-10の文字・画像のデータセットで評価した。アナログメモリスタとキャパシタを集積化する動的メムキャパシタでも正確な動作解析に成功した。これで、たとえばMNISTで97%という極めて高い認識成功率を達成した。いっぽう、実機では、3次元積層構造メモリスタ・PZT・BLTアナログメムキャパシタの作製に成功し、クロスポイントアレイなどを用いて動作確認に成功した。
今後は、実機で、2022年度にシミュレーション・設計は完了していて、2023年度に納品されるLSIチップの機能評価を行う。ここでは、100万素子程度の集積化であり、動作確認・消費電力解析などを行う。最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性も検討し、汎用人工知能としての動作を評価する。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

まず、シミュレーションでは、単一アナログデバイスのであるアモルファス金属酸化物半導体のメモリスタに加え、強誘電体キャパシタのメムキャパシタをモデリングした。印加電圧・電流履歴にコンダクタンス・キャパシタンスが依存するモデルである。そして、これらのモデルを組み込んだ新規ニューロン回路としてパルス発生回路・シナプスとして積和演算回路を設計し、回路特性を意識する学習方法も用いて、ディープ・畳み込み・新型オートエンコーダ+パーセプトロンなどのニューラルネットワーク構成を構築した。メムキャパシタ・パルス発生回路・積和演算回路の動的挙動も含め正確な動作解析に成功した。MNISTで97%という極めて高い認識成功率を達成し、これは従来の超高性能のコンピュータと複雑なソフトウェアによる人工知能と同程度以上の認識成功率である。
つぎに、実機では、アモルファス金属酸化物のIGZO・GTO・AZOに加えて、強誘電体材料のBLT・PZT・HZO(いずれも我々が研究している高機能材料)で、材料組成・デバイス構造・製造プロセスなどの最適化でスイッチング特性・強誘電体特性などを制御し、メモリスタ・STDPデバイスさらにメムキャパシタとして活用できるものの作製に成功した。シナプス素子だけ個別基板に集積化したクロスポイントチップや、ニューロン素子をLSIに集積化しそのうえにシナプス素子を成膜したLSI積層チップなどを用いて、実機を試作して動作を確認した。特に、3次元積層構造メモリスタ・PZT・BLTアナログメムキャパシタの作製・クロスポイントアレイなどを用いる動作確認については、優れた成果である。これらの結果については、既に様々な研究発表を行っている。
いっぽう、最終的な成果としての、実機ですべての成果を実装するLSIチップの機能評価のみ、2023年度にずれ込んでいて、これが上記の進捗状況の判断の理由である。

Strategy for Future Research Activity

当初の予定では、抵抗変化素子・メモリスタなどを用いて、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路を搭載し、LSI積層チップで、文字認識の動作確認を行うことで、本研究は完了するはずであった。しかしながら、これまでの研究で、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどで、さらにハイパフォーマンス・ローパワーのニューロモーフィックシステムが実現できる可能性が見いだされた。そこで、さらに高度な研究のための1年間の補助期間延長を行い、これらの研究を極め、実機による動作検証をすることにした。具体的には、新たなSTDPデバイス・メムキャパシタ・メモリスタとキャパシタの複合デバイスなどを用いて、実際に半導体技術を用いるASICで、新規ニューロン・シナプス回路すなわちパルス遅延回路・チャージポンプ回路を搭載し、局所学習則とともに中規模のニューロモーフィックシステムを構成し、LSI積層チップで、文字認識の動作確認を行う予定とした。この予定は、ほぼ順調に進んだが、実機で、すべての成果を実装するLSIチップは、2022年度にシミュレーション・設計は完了していたが、試作スケジュールの関係もあり、2023年度に納品されることとなった。今後は、このLSIチップの機能評価を行う。ここでは、100万素子程度の集積化であり、動作確認・消費電力解析などを行う。その結果をふまえて、最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性もアップデートし、汎用人工知能としての動作を評価する。

Causes of Carryover

実機で、すべての成果を実装するLSIチップは、2022年度にシミュレーション・設計は完了していたが、試作スケジュールの関係もあり、2023年度に納品されることとなった。このため、次年度使用額が生じた。2023年度は、このLSIチップの機能評価を行う。

  • Research Products

    (28 results)

All 2023 2022

All Journal Article (4 results) (of which Int'l Joint Research: 3 results,  Peer Reviewed: 4 results,  Open Access: 2 results) Presentation (20 results) (of which Int'l Joint Research: 14 results,  Invited: 4 results) Book (1 results) Patent(Industrial Property Rights) (3 results) (of which Overseas: 1 results)

  • [Journal Article] 積層In-Ga-Zn-O薄膜を利用したニューロモルフィックデバイスの知的学習への応用2023

    • Author(s)
      岩城 江津子、河西 秀典、木村 睦
    • Journal Title

      電子情報通信学会論文誌 C

      Volume: J106-C Pages: 129~136

    • DOI

      10.14923/transelej.2022PJP0001

    • Peer Reviewed
  • [Journal Article] Ga-Sn-O Thin-Film Memristor and Analog Plasticity Characteristic2023

    • Author(s)
      Makioka Daisuke、Shiomi Shu、Kimura Mutsumi
    • Journal Title

      IEEE Journal of the Electron Devices Society

      Volume: 11 Pages: 174~178

    • DOI

      10.1109/JEDS.2023.3253465

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Application of Machine Learning to Environmental DNA Metabarcoding2022

    • Author(s)
      Kimura Mutsumi、Yamanaka Hiroki、Nakashima Yasuhiko
    • Journal Title

      IEEE Access

      Volume: 10 Pages: 101790~101794

    • DOI

      10.1109/ACCESS.2022.3207173

    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Multilayer Crossbar Array of Amorphous Metal-Oxide Semiconductor Thin Films for Neuromorphic Systems2022

    • Author(s)
      Iwagi Etsuko、Tsuno Takumi、Imai Takahito、Nakashima Yasuhiko、Kimura Mutsumi
    • Journal Title

      IEEE Journal of the Electron Devices Society

      Volume: 10 Pages: 784~790

    • DOI

      10.1109/JEDS.2022.3203364

    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Presentation] 酸化物半導体によるAIコンピューティングの最前線2023

    • Author(s)
      木村 睦, 宮戸 祐治, 新谷 道広, 藤井 茉美, 曲 勇作, 河西 秀典, 松田 時宜, 神谷 利夫
    • Organizer
      第70回 応用物理学会春季学術講演会 シンポジウム 「ディスプレイの次のキラーアプリをねらえ! 酸化物半導体の最前線」, 17p-E302-6, 100000001-273, 2023年3月
    • Invited
  • [Presentation] Phase-Change Memory using Cu2GeTe3 and Multiple Writing Technique for Neuromorphic Systems2023

    • Author(s)
      Shihori Akane, Isao Horiuchi, Yasushi Hiroshima, Yasuhiko Nakashima, and Mutsumi Kimura
    • Organizer
      ICCE 2023, Jan. 2023
    • Int'l Joint Research
  • [Presentation] Amorphous-Metal-Oxide-Semiconductor Thin-Film Planar-Type Spike-Timing Dependent-Plasticity Synapse Device2022

    • Author(s)
      Yuki Ohnishi, Tetsuya Katagiri, Yuhei Yamamoto, Yasuhiko Nakashima, and Mutsumi Kimura
    • Organizer
      IEEE Electron Devices Society Kansai Chapter 第22回 関西コロキアム電子デバイスワークショップ, 2022年10月
    • Invited
  • [Presentation] Development of Neuromorphic Systems and Emerging Devices : Revolutionize Artificial Intelligence with your Devices !!2022

    • Author(s)
      Mutsumi Kimura
    • Organizer
      AM-FPD '22, pp. 74-77, July 2022
    • Int'l Joint Research / Invited
  • [Presentation] Machine Learning using Thin-Film Devices for Letter Recognition2022

    • Author(s)
      Mutsumi Kimura
    • Organizer
      IDMC 2022, Apr. 2022
    • Int'l Joint Research / Invited
  • [Presentation] Analog and Digital Memristor Characteristics in Ga-Sn-O Three-layered ReRAM2022

    • Author(s)
      Shu Shiomi, Daisuke Makioka, Hidenori Kawanishi, Tokiyohi Matsuda, and Mutsumi Kimura
    • Organizer
      IMFEDK 2022, Nov. 2022
    • Int'l Joint Research
  • [Presentation] Metal Electrode-dependent Properties of a-IGZO ReRAM2022

    • Author(s)
      Tetsuya Katagiri, Kazuki Morigaki, Kenta Yachida, Hidenori Kawanishi, Mutsumi Kimura, and Tokiyoshi Matsuda
    • Organizer
      IMFEDK 2022, Nov. 2022
    • Int'l Joint Research
  • [Presentation] Characterization of In-Ga-Zn-O Thin Film Synapses for Neuromorphic Device using Spike-Timing-Dependent-Plasticity2022

    • Author(s)
      Naoki Sahara, Tetuya Katagiri, Kenta Yachida, Kazuki Morigaki, Norito Komai, Tokiyoshi Matsuda, Hidenori Kawanishi, and Mutumi Kimura
    • Organizer
      IMFEDK 2022, Nov. 2022
    • Int'l Joint Research
  • [Presentation] Ga-Sn-O Thin-Film Device using Mist CVD Method and Spike-Timing-Dependent-Plasticity (STDP)2022

    • Author(s)
      Norito Komai, Tetsuya Katagiri, Naoki Sahara, Kazuma Uno, Hidehito Kita, Tokiyoshi Matsuda, Hidenori Kawanishi, and Mutsumi Kimura
    • Organizer
      IMFEDK 2022, Nov. 2022
    • Int'l Joint Research
  • [Presentation] Combination of Memristor and Capacitor for Synapse Device in Neuromorphic Spiking Computing2022

    • Author(s)
      Takumi Kuwahara, Reon Oshio, Hidenori Kawanishi, Mutsumi Kimura, and Yasuhiko Nakashima
    • Organizer
      IMFEDK 2022, Nov. 2022
    • Int'l Joint Research
  • [Presentation] メモリスタとキャパシタを用いたシナプス素子の評価2022

    • Author(s)
      谷内田 健太, 桑原 拓海, 阿部 祥也, 澤井 一輝, 松田 時宜, 河西 秀典, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第19回研究集会, pp. 203-206, 2022年11月
  • [Presentation] 強誘電体薄膜を用いたメムキャパシタのアナログ動作の評価と文字補正応用2022

    • Author(s)
      石崎 勇真, 田中 欧介, 桑原 拓実, 河西 秀典, 松田 時宜, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第19回研究集会, pp. 173-176, 2022年11月
  • [Presentation] ミストCVD法によるアモルファスGa-Al-O薄膜デバイスのメモリスタ特性2022

    • Author(s)
      伊藤 良, 杉崎 澄生, 嶽山 嵐, 松田 時宜, 河西 秀典, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第19回研究集会, pp. 81-83, 2022年11月
  • [Presentation] Letter Reproduction from Incomplete Image to Complete Image by Neuromorphic System using LSI Neurons and MOSFET Synapses2022

    • Author(s)
      Mutsumi Kimura, Yoshinori Miyamae, Mitsuo Tamura, and Yasuhiko Nakashima
    • Organizer
      Euro Display 2022, Sep. 2022
    • Int'l Joint Research
  • [Presentation] Character Inference Learning for Stacked Neuromorphic Devices using IGZO Thin Films2022

    • Author(s)
      Etsuko Iwagi and Mutsumi Kimura
    • Organizer
      AM-FPD ’22, pp. 163-166, July 2022
    • Int'l Joint Research
  • [Presentation] ReRAM Multi-level Characteristics for Analog Computing2022

    • Author(s)
      Tetsuya Katagiri, Kazuki Morigaki, Kenta Yachida, Hidenori Kawanishi, and Mutsumi Kimura
    • Organizer
      AM-FPD ’22, pp. 146-147, July 2022
    • Int'l Joint Research
  • [Presentation] Synaptic Characteristics of Ferroelectric Capacitors for Neuromorphic Systems2022

    • Author(s)
      Yuma Ishisaki, Osuke Tanaka, Takumi Kuwahara, and Mutsumi Kimura
    • Organizer
      AM-FPD ’22, pp. 144-145, July 2022
    • Int'l Joint Research
  • [Presentation] Spike-Timing-Dependent-Plasticity Characterization of Ga-Sn-O Thin Film Synaptic Device2022

    • Author(s)
      Kenta Yachida, Tetsuya Katagiri, Norito Koma, Naoki Sahara, and Mutsumi Kimura
    • Organizer
      AM-FPD ’22, pp. 94-97, July 2022
    • Int'l Joint Research
  • [Presentation] A Memcapacitive Spiking Neural Network with Circuit Nonlinearity-aware Training2022

    • Author(s)
      Reon Oshio, Takuya Sugahara, Atsushi Sawada, Mutsumi Kimura, Renyuan Zhang, and Yasuhiko Nakashima
    • Organizer
      IEEE COOL Chips 2022, Apr. 2022
    • Int'l Joint Research
  • [Presentation] IGZOおよびGTO-ReRAMにおけるフォーミング時の特性変化測定2022

    • Author(s)
      宮戸 祐治, 廣瀬 尊之, 片桐 徹也, 三上 創太, 小林 圭, 木村 睦
    • Organizer
      第83回応用物理学会秋季学術講演会, 23a-P06-28, pp. 16-097, 2022年9月
  • [Book] Neuromorphic Chip using AOS Thin-Film Devices, Amorphous Oxide Semiconductors: IGZO and Related Materials for Display and Memory, Chapter 22, May 20222022

    • Author(s)
      Mutsumi Kimura
    • Total Pages
      -
    • Publisher
      Wiley
  • [Patent(Industrial Property Rights)] ニューロモーフィック装置及びニューロモーフィックシステム2022

    • Inventor(s)
      木村 睦、中島 康彦、滝下 雄太
    • Industrial Property Rights Holder
      奈良先端科学技術大学院大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2022-558995
  • [Patent(Industrial Property Rights)] 積和回路およびその積和回路を備えたニューラルネットワーク2022

    • Inventor(s)
      木村 睦、谷内田 健太、桑原 拓海、押尾 怜穏、中島 康彦
    • Industrial Property Rights Holder
      龍谷大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2022-085622
  • [Patent(Industrial Property Rights)] スパイキングニューラルネットワークを実行するための装置及び方法、並びに、スパイキングニューロモーフィックシステム2022

    • Inventor(s)
      押尾 怜穏、木村 睦、張 任遠、中島 康彦
    • Industrial Property Rights Holder
      奈良先端科学技術大学院大学
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2022/ 40150
    • Overseas

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi