• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Research-status Report

単一アナログデバイスと局所的学習則を用いるリアルニューロモーフィックシステム

Research Project

Project/Area Number 19K11876
Research InstitutionNara Institute of Science and Technology

Principal Investigator

木村 睦  奈良先端科学技術大学院大学, 先端科学技術研究科, 客員教授 (60368032)

Co-Investigator(Kenkyū-buntansha) 中島 康彦  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)
ZHANG Renyuan  奈良先端科学技術大学院大学, 先端科学技術研究科, 助教 (00709131)
松田 時宜  龍谷大学, 公私立大学の部局等, 研究員 (30389209)
羽賀 健一  北陸先端科学技術大学院大学, シングルナノイノベーティブデバイス研究拠点, 研究員 (40751920) [Withdrawn]
徳光 永輔  北陸先端科学技術大学院大学, 先端科学技術研究科, 教授 (10197882)
Project Period (FY) 2019-04-01 – 2022-03-31
Keywordsアナログデバイス / 局所的学習則 / ニューロモーフィックシステム / スパイキングニューラルネットワーク / メムキャパシタ
Outline of Annual Research Achievements

人工知能は、未来の社会の中心となる技術であるが、巨大なサイズと膨大な電力が問題である。ニューロモーフィックシステムは、脳の模倣で、コンパクト化・低消費電力化が期待できる。そこで我々は、超コンパクト・超低パワーの『リアルニューロモーフィックシステム』の研究を、アーキテクチャ/マテリアル/アルゴリズムの観点から進めている。本研究では、上記の新技術を導入した動作を、シミュレーション・実機で確認し、実用的かつ人間の脳と同様な超コンパクト・パワーの汎用人工知能の可能性を検討する。
現在まで、シミュレーションでは、抵抗変化素子・メモリスタ・さらにメムキャパシタのモデリングを行い、局所学習則とともに組み込む論理シミュレーションを行った。ディープ・畳み込み・さらに新型ニューラルネットを構築し、連想記憶・画像認識の例として、MNIST・CIFAR-10の文字・画像のデータセットで、十分な認識成功率を達成した。一方実機では、In-Ga-Zn-O(IGZO)・Ga-Sn-O(GTO)で抵抗変化素子・メモリスタの作製に成功し、さらに、強誘電体材料のBi-La-Ti-O(BLT)・Pb-Zr-Ti-O(PZT)でメムキャパシタの作製に成功し、クロスポイントチップやLSI積層チップなどを用いて動作確認した。
今後は、シミュレーションでは、強誘電体キャパシタのモデリング・論理シミュレーションを継続する。さらに、回路シミュレーションで、動的挙動も含み正確に動作解析する。スパイクネットを想定のパルス遅延回路・チャージポンプ回路も検討する。一方、実機では、クロスポイントチップやLSI積層チップを用いる動作確認も継続する。最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性も検討し、汎用人工知能としての動作を評価する。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

まず、シミュレーションでは、単一アナログデバイスである抵抗変化素子・メモリスタ・さらにメムキャパシタのモデリングを行った。印加電圧・電流の履歴にコンダクタンス・キャパシタンスが依存するモデルである。そして、抵抗変化素子・メモリスタ・さらにメモリスタのモデルを局所学習則とともに組み込んだ論理シミュレーションを行った。中規模のニューロモーフィックシステムを想定し、ディープニューラルネット・畳み込みニューラルネット・新型オートエンコーダ+パーセプトロンなどのネットワーク構成を構築した。連想記憶・画像認識の例として、MNIST・CIFAR-10の文字・画像のデータセットを用いて、たとえば90%以上という十分な認識成功率を達成した。これらの結果については、既に様々な研究発表を行っている。
つぎに、実機では、アモルファス金属酸化物のIGZO・GTO・さらに強誘電体材料のBLT・PZT(いずれも我々が研究している高機能材料)で、組成・デバイス構造・製造プロセスなどの最適化で抵抗変化特性・遷移特性・さらに強誘電体特性などを制御し、抵抗変化素子・メモリスタ・さらにメムキャパシタとして活用できるものの作製に成功した。シナプス素子だけ個別基板に集積化したクロスポイントチップや、ニューロン素子をLSIに集積化しそのうえにシナプス素子を成膜したLSI積層チップなどを用いて、実機を試作して動作を確認した。現在は、3x3画素の小サイズの文字認識であるが、基本的な動作確認に成功したといえる。これらの結果についても、既に様々な研究発表を行っている。また、さらに新たな強誘電体材料Hf-Zr-O(HZO)で、やはり組成・デバイス構造・製造プロセスなどの最適化で強誘電性などを制御し、強誘電体キャパシタとして活用できるものの作製に成功した。シナプス素子の接続強度の初期値・変化速度の実際の値についても評価した。

Strategy for Future Research Activity

まず、シミュレーションでは、単一アナログデバイスの強誘電体キャパシタのモデリングを継続する。印加電圧の履歴に分極・キャパスタンスが依存するモデルである。そして、既に完成している抵抗変化素子・メモリスタ・さらに強誘電体メムキャパシタのモデルを局所学習則とともに組み込む論理シミュレーションを継続する。より大規模のニューロモーフィックシステムを想定し、ディープ・畳み込み・リザーバニューラルネット・新型オートエンコーダ+パーセプトロンなどのネットワーク構成を構築する。最適化問題(巡回セールスマン問題など)などを連想メモリに対応させた問題に対する正常な動作確認を継続する。中規模・より大規模のニューロモーフィックシステムを想定し、ディープ・畳み込み・リザーバニューラルネット・新型オートエンコーダ+パーセプトロンなどのネットワーク構成を構築する。やはり、連想記憶・画像認識・最適化問題などに対する正常な動作を確認する。さらに、回路シミュレーションで、動的挙動も含むニューロモーフィックシステムの正確な動作を解析することを継続する。スパイキングニューラルネットワークのためのパルス遅延型ニューロン回路・チャージポンプ型シナプス回路も検討する。
つぎに、実機では、HZOで、シナプス素子だけ個別基板に集積化したクロスポイントチップや、ニューロン素子をLSIに集積化しそのうえにシナプス素子を成膜したLSI積層チップなどを用いて、実機を試作して動作を確認する。
最後に、大規模化では、大規模の1兆素子程度のニューロモーフィックシステムを想定し、超コンパクト・低パワーの人工知能の実現にむけての可能性の検討を継続する。ここでは、まずは上記の連想記憶・画像認識・最適化問題などを同じシステム構成のニューロモーフィックシステムで実現できるかを確認することで、汎用人工知能としての動作を評価する。

Causes of Carryover

主に、コロナ禍のため、予定していた旅費を使用しなかったため、残額として次年度使用額が生じた。次年度にコロナ禍が収束していたら、今年度に行く予定であった出張などで旅費として使用する。コロナ禍が収束していなかければ、その出張で目的としていた研究発表や情報交換などで得られるべきことを補うような、たとえば紙面発表や文献調査などに使用する予定である。

  • Research Products

    (26 results)

All 2021 2020

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 1 results) Presentation (19 results) (of which Int'l Joint Research: 6 results,  Invited: 4 results) Patent(Industrial Property Rights) (4 results)

  • [Journal Article] Amorphous metal oxide semiconductor thin film, analog memristor, and autonomous local learning for neuromorphic systems2021

    • Author(s)
      Kimura Mutsumi、Sumida Ryo、Kurasaki Ayata、Imai Takahito、Takishita Yuta、Nakashima Yasuhiko
    • Journal Title

      Scientific Reports

      Volume: 11 Pages: 580

    • DOI

      10.1038/s41598-020-79806-w

    • Peer Reviewed / Open Access
  • [Journal Article] Analysis of Carrier Mobility in Amorphous Metal-Oxide Semiconductor Thin-Film Transistor using Hall Effect2020

    • Author(s)
      Imanishi Kota、Matsuda Tokiyoshi、Kimura Mutsumi
    • Journal Title

      IEEE Electron Device Letters

      Volume: 41 Pages: 1025~1028

    • DOI

      10.1109/LED.2020.2993268

    • Peer Reviewed
  • [Journal Article] Influence of characteristic variation of oxide semiconductor and comparison of the activation function in neuromorphic hardware2020

    • Author(s)
      Ikeda Hiroya、Yamane Hiroki、Takishita Yuta、Kimura Mutsumi、Nakashima Yasuhiko
    • Journal Title

      Nonlinear Theory and Its Applications, IEICE

      Volume: 11 Pages: 232~252

    • DOI

      10.1587/nolta.11.232

    • Peer Reviewed
  • [Presentation] GTO-TFT deposited using Mist-CVD2021

    • Author(s)
      Mutsumi Kimura, Yuta Takishita, Ryugo Okamoto, and Tokiyoshi Matsuda
    • Organizer
      ICDT 2021, May 2021, to be presented
    • Int'l Joint Research / Invited
  • [Presentation] 薄膜積層集積デバイスと局所自律学習によるニューロモーフィックシステム2021

    • Author(s)
      木村 睦, 中島 康彦
    • Organizer
      第68回応用物理学会春季学術講演会 シンポジウム 「AI/IoT時代を支えるポストムーアパラダイムへの挑戦」, 18p-Z06-7, 100000001-232, pp. 2021年3月
    • Invited
  • [Presentation] 薄膜デバイスを用いたニューロモーフィックシステム -有機デバイスの可能性-2020

    • Author(s)
      木村 睦
    • Organizer
      高分子学会 有機エレクトロニクス研究会, 2020年12月
    • Invited
  • [Presentation] GTO TFT, Memristor, Thermoelectric Device, Neuromorphic System, etc.2020

    • Author(s)
      Mutsumi Kimura, Tokiyoshi Matsuda, Sumio Sugisaki, Ayata Kurasaki, and Isao Horiuchi
    • Organizer
      ICDT 2020, Oct. 2020
    • Int'l Joint Research / Invited
  • [Presentation] Image Recognition Using Oxide Semiconductor Crossbar Memristors with Implementation of Slit Detection and Local Autonomous Learning2020

    • Author(s)
      Yuta Takishita, Mutsumi Kimura, and Yasuhiko Nakashima
    • Organizer
      IDW '20, pp. 973-976, Dec. 2020
    • Int'l Joint Research
  • [Presentation] Image Recognition by Implementation of Visual Cortex and Xbar Memristor2020

    • Author(s)
      Yuta Takishita, Mutsumi Kimura, and Yasuhiko Nakashima
    • Organizer
      2020 International Symposium on Nonlinear Theory and its Applications, NOLTA 2020, Nov. 2020
    • Int'l Joint Research
  • [Presentation] ニューロモルフィックデバイス用Ga-Sn-O 薄膜シナプス2020

    • Author(s)
      柴山 友輝, 大西 祐輝, 山川 大樹, 山根 弘樹, 中島 康彦, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第17回研究集会, pp. 129-131, 2020年11月
  • [Presentation] Ga-Sn-O 薄膜を用いた二層構造ReRAM の最適化2020

    • Author(s)
      倉崎 彩太, 橋本 快人, 角田 涼, 赤根 詩穂里, 牧岡 大輔, 杉崎 澄生, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第17回研究集会, pp. 126-128, 2020年11月
  • [Presentation] ミスト CVD 法を用いた Gax-Sn1-x-O/Ga-Ox 薄膜デバイスのメモリスタ特性2020

    • Author(s)
      杉崎 澄生, 倉﨑 彩太, 荒牧 達也, 松田 時宜, 木村 睦
    • Organizer
      薄膜材料デバイス研究会 第17回研究集会, pp. 59-62, 2020年11月
  • [Presentation] Ga-Sn-O Thin Film Synapse for Neuromorphic Device2020

    • Author(s)
      Yuki Shibayama, Yuki Ohnishi, Daiki Yamakawa, Hiroki Yamane, Yasuhiko Nakashima, and Mutsumi Kimura
    • Organizer
      AM-FPD '20, P-3, Sep. 2020
    • Int'l Joint Research
  • [Presentation] Primary Visual Cortex inspired Feature Extraction Hardware Model2020

    • Author(s)
      Thi Diem Tran, Mutsumi Kimura, and Yasuhiko Nakashima
    • Organizer
      SigTelCom 2020, Aug. 2020, to be published
    • Int'l Joint Research
  • [Presentation] Cu2GeTe3を用いた相変化メモリ2020

    • Author(s)
      赤根 詩穂里, 堀内 功, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-13, pp. 50-53, 2020年12月
  • [Presentation] Ga-Sn-O薄膜を用いた二層構造ReRAMの最適化2020

    • Author(s)
      倉崎 彩太, 橋本 快斗, 角田 涼, 赤根 詩穂里, 牧岡 大輔, 杉崎 澄生, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-12, pp. 46-49, 2020年12月
  • [Presentation] IGZO薄膜シナプスを用いた脳型システム2020

    • Author(s)
      大西 祐輝, 柴山 友輝, 山川 大樹, 池田 裕哉, 中島 康彦, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-7, pp. 25-28, 2020年12月
  • [Presentation] STDP学習側を用いた酸化物半導体薄膜シナプス素子の検討2020

    • Author(s)
      片桐 徹也, 山川 大樹, 谷内田 健太, 森垣 和樹, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-6, pp. 21-24, 2020年12月
  • [Presentation] ニューラルネットワーク用強誘電体薄膜の誘電特性評価2020

    • Author(s)
      石崎 勇真, 梅村 浩輝, 松川 大毅, 木村 睦, 徳光 永輔, 羽賀 健一, 土井 利浩
    • Organizer
      電子情報通信学会, EID2020-5, pp. 17-20, 2020年12月
  • [Presentation] IGZO薄膜を利用したシナプス素子の積層クロスポイントメモリ2020

    • Author(s)
      岩城 江津子, 津野 拓海, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-4, pp. 13-16, 2020年12月
  • [Presentation] アモルファス酸化物半導体メモリスタの特性測定自動化とその効果2020

    • Author(s)
      角田 涼, 倉崎 彩太, 木村 睦
    • Organizer
      電子情報通信学会, EID2020-1, pp. 1-4, 2020年12月
  • [Presentation] 局所自律学習則を用いるリアルニューロモーフィックシステム - 局所自律学習則のバックプロパゲーションへの応用 -2020

    • Author(s)
      木村 睦, 中島 康彦
    • Organizer
      第81回応用物理学会秋季学術講演会, 9p-Z28-17, pp. 19-030, 2020年9月
  • [Patent(Industrial Property Rights)] 制御装置2021

    • Inventor(s)
      中島, 木村, 張
    • Industrial Property Rights Holder
      中島, 木村, 張
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2021-27859
  • [Patent(Industrial Property Rights)] ニューラルネットワーク2020

    • Inventor(s)
      木村, 小川, 宮前
    • Industrial Property Rights Holder
      木村, 小川, 宮前
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2020-197991
  • [Patent(Industrial Property Rights)] ニューロモーフィック装置及びニューロモーフィックシステム2020

    • Inventor(s)
      木村, 中島
    • Industrial Property Rights Holder
      木村, 中島
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2020-183082
  • [Patent(Industrial Property Rights)] 曖昧パターンマッチングのための回路構成方法2020

    • Inventor(s)
      中島, 木村, 張
    • Industrial Property Rights Holder
      中島, 木村, 張
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2020-091392

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi