オンチップ学習回路装備・完全電圧モード動作ニューラルネットワークLSIの試作研究

1993 年度 実績報告書

• 研究課題/領域番号: 05505003
• 研究機関: 東北大学
• 研究代表者: 柴田 直 東北大学, 工学部, 助教授 (00187402)
• 研究分担者: 森田 瑞穂 東北大学, 大学院・情報科学研究科, 助教授 (50157905) ; 大見 忠弘 東北大学, 工学部, 教授 (20016463)
• キーワード: ニューラルネットワーク / ニューロンMOSトランジスタ / 自己学習 / シナプス / フローティングゲート / ハードウェア学習アルゴリズム

研究概要

ニューラルネットワークのハードウェアに、自己学習機能を付与する際に鍵となる、最も重要なのがシナプス回路である。本年度の研究における最大の成果は、理想的な特性を持つ新しいシナプス回路を考案し、実際の試作によりその特性を確かめたこと、さらに、このシナプス回路を組み込んだ自己学習回路の動作に関し、テスト回路の試作並びにシミュレーションにより最適化を行い、これにより、次年度に試作する自己学習ニューラルネットワークLSI設計に関する基本的な方針を確立したことにある。
シナプスとは、ニューロン間の結合の強度(加重値)を決める素子で、ネットワークが望ましい応答をするように、加重値を適宜変更・修正する過程が学習であるといわれる。これまで我々は、2個のνMOSと4個の通常のMOSを用いた6トランジスタのシナプスセルを提案し、「定常消費電力ゼロ」、「5V単一電源で正と負の両極性加重値の表現可」、「ハードウェア自己学習対応」という優れた特性が得られることを示してきた。しかしながら、加重値の更新に関し、重大な問題があった。これは、フローティングゲートメモリを応用するシナプスの基本的な問題で、その解決には、世界で多くの研究者がとりくんでいるが、いずれも本質的な解決には至っていない。本研究では、従来の6トランジスタセルにたった1つのMOSトランジスタをつけ加えることで、これを見事に解決した。つまり、フローティングにすでに蓄積されている電荷を回路のソースフォロワ動作で読み出し、その値をトンネルゲート部にフィードバックすることにより、フローティングゲート中の電荷量と無関係に、加重値を常に一定量だけ更新できるようにできたのである。これにより、学習に際してのネットワークの収束性が飛躍的に改善された。さらに新しく開発したハードウェア自己学習に特化した学習アルゴリズムも、様々な問題に対し、従来のバックプロパゲーションアルゴリズムよりも優れていることが分かり、自己学習ニューラルネットワーク実現の基礎が確立された。

研究成果

• [文献書誌] H.Ishii: "Hardware-learning neural network LSI using a highly functional transistor simulating neuron actions" Proc.International Joint Conference on Neural Networks '93,Nagoya. 907-910 (1993)
• [文献書誌] H.Kosaka: "An excellent weight-updating-linearity synapse memory cell for self-learning neuron MOS neural networks" International Electron Devices meeting(IEDM)Technical Digest. 623-626 (1993)
• [文献書誌] T.Shibata: "Implementing Intelligence on Silicon using Neuron-like functional MOS transistors" Proc.7th Conference on Neural Information Processing Systems:Natural and Synthetic,(NIPS'93). (1994)
• [文献書誌] H.Ishii: "An experimental neuron MOS neural network chip featuring on-chip self-learning circuitry and low-power synapse cells" Proc.International Conference on Advanced Microelectronic Devices and Processing. 641-646 (1994)
• [文献書誌] T.Shibata: "Hardware Implementation of Intelligence on silicon using four-terminal devices" Proc.International Conference on Advanced Microelectronic Devices and Processing. 743-750 (1994)
• [文献書誌] T.Ohmi: "The concept of four-terminal-device and its significance in the implementation of intelligent electronic circuits" IEICE Transactions in Electronics. (印刷中). (1994)