• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2018 年度 実施状況報告書

どこでもAIに向けた省電力SRAMセルアレイ多bit重みベクトル機械学習識別器

研究課題

研究課題/領域番号 18K11230
研究機関福岡工業大学

研究代表者

山内 寛行  福岡工業大学, 情報工学部, 教授 (70425239)

研究期間 (年度) 2018-04-01 – 2021-03-31
キーワード入出力セル型 / スケーリング / ミックスドシグナル機械学習
研究実績の概要

本研究の目的は、AIに必要な「特徴ベクトル×重みパラメータ」計算処理に伴う電力の削減に関するものであり、どこでもAIのための省電力化が直面する以下の課題解決をすることである。(1)上記計算処理をメモリ内ビット線上でアナログ計算する時のマージン。(2)特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化。(3)重みを多ビット化するには複数セルが必要になり面積が増加する。(4)表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する。当該年度では、上記課題を以下の方法で解決する技術を開発した。(1)メモリセルを6Tセルではなく入出力分離が可能な8Tセルに変更することで、出力であるビット線をお互いに短絡でき、2ビットの場合には6Tセルよりもむしろ小さくなることをことを発見した。(2)又、各セルのビット線はセルの記憶状態の安定性に影響を与えないので短絡可能である、時間軸に多ビット化する事が可能でワード線の電圧レベルの変調を回避できる。(3)重みの正負符号を8Tセルの85%以上の面積を占有する6Tセルに相当する部分に記憶する。ベクトルの長さに相当する部分を残り15%しか占有しない2Tセルで表現する。15%のうち半分がトランジスタのチャンネル幅とすると、実質7%の部分がNビット倍されるだけで実現できる。例え8ビットにしても全体は49%の増加に抑制できる。6Tセルに比較して、20%以下の面積で実現できる。(4)単純にサイン符号器で(+1,-1)で2値かせずに、他が提案しているスケーリング、バッチノーマリゼーションの技術以外に、特徴ベクトル方向毎のスケーリングを提案し、従来のスケーリングで課題だった小さな値が丸められる問題を解決できた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

当該年度の目標は、1)上記計算処理をメモリ内ビット線上でアナログ計算する時のマージンの問題を、メモリセルを6Tセルではなく入出力分離が可能な8Tセルに変更することで、出力であるビット線をお互いに短絡でき、2ビットの場合には6Tセルよりもむしろ小さくなることをことで解決した。(2)特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化に対しても、各セルのビット線はセルの記憶状態の安定性に影響を与えないので短絡可能である、時間軸に多ビット化する事が可能でワード線の電圧レベルの変調を回避できることを明らかにできた。(3)重みを多ビット化するには複数セルが必要になり面積が増加する課題に対して、重みの正負符号を8Tセルの85%以上の面積を占有する6Tセルに相当する部分に記憶する。ベクトルの長さに相当する部分を残り15%しか占有しない2Tセルで表現する。15%のうち半分がトランジスタのチャンネル幅とすると、実質7%の部分がNビット倍されるだけで実現できる。例え8ビットにしても全体は49%の増加に抑制できる。6Tセルに比較して、20%以下の面積で実現できることを明らかにした。(4)表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する課題に対して、単純にサイン符号器で(+1,-1)で2値かせずに、他が提案しているスケーリング、バッチノーマリゼーションの技術以外に、特徴ベクトル方向毎のスケーリングを提案し、従来のスケーリングで課題だった小さな値が丸められる問題を解決できた。

今後の研究の推進方策

(1)SRAMを用いたTEGの設計・試作・基本評価について
ファンドリーを利用して8T,7T-SRAMのTEG設計・試作・テスター評価を経験してきた共同先と実施する予定であった。現状を踏まえ、既に設計したSRAM設計資産を本研究用に修正するのに必要な設計工数、ファンドリーでの試作スケジュールの再確認が必要。TEG設計、特にレイアウト実施時に生まれるアイデアも含めて論文発表、知財申請をしていく予定であった。しかし、類似アイデアが国際的な他部署から提案され学会発表されたことが判明した。当初は当該年度の技術をTEGする予定であったが、先に発表されたアイデアよりも異なり性能も優れたアイデアを考案する必要が出てきた。来年度は、その点を考慮し少なくとも半年はTEG化の計画をシフトし、新規性を持つアイデアを考案し検証することにする予定である。今までは大きな学会でしか動向を注視していなかったがアジアや欧州、南米にも広げて動向調査を強化する。

次年度使用額が生じた理由

増設メモリ、HDD交換、電源交換が、計算機の連続稼働の影響や別の目的で用意していた計算機が使用できることになり緊急性がなくなったためで実施されなかった。物品費として計上していた予算が執行されていないなどが理由で差が生じた。さらに、学会調査や論文調査による他の動きをさらに詳細に探る必要性が生じたのでその金額を次年度に活用する。

  • 研究成果

    (7件)

すべて 2019 2018

すべて 雑誌論文 (4件) (うち国際共著 3件、 査読あり 4件、 オープンアクセス 3件) 学会発表 (3件) (うち国際学会 2件、 招待講演 2件)

  • [雑誌論文] A Column Reduction Technique for an In-Memory Machine-Learning Classifier2018

    • 著者名/発表者名
      Jiazhen Xi and Hiroyuki Yamauchi
    • 雑誌名

      International Journal of Machine Learning and Computing

      巻: 8 ページ: 127-132

    • DOI

      10.18178/ijmlc.2018.8.2.675

    • 査読あり / オープンアクセス
  • [雑誌論文] A Segmentation Kernel Fitting Technique to Circumvent Extreme Deviation from Exponentially Descent Tail Distribution2018

    • 著者名/発表者名
      Worawit Somha and Hiroyuki Yamauchi
    • 雑誌名

      International Journal of Electrical and Electronic Engineering & Telecommunications (IJEEET)

      巻: 7 ページ: 114-118

    • DOI

      10.18178/ijeetc.7.3.114-118

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] A Dual-Split-Controlled 4P2N 6T SRAM in Monolithic 3D-ICs with Enhanced Read Speed and Cell Stability for IoT Applications2018

    • 著者名/発表者名
      Wei-Hao Chen, Hiroyuki Yamauchi, Meng-Fan Chang and wt.al,
    • 雑誌名

      IEEE Electron Device Letters (EDL)

      巻: 39 ページ: 1167-1170

    • DOI

      10.1109/LED.2018.2850322

    • 査読あり / 国際共著
  • [雑誌論文] An Error Reduction Technique in Richardson-Lucy Deconvolution Method2018

    • 著者名/発表者名
      Hiroyuki Yamauchi, Worawit Somha
    • 雑誌名

      IOP Conf. Series: Journal of Physics: Conf. Series

      巻: 1047 ページ: 1-13

    • DOI

      0.1088/1742-6596/1047/1/012017

    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Approximately Quantizing Algorithm for In-memory Machine Learning Classifier2019

    • 著者名/発表者名
      カテイ セキ, 鶴 隆介, 山内寛行
    • 学会等名
      第17回情報科学技術フォーラム FIT2018
  • [学会発表] A Deconvolution Error Avoidance Technique for Iterative Expectation Maximization Algorithm2019

    • 著者名/発表者名
      Hiroyuki Yamauchi
    • 学会等名
      International Conference on Computer Science and Engineering (ICCSE2019)
    • 国際学会 / 招待講演
  • [学会発表] A Power Saving Techniques for Machine Learning Edge Computing: Toward an Era of AI Everywhere2019

    • 著者名/発表者名
      Hiroyuki Yamauchi
    • 学会等名
      The 2nd International Conference on Electronics, Communications and Control Engineering (ICECC2019)
    • 国際学会 / 招待講演

URL: 

公開日: 2019-12-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi