研究課題/領域番号 |
18K11230
|
研究機関 | 福岡工業大学 |
研究代表者 |
山内 寛行 福岡工業大学, 情報工学部, 教授 (70425239)
|
研究期間 (年度) |
2018-04-01 – 2021-03-31
|
キーワード | 入出力セル型 / スケーリング / ミックスドシグナル機械学習 |
研究実績の概要 |
本研究の目的は、AIに必要な「特徴ベクトル×重みパラメータ」計算処理に伴う電力の削減に関するものであり、どこでもAIのための省電力化が直面する以下の課題解決をすることである。(1)上記計算処理をメモリ内ビット線上でアナログ計算する時のマージン。(2)特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化。(3)重みを多ビット化するには複数セルが必要になり面積が増加する。(4)表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する。当該年度では、上記課題を以下の方法で解決する技術を開発した。(1)メモリセルを6Tセルではなく入出力分離が可能な8Tセルに変更することで、出力であるビット線をお互いに短絡でき、2ビットの場合には6Tセルよりもむしろ小さくなることをことを発見した。(2)又、各セルのビット線はセルの記憶状態の安定性に影響を与えないので短絡可能である、時間軸に多ビット化する事が可能でワード線の電圧レベルの変調を回避できる。(3)重みの正負符号を8Tセルの85%以上の面積を占有する6Tセルに相当する部分に記憶する。ベクトルの長さに相当する部分を残り15%しか占有しない2Tセルで表現する。15%のうち半分がトランジスタのチャンネル幅とすると、実質7%の部分がNビット倍されるだけで実現できる。例え8ビットにしても全体は49%の増加に抑制できる。6Tセルに比較して、20%以下の面積で実現できる。(4)単純にサイン符号器で(+1,-1)で2値かせずに、他が提案しているスケーリング、バッチノーマリゼーションの技術以外に、特徴ベクトル方向毎のスケーリングを提案し、従来のスケーリングで課題だった小さな値が丸められる問題を解決できた。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当該年度の目標は、1)上記計算処理をメモリ内ビット線上でアナログ計算する時のマージンの問題を、メモリセルを6Tセルではなく入出力分離が可能な8Tセルに変更することで、出力であるビット線をお互いに短絡でき、2ビットの場合には6Tセルよりもむしろ小さくなることをことで解決した。(2)特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化に対しても、各セルのビット線はセルの記憶状態の安定性に影響を与えないので短絡可能である、時間軸に多ビット化する事が可能でワード線の電圧レベルの変調を回避できることを明らかにできた。(3)重みを多ビット化するには複数セルが必要になり面積が増加する課題に対して、重みの正負符号を8Tセルの85%以上の面積を占有する6Tセルに相当する部分に記憶する。ベクトルの長さに相当する部分を残り15%しか占有しない2Tセルで表現する。15%のうち半分がトランジスタのチャンネル幅とすると、実質7%の部分がNビット倍されるだけで実現できる。例え8ビットにしても全体は49%の増加に抑制できる。6Tセルに比較して、20%以下の面積で実現できることを明らかにした。(4)表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する課題に対して、単純にサイン符号器で(+1,-1)で2値かせずに、他が提案しているスケーリング、バッチノーマリゼーションの技術以外に、特徴ベクトル方向毎のスケーリングを提案し、従来のスケーリングで課題だった小さな値が丸められる問題を解決できた。
|
今後の研究の推進方策 |
(1)SRAMを用いたTEGの設計・試作・基本評価について ファンドリーを利用して8T,7T-SRAMのTEG設計・試作・テスター評価を経験してきた共同先と実施する予定であった。現状を踏まえ、既に設計したSRAM設計資産を本研究用に修正するのに必要な設計工数、ファンドリーでの試作スケジュールの再確認が必要。TEG設計、特にレイアウト実施時に生まれるアイデアも含めて論文発表、知財申請をしていく予定であった。しかし、類似アイデアが国際的な他部署から提案され学会発表されたことが判明した。当初は当該年度の技術をTEGする予定であったが、先に発表されたアイデアよりも異なり性能も優れたアイデアを考案する必要が出てきた。来年度は、その点を考慮し少なくとも半年はTEG化の計画をシフトし、新規性を持つアイデアを考案し検証することにする予定である。今までは大きな学会でしか動向を注視していなかったがアジアや欧州、南米にも広げて動向調査を強化する。
|
次年度使用額が生じた理由 |
増設メモリ、HDD交換、電源交換が、計算機の連続稼働の影響や別の目的で用意していた計算機が使用できることになり緊急性がなくなったためで実施されなかった。物品費として計上していた予算が執行されていないなどが理由で差が生じた。さらに、学会調査や論文調査による他の動きをさらに詳細に探る必要性が生じたのでその金額を次年度に活用する。
|