| 研究課題/領域番号 |
18K11230
|
|---|
| 研究機関 | 福岡工業大学 |
|---|
研究代表者 |
山内 寛行 福岡工業大学, 情報工学部, 教授 (70425239)
|
|---|
| 研究期間 (年度) |
2018-04-01 – 2021-03-31
|
| キーワード | 入出力セル型 / スケーリング / ミックスドシグナル機械学習 / 機械学習器 / SRAM機械学習器 / 多ビット重み |
|---|
| 研究実績の概要 |
本研究は、ＡＩのための機械学習に必要な「特徴ベクトル×重みパラメータ」の積和演算処理に伴うエネルギーの削減を目指すもので、特に、エネルギー消費の根源であるデータ移動を削減するためのメモリ内での機械学習器に焦点を当てている。そのためにメモリ内で処理が完結できるように可能な限り少ないビット数の表現で精度の劣化を抑制する技術に関するものである。具体的には、「どこでもAIのための省電力化」が直面する以下の課題解決をすることである：（１）上記計算処理をメモリ内ビット線上でアナログ計算する時のマージン。（２）特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化。（３）重みを多ビット化するには複数セルが必要になり面積が増加する。（４）表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する。当該年度では、上記課題を以下の方法で解決する技術を開発した。（１）メモリセルを入出力分離が可能な８Ｔセルに変更することで、出力であるビット線をお互いに短絡でき、２～５ビットの場合の６Ｔセル比での面積削減量を定量化した。（２）入力やアクティベーション情報の表現値として、電圧方向にアナログ的に多ビットするのでなく時間軸方向に多ビット化する事の有効性を検証した。（３）ビットシフトと時分割処理の組み合わせで多ビット情報を扱うことの有効性の検証を開始し、同一コラムやロウ方向毎の処理制限を開放する可能性を見極めている（４）アンサンブル学習による面積、電力オーバーヘッドの問題を解決するためのパラメータ値の表現ビット量子化技術の研究として、空間的領域制限、絶対値分布値の領域制限を、同一コラムやロウ方向毎ではなく、ランダムな空間での制限方式の有効性を検証開始した。
|
| 現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
当該年度の目標は、（１）上記計算処理をメモリ内ビット線上でアナログ計算する時のマージン。（２）特徴ベクトルをワード線の電圧振幅で多ビットするとマージンが劣化。（３）重みを多ビット化するには複数セルが必要になり面積が増加する。（４）表現ビット数を削減することが必要であるが表現誤差に伴う学習の不安定性や精度の劣化が発生する。当該年度では、上記課題を以下の方法で解決する技術を開発することであった。（１）メモリセルを入出力分離が可能な８Ｔセルに変更することで、出力であるビット線をお互いに短絡でき、２～５ビットの場合の６Ｔセル比での面積削減量を定量化した。（２）入力やアクティベーション情報の表現値として、電圧方向にアナログ的に多ビットするのでなく時間軸方向に多ビット化する事の有効性を検証した。（３）ビットシフトと時分割処理の組み合わせで多ビット情報を扱うことの有効性の検証を開始し、同一コラムやロウ方向毎の処理制限を開放する可能性を見極めを計画通り開始した（４）アンサンブル学習による面積、電力オーバーヘッドの問題を解決するためのパラメータ値の表現ビット量子化技術の研究として、空間的領域制限、絶対値分布値の領域制限を、同一コラムやロウ方向毎ではなく、ランダムな空間での制限方式の有効性を計画通り検証開始した。
以上のように、当初想定していた以外の方法でも目的を達成することの可能性が見えてきたので、その点にも今後注力できるような状態である。
|
| 今後の研究の推進方策 |
SRAMを用いたTEGの設計・試作・基本評価について
ファンドリーを利用して8T,7T－SRAMのTEG設計・試作・テスター評価を経験してきた共同先と実施する予定であったが、共同先が実施している別の国際的な他部署との開発プロジェクトから提案され試作まで完了し学会発表される見通しが出てきたので、先に発表されたアイデアよりも異なり性能も優れたアイデアを考案していく方向で共同開発をすることを決定した。来年度は、その点を考慮し、。（１）ビットシフトと時分割処理の組み合わせで多ビット情報を扱うことの有効性の検証を開始し、同一コラムやロウ方向毎の処理制限を開放する可能性を見極めを完了（２）アンサンブル学習による面積、電力オーバーヘッドの問題を解決するためのパラメータ値の表現ビット量子化技術の研究として、空間的領域制限、絶対値分布値の領域制限を、同一コラムやロウ方向毎ではなく、ランダムな空間での制限方式の有効性を計画通り検証完了。（３）上記、（１）、（２）の新規性を持つアイデアを学会発表、知財化するための研究を実施する予定である。今までは大きな学会でしか動向を注視していなかったがアジアや欧州、南米にも広げて動向調査を強化する。
|
| 次年度使用額が生じた理由 |
COVID2019の影響で、学会がオンラインに変更になり旅費が不要になったためと、開催時期が翌年に延期になったため。
|
