深層学習の普及が急速に進む中、その学習の高精度化、効率化、安定化等のために、活性化関数の構築に関する研究が進められている。本研究では、擬等角写像の技法と深層ニューラルネットワークに関する知見を融合することで、高精度かつ安定な深層学習に資する新しい活性化関数を構築することを目指した。研究成果として、確率的に変化するベルトラミ係数を持つ新しい活性化関数が得られた。構築した活性化関数は、複数のベンチマークデータセット上における基本的な深層ニューラルネットワークを用いた実験で、他のベースラインとした活性化関数と比較し高い性能を示した。
|