最終更新日:2023/07/13
(イ)に最もよくあてはまる選択肢を 1 つ選べ.
確率的勾配法はディープラーニングにおいて最もよく知られる最適化アルゴリズムであり,いくつかの改善を加えたものが広く使われている.例えば,以前に適用した勾配の方向を現在のパラメータ更新にも影響させる(ア)という手法や,勾配を 2 乗した値を蓄積し,すでに大きく更新されたパラメータほど更新量(学習率)を小さくする(イ)や,(イ)における一度更新量が飽和した重みはもう更新されないという欠点を,指数移動平均を蓄積することにより解決した(ウ)などがある.
編集履歴(0)