G検定模擬試験set1 - 未解答
CNN で行われる畳み込み演算の計算処理について考える.5×5 のサイズの画像に対して,3×3 のフィルタをパディング 1,ストライド 1 で適用した場合の出力の図のサイズを答えよ.
（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.
機械学習においては過学習を避けるために,訓練誤差ではなく汎化誤差を可能なかぎり小さくする手法である（ア）を用いることが多い.また複数のモデルの予測結果の平均を利用する（イ）がある.他にもディープニューラルネットワーク（DNN）に対しては,ランダムに一定の割合のノードを削除して学習を行う（ウ）が有効とされている.（ア）手法にはいくつかのパラメータをスパースにする（エ）などがある.
（イ）に最もよくあてはまる選択肢を 1 つ選べ.
画像生成とは,何もない状態,もしくはある入力値に応じて目標の画像を生成する技術である.今最も利用されている画像生成手法は,GAN という生成敵対ネットワークである.特に,あるランダムな数値の入力値をもとに画像生成を行う DC（ア）やある文章から画像を生成する Attention（ア）などが有名である.このネットワークは（イ）と（ウ）から構成されており,（イ）は（エ）を騙すような画像を出力し,（ウ）は（イ）から出力された画像と本物の画像とを分類するようにそれぞれ学習する.このように学習することで,（イ）は適切な画像を出力することが可能となる.
（解説あり）（イ）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークは高い表現力を持つ反面,過学習をしやすいという性質を持つため,それを改善させる方法が多数考案されている.例えば,学習の際に一部のノードを無効化する（ア）,一部の層の出力を正規化する（イ）,データの水増しをしてデータの不足を補う（ウ）,パラメータのノルムにペナルティを課す（エ）などがそれに当たる.
（イ）に最もよくあてはまる選択肢を 1 つ選べ.
教師なし学習の中で有名なものとして,未知の集合をいくつかの集まりに分類させる（ア）という学習方法と,正常な行為がどのようなものかを学習し,それと大きく異なるものを識別する（イ）がある.（ア）は特に（ウ）というアルゴリズムを使用して顧客の分類分けによる DM 配信やレコメンドを行うシステムなどに使用されている.（イ）は（エ）というアルゴリズムを基に,セキュリティシステムなどに使用されている.
（ア）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークで用いられる活性化関数について扱う.出力層の活性化関数には,回帰では（ア）が,多クラス分類では（イ）が一般的に利用されてきた.また中間層の活性化関数として,従来は（ウ）などが一般的に利用されてきた.しかし,これらの活性化関数を利用すると勾配消失問題が起きやすいという問題があったため,近年は,入力が 0 を超えていれば入力をそのまま出力に渡し,0 未満であれば出力を 0 とする（エ）や複数の線形関数の中での最大値を利用する（オ）などが利用されている.
2012 年に開催された一般物体認識のコンテスト ILSVRC（ImageNet Large Scale Visual Recognition Challenge）において,深い構造を持つ CNN が,従来手法の分類性能を大幅に上回って以来,ディープラーニングが画像認識に盛んに用いられるようになった.ディープラーニングの画像認識への応用先として正しい組み合わせを選択肢から 1 つ選べ.
（ウ）に最もよくあてはまる選択肢を 1 つ選べ.
確率的勾配法はディープラーニングにおいて最もよく知られる最適化アルゴリズムであり,いくつかの改善を加えたものが広く使われている.例えば,以前に適用した勾配の方向を現在のパラメータ更新にも影響させる（ア）という手法や,勾配を 2 乗した値を蓄積し,すでに大きく更新されたパラメータほど更新量（学習率）を小さくする（イ）や,（イ）における一度更新量が飽和した重みはもう更新されないという欠点を,指数移動平均を蓄積することにより解決した（ウ）などがある.
（イ）に最もよくあてはまる選択肢を 1 つ選べ.
畳み込みニューラルネットワークの（ア）のパラメータ数は（イ）と比較して極めて少ない.これは（ウ）によって（エ）ため,パラメータ数が減り,計算量が少なくなるためである.
（ウ）に最もよくあてはまる選択肢を 1 つ選べ.
活性化関数とは,ニューロンの出力に何らかの非線形な変数を加える関数である.単純パーセプトロンの出力層では（ア）が用いられ,ニューラルネットワークの中間層では,はじめ（イ）などの正規化の機能を持つ関数が好まれた.しかし現在では,誤差逆伝播で勾配が消失しやすいという問題から,中間層では勾配消失問題の影響を抑えられ,かつ簡単な（ウ）などが用いられている.また,出力層では出力の総和が 1 になるため確率的な解釈が可能になる（エ）がよく用いられる.
loading!!
