出典：公益社団法人 日本技術士会「技術士第一次試験 過去問題」
ディープラーニングにおいて過学習を抑制するために使われる方法として、最も不適切なもの(パラメータを大量に持ち表現力の高いモデルに変更する)を選ぶ問題。
過学習の抑制方法に含まれないものを選ぶ問題。
① 過学習=訓練データに合わせすぎて未知のデータで性能が落ちること。対策=正則化(Weight decay)、Dropout、データを増やす、早期終了、モデルを単純にする
② ②「パラメータを増やし表現力を上げる」は過学習を起こしやすくする方向
③ ②
過学習は、訓練データに過度に適合して、未知のデータ(テストデータ)に対する性能が低下する現象である。パラメータを大量に持ち、表現力の高いモデルに変更すると、訓練データの雑音まで学習しやすくなり、かえって過学習が起きやすくなる。したがって、過学習の抑制のために不適切なのは②である。
過学習対策: 訓練データを増やす(データ拡張)、モデルを単純にする、正則化(Weight decay)、Dropout、早期終了、交差検証。
キーワード: 過学習、正則化、Weight decay、Dropout、早期終了、ディープラーニング、情報工学部門
同じ問題が計2回出題されています(令和元年度、令和4年度)。