kappaosyou https://blog.hatena.ne.jp/kappaosyou/ kappaosyou’s blog https://kappaosyou.hatenablog.com/ 特徴量の選択 過学習（バリアンスが高い)ときの対処としては、①データをさらに集める。②正則化を通じてペナルティを科す③単純なモデルを選択する④データの次元を減らすなどの対策がある。 複雑さに対するペナルティとしてのL1/L2 正則化 L2正則化により、複雑さを提言可能である L1正則化は以下の通り。 L2正則化に関する解説が正直よくわからない。。。特に、「正則化パラメータλの値が大きくなるほど、ペナルティを受けるコスト関数の成長が早くなり、L2の円は狭くなる。たとえば、正則化パラメータの値を無限大にむかって増やした場合、重み係数は実質的に０になる」の部分がわからない。。 L1正則化が、「ほとん… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fkappaosyou.hatenablog.com%2Fentry%2F2020%2F07%2F29%2F211656" title="本日のまとめ（データ前処理：特徴量の選択） - kappaosyou’s blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2020-07-29 21:16:56 rich https://kappaosyou.hatenablog.com/entry/2020/07/29/211656 1.0 100%