breakbee https://blog.hatena.ne.jp/breakbee/ old school magic https://breakbee.hatenablog.jp/ Python 機械学習 統計 概要 回帰モデルとは、与えられた入力を用いて目標変数を予測するモデルです。 回帰モデルでは過学習を防ぐため、誤差関数(二乗誤差関数など)に次の式で表される正則化項を加えて最小化します。この形の正則化項を用いる回帰をブリッジ回帰と呼びます。 特にの時をLasso回帰、の時をRidge回帰と呼びます。また、それぞれに用いられている正則加項をL1ノルム、L2ノルムと呼びます。L1ノルムとL2ノルムの特徴を簡単にまとめると次のようになります。 L1ノルムはパラメータの一部を完全に0にするため、モデルの推定と変数選択を同時に行うことができる 特に次元数>>データ数の状況で強力 L2ノルムは微… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbreakbee.hatenablog.jp%2Fentry%2F2015%2F03%2F08%2F041411" title="回帰モデルにおけるL1正則化とL2正則化の効果 - old school magic" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> http://chart.apis.google.com/chart?cht=tx&chl=%7Bw_0%7D Hatena Blog https://hatena.blog 2015-03-08 04:14:11 rich https://breakbee.hatenablog.jp/entry/2015/03/08/041411 1.0 100%