HTN20190109 https://blog.hatena.ne.jp/HTN20190109/ HTN20190109の日記 https://htn20190109.hatenablog.com/ DL 1. バッチ正規化各チャネルごとに、ミニバッチ内の全データを用いて計算を行う適用例:線形層, 畳み込み層利点:学習の進行が早くなる初期値への依存度が低くなる過学習を抑制する欠点:ミニバッチ合図が小さい場合、適切に機能しない系列データへの対応が難しい 2. レイヤー正規化一つのデータに対して全チャネルを用いて計算を行う適用例:RNN, トランスフォーマー利点:系列データのような時間ステップごとに異なる統計量を必要な場合に対応可能欠点:各チャネルの部分的な情報を保持しにくい 3. インスタンス正規化一つのデータと一つのチャネルを用いて計算を行う適用例:画像のスタイル変換 4. グループ正規化一つの… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fhtn20190109.hatenablog.com%2Fentry%2F2025%2F11%2F22%2F121157" title="正規化 - HTN20190109の日記" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-11-22 12:11:57 rich https://htn20190109.hatenablog.com/entry/2025/11/22/121157 1.0 100%